Derrière chaque IA, il y a un contexte idéologique et des choix politiques
N'oubliez jamais que c’est avant tout des technologies numériques!
Derrière chaque écran, chaque application ou chaque intelligence artificielle, il y a une réalité que l’on oublie trop souvent : les technologies numériques ne sont pas des entités autonomes. Elles sont avant tout des outils conçus par des humains, dirigés par des humains et déployés en fonction des motivations, des objectifs et des idéologies propres à leurs créateurs.
C’est du code. Des lignes et des lignes d’instructions logiques écrites dans des langages créés pour traduire des pensées humaines en actions mécanisées. Ce code n’est pas neutre. Il est le produit de décisions prises par ceux qui le conçoivent, qui décident de ce qu’il doit faire et, peut-être plus important encore, de ce qu’il ne doit pas faire.
Cet article narratif explore ce qui se cache derrière nos technologies modernes, de leur conception à leur impact, et comment chaque décision technique est invariablement imprégnée des motivations et des croyances de ceux qui la prennent.
1 : Les fondements – Le code comme écriture humaine
Pour comprendre l’ampleur des choix que cachent nos technologies numériques, il est essentiel de revenir à la base : le code. Ce code, qu’il s’agisse de C++, Python, JavaScript ou d’autres langages, n’est qu’une traduction d’intentions humaines. Prenons l’exemple simple d’une application de réservation de taxis. Sur l’écran, l’utilisateur voit une interface fluide, colorée, intuitive. Mais ce qu’il ne voit pas, ce sont les centaines de milliers de lignes de code écrites derrière.
Chaque instruction est une décision. Qui décide de l’ordre des informations affichées ? Pourquoi telle fonctionnalité a été priorisée par rapport à une autre ? Pourquoi l’interface encourage-t-elle une action plutôt qu’une autre ? Ce sont des choix humains.
Le langage informatique est souvent perçu comme impartial, car il repose sur une logique rigide. Mais cette logique, elle-même, est déterminée par les programmateurs. Un algorithme de recherche peut prioriser certains contenus parce que les ingénieurs qui l’ont conçu ont jugé ces informations plus pertinentes, ou parce qu’elles sont plus rentables pour leur entreprise.
2 : Les motivations – Pourquoi ce code existe-t-il ?
Chaque ligne de code existe pour une raison. Rien n’est écrit par hasard. L’objectif d’une technologie numérique dépend des motivations de ses créateurs. Dans une startup, l’objectif premier peut être de résoudre un problème identifié. Par exemple, créer une application pour optimiser les livraisons de repas à domicile.
Mais pourquoi certaines fonctionnalités existent-elles alors que d’autres sont ignorées ?
- Motivations économiques : Certaines décisions sont guidées par la recherche de profit. Un algorithme publicitaire peut être conçu pour inciter les utilisateurs à cliquer davantage, quitte à manipuler leur attention.
- Motivations sociales ou éthiques : Certaines entreprises cherchent à maximiser leur impact positif. Mais ces motivations sont-elles sincères ou relèvent-elles du marketing ?
- Motivations idéologiques : Des technologies sont développées pour servir une vision du monde. Des algorithmes de modération de contenu, par exemple, reflètent une idée de ce qui est acceptable ou non dans la société.
Les motivations influencent tout, y compris les angles morts. Qu’une application favorise certains utilisateurs par rapport à d’autres n’est pas toujours un hasard : ce choix est une conséquence directe des objectifs établis par ses développeurs et dirigeants.
3 : Les biais – Quand l’humain imprime ses préjugés dans le numérique
Les technologies numériques sont souvent perçues comme neutres. Elles ne le sont pas. Les biais humains s’insinuent dans les lignes de code.
Prenons l’exemple des intelligences artificielles. Une IA dédiée à la reconnaissance faciale peut présenter des taux d’erreur élevés pour certaines populations. Pourquoi ? Parce que les données utilisées pour l’entraînement de l’IA sont souvent biaisées. Si les images fournies concernent majoritairement des individus d’une certaine origine, l’IA échoue à reconnaître les autres.
Ces biais ne sont pas toujours volontaires. Mais ils sont le reflet des choix faits en amont :
- Qui a collecté les données ?
- Quelles données ont été jugées pertinentes ?
- Qui a validé les tests finaux ?
Les algorithmes de recrutement automatisés sont un autre exemple éloquent. Certains logiciels ont été accusés de discriminer les femmes ou les minorités parce que les données historiques sur lesquelles ils se basaient réflétaient des inégalités préexistantes.
Ainsi, le code n’est pas qu’un outil technique : c’est aussi un miroir de notre société et de ses défauts.
4 : Les idéologies – Quand le code traduit une vision du monde
Derrère chaque technologie, il y a une vision. Certains développeurs adhèrent à l’idée d’une technologie libertaire, sans contrôle central. C’est l’esprit qui anime les défenseurs du logiciel libre ou de la blockchain. D’autres conçoivent des outils centralisés, argumentant qu’ils sont plus efficaces.
Ces idéologies se retrouvent dans les choix techniques :
- Une plateforme décentralisée valorise la transparence et l’absence d’intermédiaire.
- Une plateforme centralisée, à l’inverse, offre plus de contrôle à ceux qui la dirigent.
Dans les réseaux sociaux, ces visions s’affrontent constamment. Quels contenus sont censurés ? Quels comportements sont encouragés ? Ces choix reflètent les idéologies des dirigeants de ces plateformes.
Un code humain, trop humain
Les technologies numériques sont le résultat d’un processus humain. Ce processus est teinté de nos forces, de nos faiblesses, de nos biais et de nos croyances. Chaque fois que nous utilisons une application ou un service en ligne, nous interagissons avec des décisions prises par d’autres humains.
Ainsi, il est crucial de développer un regard critique sur ces technologies. Elles ne sont pas magiques. Elles sont créées, orientées et entretenues par des individus aux motivations multiples.
Comprendre cela, c’est reprendre un peu de pouvoir. Car derrière chaque ligne de code, il y a un choix humain, et derrière chaque choix, une conséquence.
