Promesses et dangers de l'IA
Ce que l'IA accomplit déjà aujourd'hui
Qui veut parler des dangers ne devrait pas minimiser les bénéfices. Ils sont considérables et, dans certains domaines, historiques.
Biologie et médecine. Un système de DeepMind prédit la structure tridimensionnelle des protéines, une tâche sur laquelle la recherche avait travaillé cinquante ans. Les structures de plus de 200 millions de protéines sont depuis accessibles publiquement et accélèrent la recherche de médicaments dans le monde entier.1 En imagerie, des systèmes détectent tumeurs et lésions de la rétine de façon assez fiable pour soulager les spécialistes.
Science et climat. Les modèles météorologiques fondés sur l'IA calculent des prévisions en minutes plutôt qu'en heures, ce qui améliore l'alerte précoce aux tempêtes et aux canicules. Dans la recherche sur les matériaux, l'IA passe en revue des millions de composés possibles à la recherche de candidats pour de meilleures batteries ou de meilleurs catalyseurs.
Participation et langue. La traduction automatique, le sous-titrage en temps réel, les fonctions de lecture à voix haute et les descriptions d'images ne sont pas un gadget pour les personnes ayant des difficultés de vue, d'audition ou de lecture : c'est un accès.
Quotidien et travail. Beaucoup de cela est peu spectaculaire : trier des factures, vérifier du code, rédiger des comptes rendus, fouiller des dossiers. C'est précisément cet allègement de la routine qui est l'effet que la plupart des gens ressentiront réellement.
Premier niveau : les dommages qui sont déjà là
La phrase « un grand pouvoir implique de grandes responsabilités » est le plus souvent rapportée à des scénarios lointains. Les problèmes les plus pressants sont présents.
Des décisions automatisées à l'allure d'autorité. Aux Pays-Bas, un système de risque de l'administration fiscale a classé à tort des milliers de familles comme fraudeuses aux allocations familiales, avec des demandes de remboursement ruineuses ; la double nationalité comptait parmi les critères de risque. Le gouvernement a démissionné pour cette raison en 2021.2 Ce n'est pas un dérapage, mais le schéma même : un modèle statistique énonce une probabilité, et l'administration la traite comme une preuve.
Des préjugés à l'aura mathématique. Les systèmes apprennent de décisions passées et en perpétuent les déséquilibres, mais désormais sous une forme contre laquelle il est plus difficile d'argumenter. Dans des études, la reconnaissance faciale a échoué bien plus souvent sur les femmes à la peau foncée que sur les hommes à la peau claire.3
L'espace informationnel. Des voix et des vidéos trompeuses de réalisme abaissent radicalement le coût de la fraude et de la diffamation. Le dommage secondaire, insidieux, est plus grand que le premier : si tout pouvait être truqué, alors tout enregistrement authentique peut aussi être écarté comme un faux.
Énergie et climat. Les centres de données ont consommé en 2024 environ 1,5 pour cent de l'électricité mondiale, avec une tendance nettement à la hausse du fait de l'IA.4 S'y ajoute l'eau de refroidissement, souvent dans des régions sèches. Le bénéfice peut le justifier, mais il devrait être justifié application par application, non de façon globale.
Le travail invisible. Pour qu'un système réponde poliment, des personnes ont d'abord dû visionner et étiqueter des représentations de violence et d'abus, fréquemment dans les pays du Sud et pour des salaires dérisoires.5
Nous désapprenons à penser. Qui délègue chaque formulation, chaque recherche et chaque calcul perd l'entraînement. Ce n'est pas du pessimisme culturel, mais le même effet qu'avec le GPS : le chemin est trouvé, le sens de l'orientation s'efface. La pensée critique est une aptitude, et les aptitudes s'atrophient faute d'usage.
Nous nous attachons aux machines. Les applications de compagnie et les agents conversationnels suscitent de vrais sentiments. Ils sont infiniment patients, toujours disponibles et contredisent rarement, parce qu'ils ont été entraînés à l'approbation. Pour des personnes seules, cela peut être un soutien. En même temps, cela habitue à une forme de relation sans frottement, et le vis-à-vis appartient à une entreprise qui peut à tout moment en changer le caractère ou l'éteindre.
Deuxième niveau : les risques catastrophiques
À côté de cela se tiennent des scénarios au dommage très grand et à la probabilité très incertaine. Ils méritent un examen sobre, ni raillerie ni panique. Le rapport international sur l'état des connaissances en matière de sûreté de l'IA les situe ainsi : plausibles, non établis, et fortement dépendants des mesures de protection prises.6
Les risques biologiques passent pour la préoccupation la plus sérieuse. Non parce qu'un modèle fabriquerait un agent pathogène, mais parce qu'il rend accessible un savoir spécialisé qui constituait jusqu'ici un obstacle. L'obstacle pratique reste le laboratoire, mais le savoir a toujours été le premier pas.
Les attaques contre les infrastructures. La détection automatisée de failles de sécurité démultiplie les attaques contre l'électricité, l'eau et les hôpitaux. Ici, l'usage abusif est déjà une réalité, seulement à plus petite échelle jusqu'à présent.
L'automatisation militaire. Le danger tient moins à des robots attaquants qu'aux chaînes d'alerte précoce et de décision dans lesquelles des personnes sous pression temporelle suivent la recommandation d'une machine. Historiquement, des individus ont empêché de fausses alertes nucléaires parce qu'ils se méfiaient de l'appareil. Cette possibilité doit être préservée.
L'enchevêtrement systémique. Quand de nombreux systèmes automatiques à la logique semblable réagissent en même temps, les erreurs peuvent s'amplifier en quelques secondes, comme les marchés financiers l'ont déjà connu.
Un point est frappant : dans chacun de ces cas, la catastrophe ne naît pas d'une machine dotée d'une volonté propre, mais d'êtres humains qui abandonnent le contrôle, et du couplage de systèmes sans frein.
Pourquoi la rhétorique de fin du monde nuit
Le discours de la fin inéluctable a trois effets secondaires désagréables. Il détourne l'attention des dommages actuels, qui ont des victimes concrètes et des responsables concrets. Il dépolitise, car ce qui apparaît comme une force de la nature n'appelle pas des lois, mais seulement de la déférence. Et il sert les fournisseurs, parce qu'un produit capable de mettre le monde en danger sonne du même coup comme irrésistiblement puissant.
Derrière chaque système d'IA se tiennent un exploitant, une commande et une personne qui l'a mis en marche.
À quoi vous pouvez vous tenir
- Demandez qui est compétent. Qui répond si le système se trompe ? Existe-t-il un être humain à qui s'adresser et une voie de recours ? Là où la réponse manque, ce n'est pas la technique qui pose problème.
- Séparez les niveaux. Consommation d'énergie, discrimination et risque biologique sont des problèmes différents appelant des remèdes différents. Qui les mélange devient incapable d'agir.
- Exigez des preuves plutôt que des adjectifs. « Révolutionnaire » et « existentiel » ne sont pas des affirmations. Mesuré à quoi, comparé à quoi ?
- Dosez la délégation. Utilisez ces outils là où vous pouvez juger le résultat, et gardez pour vous la réflexion à laquelle vous tenez.