Aller au contenu principal
remarque
Cette page a été traduite de l'original allemand, en partie par une machine. Certaines formulations peuvent être maladroites ou inexactes. En cas de doute, veuillez consulter l'original.

Désinformation, fausses nouvelles et faux générés par l'IA

Sur la page consacrée au flot d'informations, nous avons distingué la mésinformation, la désinformation et la malinformation. Nous examinons ici de plus près la variante ciblée, ainsi qu'une nouvelle déclinaison qui complique tout : les contenus produits par des machines.

La désinformation ciblée​

La désinformation est inventée ou déformée et diffusée de manière intentionnelle. Elle poursuit un but : gagner de l'argent, influencer des élections, discréditer un groupe, détruire la confiance. Outils typiques :

  • Des sources inventées ou détournées : des sites web et des comptes qui imitent des médias sérieux (noms, logos, mises en page similaires).
  • Des contenus authentiques sortis de leur contexte : une vieille photo présentée comme un événement prétendument récent.
  • Une diffusion coordonnée : des réseaux de comptes réels et automatisés (bots) qui font paraître artificiellement important un contenu.

La désinformation d'État​

Les États aussi pratiquent la désinformation. L'UE documente les campagnes pro-russes dans sa base de données EUvsDisinfo (East StratCom Task Force du Service européen pour l'action extérieure, depuis 2015), selon ses propres dires la plus grande collection publique de désinformation pro-Kremlin, avec plus de 13 000 cas documentés (euvsdisinfo.eu).

Exemple

Un récit documenté affirmait, sans la moindre preuve, que l'Ukraine construisait une « bombe sale » à Tchernobyl : une narration anxiogène et sans source (EEAS). Pour la mise en perspective : EUvsDisinfo est une source gouvernementale de l'UE qui a son propre point de vue, mais les cas particuliers peuvent être vérifiés grâce aux preuves d'origine mises en lien. Même une source officielle de vérification des faits se vérifie donc, elle aussi, de préférence latéralement.

Le nouveau palier : les contenus générés par l'IA​

L'intelligence artificielle produit aujourd'hui des textes, des images, des voix et des vidéos d'un réalisme trompeur. Les hypertrucages (deepfakes) sont des médias manipulés ou entièrement inventés, qui font dire ou faire à des personnes réelles des choses qui ne se sont jamais produites. La règle de base « une photo est une preuve » ne tient plus.

Exemple

Le 22 mai 2023, une image apparemment générée par IA d'une prétendue « explosion au Pentagone » s'est répandue sur Twitter/X, partagée notamment par des comptes vérifiés, dont un faux compte Bloomberg. L'indice boursier américain Dow Jones a brièvement reculé d'environ 80 points avant que tout ne s'avère être un faux. Des vérificateurs comme Nick Waters, de Bellingcat, ont démasqué l'image grâce à des artefacts typiques de l'IA : par exemple un lampadaire « flottant » et une clôture qui se fondait de façon non naturelle dans le trottoir (NPR). Un faux à la durée de vie de quelques minutes, mais aux conséquences bien réelles en Bourse.

Reconnaître les faux produits par l'IA​

Il n'existe pas de méthode fiable à 100 %, mais des indices révélateurs :

  • Des détails qui ne collent pas : des mains avec trop de doigts, du texte illisible sur des panneaux, des arrière-plans déformés, des objets « flottants » ou qui se fondent les uns dans les autres.
  • Une absence de confirmation : un événement dramatique dont il n'existe que cette seule image et sur lequel aucune source sérieuse ne rapporte rien est suspect.
  • Vérifier la source : qui l'a publié en premier ? Un compte authentique ou imité ?
  • Vérifier le contexte : la recherche d'image inversée montre souvent qu'une image est ancienne ou provient d'ailleurs (voir les outils).

Une routine de vérification pour les affirmations virales​

Le News Literacy Project anime, avec RumorGuard, une plateforme pédagogique qui démasque les contenus faux devenus viraux. Elle enseigne cinq facteurs de vérification faciles à retenir (newslit.org) :

  1. L'authenticité : le contenu est-il authentique ou manipulé / généré par IA ?
  2. La source : provient-il d'une source crédible ?
  3. Les preuves : existe-t-il des éléments qui étayent l'affirmation ?
  4. Le contexte : le lieu et la date sont-ils exacts ?
  5. La cohérence : l'affirmation repose-t-elle sur un raisonnement solide ?
En bref

Pour les contenus viraux, la règle vaut doublement : d'abord vérifier, puis croire, et seulement ensuite partager. Plus c'est dramatique et émotionnel, plus la courte pause est importante.

L'IA facilite la falsification, mais les mêmes méthodes qui aident contre la désinformation classique (la lecture latérale, la vérification de la source, la recherche de l'original) fonctionnent aussi ici. La technique change, mais l'attitude fondamentale de vérification demeure.