Zum Hauptinhalt springen

Desinformation, Fake News und KI-Fälschungen

Auf der Seite zur Informationsflut haben wir Fehl-, Des- und Malinformation unterschieden. Hier schauen wir genauer auf die gezielte Variante, und auf eine neue Spielart, die alles schwieriger macht: von Maschinen erzeugte Inhalte.

Gezielte Desinformation​

Desinformation ist erfunden oder verdreht und wird mit Absicht gestreut. Sie verfolgt ein Ziel: Geld verdienen, Wahlen beeinflussen, eine Gruppe diskreditieren, Vertrauen zerstören. Typische Werkzeuge:

  • Erfundene oder gekaperte Quellen: Webseiten und Konten, die seriöse Medien nachahmen (ähnliche Namen, Logos, Layouts).
  • Aus dem Kontext gerissene echte Inhalte: ein altes Foto als angeblich aktuelles Ereignis.
  • Koordinierte Verbreitung: Netzwerke aus echten und automatisierten Konten (Bots), die einen Inhalt künstlich groß erscheinen lassen.

Staatliche Desinformation​

Auch Staaten betreiben Desinformation. Die EU dokumentiert pro-russische Kampagnen in ihrer Datenbank EUvsDisinfo (East StratCom Task Force des Europäischen Auswärtigen Dienstes, seit 2015), nach eigenen Angaben die größte öffentliche Sammlung pro-Kreml-Desinformation mit über 13.000 dokumentierten Fällen (euvsdisinfo.eu).

Beispiel

Ein dokumentiertes Narrativ behauptete ohne jeden Beleg, die Ukraine baue in Tschernobyl eine „schmutzige Bombe“, eine angstauslösende Erzählung ohne Quelle (EEAS). Zur Einordnung: EUvsDisinfo ist eine EU-Regierungsquelle mit eigenem Standpunkt, die Einzelfälle lassen sich aber über die verlinkten Original-Belege nachvollziehen. Auch eine staatliche Faktencheck-Quelle prüft man also am besten lateral.

Die neue Stufe: KI-generierte Inhalte​

Künstliche Intelligenz erzeugt heute Texte, Bilder, Stimmen und Videos, die täuschend echt wirken. Deepfakes sind manipulierte oder vollständig erfundene Medien, die reale Personen Dinge sagen oder tun lassen, die nie geschehen sind. Die Grundregel „ein Foto ist ein Beweis“ gilt nicht mehr.

Beispiel

Am 22. Mai 2023 verbreitete sich auf Twitter/X ein offenbar KI-generiertes Bild einer angeblichen „Explosion am Pentagon“, geteilt unter anderem von verifizierten Konten, darunter ein gefälschtes Bloomberg-Konto. Der US-Aktienindex Dow Jones gab kurzzeitig um rund 80 Punkte nach, bevor sich alles als Fälschung herausstellte. Verifizierer wie Nick Waters von Bellingcat entlarvten das Bild an typischen KI-Artefakten: etwa einem „schwebenden“ Laternenpfahl und einem Zaun, der unnatürlich in den Gehweg überging (NPR). Ein Fake mit wenigen Minuten Lebensdauer, aber mit realen Folgen an der Börse.

KI-Fälschungen erkennen​

Es gibt keine 100-%-Methode, aber verräterische Anzeichen:

  • Details, die nicht stimmen: Hände mit zu vielen Fingern, unlesbare Schrift auf Schildern, verzerrte Hintergründe, „schwebende“ oder ineinander übergehende Objekte.
  • Fehlende Bestätigung: Ein dramatisches Ereignis, über das nur dieses eine Bild existiert und keine seriöse Quelle berichtet, ist verdächtig.
  • Quelle prüfen: Wer hat es zuerst gepostet? Ein echtes oder ein nachgeahmtes Konto?
  • Kontext prüfen: Rückwärts-Bildersuche zeigt oft, dass ein Bild alt ist oder von woanders stammt (siehe Werkzeuge).

Eine Prüf-Routine für virale Behauptungen​

Das News Literacy Project betreibt mit RumorGuard eine Lernplattform, die virale Falschinhalte entlarvt. Es lehrt fünf Prüf-Faktoren, die sich gut merken lassen (newslit.org):

  1. Authentizität: Ist der Inhalt echt oder manipuliert/KI-erzeugt?
  2. Quelle: Stammt er von einer glaubwürdigen Quelle?
  3. Evidenz: Gibt es Belege, die die Behauptung stützen?
  4. Kontext: Stimmen Ort und Zeit?
  5. Schlüssigkeit: Beruht die Behauptung auf solider Schlussfolgerung?
Kurz

Bei viralen Inhalten gilt doppelt: erst prüfen, dann glauben, dann erst teilen. Je dramatischer und emotionaler, desto wichtiger der kurze Stopp.

KI macht das Fälschen leichter, aber dieselben Methoden, die gegen klassische Desinformation helfen (laterales Lesen, Quelle prüfen, Original suchen), wirken auch hier. Die Technik ändert sich, die Grundhaltung des Prüfens bleibt.