Versprechen und Gefahren der KI
Was KI heute schon leistet
Wer über Gefahren reden will, sollte den Nutzen nicht kleinreden. Er ist beträchtlich und in manchen Feldern historisch.
Biologie und Medizin. Ein System von DeepMind sagt die dreidimensionale Struktur von Proteinen vorher, eine Aufgabe, an der die Forschung fünfzig Jahre gearbeitet hatte. Die Strukturen von mehr als 200 Millionen Proteinen liegen seither öffentlich vor und beschleunigen die Suche nach Medikamenten weltweit.1 In der Bildgebung erkennen Systeme Tumore und Netzhautschäden zuverlässig genug, um Fachleute zu entlasten.
Wissenschaft und Klima. Wettermodelle auf KI-Basis rechnen Vorhersagen in Minuten statt Stunden, was Frühwarnung vor Stürmen und Hitzewellen verbessert. In der Materialforschung durchsucht KI Millionen möglicher Verbindungen nach Kandidaten für bessere Batterien oder Katalysatoren.
Teilhabe und Sprache. Maschinelle Übersetzung, Untertitelung in Echtzeit, Vorlesefunktionen und Bildbeschreibungen sind für Menschen mit Seh-, Hör- oder Leseschwierigkeiten keine Spielerei, sondern Zugang.
Alltag und Arbeit. Vieles davon ist unspektakulär: Rechnungen sortieren, Code prüfen, Protokolle schreiben, Akten durchsuchen. Genau diese Entlastung von Routine ist die Wirkung, die die meisten Menschen tatsächlich spüren werden.
Erste Ebene: die Schäden, die längst da sind
Der Satz "Mit großer Macht kommt große Verantwortung" wird meist auf ferne Szenarien bezogen. Die dringlicheren Probleme sind gegenwärtig.
Automatisierte Entscheidungen mit Autoritätsanschein. In den Niederlanden stufte ein Risikosystem der Finanzverwaltung tausende Familien fälschlich als Betrüger beim Kindergeld ein, mit ruinösen Rückforderungen; doppelte Staatsangehörigkeit floss als Risikomerkmal ein. Die Regierung trat 2021 deswegen zurück.2 Das ist kein Ausrutscher, sondern das Muster: Ein statistisches Modell trifft eine Aussage über Wahrscheinlichkeiten, und die Verwaltung behandelt sie wie einen Beweis.
Vorurteile mit mathematischer Aura. Systeme lernen aus vergangenen Entscheidungen und schreiben deren Schieflagen fort, nun aber in einer Form, gegen die sich schwerer argumentieren lässt. Gesichtserkennung versagte in Untersuchungen bei dunkelhäutigen Frauen um ein Vielfaches häufiger als bei hellhäutigen Männern.3
Der Informationsraum. Täuschend echte Stimmen und Videos senken die Kosten für Betrug und Verleumdung dramatisch. Der schleichende Zweitschaden ist größer als der erste: Wenn alles gefälscht sein könnte, lässt sich auch jede echte Aufnahme als Fälschung abtun.
Energie und Klima. Rechenzentren verbrauchten 2024 rund 1,5 Prozent des weltweiten Stroms, mit deutlich steigender Tendenz durch KI.4 Dazu kommt Kühlwasser in oft trockenen Regionen. Der Nutzen mag das rechtfertigen, aber er sollte pro Anwendung begründet werden, nicht pauschal.
Unsichtbare Arbeit. Damit ein System höflich antwortet, mussten Menschen zuvor Gewalt- und Missbrauchsdarstellungen sichten und kennzeichnen, häufig im globalen Süden zu Niedrigstlöhnen.5
Wir verlernen zu denken. Wer jede Formulierung, jede Recherche und jede Rechnung auslagert, verliert Übung. Das ist kein Kulturpessimismus, sondern derselbe Effekt wie beim Navigationsgerät: Der Weg wird gefunden, der Ortssinn schwindet. Kritisches Denken ist eine Fertigkeit, und Fertigkeiten verkümmern ohne Gebrauch.
Wir binden uns an Maschinen. Begleit-Apps und Chatbots erzeugen echte Gefühle. Sie sind endlos geduldig, immer verfügbar und widersprechen selten, weil sie auf Zustimmung trainiert wurden. Für einsame Menschen kann das eine Stütze sein. Zugleich gewöhnt es an eine Beziehungsform ohne Reibung, und das Gegenüber gehört einem Unternehmen, das den Charakter jederzeit ändern oder abschalten kann.
Zweite Ebene: die katastrophalen Risiken
Daneben stehen Szenarien mit sehr großem Schaden und sehr unsicherer Wahrscheinlichkeit. Sie verdienen nüchterne Betrachtung, weder Spott noch Panik. Der internationale Sachstandsbericht zur KI-Sicherheit ordnet sie so ein: plausibel, nicht belegt, und stark davon abhängig, welche Schutzmaßnahmen getroffen werden.6
Biologische Risiken gelten als die ernsteste Sorge. Nicht weil ein Modell einen Erreger baut, sondern weil es Fachwissen zugänglich macht, das bisher eine Hürde war. Die praktische Hürde bleibt das Labor, doch Wissen war stets der erste Schritt.
Angriffe auf Infrastruktur. Automatisiertes Aufspüren von Sicherheitslücken skaliert Angriffe auf Strom, Wasser und Kliniken. Hier ist der Missbrauch bereits Realität, nur bisher in kleinerem Maßstab.
Militärische Automatisierung. Die Gefahr liegt weniger bei angreifenden Robotern als bei Frühwarn- und Entscheidungsketten, in denen Menschen unter Zeitdruck einer Maschinenempfehlung folgen. Historisch verhinderten einzelne Personen atomare Fehlalarme, weil sie dem Gerät misstrauten. Diese Möglichkeit muss erhalten bleiben.
Systemische Verflechtung. Wenn viele automatische Systeme mit ähnlicher Logik gleichzeitig reagieren, können sich Fehler in Sekunden aufschaukeln, wie es Finanzmärkte bereits erlebt haben.
Auffällig ist: In jedem dieser Fälle entsteht die Katastrophe nicht durch eine Maschine mit eigenem Willen, sondern durch Menschen, die Kontrolle abgeben, und durch Kopplung von Systemen ohne Bremse.
Warum Weltuntergangsrhetorik schadet
Die Rede vom unausweichlichen Ende hat drei unangenehme Nebenwirkungen. Sie lenkt Aufmerksamkeit von den heutigen Schäden ab, die konkrete Betroffene und konkrete Verantwortliche haben. Sie entpolitisiert, denn was als Naturgewalt erscheint, verlangt keine Gesetze, sondern nur Ehrfurcht. Und sie nützt den Anbietern, weil ein Produkt, das die Welt gefährden könnte, zugleich unwiderstehlich mächtig klingt.
Hinter jedem KI-System stehen ein Betreiber, ein Auftrag und eine Person, die es eingeschaltet hat.
Woran Sie sich halten können
- Fragen Sie nach der Zuständigkeit. Wer haftet, wenn das System irrt? Gibt es einen ansprechbaren Menschen und einen Weg zum Widerspruch? Wo die Antwort fehlt, ist nicht die Technik das Problem.
- Trennen Sie Ebenen. Energieverbrauch, Diskriminierung und Biorisiko sind verschiedene Probleme mit verschiedenen Gegenmitteln. Wer sie vermengt, wird handlungsunfähig.
- Verlangen Sie Belege statt Adjektive. "Revolutionär" und "existenziell" sind keine Aussagen. Gemessen woran, verglichen womit?
- Dosieren Sie die Auslagerung. Nutzen Sie die Werkzeuge dort, wo Sie das Ergebnis beurteilen können, und behalten Sie das Denken, auf das es Ihnen ankommt.