Ein sachlicher Blick auf die Gefahren von KI

Die aktuelle öffentliche Debatte über die Gefahren der KI ist erkennbar von Science-Fiction geprägt. Kinofilme wie „2001: Odyssee im Weltraum“ oder „Terminator“ erzählen seit Jahrzehnten von Maschinen, die ein Bewusstsein entwickeln und sich gegen ihre Erbauer wenden. In der Berichterstattung und in Diskussionen auf Social Media kehren diese Bilder wieder und überschatten dann nüchternere Einordnungen. Fakt ist: Die Prognose, KI werde die Menschheit ausrotten, lässt sich genauso wenig belegen wie die Annahme, sie werde alle unsere Arbeitsplätze vernichten. Demgegenüber gibt es andere Gefahren, die schon heute unseren Alltag berühren.

Eine nüchterne Bestandsaufnahme bietet der International AI Safety Report 2026, für den unter Leitung des Turing-Preisträgers Yoshua Bengio mehr als 100 Fachleute aus über 30 Ländern den Forschungsstand ausgewertet haben, ohne daraus politische Empfehlungen abzuleiten. Meine Infografik lehnt sich an ihn an. Sie sortiert die Risiken danach, ob sie akut sind, sich schleichend entfalten oder ins Kino gehören.

Akute Gefahren

Akut sind vor allem Schäden durch Missbrauch. Deepfakes sind billig herzustellen und mittlerweile technisch so ausgereift, dass sie sich kaum noch erkennen lassen. Dem Report zufolge sind 96 Prozent der Deepfake-Videos im Netz pornografisch, betroffen sind überwiegend Frauen und Mädchen, und solche Bilder entstehen längst auch in Klassenchats. Kriminelle nutzen KI außerdem, um Sicherheitslücken zu finden und Schadcode zu schreiben.

Schwerer einzuschätzen ist die Gefahr durch biologische und chemische Waffen. In einer im Report zitierten Studie übertraf ein aktuelles Modell 94 Prozent der Fachleute bei der Fehlersuche in virologischen Laborprotokollen. Ob das Terroristen tatsächlich näher an eine Waffe bringt, ist offen, weil zwischen Wissen und Herstellung hohe praktische Hürden liegen. Mehrere Anbieter haben ihre Modelle 2025 trotzdem mit zusätzlichen Schutzmechanismen veröffentlicht, weil sie nicht ausschließen konnten, dass diese Laien beim Bau solcher Waffen nennenswert helfen.

Hinzu kommen Fehler, die niemand beabsichtigt. KI-Systeme erfinden Fakten oder geben irreführende medizinische Ratschläge, und weil sich ihr Verhalten schwer vorhersagen lässt, kann niemand solche Fehler zuverlässig ausschließen. Mit KI-Agenten, die Aufgaben weitgehend selbstständig erledigen, wächst dieses Risiko. Wenn zwischen den Arbeitsschritten kein Mensch mehr auf das Ergebnis schaut, bleibt weniger Gelegenheit, rechtzeitig einzugreifen.

Schleichende Gefahren

Schwerer zu erkennen sind die schleichenden Gefahren, weil sie sich im Alltag bemerkbar machen, ohne als Vorfall aufzufallen. Über KI-Begleiter, also Chatbots, die auf emotionale Bindung angelegt sind, wissen wir noch wenig. Einige Studien finden bei intensiver Nutzung mehr Einsamkeit und emotionale Abhängigkeit, andere keine Effekte. Wer sich genauer mit dem Thema beschäftigen möchte, dem empfehle ich Christoph Kochs Buch Hallo, wie fühlst du dich heute? Wie künstliche Intelligenz unsere Beziehungen verändert (Kein & Aber, 2026). Koch erklärt allgemein verständlich und wissenschaftlich fundiert, warum Menschen für emotionale Gespräche mit Maschinen so empfänglich sind. In reportageartigen Passagen lässt er Nutzer*innen ebenso zu Wort kommen wie Fachleute, bevor er die gesellschaftlichen Risiken benennt.

Für den Unterricht folgt aus der Befundlage kein Alarm, wohl aber der Auftrag, das Thema offen anzusprechen, ohne Jugendliche für ihre Nutzung zu beschämen. Ob und wie Ihre eigenen Schüler*innen mit KI über Freundschaft, Sorgen oder Gefühle sprechen, können Sie mit meiner anonymen Klassenumfrage herausfinden.

Eine Gefahr, die mittlerweile bekannt sein sollte, ist das De-Skilling. In einer im Report zitierten Studie entdeckten Ärzt*innen, die mehrere Monate mit KI-Unterstützung gearbeitet hatten, danach ohne KI rund sechs Prozentpunkte weniger Tumoren. Sie hatten ihre Fähigkeit über Jahre erworben. Schüler*innen sollen sie erst aufbauen, und wenn die KI diesen Aufbau übernimmt, entsteht die Kompetenz gar nicht erst. Ich habe das an anderer Stelle Nichtlernen genannt.

Auch die Transformation der Arbeitswelt zeigt sich zuerst an den Rändern. Insgesamt hat KI die Beschäftigung bislang kaum verändert. In besonders betroffenen Berufen wie der Softwareentwicklung arbeiten seit Ende 2022 jedoch weniger Berufseinsteiger*innen. Wenn ausgerechnet die Einstiegsaufgaben wegfallen, an denen man bisher im ersten Berufsjahr gelernt hat, werden Hochschulen einen Teil dieser Übungsphase übernehmen müssen.

Machtkonzentration: Wer kontrolliert die KI?

Am weitesten reicht die Machtkonzentration. Der Ökonom Marcel Fratzscher hat im April in der ZEIT argumentiert, dass KI die Demokratie vor allem deshalb bedroht, weil sich Daten, Rechenleistung und Modelle bei wenigen privaten Akteuren bündeln. Er zeigt das an fünf Feldern, die ich in einer zweiten Grafik zusammengefasst habe.

Behörden entscheiden per Algorithmus, ohne dass Betroffene die Entscheidung nachvollziehen oder anfechten können, wie beim niederländischen Betrugserkennungssystem SyRI, das ein Gericht 2020 stoppte. Politische Manipulation wird billig und lässt sich individuell zuschneiden. Wer bei Demonstrationen mit Gesichtserkennung rechnen muss, bleibt eher zu Hause. Als Gegenmittel fordert Fratzscher Institutionen, die Bürger*innen ein Recht auf Erklärung, Widerspruch und menschliche Überprüfung garantieren, und eine Wettbewerbspolitik, die der Marktmacht weniger Konzerne wirtschaftliche Gegenmacht entgegensetzt.

Für Schulen hat das zwei Seiten. Sie sind selbst Teil der Verwaltung und können KI-Werkzeuge zur Leistungsbewertung nur verantworten, wenn Schüler*innen und Eltern deren Ergebnisse nachvollziehen und anfechten können. Zugleich hängen sie bei der eigenen Infrastruktur zunehmend von wenigen Anbietern ab. Den Zusammenhang zwischen technischer Macht und demokratischer Kontrolle verständlich zu machen, gehört deshalb zur politischen Bildung.

Was Bildung leisten kann

Der Report richtet sich an die Politik, nennt aber an einer Stelle ausdrücklich Bildungsprogramme. Für den Umgang mit KI-Risiken beschreibt er ein Schichtenmodell, das in der Sicherheitsforschung als Schweizer-Käse-Modell bekannt ist. Jede einzelne Schutzmaßnahme hat Löcher, aber mehrere hintereinander gelegte Schichten fangen auf, was eine einzelne durchlässt. Neben den technischen Sicherungen der Anbieter zählt der Report auch die Widerstandsfähigkeit der Gesellschaft dazu, und Schulen und Hochschulen sind in dieser Logik eine eigene Schicht.

Was das konkret heißt, lässt sich an den akuten wie an den schleichenden Gefahren zeigen. Bei sexualisierten Deepfakes sollte eine Schule vor dem ersten Vorfall festgelegt haben, wer Betroffenen als Ansprechperson zur Verfügung steht, wie Beweise gesichert werden und wann die Polizei eingeschaltet wird. Die seit August geltende Kennzeichnungspflicht hilft hier wenig. Täter*innen kennzeichnen ihre Fälschungen nicht.

Gegen De-Skilling und Nichtlernen hilft eine klare Reihenfolge im Unterricht. Schüler*innen erarbeiten eine Fähigkeit zuerst ohne KI, und erst wenn sie über ein eigenes Urteil verfügen, kommt die KI als Werkzeug hinzu, wobei das Überprüfen ihrer Ausgaben selbst als Routine eingeübt werden sollte. In einem im Report beschriebenen Experiment mit 2.784 Teilnehmenden ließen Menschen falsche KI-Vorschläge vor allem dann durchgehen, wenn die Korrektur Mühe kostete. Aufgaben, in denen Schüler*innen eine fehlerhafte KI-Antwort mit eigenem Fachwissen richtigstellen müssen, trainieren genau diese Mühe. Übungen dazu sowie Unterrichtsstunden zu Deepfakes und KI-Beziehungen finden Sie in meinem „Praxisbuch – KI-Kompetenz für die Schule“.

Schließlich lässt sich die Einteilung der Infografik selbst zum Unterrichtsgegenstand machen. Schüler*innen sammeln Aussagen über KI-Gefahren aus Nachrichten und Social Media, ordnen sie als akut, schleichend oder Science-Fiction ein und prüfen, welche Belege es für sie jeweils gibt. Dabei üben sie, Befürchtungen nach ihrer Evidenz zu gewichten, und stoßen auf die schleichenden Gefahren, die in Schlagzeilen selten vorkommen, ihren eigenen Alltag aber am unmittelbarsten berühren.