Wenn die Eingabe zur Akte wird: KI & Datenschutz

Es ist Zeugniszeit und vor dir liegen achtundzwanzig Beurteilungen. Du öffnest ChatGPT, gibst Namen, Noten und ein paar Stichworte ein – „stört häufig den Unterricht, schwieriges Elternhaus“ – und bittest um eine ausformulierte Bewertung. Eine Stunde gespart, der Ton sogar verbindlicher als sonst.

Im selben Moment hast du die Daten einer Minderjährigen an einen US-Konzern übergeben, der sie auf seinen Servern verarbeitet. Schon das ist ein Datenschutzvorfall, ganz unabhängig davon, ob je etwas damit geschieht. Darüber hinaus könnte das Folgende passieren: Eine weiterführende Schule, an der jemand vor dem ersten Schultag den Namen der Schülerin heraussuchte, hätte ihr Urteil schon gefällt, bevor das Mädchen einen Satz gesagt hätte. Später könnte eine Bewerbung um einen Ausbildungsplatz daran scheitern, dass eine Personalabteilung bei der üblichen Recherche auf „Lernschwäche“ und „schwieriges Elternhaus“ stolpert. Und was dort über das Elternhaus steht, beträfe nicht nur sie, sondern auch noch die Erziehungsberechtigten. Dabei ist es wahrscheinlich keinem der Beteiligten auch nur bewusst, welche Aussagen hier von verschiedenen Akteuren eingesehen werden können und wer sie ursprünglich verfasst hat.

Dass Texte über Dritte den geschützten Raum des Chatfensters verlassen, ist belegt. Unter rund 4.500 geteilten ChatGPT-Konversationen, die 2025 kurzzeitig bei Google auffindbar waren, fanden sich Beurteilungen und Referenzschreiben mit echten Namen von Menschen, die selbst nie mit dem Chatbot interagiert hatten. Hier haben Lehrkräfte ihre Verantwortung unvorsichtigerweise delegiert. Die Datenschutzaufsicht ist indes eindeutig: Schülernamen, Notenlisten und Fördergutachten gehören nicht in eine öffentliche KI.

Umgang mit eigenen Daten

Bei fremden Daten ist die Verantwortung offensichtlich, weil das Gesetz sie zuweist. Darüber hinaus bist du natürlich noch für deine eigenen Daten verantwortlich. Schon eine einzige Zeile, beiläufig getippt, könnte gravierende Folgen haben, etwa im folgenden Beispiel: „Ich nehme seit drei Jahren Sertralin und überlege abzusetzen – worauf muss ich achten?“ Im Moment der Eingabe mag die Eingabe sogar umsichtig erscheinen – vielleicht möchtest du dir nach dem Gespräch mit dem Psychoologen einfach nur eine Zweitmeinung einholen, bevor du ein Antidepressivum absetzt. Das Problematische der Eingabe zeigt sich, wenn überhaupt, erst Jahre später – und zwar an Orten, die beim Tippen solcher Eingaben wohl niemand auf dem Schirm hat.

Stell dir vor, du beantragst eine Berufsunfähigkeitsversicherung. Im Kleingedruckten zählt die psychische Gesundheit zu den heikelsten Posten; eine dokumentierte Vorgeschichte könnte dich hier die Leistung kosten. Oder eine Trennung eskaliert vor dem Familiengericht; dann könnte dieselbe Diagnose zum Argument gegen dich im Streit ums Sorgerecht werden. Oder du strebst eine Verbeamtung an, und bei der amtsärztlichen Untersuchung wird die gesundheitliche Eignung zur Hürde. Dieselbe beiläufige Zeile kann an unterschiedlichen Orten zu erhebliche Nachteile führen.

Dass solche Angaben öffentlich werden, ist keine Fiktion. Im Discover-Feed der Meta-AI-App wurden 2025 Gesundheitsschilderungen einzelner Nutzer*innen sichtbar, viele ohne deren Wissen, teils neben Klarnamen und Adressen. Daten nach Artikel 9 DSGVO sind besonders geschützt, weil sie sich in mehreren Zusammenhängen gegen die eigene Person wenden lassen – den rechtlichen Rahmen dazu habe ich in einem früheren Artikel behandelt.

Nicht jeder Schaden setzt sensible Daten voraus. Manchmal genügt Vollständigkeit. Stell dir vor, du bekommst eine Mail, die deinen vollen Namen kennt, den letzten Arbeitgeber, die Adresse, das Geburtsdatum ... Entweder kennt dich der Absender sehr gut oder er hat gute Daten über dich. Echte Daten machen Fälschungen überzeugend. So kann beim Phishing aus einer als solche erkennbaren Massenmail eine gezielte Täuschung werden. Dabei ist klar, dass die dafür nötige Datengrundlage nicht vom Himmel fällt: Unter den indexierten ChatGPT-Chats lagen vollständige Lebensläufe mit Klarnamen, und ein Lebenslauf bündelt fast alles, was ein überzeugendes Identitätsprofil ausmacht.

Aber wissen die Konzerne nicht ohnehin längst alles?

Der Einwand, dass die großen Tech-Konzerne doch ohnehin schon alles über einen wissen und das eigene Nutzerverhalten darum kaum einen Unterschied macht, liegt nahe, und die Forschung gibt der Intuition zunächst recht. Robin Staab u.a. von der ETH Zürich zeigten in einer Arbeit für die ICLR 2024, dass Sprachmodelle aus öffentlich geteilten Texten persönliche Merkmale wie Wohnort oder Einkommen mit bis zu 85 Prozent Treffergenauigkeit ableiten, ohne dass gängige Anonymisierung das zuverlässig verhindern könnte.

Aus solchen Forschungsergebnissen folgt aber nicht, dass eigene Vorsicht zwecklos wäre. Eine Inferenz bleibt eine Wahrscheinlichkeitsaussage und ist vor Gericht oder bei einer Versicherung nicht belastbar. Eine Eingabe dagegen ist dokumentiert und über das Login mit dem Klarnamen verknüpft. Es gibt also einen wesentlichen Unterschied zwischen einem abgeleiteten Verdacht und einer aktenkundigen Angabe.

Was daraus folgt

Die Praxis, die sich daraus ergibt, ist überschaubar. Manche Kategorien von Daten gehören grundsätzlich nicht in einen öffentlichen Chatbot: direkt identifizierende Daten wie Klarname mit Adresse oder Geburtsdatum, besondere Daten nach Artikel 9 DSGVO wie Diagnosen, und Daten Dritter, für die man nicht entscheiden darf. Wo es nur um eine Formulierungshilfe geht, leistet eine Pseudonymisierung dasselbe. Für die Beurteilung aus dem Eingangsbeispiel heißt das: „Schülerin A, 14 Jahre, Lernschwäche im Bereich Mathematik“ statt des Namens – die Antwort des Chatbots ist fast dieselbe.

Eine Ebene tiefer lohnt der Blick in die Einstellungen. Die Verwendung der Eingaben für das Training lässt sich abschalten, im Standard ist sie aktiv. Für sensible Themen helfen temporäre Chats, mit der Einschränkung, dass eine richterliche Aufbewahrungsanordnung auch diese erfassen kann. Und wo regelmäßig mit schützenswerten Daten gearbeitet wird, etwa in Schule und Verwaltung, sind DSGVO-konforme Lösungen mit Auftragsverarbeitungsvertrag und EU-Serverstandort die sachgerechte Wahl.

Die Faustregel

Man muss aus vernünftigem Datenschutz keine Wissenschaft machen. Für den Teil, den man selbst beeinflussen kann, reicht es schon aus, sich an einer einfachen Faustregel zu orientieren, z.B.: „Teile mit dem Chatbot nur, was du auch deinem Nachbarn erzählen würdest.“

0