Die italienische Datenschutzbehörde hat am Freitag mit sofortiger Wirkung eine vorläufige Beschränkung für die Verarbeitung personenbezogener Daten italienischer Nutzer durch OpenAI über ChatGPT verhängt. Dies ist der bisher bedeutendste regulatorische Eingriff in den schnell wachsenden Dienst für generative künstliche Intelligenz.
Die italienische Datenschutzbehörde Garante gab in ihrer Anordnung vom 31. März , dass sie Ermittlungen eingeleitet hat, nachdem Bedenken hinsichtlich der Datenschutzhinweise, der Rechtsgrundlage für die großflächige Erhebung personenbezogener Daten zur Algorithmenentwicklung, fehlerhafter, vom System erzeugter personenbezogener Daten und des Fehlens eines wirksamen Mechanismus zur Altersverifizierung der Nutzer geäußert wurden. Sie wies zudem auf einen Sicherheitsvorfall vom 20. März hin, bei dem Chatnamen und eingeschränkte Zahlungsinformationen einiger Nutzer offengelegt wurden.
Trainingsdaten rücken in den Mittelpunkt der KI-Debatte
Die Anordnung geht über die bloße Aufarbeitung eines einzelnen Datenlecks hinaus. Die Datenschutzbehörde erklärte, es gebe offenbar keine Rechtsgrundlage für die „massive Erhebung und Verarbeitung“ personenbezogener Daten, die zum Training der ChatGPT-Algorithmen verwendet wurden. Diese Beanstandung berührt eine grundlegende Frage der modernen generativen KI: Kann die umfassende Erfassung von Daten im Internetmaßstab den europäischen Anforderungen an eine rechtmäßige, transparente und verhältnismäßige Datenverarbeitung genügen?.
OpenAI beschreibt seine Modelle als Systeme, die mit einer Kombination aus öffentlich zugänglichen Informationen, lizenziertem Material und von menschlichen Trainern erstellten Daten trainiert werden. Das Unternehmen veröffentlicht jedoch keine vollständige Liste der Trainingsdokumente. Die Intervention der Regulierungsbehörde könnte eine präzisere Erklärung darüber erzwingen, welche personenbezogenen Daten verwendet werden, warum deren Verarbeitung rechtmäßig ist und welche Rechte Einzelpersonen haben, wenn die Modellausgaben ungenaue Informationen über sie enthalten.
Die Entscheidung fiel knapp zwei Wochen nach der Veröffentlichung von GPT-4, einem leistungsfähigeren Modell, das sowohl Bild- als auch Texteingaben verarbeiten kann und laut Unternehmen in vielen professionellen und akademischen Benchmarks deutlich besser abschneidet als frühere Systeme. Diese Veröffentlichung hat sowohl das kommerzielle Interesse als auch die Überprüfung der Zuverlässigkeit der Systeme verstärkt.
Ein Verstoß am 20. März erhöhte die Dringlichkeit
OpenAI gab bekannt, dass ein Softwarefehler ChatGPT am 20. März lahmlegte, nachdem einige Nutzer die Titel der Konversationen anderer Nutzer sehen konnten. In einem detaillierten Vorfallsberichterklärte das Unternehmen, dass derselbe Fehler möglicherweise auch Zahlungsdaten von 1,2 % der ChatGPT-Plus-Abonnenten offengelegt hat, die innerhalb eines neunstündigen Zeitraums aktiv waren. Zu den betroffenen Daten gehörten Namen, E-Mail-Adressen, Zahlungsadressen, Ablaufdaten von Kreditkarten und die letzten vier Ziffern der Kartennummern.
Bei dem Vorfall wurden keine vollständigen Kreditkartennummern offengelegt, und OpenAI gab an, die betroffenen Nutzer kontaktiert zu haben. Er verdeutlichte jedoch konkret die Datenschutzrisiken, die mit einem Dienst verbunden sind, den Millionen von Menschen zum Schreiben, Programmieren, Recherchieren und für zunehmend sensible Gespräche nutzen.
Die Maßnahme der Garante vereint daher zwei unterschiedliche regulatorische Fragestellungen: herkömmliche Cybersicherheitsverpflichtungen im Zusammenhang mit einem Datenleck und weitergehende Fragen darüber, ob generative KI-Systeme personenbezogene Daten rechtmäßig in großem Umfang sammeln, ableiten und reproduzieren können.
Italien wird zum ersten großen westlichen Testfall
Der Guardian berichtete am Freitag, dass Italien ChatGPT eingeschränkt hat, während die Regulierungsbehörde ermittelt. Damit ist Italien das erste westliche Land, das so direkt gegen den Dienst vorgeht. OpenAI reagierte darauf, indem es den Zugang in Italien deaktivierte und erklärte, man sei der Ansicht, die Datenschutzgesetze einzuhalten.
Euronews berichtete , dass OpenAI 20 Tage Zeit erhalten habe, um die ergriffenen Maßnahmen zur Einhaltung der Datenschutzbestimmungen mitzuteilen. Gemäß der europäischen Datenschutz-Grundverordnung können Verstöße je nach Bestimmung und Umständen mit Strafen von bis zu 20 Millionen Euro oder 4 % des weltweiten Jahresumsatzes geahndet werden.
Die regulatorischen Maßnahmen werfen auch eine schwierige Frage der Durchsetzung auf. ChatGPT ist ein globaler Cloud-Dienst, während Datenschutzrecht territorial und auf Rechten basiert. OpenAI kann den Zugriff zwar geografisch einschränken, doch die Lösung der zugrundeliegenden Fragen erfordert möglicherweise Änderungen an der Datenverwaltung, den Hinweisen, den Alterskontrollen, der Modellentwicklung oder den Verfahren zur Berichtigung von Informationen – und nicht nur eine geografische Sperre.
Der Druck auf fortgeschrittene KI nimmt zu
Italiens Schritt erfolgt inmitten einer breiteren Debatte darüber, wie schnell fortschrittliche KI-Systeme eingesetzt werden sollten. Über tausend Technologieforscher und Führungskräfte haben einen öffentlichen Brief , in dem sie eine sechsmonatige Pause beim Training von Systemen fordern, die leistungsfähiger als GPT-4 sind, bis Sicherheitsstandards entwickelt sind. Der Brief ist kein Rechtsdokument, und die vorgeschlagene Pause ist freiwillig. Er verdeutlicht jedoch die wachsende Besorgnis darüber, dass die Regulierung langsamer voranschreitet als die technische Entwicklung.
Gleichzeitig verschärft sich der Wettbewerb. Microsoft integriert OpenAI-Technologie in Such- und Produktivitätssoftware, Google entwickelt eigene Dialogsysteme weiter und Startups programmieren Anwendungen auf Basis großer Sprachmodelle. Der wirtschaftliche Anreiz liegt in einer schnellen Implementierung; Datenschutz- und Sicherheitsbehörden zeigen nun, dass die Implementierung Verpflichtungen auslösen kann, noch bevor Branchenstandards festgelegt sind.
Der zeitgleich erschienene Bericht von TechCrunch wies darauf hin, dass die italienische Anordnung nicht nur die Transparenz, sondern auch die Genauigkeit der von ChatGPT generierten personenbezogenen Daten infrage stellt. Dies ist insbesondere für generative Modelle ein wichtiges Thema, da sie Fakten nicht auf dieselbe Weise wie herkömmliche Datenbanken erfassen. Sie generieren statistisch wahrscheinliche Formulierungen und können selbstbewusste, aber falsche Aussagen treffen.
Einem Reuters-Bericht auf Investing.com zufolge reagierte Italien umgehend, während die Aufsichtsbehörde die Angelegenheit untersucht. Andere europäische Datenschutzbehörden werden den Fall voraussichtlich genau beobachten, da die DSGVO EU-weit gilt, auch wenn die Durchsetzung in der Verantwortung der nationalen Aufsichtsbehörden liegt.
Das Ergebnis könnte als frühe Blaupause dafür dienen, wie Datenschutzrecht auf generative KI angewendet wird. Die zentralen Fragen sind nicht länger theoretischer Natur: Welche Daten dürfen zum Trainieren eines Modells verwendet werden, welche Informationen müssen den Nutzern mitgeteilt werden, wie werden Minderjährige ausgeschlossen oder geschützt, wie werden fehlerhafte personenbezogene Daten korrigiert und wer trägt die Verantwortung, wenn ein Modell diese generiert? Italien hat diese Fragen nun in ein formelles Regulierungsverfahren überführt und ChatGPT damit nicht nur zu einem technologischen Phänomen, sondern auch zu einem Test dafür gemacht, ob das bestehende Datenschutzrecht eine neue Klasse von Systemen des maschinellen Lernens regeln kann.