Dreizehn neue kalifornische Gesetze übertragen Social-Media- und KI-Unternehmen weitreichende Kinderschutzpflichten und verlagern damit einen immer größeren Teil der Verantwortung für die digitale Umgebung junger Menschen von Familien und Schulen hin zu den Unternehmen, die diese Umgebungen gestalten. Gouverneur Gavin Newsom unterzeichnete das Gesetzespaket am 10. September, wie die Nachrichtenagentur AP berichtete . Die Maßnahmen schränken interaktive Feeds für Kinder unter 16 Jahren ein, führen neue Kontrollen für begleitende Chatbots ein, stärken die Haftung für Schäden, überarbeiten die Regeln zur Alterssicherung und geben Familien mehr Mitspracherecht bei von der Schule ausgegebenen Geräten.
Für Pädagogen ist das Paket von großer Bedeutung, auch wenn die meisten Anforderungen an Technologieunternehmen und nicht an Schulbezirke fallen. Schulen haben jahrelang versucht, das Verhalten von Schülern bei der Nutzung digitaler Medien zu steuern: Handynutzung einschränken, Netzwerke filtern, Nutzungsregeln aufstellen und Medienkompetenz vermitteln. Kalifornien erprobt nun einen anderen Ansatz – nämlich, dass die Architektur eines Produkts Risiken bergen kann, die sich nicht allein durch bewusstere Entscheidungen von Kindern, Eltern oder Lehrkräften beherrschen lassen.
Die Gesetze klären keine wissenschaftlichen oder verfassungsrechtlichen Streitigkeiten im Zusammenhang mit Jugendtechnologie. Sie wandeln diese Streitigkeiten in konkrete Umsetzungsfragen um, etwa zu schädlichen Funktionen, Altersbestimmung, Prüfnachweisen und dem Zugang zu nützlichen Online-Communities. Da Kalifornien sowohl der bevölkerungsreichste Bundesstaat als auch Sitz vieler Technologieunternehmen ist, könnten die Antworten Produkte und Schulpraktiken weit über seine Grenzen hinaus beeinflussen.
Eine Gestaltungsregel, nicht nur eine Bildschirmzeit-Regel
Der Gesetzesentwurf 1709 zielt auf spezifische Mechanismen zur Aufrechterhaltung der Aufmerksamkeit ab, anstatt ein tägliches Zeitlimit festzulegen. Laut Gesetzestext zählen algorithmische Feeds und Autoplay zu den suchterzeugenden Funktionen und verbietet den betroffenen Plattformen, diese Nutzern unter 16 Jahren anzubieten. Eine Plattform kann einem Jugendlichen weiterhin die Nutzung eines Kontos ermöglichen, wenn diese Funktionen entfernt werden. Diese Unterscheidung macht das Gesetz weniger zu einem kategorischen Verbot als vielmehr zu einer Verpflichtung, die Nutzererfahrung neu zu gestalten.
Diese Unterscheidung trennt den Zugang zu Informationen von den Mechanismen, die diesen Zugang kontinuierlich empfehlen. Ein chronologischer Feed, ein angefordertes Video oder eine private Nachricht bergen andere Risiken als ein endloser, auf vorherige Interaktionen zugeschnittener Informationsstrom. Das Gesetz behandelt daher die Gestaltung von Benutzeroberflächen als regulierbare Variable und nicht als neutralen Rahmen für Inhalte.
Die Einhaltung der Vorschriften hängt von der Altersverifizierung ab. Plattformen müssen das Alter eines Nutzers überprüfen, bevor sie eingeschränkte Funktionen bereitstellen. Gleichzeitig aktualisiert ein entsprechendes Gesetz das staatliche System zur Übermittlung von Alterskennzeichnungen aus Betriebssystemen oder App-Stores. Laut der Zusammenfassung des verabschiedeten Gesetzes AB 1856 dürfen diese Kennzeichnungen nur angefordert werden, wenn dies gesetzlich vorgeschrieben ist. Damit soll verhindert werden, dass Altersinformationen zu einem allgemeinen Überwachungsinstrument missbraucht werden.
Die Durchsetzungsbestimmungen sind umfangreich: AB 1709 sieht zivilrechtliche Strafen von bis zu 50.000 US-Dollar pro betroffenem Minderjährigen bei vorsätzlichem Verstoß und 25.000 US-Dollar bei fahrlässigem Verstoß vor. Zudem wird eine Beratungskommission mit Expertise aus den Bereichen Pädiatrie, Psychologie, Technologie, Zivilgesellschaft, Wissenschaft und Schulwesen (K-12) eingerichtet. Diese multidisziplinäre Struktur trägt implizit der Tatsache Rechnung, dass der Umgang von Jugendlichen mit Technologie nicht allein unter den Gesichtspunkten Datenschutz, Gesundheit oder Unterricht bewertet werden kann.
Chatbots stehen vor einem anderen Standard
Das Gesetz zu Begleit-Chatbots verfolgt einen detaillierteren Ansatz, da Konversationssysteme Beziehungen simulieren, Erinnerungen speichern und über längere Zeiträume privat mit Kindern interagieren können. Der Gesetzesentwurf SB 1119 verpflichtet Betreiber, die Kindern die Nutzung ihrer Dienste ermöglichen, dokumentierte Risikobewertungen durchzuführen, Kinderschutzrichtlinien zu veröffentlichen und Krisenreaktionsprotokolle zu implementieren. Laut der endgültigen Fassungtreten die Kernanforderungen am 1. Juli 2027 in Kraft, während unabhängige Prüfungen zu einem späteren Zeitpunkt beginnen.
Die Standardeinstellungen sind ungewöhnlich streng. Für Kinderkonten müssen die dauerhafte Gesprächsspeicherung und Push-Benachrichtigungen grundsätzlich deaktiviert sein; eine ununterbrochene Sitzung ist auf eine Stunde und die tägliche Nutzung auf zwei Stunden begrenzt, sofern die Eltern diese Einstellungen nicht ändern. Das System muss regelmäßig darauf hinweisen, dass es künstlich ist, und darf weder Bewusstsein vortäuschen, noch romantisches Interesse simulieren, emotionale Abhängigkeit fördern oder ein Kind auffordern, die Nutzung vor den Eltern zu verheimlichen.
Das Gesetz legt auch eine Grenze für Funktionen im Bereich der psychischen Gesundheit fest. Betreiber müssen angemessene Maßnahmen ergreifen, um zu verhindern, dass Systeme Selbstverletzungen, Essstörungen oder Substanzkonsum fördern oder Diagnosen oder Behandlungen durchführen, es sei denn, es handelt sich um ein reguliertes Medizinprodukt. Wird eine glaubwürdige und unmittelbar bevorstehende Selbstverletzungsgefahr festgestellt, muss der Betreiber Zugang zu Krisenunterstützung ermöglichen oder einen benannten Elternteil benachrichtigen, sofern dadurch selbst kein ernsthaftes Risiko entsteht.
Eine Bestimmung verdient besondere Aufmerksamkeit im Hochschulbereich: Hochschulen, die einen Chatbot ausschließlich im Bildungsbereich einsetzen, fallen nicht unter die gesetzliche Definition eines Betreibers. Diese Ausnahme entbindet die Hochschulen jedoch nicht von ihren Pflichten in Bezug auf Datenschutz, Inklusion, Verbraucherschutz oder Berufsstandards. Sie bedeutet aber, dass Hochschulen nicht davon ausgehen können, dass die Einhaltung der neuen Regelungen für Kinder-Chatbots durch einen Anbieter automatisch alle Fragen beantwortet, die sich im Zusammenhang mit Beratungstools, Beratungs-Bots oder Studierenden-Supportsystemen auf dem Campus ergeben.
Schulen bleiben Teil des Sicherheitssystems
Kaliforniens Maßnahmenpaket kommt zu einem Zeitpunkt, an dem Schulen zunehmend zu Toren zur Technologie werden und nicht mehr nur Orte sind, an denen persönliche Geräte genutzt werden. Die neuen Maßnahmen umfassen mehr Mitspracherecht für Familien bei der Ablehnung von schulischen Laptops. Ein separater Vorschlag, der die jüngsten Schüler betrifft, sieht vor, die Mitnahme von Geräten nach Hause einzuschränken und landesweite Musterrichtlinien zu fordern. Selbst wenn ein Gesetz Plattformen direkt betrifft, werden Schulleiter mit den Folgen bei der Beschaffung, der Einrichtung von Benutzerkonten, Elternfragen und der Schülerbetreuung konfrontiert.
Das praktische Problem besteht darin, dass sich Produktkategorien überschneiden. Eine Lernplattform kann Messaging, Empfehlungen, generative KI oder Personalisierung beinhalten, ohne als soziales Netzwerk vermarktet zu werden. Ein allgemeiner Chatbot kann über einen Schulbrowser aufgerufen werden, selbst wenn der Schulbezirk keine Lizenz dafür besitzt. Administratoren benötigen Verzeichnisse, die die eingebetteten Funktionen identifizieren, da das regulierte Risiko in einer Funktion liegen kann, die nach Vertragsabschluss hinzugefügt wurde.
Schulen befinden sich an der Schnittstelle zwischen Prävention und Intervention. Wenn ein kommerzieller Chatbot Eltern auf ein Sicherheitsrisiko aufmerksam macht, kann es sein, dass ein Schüler in der Schule sofortige Unterstützung benötigt; andernfalls ist es unter Umständen eine Lehrkraft oder ein Schulpsychologe, der als Erster eine Notlage bemerkt. Die American Academy bietet Lehrkräften Ressourcen, die gesunde Gewohnheiten und den Kontext in den Vordergrund stellen, anstatt eine einheitliche Bildschirmzeitvorgabe festzulegen. Sie unterstreicht damit, dass gesetzliche Regelungen Beziehungen, professionelles Urteilsvermögen oder den Zugang zu Betreuung nicht ersetzen können.
Die Beweislage spricht für Leitplanken und Demut
Kaliforniens designorientierter Ansatz spiegelt berechtigte Bedenken wider, doch die Beweislage stützt nicht die pauschale Behauptung, dass jegliche Nutzung sozialer Medien psychische Erkrankungen verursacht. Eine Empfehlung der US-Bundesregierung ergab, dass bis zu 95 Prozent der 13- bis 17-Jährigen soziale Plattformen nutzen und dass mehr als drei Stunden Nutzung pro Tag in einer Langzeitstudie mit einem doppelt so hohen Risiko für psychische Probleme verbunden waren. Dieselbe Studie betonte, dass die Auswirkungen je nach Kind, Inhalt, Aktivität und dem Ausmaß, in dem die Nutzung Schlaf, körperliche Aktivität oder persönliche Kontakte verdrängt, variieren.
Die Konsensstudie der Nationalen Akademien beleuchtete die Frage ebenfalls im Hinblick auf Nutzen und Risiken, darunter soziale Kontakte, Identitätsbildung und Zugang zu Informationen. Diese Komplexität ist wichtig, denn das stärkste politische Argument lautet nicht, dass jede digitale Interaktion gefährlich sei, sondern dass Kinder nicht das gesamte Risiko von Systemen tragen sollten, die auf der Grundlage begrenzter unabhängiger Erkenntnisse über ihre Auswirkungen auf die Entwicklung optimiert wurden.
Kritiker argumentieren, dass Kaliforniens Lösung andere Gefahren birgt. Die Electronic Frontier Foundation ( EFF) befürchtet, dass weite Definitionen junge Menschen von nützlichen Gemeinschaften ausschließen könnten und dass die Altersverifizierung die Erhebung sensibler Identitätsdaten erfordern könnte. AB 1709 trägt diesen Problemen teilweise Rechnung, indem es eine Beratungskommission mit der Untersuchung von Datenschutz, Genauigkeit, Machbarkeit und den Auswirkungen auf benachteiligte Jugendliche beauftragt. Ein solches Gremium kann jedoch nicht allein übermäßige Datenerhebung verhindern oder verfassungsrechtliche Streitigkeiten beilegen.
Die Umsetzung ist daher ebenso wichtig wie das Gesetz selbst. Regulierungsbehörden müssen zwischen angemessenen Altersangaben und aufdringlichen Identitätsprüfungen unterscheiden, Prüfer müssen ausreichend unabhängig sein, um mehr als nur Dokumente zu prüfen, und die öffentliche Berichterstattung muss detailliert genug sein, um Familien und Institutionen zu informieren, ohne die Daten von Kindern preiszugeben. Sind diese Bedingungen unzureichend, könnte ein Sicherheitsregime zwar formale Konformität erreichen, die zugrundeliegende Produktdynamik jedoch unverändert lassen.
Die wichtigste Erkenntnis für Pädagogen
Für Schulleitungen im Primar- und Sekundarbereich macht das kalifornische Maßnahmenpaket die Steuerung der digitalen Sicherheit sowohl zu einem Produktmanagement- als auch zu einem Verhaltensthema für Schüler. Die unmittelbare institutionelle Konsequenz besteht darin, zu wissen, welche zugelassenen Dienste personalisierte Feeds, Zusatzfunktionen, permanenten Speicher, Benachrichtigungen oder Altersverifizierungsfunktionen enthalten und ob diese Elemente deaktiviert werden können, ohne den Bildungsdienst selbst zu entfernen. Bei der Überprüfung von Beschaffungen müssen neben Preis, Zugänglichkeit, Cybersicherheit und didaktischer Eignung auch Sicherheitsbewertungen, Meldewege für Vorfälle, Prüfpläne und wesentliche Produktaktualisierungen geprüft werden.
Für Lehrkräfte und Mitarbeiter der Studierendenbetreuung stellen die Gesetze klar, dass digitale Kompetenz auch bei verbesserten Sicherheitsvorkehrungen auf Produktebene weiterhin notwendig ist. Studierende müssen nach wie vor verstehen, wie man durch Design beeinflusst wird, welche Grenzen automatisierte Ratschläge haben und welchen Unterschied eine Chatbot-Antwort gegenüber qualifizierter menschlicher Unterstützung ausmacht. Institutionen benötigen zudem klare Eskalationswege, wenn durch Technologie ein Problem im Zusammenhang mit Selbstverletzung, Ausbeutung oder akuter psychischer Belastung aufgedeckt wird.
Für Hochschulleitungen erfordert die ausdrückliche Ausnahmeregelung für Bildungszwecke im Gesetz zu Begleit-Chatbots sorgfältige Lektüre statt Selbstzufriedenheit. Universitäten, die Beratungs-, Nachhilfe- oder Wohlbefindens-Tools entwickeln, unterliegen möglicherweise weniger Verpflichtungen gemäß diesem Gesetz, doch die gleichen Fragen zu Speicher, Abhängigkeit, Offenlegung und menschlicher Überprüfung bleiben bestehen. Das kalifornische Experiment ist am nützlichsten, wenn Pädagogen die Einhaltung gesetzlicher Bestimmungen als Mindestanforderung betrachten und bewerten, ob jede Technologie einem definierten Bildungsziel dient, ohne vermeidbare Kosten für Entwicklung, Datenschutz oder Sicherheit zu verursachen.