Google, Meta und TikTok haben drei Bundesklagen eingereicht, um Kalifornien daran zu hindern, ein Gesetz durchzusetzen, das Strafen von bis zu 50.000 US-Dollar pro betroffenem Kind vorsieht, wenn Nutzern unter 16 Jahren wissentlich Zugang zu personalisierten Feeds, Autoplay oder anderen Funktionen gewährt wird, die der Staat als süchtig machend einstuft.
Die separaten Klagen, die am Mittwoch in San Jose, San Francisco und Los Angeles eingereicht wurden, fordern die Gerichte auf, das Gesetz AB 1709 zu blockieren, bevor es am 1. Januar 2027 in Kraft tritt. Die Unternehmen argumentieren, dass Kalifornien von der Regulierung des Produktdesigns zur Kontrolle der Auswahl und Präsentation von Online-Inhalten übergegangen sei und damit gegen den Ersten Verfassungszusatz und bundesstaatliche Schutzbestimmungen für Veröffentlichungsentscheidungen verstoße.
Kalifornien argumentiert, die Maßnahme richte sich gegen Designsysteme, die die Interaktion von Kindern maximieren sollen. Die Staatsanwaltschaft unter Leitung von Rob Bonta teilte Reuters , sie prüfe die Klagen und werde die Kinderschutzgesetze des Bundesstaates verteidigen. Der Streitfall stellt unmittelbar die Frage, wie weit Bundesstaaten gehen dürfen, wenn dieselben Empfehlungstools sowohl als redaktionelle Systeme als auch als potenziell schädliche Produktfunktionen eingestuft werden können.
Was das kalifornische Gesetz vorschreibt
Das erlassene Gesetz verbietet es Plattformen, Nutzern unter 16 Jahren in Kalifornien süchtig machende Funktionen anzubieten. Dazu gehören insbesondere süchtig machende Feeds und die automatische Wiedergabe. Der Generalstaatsanwalt kann weitere verbotene Funktionen per Verordnung definieren. Eine Plattform darf ein Konto für Minderjährige nur dann führen, wenn diese Funktionen nicht verfügbar sind.
Vor der Aktivierung bestimmter Funktionen müssen Plattformen die Altersangaben aus dem separaten kalifornischen Altersverifizierungssystem verwenden. Kann eine Plattform das Alter eines Nutzers nicht über dieses Verfahren verifizieren, ist sie gesetzlich verpflichtet, auf eine alternative Altersbestimmung eines anderen Bundesstaates zurückzugreifen. Konten von Nutzern unter 16 Jahren müssen gelöscht werden, es sei denn, die Plattform bietet eine konforme Version ohne die eingeschränkten Funktionen an. Die Strafen betragen bis zu 25.000 US-Dollar pro betroffenem Kind bei fahrlässigen und 50.000 US-Dollar bei vorsätzlichen Verstößen. Gerichte müssen dabei jedoch die Unternehmensgröße, die Dauer, die Schwere des Verstoßes und die Einhaltung der Vorschriften in gutem Glauben berücksichtigen.
Drei Klagen teilen eine verfassungsrechtliche Theorie
Die Google, Meta und TikTok enthalten eng verwandte Argumente. Sie alle argumentieren, dass Empfehlungen und die Reihenfolge von Inhalten redaktionelle Entscheidungen darstellen, die durch den ersten Verfassungszusatz geschützt sind, selbst wenn die Auswahl softwareseitig erfolgt. Sie berufen sich außerdem auf Abschnitt 230 des Communications Decency Act, der Online-Dienste vor bestimmten Haftungsansprüchen im Zusammenhang mit Inhalten Dritter und deren Veröffentlichungsentscheidungen schützt.
Die Unternehmen kritisieren das Gesetz als zu weit gefasst, da es auch Systeme umfasst, die jüngere Nutzer zu altersgerechten Inhalten lenken können. Google argumentiert, personalisierte Empfehlungen helfen YouTube, passende Videos anzuzeigen. Meta hingegen behauptet, Kalifornien würde seine Entscheidungen zur Anordnung von Milliarden von Beiträgen außer Kraft setzen. TikTok argumentiert, der Staat könne geschützte Meinungsäußerungen nicht unterdrücken, nur weil Gesetzgeber diese für ein jüngeres Publikum als ungeeignet einstufen. Dies sind Positionen im laufenden Gerichtsverfahren, keine endgültigen Urteile, und die Gerichte haben noch nicht inhaltlich darüber entschieden.
Die Nachrichtenagentur Associated Press berichtete, dass beide Unternehmen zudem betonen, Eltern sollten die primäre Kontrolle über die Online-Aktivitäten ihrer Kinder behalten. Diese Aussage stellt die elterliche Autorität neben die Meinungsfreiheit der Unternehmen, klärt aber nicht, ob der Staat Mechanismen zur Online-Interaktion regulieren darf, die kontinuierlich und in großem Umfang funktionieren.
Kalifornien behandelt die Gestaltung von Bürgerbeteiligung als Sicherheitsproblem
Kaliforniens Position beginnt mit einer anderen Beschreibung des regulierten Verhaltens. Die kalifornische Legislative erklärte, algorithmische Empfehlungen, endloses Scrollen, Autoplay und Benachrichtigungen könnten zwanghaftes Nutzungsverhalten verstärken. Als Gouverneur Gavin Newsom das Gesetz im September unterzeichnete, bezeichnete sein Büro es als Teil eines umfassenderen Sicherheitspakets, das soziale Medien, Begleit-Chatbots, Datenschutz und digital erzeugtes kinderpornografisches Material umfasst.
Das Gesetz verbietet Minderjährigen nicht den Zugang zu allen betroffenen Plattformen. Es verpflichtet Unternehmen vielmehr dazu, bestimmte Interaktionsfunktionen von Konten unter 16-Jährigen zu entfernen. Diese Unterscheidung ist relevant, da Kalifornien wahrscheinlich argumentieren wird, es reguliere die Art und Weise, wie ein Produkt Aufmerksamkeit erregt, während die Unternehmen argumentieren werden, dass ebendiese Funktionen bestimmen, welche Inhalte den Nutzern angezeigt werden. In der Praxis sind beide Aspekte untrennbar miteinander verbunden: Ein Empfehlungssystem ist gleichzeitig Verbreitungsmechanismus, Interaktionsinstrument und Bewertungskriterium für Inhalte.
Der unmittelbare Streitpunkt ist der Zeitpunkt und der Umfang
Die Klagen gehen weniger als zwei Monate vor dem geplanten Inkrafttreten ein, weshalb Anträge auf einstweilige Verfügungen die ersten wichtigen Entscheidungen darstellen, die es zu beobachten gilt. Um frühzeitig Rechtsschutz zu erlangen, müssen die Unternehmen in der Regel eine voraussichtliche Erfolgsaussicht in der Hauptsache und einen drohenden irreparablen Schaden nachweisen, während die Gerichte die Interessen des Staates und die öffentlichen Folgen einer Verzögerung der Durchsetzung abwägen.
Ein Urteil könnte enger gefasst sein als von beiden Seiten angestrebt. Ein Richter könnte personalisierte Empfehlungen von der automatischen Wiedergabe unterscheiden, prüfen, ob die Altersschutzbestimmungen separate Belastungen schaffen, oder die Durchsetzung einschränken, ohne das gesamte Gesetz für ungültig zu erklären. AB 1709 enthält eine Salvatorische Klausel, die sicherstellen soll, dass Teile des Gesetzes weiterhin gültig bleiben, falls eine andere Bestimmung für ungültig erklärt wird.
Die Tragweite der Angelegenheit reicht weit über Kalifornien hinaus. Die einzelnen Bundesstaaten verfolgen unterschiedliche Ansätze bei der Altersverifizierung, der elterlichen Einwilligung und den Jugend-Feeds, während die Plattformen landesweite Produkte anbieten, deren Anpassung an die jeweiligen Zuständigkeitsbereiche schwierig ist. Eine Entscheidung, die das kalifornische Modell blockiert oder bestätigt, würde auch die Gesetzgeber anderer Bundesstaaten beeinflussen, doch die drei Gerichte erster Instanz könnten zunächst zu unterschiedlichen Urteilen gelangen. Für Familien und Plattformen steht nur eines fest: der Termin. Sofern kein Gericht eingreift, treten die neuen Beschränkungen am 1. Januar in Kraft.