Der Oberste Gerichtshof der USA befasste sich diese Woche mit den rechtlichen Grundlagen des modernen sozialen Internets und verhandelte die Frage, ob Abschnitt 230 des Communications Decency Act Google schützt, wenn YouTubes Empfehlungssysteme Nutzern automatisch Videos vorschlagen. Im Fall Gonzalez gegen Googleprüfte das Gericht erstmals eingehend den Anwendungsbereich des Gesetzes von 1996, das die Haftung von Online-Plattformen seit über 25 Jahren prägt.
Der Streit geht auf die Anschläge des Islamischen Staates in Paris 2015 zurück, bei denen die 23-jährige amerikanische Studentin Nohemi Gonzalez getötet wurde. Ihre Familie argumentiert, dass die Empfehlungsalgorithmen von YouTube über die bloße Bereitstellung von Inhalten Dritter hinausgingen, indem sie Nutzern aktiv Videos des Islamischen Staates vorschlugen. Google hingegen argumentiert, dass Empfehlungen zu den üblichen redaktionellen Funktionen gehören, die durch Paragraph 230 geschützt sind. Das Protokoll der mündlichen Verhandlung zeigt, dass die Richter wiederholt prüften, wo eine rechtlich sinnvolle Grenze zwischen der Organisation und der Erstellung von Inhalten gezogen werden kann.
Ein Gesetz, das vor der Ära der algorithmischen Feeds verfasst wurde
Abschnitt 230 sieht grundsätzlich vor, dass ein interaktiver Computer-Dienst nicht als Herausgeber oder Sprecher von Informationen eines anderen Informationsanbieters gelten kann. Der Kongress erließ diese Bestimmung 1996, lange bevor Empfehlungssysteme eine zentrale Rolle in sozialen Medien und Videoplattformen spielten. Die Akte zu Gonzalez enthält zahlreiche Schriftsätze, in denen die Frage erörtert wird, ob algorithmisches Ranking lediglich die moderne Form redaktioneller Auswahl darstellt oder eine eigenständige Produktfunktion, die nicht unter das Gesetz fällt.
Während der Anhörung am Dienstag äußerten die Richter ihre Besorgnis darüber, dass die von beiden Seiten vorgeschlagene Regelung weit über YouTube hinausgehende Folgen haben könnte. Suchmaschinen, Online-Marktplätze, soziale Netzwerke, Newsfeeds und selbst einfache Website-Menüs nutzen automatisierte Systeme, um Inhalte zu sortieren oder zu empfehlen. Eine Regelung, die die Empfehlung selbst untersagt, indem sie den Schutz nach Abschnitt 230 aufhebt, könnte Plattformen einem deutlich höheren Klageaufkommen aussetzen, sobald Inhalte Dritter zu einem mutmaßlichen Schaden beitragen.
Die Bundesregierung nahm eine Mittelposition ein. In ihrer Stellungnahme als Sachverständigeargumentierte das Justizministerium, dass Paragraph 230 nicht jede Empfehlung kategorisch schütze, nur weil sie Inhalte Dritter betreffe. Gleichzeitig lehnte sie jedoch eine Regelung ab, die das übliche Sortieren oder Empfehlen von Inhalten automatisch für rechtswidrig erklären würde. Die Regierung forderte das Gericht auf, zwischen Klagen zu unterscheiden, die eine Plattform als Herausgeber haftbar machen sollen, und Klagen, die sich gegen das eigene Verhalten der Plattform richten.
Die Frage nach dem Algorithmus erweist sich als schwierig
Die praktische Herausforderung wurde deutlich, als die Richter die Anwälte nach Beispielen drängten. Eine Plattform muss einen Mechanismus verwenden, um festzulegen, was zuerst angezeigt, was gruppiert und was dem Nutzer als Nächstes präsentiert wird. Alphabetische Listen, chronologische Feeds und personalisierte Rankings beinhalten allesamt Regeln für die Informationsdarstellung. Die Frage ist, ob eine personalisierte Empfehlung etwas vermittelt, das der Plattform selbst zuzuschreiben ist, oder ob sie lediglich Inhalte Dritter gemäß einem automatisierten redaktionellen Prozess anzeigt.
Die Tonaufzeichnung des Gerichts zeugt von einer bemerkenswert vorsichtigen Haltung der Richter. Mehrere Richter stellten infrage, ob sich die Argumentation der Kläger auf schädliche terroristische Inhalte beschränken lasse oder sich auf das gesamte Internet erstrecken könne. Andere hinterfragten Googles Position, dass Empfehlungen stets geschützt seien, wenn das zugrundeliegende Element von jemand anderem erstellt wurde.
Der Fall wird aufmerksam verfolgt, da die unteren Gerichte Paragraph 230 im Allgemeinen weit ausgelegt und Klagen, die Plattformen für das Hosten, Organisieren oder Empfehlen nutzergenerierter Inhalte haftbar machen wollen, häufig abgewiesen haben. Eine engere Auslegung durch den Obersten Gerichtshof würde zwar nicht selbst entscheiden, ob Google letztendlich für den Anschlag in Paris haftbar ist, könnte aber dazu führen, dass mehr Klagen über einen frühen Abweisungsantrag hinaus in die Beweisaufnahme gelangen.
Ein zweiter Fall lenkt die Aufmerksamkeit auf das Terrorismusrecht
Einen Tag nach dem Fall Gonzalezverhandelte der Gerichtshof den Fall Twitter gegen Taamneh, einen damit zusammenhängenden Streitfall, der darüber entscheiden könnte, ob die Frage des Paragraphen 230 überhaupt relevant ist. Im Fall Taamneh geht es um das Anti-Terrorismus-Gesetz und die Frage, ob Social-Media-Unternehmen für Beihilfe zum Terrorismus haftbar gemacht werden können, weil terroristische Organisationen ihre weit verbreiteten Dienste genutzt haben.
Der Fall Taamneh wirft eine andere grundlegende Frage auf: Was bedeutet es für ein Unternehmen, wissentlich „wesentliche Unterstützung“ eines internationalen Terrorakts zu leisten, wenn dieselbe Plattform Milliarden von Nutzern zur Verfügung steht? Sollte das Gericht zu dem Schluss kommen, dass die Kläger die Haftung für Beihilfe nach dem Terrorismusgesetz nicht ausreichend dargelegt haben, könnte es den Rechtsstreit beilegen, ohne eine weitreichende Auslegung von Paragraph 230 zu verkünden.
Die Reihenfolge der Verfahren ist von Bedeutung. Der Gerichtshof setzte beide Streitfälle gemeinsam auf seine Verhandlungsliste, und die Richter bezogen sich wiederholt auf die beiden Fälle. Diese Zusammenlegung eröffnet dem Gerichtshof möglicherweise einen begrenzten Weg: Zunächst die Frage des gesetzlichen Terrorismusvorwurfs klären und anschließend entscheiden, ob eine weitreichende Entscheidung zur Plattformimmunität erforderlich ist.
Mögliche Folgen für die Technologiebranche
Für Technologieunternehmen geht es sowohl um operative als auch um rechtliche Aspekte. Personalisierte Rankings sind ein Kernmerkmal moderner digitaler Produkte. Empfehlungssysteme bestimmen, welche Videos, Beiträge, Produkte und Werbeanzeigen Nutzern angezeigt werden, und Unternehmen optimieren diese Systeme kontinuierlich mithilfe von Interaktionssignalen und Modellen des maschinellen Lernens. Sollten Empfehlungen eine direkte Haftung unabhängig vom Inhalt selbst begründen können, müssen Plattformen ihre Moderations-, Ranking- und Dokumentationspraktiken möglicherweise im Hinblick auf dieses neue Rechtsstreitrisiko überarbeiten.
Gleichzeitig argumentieren die Kläger und ihre Unterstützer, dass die weitreichende Immunität es Plattformen ermöglicht habe, sich der Verantwortung für ihre eigenen Produktentscheidungen zu entziehen. Ihre Theorie konzentriert sich nicht auf die bloße Existenz schädlicher Äußerungen Dritter, sondern auf Software, die diese Äußerungen auswählt und bestimmten Nutzern zugänglich macht. Diese Unterscheidung ist technologisch bedeutsam, auch wenn die rechtliche Abgrenzung weiterhin schwierig zu definieren ist.
Der Gerichtshof hat noch keinen Zeitpunkt für seine Entscheidung genannt. Laut seinem Archiv der Argumente befinden sich die Fälle in einer Amtszeit, die bereits von folgenreichen Streitigkeiten über die Regulierungsbefugnisse des Bundes geprägt ist. Für den Technologiesektor sind jedoch kaum einige Fragen von grundlegender Bedeutung. Paragraph 230 trug dazu bei, ein rechtliches Umfeld zu schaffen, in dem Plattformen wachsen konnten, ohne für jeden von Nutzern veröffentlichten Inhalt die Haftung eines Verlags übernehmen zu müssen. Die Richter müssen nun entscheiden, wie dieser Rahmen auf ein Internet anwendbar ist, das zunehmend nicht mehr von statischen Seiten, sondern von Algorithmen organisiert wird, die Milliarden von Empfehlungen in Echtzeit generieren.