Apple kündigte am Donnerstag ein neues Kindersicherheitssystem an, das Fotos, die für iCloud-Fotos bestimmt sind, mit kryptografischen Fingerabdrücken von bekanntem kinderpornografischem Material vergleicht, bevor die Bilder das Gerät des Benutzers verlassen. Laut Apple kann diese technische Änderung illegales Material identifizieren und gleichzeitig die Privatsphäre wahren, hat aber sofort Sicherheitsforscher und Bürgerrechtler alarmiert.

Das geplante System ist eine von drei Schutzfunktionen, die Apple im Laufe des Jahres per Software-Update einführen will. Das Unternehmen wird außerdem eine geräteinterne Analyse von sexuell expliziten Bildern hinzufügen, die von Kinderkonten in der Nachrichten-App gesendet oder empfangen werden, und die Siri- und Suchantworten erweitern, um Nutzer auf Ressourcen zum Thema Kindersicherheit hinzuweisen. Laut einem Bericht von MacRumors sollen die Funktionen zunächst in den USA mit iOS 15, iPadOS 15 und macOS Monterey eingeführt werden.

NeuralHash verlagert den Inhaltsabgleich auf das Gerät

Die wichtigste Funktion betrifft iCloud-Fotos. Apple gibt an, dass sein System eine Technologie namens NeuralHash nutzt, um eine numerische Repräsentation eines Bildes zu erstellen. Bevor ein Foto in iCloud-Fotos gespeichert wird, vergleicht das Gerät dessen Hashwert mit einer unlesbaren Datenbank. Diese Datenbank basiert auf Hashwerten bekannter Fälle von Kindesmissbrauch, die vom National Center for Missing & Exploited Children und anderen Kinderschutzorganisationen bereitgestellt werden.

Apples technische Zusammenfassung beschreibt eine Kombination aus NeuralHash, privater Schnittmengenbildung und Schwellenwert-Secret-Sharing, die verhindern soll, dass Apple gewöhnliche Fotos oder einzelne Treffer erkennt. Stimmt ein Bild mit einem bekannten CSAM-Hash überein, erstellt das Gerät einen verschlüsselten Sicherheitsgutschein, der zusammen mit dem Bild in iCloud gespeichert wird. Apple gibt an, diese Gutscheine erst dann interpretieren zu können, wenn ein Konto eine bestimmte Anzahl von Treffern überschreitet.

Erst wenn dieser Schwellenwert überschritten ist, entschlüsselt Apple die mit den übereinstimmenden Bildern verknüpften Informationen, führt eine manuelle Überprüfung durch, deaktiviert gegebenenfalls ein Konto, falls sich das Material bestätigt, und meldet den Vorfall dem NCMEC. Laut Apple minimiert diese Architektur die Wahrscheinlichkeit einer fälschlichen Kennzeichnung eines Kontos und bietet einen besseren Datenschutz als das Scannen jeder einzelnen Datei nach deren Speicherung auf einem Cloud-Server.

Die technische Erklärung von TechCrunch weist auf eine wichtige Einschränkung hin: Das System ist an iCloud-Fotos gekoppelt. Nutzer, die keine Fotos in den Dienst hochladen, unterliegen nicht dem CSAM-Abgleichverfahren für Bilder, die ausschließlich auf ihrem Gerät gespeichert sind.

Das Kindersicherheitspaket enthält zwei separate Scansysteme

Das iCloud-System unterscheidet sich von einer weiteren Funktion der Nachrichten-App. Für Kinderkonten in der iCloud-Familienfreigabe plant Apple, mithilfe von maschinellem Lernen auf dem Gerät Bilder zu erkennen, die sexuell explizit erscheinen. Das Bild kann unkenntlich gemacht und das Kind vor dem Ansehen oder Versenden gewarnt werden. In manchen Fällen, insbesondere bei jüngeren Kindern, können die Eltern benachrichtigt werden, wenn das Kind das Bild dennoch ansehen möchte.

Ein zeitgleich veröffentlichter Bericht von 9to5Mac hebt hervor, dass Apple versichert, iMessage bleibe Ende-zu-Ende-verschlüsselt, da die Bildklassifizierung auf dem Gerät und nicht auf Apples Servern erfolge. Das Unternehmen integriert außerdem Maßnahmen in Siri und die Suche, um Nutzer bei der Suche nach Material oder Informationen im Zusammenhang mit Kindesmissbrauch zu unterstützen.

Es handelt sich technisch gesehen um separate Systeme mit unterschiedlichen Zwecken: Das eine gleicht iCloud-Fotos mit Hashes bereits bekannter illegaler Inhalte ab, das andere klassifiziert potenziell anstößige Bilder in der Kommunikation mit Kindern. Ihre gleichzeitige Ankündigung hat jedoch dazu geführt, dass sie gemeinsam als umfassendere Änderung der lokal auf Apple-Geräten überprüften Inhalte diskutiert werden.

Datenschützer befürchten, dass der Mechanismus umfunktioniert werden kann

Der stärkste Kritikpunkt ist nicht Apples Absicht, nach Material mit Kindesmissbrauchsbezug zu suchen. Vielmehr liegt die Kritik darin, dass die Schaffung eines Mechanismus zum Abgleich von Inhalten auf persönlichen Geräten eine Architektur etablieren könnte, die Regierungen oder zukünftige Unternehmensrichtlinien möglicherweise ausweiten könnten.

Die Electronic Frontier Foundation (EFF) argumentierte in einer Analyse , dass clientseitige Überprüfung die praktische Wirksamkeit privater Kommunikation schwächt, selbst wenn die Verschlüsselung die Nachrichten während der Übertragung weiterhin schützt. Die EFF befürchtet, dass, sobald Software Inhalte vor der Verschlüsselung oder Speicherung in der Cloud anhand einer Datenbank oder eines Klassifikators bewerten kann, derselbe grundlegende Mechanismus theoretisch auch auf andere Materialkategorien angewendet werden könnte.

Apple betont, dass die CSAM-Datenbank eng definiert sei, dass für den Abgleich Hashwerte anerkannter Kinderschutzorganisationen verwendet würden, dass Nutzer nicht durch normale Serveranweisungen gezielt angesprochen werden könnten und dass eine menschliche Überprüfung eine zusätzliche Sicherheitsmaßnahme darstelle, bevor ein Konto gemeldet werde. Das Unternehmen präsentiert diese Kontrollmechanismen als technische Barrieren gegen die von Kritikern befürchtete Ausweitung der Aufgaben.

Sicherheitsforscher stellen jedoch eine grundsätzlichere Frage der Governance: Kann ein von einem Unternehmen entwickelter und kontrollierter Schutzmechanismus auch dann noch so eng gefasst bleiben, wenn Regierungen Änderungen fordern? Einem Bericht von AppleInsider zufolge versucht das Unternehmen, die Privatsphäre der Nutzer durch geräteinterne Abgleiche und verschlüsselte Gutscheine zu schützen, räumt aber gleichzeitig ein, dass die Architektur bereits Bedenken hinsichtlich zukünftiger Überwachung aufwirft.

Apple verteidigt das System, bevor es überhaupt ausgeliefert wurde

Die Kritik setzte fast unmittelbar nach Bekanntwerden der Details ein. Bereits am Freitag bestätigte ein internes Apple-Memo, das 9to5Mac , dass einige Mitarbeiter Bedenken hinsichtlich der Auswirkungen äußerten, und erklärte, das Unternehmen werde weiterhin erläutern, wie die Schutzmaßnahmen funktionieren. In dem Memo wurde das Projekt als Versuch dargestellt, Kinder zu schützen, ohne Apples Verpflichtung zum Datenschutz aufzugeben.

Kritiker warten nicht auf die Veröffentlichung. Ein offener Brief, der bis Freitag kursierte und von AppleInsider , forderte Apple auf, den Plan zu stoppen. Die Kritiker argumentierten, dass selbst ein gut gemeintes System eine Hintertür schaffe, die den umfassenden Datenschutz untergraben könne. Der Streit hat schnell Technologieexperten, Bürgerrechtsgruppen und Persönlichkeiten des öffentlichen Lebens in eine Debatte über die Grenze zwischen Sicherheitsfunktionen und gerätebasierter Überwachung hineingezogen.

Die Entscheidung könnte die Vertrauenswürdigkeit verschlüsselter Systeme neu definieren

Die technische Bedeutung reicht über Apple hinaus. Jahrelang drehte sich die zentrale Debatte um Verschlüsselung darum, ob Regierungen nach der Verschlüsselung einen Sonderzugriff auf Kommunikation erhalten sollten. Apples Ansatz geht das Problem aus einem anderen Blickwinkel an: Bestimmte Inhalte werden geprüft, bevor sie durch Cloud-Speicher geschützt werden oder solange sie noch für Software auf dem Endgerät verfügbar sind.

Diese Unterscheidung könnte sich als entscheidend erweisen. Apple argumentiert, dass sein Design ein eng definiertes Sicherheitsziel ermöglicht, ohne private Daten umfassend preiszugeben. Kritiker hingegen argumentieren, dass die Endpunktprüfung die Privatsphäre untergraben kann, selbst wenn der Verschlüsselungsalgorithmus selbst mathematisch intakt bleibt.

Das System ist noch nicht ausgeliefert, und seine praktischen Sicherheitsvorkehrungen wurden noch nicht im großen Maßstab getestet. Apple steht daher vor der Markteinführung vor zwei technischen Herausforderungen: dem Nachweis, dass das Abgleich- und Schwellenwertsystem die versprochene Genauigkeit aufweist, und der Überzeugung der Nutzer, dass der Mechanismus nicht über den engen Anwendungsbereich hinaus missbraucht werden kann, für den er entwickelt wurde.

Das Unternehmen hat seine moderne Marke maßgeblich auf der Idee aufgebaut, dass Datenschutz ein zentrales Produktmerkmal ist. Die Ankündigung dieser Woche stellt dieses Versprechen auf eine ungewöhnlich schwierige Probe. Apple versucht zu beweisen, dass ein Gerät bekanntes kinderpornografisches Material identifizieren kann, ohne zu einem universellen Überwachungssystem zu werden. Ob Nutzer und Sicherheitsexperten diese Unterscheidung akzeptieren, könnte nicht nur die Rezeption von iOS 15 beeinflussen, sondern auch die breitere Debatte darüber, wo die Privatsphäre auf einem Gerät endet, das leistungsstark genug ist, die Daten seines Besitzers zu analysieren, bevor sie jemand anderes einsehen kann.