Apple hat klargestellt, dass Apps, die Menschenhandel oder die Ausbeutung von Kindern fördern, aus dem App Store entfernt und von alternativen Vertriebswegen ausgeschlossen werden. Die Änderungenverstärken zudem den Schutz vor nicht einvernehmlichen intimen Bildern und Apps, die ihre tatsächliche Funktion verschleiern. Die Überarbeitungen legen die Konsequenzen sowohl für schädliche Inhalte als auch für Versuche, Apples Prüfverfahren zu umgehen, fest.

Apple beschreibt die Bestimmung zum Thema Menschenhandel als Präzisierung eines bestehenden Verbots. In einer separaten Erklärunggab das Unternehmen an, dass sein App Store schon immer Apps verboten habe, die Menschenhandel oder Kindesmissbrauch, einschließlich kinderpornografischem Material, fördern. Die Ankündigung nennt weder eine neue Gruppe von beanstandeten Apps noch die Anzahl der durch dieses Update entfernten Apps.

Einschränkungen jenseits des App Stores

Gemäß Abschnitt 5gibt Apple an, in solchen Extremfällen die zuständigen Behörden zu benachrichtigen. Die Vertriebssperre geht über den Verlust des App-Store-Eintrags hinaus. Apples Erklärung nennt ausdrücklich kinderpornografisches Material als von dem bestehenden Verbot erfasst.

Der alternative Vertrieb erfolgt innerhalb eines separaten Genehmigungsverfahrens von Apple. Laut Apples Leitfaden zur Beglaubigung können Entwickler Apps zur Bewertung nach einem Teil der Prüfrichtlinien einreichen, um sie für alternative Vertriebskanäle zu qualifizieren, darunter Drittanbieter-Marktplätze und – in der Europäischen Union – ihre eigenen Websites. Zusammengenommen belegen die Dokumente, dass das Verlassen des App Stores keine Ausnahme von diesen Beschränkungen innerhalb von Apples Vertriebssystem darstellt; sie beschreiben jedoch keine Befugnis, eine App oder einen Dienst aus dem Internet zu entfernen.

KI-Bildgebung bringt explizite Verpflichtungen mit sich

Die aktualisierten Moderationsrichtlinien beziehen sich insbesondere auf intime Bilder, die ohne Einwilligung der abgebildeten Person erstellt wurden, einschließlich KI-generiertem Material. Apple fordert Entwickler auf, solche Inhalte proaktiv zu verhindern und zu entfernen, sobald sie auftauchen. Wie The Verge berichtete, können unzureichende Sicherheitsvorkehrungen oder das Versäumnis, Verstöße nach einer Meldung zu beheben, die weitere Verfügbarkeit einer App gefährden.

Der Text der Richtlinie 1.2 bezieht sich ausdrücklich auf soziale Medien, Plattformen für nutzergenerierte Inhalte und KI-gestützte Content-Erstellungs-Apps. Zu den Anforderungen gehören das Filtern anstößiger Inhalte, die Bereitstellung eines Meldemechanismus mit zeitnahen Reaktionszeiten, die Möglichkeit für Nutzer, missbräuchliche Konten zu blockieren, und die Veröffentlichung von Kontaktinformationen. Entwickler bleiben weiterhin für die Entfernung von Inhalten verantwortlich, die gegen die Richtlinie oder ihre eigenen Standards verstoßen.

Versteckte Funktionen können einem Entwickler sein Konto kosten

Apple hat dem Verbot versteckter Funktionen eine eigene Bestimmung gewidmet, die Richtlinie 2.5.19. Laut Änderungsprotokoll des Unternehmens bekräftigt diese Richtlinie eine langjährige Regelung, die zuvor in Richtlinie 2.3.1 behandelt wurde. Konkret geht es um Apps, die zur Überprüfung einen Funktionsumfang präsentieren und nach der Genehmigung andere, nicht offengelegte Funktionen preisgeben.

Die neue Bestimmung nennt Versuche, undokumentierte Funktionen zu verbergen, beispielsweise durch Code-Verschleierung, als Grund für die Entfernung der App und die Kündigung des Entwicklerkontos. 9to5Mac merkte an, dass das zugrundeliegende Verbot bereits existierte, die überarbeitete Formulierung die Konsequenzen und Verschleierungsmethoden jedoch deutlicher macht. Apples begleitende Erklärung nennt Apps, die missbräuchliche Bildgenerierungsfunktionen erst nach bestandener Prüfung offenbaren, als Beispiel für das angestrebte Verhalten.

Die Durchsetzung bleibt der praktische Test

Apples festgelegtes Durchsetzungsverfahren sieht die Anforderung der Entfernung von Inhalten und eines Maßnahmenplans zur Einhaltung der Richtlinien vor. Eine App kann bis zur Behebung der Mängel entfernt werden. Schwerwiegendes oder wiederholtes Fehlverhalten kann zur sofortigen Entfernung aus dem App Store und zum Ausschluss aus Apples Entwicklerprogramm führen; dies sind Richtlinienbestimmungen und kein Beleg für deren Anwendung im Einzelfall.

Das umfassendere Update enthält außerdem eine Regel für kreative Inhalte und überarbeitet die Formulierungen zu externen Kauflinks. Entwickler können die überarbeiteten englischsprachigen Richtlinien nun einsehen; Apple verspricht Übersetzungen innerhalb eines Monats. Bezüglich der Sicherheitsänderungen sind dokumentierte Durchsetzungsentscheidungen erforderlich, um die Anwendung der präzisierten Regeln zu beurteilen.