Kinderporno-Scan: Apple hofft auf ein Missverständnis

Überraschend hat Apple am Donnerstag über eine neue Initiative zum Schutz von Kindern informiert, die Fotos von mehreren hundert Millionen iPhone-Nutzern bereits auf deren Geräten scannen und lokal auf verdächtige Inhalte hin prüfen soll, noch bevor diese ihren Weg in Apples iCloud-Speicher antreten.

Apples Veröffentlichungen zum Thema, die der Konzern auf dieser Sonderseite zum Download anbietet, sorgten jedoch nicht nur für Zuspruch, sondern ließen auch viele kritische Stimmen aus Wissenschaft, IT-Sicherheit und der Krypto-Community laut werden. ifun.de berichtete:

• Kinderporno-Scan auf allen iPhones: Apple erntet Kritik von allen Seiten

Grundsätzliche und spezifische Kritik

Neben der grundsätzlichen Kritik daran, dass Apple dem iPhone so eine Hintertür verpasst, die von totalitären Regime auch zum Auffinden ganz andere Inhalte genutzt werden könnte, sind viele Kritiker auch mit Apples konkreter Implementierung nicht einverstanden.

Bei der Suche nach illegalem Bildmaterial prüft Apples System nämlich nicht nur auf spezifische Fotos mit eindeutigen Fingerabdrücken sondern besitzt ein gewisses Maß an Spiel (Stichwort: perceptual hashes), um auch leicht modifizierte Bilder zu erkennen. Ein Verfahren, das anfällig für Falsch-Positiv-Meldungen ist.

Perceptual Hashes: Andere Inhalte, ähnliche Hash-Werte

Sichtkontrollen durch Apple-Mitarbeiter

Ausgerechnet hier argumentiert Apple dann mit Sichtprüfungen: Sollte die neue Fotoerkennung bei einem Anwender anschlagen, würden Apple-Mitarbeiter die fragliche Bild-Dateien persönlich in Augenschein nehmen, ehe die zuständigen Behörden kontaktiert werden.

Die Befürchtung: Im Zweifelsfall könnten Apple-Mitarbeiter fortan explizite Darstellungen eurer Partner oder ganz private Selfies sichten, wenn diese von den eingesetzten Algorithmen fälschlicherweise als vermeintlich problematische Bildinhalte markiert wurden.

Auf Foto-Treffer folgt eine Sichtkontrolle durch Apple-Mitarbeiter

Apple hofft auf Missverständnis

Ausnahme-Beispiele, von denen sich Cupertino nicht beeindrucken lässt. So hat der Konzern im Nachgang an den seit gestern tobenden Sturm der Entrüstung ein internes Mitarbeiter-Memo verfasst, in dem der Belegschaft versichert wird, dass die neuen Funktionen nur besser erklärt werden müssten, um den Missverständnissen zu begegnen denen die Kritiker unterliegen.

Apple will berechtigte Länder auswählen

Zudem hat Apple gegenüber mehreren US-Medienvertretern verlauten lassen, dass die Funktion vorerst ausschließlich in den Vereinigten Staaten bereitgestellt wird und weiteren Ländern erst nach vorhergehender rechtlicher Prüfung durch Apple offeriert werden soll.

Das Mitarbeiter-Memo des Apple-Managers Sebastien Marineau-Mes, dem eine zusätzliche Grußnote des „National Center for Missing & Exploited Children“ (NCMEC) beilag, haben wir im Anschluss eingebettet.

Heute wird der erweiterte Schutz für Kinder offiziell vorgestellt, und ich möchte mich bei jedem Einzelnen von Ihnen für Ihre harte Arbeit in den letzten Jahren bedanken. Ohne Ihren unermüdlichen Einsatz und Ihr Durchhaltevermögen hätten wir diesen Meilenstein nicht erreichen können.

Die Sicherheit der Kinder ist eine so wichtige Aufgabe. Wie es sich für Apple gehört, war zur Erreichung dieses Ziels ein starkes funktionsübergreifendes Engagement erforderlich, das die Bereiche Technik, allgemeine Verwaltung, Personalwesen, Recht, Produktmarketing und PR umfasst. Was wir heute ankündigen, ist das Ergebnis dieser unglaublichen Zusammenarbeit, die Werkzeuge zum Schutz von Kindern bereitstellt und gleichzeitig Apples Engagement für die Privatsphäre der Nutzer aufrechterhält.

Wir haben heute viele positive Reaktionen erhalten. Wir wissen, dass einige Leute Missverständnisse haben und nicht wenige sind besorgt über die Auswirkungen, aber wir werden weiterhin die Funktionen erklären und detailliert beschreiben, damit die Leute verstehen, was wir aufgebaut haben. Und während noch viel harte Arbeit vor uns liegt, um die Funktionen in den nächsten Monaten bereitzustellen, wollte ich diese Mitteilung weitergeben, die wir heute vom NCMEC erhalten haben. Ich fand sie unglaublich motivierend und hoffe, dass Sie das auch tun.

Ich bin stolz darauf, bei Apple mit einem so tollen Team zu arbeiten. Ich danke Ihnen!