2605728

Apples NeuralHash analyisiert: Kinderporno-Scan offenbar seit iOS 14.3 aktiv

18.08.2021 | 15:40 Uhr | Stephan Wiesend

Wie eine erste Analyse zu zeigen scheint, hat Apple die Scan-Technologie hinter NeuralHash wohl schon ab iOS 14.3 getestet.

Nachdem Apple seinen neuen NeuralHash-Algorithmus vorgestellt hatte, war es wohl nur eine Frage der Zeit, bis er genauer analysiert wird. Wie nun etwa Asushariet Ygvar auf Reddit berichtet , soll eine dieser Technologien sogar schon unerkannt seit iOS 14.3 im System nachweisbar sein. Dem Entwickler ist es anscheinend gelungen, diese versteckten Systemdaten zu exportieren und in Python nachzubilden. Die Ergebnisse wurden bereits auf Github veröffentlicht und Apple KI-Modell kann sogar auf Linux ausprobiert werden, etwa mit dem Tool ONNX.

Theoretisch kann so sogar das Modell von Apples PrĂŒfung exportiert werden, das anscheinend auf MobileNetV3 basiert. Wie von Apple in seiner Dokumentation erlĂ€utert, werden mit dem Tool Bilddateien auf Basis eines Neuralen Netzes ĂŒberprĂŒft. Laut Analyse wird dabei eine Bilddatei unter anderem in eine verkleinerte Datei konvertiert und eine Bildmatrix erstellt. Auf deren Grundlage wird dann der Hashwert erstellt, der mit der Datenbank von der Organisation wie National Center for Missing and Exploited Children (NCMEC) abgeglichen wird. Dass es sich wirklich um Apples Scanfunktion handelt, bestĂ€tigen einige Besonderheiten. Wie in Apples Dokumentation offengelegt, werden auch Bilder mit verĂ€nderter Auflösung oder Kompression erkannt – beschnittene oder rotierte aber möglicherweise nicht.

Wie in der Diskussion auf Reddit ergÀnzt wurde, handelt es sich aber vermutlich nur um einen der Analyseschritte, es gibt vermutlich noch weitere Zusatzroutinen. Interessant ist aber, dass Apple seinen Algorithmus offenbar schon sehr lange testet.

Unsere Meinung:

Eine Anmerkung zu dem Beitrag auf Reddit: In dem Beitrag und den Kommentaren wird Apple deutlich kritisiert, nach unserer Meinung aber zu Unrecht. GrundsĂ€tzlich sollte man anerkennen, dass Apple sich hier sehr um Transparenz bemĂŒht und es sich bei der Entwicklung nicht leicht gemacht hat.

Macwelt Marktplatz

2605728