Apple gibt Plan für CSAM-Scans in iCloud auf
(wired.com)Im August 2021 kündigte Apple an, zum Schutz von Kindern zwei neue Sicherheitsfunktionen in seine Produkte einzuführen.
Eine davon sollte beim Hochladen von Fotos in iCloud anhand von Bild-Hashes erkennen, ob es sich um CSAM (Darstellungen sexuellen Kindesmissbrauchs) handelt; die andere sollte eine Filterfunktion hinzufügen, die ein Bild ausblendet und warnt, wenn erkannt wird, dass Minderjährige über iMessage obszöne Fotos empfangen oder versenden.
Diese Ankündigung löste große Kontroversen aus. Sofort wurden selbst innerhalb von Apple Bedenken laut, und zahlreiche Organisationen und Einzelpersonen, darunter die EFF (Electronic Frontier Foundation), unterzeichneten einen offenen Brief dagegen. Auch hier auf GeekNews erschienen mehrere Beiträge dazu.
Apple erklärte dazu, die Annahme eines Eingriffs in die Privatsphäre sei ein Missverständnis, doch die Kontroversen und Sorgen legten sich nicht so leicht. Tatsächlich machte später ein Bericht der New York Times über einen Fall, in dem jemand durch einseitige Maßnahmen infolge von Googles CSAM-Erkennungsalgorithmus geschädigt wurde, deutlich, dass diese Sorgen keineswegs unbegründet waren.
- Apple führt neue Sicherheitsfunktionen zum Schutz von Kindern ein
- Apple bedauert die Kontroverse um das „iPhone-Scanning“
- Apple verschiebt die Einführung der iCloud-Fotoscan-Funktion zum Schutz von Kindern
- CSAM: Was genau beunruhigt die Menschen an Apple?
- Google stufte einen Vater, der Fotos der Wunde seines kranken Babys machte, als Kriminellen ein
Wie Apple nun gegenüber WIRED erklärte, wurde der Plan aufgegeben, beim Hochladen von Fotos in iCloud auf CSAM zu prüfen.
Stattdessen will das Unternehmen die Filterfunktion weiter ausbauen, die warnt, wenn Minderjährige obszöne Fotos empfangen oder versenden. Konkret wird daran geforscht, diese Funktion nicht nur für Fotos, sondern auch für Videos bereitzustellen; außerdem soll diese On-Device-Machine-Learning-basierte CSAM-Erkennung künftig auch in anderen Apps außer iMessage nutzbar sein. Und wohl auch, um neue Kontroversen zu vermeiden, wird betont, dass diese Funktionen standardmäßig deaktiviert sind (Opt-in) und Apple von solchen Erkennungen nichts erfährt.
Womöglich auch wegen der heftigen Kontroverse im vergangenen Jahr scheint Apple den Plan, in die Cloud hochgeladene Fotos zu scannen, vollständig verworfen zu haben und stattdessen auf eine weitere Entwicklung von Funktionen zu setzen, die CSAM direkt auf dem Gerät filtern. Da jedoch auch Zensur durch On-Device-Machine-Learning schon damals zu den zentralen Streitpunkten gehörte, dürfte Apples jetziger Schritt kaum ausreichen, um die damit verbundenen Kontroversen und Sorgen vollständig zu beruhigen.
3 Kommentare
Als ich den Fall bei Google gesehen habe, habe ich mir Sorgen gemacht. Umso erleichternder ist es, dass Apple davon Abstand nimmt.
Solche Beiträge mit persönlicher Meinung sind auch richtig gut.
Danke für die übersichtliche Zusammenfassung!