- Damals im Februar 2021 war Wochenende und zugleich Pandemiezeit, daher sagte eine Pflegekraft, man könne für die Notfallbehandlung Videos/Fotos aufnehmen und schicken, damit ein Arzt sie vorab prüfen könne
- Da sich die schmerzende Stelle des Babys an einer "intimen Körperstelle" befand, machte der Vater gut erkennbare Fotos und schickte sie ab; nach der Prüfung verschrieb der Arzt rasch Antibiotika, und das Problem war schnell gelöst
- Wegen dieser Fotos wurde er jedoch von Googles Algorithmus als jemand eingestuft, der CSAM (Material über sexuellen Missbrauch von Kindern) austauscht, und sein Google-Konto wurde gesperrt
- Gmail seit über 10 Jahren, Google Kalender, auf der Google Cloud gesicherte Fotos und Videos, und als Telefonanbieter Google Fi
- Ausgerechnet der Betroffene, Mark, war Softwareentwickler bei einem Tech-Unternehmen und arbeitete an Automatisierungstools zum Entfernen von von Nutzern gemeldeten Videoinhalten
- Deshalb dachte er, hinter solchen Vorgängen stünden Menschen, damit Computerfehler korrigiert werden können, und dass sich das Problem lösen würde, sobald ein Mensch den Fall ansieht
- Er schickte eine E-Mail zur Erklärung, doch Google antwortete, dass das Konto ohne weitere Erläuterung nicht wiederhergestellt werde
- Sein gesamter E-Mail-Verlauf, Fotos und Kontakte waren weg, und er musste sogar seine Telefonnummer ändern
- Was Mark nicht wusste: Googles Prüferteam hatte die von ihm erstellten Bilder bereits gemeldet, woraufhin die Polizei von San Francisco Ermittlungen gegen ihn aufnahm
- Ein ähnlicher Fall traf auch jemanden in Texas namens Cassio
- 2021 gingen bei Google mehr als 600.000 CSAM-Meldungen ein, und 270.000 Konten wurden deaktiviert
- 2009 entwickelte Microsoft die PhotoDNA-Technologie, und 2018 entwickelte Google ein KI-Tool, das CSAM-Bilder erkennen kann
- Mehrere Unternehmen, darunter Facebook, nutzen diese Technologie
- Im Dezember 2021 erhielt Mark Post von der Polizei von San Francisco
- Darin stand, dass gegen ihn ermittelt worden war, zusammen mit einer Kopie des an Google übermittelten Durchsuchungsbefehls
- Alles in Marks Google-Konto wurde untersucht, darunter Internetsuchen, Standortverlauf, Nachrichten, Dokumente, Fotos und Videos
- Diese Durchsuchung erfolgte bereits eine Woche nach den im Februar aufgenommenen Fotos
- Als Mark den Ermittler kontaktierte, sagte dieser, das Verfahren sei bereits mangels Tatverdachts eingestellt worden
- Der Ermittler habe Mark kontaktieren wollen, aber weder telefonisch noch per E-Mail erreichen können (weil alles gesperrt war)
- Auf die Frage, ob sich über den Ermittler das Google-Konto wiederherstellen lasse, bekam er nur die Antwort: "Sie müssen mit Google sprechen"
- Er reichte diesen Polizeibericht bei Google ein, aber ohne Erfolg
- Auch bei Cassio wurde die Angelegenheit auf dieselbe Weise geklärt, doch das Google-Konto ließ sich ebenfalls nicht wiederherstellen
- Kann KI medizinische Bilder von Missbrauchsbildern unterscheiden?
8 Kommentare
Schließlich wurde nun auch in den hiesigen Nachrichten unter Berufung auf die New York Times darüber berichtet.
„Google stempelt Vater, der zur Behandlung die Genitalien seines kleinen Sohns fotografierte, als Sexualstraftäter ab“
So wie Wissenschaftler nach dem Anblick der Atombombe vor 70 Jahren begonnen haben, die Wissenschaft selbstkritisch zu überwachen, scheint nun auch für Entwickler die Zeit gekommen zu sein, eine ähnliche Selbstkontrolle gegenüber großen Tech-Konzernen zu entwickeln.
Wäre das nicht schon ein Fall für eine Klage ..?
Laut dem archivierten Originalartikel hat Mark zwar auch mit einem Anwalt besprochen, ob er Google verklagen könne, es dann aber offenbar aufgegeben, nachdem er erfahren hatte, dass dies etwa 7.000 Dollar kosten würde.
Selbst eine tiefe Verbeugung zur Entschuldigung wäre hier wohl noch nicht genug....
Wow, dafür sollte man eher eine Entschädigung für den verursachten Schaden bekommen müssen. Versucht man etwa, das zu vertuschen, indem man so reagiert?
Googles Reaktion und Vorgehen sind ziemlich unterirdisch..
Apple führt neue Sicherheitsfunktionen zum Schutz von Kindern ein
Apple bedauert die Kontroverse um das „iPhone-Scanning“