- Die Europäische Bürgerbeauftragte hat es als „maladministration“ bewertet, dass die European Commission bei der Beantwortung einer Dokumentenanfrage zur CSAM-Regulierung die Existenz einer Liste von Unternehmen verschwieg, von denen sie technischen Rat eingeholt hatte
- Diese Liste betraf Ansprechpartner für Beratung dazu, ob CSAM ohne Beeinträchtigung von Verschlüsselung erkannt werden kann, und fiel nach Einschätzung der Bürgerbeauftragten eindeutig in den Umfang der Dokumentenanfrage des ICCL
- Public-Interest-Technologen und mehr als 450 Wissenschaftler warnten, dass Technologien zur Erkennung von CSAM in verschlüsselten Inhalten derzeit nicht ausgereift seien und dies auch in den nächsten 2 bis 5 Jahren nicht sein würden
- Der vorgeschlagene CSAM-Regulierungsrahmen steht wegen möglicher Massenüberwachung, Schwächung von Verschlüsselung und Konflikten mit dem EU-rechtlichen Verbot allgemeiner und unterschiedsloser Kommunikationsüberwachung in der Kritik
- Weil die Liste nicht identifiziert wurde, erhielt der Antragsteller keine Gelegenheit, die Gründe für die Nichtoffenlegung anzufechten; damit verschärft sich das Transparenzproblem in der Regulierungsdebatte
Entscheidung der Bürgerbeauftragten und verborgene Beratungsliste
- Die European Commission veröffentlichte bei der Beantwortung einer Anfrage nach Dokumenten zur Entscheidungsfindung rund um die vorgeschlagene CSAM-Regulierung nicht die Liste der Unternehmen, die sie dazu beraten hatten, ob CSAM erkannt werden kann, ohne Verschlüsselung zu beeinträchtigen
- Die European Ombudsman befand, dass diese Liste „clearly fell within the scope“ der Anfrage des Irish Council for Civil Liberties enthalten war
- Die Commission räumte gegenüber dem EU Ombudsman ein, tatsächlich über diese Expertenliste zu verfügen, informierte Dr Kris Shrishak jedoch nicht über deren Existenz
- Da die Liste nicht als angefragtes Dokument identifiziert wurde, hatte der Antragsteller keine Möglichkeit, die Gründe für die Nichtoffenlegung selbst anzufechten
- Die Entscheidung der Ombudsman ist hier abrufbar
Zentrale Kontroverse um CSAM-Erkennungstechnologie
- Der heikelste Punkt in den Verhandlungen zur CSAM-Regulierung ist, ob eine Technologie zur Erkennung von Material über sexuellen Kindesmissbrauch in Ende-zu-Ende-verschlüsselter Kommunikation tatsächlich möglich ist
- Viele Experten warnen, dass eine solche Technologie noch nicht auf einem praktikablen Reifegrad ist
- Public-Interest-Technologen und mehr als 450 Wissenschaftler warnten öffentlich, dass „Technologien zur Erkennung von CSAM in verschlüsselten Inhalten derzeit nicht ausgereift sind und dies auch in den nächsten 2 bis 5 Jahren nicht sein werden“
- Diese Position steht in starkem Gegensatz zu den Ansichten der Experten, auf die sich die Commission stützte; die Commission veröffentlicht deren Namen jedoch nicht
- Das ICCL reichte im Dezember 2022 bei der European Ombudsman eine Beschwerde ein, nachdem die Commission die Herausgabe einer Liste von Experten verweigert hatte, die bei der Erstellung eines Dokuments zu möglichen Lösungen für CSAM-Erkennung in Ende-zu-Ende-verschlüsselter Kommunikation geholfen hatten
- Neben Bedenken wegen Massenüberwachung und Schwächung von Verschlüsselung könnte die vorgeschlagene CSAM-Regulierung auch mit bestehendem EU-Recht kollidieren, das allgemeine und unterschiedslose Überwachung der Kommunikation von Menschen verbietet
- Solche Bedenken wurden von mehreren Institutionen geäußert, darunter der eigene Juristische Dienst des European Council, der European Parliamentary Research Service, der United Nations High Commissioner for Human Rights sowie der European Data Protection Board and Supervisor
1 Kommentare
Meinungen auf Hacker News
Ich bin mir nicht sicher, ob die Schadenshypothese wirklich einmal sauber durchdacht wurde, wenn Darstellungen sexuellen Kindesmissbrauchs (CSAM) in privater Kommunikation verbreitet werden.
Es ist nicht offensichtlich, welchen konkreten Schaden es Kindern zufügt, wenn heimlich Bytes kopiert werden.
Absichtlich Kinderpornografie herzustellen ist eindeutig falsch, aber das ist bereits illegal, und solche Leute sind in Sachen Informationssicherheit geradezu lächerlich schlecht.
Wenn man sich Fälle ansieht, in denen tatsächliche CSAM-„Studios“ gefasst wurden, dann ist entweder die Strafverfolgung so inkompetent, dass jeder halbwegs clevere Kriminelle ihr entgeht, oder die Kriminellen sind technisch weniger versiert, als man denkt.
In beiden Fällen scheinen die Werkzeuge, um echte Sexualstraftäter an Kindern zu fassen, wirksam und ausreichend zu sein.
Es ist ziemlich plausibel, dass die Erstellung und Verbreitung des ursprünglichen Materials über Kindesmissbrauch Pädophilen soziale Anerkennung verschafft und sie dadurch dazu ermutigt, weiterzumachen oder ihr Verhalten auszuweiten.
Außerdem könnte sie als Grundlage eines „Reputations“-Systems dienen, das Online-Communitys von Kindesmissbrauchern zusammenhält.
So wie in einem Autoforum jemand cool wirkt, der als Erster ein bestimmtes Tuning gemacht hat, kann in solchen Communitys jemand als „cool“ gelten, der einem bislang nicht gezeigten Kind neu Gewalt antut oder es auf neue und kreative Weise missbraucht.
Davon abgesehen folgt aus der Festnahme von Kriminellen mit lächerlich schlechter Informationssicherheit nicht, dass es keine Kriminellen mit hervorragender Operationssicherheit (OPSEC) gibt, die sich erfolgreich verborgen halten.
Man sollte sich nicht von Nebelkerzen und vorgeschobenen Streitpunkten ablenken lassen, sondern das Gespräch auf die grundlegende Datenschutzfrage fixieren und die üblichen Argumente mit CSAM, Urheberrechtsverletzungen und Terrorismus insgesamt meiden.
Wenn ich als Kind missbraucht worden wäre, würde ich nicht wollen, dass diese Bilder weiterverbreitet und von irgendjemandem angesehen werden.
Das ist ähnlich wie bei Gesetzen gegen Revenge Porn; ich möchte Kontrolle über Nacktbilder von mir haben.
Trotzdem stimme ich solchen Gesetzen nicht zu.
Sie richten mehr Schaden an, als sie nützen.
Außerdem wird KI-CSAM für die Menschen, die so etwas wollen, künftig wahrscheinlich interessanter und befriedigender sein, und das eröffnet eine völlig eigene Debatte.
Es geht darum, Fingerabdrücke vorhandenen Materials zu verwenden, das Strafverfolgungsbehörden bereits identifiziert haben.
„Neues“ Material hätte noch keinen Fingerabdruck.
Per Definition sind das Leute, die irgendwo einen Fehler gemacht haben, ob bei der Informationssicherheit oder auf andere Weise.
Ich empfehle, die vollständige Entscheidung des Ombudsmanns zu lesen: https://www.ombudsman.europa.eu/en/decision/en/176658
Sie zeigt, was für ein absoluter bürokratischer Schlamassel das alles ist.
Normale Nationalregierungen sind schon übergriffig, halten sich aber mit etwas Nationalismus und Tribalismus irgendwie über Wasser; die EU geht viel zu weit, und am Ende werden die Menschen wohl rebellieren oder diejenigen mit Verstand werden weggehen.
Leider ist so etwas nicht neu.
Regierungen auf der ganzen Welt versuchen, öffentliche Kontrolle darüber zu vermeiden, was sie tun.
Ich muss an die Transpazifische Partnerschaft (TPP) von vor etwa acht Jahren denken.
Nur sehr wenige Menschen konnten den Vertragstext einsehen [1], während die Volksvertreter Inhalte ratifizieren sollten, die ihre eigenen Wähler nicht sehen konnten.
Wikileaks und andere veröffentlichten Entwürfe, und wie erwartet waren sie schlecht.
Befürworter sagen, Handelsverhandlungen müssten geheim geführt werden, damit die Verhandlungsposition nicht geschwächt werde.
Das bedeutet in Wahrheit: „Wir wollen der Öffentlichkeit keine Gelegenheit geben, sich dagegen zu stellen.“
Jetzt sucht auch die EU nach absurden Vorwänden, um im Schatten arbeiten zu können.
[1]: https://www.npr.org/sections/itsallpolitics/2015/05/14/40667...
Damit dieses System funktioniert, müsste die CSAM-Datenbank im Konsens geopolitischer Rivalen verwaltet werden.
Das heißt, auch Russia und China müssten einbezogen werden.
Nur so ließe sich sicherstellen, dass Western Regierungen den Zugang künftig nicht zur Überwachung oppositioneller Gruppen missbrauchen.
Von vornherein ist es unmöglich zu glauben, dass NCMEC nicht kompromittiert wird.
Ein System, in dem Chinese, Russian, American, British usw. Polizeibehörden übereinstimmen, dass die Datenbank nur CSAM enthält, könnte ich vertrauen.
Ein Verbrechen, das an einem Teil der Bevölkerung begangen wird, rechtfertigt diesen Aufruhr nicht.
Selbst ermordeten Kindern widmen wir nicht so viel Aufmerksamkeit.
Dieses Problem wird internationale Rivalen nicht einmal so sehr vereinen wie ein auf die Erde zufliegender Asteroid.
Es ist ein Problem, das nur den Westen kümmert, und kann daher gegen jeden außerhalb des Westens leicht als Waffe eingesetzt werden.
Statt in jedes Gerät der Welt eine Hintertür einzubauen, könnte die realistischere Lösung darin bestehen, Kindern die Handys wegzunehmen und sie an einen Heizkörper zu ketten.
Mit anderen Worten: Wenn man Kinder vor CSAM schützen will, sperrt man sie ein.
Das will man ungern zugeben, aber man muss der Realität ins Auge sehen.
Aus Sicht des Staates sind Kinder Eigentum.
Wie andere Vermögenswerte, Vieh oder Schusswaffen können Kinder dir „weggenommen“ und anderen „gegeben“ werden, wobei in diesem Prozess eine Dividende entsteht.
Wenn man darüber nachdenkt, erklärt das auch den Akt des Menschenhandels selbst.
Man lässt nicht die Türen aller anderen Häuser offen, um das eigene Haus zu schützen.
Eine solche „Lösung“ macht dich zu einer tatsächlichen gesellschaftlichen Bedrohung.
Wäre es nicht besser, dafür zu argumentieren, das Ganze gar nicht erst aufzubauen?
Erfüllt das die Kriterien?
Im Abschnitt „Verbesserungsvorschläge“ heißt es, da die Kommission die Expertenliste trotz des klaren Interesses des Beschwerdeführers nicht identifiziert habe, solle dies als neuer Antrag auf Zugang zu Dokumenten registriert und gemäß Regulation 1049/2001 behandelt werden.
Ich weiß, dass der Ombudsmann keine wirkliche Durchsetzungsbefugnis hat und nur Empfehlungen aussprechen kann, aber hätte man nicht etwas wie „Die Personen, die den ursprünglichen Antrag abgelehnt haben, sollten mit Geldstrafen belegt, entlassen oder inhaftiert werden“ hinzufügen können?
Nach dem Motto „Wir ignorieren das Gesetz, bis jemand erhebliche Hürden überwindet, um sich darüber zu beschweren, dass wir das Gesetz ignoriert haben, und erst dann halten wir uns daran“ ist das nicht gut für die Demokratie.
Ist es in New Zealand und Australia nicht illegal, das Video des Anschlags in New Zealand zu speichern, anzusehen oder zu posten?
Dann nehmt doch auch dessen Hash in die Liste auf.
Wenn man dieselbe verdrehte Logik anwendet, die für diese Kreuzzugsargumentation genutzt wird, müsste sie dann nicht nicht nur für Vergewaltigung gelten, sondern auch für Videos, in denen Menschen ermordet werden?
Oder gibt es bei CSAM eine einzigartige puritanische Absonderlichkeit, die es durchgehen lässt, dass der Staat all unsere Geräte kompromittiert?
Wenn Auschwitz überasphaltiert worden wäre und es illegal wäre, darüber zu sprechen?
Die geheime Expertenliste ist inzwischen veröffentlicht worden.
https://news.ycombinator.com/item?id=38205743#38205787
https://netzpolitik.org/2023/geheime-liste-wie-der-sicherhei...
Unangenehmer als der Umstand, dass die Geheimhaltung der „Expertenliste“ zur CSAM-Regulierung der EU als Missstand in der Verwaltung eingestuft wurde, ist, wie wenige europäische Institutionen und Unternehmen auf dieser Liste stehen.
Vertreter der Kommission sagten, viele der am EUIF beteiligten Unternehmen hätten Bedenken hinsichtlich Sicherheit und öffentlichem Image.
Außerdem seien viele der im EUIF besprochenen Themen sensibler und operativer Natur; würden sie öffentlich, könnten böswillige Akteure sie nutzen, um Erkennungsmechanismen und die Koordinierungsbemühungen der Unternehmen zu umgehen.
Auch die Offenlegung der Strategien und Taktiken der Unternehmen sowie konkreter technischer Ansätze berge das Risiko, Kriminellen zu zeigen, wie sie einer Entdeckung entgehen können.
Wenn das Ziel des Unternehmens jedoch darin besteht, darauf hinzuwirken, dass heimlich Abhörvorrichtungen in alle Geräte und Messenger-Apps eingebaut werden, dann sollte es sich tatsächlich Sorgen um sein öffentliches Image machen.
Es sollte sich auch Sorgen um Menschenrechte und den eigenen moralischen Kompass machen.
Es ist Zeit, diese Leute ans Licht zu zerren.
Was hier passiert, ist, dass die EU nicht so wirken will, als habe sie sich mit solchen Leuten beraten, und sich deshalb irgendwelche Gründe ausdenkt, um das zu verbergen.
Sie benutzen Kinder als politische Waffe, um Bürger dazu zu bringen, alles zu akzeptieren.
Wer sich ihrer Totalüberwachung widersetzt, wird so hingestellt, als unterstütze er Schwerverbrecher, und sein Ruf wird in den Dreck gezogen.
https://news.ycombinator.com/item?id=38205743#38205787