- Der EU-Gesetzentwurf zum CSAM-Scanning könnte Messaging-Dienste dazu verpflichten, die Kommunikation von Nutzer:innen automatisch zu prüfen, wodurch die Frage über Kinderschutzmaßnahmen hinaus zu einer Debatte über die Grenzen grundlegender Rechte in demokratischen Gesellschaften wird
- Gefordert werden könnten die Erkennung von bekanntem und unbekanntem CSAM sowie die Echtzeit-Erkennung von Grooming; Kritiker:innen warnen, dass dadurch die private Kommunikation aller Nutzer:innen in ein nicht zielgerichtetes Überwachungsnetz gerät
- Die rechtliche Frage geht über bloße Verhältnismäßigkeit hinaus und betrifft, ob der Wesensgehalt von Grundrechten verletzt wird; Frederik Borgesius sieht in einem massenhaften Zugriff auf Kommunikationsinhalte eine mögliche Verletzung des Wesens des Rechts auf Privatsphäre
- KI-Erkennung und Client-Side-Scanning sind für eine großflächige Einführung noch nicht ausreichend vorbereitet und könnten wegen Fehlalarmen, Umgehung und Manipulationsmöglichkeiten unbeabsichtigte Schäden für Kinder und Erwachsene verursachen
- Als Alternativen werden der Schutz von Ende-zu-Ende-Verschlüsselung, gezielte Ermittlungen, das Crawlen öffentlich zugänglicher Webinhalte sowie stärkere Prävention, Opferhilfe und Zusammenarbeit der Strafverfolgung genannt; EU-Gesetzgeber müssten die Bestimmungen zu Erkennungsanordnungen grundlegend neu schreiben
Zentrale Streitpunkte des EU-Vorschlags zum CSAM-Scanning
- Der in Europa diskutierte Gesetzentwurf zum CSAM-Scanning könnte Messaging-Dienste verpflichten, die Inhalte der Nutzerkommunikation zu überprüfen
- Erfasst würden bekanntes CSAM, unbekanntes CSAM und sogar die Echtzeit-Erkennung von Grooming
- In Apps, die eine Erkennungsanordnung erhalten, könnte die gesamte Nutzerkommunikation automatisch und nicht zielgerichtet überwacht werden
- Auf einem vom European Data Protection Supervisor veranstalteten Seminar sprachen sich mehr als 20 Vortragende gegen den Vorschlag aus
- Das Seminar dauerte rund drei Stunden
- Ylva Johansson von der European Commission war eingeladen, nahm aber nicht teil; auch sonst war niemand von der Commission anwesend
- Die Commission hat den Vorschlag als verhältnismäßige und gezielte Reaktion auf ein wachsendes Problem dargestellt
- Zuletzt wurde auch darauf hingewiesen, dass zur Bewerbung des Plans Microtargeting-Werbung eingesetzt worden sein soll
- In der EU läuft parallel ein separates Gesetzgebungsvorhaben, das den Einsatz politischen Microtargetings einschränken soll
Der vom EDPS angemahnte Wendepunkt für die Privatsphäre
- Wojciech Wiewiórowski vom EDPS warnte, dass die EU einen Punkt ohne Wiederkehr erreichen könnte, falls ein Gesetz verabschiedet wird, das systematische Massenüberwachung privater Nachrichten vorschreibt
- Bei dem Vorschlag gehe es nicht nur um „Kinderschutz“, sondern um eine Frage, die die Grundlagen erschüttert, auf denen Privatsphäre in demokratischen Gesellschaften funktioniert
- Sollte er ohne Änderungen verabschiedet werden, könnte er den Charakter des Internets und digitaler Kommunikation grundlegend verändern
- EDPS und European Data Protection Board hatten bereits vor einem Jahr in einer gemeinsamen Stellungnahme erklärt, dass der Gesetzentwurf ernste Datenschutz- und Privatsphäre-Bedenken aufwerfe, einschließlich im Hinblick auf Verschlüsselung
Rechtliche Verhältnismäßigkeit und der Wesensgehalt von Grundrechten
- Die Commission legte im Mai 2022 einen Entwurf des CSAM-Gesetzes vor; seither wächst der Widerstand wegen der Folgen für Menschenrechte und Rechtmäßigkeit
- EU-Recht verlangt, dass Einschränkungen von Grundrechten wie Privatsphäre und Meinungsfreiheit notwendig und verhältnismäßig sein müssen
- Es ist untersagt, Online-Plattformen zu einer allgemeinen Inhaltsüberwachung zu verpflichten
- Ein Gesetz, das hunderte Millionen Nachrichten europäischer Bürger:innen schon vom Design her zum Gegenstand von Überwachung macht, könnte mit diesem Grundsatz kollidieren
- Frederik Borgesius von der Radboud University bewertet den Vorschlag nicht als verhältnismäßige Form einer Grundrechtseinschränkung
- Er zog Vergleiche zu Fällen der Datenspeicherung im Zusammenhang mit Terrorismus und verwies darauf, dass das oberste EU-Gericht die allgemeine und unterschiedslose Speicherung von Metadaten europäischer Bürger:innen wiederholt für unzulässig erklärt hat
- Der aktuelle Vorschlag gehe noch weiter, weil er nicht Metadaten, sondern die Analyse von Kommunikationsinhalten betreffe
- Borgesius argumentiert, dass ein Eingriff in den Wesensgehalt von Grundrechten aus Sicht der EU-Grundrechtecharta bereits ohne Verhältnismäßigkeitsprüfung rechtswidrig sein könne
- Wenn Behörden in großem Umfang Zugang zu Kommunikationsinhalten erhalten, könne dies den Wesensgehalt des Rechts auf Privatsphäre verletzen
Ziel Kinderschutz und mögliches tatsächliches Schadenspotenzial
- Mehrere Vortragende kritisierten, dass der Vorschlag nicht zu dem komplexen gesellschaftlichen Problem sexuellen Kindesmissbrauchs passe
- Ein erheblicher Teil der online geteilten sexualisierten Bilder Minderjähriger könne aus einvernehmlichem Sexting zwischen Minderjährigen stammen
- In solchen Fällen könnte das Gesetz dazu führen, dass Kinder, die ihre sexuelle Identität erkunden, untersucht oder kriminalisiert werden
- Ob etwas CSAM ist, lässt sich allein anhand des Bildes oft schwer beurteilen; der Kontext ist entscheidend
- Arda Gerkens aus den Niederlanden meinte, das Scannen privater Kommunikation könne zwar problematische Situationen erkennen, sei aber keine Lösung für den Umgang mit sexuellem Kindesmissbrauch
- Sie befürwortet ein eng begrenztes Scannen von bekanntem CSAM auf Bildhosting-Websites, um die Verbreitung zu verhindern
- Dabei gehe es ihr jedoch um das Stoppen der Verbreitung, nicht um Strafverfolgung
- Gerkens kritisierte, dass sich der Commission-Vorschlag im Vergleich zu Bildhosting-Websites zu stark auf private Kommunikation und anschließende Strafverfolgung konzentriere
- Die Menge an Bildern könne bestehende Systeme überlasten und anfällige Strafverfolgungsstrukturen zusätzlich unter Druck setzen
- Eine bessere Investition könnte in stärkerer Zusammenarbeit zwischen EU-Staaten und dem Ausbau der Strafverfolgungssysteme liegen
Ende-zu-Ende-Verschlüsselung und ein präventionsorientierter Ansatz
- Susan Landau von der Tufts University meint, der Commission-Vorschlag unterscheide nicht ausreichend zwischen verschiedenen Formen sexuellen Kindesmissbrauchs und sexueller Ausbeutung im Internet
- Ein auf Ermittlung und Strafverfolgung fokussierter Ansatz stoße in vielen Fällen an Grenzen
- Bei internetbasierter sexueller Ausbeutung sei in der überwältigenden Mehrzahl der Fälle eine dem Opfer nahestehende Person der Täter, und das Opfer wolle die Tat möglicherweise nicht melden
- Benötigt würden sichere Räume für Kinder, Community-Räume, Aufklärung zu Online-Sicherheit, Sicherheitsbildung und sicheres Design
- Landau betont, dass es viele Wege zur Prävention und Ermittlung sexuellen Kindesmissbrauchs gibt, die nicht von Ende-zu-Ende-Verschlüsselung betroffen sind
- Ende-zu-Ende-Verschlüsselung ist eine Technologie, die sowohl Kinder als auch Erwachsene schützt
- Helen Charles von WhatsApp erklärte, die zu Meta gehörende Messaging-Plattform unterstütze zwar das Ziel, sexuellen Kindesmissbrauch zu bekämpfen, der Commission-Ansatz passe jedoch schlecht zum Problem und könne für Web-Nutzer:innen aller Altersgruppen schwerwiegende unbeabsichtigte Folgen haben
- Das Scannen von Inhalten in Ende-zu-Ende-verschlüsselten Nachrichten schwächt Grundrechte
- Es brauche vernünftige und verhältnismäßige Bedingungen, damit Dienste gegen CSAM vorgehen können, ohne Zugriff auf Nachrichteninhalte zu erhalten
- Charles schlug vor, dass Plattformen unter der ePrivacy Directive der EU Verkehrsdaten, also Metadaten, stärker zu Präventionszwecken nutzen dürfen sollten
- Die aktuelle befristete ePrivacy-Ausnahme betrifft nur die Erkennung, Meldung und Entfernung von CSAM in nicht Ende-zu-Ende-verschlüsselten Nachrichten, nicht aber Prävention
- Meta erklärte, dort, wo es rechtlich zulässig ist, Techniken einschließlich Verkehrsdaten einzusetzen, um problematisches Verhalten zu identifizieren
Technische Grenzen von KI-Erkennung und Client-Side-Scanning
- Jaap-Henk Hoepman von der Karlstad University wies darauf hin, dass CSAM-Erkennungstechnologien proprietär sind, sodass Behauptungen zur Genauigkeit kaum unabhängig überprüft werden können
- Weder Microsofts PhotoDNA noch Apples NeuralHash sind offen zugängliche, wissenschaftlich prüfbare Algorithmen
- Man müsse sich daher auf Wirksamkeitszahlen verlassen, die die Unternehmen selbst liefern
- Hoepman sagte, dass Forschung zum Reverse Engineering von PhotoDNA grundlegende Schwächen offengelegt habe
- Es gebe Hinweise, dass sich die Erkennung bekannten CSAMs leicht umgehen lasse, etwa indem Bilder gedreht oder gespiegelt werden
- Angreifer könnten außerdem harmlos wirkende Bilder so manipulieren, dass sie als CSAM erkannt werden, um Unschuldige zu belasten oder Erkennungssysteme zu überfluten
- Alexander Hanff warnte, dass bei täglich Milliarden gescannter Kommunikationsvorgänge schon eine Fehlerquote von 0,1 % zu Millionen Fehlalarmen oder übersehenen Treffern pro Tag führen könne
- Claudia Peersman von der University of Bristol stellte Ergebnisse einer Bewertung des Rephrain Centre vor
- Fünf mit britischer Regierungsunterstützung entwickelte Proof-of-Concept-Projekte zum CSAM-Scanning in E2EE-Umgebungen erfüllten die Bewertungskriterien nicht
- Sie sei nicht grundsätzlich gegen die Entwicklung KI-gestützter Werkzeuge für den Online-Kinderschutz, halte sie aber nicht für bereit zur großflächigen Einführung in private Nachrichten innerhalb Ende-zu-Ende-verschlüsselter Umgebungen
- Matthew Green von der Johns Hopkins University sagte, die Forschung zu Client-Side-Scanning befinde sich noch in einer sehr frühen Phase
- Die erste Informatikarbeit zu diesem Thema sei 2021 erschienen, und noch keine zwei Jahre später werde bereits über eine gesetzliche Pflicht diskutiert
- Forschende fänden weiterhin Wege, diese Systeme zu brechen, was zu Verletzungen der Vertraulichkeit, Fehlalarmen und dem Einschleusen schlechter Daten führen könne
- Es brauche Zeit, um zu untersuchen, ob sich das überhaupt sicher umsetzen lässt
Gesetzgebung ohne ausreichende Berücksichtigung von Kinderrechten und Kinderstimmen
- Mehrere Vortragende kritisierten, dass Gesetzgeber die Ansichten und Rechte von Kindern nicht ausreichend berücksichtigen
- Gerkens meinte, man urteile darüber, was Kinder online tun, ohne Kinder tatsächlich in den Gesetzgebungsprozess einzubeziehen
- Sabine Witting von der Leiden University bewertete den Vorschlag als nachteilig für die Privatsphäre, den Datenschutz, die Meinungsfreiheit und das Recht auf Informationszugang von Kindern
- Der General Comment No. 25 des UN-Ausschusses für die Rechte des Kindes betrachtet Privatsphäre als wesentlich für die Sicherheit von Kindern
- Privatsphäre ist kein Hindernis für Kindersicherheit, sondern eine wichtige Voraussetzung dafür
- Witting zufolge kann bereits die Untersuchung selbst schädlich sein, wenn private Nachrichten zwischen Jugendlichen im CSAM-Scanning hängen bleiben
- Besonders für Jugendliche aus marginalisierten Gemeinschaften wie LGBTQ+-Kindern könne dies zu ungewolltem Outing, zusätzlicher Marginalisierung und im schlimmsten Fall politischer Verfolgung führen
- Das Scannen privater Kommunikation, zusätzliche Prüfungen durch Privatwirtschaft und Staat sowie das Eingreifen von Strafverfolgungsbehörden seien schwerwiegende Eingriffe in das Recht von Kindern auf Privatsphäre
- Ella Jakubowska von EDRi verwies auf eine repräsentative Umfrage unter 13- bis 17-Jährigen in 13 EU-Mitgliedstaaten
- 80 % antworteten, dass sie sich mit politischer Aktivität oder sexueller Erkundung nicht wohlfühlen würden, wenn Behörden digitale Kommunikation zum Zweck des CSAM-Scannings überwachen dürften
Digitale Überwachung ohne Durchsuchungsbeschluss und Sorge vor Mission Creep
- Iverna McGowan vom Center for Democracy and Technology sieht Erkennungsanordnungen als Durchsuchungen ohne richterlichen Beschluss in der digitalen Welt
- So wie man nicht akzeptieren würde, dass Strafverfolger ohne Beschluss oder begründeten Verdacht Wohnungen oder private Räume betreten und alles durchsuchen, dürfe das auch online nicht erlaubt sein
- McGowan fordert, die Bestimmungen zu Erkennungsanordnungen grundlegend neu zu schreiben
- Sie müssten hinreichend präzise sein, damit sie nicht auf Menschen ohne Kriminalitätsverdacht angewandt werden
- Erforderlich seien die Genehmigung durch eine unabhängige Justizbehörde und eine Prüfung von Zweck und Grundlage des Verdachts
- Auch eine unabhängige Verhältnismäßigkeitsprüfung müsse enthalten sein
- Mehrere Vortragende äußerten Sorge über möglichen Mission Creep rund um Europol
- Laut von Medien eingesehenen Dokumenten wollte Europol ungefilterten Zugriff auf Daten, die im Rahmen des CSAM-Scanning-Vorschlags gewonnen werden
- Die Europaabgeordnete Saskia Bricmont sieht Europol mit dem Ziel, zu einem Daten-Hub zu werden und seinen Auftrag auszuweiten und zu stärken
- Der ursprüngliche Vorschlag der Commission sah vor, alle Meldungen, die nicht „offensichtlich unbegründet“ sind, gleichzeitig an Europol und nationale Strafverfolgungsbehörden zu senden
- Bricmont zufolge habe Europol darauf gedrängt, die Erkennung über CSAM hinaus auch auf andere Kriminalitätsbereiche auszuweiten
Vertrauensproblem zwischen Commission und Kritiker:innen
- Das Seminar fand zwei Tage vor Ylva Johanssons Auftritt in einer Anhörung des Ausschusses für bürgerliche Freiheiten des European Parliament statt
- Kritiker:innen meinen, Johansson und die Commission hätten bei diesem umstrittenen Vorschlag nicht ausreichend Transparenz und Rechenschaft gezeigt
- Bricmont kritisierte insbesondere, dass mit dem sensiblen Thema sexueller Kindesmissbrauch ein umfassender Überwachungsplan vorangetrieben werde, der die Grundrechte hunderter Millionen Europäer:innen stark beeinträchtigen könnte
- Sie sagte, man müsse mehr über die investigativen Recherchen von BalkanInsight und mögliche Interessenkonflikte erfahren
- Die Abwesenheit der Commission verstärke den Mangel an Dialog und das Misstrauen
- Johansson kritisierte in einem Blogbeitrag persönliche Angriffe gegen sie sowie Vorwürfe intransparenter Lobbyarbeit
- Sie verwies darauf, dass EDRi, Europas größte NGO für digitale Rechte, Geld von Apple erhalte, und deutete an, dass der Widerstand der Zivilgesellschaft Interessen von Big Tech vertreten könnte
- Jakubowska sagte, die Commission stelle fälschlich eine Entscheidung zwischen Privatsphäre und Sicherheit dar
- Privatsphäre und Sicherheit stärken sich gegenseitig
- Sie warnte außerdem vor Risiken für Berufsgeheimnisse, etwa den Schutz des Anwaltsgeheimnisses, und davor, dass Überlebenden der Zugang zur Justiz erschwert werden könnte
Alternativen: gezielte Ermittlungen, Bereinigung öffentlicher Inhalte und sicheres Design
- Der Europaabgeordnete Patrick Breyer bezeichnete den Vorschlag als „beispiellos in der freien Welt“ und nennt ihn seit Langem „Chatcontrol“
- Er meint, statt die Debatte weiter zu polarisieren, solle man das bewahren, worauf sich alle einigen können, und neue, wirksame Ansätze ergänzen
- Breyers vorgeschlagene Richtung setzt auf Zielgenauigkeit und die Streichung der umstrittenen Erkennungsanordnungen
- Das Scannen von Kommunikation müsse strikt auf Personen beschränkt werden, die im Verdacht stehen, an sexueller Ausbeutung von Kindern beteiligt zu sein
- Auch freiwillige, nicht zielgerichtete Erkennung habe dieselben Verhältnismäßigkeitsprobleme wie verpflichtende Erkennung
- Client-Side-Scanning, das persönliche Geräte in Scanner verwandelt, müsse ausdrücklich ausgeschlossen werden
- Als Alternative zur Massenüberwachung wird das vorgelagerte Crawlen öffentlich zugänglicher Inhalte vorgeschlagen
- Dies geschehe bereits im Vereinigten Königreich und in Kanada, hieß es
- Ein neues EU Centre könnte sich auf die Bereinigung des öffentlichen Webs, Kriminalprävention, Opferhilfe und Best Practices der Strafverfolgung konzentrieren
- Breyer sagt, statt auf verpflichtende Altersverifikation sollte der Fokus auf sicherem Design liegen
- Er stellte Designfragen wie: Sollten Profile standardmäßig privat sein? Soll jede Person neuen Nutzer:innen Fotos senden dürfen? Sollten Nutzer:innen wählen können, ob sie Nacktbilder sehen wollen?
- Zur Prävention sexuellen Kindesmissbrauchs reichten technische Ansätze nicht aus; nichttechnische Lösungen seien entscheidend
- Wenn Gesetzgeber keine vernünftigen Änderungen beschließen, könnte echte vertrauliche private Nachrichtenkommunikation und sichere Verschlüsselung enden, und es würde ein Weg geöffnet, in Demokratien beispiellose autoritäre Methoden einzuführen
1 Kommentare
Hacker-News-Kommentare
„Dass Menschen diese Bilder sehen, ist an sich schon genau die Handlung, die die Kommission verhindern will, und selbst eine Form von Missbrauch. Wenn also harmlose Fotos, die zwischen einvernehmlichen Personen geteilt wurden, in ein Ermittlungsverfahren geraten und potenziell Hunderten Menschen gezeigt werden, schafft man am Ende tatsächlich noch mehr Opfer.“
Das ist der Kernpunkt. Dieser Plan hat nicht nur viele Nebenwirkungen, er wird genau den Menschen realen Schaden zufügen, die er angeblich schützen soll.
Im Ernst: Jedes Mal, wenn jemand Handlungen mit eindimensionalen emotionalen Appellen wie „Denkt an die Kinder“ oder „Denkt an die Terroristen“ rechtfertigt, wirkt das auf mich wie billige Manipulation und sonst nichts.
Meiner Meinung nach muss die befürwortende Seite ihre Sicherheitsbehauptungen mit konkreten Zahlen belegen. Sie fordert, dass wir zu viel aufgeben, ohne selbst Verantwortung zu tragen, und ich glaube nicht, dass der Schaden kleiner ist als der Nutzen.
Der Patriot Act hat zum Beispiel keine Welle erfolgreicher Terrorbekämpfung ausgelöst, aber massive Menschenrechtsverletzungen erleichtert, und die einmal entzogenen Rechte kamen nicht zurück. Ähnlich ist es mit den stark verschärften Flughafenkontrollen: Ich weiß nicht, wie viele Terroristen mit Nagelknipsern erwischt wurden, aber es scheint, als ließen sich die meisten Terrorversuche auch mit weniger eingriffsintensiven Mitteln verhindern.
Noch eine Stufe schlimmer sind Menschen, die in Social-Media-Beiträgen nach besonders schrecklichen Verstößen gegen die Nutzungsbedingungen suchen müssen, also extremer Gewalt, Blutvergießen und Bildern grausamer Handlungen. Viele in solchen Jobs brauchen viel Therapie, um damit klarzukommen, haben aber leider oft keinen Zugang dazu.
Wenn man den ganzen Tag mutmaßliches CSAM ansehen und entscheiden müsste, ob es erlaubt ist oder nicht? Kaum vorstellbar, was das mit einem Menschen macht.
CSAM ist nur ein Vorwand. Das eigentliche Ziel ist Überwachung, und wenn das mit Gewalt durchgebracht wird, wird es bald schnell auf alles Mögliche ausgeweitet werden.
Ehrlich gesagt sehe ich die EU schon lange nicht mehr als Gemeinwohlprojekt. Das ist schon seit geraumer Zeit so; sie ist zu einer bürokratischen Technokratie verkommen.
Bevor jetzt jemand sagt: „Man kann doch das Parlament wählen und sogar über ein Kommissionsmitglied abstimmen, also ist alles in Ordnung“ — ja, ich weiß. Es ändert trotzdem nichts. In ihrer derzeitigen Ausgestaltung ist die Demokratie so indirekt, dass man sie fast gleich abschaffen könnte. Solche Gesetzentwürfe werden weiter und weiter eingebracht, bis einer hängen bleibt. Ich kann das nicht unterstützen.
Man muss das stoppen, aber ich fürchte, am Ende passiert es trotzdem überall. Wenn es erst einmal in einigen westlichen Staaten eingeführt ist, haben andere Länder eine Blaupause, die sie kopieren können. Bürger werden überall getäuscht, und viele Menschen außerhalb technischer Berufe, aber auch viele innerhalb technischer Berufe, halten das für eine gute Sache. Freunde von mir in den USA, Großbritannien und Australien begrüßen solche Maßnahmen für ihre Länder sogar. Wegen der Kinder.
Leider nimmt niemand das Thema ernst genug, um in den Mitgliedstaaten große Werbe- und TV-Kampagnen zu starten, die den Menschen vermitteln, dass das für alle schlecht ist und nicht einmal den Kindern hilft.
Ich denke, dieser Versuch des clientseitigen Scannens wird scheitern, und ich hoffe sehr, dass es so kommt. Nicht nur, weil er die bürgerlichen Freiheiten in der EU eindeutig zerstört, sondern auch, weil er selbst im Fall einer Umsetzung zwangsläufig versagen wird.
Die Grundidee ist weder gegen CSAM noch gegen irgendein anderes Szenario mit böswilligen Nutzern wirksam. Allerdings ist meine Hoffnung in der legislativen Realität leider kein besonders verlässlicher Indikator.
Dem Client kann man nicht vertrauen. Ganz abgesehen davon, dass viele bestehende und künftige Dienste das von vornherein nicht umsetzen werden, werden App-Versionen, aus denen eine solche Fernmessung entfernt wurde, vergleichsweise leicht verfügbar sein. So wie bei VScode und VScodium könnte es dann eben WhatsApp und WhatsAppium geben.
Man muss auch an die Möglichkeit von Spoofing denken. Jemand könnte einer anderen Person eine Nachricht schicken, deren Client-ID erhalten und dann melden, dass genau dieser Client das schlimmstmögliche vorstellbare CSAM erkannt habe.
Man muss an Fehlalarme denken. An die Kosten. An die Kinder. An nicht misshandelnde Eltern, die ein normales, aber missverständlich interpretierbares Foto miteinander teilen und dann mit einem CSAM-Verdacht überzogen werden — und an die Kinder darunter, von denen einige von ihren Eltern getrennt werden könnten.
Die Verabschiedung dieses Gesetzes wäre eine gewaltige Verschwendung von Zeit, die Gesetzgeber sinnvoller einsetzen könnten. Die Umsetzung dieser Richtlinie würde enorme Summen an Geld und Know-how verschlingen, um ein fehlerhaftes und missbrauchbares System zu bauen. Bei der Durchsetzung des Ergebnisses würde unermessliches Leid entstehen, das nichts mit CSAM zu tun hat. Und nachdem die ersten paar Straftäter gefasst wurden, würden böswillige Akteure wahrscheinlich einfach auf andere Kanäle ausweichen.
Aber bis dahin wird sich das Gesprächsthema wohl schon hin zum clientseitigen Scannen von Gedanken verlagert haben.
Mich würde interessieren, wie genau Fehlalarme deiner Ansicht nach zur Trennung von Kindern und Eltern führen sollen.
Selbst Menschen, die tatsächlich wegen des Besitzes von CSAM verurteilt wurden, verlieren derzeit nicht automatisch den Zugang zu ihren Kindern.
„Bekanntes und unbekanntes CSAM“
Wenn man sich ansieht, wo Bild-KI heute steht, ist ziemlich sicher, dass das eine riesige Menge an Fehlalarmen produzieren wird. Eigentlich gilt sogar: Falls das nicht schon jetzt so ist, wird es bald unmöglich sein, Fehlalarme überhaupt noch herauszufiltern. Dieser Plan wirkt, als würde man den letzten Krieg noch einmal führen, während ein viel größeres und ganz anderes Problem bereits näher rückt.
Das Ergebnis wird sein, dass viele Menschen wegen Fotos ihrer eigenen Kinder markiert werden. Denn fast alle Eltern haben irgendwo Nacktfotos ihrer Kinder.
Ich denke, Diskussionen darüber, warum solche Maßnahmen CSAM nicht wirksam verringern oder ob es zu viele False Negatives oder zu viele False Positives gibt, am Kern vorbeigehen
Den Gesetzgebern mag tatsächlich an der Verringerung von Kindesmissbrauch gelegen sein, aber hauptsächlich nutzen sie das als Vorwand, um Überwachung und Kontrolle über Bürger auszuweiten. Das ist letztlich nur ein Vorstoß, clientseitige Software vorzuschreiben, die den Interessen der Hardware-Eigentümer zuwiderläuft
Sobald diese Software installiert ist, ist es nur noch ein viel kleinerer Schritt, den Anwendungsbereich auszuweiten – sei es auf legalem Weg oder über dubiose Hinterzimmerdeals – auf Dinge, denen die Allgemeinheit nicht zustimmen würde
Client-Side-Scanning kann nicht funktionieren und wird nicht funktionieren
Es gibt kein Szenario, in dem Client-Side-Scanning funktioniert, solange Nutzer nicht daran gehindert werden, irgendetwas am System zu verändern. Weder Bilder noch Software dürften veränderbar sein
Das sollte man sich merken. Das Einzige, was damit zuverlässig erreicht wird, ist die Identifizierung ehrlicher, gesetzestreuer Bürger mit politischen Positionen, die der aktuellen Regierung nicht passen. Wenn das durchgeht, stirbt in der EU echte Demokratie, mit der sich unpopuläre, staatlich gebilligte Gesetze wie Rassentrennung oder Prohibition beenden lassen
Die European Commission ist von Macht berauscht
Es gibt das Sprichwort, man solle eine gute Krise nicht ungenutzt lassen. Es ist gut dokumentiert, dass Krisen für Regierungen die beste Gelegenheit sind, offen antidemokratische und bürgerfeindliche Gesetze durchzudrücken. Solche Gesetze höhlen Freiheiten aus und verlagern Wohlstand von Armen zu Reichen, und eine Krise liefert den perfekten Vorwand, die normalen langen und gründlichen demokratischen Verfahren zu umgehen, in denen alle Zeit hätten, etwas zu zerlegen, zu analysieren und zu diskutieren
An Krisen hat es zuletzt nicht gemangelt. Covid, Inflation, Flüchtlingswellen, der Krieg in der Ukraine und der Krieg in Israel
„Armer Steuerzahler, denk bloß nicht zu tief darüber nach. Du verstehst dieses Problem sowieso nicht. Es ist zu kompliziert, und außerdem bist du durch Virus/durchdrehende Inflation/Lebenshaltungskosten/Krieg schon genug abgelenkt und besorgt, um überhaupt Zeit zu haben, über Nebensächlichkeiten wie Privatsphäre nachzudenken. Also lehn dich zurück und sorg dich um deine Miete, wir kümmern uns um deine Online-Privatsphäre, ja?“
Ermittlungsbehörden finden es großartig, dass so viele Teile unseres Lebens inzwischen in den Händen Dritter liegen und daher leichter zugänglich sind, und seit gewöhnliche Menschen Verschlüsselung in ihrer Kommunikation nutzen können, reißen die Angriffe auf Verschlüsselung nicht ab
Nebenbei ist das auch ein Problem, dem sich jeder stellen muss, der Software zum Schutz der Privatsphäre entwickelt, sobald er die eigenen Ziele ernst nimmt. Wenn ein Tool stark genug ist, um Journalisten unter feindlichen Regimen oder jede andere unterdrückte Gruppe zu schützen, die man schützen möchte, dann ist es auch stark genug, um Kriminelle zu schützen, die Dinge tun, die man persönlich verabscheut
Organisationen, die so etwas vorantreiben, ziehen von selbst machthungrige Menschen an, die die Mehrheit nicht als Mitbürger, sondern als zu beherrschende Objekte betrachten
Es funktioniert überall gleich. Das ist kein rein europäisches Problem
Die gesamte Logik lässt sich so zusammenfassen
Mit der heutigen Technik ist es unmöglich, die Existenz irgendeines Fotos oder Videos vollständig auszulöschen. Solange es das Internet gibt und Menschen Zugang zu verbotenen Medien haben können, werden sich diese verbotenen Medien weiter verbreiten
Um dagegen vorzugehen, muss der Staat mit außergewöhnlichen Befugnissen ausgestattet werden, in die Geräte und Konten der Menschen hineinzuschauen und ihre Dateien zu sehen, damit er Personen verfolgen kann, die verbotene Medien besitzen. Und der Staat verspricht hoch und heilig, dass die einzigen Medien, die wir verbieten werden, Kinderpornografie sind und niemals irgendetwas anderes. Natürlich kann man ihn später, wenn er diese Befugnisse ausweiten will, in Wirklichkeit nicht aufhalten. Und natürlich werden wir genau das tun
Dies ist ein Versuch, das richtige Problem zu lösen, nämlich sexuellen Kindesmissbrauch, aber natürlich ist der Ansatz falsch.
Das ist so ähnlich, als hätte man vor 30 Jahren gesagt: „Leute zeichnen solchen Missbrauch auf VHS-Kassetten auf, also können wir mit Sony und Scotch sprechen, damit sie das irgendwie verhindern.“ Die heutige Lage ist zwar etwas realistischer, aber im Grunde ist es dasselbe. Die Prävention von sexuellem Kindesmissbrauch sollte für jede Regierung und alle Bürger eine sehr hohe Priorität haben.
Wenn es eine verlässliche und garantierte Methode gäbe, müsste man sie unabhängig von den Kosten schon morgen umsetzen.
Aber in Wirklichkeit wissen wir nicht gut, wie. Es ist ein Problem, das eine Reform der psychischen Gesundheitsversorgung, eine umfassende Bildungsreform und eine Reform der sozialen Kinderfürsorge erfordert, sodass wirklich gefährdete Kinder geschützt werden und dieser sinnvolle Schutz zugleich auf alle Kinder ausgeweitet wird.
Wenn jemand eine kluge Idee hat, höre ich sie mir gern an.
Ganz und gar nicht.
Wenn ein neues Gesetz oder Programm angeblich zur Bekämpfung von Terrorismus, Kindesmissbrauch oder Drogen eingeführt wird, sein tatsächlicher Anwendungsbereich aber über Terrorismus, Kindesmissbrauch oder Drogen hinausgeht, dann werden Sie manipuliert, gegen Ihre eigenen Interessen zu stimmen. 100% immer.
„Wir schützen die Privatsphäre mit intelligenten On-Device-Algorithmen. Die Daten Ihres Kindes werden niemals hochgeladen, es sei denn, die On-Device-AI erkennt eine Missbrauchssituation. Und wer außer Missbrauchstätern würde denn verhindern wollen, dass solche Daten hochgeladen werden?“
Die Uhr könnte ständig prüfen, ob sie abgenommen wurde, und falls ja, die letzten 30 Sekunden Video hochladen, um zu identifizieren, wer sie entfernt hat.
Wenn das Kind oder die Eltern sie abgenommen haben, könnte gegen die Eltern ein Bußgeld verhängt werden, und das Kind müsste ein verpflichtendes Gespräch mit dem Jugendamt führen, um den „wahren“ Grund für das Abnehmen zu ermitteln.
Man könnte jedem Kind zwei Geräte geben, damit eines geladen wird, während das andere getragen wird. Wenn die getragene Uhr feststellt, dass die andere Uhr nicht geladen wird, sendet sie dem Nutzer eine Benachrichtigung. Wenn das Problem nicht innerhalb einer bestimmten Zeit behoben wird, wird es als Verstoß behandelt.
Wiederholtes Abnehmen oder „versehentliche Akkuentladung“ könnten zu immer höheren Bußgeldern und möglicherweise sogar zur Trennung des Kindes von den Eltern führen.
All das ist mit heutiger Technik möglich. Man müsste nur Zustimmung herstellen, etwa mit einigen aufmerksamkeitsstarken Fällen, in denen eine Smartwatch ein Kind vor misshandelnden Eltern rettet, oder Fällen, in denen die Polizei mithilfe von Smartwatch-Tracking ein Kind nach einem Entführungsversuch zurückholt, und daraus die Lehre machen, dass „alle Kinder ein solches Tracking brauchen“.
Ist das wirklich so? Hat die Bestrafung des Besitzes von CSAM tatsächlich irgendeinen Einfluss auf die Häufigkeit sexuellen Kindesmissbrauchs?
Das heißt nicht, dass es falsch wäre, CSAM zu kriminalisieren, aber gibt es auch nur irgendeinen Datenpunkt dafür, dass das Bestrafen von Personen, die durch das Scannen von Cloud-Speichern gefasst werden, tatsächlich Einfluss auf die Zahl der betroffenen Kinder hat?
Wenn nicht, dann erreicht diese Maßnahme nur die wohlige Genugtuung, Pädophile ins Gefängnis zu stecken. Aber das Problem sind nicht Pädophile, sondern Kinderschänder und Hersteller von Kinderpornografie, die tatsächlich Verbrechen an Kindern begehen.
Ich weiß nicht, welche Auswirkungen die Verfolgung von Endnutzern auf die Lieferkette hätte. Dagegen sehe ich eine Million Wege, wie die Möglichkeit, Endnutzer zu verfolgen, dem Staat das Recht verschafft, Menschen wegen fast jeder Straftat zu durchsuchen, die der Staat für wichtig erklärt. Wenn man das zulässt, liegt die Wahrscheinlichkeit, dass es sich innerhalb weniger Jahre über CSAM hinaus ausweitet, bei 100%.
Und überhaupt muss es ein solches „Material“ gar nicht geben. Die Aufzeichnung ist optional, doch ich sehe nichts, das dieses Problem angeht.
Der aktuelle Vorschlag wird in dieser Form nicht verabschiedet werden. Mehrere Mitgliedstaaten, darunter die Niederlande, Spanien und Polen, sind dagegen, und wahrscheinlich ist er außerdem rechtswidrig.
Um verabschiedet zu werden, müsste er gründlich überarbeitet werden. Solche Änderungen würden einen ohnehin schon nutzlosen Vorschlag wahrscheinlich noch nutzloser machen, aber hoffentlich bewahren sie uns diesmal wenigstens vor einer Hintertür für Privatsphäre/Verschlüsselung.
Das darf unter keinen Umständen durchkommen, und der gesamte Vorschlag sollte abgelehnt werden. Es gibt keinen Spielraum für Kompromisse.