- Der EU-Vorschlag zur Regulierung von Darstellungen sexuellen Kindesmissbrauchs, die sogenannte Chatkontrolle, könnte durch einen möglichen Kurswechsel Frankreichs wieder die Zustimmung der EU-Regierungen erhalten
- Der Entwurf vom 28. Mai 2024 sieht vor, Nutzer von Chat-Apps und -Diensten zu fragen, ob sie der automatischen Überprüfung und möglichen Meldung privater Bilder, Fotos und Videos zustimmen; bei Ablehnung würde das Senden und Empfangen von Fotos, Videos und Links eingeschränkt
- Auch Dienste mit Ende-zu-Ende-Verschlüsselung wie WhatsApp und Signal müssten vor dem Versand eine automatische Suche implementieren, was praktisch als clientseitiges Scanning funktionieren würde
- Das im bisherigen Entwurf vorgesehene Scannen von Texten auf Grooming-Anzeichen sowie das Scannen von Sprachkommunikation entfallen, Chats von Beschäftigten in Sicherheitsbehörden und beim Militär sollen jedoch ausgenommen werden
- Der Juristische Dienst des Rates sieht anlasslose Scans von Nichtverdächtigen als Verletzung von Grundrechten, doch zahlreiche EU-Regierungen wollen die Beratungen am 4. Juni fortsetzen
Was der Entwurf zur „Upload-Moderation“ ändert
- Der umstrittene Vorschlag zur Regulierung von Darstellungen sexuellen Kindesmissbrauchs, die sogenannte Chatkontrolle, könnte auf Ebene der EU-Regierungen wieder eine Zustimmung erhalten
- Laut einem Bericht von Euractiv und internen Dokumenten könnte Frankreich sein bisheriges Veto aufgeben
- Frankreich sieht den neuen Vorschlag zur „Upload-Moderation“ grundsätzlich als mögliche Option
- Der neueste Entwurf vom 28. Mai 2024, Council document 9093/24, gilt für Apps und Dienste mit Chat-Funktion
- Nutzer werden gefragt, ob sie einer anlasslosen und fehleranfälligen Überprüfung sowie möglichen Meldung privat geteilter Bilder, Fotos und Videos zustimmen
- Auch bislang unbekannte Bilder und Videos würden mit KI-Technologie untersucht
- Nutzer, die das Scannen ablehnen, können keine Bilder, Fotos, Videos oder Links senden oder empfangen
- Auch Ende-zu-Ende-verschlüsselte Dienste wie WhatsApp oder Signal müssten vor dem Versand von Nachrichten eine automatische Suche implementieren
- Der Entwurf behandelt dies in Artikel 10a als clientseitiges Scanning
- Patrick Breyer kritisiert, dass dieses Verfahren die bisher sichere Ende-zu-Ende-Verschlüsselung schwäche und Smartphones in Überwachungswerkzeuge verwandle
Ausnahmen und verbleibende Streitpunkte
- Im neuesten Entwurf entfallen Teile des ursprünglich vorgesehenen Scan-Umfangs
- Das bislang kaum eingesetzte Scannen von Textnachrichten auf Grooming-Anzeichen soll gestrichen werden
- Auch das bisher nie umgesetzte Scannen von Sprachkommunikation soll gestrichen werden
- Als Zugeständnis an Frankreich könnten Chats von Beschäftigten in Sicherheitsbehörden und beim Militär von der Chatkontrolle ausgenommen werden
- In der letzten Beratung am 24. Mai erklärte der Juristische Dienst des Rates, dass weiterhin anlasslose Chatkontroll-Scans bei Nichtverdächtigen vorgesehen seien und diese eine Verletzung von Grundrechten darstellten
- Dennoch zeigen viele EU-Regierungen den Willen, das Vorhaben weiterzuverfolgen
- Die EU-Regierungen wollen die Beratungen am 4. Juni fortsetzen
- Patrick Breyer, MdEP, kritisiert, der belgische Vorschlag setze den Kern des ursprünglichen Chatkontroll-Vorschlags der EU-Kommission unverändert um
- Er hält es im 21. Jahrhundert nicht für eine Option, Messenger nur für reinen Text zu verwenden
- Die Entfernung überzogener Elemente, die faktisch ohnehin nicht genutzt würden, sei bloße Kosmetik
- Er warnt, dass private Chats und Fotos unschuldiger Bürger mit unzuverlässiger Technologie durchsucht und offengelegt werden könnten
- Wenn die EU-Regierungen mit dieser Position in die Trilog-Verhandlungen gingen, bestehe die Gefahr, dass das Parlament in nichtöffentlichen Verhandlungen seine ursprüngliche Haltung schrittweise aufgebe und einem Kompromiss zustimme, der die Online-Sicherheit gefährde
3 Kommentare
In diesem Fall scheint das Problem wirklich ziemlich groß zu sein, aber offenbar wird es trotzdem durchgedrückt.
Was die EU Apple angetan hat, gefällt mir zwar, aber das hier geht mir eindeutig zu weit.
Vielleicht war es von Anfang an ein Fehler, Apple so etwas anzutun... schluchz schluchz
Meinungen auf Hacker News
Wenn „Chats von Mitarbeitern der Sicherheitsbehörden und des Militärs ebenfalls von der Chat-Kontrolle ausgenommen“ sind, heißt das dann nicht, dass ausgerechnet der Sicherheits- und Militärbereich, bei dem die Wahrscheinlichkeit am größtenten ist, dass man tatsächlich private Kommunikation einsehen müsste, außen vor bleibt?
Dann müsste man dieses Gesetz nicht befolgen, wenn man wie in [1] selbst hostet.
Bedeutet das aber, dass ein Sicherheitsbeamter statt selbst gehosteter Infrastruktur einen öffentlichen Dienst nutzen und – unter der Annahme der Ausnahme – darüber vertrauliche Daten verschicken könnte?
Und wie @WA sagte: Müssen dann die Kontaktlisten dieser Beamten an alle gewinnorientierten Organisationen weitergegeben werden?
Das wirkt wirklich wie ein dummer Witz.
[1]: See third row at https://www.patrick-breyer.de/en/posts/chat-control/#current...
Selbst wenn diese Behauptung stimmen würde: Wozu braucht man dann eine Funktion, mit der bestimmte Gruppen ausgenommen werden? Das lässt sich kaum erklären, es sei denn, man will diesen Gruppen absichtlich erlauben, Material sexuellen Kindesmissbrauchs zu erstellen und zu verbreiten.
Die plausiblere Schlussfolgerung ist, dass die Behauptungen zum Schutz der Privatsphäre oder zur Zweckbindung falsch sind.
Es ist schwer zu glauben, dass man denkt, so eine Maßnahme würde irgendetwas auch nur verlangsamen. Manche Gesetze kann man als Abwägung zwischen Sicherheit und Freiheit verstehen, aber in diesem Fall ist nicht einmal klar, was für Kriminelle dadurch schwieriger werden soll.
Wenn man auf solchen Plattformen problematische Inhalte teilen und Text verschicken kann, kann man auch Links verschicken. Selbst auf Plattformen, die „keine Links erlauben“, werden Menschen neue Schreibkonventionen entwickeln oder sie als normalen Text teilen. Man kann auch einfach eine andere Plattform nutzen; ich sehe nicht, wo die abschreckende Wirkung liegen soll.
Am Ende ist das nur eine lästige Regulierung, die entsteht, weil Menschen Gesetze machen, die Technologie nicht verstehen.
Natürlich wird man keine 100 % erwischen, aber das schaffen kaum Gesetze oder Maßnahmen. Und Maßnahmen, die ein solches Niveau erreichen, bringen meist enorme False Positives mit sich.
Auch Links sind nicht schwer zu scannen, und es ist kaum zu erwarten, dass es folgenlos bleibt, Material sexuellen Kindesmissbrauchs „einfach“ irgendwo hochzuladen. Wenn jemand ganz genau weiß, was er tut, sind wir wieder beim vorherigen Absatz.
Es ist schwer zu bestreiten, dass dieses Gesetz mehr als 0 Personen erwischen wird; wie viele genau, lässt sich im Voraus schwer beurteilen. Das heißt nicht, dass es ein gutes Gesetz ist, aber Einwände nach dem Muster „damit erwischt man niemanden“ sind ein schlechtes Argument.
Erstens soll es so aussehen, als würde jemand etwas tun. Wähler akzeptieren nicht, dass ihre Vertreter nicht die Macht haben, ein bestimmtes heißes Thema zu lösen. Selbst wenn ein neues Gesetz oder eine Regulierung kaum oder gar keine Wirkung hat: Wenn Gesetzgeber „Experten“ dazu bringen können, Gutes darüber zu sagen, sind viele Wähler, die das Thema nicht verstehen, bis zu einem gewissen Grad zufrieden.
Zweitens geht es darum, Überwachungstechnologie weiter aufzubauen und zu normalisieren, bis sie zum Alltag gehört. Je mehr Dinge verpflichtend werden, die Regierungsvertreter privat nicht tun dürften, desto leichter wird es für sie, nahezu alles zu tun, was sie wollen.
Wie zugänglich das auf dem Handy ist, ist eine andere Frage, aber so schwierig dürfte es nicht sein.
Öffentliche Inhalte können ebenfalls als Teil einer Defense-in-Depth-Strategie gescannt werden.
Wenn Verantwortliche mit Befugnissen sich unfähig fühlen, ihrer Verantwortung nachzukommen, geraten sie in Panik, bringen unschuldige Menschen in unbequeme oder schädliche Situationen und machen alle unsicherer. Das passiert, statt die vergleichsweise wenigen Täter zu fassen, die die eigentlichen Probleme verursachen.
Über die Jahre habe ich viel zu viele solcher Beispiele gesehen: Je größer die öffentliche Empörung, desto größer der Schaden für die breite Öffentlichkeit im Vergleich zu der winzigen Gruppe, die beteiligt oder verantwortlich ist. Diese ändert nur leicht ihre Vorgehensweise und macht weiter, während die Öffentlichkeit darunter leidet.
Besser wäre es, Eltern Werkzeuge zu geben und sie zu schulen, damit sie ihre Kinder schützen können, statt das an Regierungen oder börsennotierte Unternehmen auszulagern.
Deshalb müssen die Bürger, die die Menschen gewählt haben, die so etwas veranstalten, bei der nächsten Gelegenheit die Politiker entlassen und ihnen sagen, warum sie entlassen wurden. Die Polizei ist ein Skorpion, und ein Skorpion handelt seiner Natur entsprechend. Man muss die Idioten entlassen, die die Gesetze machen, die sie durchsetzen; die eigentliche Quelle neuer Gesetze ist nicht die Polizei, sondern sie.
Die Verwirrung, die ein solches Gesetz anrichten kann, sieht etwa so aus:
https://mjtsai.com/blog/2022/08/22/google-account-deleted-du...
https://news.ycombinator.com/item?id=32538805
Das eigentliche Problem ist, dass Googles Support notorisch nicht vorhanden oder undurchschaubar ist. Dazu kommen Schwarz-Weiß-Entscheidungen wie „lebenslange Sperre“ und eine Struktur, in der es schwer ist, bei einer halbwegs unabhängigen Stelle Einspruch einzulegen. Es gibt sehr viele harmlose Gründe, aus denen ein Konto gesperrt werden kann, und das ist nur einer davon.
Dienste, bei denen jeder etwas hochladen oder versenden kann, werden zum Fliegenfänger für die schlimmsten Menschen. Irgendeine Form von Schutz ist wirklich nötig.
Noch einen Schritt weiter: Wer eine riesige Plattform bereitstellt, die in viele Lebensbereiche hineinragt, muss, ob er will oder nicht, ein gewisses Maß an Verantwortung übernehmen. Mindestens sollte er halbwegs hilfreichen Support bieten und nicht zu einem großflächigen Hoster von Material zur sexuellen Ausbeutung von Kindern werden.
Als ich früher als Reparaturtechniker arbeitete, klickte ich auf der Startseite von Google Video irgendetwas an, um zu sehen, ob Flash Player funktionierte, und bekam ein Video zu sehen, in dem sich ein Mann den Kopf wegschoss. Auch auf Seiten wie Kazaa oder Warez-Sites stieß man ziemlich häufig auf Dinge der Art „die junge 12-jährige Alice zeigt stolz ihre kleinen Brüste“, ohne überhaupt gezielt danach zu suchen.
Wo man bei all dem den Ausgleichspunkt setzt, ist eine schwierige Frage, aber so zu tun, als gäbe es überhaupt keinen Ausgleich, hilft nicht.
Dieser Vorschlag wird zwar vom Rat vorangetrieben, aber das Endergebnis lässt sich noch beeinflussen. Man muss nur Parteien wählen, die mit diesem Müll nichts zu tun hatten, damit er abgelehnt wird. Die EU Pirate Party steht in manchen Regionen noch auf dem Wahlzettel.
Wenn das Gesetz wird, erwarte ich die Rückkehr von ASCII-Art.
Es geht nicht darum, Urlaubsfotos mit Freunden zu teilen, sondern um Dinge wie:
„Hier ist der Link zur Erklärung, wie die Steuerbehandlung für den gemeinnützigen Verein funktioniert“, „Hier ist das neue Schullogo“, „Hier ist der Link zum Spielplan des Fußballturniers“.
Etwas off-topic, aber ich habe mich gefragt, ob die EU jemals etwas dereguliert hat. Fügt sie immer nur neue Gesetze und Klauseln hinzu? Wird sie nach Codezeilen bezahlt? Was sind Beispiele für Gesetze, die abgeschafft oder dereguliert wurden?
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32...
Eine Zusammenfassung gibt es hier: http://publications.europa.eu/resource/cellar/c56fbf1c-97bd-...
Diese Richtlinie hob mehrere nationale Gesetze zu Produktfüllmengen auf. In Frankreich konnte man Shampoo zum Beispiel in 250-ml- oder 500-ml-Flaschen verkaufen, aber nicht in 295 ml; Pilze konnte man in 250-g- oder 500-g-Schachteln verkaufen, aber nicht in 230 g oder 490 g.
Jetzt geht das, und im Ergebnis war es eine Deregulierung, die Shrinkflation ermöglicht hat.
Für mich fasst der Umgang mit Lebensmittelsicherheit in der EU und in den USA die beiden Philosophien gut zusammen. In der EU muss nachgewiesen werden, dass ein Lebensmittel sicher ist, damit es zugelassen wird; in den USA muss nachgewiesen werden, dass ein Lebensmittel unsicher ist, damit es verboten wird.
Deregulierung ist heutzutage nicht sehr beliebt, aber hier und da ist sie gelegentlich vorgekommen.
Was ist dann mit unseren Grundrechten, Artikel 7?
Ich unterstütze dieses Gesetz vollständig, man muss nur eines ergänzen:
Alle Daten, die Politiker, Beamte und ihre Familien innerhalb der EU teilen, müssen veröffentlicht, analysiert, für Korruptionsermittlungen genutzt und dauerhaft gespeichert werden.
Wenn wir alle als Pädophile betrachtet werden, sind alle Politiker Kriminelle.
Natürlich werden einige zu Unrecht beschuldigt werden, und wir alle verlieren unsere Freiheit, aber bei jeder Wahl entsteht eine kleine Chance, dass die vorige Regierung überprüft wird und Korruption sowie andere Verbrechen ans Licht kommen.
Das scheint es wert zu sein.
Positiv gesehen wird der Widerstand die neue Generation dazu anstacheln, die alten Fossilien auf den Müllhaufen der Geschichte zu schicken.
https://youtube.com/watch?v=-wntX-a3jSY
Je fester man zupackt, desto mehr Sternensysteme gleiten einem durch die Finger.
Natürlich ist das nicht groß anders als bei früheren Generationen, aber eine riesige anti-autoritäre Welle ist es ganz sicher nicht.
Menschen jeden Alters lehnen sich zuverlässig nur dann auf, wenn sie tatsächlich Unannehmlichkeiten spüren. Die meisten werden die Überwachung akzeptieren und wieder dazu übergehen, dumme Memes zu teilen. Jedenfalls bis es zu spät ist.
Der Grund, warum solche Vorschläge immer wieder aufkommen, ist, dass es berechtigte Sorgen gibt, die die Selbstregulierung der Branche nicht gelöst hat.
Wenn niemand über gute Maßnahmen reden will, werden Politiker es erneut versuchen, selbst wenn es neue Politiker sind.
Was die unverantwortliche Bereitstellung generativer KI in diesem Bereich anrichtet, ist wirklich entsetzlich. Aber alles wird mit „Mathematik lässt sich ohnehin nicht aufhalten, also tun wir nichts“ abgetan oder implizit mit „Der Zweck heiligt die Mittel, also kann man für AGI auch ein paar Kinder opfern“. Nach außen sieht das katastrophal aus.
Wenn die Tech-Branche nicht selbst Verantwortung übernimmt, wird die Privatsphäre bald tot sein. Politiker müssen nur ein einziges Mal gewinnen.
Warten wir einfach ab, bis die ersten paar Hundert False Positives samt ihrer Geschichten in den Nachrichten auftauchen, und was das bei der nächsten Wahl bewirkt. Einige Parteien werden damit Wahlkampf machen.
[1] https://www.reddit.com/r/privacy/comments/voaicx/10_error_ra...
Um dieses Gesetz umzusetzen, müssen sie nur ein einziges Mal Erfolg haben, und dann bleibt es. Wir müssen jedes Mal mit der Abschaffung Erfolg haben und dürfen kein einziges Mal scheitern.