Ende der Chatkontrolle: EU-Parlament beschließt das Aus großflächiger Überwachung

• Das Europäische Parlament beendet die Überwachung privater Nachrichten („Chat Control“) und stellt damit die digitale Privatsphäre in der Kommunikation zwischen Einzelpersonen wieder her
• Mit einem Vorsprung von nur einer Stimme wurde die Klausel zur automatischen Bild- und Textanalyse abgelehnt, wodurch Chat-Scans von Meta, Google, Microsoft und anderen gestoppt werden
• Trotz des Endes der Überwachung bleiben gezielte Überwachung auf Basis richterlicher Anordnung sowie Scans öffentlicher Beiträge und Systeme für Nutzermeldungen bestehen
• Patrick Breyer von der Pirate Party bewertete die Entscheidung als „historischen Sieg der Zivilgesellschaft“ und betonte Kinderschutz durch Security by Design und das Löschen illegaler Inhalte
• Die Abstimmung bedeutet eine klare Absage an anlasslose Überwachung und einen Wechsel hin zu einem grundrechtskonformen System des Kinderschutzes

---

EU-Parlament erklärt mit dem Stopp von „Chat Control“ das Ende der Massenüberwachung

• Das Europäische Parlament hat beschlossen, die anlasslose Überwachung privater Nachrichten („Chat Control“) zu beenden
  • Nach der Ablehnung anlassloser Überwachung am 13. März gab es aus dem konservativen Lager einen Versuch zur Neuabstimmung, der jedoch scheiterte
  • Mit nur einer Stimme wurde die Bestimmung zur automatischen Bild- und Textanalyse abgelehnt; auch der gesamte Änderungsantrag verfehlte anschließend die Mehrheit
  • Damit läuft am 4. April die befristete EU-Ausnahmeregelung aus, sodass Scans privater Chats durch US-Unternehmen wie Meta, Google und Microsoft enden
  • Die digitale Privatsphäre in der Kommunikation zwischen Einzelpersonen wird wiederhergestellt

Kein rechtliches Vakuum, sondern ein Übergang zu „echtem Kinderschutz“

• Das Ende der anlasslosen Überwachung führt nicht zu einem rechtlichen Vakuum
  • Einem aktuellen Bericht zufolge stammen nur 36 % der durch Überwachung von US-Unternehmen erzeugten Verdachtsmeldungen aus der Überwachung privater Nachrichten
  • Soziale Netzwerke und Cloud-Dienste spielen für Ermittlungen eine wichtigere Rolle, und gezielte Überwachung auf Basis richterlicher Anordnung bleibt weiterhin zulässig
  • Auch regelmäßige Scans öffentlicher Beiträge und gehosteter Dateien sowie Systeme für Nutzermeldungen bleiben bestehen

Einschätzung von Patrick Breyer und Warnungen für die Zukunft

• Der ehemalige Europaabgeordnete Patrick Breyer von der Pirate Party bezeichnete die Entscheidung als „historischen Sieg der Zivilgesellschaft“
  • Er wies darauf hin, dass „Massenüberwachung ein fehleranfälliges System ist und Ermittlungsressourcen verschwendet“
  • Er betonte, Kinderschutz müsse durch „Security by Design“ und die Beseitigung illegaler Inhalte an der Quelle erreicht werden
  • Zugleich warnte er, dass Diskussionen über Chat Control 2.0 und eine verpflichtende Altersverifikation für Messenger laufen und anonyme Kommunikation bedroht sein könnte

Inhalt der auslaufenden Übergangsregelung

• Die befristete EU-Verordnung (2021/1232) aus dem Jahr 2021 läuft am 3. April aus
  • Sie erlaubte US-Unternehmen wie Meta, private Nachrichten freiwillig zu scannen
  • Drei Formen der Überwachung waren zulässig
    • Hash-Scans bereits bekannter Bilder und Videos
    • Automatische Analyse neuer Bilder und Videos
    • Automatische Textanalyse privater Chats
  • KI-basierte Analysen haben hohe Falsch-Positiv-Raten und verstehen keinen Kontext, wodurch selbst einvernehmliche Gespräche unter Jugendlichen offengelegt werden konnten

Forschungsergebnisse: Mangelnde Zuverlässigkeit der Chat-Control-Technik

• IT-Sicherheitsforscher analysierten den PhotoDNA-Algorithmus und bewerteten ihn als „nicht vertrauenswürdig“
  • Schon einfache Bildveränderungen wie das Hinzufügen eines Rahmens können illegale Bilder der Erkennung entziehen
  • Umgekehrt können harmlose Bilder fälschlich an die Polizei gemeldet werden

EU-Evaluierungsbericht zeigt das Scheitern von Chat Control

• Datenmonopol: 99 % der Meldungen stammen von Meta, wodurch faktisch ein Privatunternehmen Polizeiarbeit übernimmt
• Überlastung durch Falschdaten: Nach Angaben des deutschen BKA haben 48 % der gemeldeten öffentlichen Chats keinen Bezug zu Straftaten
• Kriminalisierung von Jugendlichen: Rund 40 % der Ermittlungen in Deutschland betreffen das Teilen von Bildern unter Jugendlichen
• Durch Verbreitung von Verschlüsselung wirkungslos geworden: Nach der Ausbreitung von Ende-zu-Ende-Verschlüsselung sank die Zahl der Meldungen um 50 %
• Kein nachweisbarer Nutzen für den Kinderschutz: Es gibt keinen Zusammenhang zwischen Überwachung und tatsächlichen Verurteilungen

Faktencheck: Gegenargumente zu Behauptungen der Überwachungsbefürworter

• Behauptung: „Das Parlament trägt die Verantwortung für das Scheitern der Verhandlungen“

  • Fakt: Die Verhandlungen scheiterten am Rat der EU
  • Laut durchgesickerten Dokumenten verweigerten die Mitgliedstaaten einen Kompromiss, weil sie einen Präzedenzfall für Chat Control 2.0 fürchteten
  • Die Verhandlungsführerin des Parlaments, Birgit Sippel, kritisierte, die Mitgliedstaaten hätten das Auslaufen bewusst in Kauf genommen

• Behauptung: „Ohne Überwachung sind Ermittlungen unmöglich“

  • Fakt: Gezielte Überwachung bleibt weiterhin möglich
  • Der Bund Deutscher Kriminalbeamter (BDK) warnte, „Massenüberwachung produziert nur eine Informationsflut ohne verwertbare Hinweise“
  • Das BKA lehnt Anfragen zur Löschung illegalen Materials systematisch ab

• Behauptung: „Die Scan-Technologie ist präzise“

  • Fakt: Laut einem offenen Brief von IT-Forschern liegt die Fehlerrate bei 13 bis 20 %
  • Unter Milliarden von Fällen machen tatsächlich illegale Inhalte nur 0,0000027 % aus
  • Die deutsche Datenschutzkonferenz (DSK) warnte, „anlasslose Überwachung verletzt den Kern des Fernmeldegeheimnisses“

• Behauptung: „Betroffene fordern Überwachung“

  • Fakt: Tatsächliche Betroffene lehnen Überwachung ab und gehen juristisch dagegen vor
  • Das Opfer Alexander Hanff erklärte, „die Verletzung der Privatsphäre ist ein zweiter Schaden“
  • Ein Betroffener aus Bayern verklagt Meta
  • Die US-Organisation Thorn investierte erhebliche Mittel in den Verkauf von Scan-Software und in Lobbyarbeit in der EU

Der künftige Weg: nicht Überwachung, sondern „Security by Design“

• Das Europäische Parlament unterstützt den Wechsel von einem überwachungszentrierten Ansatz hin zu technischer Prävention
  1. Stärkere sichere Standardeinstellungen und Schutzmechanismen zur Verhinderung von Cyber-Grooming
  2. Beibehaltung gezielter Überwachung mit richterlicher Genehmigung
  3. Aktive Aufspürung durch ein EU-Kinderschutzzentrum und Verpflichtung zur sofortigen Löschung
     • Illegales Material muss im Internet und im Darknet an der Quelle entfernt werden
     • Die Haltung der Strafverfolgungsbehörden, dies liege „nicht in ihrer Zuständigkeit“, müsse enden

Lobbyarbeit und das Schüren falscher Ängste

• Die Vorstöße für Chat Control wurden von aus dem Ausland finanzierten Lobbygruppen und Technologieunternehmen vorangetrieben
  • Das US-Unternehmen Thorn betrieb in Brüssel Lobbyarbeit im Umfang von Hunderttausenden Euro und verkaufte zugleich entsprechende Software
  • Teile der Tech-Branche unterstützten gemeinsam mit einigen zivilgesellschaftlichen Gruppen ein Gesetz zur Sicherung von Gewinnen und Zugriffsrechten auf Daten

Fazit: Eine klare Absage an den Überwachungsrausch

• Breyer betonte: „Die von der US-Tech-Industrie und regierungsfinanzierten Lobbygruppen bis zuletzt geschürte Angst hat mit Fehlalarmen und doppelten Datensätzen kein einziges Kind gerettet“
• Die Entscheidung ist ein klares Signal gegen anlasslose Überwachung und bestätigt die Notwendigkeit eines Wechsels zu einem gezielten, grundrechtskonformen System des Kinderschutzes

[GN⁺]

Hacker-News-Kommentare

• Trotz des heutigen Erfolgs kann nicht vollständig ausgeschlossen werden, dass die EU-Regierungen weitere verfahrensbezogene Schritte unternehmen.
  Insbesondere laufen die Trilog-Verhandlungen zur sogenannten Kinderschutzverordnung „Chat Control 2.0“ weiterhin unter hohem Zeitdruck.
  Außerdem steht als nächster Verhandlungspunkt die verpflichtende Altersverifikation an, durch die Messenger-, Chat-Dienste und App-Stores Ausweisdokumente oder Gesichtsscans verlangen könnten, wodurch anonyme Kommunikation faktisch unmöglich würde und vulnerable Gruppen wie Whistleblower oder Verfolgte gefährdet wären.

  • In einer Demokratie beseitigt man nicht die Gegenseite.
    Wer glaubt, Sicherheit habe Vorrang vor Privatsphäre, wird diese Position sein Leben lang vor Gericht ausfechten.
    Ein Gesetz entfaltet keine Wirkung, wenn es nicht verabschiedet wird, daher ist die Seite, die den Status quo verteidigt, in der stärkeren Position.
    Solche sich in jeder Generation wiederholenden Auseinandersetzungen sind das Wesen der Demokratie, und der Prozess, Bürger zu überzeugen, ist zugleich der Schutz der Freiheit.
  • Die Debatte über „Altersverifikation“ zeigt in Wirklichkeit die Datensammelstruktur von Big Tech.
    Wenn Nutzer die Identitätsprüfung ablehnen, könnten sie die Nutzung des Dienstes einstellen.
    Viele Nutzer stellen Bequemlichkeit noch immer über Privatsphäre, aber die eigentliche Bedrohung liegt darin, dass solche Strukturen staatliche Überwachung erleichtern.
  • Interessant, wie auffällig der Zeitpunkt zusammenfällt, zu dem Meta verschlüsselte Chats auf Instagram eingestellt hat.
  • Ich finde, der Trilog ist eine geschlossene Verhandlungsrunde, in der Minister hinter verschlossenen Türen Gesetze schreiben, und sollte niederbrennen.
  • Es bleibt nur ein „bis zur nächsten Verhandlungsrunde“.

• Die EPP hat eine PR-Kampagne gestartet, um dieses Gesetz zügig durchzubringen.
  Mit einem Teddybär-Bild und der Botschaft „Kinderschutz ist keine Wahlmöglichkeit“.
  Ich finde aber, dass wir datenschutzfreundliche Alternativen statt Massenüberwachung brauchen.
  In den offiziellen Materialien der EPP und der Lobbyliste sind Facebook, Microsoft, UNICEF und verschiedene andere Organisationen aufgeführt.

  • Palantir fehlt offiziell, ist aber faktisch an jedem Schritt beteiligt.
    Laut der Entscheidung der Europäischen Bürgerbeauftragten und der Anfrage im EU-Parlament hat Palantir Europol jahrelang Software geliefert, ohne im Transparenzregister eingetragen zu sein.
    Laut einem Bericht von Euractiv gibt es nicht einmal Aufzeichnungen über ein Treffen zwischen Ursula von der Leyen und dem CEO von Palantir.
  • Dass auch die von Ashton Kutcher gegründete Organisation Thorn dabei ist, wirkt heuchlerisch.
    Laut einem BBC-Artikel und einem Bericht von People hat er in der Vergangenheit einen Sexualstraftäter verteidigt.
  • Facebook und Microsoft sind ausländische Unternehmen, wirken aber tief in das Lobbying für EU-Gesetze hinein.
  • Solche Gesetze schützen Kinder in Wirklichkeit nicht, sondern wirken wie ein rhetorisches Mittel zur Irreführung der Wähler.
    Besonders wirksam ist das bei älteren Menschen und Eltern, die mit Technik weniger vertraut sind.
  • Danach veröffentlichte die EPP noch einen Folgeartikel mit dem Tenor, „die Sozialisten hätten die Kinder im Stich gelassen“, in deutlich schärferem Ton.
    Link zum Artikel

• Die Formulierung „Ab dem 6. April 2026 müssen Gmail, LinkedIn, Microsoft usw. das Scannen privater Nachrichten einstellen“ ist verwirrend.
  Ich habe mich gefragt, ob das bereits in Kraft war.

  • Facebook und andere scannen Nachrichten bereits seit Jahren.
    Nachdem diese Praxis für rechtswidrig erklärt wurde, wurde das Übergangsgesetz Chat Control 1.0 verabschiedet, um sie zu legalisieren.
    Da sich die Verhandlungen aber verzögert haben, wird es nach dem Auslaufen am 4. April wieder illegal.
  • Schon als Apple das Scannen von iMessage vorantreiben wollte, gab es große Kontroversen.
    Die Gegenposition der EFF ist dafür repräsentativ.
  • Das freiwillige Chat Control 1.0 ist seit 2021 in Kraft.
  • Es war trotz des Konflikts mit verfassungsmäßigen Rechten vorübergehend erlaubt, und Chat Control 2.0 ist der Versuch, dies verpflichtend zu machen.
  • Gmail und andere scannen E-Mails bereits seit den 2010er Jahren, um Kinderpornografie zu erkennen.

• Es gibt eine Statistik, wonach 36 % der Meldungen von US-Unternehmen aus der Überwachung privater Nachrichten stammen.
  Gerade weil diese Zahl nicht klein ist, finde ich sie eher beunruhigend.

  • Der Anteil ist ziemlich hoch, deshalb frage ich mich, wie rauschbehaftet die Daten in Wirklichkeit sind.

• Aus politischer Sicht passt der Slogan: „Diese Leute werden nicht aufhören, bis sie die Nachrichten Ihrer Kinder lesen können.“

  • Man könnte es auch als „Menschen, die die geheimen Gespräche Ihres Teenager-Kindes sehen wollen“ formulieren.

• Chat Control wird eingeführt, scheitert, und wird dann wieder eingebracht — ein endloses Hamsterrad.

  • Das Problem der modernen Demokratie ist, dass es für sie schon Gesetz wird, wenn sie einmal gewinnen, während wir jedes Mal gewinnen müssen.
  • Als Meme passt dieses Bild besser.
  • Die Alternative wäre nur eine Diktatur, daher ist diese Wiederholung das Schicksal der Demokratie.
  • US-Unternehmen und einige Polizeibehörden in der EU wollen dieses Gesetz sehr stark.
    Auch Politiker scheinen die Machtverlockung der Überwachung zu spüren.
  • Ich finde, wir brauchen eine legislative Doppelbestrafungsklausel, damit gescheiterte Gesetzentwürfe nicht erneut eingebracht werden können.

• Ich stelle mir ein Insider-Angriffsszenario innerhalb von Microsoft vor.
  Dabei würde ein Hash eines Screenshots mit bestimmten Wörtern in die PhotoDNA-Datenbank eingeschleust, und ein Insider bei Meta würde den Formatfehler erkennen und darüber die Nutzer-ID zurückverfolgen.
  Wenn nur wenige Konten abgefragt werden, lassen sich auch Warnungen wegen ungewöhnlicher Zugriffe vermeiden.
  Ein relevantes Dokument wurde geteilt.

• „Das Ende von Chat Control, vorerst“ wäre wohl die treffendere Formulierung.

  • Sie drücken immer auf den „später nochmal“-Button.
  • Vielleicht wurde es auch nur bis zu diesem Monat gestoppt.

• Innerhalb von sechs Monaten wird es unter neuem Namen zurückkommen.
  Weil nur die Seite Kosten trägt, die neue Gesetze blockiert, sind die Mittel von Bürgerrechtsorganisationen zuerst erschöpft.
  Selbst eine Grundrechtecharta bindet Gesetzgeber nicht wirklich, und am Ende landet alles vor Gericht.

• Unter dem Vorwand „für die Kinder“ wird dieser Versuch weitergehen.
  Um das zu verhindern, brauchen wir ein Gesetz, das Datenschutzrechte dauerhaft stärkt.

  • Ich denke, das sollte die Form von GDPR haben.