- Der CSAM-Verordnungsentwurf der EU-Kommission wird als Vorschlag für Massenüberwachung kritisiert, bei dem Kommunikation, Fotos und Videos von Bürgern in Kommunikations-Apps wie WhatsApp, iMessage, Instagram, TikTok und X automatisch gescannt würden
- Da auch Bürger ohne Tatverdacht betroffen sein könnten, beanstanden Wissenschaft, Datenschutzaufsichtsbehörden und Rechtsexperten innerhalb des EU-Rats Eingriffe in das Recht auf Privatsphäre sowie technische Mängel
- Nachdem sich am 14. September 2023 im EU-Rat abgezeichnet hatte, dass es nicht genügend Unterstützung gibt, schaltete die für Inneres zuständige Kommissarin Ylva Johansson am folgenden Tag bezahlte Anzeigen auf X, die sich gegen ablehnende oder unentschlossene Staaten richteten
- Die Anzeigen wurden mehr als 4 Millionen Mal angesehen und nutzten laut X-Transparenzbericht Microtargeting, bei dem Nutzer ausgeschlossen wurden, die sich für Julian Assange, Brexit, AfD, Christentum und Ähnliches interessieren
- Der Ausschluss von Werbung auf Basis politischer oder religiöser Überzeugungen steht im Konflikt mit den Werberichtlinien von X, dem Digital Services Act und der DSGVO und führte zu Kritik, die Kommission habe manipulativ Druck auf die öffentliche Meinung ausgeübt
Wie der CSAM-Verordnungsentwurf die Überwachungsstruktur der Kommunikation verändern soll
- Die EU-Kommission treibt einen CSAM-Verordnungsentwurf voran, der digitale Kommunikations-Apps wie WhatsApp, iMessage, Instagram, TikTok und X in Instrumente der Massenüberwachung verwandeln würde
- Gescannt werden soll die digitale Kommunikation von EU-Bürgern insgesamt, einschließlich Echtzeitgesprächen, Fotos und Videos
- Auch Kommunikation von Bürgern, die keiner Straftat verdächtigt werden, könnte automatisch gescannt werden
- Hunderte Wissenschaftler, Datenschutzaufsichtsbehörden und Rechtsexperten innerhalb des EU-Rats kritisieren, dass der Vorschlag das Recht auf Privatsphäre verletzt und die Umsetzungstechnologie grundlegend fehlerhaft ist
- Künstliche Intelligenz könne kriminelle Aktivitäten nicht zuverlässig erkennen und Millionen unschuldiger Bürger fälschlich als Verdächtige melden
- Kriminelle könnten das System leicht umgehen, indem sie Apps löschen oder ins Dark Web ausweichen
- Der Vorschlag wird dafür kritisiert, das Ende privater digitaler Gespräche zu bedeuten und auch nicht mit der Kommunikationsfreiheit und der Unschuldsvermutung vereinbar zu sein
X-Anzeigen unmittelbar nach fehlender Unterstützung im Rat
- Am 14. September 2023 wurde deutlich, dass es im EU-Rat keine ausreichende Unterstützung für diesen Vorschlag gab
- Am folgenden Tag, dem 15. September, beauftragte die für Inneres zuständige EU-Kommissarin Ylva Johansson eine bezahlte Anzeigenkampagne auf X
- Ziel der Anzeigen waren Staaten, die laut geleaktem Protokoll der Sitzung vom 14. September dem aktuellen Vorschlag nicht zustimmen wollten
- Niederlande
- Schweden
- Belgien
- Finnland
- Slowenien
- Portugal
- Tschechien
- Die Kampagne wurde mehr als 4 Millionen Mal angesehen
- Die Anzeigen nutzten das Bild eines kleinen Mädchens, bedrohlich wirkende Männer und düstere Musik und übten emotionalen Druck aus, indem sie suggerierten, Gegner des Gesetzes wollten Kinder nicht schützen
Probleme bei Umfragen und der Darstellung von Zustimmungswerten
- Die Anzeige behauptete, der vorgeschlagene Rechtsakt werde von einer Mehrheit der Europäer unterstützt
- Die zugrunde liegende Umfrage wurde dafür kritisiert, nur die Vorteile des Gesetzes hervorgehoben und keine Nachteile dargestellt zu haben
- Umfragen von YouGov und Novus stellten auch die Nachteile dar und zeigten, dass es unter europäischen Bürgern kaum Unterstützung für den Vorschlag gibt
- Später verfasste die Methodologin Dr. Vera Wilde einen ausführlichen Beitrag zu den in der Anzeigenkampagne verwendeten Umfrageergebnissen
- Sie bewertete das Umfrageinstrument als voreingenommen und die Umfrage daher als ungültig
- Sie sah darin einen Verstoß der Umfrageverantwortlichen gegen weithin anerkannte professionelle und ethische Umfragestandards sowie einschlägige Verhaltenskodizes
- Sie kam zu dem Schluss, dass Unterstützer des Programms die Umfrageergebnisse falsch dargestellt hätten
- Sie bewertete die Umfrage und ihre Darstellung als Desinformationskampagne, die Teilnehmende und Leser in die Irre führt
X-Microtargeting und rechtliche Konflikte
- Laut X-Transparenzbericht nutzte die Kommission Microtargeting, um bestimmten Gruppen die Anzeigen nicht anzuzeigen
- Ausgeschlossen wurden unter anderem Menschen mit Interesse an Privatsphäre sowie Nutzer mit euroskeptischer Ausrichtung
- Menschen mit Interesse an Julian Assange
- Menschen mit Interesse an nexit, brexit, spanexit
- Menschen mit Interesse an Victor Orbán, Nigel Farage und der deutschen AfD
- Aus unklaren Gründen wurden auch Menschen mit Interesse am Christentum ausgeschlossen
- Nachdem kritische politische und religiöse Gruppen ausgeschlossen waren, wurde der X-Algorithmus darauf eingestellt, unter den verbleibenden Personen Nutzer zu finden, die sich wahrscheinlich für die Anzeigenbotschaft interessieren würden
- Dadurch sei eine kritikfreie Echokammer entstanden, in der kritische Reaktionen reduziert wurden
- Solches Microtargeting auf Basis politischer und religiöser Überzeugungen steht im Konflikt mit:
- den Werberichtlinien von X
- Artikel 26(3) des Digital Services Act
- der General Data Protection Regulation
- Insbesondere der Digital Services Act ist ein Gesetz, dessen Aufsicht direkt bei der Kommission liegt
Demokratische Verfahren und Forderungen an die Kommission
- Wenn es für das Gesetz nicht genügend Unterstützung gibt, bestehe die demokratische Reaktion darin, es zurückzuziehen oder so zu ändern, dass es ausreichend Unterstützung erhalten kann, wie von Deutschland vorgeschlagen
- In diesem Fall wird eine Änderung erwähnt, die keinen verfassungswidrigen „telescreen“ einführt
- Die Art und Weise, wie die Kommission manipulative Werbung, irreführende Statistiken und Microtargeting auf Basis von Religion und Überzeugungen nutzte, um die öffentliche Meinung in skeptischen Mitgliedstaaten zu verändern, wird dafür kritisiert, an Desinformationskampagnen bei US-Wahlen und beim Brexit zu erinnern
- Das Beiseiteschieben europäischer Werte, um ein hoch umstrittenes Gesetz durchzusetzen, wird als schädlich nicht nur für Bürger, sondern auch für die Grundlagen der Europäischen Union bewertet
- Von der Kommission wird gefordert, die Anzeigenkampagne zu entfernen und die manipulative Desinformationskampagne zu stoppen, mit der sie über illegale Werbung in sozialen Medien die europäische öffentliche Meinung umbiegen will
Spätere Updates und Materialien
- Nach Veröffentlichung des Beitrags wurde aktualisiert, dass der Account @DannyMekic und seine Tweets auf X/Twitter nicht mehr in der Suchmaschine von X erschienen
- Der Kontozugriff wurde später wiederhergestellt, doch es sei nicht bekannt, warum, wie, für wen oder ob dies auf eigene Entscheidung von X geschah
- Der zugehörige X-Transparenzbericht scheint mit Stand vom 14. November 2023 von X/Twitter entfernt worden zu sein; Mirror-Dateien befinden sich auf GitHub
- Der Text enthält außerdem eine Liste von Links zu den zugehörigen X-Transparenzberichten und EUHomeAffairs-Posts
1 Kommentare
Hacker-News-Meinungen
Die Art und Weise, wie Politiker versuchen, solche umstrittenen Gesetze durchzubringen, fühlt sich wirklich falsch an.
Politiker bringen unter dem Einfluss von Lobbygruppen, die am Gemeinwohl kaum interessiert sind, kontroverse Vorhaben auf den Tisch, und um sie zu stoppen, müssen viele Bürger Zeit und Energie in Kampagnen stecken.
Wenn es dann ruhig geworden ist, kommen dieselben Politiker und Lobbyisten wieder damit an, nur unter anderem Namen oder heimlich in einem anderen Gesetz versteckt; und nach Ereignissen mit stark mobilisierten Emotionen ist es auch leichter, ohne Kontext öffentliche Unterstützung zu bekommen.
Politiker und Lobbyisten werden dafür bezahlt, aber Bürger nicht. Am Ende können sie also denselben Unsinn immer weiter vorantreiben, während Bürger ihr Leben dafür aufreiben.
Schon früher versuchte man, Softwarepatente bei einem Treffen der Landwirtschaftsminister durchzubringen; damals blockierte die polnische Delegation das, aber am Ende bekam die Industrie später doch, was sie wollte.
Einerseits hätte ich das Gefühl, dieser Wahnsinn würde enden; andererseits fürchte ich, dass man ein paar Monate lang vielleicht auch Dinge wie Totalüberwachung und Vierteilen als Hinrichtungsmethode ausprobieren würde.
Trotzdem hätte es wohl den Vorteil, dass schlechte Gesetze viel schneller korrigiert werden könnten.
Auch viele Siege bei Rechten wie Frauenwahlrecht, Bürgerrechte, Rechte Homosexueller oder medizinisches Cannabis waren das Ergebnis davon, dass Politiker und Lobbyisten sie immer wieder einbrachten, immer wieder scheiterten und sie eines Tages dann doch verabschiedet wurden und sich etablierten.
Persönlich halte ich kleinere, stärker dezentralisierte Lokalregierungen für die beste Möglichkeit, Schaden zu begrenzen; dann müssten aber alle Gruppen dieselben Kämpfe in vielen Regionen wiederholen, was seinerseits Schaden verursacht.
Mir fällt keine Methode ein, schlechte Gesetze dauerhaft abzuwehren, ohne damit frühere Bürgerrechtsbewegungen auf dieselbe Weise zu beeinträchtigen.
Um Handeln zu verhindern, braucht man meist vollständige Kontrolle oder starke Anreize; bei der Entwicklung von Browserfunktionen gilt dieselbe Dynamik.
Etwas hinzuzufügen ist leicht, das Hinzufügen zu verhindern ist schwer, und am Ende sagt man auch zu Dingen Ja, die für die große Mehrheit nachteilig sind.
Mehr Menschen informieren sich vielleicht ein wenig und tun dann nichts, und eine noch größere Gruppe beschwert sich in Foren und fordert nur andere auf, etwas zu tun.
Schon mit sehr wenigen Leuten kann man Veränderung bewirken, aber in der Realität bewegen sich noch weniger Menschen als das, und es passiert gar nichts.
Menschen wie ich, die aktiv wurden, sind am Ende erschöpft und verzweifelt und haben das Gefühl, ein ziemlich großes Stück ihres Lebens verschwendet zu haben.
Wenn nur ein paar Leute mehr mitgemacht hätten, hätte es anders laufen können, aber das ist nicht passiert.
Wenn man Veränderung will, kann man sie erreichen, aber die meisten werden es nicht tun.
Unabhängig von den breiteren Fragen zu Privatsphäre und Überwachung wäre es sehr beunruhigend, wenn die European Commission ausgefeilte Targeted Ads eingesetzt hätte, um die öffentliche Meinung zu beeinflussen, und dabei Menschen mit Interesse an Datenschutz sowie Euroskeptiker absichtlich ausgeschlossen hätte.
Wenn Institutionen wie die EC anfangen, über sorgfältig konstruierte Echokammern ihre Agenda voranzutreiben und bestimmte Bevölkerungsgruppen aus der Debatte herauszunehmen, verschwindet der gemeinsame öffentliche Raum des politischen Diskurses.
Vielleicht digitales Gerrymandering?
Neu ist das nicht; es ist nur nicht mehr so, dass nur rechte Populisten so etwas tun.
Auf Twitter scheint rechter Populismus heutzutage aus irgendeinem Grund völlig in Ordnung zu sein.
Wenn man zum Beispiel Werbung auf Belgium oder NL ausrichtet, sind Menschen, die seit Generationen dort leben, oft Anhänger rechter Parteien.
Menschen, die dem Geist des Gesetzes entsprechen würden, sind häufig nicht vor Ort registriert, ähnlich wie Studierende in den USA.
Am Ende entsteht eine Feedback-Schleife, in der wieder Inhalte in die Feeds von Menschen gelangen, die denen ähneln, die Brexit hervorgebracht haben.
Ich stimme dem Autor zu: Wenn es nicht genug Unterstützung für den vorgeschlagenen Gesetzentwurf gibt, ist die richtige demokratische Reaktion, ihn zurückzuziehen.
Ich habe genug von diesem Burschenschaftsmodell öffentlicher Politik, bei dem man so lange weiterfragt, bis von den Leuten, die man nicht stummgeschaltet hat, die gewünschten Beispiele kommen.
Ich habe kürzlich erfahren, dass Abstimmungen im US-Kongress früher in dem Sinne anonym waren, dass die Stimmenzahlen veröffentlicht wurden, aber geheim blieb, wer wofür gestimmt hatte.
Später wurden unter dem Vorwand größerer Transparenz die tatsächlichen Einzelstimmen veröffentlicht; das wirkte für Bürger offener, zeigte Lobbyisten aber genau, welche Abgeordneten für oder gegen ihre Interessen stimmten.
In der Folge floss Geld an lobbyfreundliche Abgeordnete, und der Teufelskreis beschleunigte sich.
Dieses Vorlesungsvideo behandelt den Prozess und seine Auswirkungen deutlich ausführlicher: https://www.youtube.com/watch?v=Qz27n1tNNMg
Außerdem erinnere ich mich an eine Geschichte über ein reales politisches Gremium, das bei demselben Gesetzesentwurf sowohl offene als auch geheime Abstimmungen ausprobierte und dabei völlig unterschiedliche Ergebnisse bekam. Vermutlich war es das italienische Parlament.
Das Europäische Parlament ist wahrscheinlich die beste Institution, die wir in Europa haben, und ein großer Teil guter Veränderungen und neuer Rechte kommt von dort.
Umgekehrt ist die Europäische Kommission ziemlich nahe am Schlechtesten, was wir haben könnten.
Sie ist entweder völlig korrupt, wie der Fall der Vizepräsidentin, die Bargeldtaschen aus Katar und anderswo angenommen hat, oder zumindest moralisch durch Lobbying korrumpiert.
Außerdem hat niemand diese Leute gewählt, die so viel Macht haben.
Es lohnt sich auch darüber nachzudenken, warum die USA gemeinsamen Zugriff auf alle Finanztransaktionen europäischer Bürger bekommen haben, der umgekehrte Fall aber nicht gilt.
Das schwächt also das ursprüngliche Argument.
Zum Beispiel tragen die USA den Großteil der europäischen Verteidigungskosten.
Außerdem war sie aus irgendeinem Grund Vizepräsidentin für AI und Blockchain, obwohl sie keinerlei Qualifikation dafür hatte.
Das Problem sowohl der EK als auch des EP ist der Mangel an Rechenschaftspflicht; es ist ein sehr indirektes System.
An der EU-Kommission ist nichts neu.
Sie ist die am wenigsten demokratische unter den EU-Institutionen, und ihr Name passt sehr gut, da „Commission“ vom Kommissar der Soviet Union kommt.
Man muss sich nur ansehen, wie sie Länder angreift, die den Mut hatten, gegen ihre Unterstützer zu stimmen, hauptsächlich deutsche Interessengruppen und Kräfte, die gegen Russland als Stellvertreter auftreten.
Sie definiert Wörter wie Rechtsstaatlichkeit um, um Polen ins Visier zu nehmen, das von einer Partei regiert wird, die der EU-Regierungspartei EPP entgegensteht, während sie die schreckliche Korruption im verbündeten Bulgarien völlig ignoriert.
Auf die massive Korruption am Court of Justice of the EU reagiert sie überhaupt nicht, und dieses Gericht steht inzwischen ziemlich auf der Gegenseite der Rechtsstaatlichkeit, aber das ist eine lange Geschichte.
Gleichzeitig erweitert sie ihre Befugnisse entgegen den Verträgen, will Vetorechte abschaffen und versucht, solche Gesetze durchzudrücken.
Umso trauriger ist das, weil die EU selbst eine großartige Idee war; alles kann korrumpiert werden.
Mich würde die Sichtweise von Leuten interessieren, die gründlich über die Rolle von Anonymität in einer Demokratie nachgedacht haben.
Interessant ist, dass Menschen mit der Haltung „Wenn man nichts falsch gemacht hat, hat man auch nichts gegen Überwachung einzuwenden“ diese Philosophie oft nur in eine Richtung anwenden.
Ich habe Leute gesehen, die wütend darüber waren, dass Snowden Regierungsaktivitäten offengelegt hat, während ihnen gleichgültig war, dass der offengelegte Inhalt zeigte, dass die Regierung ihre eigenen Bürger überwacht hat.
Heißt das, die Regierung hat ein Recht auf Privatsphäre, Bürger aber nicht?
Ich habe die Intuition, dass Privatsphäre des Einzelnen für den Erhalt der Demokratie wichtig ist, aber auch die Intuition, dass institutionelle Geheimhaltung der Regierung der Demokratie schadet.
Natürlich würden die meisten argumentieren, dass ein vernünftiges Maß an Regierungsgeheimnissen für die nationale Sicherheit nötig ist, und ich bevorzuge nur das Minimum davon, aber die meisten in meinem Umfeld stimmen dem nicht zu.
Ich würde gern beide Seiten ausloten und Argumente finden, die über Intuition hinausgehen; Links zu Argumentationen oder Referenzen aus verschiedenen Positionen wären hilfreich.
Eine der Pflichten des Staates ist militärische Verteidigung; der Staat muss das Volk schützen, und die Realität des Krieges verlangt ein gewisses Maß an Geheimhaltung.
Das nicht anzuerkennen, könnte einer Aufgabe staatlicher Pflichten gleichkommen.
Privatpersonen können dagegen keinen Krieg führen, und der Grund, warum der Staat das Volk schützen muss, liegt auch darin, dass Einzelnen untersagt ist, selbst Krieg zu führen.
Die Logik der Kriegsrealität rechtfertigt demnach staatliche Geheimhaltung, aber nicht auch private Geheimnisse von Individuen.
Als Gegenargument: Historisch gesehen, besonders im 20. Jahrhundert, wurden zig Millionen Menschen von ihren eigenen Regierungen getötet.
Damit eine Regierung die Bevölkerung effektiv vor äußeren Bedrohungen schützen kann, mögen manche Geheimnisse nötig sein; aber die Bürger brauchen ebenso das Recht, Geheimnisse gegenüber dem Staat zu haben, um sich vor der ebenso realen und beunruhigenden inneren Bedrohung durch die Regierung zu schützen.
Menschen brauchen irgendeine Form von sozialem Druck, um zu kooperieren; das kann positives Feedback von Gleichgesinnten sein oder negatives Feedback wie Scham.
Entscheidend ist dabei Authentizität, und die eigenen Peers müssen genaues positives und negatives Feedback geben können.
Anonymität zerstört dieses Modell, weil sie Menschen ermöglicht, so zu tun, als hätten sie bestimmte Ansichten, um Belohnungen zu erhalten, während sie negatives Feedback für antisoziales Verhalten vermeiden.
Bei pseudonymen Kommentatoren im Internet sieht man das sofort.
Auch ganz normale Menschen können sich online völlig miserabel verhalten, weil sie ihr Verhalten vor Leuten verbergen können, die soziale Konsequenzen auferlegen könnten.
Wenn man erfährt, dass ein enger Freund im Alltag die Grausamkeit eines Online-Trolls zeigt, könnte man die Freundschaft beenden.
Natürlich sind nicht alle Vorteile von Privatsphäre schlecht, und verletzliche Menschen profitieren besonders in feindseligen Umgebungen stark von Privatsphäre.
Aber in weniger feindseligen Umgebungen wie direkter oder indirekter Demokratie könnte die Antwort nicht mehr Privatsphäre sein, sondern eine weniger urteilende Kultur.
Ein weiterer Rahmen ist Vertrauen.
Anonymität untergräbt Vertrauen, aber gemeinsames Handeln braucht Vertrauen.
Aus dieser Perspektive ist ziemlich klar, dass Demokratie und Schutz der Privatsphäre gegensätzliche Ziele verfolgen.
Auch beim Wählen halte ich es nicht für eine gute Idee, Anreize zum Lügen zu schaffen, oder schlimmer noch, dies aktiv als etwas Positives zu fördern.
Wenn öffentliches Wahlverhalten negative externe Effekte erzeugt, kann es andere Lösungen geben, als Menschen darüber lügen zu lassen, wie sie gewählt haben.
Wirklich schrecklich.
Auch Großbritannien versucht so etwas unter dem Vorwand, Kinder zu schützen.
Aber es unterstützt keine zivilgesellschaftlichen Organisationen, die in diesem Bereich gute Arbeit leisten, und seine tatsächlichen Handlungen zeigen, dass Kontrolle eine viel höhere Priorität hat als Kinderschutz.
Selbst wenn man den allgemeinen Kontrollzwang und den Freiheitsverlust außer Acht lässt, frage ich mich, ob je untersucht wurde, wie sehr das tatsächlich hilft, Sexualstraftäter gegen Kinder zu stoppen.
Im Vergleich zu zivilgesellschaftlichen Organisationen, die gegen sexuellen Kindesmissbrauch vorgehen, dürfte es sehr ineffektiv sein, und letztlich wirkt es wie ein Versuch, China nachzuahmen, um die Bevölkerung zu kontrollieren.
Bürokraten überschütten die Bürger mit einer enormen Menge an Text
Hier wird sogar die Meinungsäußerung reguliert, dabei würden ein paar Grundsätze genügen
Der wichtigste Grundsatz müsste sein, dass jeder Bürger seine Meinung frei äußern kann
https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CEL...
Auch das ist nichts Neues
Jeder Staat kann, wenn er will, einen stärkeren Schutz der Meinungsfreiheit vorsehen, und EU-Institutionen können ihn nicht daran hindern
Die ursprüngliche Logik ergibt keinen Sinn
Die meisten EU-Staaten haben Gesetze, die Hassrede wie Nazi- oder antisemitische Äußerungen ausdrücklich verbieten
Niemand vergießt Tränen darüber, dass deren Meinungen eingeschränkt werden, und das sollte auch niemand tun
Mit Tauben zu diskutieren funktioniert nicht
Das ist fair
Verleumdung ist überall im Westen eine gesetzlich strafbare Handlung, aber das bedeutet nicht, dass einem verboten wird, zu sagen, was man will
Eine Demokratie ohne die Kontrollgewalt eines Justizsystems ist im modernen Sinne keine Demokratie
Ich glaube, weder in der European Union noch in irgendeinem Mitgliedstaat gibt es echte Demokratie
Es gibt keine Gewaltenteilung, und Exekutive und Legislative versuchen, alles wie eine Einheit zu kontrollieren
Das sieht man an den Gesetzen, die beim Zensieren von Internetinhalten das Justizsystem umgehen
Nicht Richter entscheiden, ob Russia Today oder Twitter verboten wird
Das ist, als würde Michels’ ehernes Gesetz der Oligarchie direkt vor unseren Augen ablaufen
Sie machen die Gesetze, setzen sie durch und bestrafen, wenn man sie nicht befolgt
Ich habe diesen Vorstoß vor fast einem Jahr erstmals auf einer VPN-Website gesehen
Noch beunruhigender ist, dass kaum Medien darüber berichten
Wie sollen Menschen gegen etwas protestieren, von dem sie noch nie gehört haben?
Die hegemoniale Macht, die unter dem Vorwand komplexer Bürokratie, der Unterdrückung von Medien und des Kinderschutzes heimlich die Grundrechte nicht nur der Europäer, sondern aller Menschen aushöhlt, ist noch unheimlicher als der Vorschlag selbst
Der Kampf gegen Darstellungen sexuellen Kindesmissbrauchs und andere kriminelle Aktivitäten ist absolut wichtig, aber Massenüberwachung ist nicht die Antwort