Überwachung ist keine Sicherheit: Erklärung zur neuesten Bedrohung der Privatsphäre im Vereinigten Königreich [pdf]

• Die Forderung, alle Inhalte auf allen Geräten, die im Vereinigten Königreich verkauft oder genutzt werden, nach mutmaßter Nacktheit zu scannen, dient nicht dem Kinderschutz, sondern gefährdet die Privatsphäre und das Kommunikationsrecht aller Menschen
• Die Kombination aus Altersverifikation und Content-Scanning, die von allen Menschen im Vereinigten Königreich einen Altersnachweis oder das vollständige Scannen aller Inhalte verlangt, knüpft die Ausübung des grundlegenden Kommunikationsrechts an riskante Bedingungen
• Fähigkeiten zur Massenüberwachung und Zensur bleiben, sobald sie einmal geschaffen sind, nicht auf einen engen Rahmen begrenzt, sondern werden zu Werkzeugen ausgeweitet, um alles zu zensieren und zu überwachen, was im Vereinigten Königreich und anderswo als Bedrohung oder schädlicher Inhalt gilt
• Auch das Versprechen, dass alles On-Device ausgeführt wird, ist kein ausreichender Schutzmechanismus; der Umfang des Scannens liegt im Ermessen der Regierung und kann sich von der heutigen Nacktheitserkennung zur morgigen Erkennung politischer Äußerungen verschieben
• Echte Sicherheit für Kinder hängt von einer ausreichend finanzierten Bildung, starken sozialen Diensten und sinnvollen Schutzmaßnahmen für AI-Technologien und Plattformen ab; eine standardmäßig aktivierte unsichtbare Überwachungsinfrastruktur ist keine Alternative

---

Kernposition

• Kinder müssen sicher geschützt und gut aufgezogen werden und dürfen nicht zu Objekten von Überwachung, Budgetkürzungen und Vertuschung gemacht werden
• Alle Menschen, einschließlich Kinder, haben ein Menschenrecht auf Privatsphäre, und die Forderungen der britischen Regierung verletzen dieses Recht
• Die Forderungen der britischen Regierung laufen darauf hinaus, alle Inhalte auf allen Geräten, die im Vereinigten Königreich verkauft oder genutzt werden, nach mutmaßter Nacktheit zu scannen
  • Dieser Ansatz kombiniert Altersverifikation und Content-Scanning
  • Er schützt Kinder nicht und bringt stattdessen alle in Gefahr
  • Er stärkt die Marktmacht und die Kontrolle über persönliche Daten von Apple, Google und Microsoft

Vorgeschlagene Maßnahme und Risiken

• Eine Struktur, bei der alle Menschen im Vereinigten Königreich ihr Alter nachweisen oder das Scannen aller Inhalte akzeptieren müssen, um grundlegende Kommunikationsrechte auszuüben, ist ein gefährlicher Vorschlag
• Fähigkeiten zur Massenüberwachung und Zensur sind Technologien, die nicht auf einen engen Anwendungsbereich begrenzt bleiben, egal wie aufrichtig die Versprechen ihrer Initiatoren klingen mögen
  • Ist eine solche Struktur einmal geschaffen, wird sie ausgeweitet
  • Sie wird zu einem gefährlichen Werkzeug, um alles zu zensieren und zu überwachen, was im Vereinigten Königreich und im Ausland als „Bedrohung“ oder „schädlicher Inhalt“ gilt
• Das Versprechen, dass das System ausschließlich On-Device läuft, ist kein ausreichender Grund zur Beruhigung
  • Ob es auf dem Gerät selbst, direkt in der Kamera oder an anderer Stelle läuft: Sein Umfang wird durch staatliche Bewertungen und Verbotsregeln bestimmt
  • Was heute Nacktheitserkennung ist, kann morgen zur Erkennung politischer Äußerungen werden
• Historisch gesehen entwickeln sich solche Technologien in Richtung einer autoritären Ausweitung dessen, welche Inhalte und welche Personen überwacht werden
  • Solche Werkzeuge können genutzt werden, um Menschen automatisch bei staatlichen Behörden zu melden
  • Strafverfolgungsbehörden haben bereits ähnliche, weitreichende Befugnisse gefordert, und in einem zunehmend instabilen politischen Umfeld ist das Missbrauchspotenzial solcher Befugnisse hoch
• Kindersicherheit steht eher für gut unterstützte Bildung, starke soziale Dienste und sinnvolle Schutzmaßnahmen für AI-Technologien und Plattformen
• Was die britische Regierung will, ist eine unsichtbare Überwachungsinfrastruktur, die standardmäßig aktiviert ist
  • Eine Struktur, bei der die Gesetzgebung unter einem zynischen Vorwand überhastet vorangetrieben werden kann
  • Ein Ansatz, der die tatsächlichen Bedürfnisse der angeblich zu schützenden Kinder und die schrecklichen, weitreichenden Folgen in der Realität nicht ausreichend berücksichtigt

[GN⁺]

Hacker-News-Kommentare

• Ich frage mich manchmal, ob die Leute aus der Tech-Branche, die Dinge wie Secure Boot, Attestation und DRM gebaut haben, dieses Ende als die Unvermeidlichkeit gesehen haben, von der Open-Source-Befürworter immer gesprochen haben
  Wenn man durch technische Mittel die letzte Entscheidungsgewalt vom Nutzer zu Unternehmen verlagert, dachten sie dann wirklich, Politiker könnten diese Kontrolle nicht durch politische Mittel auf sich selbst übertragen?
  Wenn man Systeme abschließt, um 30 % App-Store-Gebühren abzuschöpfen, Regeln per App-Review durchsetzt und sogar Zensur von Seiten wie Tumblr zeigt, dachten sie dann wirklich, Politiker würden nicht dieselbe Macht zur Regelsetzung und Zensur wollen?
  Dachten sie, Arbeitgeber würden diesen Übergang aufhalten, dass Unternehmen mit Billionenbewertung zu Che-Guevara-artigen Guerillas würden, die das System stürzen wollen, das sie überhaupt erst zu Billionenunternehmen gemacht hat?

  • Ich habe den Eindruck, dass Menschen, die so etwas tun können, die Welt eher einfach als gegeben hinnehmen. Nach dem Motto: „So funktioniert die Welt nun einmal, also brauchen wir digitale Beschränkungen, und jetzt müssen wir sie umsetzen.“
    Ob DRM oder Remote Attestation gängige Geschäftspraxis sind oder nicht, ist in dieser Haltung nichts, worüber ich zu entscheiden hätte; es ist einfach die Realität
    Das ist ähnlich wie bei zwei Arten, mit Gesetzen umzugehen. Die eine sagt: „Das ist das Gesetz, also muss man ihm folgen“, die andere: „Dieses Gesetz ist Unsinn, also muss man es ändern“
    Es ist auch der Unterschied zwischen Leuten, die bei einer Fußgängerampel bei Grün gehen, und Leuten, die auf die Autos schauen und gehen, wenn keines kommt. Die Ersteren sagen, man müsse den Verkehrsregeln folgen; die Letzteren meinen, wer nur auf das gesetzliche Rot/Grün geschaut hätte, hätte wohl nicht überlebt. Grün bedeutet nicht Sicherheit, und bei Rot gibt es keinen Grund, nicht zu gehen, wenn kein Auto kommt
  • Am Ende sind sie Angestellte. Der Arbeitgeber stellt sie ein, damit sie den gewünschten Code schreiben, und wenn sie es nicht tun, werden sie entlassen und durch jemand anderen ersetzt
    So ethisch fragwürdig es auch sein mag: Menschen, die ihren Job aufgeben, um ihren Überzeugungen treu zu bleiben, sind noch immer sehr selten
  • Gut formuliert
    Ich glaube, man kann über dieses Problem am meisten lernen, wenn man die Texte intelligenter und kompetenter Menschen aus großen Tech-Konzernen liest. Ihr Rahmen ist oft ein Trade-off mit langsamem, aber unvermeidlichem gesellschaftlichem Druck, der durch Kompromisse bei der Freiheit abgemildert wird
    Deshalb glaube ich nicht, dass ihnen der obige Punkt unbekannt ist. Eher sehen sie keinen realistischen Weg, wie Technologie, Unternehmen und vielleicht auch normale Menschen besser, wohlhabender oder ausgefeilter werden könnten, ohne diesen Kompromiss einzugehen
    Es wirkt, als hätten sie die Weggabelung der Zukunft gesehen und kämen zu dem Schluss, dass keiner der Wege ohne technische Einschränkungen endet — egal ob sie es tun oder ob die Lage schlimmer wird und es jemand anders tut
  • Die Leute, die Funktionen wie Secure Boot, Attestation und DRM bauen, wissen das sehr genau, aber es ist ihnen egal. Denn sie halten die ihnen präsentierten Vorteile — weniger Hacker, weniger Malware, weniger Bot-Traffic — für größer als den möglichen Schaden für die Gesellschaft insgesamt
  • Ich erinnere mich, früher gegen solche Dinge meine Stimme erhoben zu haben. Aber Ausreden gab es überall
    Es hieß dann etwa: „Secure Boot kann man ja abschalten, also ist das kein Problem.“ Das stimmt zwar, aber dann läuft eben immer mehr nicht mehr. Zum Beispiel kann man auf dem Mac keine iOS-Apps nutzen. Am Ende wird es, wie auf Smartphones schon heute, zum Standard, im gemütlichen Walled Garden zu bleiben, und wer ihn verlässt, wird bei Apps, die tatsächlich nützliche Dinge tun, einfach ausgesperrt
    Es gibt auch die Attestation-Logik: „Unternehmen müssen prüfen können, ob du wirklich der bist, für den du dich ausgibst.“ Das stimmt, aber wenn Unternehmen aus dieser Macht Profit schlagen können, werden sie sie missbrauchen

• Der Ablauf ist der Reihe nach so

  1. Damit Erwachsene Inhalte für Erwachsene sehen können, braucht der Computer eine Kamera, damit ein Dritter das Alter prüfen kann
  2. Das wird dann auch auf Social Media angewendet
  3. Dann wird es auch auf Betriebssysteme angewendet
  4. Wenn keine Altersprüfung erfolgt, wird das Gesetz verlangen, dass der Computer leistungsfähig genug ist, AI auszuführen, oder mit dem Internet verbunden ist und private Fotos an Dritte sendet. So können Nacktheit erkannt und verboten werden. Damit das auch bei Dingen wie Facetime-Anrufen funktioniert, müsste es wahrscheinlich in Echtzeit laufen
     Der nächste Schritt wird wahrscheinlich die faktische Illegalisierung der meisten Betriebssysteme und älterer Geräte sein. Für Google, Apple und Microsoft sind das großartige Nachrichten, für Linux und alternative Betriebssysteme schlechte. Man sollte sich daran erinnern, dass Schulen einmal Raspberry Pis verteilt haben
     Und zusätzlich verlangen sie, dass das innerhalb von 3 Monaten kostenlos implementiert wird, weil niemand versteht, wie Software Engineering funktioniert. Großartige Arbeitsweise
  • Wahrscheinlich muss es gar nicht bis zu „der nächste Schritt ist die Illegalisierung der meisten Betriebssysteme und älteren Geräte“ kommen
    Stattdessen reicht es, neue Technologien zu entwickeln, die auf alten Geräten nicht laufen können, aber faktisch unverzichtbar sind. Also: aktualisieren oder sozial aufhören zu existieren
    Smartphones und E-Mail wirken bereits ziemlich nah an so etwas „Unverzichtbarem“. Ich sage das als Internetnutzer, der persönlich weder Smartphone noch E-Mail nutzt. Wenn ich antworte: „Ich habe weder Telefon noch E-Mail“, glaubt mir das niemand. Ich bin der freieste Mensch auf Erden; wenn sie das nicht glauben, ist das ihr Verlust
  • Es geht hier nicht nur um deine Fotos. Es geht um alle Inhalte, die auf dem Gerät angezeigt werden, und alle Inhalte, die die Kamera erfasst. Das ist vollständige Erfassung. GCHQ wird begeistert sein
  • Verlangt das Gesetz wirklich einen Dritten? Wenn es nur eine auf dem Gerät laufende Funktion wäre, die Eltern einstellen könnten, klingt das nicht annähernd so schrecklich
  • Wenn der faschistische Druck groß genug wird, könnte Usenet vielleicht wieder attraktiv werden. Man müsste nur einen Weg finden, bekannte gute Inhalte aus dem Spam herauszufiltern; das ließe sich vielleicht mit OpenPGP-Identitäten lösen
    Oder für geduldige Leute gibt es Tor und einen Download-Manager. Möglich wären auch statisch generierte Foto- und Videogalerien, verteilt über tausende kleine Websites
    Der Nachteil daran, Menschen in dunkle Ecken zu drängen, ist, dass damit jede Regulierung verschwindet und ein Teil der Steuereinnahmen gleich mit. Verlust an Steuereinnahmen könnte tatsächlich der Weg sein, ihre Aufmerksamkeit zu bekommen

• Signal muss sich entschieden dagegenstellen. So könnte man es sagen:
  Die Regierung will in jedes Handy einen Spitzel einbauen, in jedes Schlafzimmer eine Wanze setzen und jeden Abend jeden Haushalt belauschen. Jede Arztpraxis, jeden Beratungsraum, jeden Pub, jede Straße, jedes Geschäft.
  Wenn dieser Spitzel nach Hause berichtet, kann die Polizei wegen dessen, was du deinem Partner geschrieben hast, vor deiner Tür stehen.
  In jedem Desktop, Laptop, Tablet, jeder Kamera und jedem Handy steckt dann eine künstliche Stasi. An jeder Ecke und in jedem Wohnzimmer. Ihrem Blick entkommt niemand.
  Ist dein Staubsauger bereit, nach Hause zu berichten?

  • Ist die Signal-Messenger-App/-Plattform gemeint? Das Lustige ist, dass Signal in China selbst mit VPN fast nie richtig funktioniert. Medien oder Bilder zu senden ist unmöglich.
    Manchmal ist es sogar wochenlang komplett blockiert. Anderes läuft mit VPN meist so einigermaßen.
  • Wenn Signal sich nicht wehrt, verliert es Kunden, denen Privatsphäre wichtig ist, und die, denen sie egal ist, vorerst wohl nicht. Aber eine Spaltung rund um neue Lösungen ist dann fast sicher, und es werden andere Optionen entstehen, die Tech-Freunde oder die gerade angesagten Leute normalen Nutzern empfehlen.
    Das haben wir schon erlebt. Die einzige Art, dieses Spiel zu gewinnen, ist, nicht mitzuspielen. Vor allem mit Regierungen: In dem Moment, in dem man anfängt zu spielen, hat man schon verloren.
  • Das ist praktisch nichts anderes als The Witness aus Nick Harkaways Roman Gnomon.

• Überwachung ersetzt die angeblich persönlichen und randständigen Bedrohungen durch eine klare, gefährliche, weitreichende und praktisch unumkehrbare Bedrohung. Diese Bedrohung häuft fortwährend einen zentralisierten Hebel über alle direkten und indirekten Aspekte unseres Lebens an.
  Wissen ist Macht. Wenn unser Innenleben zwangsweise offengelegt wird, wird jeder Einzelne in eine verwundbare Position gebracht.
  Selbst „wenn es nicht missbraucht wird“, nimmt schon die potenzielle Bedrohung die Freiheit des Denkens und Handelns real weg.
  Das ist extremer Missbrauch.
  Der Staat wird zu einer maximalen einseitigen Bedrohung für alle Bürger und zerstört das Gefühl, dass der Staat für die Menschen arbeitet.
  KI-gestützte Analyse vergrößert diese Bedrohung und den passiven wie aktiven Schaden exponentiell.
  Eine der klügsten ethischen und sicherheitspolitischen Vorstellungen der Geschichte ist diese: „Das Recht des Volkes, in seiner Person, seiner Wohnung, seinen Papieren und seinem Besitz vor unangemessenen Durchsuchungen und Beschlagnahmen sicher zu sein, darf nicht verletzt werden.“
  Eine Demokratie, die den Hebel für eine totale Diktatur installiert, ist die größte Verzerrung und Bedrohung der Demokratie. Demokratie funktioniert nur, solange sie anerkennt, dass die Regierung die größte Bedrohung für die Freiheit ist. Die einzige Verteidigung ist eine strikte Begrenzung der Staatsmacht gegenüber den Bürgern.

• Regierungen treiben Überwachung schon seit den Anfangstagen des Verbraucher-Internets voran.
  Das früheste Beispiel, an das ich mich erinnere, ist der Clipper Chip. Drei Jahre nach dem Vorschlag war er tot.
  Diese dumme Idee wird ähnlich scheitern. Sie stammt außerdem von einem Premierminister, der den sehr engen Freund eines der berüchtigtsten Pädophilen der jüngeren Zeit gegen die Empfehlungen des Beamtenapparats zum Botschafter befördert hat.
  Innerhalb von drei Monaten riesige Änderungen an allen Betriebssystemen auf der Erde umsetzen? Das klingt nicht einmal ansatzweise plausibel.

• Ich mochte Starmer nicht besonders wenig, aber damit bin ich endgültig ins Anti-Starmer-Lager gewechselt.
  Als Vermächtnis ist das grauenhaft. Ein trauriger Versuch, mit möglichst geringen Kosten möglichst große Wirkung zu erzielen. Und dann noch drei Monate? Vielleicht ist das ja ungefähr der Zeitraum, in dem er selbst erwartet, noch Premierminister zu sein.

  • Wahrscheinlich machen die Leute von Palantir gerade ein Angebot, das man nicht ablehnen kann. Ein letzter Vorstoß vor dem Ruhestand und dem Abgang in den Sonnenuntergang.

• Das ist eine immer fester angezogene Ratsche. Client-Side-Scanning, Remote Attestation, um sicherzustellen, dass dieses Client-Side-Scanning auch wirklich funktioniert, digitale Identitätsprüfung und so weiter.

• Dass Signal sich in dieser Frage so schnell auf die richtige Seite gestellt hat, ist lobenswert. Hoffentlich verbreitet sich diese Position schnell als Gegenrede zu der allzu starken Erzählung, ein hastig gebauter Hammer von Gesetz sei der beste nächste Schritt.
  Echter Fortschritt sollte darin bestehen, Verständnis und Lösungen für die Erosion von Gemeinschaft, Vertrauen und Empathie gegenüber anderen zu schaffen. Es fühlt sich an, als könnten solche Dinge Symptome mangelhafter Investitionen, Politik und Governance für eine gesunde Gesellschaft sein. Natürlich sollte man vielleicht besser nicht von Rechenschaft sprechen, damit es nicht so klingt, als wäre man zynisch gegenüber Politik.

• Wann merken die Leute wohl, dass Politiker für sich selbst und die Sicherheitsapparate Ausnahmeregelungen eingebaut haben? Ich hoffe, mein Pessimismus liegt diesmal daneben, aber grundlos ist er nicht.

  • Das ist inzwischen fast eine Standardklausel. Alle schreiben voneinander ab.

• „Überwachung ist keine Sicherheit“
  Vielleicht nicht, aber solange die durchschnittliche Person das so empfindet, ist sie es faktisch doch.

  • Glaubt die durchschnittliche Person das wirklich? Die Vorstellung davon, was andere denken, stimmt nicht immer mit dem überein, was sie tatsächlich denken.
  • https://xkcd.com/610/
  • Trotzdem ein großartiges Meme. Man sollte es öfter benutzen.
  • Schön wär's, wenn die durchschnittliche Person die Werkzeuge und die Befugnis hätte, auf all diese Informationen zuzugreifen.
  • Eigentlich trifft es eher zu, solange der durchschnittliche Milliardär das so sieht.
    Diejenigen, die das vorantreiben, sind nicht die durchschnittlichen Leute.