- Kürzlich bin ich auf das von Forschenden der NYU und Cornell veröffentlichte Paper "How to think about end-to-end encryption and AI" gestoßen. Das Paper behandelt wichtige Fragen zu KI und Ende-zu-Ende-Verschlüsselung. Ich stimme zwar nicht allen Schlussfolgerungen zu, aber es behandelt ein sehr wichtiges Thema.
Was ist Ende-zu-Ende-Verschlüsselung und was hat sie mit KI zu tun?
- Die wichtigste Entwicklung rund um Privatsphäre in den vergangenen zehn Jahren war der Aufstieg von Kommunikationsplattformen mit Ende-zu-Ende-Verschlüsselung. Vor 2011 luden die meisten mit der Cloud verbundenen Geräte Daten im Klartext hoch.
- Ende-zu-Ende-Verschlüsselung ist eine Technik, bei der der Server den Klartextinhalt von Nachrichten nicht sehen kann. Diese Technik kann es dem Server jedoch auch erschweren, Daten zu verarbeiten.
- Durch die Fortschritte bei KI wird Datenverarbeitung voraussichtlich immer häufiger auf entfernte Server ausgelagert. Das kann Datenschutzprobleme verursachen.
Auswirkungen von KI auf Messaging mit Ende-zu-Ende-Verschlüsselung
- Systeme mit Ende-zu-Ende-Verschlüsselung sind so konzipiert, dass auf Nachrichteninhalte während der Übertragung außerhalb der Geräte der Beteiligten nicht zugegriffen werden kann. Sie garantieren jedoch nicht, wie Nutzer ihre Daten verarbeiten.
- Die Art und Weise, wie KI Daten verarbeitet, kann komplexe Fragen im Zusammenhang mit der Zustimmung der Nutzer aufwerfen. Einige Unternehmen werden Nutzer gut informieren können, andere vermutlich nicht.
Vertrauenswürdige Hardware und Apples "Private Cloud Compute"
- Apple hat einen Ansatz namens "Private Cloud Compute" eingeführt, um Datenschutzprobleme bei KI anzugehen. Dabei werden vertrauenswürdige Hardware-Komponenten verwendet, um Daten zu schützen.
- Dieses System macht es sowohl Angreifern als auch Apple-Mitarbeitenden schwer, Daten abfließen zu lassen. Es bietet jedoch weiterhin schwächere Sicherheitsgarantien als Verschlüsselung.
Für wen arbeiten KI-Agenten?
- Die Art und Weise, wie KI-Agenten Nutzerdaten verarbeiten, könnte die Möglichkeit eröffnen, dass Regierungen Zugriff verlangen. Das wirft wichtige Fragen zum Datenschutz auf.
- Technische Entscheidungen können Privatsphäre möglicherweise nicht garantieren, und es fehlt an Gewissheit, ob die Gesellschaft die richtigen politischen Entscheidungen treffen wird.
1 Kommentare
Hacker-News-Kommentar
Mit der Zunahme automatisierter Erkennungssysteme gibt es weniger Personal, das Einzelfälle bearbeitet, und Verantwortliche verlassen sich stärker auf automatische Erkennung. Das kann zu großer Frustration führen, weil sich Probleme bei False Positives nur schwer lösen lassen. Vor allem beim Einsatz in der Strafverfolgung kann das für das Leben einzelner Menschen verheerend sein
Zum Beispiel wurde ich bei Amazon fälschlich wegen illegaler Bewertungen markiert und konnte niemanden erreichen, um das Problem zu klären. Wenn so etwas bei einem schwerwiegenden Strafverfahren passiert, kann es das Leben eines Menschen ruinieren
Automatische Erkennungssysteme sollten Menschen nicht ersetzen, sondern ergänzen, damit mit weniger Personal mehr Arbeit bewältigt werden kann. Derzeit fehlen jedoch die Anreize, und Entscheidungsträger bearbeiten keine realen Fälle, weshalb sie das Problem nicht erkennen
Die eigentliche Bedrohung kann entstehen, wenn sich AI von der Beschleunigung individueller Arbeit zu einem Werkzeug organisatorischer Kontrolle ausweitet. Das kann Organisationen effektiver machen, aber auch den Glauben untergraben, dass Beschäftigte tatsächlich Menschen sind
Das wahre Risiko von Massenüberwachung besteht darin, Informationen über unbequeme Personen zu sammeln, damit sie nicht länger unbequem sind. Noch nicht alle Folgen der Massenüberwachung sind sichtbar geworden
OpenAI legt transparent offen, dass Daten 30 Tage lang gespeichert werden und von Mitarbeitenden sowie externen Vertragspartnern überprüft werden können
Es werden schwierige Fragen dazu aufgeworfen, ob AI-Systeme tatsächlich für uns arbeiten. Die aktuellen Tendenzen lassen wenig Hoffnung auf eine neutrale und datenschutzorientierte Zukunft
Apple hat angekündigt, Software-Images zu veröffentlichen, damit Sicherheitsforscher Bugs verifizieren können, stellt jedoch den Source Code nicht offen bereit. Apple behauptet, keine Nutzerdaten zu speichern, und dass Support-Ingenieure keine Nutzerdaten einsehen können
Bei der Frage, für wen AI arbeitet, ist es sehr wahrscheinlich, dass Adtech-Unternehmen AI gegen die Interessen der Nutzer einsetzen. Das hängt mit den Erwartungen an werbefinanzierte „kostenlose“ Dienste zusammen
Das rechtliche Konzept, für wen AI-Agenten tatsächlich arbeiten, ist wichtig. Die derzeit vorgeschlagenen Ansätze umfassen Überwachung im Hinblick auf verschiedene Bedrohungen
Als Folge der Massenüberwachung steigt mit der Scanbarkeit von in der Cloud gespeicherten Daten das Risiko, schon wegen bloßer abweichender Meinungen überwacht zu werden
Technische Garantien sind etwas anderes als Zusagen an Nutzer. Apples PCC erhöht die Sicherheit, garantiert aber weder Transparenz noch Rechenschaftspflicht. Transparenz ist ein größeres Problem als Sicherheit
Damit AI der Gesellschaft dienen kann, muss die Informationsasymmetrie beseitigt werden. Wenn man gutes Unternehmensverhalten will, muss man dafür sorgen, dass Unternehmen transparent arbeiten
Technische Entscheidungen allein lösen Datenschutzprobleme möglicherweise nicht. Entscheidend ist, wer Zugriff auf AI-Agenten erhält. Technisch wäre es möglich, Agenten lokal auszuführen und Gespräche mit Personen zu blockieren, die keinen Zugriff auf das System haben