Microsofts KI-Spionage-Skandal: Privatsphäre-Standards müssen neu bewertet werden

• Microsoft hat kürzlich festgestellt, dass staatlich unterstützte Hacker die eigenen generativen KI-Tools für Angriffe genutzt haben. In der Security-Community wurden daraufhin Fragen laut, wie Microsoft das überhaupt herausgefunden hat.
• Gegen die Charakterisierung von Microsofts Verhalten als „Spionage“ gab es teils Widerspruch. Es sei selbstverständlich, dass Cloud-Anbieter die Aktivitäten ihrer Nutzer überwachen, und es sei unfair, dies als Spionage zu bezeichnen.
• Das kann als Beispiel für die sich wandelnden kollektiven Erwartungen an den Schutz der Privatsphäre gesehen werden. Um das zu verstehen, lässt sich etwas aus der Fischerei lernen.
• Mitte des 20. Jahrhunderts begannen die Bestände von Meeresfischen aufgrund übermäßiger Befischung stark zurückzugehen. Ein ähnlicher Rückgang zeigte sich auch in der Walfangindustrie.
• Daniel Pauly erkannte, dass Forschende einen gravierenden Fehler machten, wenn sie zulässige Fangmengen festlegten. Das Problem war, dass sie das Ausmaß des Rückgangs der Fischbestände nicht erkannten.
• Pauly wies darauf hin, dass jede Forschergeneration einen anderen Bezugspunkt (Baseline) für den Vergleich aktueller Statistiken hat und dass dieser Bezugspunkt von Generation zu Generation niedriger wird. Er nannte das „Shifting Baseline Syndrome“.
• Internetüberwachung und die daraus resultierenden Eingriffe in die Privatsphäre folgen derselben Entwicklung. Aufgrund des allgegenwärtigen Charakters moderner Technologie ist Überwachung einfacher denn je, und jede Generation gewöhnt sich an das Privatsphäre-Niveau ihrer Jugend.
• KI-Chatbots sind das jüngste Beispiel für dieses Phänomen. Sie erzeugen Ausgaben als Reaktion auf Nutzereingaben, doch dahinter steht ein komplexes Cloud-basiertes System, das die Eingaben nachverfolgt.
• Die Verschiebung der Bezugspunkte steht im Zentrum unseres kollektiven Verlusts an Privatsphäre. Der Oberste Gerichtshof der USA hat lange entschieden, dass unser Recht auf Privatsphäre von einer vernünftigen Erwartung an Privatsphäre abhängt. Erwartungen sind jedoch wandelbar und vom Shifting-Baseline-Effekt beeinflusst.
• Was ist also jetzt zu tun? Fischereiwissenschaftler betrachten heute das große Ganze. Sie orientieren sich nicht mehr an relativen Maßstäben wie dem Vergleich mit dem vorangegangenen Jahrzehnt. Stattdessen fragen sie aus einer ganzheitlichen Perspektive, wie ein gesundes marines Ökosystem und nachhaltige Fangmengen aussehen sollten.
• Im Bereich Privatsphäre und Sicherheit braucht es denselben Ansatz. Statt uns an verschobenen Bezugspunkten zu orientieren, sollten wir einen Schritt zurücktreten und betrachten, wie ein gesundes technologisches Ökosystem aussehen sollte.

[GN⁺]

Hacker-News-Meinungen

Zusammenfassung der Hacker-News-Kommentare

• Verständnis des Verbraucherverhaltens bei Privatsphäre: Verbraucher treffen in einer komplexen Welt Entscheidungen anhand vereinfachter Annahmen. In der digitalen Wirtschaft liegt das Problem nicht bei den Maßstäben der Verbraucher, sondern bei den veränderten regulatorischen Maßstäben.
• Versagen des Privatsphäre-Instinkts: Menschen reagieren nur empfindlich auf Verletzungen der Privatsphäre von Personen, die sie persönlich kennen. Gegenüber der Datensammlung durch anonyme Organisationen sind sie gleichgültig.
• Google und Privatsphäre: Google sammelt seit Langem unsere E-Mails, den Suchverlauf und mehr. Die meisten Menschen halten es für vernünftig, Privatsphäre aufzugeben und dafür praktische Werkzeuge zu nutzen.
• Big Tech und Privatsphäre: Big Tech überzeugt Menschen ähnlich wie Tabakkonzerne davon, ihnen zu nützen. Wir sollten den Menschen und die Privatsphäre an erste Stelle setzen.
• Snowden und Big Tech: Snowden enthüllte, dass Big Tech Daten an die NSA weitergibt. Auch AI-Dienste wie OpenAI sind keine Ausnahme.
• Schwierigkeit des Schutzes der Privatsphäre: Es ist sehr schwer, Menschen dazu zu bringen, sich für Privatsphäre-Probleme zu interessieren. Bildung und Unterstützung sind notwendig.
• Microsofts Transparenz: Microsoft weist offen darauf hin, dass AI-Dienste überwacht werden. In der EU ist die Aufbewahrung von Logs gesetzlich vorgeschrieben.
• Apple und Unternehmensspionage: Es gibt den Vorwurf, dass Apple Geräte unrechtmäßig untersucht. Damit wird die Problematik von Unternehmensspionage aufgeworfen.
• Probleme mit Windows: Windows wird zunehmend problematisch, und es gibt Alternativen.
• Privatsphäre und Kosten: Manche Menschen verzichten auf Privatsphäre und entscheiden sich für geringere Kosten oder zusätzliche Funktionen. Auch Produkte, die Privatsphäre betonen, können auf dem Markt bestehen.