Künstliche Intelligenz und Massenüberwachung

Künstliche Intelligenz und Massenüberwachung

• Überwachung und Spionage sind unterschiedliche, aber verwandte Konzepte. Früher war Überwachung eine kostspielige und zeitaufwendige manuelle Tätigkeit, heute werden Standort, Einkäufe, Gesprächspartner und mehr über Smartphones, Kreditkarten, Apps usw. automatisch nachverfolgt.
• Bei der Massenüberwachung als Geschäftsmodell des Internets befinden wir uns in einer Situation, in der wir uns dem kaum entziehen können. Spionage ist nach wie vor auf menschliche Arbeitskraft angewiesen, aber künstliche Intelligenz (AI) steht kurz davor, das zu verändern.

Der Wandel durch künstliche Intelligenz

• Moderne generative AI-Systeme sind gut im Zusammenfassen und können Millionen von Gesprächen nach Themen ordnen oder aufzeigen, wer sich zu einem bestimmten Thema äußert.
• Diese Technologien sind nicht perfekt, aber Menschen machen ebenfalls Fehler, und AI lässt sich schnell vervielfältigen und verbessern, sodass sie jedes Jahr leistungsfähiger werden wird. Das Zeitalter der Massenspionage rückt näher.

Die Zukunft von Massenüberwachung und Spionage

• Massenüberwachung bietet die Fähigkeit, rückwirkend zu überwachen, und macht Überwachung auch dann möglich, wenn das konkrete Ziel noch nicht bekannt ist.
• Massenspionage wird alle Daten speichern und sie in großem Umfang durchsuchbar und verständlich machen. Sie wird Gespräche zu bestimmten Themen, Kriminalitätspläne, die Verbreitung von Gerüchten oder Vorhaben zur Teilnahme an politischen Protesten aufspüren können.
• Komplexe Analysen wie das Offenlegen von Organisationsstrukturen oder das Auffinden von Personen, die Geheimnisse teilen, werden möglich werden. Nicht nur Gespräche, sondern überall dort, wo es ein Mikrofon gibt, wird Spionage möglich sein.

Gesellschaftliche Auswirkungen von Überwachung und Spionage

• Ein Zustand permanenter Überwachung beeinflusst das Verhalten der Menschen und fördert Selbstzensur sowie soziale Kontrolle.
• Regierungen nutzen Massenüberwachung bereits und werden auch mit Massenspionage beginnen.
• Unternehmen werden Menschen zu Marketingzwecken überwachen und die Industrie für personalisierte Werbung weiter stärken.

Datenprivatsphäre und Grenzen

• Google versuchte in der Vergangenheit, Inhalte aus Gmail für personalisierte Werbung zu nutzen, stellte dies aber wegen des geringen Nutzens der Keyword-Daten wieder ein. Mit der Verbesserung solcher Technologien ist es jedoch möglich, dass dies erneut beginnt.
• Man könnte Massenspionage-Funktionen begrenzen oder strenge Regeln zur Datenprivatsphäre einführen, aber so wie die Massenüberwachung nicht begrenzt wurde, wird es bei der Spionage wohl nicht anders sein.

Meinung von GN⁺

Das Wichtigste an diesem Text ist, dass er Einsichten dazu liefert, wie die Weiterentwicklung der künstlichen Intelligenz (AI) die Privatsphäre des Einzelnen und das Wesen von Überwachung verändert. Indem Leserinnen und Leser verstehen, wie sich Massenüberwachung und Massenspionage auf gesellschaftliches Verhalten und Kontrolle auswirken, können sie sich eine Grundlage verschaffen, um an wichtigen Debatten rund um Datenprivatsphäre teilzunehmen. Angesichts der rasanten Entwicklung von AI und ihrer potenziell weitreichenden Auswirkungen auf unseren Alltag bietet dieser Text ein besonders interessantes Thema für Technikexpertinnen und -experten wie etwa Software Engineers.

[GN⁺]

Hacker-News-Kommentare

• Das Wesen des politischen Problems

  • Dieses Problem ist kein technisches, sondern ein politisches. Die ehemalige Sowjetunion konnte zum Beispiel schon mit grundlegender Technik wirksame Massenüberwachung betreiben. Dass so etwas in den USA nicht geschehen ist, lag nicht an mangelnden technischen Fähigkeiten, sondern daran, dass das politische Interesse fehlte.
  • In der Vergangenheit wurden Gesetze erlassen, die Dinge verboten, die man sich zuvor nicht einmal vorstellen konnte. Auch die Datenerhebung zu kriminalisieren, wäre kein besonders großer rechtlicher Sprung, aber derzeit gibt es dafür überhaupt kein politisches Interesse.

• Überwachungsrisiken durch künstliche Intelligenz

  • In der Realität eines Überwachungsstaats war die Datenmenge so groß, dass eine Überwachung in der Praxis unmöglich war, doch AI kann das durch Zusammenfassungen lösen. Das ist kurzfristig die eigentliche Gefahr von AI: Sie kann zu einem Werkzeug werden, das alles ins Visier nimmt, was von der Norm abweicht.

• Persönliche Assistenten-Bots der Konzerne

  • Bots von Google, Meta, Microsoft und anderen werden nicht nur das Web oder soziale Netzwerke, sondern auch bestimmte Themen und Personen verfolgen. Diese persönlichen Assistenten-Bots geben vor, den Nutzern zu helfen, sammeln in Wirklichkeit aber Informationen für die Ziele der Konzerne und liefern manipulierte Informationen.

• KI-gestützte Strafverfolgung im großen Stil

  • Strafgesetze wurden unter der Annahme geschrieben, dass Ermittlungen und Anklagen Ressourcen benötigen, doch AI kann diese Beschränkung aufheben. AI kann öffentliche Aktivitäten überwachen und rechtliche Verfahren automatisieren, sodass selbst geringfügige Vergehen verfolgt werden können.

• Die Auswirkungen von Zensur

  • Besorgniserregender als Überwachung ist die Möglichkeit von Zensur und die Geschäftsmodelle, die daraus entstehen können. So könnte es zum Beispiel möglich werden, in Dating-Apps für den Austausch von Kontaktdaten bezahlen zu lassen oder in sozialen Medien bestimmte Ansichten sofort zu löschen.

• Die unvermeidliche Entwicklung der Technologie

  • Mit dem technologischen Fortschritt werden Überwachung und Zensur unweigerlich zunehmen. Es braucht eine Diskussion darüber, wie wir das als Realität akzeptieren und uns daran anpassen können. Durch gesetzliche Regulierung und Anti-Überwachungs-Technologien lässt sich das Risiko illegaler Überwachung verringern.

• Gesichtserkennung für die Sicherheit

  • Unter dem Vorwand der „Sicherheit“ werden bald häufig Gesichtsscans durchgeführt werden, und in vielen Bereichen unseres Lebens könnten sie verpflichtend werden.

• Googles Bemühungen um Datenschutz

  • Bei Google hört „Hey Google“ nicht ständig mit, sondern sendet Audio nur dann, wenn bestimmte Wörter erkannt werden. Googles Datenschutzteam bemüht sich darum, das Richtige zu tun.

• Die Realität KI-gestützter Massenüberwachung

  • Massenüberwachung existiert bereits, und AI kann genutzt werden, um Verhaltensdaten aller Menschen über Jahrzehnte hinweg auszuwerten. Würden diese Daten nur zur strafrechtlichen Verfolgung verwendet, könnte eine Gesellschaft entstehen, in der niemand über dem Gesetz steht; doch die Menschen, die das System kontrollieren, wollen eine Position, die ihnen selbst Vorteile verschafft.

• Freiheit für AI-Software

  • AI-Software sollte nicht eingeschränkt werden, und normale Menschen sowie Bürger mit Verantwortungsbewusstsein sollten persönliche und öffentliche AI-Systeme entwickeln können, die Konzern-AI etwas entgegensetzen. Die Zukunft der AI ist konfrontativ, und die Freiheit, AI-Software zu entwickeln, muss bestehen bleiben, während ihre Nutzung reguliert werden sollte.