Technologieunternehmen dürfen nicht zu Überwachung gedrängt werden

 (eff.org)
2 Punkte von GN⁺ 2026-02-27 | 1 Kommentare | Auf WhatsApp teilen
  • Der US-Verteidigungsminister hat Anthropic ein Ultimatum gestellt, seine KI-Technologie ohne militärische Einschränkungen bereitzustellen
  • Das Verteidigungsministerium drohte, Anthropic im Falle einer Weigerung als „supply chain risk“-Unternehmen einzustufen
  • Anthropic hat öffentlich erklärt, dass es den Einsatz für autonome Waffensysteme und zu Überwachungszwecken untersagt
  • Im Januar 2026 bekräftigte Anthropic diese Grundsätze, nachdem im Zuge der Zusammenarbeit mit Palantir der Verdacht aufgekommen war, dass die eigene KI bei einem Angriff auf Venezuela eingesetzt wurde
  • Die EFF betont, dass Technologieunternehmen trotz staatlichen Drucks nicht zu Überwachungswerkzeugen verkommen dürfen

Druck des Verteidigungsministeriums und die Position von Anthropic

  • Der US-Verteidigungsminister setzt Anthropic unter Druck und fordert die Bereitstellung der Technologie ohne militärische Beschränkungen
    • Falls Anthropic dies ablehnt, könnte das Unternehmen als „supply chain risk“ eingestuft werden, was Geschäfte mit dem Verteidigungsministerium blockieren könnte
    • Diese Einstufung wird üblicherweise als Maßnahme beschrieben, die für Unternehmen gilt, die mit Staaten wie China Geschäfte machen, welche von Bundesbehörden überwacht werden
  • Anthropic hält an seiner Position fest, den Einsatz für autonome Waffensysteme und zu Überwachungszwecken nicht zu unterstützen
    • Dies sind die von CEO Dario Amodei formulierten „zwei roten Linien, die nicht überschritten werden dürfen“, wobei ausdrücklich strenge Prüfungen und Schutzmechanismen zur Verhinderung von Missbrauch gefordert werden
    • Die zentralen KI-Sicherheitsprinzipien von Anthropic und die Constitution von Claude sind auf der Unternehmenswebsite öffentlich zugänglich

Hintergrund der Kontroverse

  • 2025 wurde Anthropic als erstes KI-Unternehmen bekannt, das für den Umgang mit geheimen Informationen zugelassen wurde
  • Im Januar 2026 begann die Kontroverse, als das Unternehmen während der Zusammenarbeit mit Palantir Hinweise darauf bemerkte, dass die eigene KI bei einem Angriff auf Venezuela eingesetzt worden sein könnte
    • Daraufhin veröffentlichte Amodei ein Schreiben, in dem er das Verbot von Überwachungs- und autonomen Waffeneinsätzen erneut bekräftigte
  • Derzeit verlangt die US-Regierung unter Androhung der Kündigung von Verträgen eine Änderung von Anthropics Richtlinien

Die Position der EFF

  • Die EFF betont, dass Unternehmen ihre Grundsätze zu Menschenrechten und bürgerlichen Freiheiten nicht unter staatlichem Druck aufgeben dürfen
    • Zwar halten sich viele Technologieunternehmen aus unterschiedlichen Gründen wie Gewinninteressen nicht an ihre Grundsätze, doch staatlicher Zwang dürfe dafür keine Rechtfertigung sein
  • Geschäftskunden, die Öffentlichkeit und Ingenieurinnen und Ingenieure erwarten, dass Anthropic an seinen Grundsätzen festhält
    • Es sei wichtig, dass die Technologiebranche insgesamt nicht zu einem Instrument von Überwachungssystemen verkommt

Verwandte Themen

  • Eingeordnet unter Themen rund um Künstliche Intelligenz (KI) und Machine Learning
  • Die EFF stellt den Fall als Frage nach der Grenze zwischen KI-Ethik und staatlicher Überwachung dar

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2026-02-27
Hacker-News-Kommentare
  • Es fühlt sich gerade so an, als wären die Füchse bereits alle im Hühnerstall
    Letztlich wird sich die Lage wohl kaum verbessern, solange die Menschen nicht aufstehen und Veränderungen erzwingen
    Trotzdem wirkt Anthropic wie das einzige große Unternehmen, das überhaupt über Sicherheit diskutiert, etwa indem es sagt, KI nicht für Überwachung oder tödliche Kriegstechnologie einzusetzen
    Aber da die aktuelle Regierung Unternehmen in eine antidemokratische Richtung drängt, bin ich nicht sicher, ob Anthropic bis zum Ende standhaft bleibt. Ich werde beobachten, was diesen Freitag passiert
    • Ich weiß nicht einmal, ob noch Hühner übrig sind. Im Moment scheinen es nur noch Füchse zu sein
      Diese Regierung wurde mit der Unterstützung von Tech-Milliardären gewählt, und ich denke, sie könnten diese Lage absichtlich geschaffen haben, um Zugang zu Daten und öffentliche Gelder zu sichern
    • Du sagst, „die Menschen müssen aufstehen“, aber das haben sie bereits getan
      Das Ergebnis ist genau mehr Überwachung. Aus Sicht der Betroffenen kann die Forderung nach weniger Überwachung unrealistisch klingen
  • Viele Tech-Unternehmen versuchen, Menschen zu verfolgen
    Am Ende sind sie Überwachungsunternehmen, und das ist Teil des Problems
    • Das ist ein unterschätzter Punkt. Unternehmen haben Überwachung zu einem Wettbewerbsvorteil gemacht, und das System belohnt genau diese Richtung
    • Unternehmensgier und staatlicher Machtmissbrauch sind getrennte Probleme
      Der Staat sollte für die Bürger arbeiten und Überwachung nicht ausweiten, sondern sie gesetzlich einschränken. Genau dafür ist die Verfassung da
  • Zur Zeit des Irakkriegs, als staatliche Eingriffe in die Privatsphäre massiv waren, standen Tech-Unternehmen auf der Seite der Bevölkerung und versuchten, den vierten Verfassungszusatz zu verteidigen
    Heute hat sich das, mit Ausnahme von Anthropic, bei allen geändert. Selbst Apple wird sich staatlichen Forderungen wohl nicht mehr widersetzen
    Ich nutze Apple seit 25 Jahren, aber inzwischen ist mein Vertrauen völlig zerstört. Ich hoffe, dass wenigstens Anthropic Prinzipien und Mut bewahrt
    • Früher gaben Plattformen unter dem Vorwand der „Terrorbekämpfung“ Daten an die Regierung weiter und rechtfertigten damit Nutzerüberwachung und Zensur
      Doch auch Anthropic unterstützt über PAC-Finanzierung den KOSA-Gesetzentwurf
      Wenn dieses Gesetz verabschiedet wird, verschwindet die anonyme Meinungsfreiheit, und alle Inhalte müssten per Gesichts- oder Identitätsprüfung freigegeben werden
    • Auch Anthropic will letztlich den Zugang zu LLMs kontrollieren
      Dieser Beitrag zeigt, dass unter Verweis auf Sicherheit und geistiges Eigentum Zentralisierung vorangetrieben wird
      Ich finde, wir sollten in einer Welt leben, in der jeder Open-Source-AGI direkt auf dem eigenen PC ausführen kann
    • Mit meinem Urteil über Anthropic warte ich bis nach Freitag
      Dass nur ständig von einem „konstruktiven Dialog“ mit der Regierung gesprochen wird, wirkt wie mangelnde Transparenz
    • Als Apple sich weigerte, staatlichen Forderungen zur Entschlüsselung nachzukommen, soll es auch intern starken Widerstand gegeben haben
      Das war damals im San-Bernardino-Fall
    • Der Vollständigkeit halber: Das PRISM-Programm begann 2007. Das überschneidet sich mit der Zeit des Irakkriegs
  • Der Zweck von Tech-Unternehmen ist nicht bloß, Bequemlichkeit zu bieten
    Sie verdienen Geld durch das Sammeln von Telemetriedaten und erfassen Daten unter dem Vorwand, Probleme in Multi-Tenant-Umgebungen zu lösen
    Am Ende werden Nutzer mit kostenlosen Vorteilen angelockt und dann als Opfer in Vendor Lock-in gefangen
  • Die Aussage, man sei „von der Regierung schikaniert worden“, ist übertrieben
    Nach allem, was ich in den letzten 20 Jahren gesehen habe, waren das meist vertraglich vereinbarte Deals und letztlich einfach Geschäft
  • Ich verstehe nicht, warum SecDev H Anthropic in Überwachungs- und Drohnentechnologie integrieren will
    „Wenn du nicht gehorchst, verbinde ich deine KI mit meinem System“ ist so, als würde ein Bankräuber dem Kassierer seine Waffe in die Hand drücken
    • Genau. Bei Hegseth ist viel zu offensichtlich, dass ihm für so etwas die Fachkompetenz fehlt
  • Tech-Unternehmen seien zu Überwachung gezwungen worden? Ganz sicher nicht
    Ein erheblicher Teil ihres Unternehmenswerts basiert bereits auf der Fähigkeit zur Zusammenarbeit mit staatlicher Überwachung. Sie sind keine Opfer, sondern Komplizen
    • Wie im „Torment Nexus“-Meme: Unternehmen bauen gefährliche Technologie, und die Regierung fragt dann, „warum teilt ihr sie nicht mit uns?“
  • Ich hoffe, dass Anthropic diesmal standhält, aber langfristig könnte das bedeutungslos sein
    Die Wachstumsrate von Intelligenz in der KI ist so hoch, dass der Mensch irgendwann die Kontrolle verlieren wird
    Heutige Sicherheitsforschung oder Richtlinien für verantwortungsvolle Skalierung kaufen am Ende nur Zeit, ändern aber nicht die Richtung selbst. Das ist der beängstigendste Teil
  • Ich frage mich, ob Tech-Unternehmen und die Militär- und Überwachungsindustrie wirklich getrennt sind
    Laut einem Vortrag von Steve Blank wurden vor den 1980er Jahren die meisten Silicon-Valley-Startups mit Militärgeldern gegründet
    Auch heute stehen strategische Technologien wie Internet, Suche und KI unter Kontrolle. Wir geben Facebook oder Google Daten, aber nicht dem Staat. Am Ende sind es jedoch dieselben Informationen
    • Früher war die Trennung etwas deutlicher
      Die Entwicklerkultur war damals von Hacker-Ethos, cyberpunkartiger Privatsphäre und der Open-Source-Bewegung geprägt und geriet mit militärischer Kultur in Konflikt
    • Dazu behandelt auch das Buch „Surveillance Valley“ die militärischen Wurzeln der Tech-Industrie sehr gut
  • Tech-Unternehmen sollten nicht die Befugnis zur Überwachung haben