Google nimmt Zusage zurück, KI nicht für Waffen und Überwachung einzusetzen

• Hintergrund der Änderung von Googles KI-Prinzipien

  • Die frühere Zusage in den KI-Prinzipien, KI nicht für Waffen oder Überwachungszwecke einzusetzen, ist verschwunden
  • Googles Demis Hassabis und James Manyika kündigten die Richtlinienänderung mit Verweis auf die Verbreitung von KI und den Bedarf der nationalen Sicherheit an
  • Sie betonten: „Demokratische Staaten sollten bei der KI-Entwicklung die Führung übernehmen und mit Regierung sowie Sicherheitsbereich zusammenarbeiten.“

• Wesentliche Inhalte der neuen KI-Richtlinie

  • Die Formulierung, Technologie im Einklang mit internationalem Recht und Menschenrechtsprinzipien einzusetzen, bleibt bestehen
  • Hinzugefügt wurde der Punkt, dass „Tests durchgeführt werden, um unerwartete Schäden zu mindern“
  • Die ausdrückliche Ausschlussklausel zur Nutzung für Waffen oder Überwachung wurde konkret gestrichen
  • Ein Google-Sprecher verweigerte die Beantwortung konkreter Fragen zur Änderung der Waffen- und Überwachungsrichtlinie

• Früherer interner Widerstand bei Google und der Maven-Vertrag

  • 2018 kam es zu starkem Widerstand von Beschäftigten, als Google mit dem US-Verteidigungsministerium am Projekt Maven zur Analyse von Drohnenaufnahmen arbeitete
  • Mitarbeitende argumentierten: „Google sollte nicht im Kriegsgeschäft tätig sein.“
  • Das Unternehmen verlängerte den Maven-Vertrag nicht und veröffentlichte danach seine KI-Prinzipien, einschließlich der Zusage, den Einsatz für Waffen und Überwachung zu verbieten
  • Durch dieses Richtlinien-Update wurde diese ausdrückliche Zusage gestrichen, wodurch die frühere Protestbewegung der Mitarbeitenden erneut in den Fokus rückt

• Auswirkungen auf die Branche

  • Im Silicon Valley wächst die Zusammenarbeit mit dem Militär- und Verteidigungssektor rasant
  • Es gibt die Einschätzung, dass der Widerstand von Google-Mitarbeitenden gegen Maven einen großen Wendepunkt für die Branche markierte
  • Nach dieser Richtlinienänderung steigt laut Analysen die Wahrscheinlichkeit, dass Googles KI erneut im Militär- und Überwachungsbereich eingesetzt wird

[GN⁺]

Hacker-News-Kommentare

• Es wird über die Gefahren von Drohnen und KI-Waffen diskutiert. Es gibt vielfältige Missbrauchsmöglichkeiten wie ferngesteuerte Tötungen, politische Destabilisierung und selektives Targeting durch Diktatoren

  • Viele Staaten werden über diese Technologien verfügen, und viele KI-Modelle sind bereits öffentlich verfügbar
  • Die Tech-Community muss darüber nachdenken, wie sich dieses Problem lösen lässt
  • Wichtige Fragen werden aufgeworfen, etwa zu Abwehrmaßnahmen, Überwachungsmethoden und dazu, wie Bürger den Einsatz staatlicher Waffen kontrollieren können

• Großkonzerne wie Google sind nicht von Natur aus gut oder moralisch; ein solches Image ist lediglich Teil der Marketingstrategie

• Es wird die Realität anerkannt, dass die Welt auf Selbstzerstörung zusteuert und im Verborgenen beängstigende Entwicklungen stattfinden

• Die meisten Privatunternehmen werden Technologie im Interesse des Profits einsetzen und frühere Versprechen brechen

• Es ist interessant, dass sich Unternehmen je nach politischer Lage verändern

  • Google achtet als Reaktion auf die Resonanz zu seinen KI-Ankündigungen auf sein Image-Management

• OpenAIs Vertrag mit dem DoD wird mit Googles Verhalten verglichen, wobei argumentiert wird, dass eine offene Haltung ehrlicher sei

• Es wird behauptet, dass bestimmte Staaten Waffen zur Kontrolle von Menschenmengen benötigten

  • Kritisiert wird, dass internationale Krisen hauptsächlich von den USA und Russland ausgelöst worden seien

• Angesichts der chaotischen Weltlage wird es als positiv gesehen, dass Unternehmen wie Google, OpenAI und Microsoft an Verteidigungsprojekten beteiligt sind

• Es werden Bedenken hinsichtlich der Fähigkeit von LLMs geäußert, die Textanalyse in Geheimdiensten zu skalieren