Google-Mitarbeiter fordern „rote Linien“ für militärische künstliche Intelligenz … ähnlich wie bei Anthropic

• Interne Mitarbeiter von Google fordern die Festlegung klarer ethischer Grenzen (rote Linien) für Projekte im Bereich militärische künstliche Intelligenz (KI)
• Sie äußern Bedenken über eine Ausweitung der Zusammenarbeit mit dem Pentagon (US-Verteidigungsministerium) und werfen die Frage auf, ob der Einsatzbereich von KI für militärische Zwecke begrenzt werden sollte
• Diese Forderungen werden als ähnliche Entwicklung bewertet wie die jüngste Entscheidung von Anthropic, eigene Beschränkungen für militärische KI festzulegen
• Die Mitarbeiter argumentieren, dass klare Richtlinien geschaffen werden müssen, damit KI-Bereiche von Google wie DeepMind nicht an Waffenentwicklung oder Kampfunterstützung beteiligt werden
• Innerhalb von Technologieunternehmen flammt damit die interne Debatte über die Grenze zwischen KI-Ethik und Sicherheitskooperation erneut auf

---

Sorge von Google-Mitarbeitern über militärische KI

• Google-Mitarbeiter äußern Bedenken, dass die KI-Technologie des Unternehmens für militärische Zwecke genutzt werden könnte
  • Besonders vor dem Hintergrund einer ausgeweiteten Zusammenarbeit mit dem Pentagon betonen sie die Notwendigkeit interner Regeln, um den Einsatz in tödlichen Waffen oder Kampfsystemen zu verhindern
• Die Mitarbeiter fordern strengere ethische Leitlinien und eine klare Festlegung auf nichtmilitärische Zwecke bei der KI-Entwicklung

Vergleich mit Anthropic

• Anthropic hat kürzlich eigene Beschränkungsmaßnahmen für militärische KI angekündigt
  • Die Forderungen der Google-Mitarbeiter weisen eine ähnliche Stoßrichtung auf wie diese Entscheidung von Anthropic
• Beide Fälle werden als interne Selbstregulierung der Tech-Branche interpretiert, um militärischen Missbrauch von KI zu verhindern

Die Rolle von DeepMind und interne Diskussionen

• Es wird darüber diskutiert, ob Googles Tochter DeepMind sich möglicherweise an Pentagon-bezogenen Projekten beteiligen könnte
• Einige Mitarbeiter fordern die Festlegung klarer roter Linien, damit DeepMind nicht in Waffenentwicklung oder Kampfunterstützungssysteme eingebunden wird

Ethische Spannungen in Technologieunternehmen

• Die aktuelle Debatte innerhalb von Google hebt die Spannung zwischen KI-Ethik und Kooperationen im Bereich nationale Sicherheit erneut hervor
• Die Forderungen der Mitarbeiter stellen zugleich zwei Aufgaben in den Raum: gesellschaftliche Verantwortung von Unternehmen und die Begrenzung militärischer Nutzung von Technologie

Bedeutung für die gesamte Branche

• Die Fälle Anthropic und Google zeigen einen Trend, bei dem KI-Unternehmen ihre internen Maßstäbe für militärische Zusammenarbeit neu definieren
• Künftig könnten auch andere Technologieunternehmen dazu gedrängt werden, klare Richtlinien für die militärische Nutzung von KI aufzustellen

[GN⁺]

Hacker-News-Kommentare

• Ich verstehe die Intention, aber ich frage mich, wie das auf globaler Ebene funktionieren soll
  Zum Beispiel könnten Mitarbeiter in den USA solche Waffenentwicklung ablehnen, Mitarbeiter in China aber nicht
  Ich frage mich, wie man ein Gleichgewicht zwischen persönlicher Antikriegs-Haltung und der Realität der Welt finden kann, insbesondere im KI-Wettrüsten

  • Man sollte klar erklären, welche Bedrohung für die Außenwelt entsteht, wenn China KI bewaffnet, und Gegenmaßnahmen dazu diskutieren
    Die Logik, man müsse den Fähigkeiten einfach bedingungslos folgen, ist gefährlich
    Das Gleichgewicht zwischen persönlicher Antikriegs-Haltung und Realität sollte durch offene Information, Verweigerung freiwilliger Zustimmung und die Forderung nach Legitimität für jede Entscheidung hergestellt werden
  • Kein Grund zur Sorge. Wenn Google es nicht macht, wird xAI es tun
    Zur Einordnung: Anthropic hat nicht alle Militärprojekte abgelehnt, sondern einen Ansatz der bedingten Beteiligung gewählt
  • Wenn man von der Spieltheorie absieht und die Realität betrachtet, besteht bei einer Bewaffnung von KI durch China die Möglichkeit, dass sie sie „irgendwann“ einsetzen
    Wenn die USA sie jedoch bewaffnen, ist die Wahrscheinlichkeit hoch, dass damit „noch in diesem Jahr“ tatsächlich Menschen getötet werden
    Das heißt, Entwickler in den USA müssen berücksichtigen, dass die Folgen eine unmittelbare Realität sind
  • Wie beim nuklearen Wettrüsten sollte man es durch Verträge begrenzen und kontrollieren
    Es wäre allerdings besser gewesen, wenn politische Führer mit Verhandlungen begonnen hätten, bevor sie moralische Grenzen überschritten
  • Wenn weniger Menschen mitmachen, verlangsamt sich der Fortschritt
    Wenn also hervorragende Ingenieure unethische Projekte ablehnen, sinkt auch die Chance, dass weniger qualifizierte Leute Schlechtes anrichten
    So wie White-Hat-Entwickler nicht mit Black-Hat-Hackern zusammenarbeiten, hat ethische Nichtteilnahme eine abschreckende Wirkung

• Wenn man solche Fragen allein der Selbstregulierung überlassen muss, dann ist die Hoffnung eigentlich schon verloren

  • Am Ende ist auf der obersten Ebene ohnehin alles Selbstregulierung
    Trotzdem ist es ein Fortschritt, solche moralischen Bedenken öffentlich zu machen
    Solche Gespräche müssen sich ansammeln, damit ein gesellschaftlicher Konsens entsteht und daraus Forderungen nach Veränderung folgen
  • Die Lage ist inzwischen so ernst, dass selbst Selbstregulierung besser ist als gar nichts
    Das ist immer noch viel besser, als vor einem wahnsinnigen Machthaber auf die Knie zu fallen

• Die Absicht ist gut, aber die Büchse der Pandora der KI-Bewaffnung wurde schon vor langer Zeit geöffnet

  • So etwas hört man immer wieder — „Jetzt ist Kontrolle ohnehin unmöglich“
    Wäre das wirklich so, wäre die Menschheit schon mehrfach untergegangen
    Man sollte den Glauben nicht verlieren, dass Zurückhaltung möglich ist
  • Tatsächlich gab es diese Entwicklung von Anfang an
    Denn das US-Militär hat unzählige Computing-Projekte gefördert

• Die Maßgabe sollte nicht „nur für den Einsatz im Inland“ lauten, sondern einfach „gar nicht“

• Die Nachricht „100 Google-Mitarbeiter haben protestiert“ ist bemerkenswert

  • Aber so etwas wird oft in Geheimprojekte umgewandelt, und die Beteiligten werden am Ende wahrscheinlich entlassen
    Vermutlich wird das bis etwa 2027 still und leise bereinigt sein
  • Ich habe gehört, tatsächlich seien es eher 200
  • Trotzdem beginnt jeder Wandel mit einigen wenigen mutigen Menschen

• Wenn man sich die politischen Äußerungen von Jeff Dean ansieht, scheint er eher auf der Seite des Widerstands zu stehen
  Aber ob das gesamte Management dieser Haltung folgen wird, ist fraglich

  • In dem Moment jedoch, in dem ein US-Bürger durch autonome Waffen zu Schaden kommt, wird dieser Widerstand verschwinden
    Damit es nicht dazu kommt, muss man jetzt so viel wie möglich vorbeugen

• New-York-Times-Artikel: der Krieg in der Ukraine und die Rolle von KI-Drohnen

• Ich glaube fast überhaupt nicht daran, dass Google eine prinzipientreue Haltung bis zum Ende durchhalten wird

• Interessant ist, dass das Verteidigungsministerium Anthropic als Unternehmen mit Lieferkettenrisiko eingestuft hat,
  OpenAI aber trotzdem Aufträge gegeben wurden
  Die Verbotsrichtlinien der beiden Unternehmen sind fast identisch, deshalb ist unklar, warum es diese unterschiedliche Behandlung gab

• Erstaunlich, dass diese Diskussion schon wieder vergessen wurde
  Laut einem Artikel des Guardian
  haben sowohl Google als auch OpenAI bereits Verteidigungsverträge abgeschlossen
  Wenn man dem nicht zustimmt, sollte man das Unternehmen verlassen, aber tatsächlich werden das wohl nur sehr wenige tun

  • Ich denke eher, dass es besser ist zu bleiben und auf subtil ineffiziente Weise zu arbeiten, um Widerstand zu leisten