Das Silicon-Valley-Problem des Pentagons

Das Pentagon-Problem des Silicon Valley

• Ronen Bar, Leiter des israelischen Inlandsgeheimdienstes Schin Bet, stellte eine intern entwickelte Plattform für künstliche Intelligenz vor.
• Die Technologie wird eingesetzt, um Informationen über Terroristen zu analysieren, Risiken vorherzusagen und Warnungen auszulösen.
• Der Angriff der Hamas überraschte Israels Verteidigungssysteme völlig, obwohl die Hamas ihre Vorbereitungen offen durchgeführt hatte.

Big Tech gerät im Krieg der Zukunft ins Hintertreffen

• Michèle Flournoy betont die Bedeutung der Verbindung zwischen Silicon Valley und der US-Regierung.
• Dem Pentagon wird oft nachgesagt, neuen Technologien gegenüber resistent zu sein, tatsächlich investiert es jedoch in zahlreiche KI-Projekte.
• KI-Technologien können die Art militärischer Operationen beeinflussen, gleichzeitig fördern Idealisten der Tech-Industrie den Mythos, sie würden die Militärmaschinerie revolutionieren.

Der Glaube, dass Software menschliche Konflikte lösen kann

• Die Rolle von Software in der amerikanischen Kriegsführung hat eine lange Geschichte.
• Während des Vietnamkriegs setzte die Operation Igloo White Sensoren ein, um feindliche Aktivitäten zu erkennen, scheiterte jedoch.
• Das Silicon Valley entwickelte sich aus der Elektronikindustrie, die zum Sieg im Zweiten Weltkrieg beitrug, und wurde während des Kalten Krieges vom Pentagon gefördert.

Die Beziehung zwischen Silicon Valley und dem Pentagon

• Die Tech-Industrie im Silicon Valley war ursprünglich eng mit der Verteidigungsindustrie verbunden, und das Internet entwickelte sich aus dem ARPANET des Pentagons.
• Peter Thiel verfolgt das Ziel, das Silicon Valley wieder in einen militärisch-industriellen Komplex zu verwandeln.
• Das Pentagon versucht, Technologien aus dem Silicon Valley zu nutzen, um die technologische Überlegenheit der USA zu bewahren.

Verteidigungstechnologie aus dem Silicon Valley

• Unternehmen aus dem Silicon Valley bauen ihre Aktivitäten im Verteidigungssektor aus und fügen dem bestehenden militärisch-industriellen Komplex neue Akteure hinzu.
• Google entwickelte im Rahmen von Project Maven Technologie zur Verarbeitung von Drohnenaufnahmen, zog sich jedoch wegen des Widerstands von Mitarbeitern aus dem Projekt zurück.
• Unternehmen aus dem Silicon Valley erweitern ihre Rolle im Verteidigungsbereich weiter, da dieser als stabile Einnahmequelle aus dem Verteidigungshaushalt erscheint.

Meinung von GN⁺

• Dieser Artikel bietet interessante Einblicke, wie Fortschritte in der Verteidigungstechnologie und bei künstlicher Intelligenz tatsächlich in militärischen Operationen eingesetzt werden.
• Er wirft die Frage auf, ob KI-Technologien die Komplexität realer Schlachtfelder vollständig verstehen und darauf reagieren können.
• Er stößt eine wichtige Debatte darüber an, welche Auswirkungen die Zusammenarbeit zwischen Tech-Industrie und Verteidigungssektor auf die nationale Sicherheit haben könnte.
• Der Artikel hebt die ethischen Probleme hervor, die entstehen können, wenn Unternehmen aus dem Silicon Valley tiefer in den Verteidigungssektor eingebunden werden.
• Er erinnert daran, dass technologische Fortschritte nicht immer zu militärischem Erfolg führen, und untermauert dies mit Beispielen gescheiterter Projekte aus der Vergangenheit.

[GN⁺]

Hacker-News-Kommentar

• Die im Artikel genannten Fälle wirken selektiv ausgewählt. Das Scheitern in Vietnam kann man nicht allein dem IBM-360-Computer anlasten. Der Angriff der Hamas mag Israel überrascht haben, aber in den letzten Jahren hat der Iron Dome gut funktioniert. Die USA warnten vor Russlands Angriff auf die Ukraine, aber viele wollten nicht hinhören. Und die Atombombe wurde von theoretischen Physikern entwickelt.
• Wie so viele Medien vereinfacht auch dieser Artikel künstliche Intelligenz übermäßig. Die Vorhersagefunktionen des maschinellen Lernens (ML) werden seit Jahrzehnten in modernen Streitkräften eingesetzt. Der Einstieg des Artikels deutet an, dass LLMs eine große Rolle beim Geheimdienstversagen rund um den Angriff vom 7. Oktober gespielt hätten, tatsächlich war das aber nicht der Fall. ML wird weiter eine Rolle spielen, mal mit Erfolgen, mal mit Fehlschlägen, und im Kampf gegen adversariales ML noch unvollkommener werden. Es ist nicht hilfreich, unvollkommene Werkzeuge dafür verantwortlich zu machen.
• Die KI-Systeme wussten alles über die Hamas, aber die Hamas-Mitglieder lieferten die Daten, die die KI hören wollte. Wenn die Gegenseite jede Handlung und jedes Wort sehen kann, ist Privatsphäre die einzige Verteidigung. Im Roman "Die Drei Sonnen" existiert Privatsphäre nur im menschlichen Geist, und nur Menschen können Entscheidungen auf Grundlage von Strategien treffen, die sie nie ausgesprochen haben. Science-Fiction wird Realität.
• Ohne klaren Use Case ist es fast unmöglich, ein gutes System zu entwerfen. Die Ukraine hat solche Use Cases und eine hohe Motivation, sie zu lösen. Die Ukraine kontrolliert das Schlachtfeld mit gewöhnlichen Computern und hat mit Langstrecken-Seedrohnen mehrere russische Kriegsschiffe versenkt. Kürzlich begann sie außerdem damit, günstige Flugdrohnen mit computer-vision-basierter Zielerkennung in großem Maßstab zu testen. Die USA befinden sich dagegen im Frieden, was an sich gut ist, aber in der Praxis leicht dazu führt, Milliarden für tatsächlich nutzlose Technik zu verschwenden.
• Die Formulierung "überraschenderweise" ist seltsam. Israelische Medien berichten wiederholt, dass Analysten an der Front Alarm schlugen, aber ignoriert wurden. Das könnte an Sexismus, Altersdiskriminierung oder Diskriminierung im Zusammenhang mit der Wehrpflicht liegen, oder am starken Willen von Siedlergruppen in der Regierung, den Gazastreifen neu zu besiedeln. Wie auch immer, die Signale waren da, und man hatte die Vorbereitungen und Übungen etwa ein Jahr lang beobachtet. Selbst wenn die Widerstandsgruppen ihr Geheimnis gewahrt hätten, sollte ein gewöhnlicher Geheimdienst- oder Militäroffizier am Ende zu dem Schluss kommen können, dass es irgendwann zu einer gewaltsamen Reaktion kommen würde.
• Über israelische Technologie weiß ich nicht viel, aber das Pentagon hat im Silicon Valley ein Imageproblem. Es wirkt nicht so, als würde es die besten Talente anwerben oder bei Vertragsfirmen wie Palantir einstellen lassen. Unsere Generation ist näher an Irak und Vietnam als am Zweiten Weltkrieg, und viele der klügsten Köpfe sind Einwanderer der ersten Generation. Zwar hat auch die Ad-Tech-Branche zuletzt ein Imageproblem bekommen, weil die Menschen stärker sehen, wie dort produziert wird, aber es ist immer noch attraktiver, bei großen Consumer-Unternehmen zu arbeiten als in der Rüstungsindustrie. Wenn man Kollegen dazu bringen will, für die US-Regierung zu arbeiten, selbst indirekt, muss man mehr bezahlen. Stattdessen bekommt man oft weniger Geld und hat weniger Freiheit für Aktivitäten außerhalb der Arbeitszeit.
• Gegen Ende des Artikels beschwert sich Cockburn darüber, dass er von ChatGPT fantastische Antworten bekam, als er nach der Arbeit von IDF und Palantir fragte. Wer auf DuckDuckGo.com nach "IDF Palantir" sucht, bekommt Links zu mehreren Nachrichtenartikeln. Wenn der Punkt ist, dass LLMs derzeit nicht verlässlich sind, dann ja. Wenn der Punkt aber ist, dass man nicht herausfinden könne, ob Palantir mit der IDF zusammenarbeitet, dann gibt es dafür bereits Belege.
• Der ewigen Wahrheit von Messung und Gegenmaßnahme entkommt man nicht ... Ein Narr mit einem Werkzeug bleibt immer noch ein Narr ...
• Es wirkt, als würden die operativen Teams von Fehlalarmen im Rahmen der On-Call-Pflicht überrollt. Die beste Methode, Fehler zu beheben, ist dann ... sie einfach zu ignorieren. Komplexe Systeme, die von bürokratischem Personal betrieben werden müssen, sind zum Scheitern verurteilt.