Das Silicon-Valley-Problem des Pentagons

• US-amerikanische und israelische Verteidigungs- und Nachrichtendienste präsentieren KI und Silicon-Valley-Technologie als Durchbruch für Entscheidungen im Krieg, doch mehrere Fälle zeigen, dass technologische Gewissheit immer wieder mit Fehlschlägen im Einsatz kollidierte.
• Shin Bet erklärte, man habe generative KI wie einen „Co-Piloten“ in die Entscheidungsfindung integriert, doch der Hamas-Angriff vom 7. Oktober 2023 überraschte Israels Verteidigungs- und Nachrichtensysteme trotz Überwachungsvideos, öffentlicher Übungen, interner Berichte und vorab vorhandener Dokumente.
• Igloo White, Assault Breaker, Future Combat Systems und das Secure Border Initiative Network im US-Verteidigungsbereich sollten das Schlachtfeld mit Computing und Sensoren kontrollieren, scheiterten jedoch nach enormen Kosten oder wurden eingestellt.
• Entgegen dem Image, das Pentagon stehe KI zurückhaltend gegenüber, unterstützt es mindestens 686 KI-Projekte und vergab 2022 im Rahmen der Joint Warfighting Cloud Capability Aufträge im Wert von bis zu 9 Milliarden US-Dollar an große Tech-Unternehmen.
• Google, Amazon, Microsoft, Palantir und Anduril sind tief in den Verteidigungsmarkt vorgedrungen, doch die Beispiele Project Maven, IVAS, Roadrunner und Palantir zeigen, dass militärische KI zugleich ethische Kontroversen, Leistungsgrenzen, Marketingübertreibungen und Halluzinationsprobleme mit sich bringt.

---

Der Angriff vom 7. Oktober, den die KI übersah

• Drei Monate vor dem Hamas-Angriff verkündete Shin-Bet-Direktor Ronen Bar, der Inlandsgeheimdienst habe eine generative KI-Plattform ähnlich wie ChatGPT entwickelt und nahtlos in die „interdiction machine“ integriert.
• Das System war darauf ausgelegt, Verhalten anhand der Bewegungen, Freunde, Familie, Aktivitäten, Äußerungen und Posts einer Zielperson zu analysieren, Risiken vorherzusagen und Warnungen auszulösen.
• Der Hamas-Angriff vom 7. Oktober 2023 überraschte Shin Bet und Israels milliardenschweres Verteidigungssystem vollständig.
  • Hamas führte öffentlich Übungen an Modellen des Grenzzauns und israelischer Siedlungen durch.
  • Von Hamas geführte bewaffnete Gruppen stellten Trainingsvideos online.
  • Israelische Bewohner nahe der Grenze beobachteten die Übungen und warnten davor, wurden aber ignoriert.
  • Israelische Wehrpflichtige, die Überwachungskameras an der Grenze zu Gaza beobachteten, legten detaillierte Berichte über Vorbereitungen zum Durchbrechen der Barriere und zur Entführung von Geiseln vor, doch diese wurden als „imaginäres Szenario“ abgetan.
  • Israelische Geheimdienste verfügten seit mehr als einem Jahr über ein Hamas-Dokument mit detaillierten Angriffsplänen.
• Hamas-Mitglieder passten sich der israelischen Aufklärungsmethodik an und ließen über ihnen bekannte Informanten Daten durchsickern, die Israel hören wollte.
  • Sie sendeten Signale, dass sich Hamas in Gaza auf die Verbesserung der lokalen Wirtschaft durch Zugang zum israelischen Arbeitsmarkt konzentriere.
  • Sie erweckten den Eindruck, Hamas werde durch Israels überwältigende Militärmacht vom Handeln abgehalten.
• Dieses Versagen stellt das Selbstvertrauen, KI wisse „alles über Terroristen“, der Grenze gegenüber, dass sie nicht weiß, was die Zielpersonen tatsächlich denken.

Optimismus über Verteidigungs-KI und die Realität im Pentagon

• Michèle Flournoy schrieb in Foreign Affairs, KI werde die Art der Kriegsführung, die Erkennung von Bedrohungen, die Wartung von Waffensystemen und die Kostenschätzung strategischer Entscheidungen verändern.
• Als Hindernis für den Einstieg von Tech-Unternehmen in die Verteidigung wird häufig die Pentagon-Bürokratie genannt, doch das Pentagon als gegenüber KI gleichgültige Organisation zu sehen, fällt schwer.
  • Berichten zufolge finanzierte es mindestens 686 KI-Projekte.
  • 2022 vergab es über den Vertrag zur Joint Warfighting Cloud Capability Aufträge im Wert von bis zu 9 Milliarden US-Dollar an große Tech-Unternehmen.
  • Ein Pentagon-Vertreter sagte, dieser Vertrag werde KI-Lösungen „turbocharge“.
• Gamechanger ist ein KI-Projekt, das Pentagon-Mitarbeitern helfen soll herauszufinden, was die riesige Organisation tatsächlich tut und wohin das Geld fließt.
  • Eine Pressemitteilung des Joint Artificial Intelligence Center von Anfang 2022 erwähnte Quellen, die als „28 Authoriative Sources“ bezeichnet wurden.
  • Ein hochrangiger Rechnungsbeamter des Pentagons hoffte, Gamechanger einsetzen zu können, um die Sichtbarkeit und das Verständnis über Haushaltsdaten hinweg zu verbessern.
• Dennoch bestand das Pentagon auch 2023 die Finanzprüfung nicht und scheiterte damit zum sechsten Mal in Folge.
• Die Erzählung, Persönlichkeiten aus der Tech-Industrie würden das Militärsystem revolutionieren, führt zu dem Mythos, selbst das für überteuerte, leistungsschwache Waffen und verlorene Kriege berüchtigte Verteidigungssystem könne grundlegend verbessert werden.

Wiederholte Fehlschläge beim Versuch, das Schlachtfeld per Computing zu kontrollieren

• In der US-Kriegsführung gibt es seit Langem den Glauben, Software könne Probleme menschlicher Konflikte lösen.

• Igloo White

  • Von 1967 bis 1972 platzierte die US Air Force in den Dschungeln Südostasiens rund um den Ho-Chi-Minh-Pfad großflächig Sensoren.
  • Die Operation sollte menschliche Aktivitäten anhand von Fußschritten, Ammoniakgeruch im Urin und elektronischen Signalen von Motorzündungen erkennen und die Informationen an IBM-Computer in einer geheimen Basis in Thailand senden, um Nachschubrouten zu identifizieren.
  • Die Kosten lagen jedes Jahr bei mindestens mehreren Hundert Millionen Dollar, doch sie endete als vollständiger Fehlschlag.
  • Vietnamesische Truppen hängten Eimer mit Urin an Bäume abseits der Wege oder trieben Vieh über ungenutzte Pfade, damit die Computer dies als Feindbewegungen verarbeiteten.
  • 1972 starteten nordvietnamesische Truppen eine Offensive mit Hunderten Panzern, doch Igloo White erkannte sie überhaupt nicht; die Operation wurde bald darauf aufgegeben.

• Assault Breaker und spätere Programme

  • Nach dem Abzug aus Vietnam investierten die USA große Summen in Assault Breaker, das mit Luftradar in das sowjetische Hinterland in Osteuropa blicken sollte.
  • In Tests konnte das System Panzer, Autos und vom Wind bewegte Bäume nicht unterscheiden und wurde im folgenden Jahrzehnt eingestellt.
  • Future Combat Systems stellte die Vision auf, Sensoren und Waffen mit Hochleistungsprozessoren zu verbinden, sodass Ziele so leicht getroffen werden könnten, dass Schutzpanzerung unnötig werde; nach fast 20 Milliarden US-Dollar Ausgaben endete es ohne Ergebnis.
  • Das Secure Border Initiative Network des Department of Homeland Security wurde als „virtuelle Barriere“ aus vernetzten Radaren, Kameras und Überwachungssensoren beworben, aber 2011 eingestellt.
  • Boeing war Hauptauftragnehmer für Future Combat Systems und das Secure Border Initiative Network; solche Fehlschläge stehen im Gegensatz zur Erwartung, schnelle Innovation im Silicon-Valley-Stil könne das Versagen etablierter Rüstungsunternehmen ersetzen.

Die Wiedervereinigung von Silicon Valley und militärisch-industriellem Komplex

• Die Silicon-Valley-Industrie ist eng mit der Elektronikindustrie verbunden, die unter Förderung des Pentagons wuchs.
  • Der integrierte Schaltkreis, Kern moderner Computer, wurde 1958 erstmals von Texas Instruments produziert, und Verteidigungsetats trieben seine Entwicklung voran.
  • Eine frühe Anwendung war das Leitsystem der interkontinentalen Atomrakete Minuteman II.
• Apple Computer wurde im Dezember 1980 weniger als einen Monat nach dem Börsengang höher bewertet als Ford, und der Macintosh wurde mit dem emanzipatorischen Bild vorgestellt, Einzelpersonen Rechenleistung auf Unternehmensniveau zu geben.
• Der Bruch mit der Verteidigung war nie vollständig.
  • Das Internet entstand aus ARPANET, das von der Advanced Research Projects Agency des Pentagons entwickelt wurde.
  • Die frühe Stanford-Forschung der Google-Gründer Larry Page und Sergey Brin wurde teilweise von derselben Pentagon-Behörde finanziert, aus der DARPA wurde.
  • Google Earth ging aus Keyhole EarthViewer hervor, das teilweise von In-Q-Tel, der Venture-Capital-Organisation der CIA, finanziert und später von Google übernommen wurde.
• Peter Thiel, der durch die Mitgründung von PayPal und frühe Investitionen in Facebook Vermögen aufbaute, schlug danach den Kurs ein, den militärisch-industriellen Komplex zurück ins Silicon Valley zu holen.
• Palantir wurde 2003 gegründet und bietet Software, die auf PayPals Betrugserkennungstechnologie basiert und Datenmuster visuell erkennt und vermittelt.
  • Die CIA war über In-Q-Tel ein früher Investor.
  • Viele der frühen Verträge stammten Berichten zufolge von Nachrichtendiensten.
  • Es gab Behauptungen, Palantir habe eine große Rolle bei der Entdeckung von GhostNet und des Verstecks von Osama bin Laden gespielt, doch es gibt keine Belege dafür.
  • Trotz des Widerstands hochrangiger Militärs bewarb Palantir seine Technologie über Offiziere mittleren Rangs der Army und unterstützende Abgeordnete.

Verteidigungsinnovationsorganisationen und Project Maven

• Robert O. Work warnte, die USA verlören ihren technologischen Vorsprung bei Atomwaffen und präzisionsgelenkten Waffen, während China und Russland aufgeholt hätten.
• 2014 stellte Verteidigungsminister Chuck Hagel die von Work beaufsichtigte Defense Innovation Initiative vor und erklärte, man werde aktiv nach Vorschlägen von Unternehmen und Hochschulen außerhalb der traditionellen Sphäre des Verteidigungsministeriums suchen.
• Ash Carter besuchte wiederholt Technologieregionen und gründete 2015 in Mountain View, nahe den Hauptsitzen von Google und Apple, die Defense Innovation Unit Experimental.
  • Später wurde „Experimental“ aus dem Namen gestrichen.
  • Auch das Department of Homeland Security eröffnete in der Nähe ein Satellitenbüro, um Beziehungen zu Silicon-Valley-Tech-Unternehmen auszubauen.
• 2016 gründete Carter das von Eric Schmidt geleitete Defense Innovation Advisory Board; Schmidt leitete später die National Security Commission on Artificial Intelligence, in der Work stellvertretender Vorsitzender war.
• Project Maven war ein von Work geschaffenes Programm mit dem Ziel, die Integration von Big Data und Machine Learning im Pentagon zu beschleunigen.
  • 2017 erhielt Google einen Auftrag zur Entwicklung von Tools, die den unablässigen Strom von Drohnenvideos verarbeiten und Ziele identifizieren sollten.
  • Laut internen E-Mails, die an Gizmodo geleakt wurden, sollte Googles Beteiligung nicht ohne Erlaubnis des Unternehmens öffentlich gemacht werden.
  • Fei-Fei Li, Chief Scientist für KI bei Google Cloud, schrieb per E-Mail, man solle Erwähnungen oder Andeutungen von „KI“ vermeiden.
  • Als der Vertrag bekannt wurde, unterzeichneten rund 4.000 Google-Mitarbeiter eine Petition, die eine klare Richtlinie forderte, nach der Google oder seine Auftragnehmer keine Kriegstechnologie entwickeln; einige kündigten.

Nach Maven sichtbar gewordene Leistungsgrenzen und die Verlagerung an Subunternehmer

• Die Videoquelle von Project Maven war das an Reaper-Drohnen montierte Kamerapod-System Gorgon Stare.
• Gorgon Stare wurde beworben, als könne es alles sehen, doch ein Bericht der Testeinheit der Eglin Air Force Base aus dem Jahr 2011 wies auf mehrere Mängel hin.
  • Die Kamera konnte Ziele nicht leicht finden und identifizieren.
  • Die Übertragungsrate war zu langsam.
  • Die Testeinheit kam zu dem Schluss, das System sei „operationell nicht wirksam“, und empfahl, es nicht in Afghanistan einzusetzen; die Air Force setzte es dennoch ein.
• Ein ehemaliger Kampfpilot und Pentagon-Analyst sagte, automatische Zielerkennung (ATR) funktioniere trotz jahrelanger Investitionen nicht.
• Ein weiterer Kampfveteran, der sich in einer Pentagon-Behörde mit verwandten Problemen befasst, meinte, KI-Entwickler schienen einige militärische Anforderungen nicht zu verstehen.
  • In einem DARPA-Experiment veränderte ein Trupp Marines seine Körpersilhouette, um der Erkennung durch einen KI-gesteuerten Roboter zu entgehen.
  • Zwei krochen in einem großen Pappkarton voran, andere schlugen Purzelbäume, und einer trug Tannenzweige.
  • Alle überquerten offenes Gelände, näherten sich dem Roboter und berührten ihn, ohne entdeckt zu werden.
• Nachdem Google aus Maven ausgestiegen war, übernahmen Microsoft, Amazon, Palantir und andere die Subaufträge.
  • Dies fand Jack Poulson heraus, der Google verlassen hatte.
  • Poulson gründete später Tech Inquiry, um Verträge der Defense Innovation Unit und verbundene Organisationen zu verfolgen.

Cloud-Verträge und die verschwindende Kluft zwischen Tech und Verteidigung

• Googles Rückzug aus Maven löste im Lager der Verteidigungstechnologie heftige Gegenreaktionen aus.
  • Peter Thiel nannte Googles Haltung „verräterisch“.
  • Eric Schmidt sagte, er stimme dieser Entscheidung nicht zu.
  • Jeff Bezos sagte, die USA bekämen Probleme, wenn große Tech-Unternehmen dem Department of Defense den Rücken kehrten.
• Amazon gewann 2013 von der CIA einen Zehnjahresvertrag über 600 Millionen US-Dollar, um AWS-Cloud-Dienste für Nachrichtendienstzwecke bereitzustellen.
• Cloud Computing wurde zu einer neuen Einnahmefront für Unternehmen wie Amazon, Microsoft, Oracle und Google.
• Google ließ die moralischen Bedenken aus der Maven-Kontroverse hinter sich und bewarb sich um Anteile am Joint-Warfighting-Cloud-Capability-Vertrag im Wert von bis zu 9 Milliarden US-Dollar.
• Unternehmen erzielten mit kommerziellen Diensten hohe Gewinne, begannen den Staat aber zugleich als stabile und ergiebige Umsatzquelle zu betrachten; die Kluft zwischen Tech-Industrie und Pentagon verschwand rasch.

Anduril, Roadrunner, IVAS

• Im Ukraine-Krieg wurde der Einfluss von Drohnen stark thematisiert, doch viele der auf beiden Seiten verbreiteten und wirksamen Drohnen ähneln eher einfachen, günstigen Geräten aus über Amazon-Konten beschaffbaren Bauteilen, die kleine Bomben oder Artilleriegranaten tragen.
• Anduril stellte im Dezember 2023 Roadrunner vor.
  • Es handelt sich um eine kleine jetgetriebene Drohne, die jetgetriebene Bedrohungen einschließlich Drohnen autonom erkennen und zerstören und anschließend zur Basis zurückkehren können soll.
  • Laut Newsweek liegt der Preis im Bereich der „niedrigen Hunderttausende“ Dollar.
  • Das veröffentlichte Video zeigt Roadrunner bei der fehlerfreien Durchführung eines Tests.
• Der Pentagon-Analyst Franklin „Chuck“ Spinney bezeichnete die Roadrunner-Werbung als „Marketing-Bullshit“ und zeigte sich verwundert, dass bei der Hecklandung in der Wüste der Auslass kaum eine Staubwolke erzeugt.
• Anduril wurde von Palmer Luckey gegründet, der Oculus entwickelte und für 3 Milliarden US-Dollar an Facebook verkaufte, bevor er sich auf den Verteidigungsbereich konzentrierte.
  • Anduril verspricht, mit einer KI-basierten Sensorfusionsplattform ein perfektes 3D-Modell großer Gebiete zu erstellen.
  • Luckey sagte voraus, zukünftige Soldaten würden zu „Superhelden“ mit „perfekter Allwissenheit“, die in ihrem Einsatzgebiet die Position aller Feinde, Verbündeten und Ressourcen kennen.
• Die Army schloss 2021 mit Microsoft einen Vertrag über 21,9 Milliarden US-Dollar für das auf HoloLens basierende Integrated Visual Augmentation System (IVAS).
  • Ein Bericht des Pentagon-Direktorats für operationelle Tests und Evaluierung aus dem Jahr 2023 erklärte, viele Testsoldaten hätten mindestens eine körperliche Beeinträchtigung gemeldet, darunter Desorientierung, Schwindel, Augenbelastung, Kopfschmerzen, Bewegungskrankheit, Übelkeit, Nackenbelastung und Tunnelblick.
  • Soldaten nannten außerdem schlechte Leistung bei wenig Licht, Anzeigequalität, Sperrigkeit, geringe Zuverlässigkeit, fehlende Freund-Feind-Erkennung, Schwierigkeiten beim Schießen, körperliche Beeinträchtigungen und eingeschränktes peripheres Sichtfeld als Probleme.
  • Der Congress hielt den Großteil des Beschaffungsbudgets zurück, doch die Army zahlte Microsoft weitere 125 Millionen US-Dollar zur Überarbeitung des Systems; der Gesamtpreis stieg auf knapp unter 23 Milliarden US-Dollar.
  • Die Army behauptete, Soldatenfeedback in eigenen Tests des überarbeiteten Systems sei positiv gewesen.

KI-Boom, Palantir und Halluzinationen

• Nach der Veröffentlichung von ChatGPT sah Microsoft größere Chancen, doch zugleich gab es Skepsis gegenüber den Fähigkeiten von KI.
• Yann LeCun, Chief AI Scientist bei Meta, hält Warnungen vor der Bedrohung durch superintelligente Maschinen für sehr verfrüht, solange es nicht einmal Systeme gebe, deren Lernfähigkeit mit der einer Katze vergleichbar sei.
• Nate Koppikar, Mitgründer von Orso Partners, beschrieb die Lage in der Tech-Branche seit 2016 als nahe an „Bullshit“.
  • Der Technologiesektor verlor nach dem Platzen der Blase Ende 2021 Geld und baute Personal ab.
  • Die Verluste der Investoren in der Branche werden mit rund 7,4 Billionen US-Dollar angegeben.
  • Er sagte, das Versprechen, KI sei „the next big thing“, werde plötzlich verkauft.
  • Die Angst vor KI-Robotern sieht er als Teil einer Marketingkampagne, die Menschen an die Macht der Technologie glauben lassen soll.
  • KI habe eine Neigung zum Erfinden, einen Fehler, den die Branche „Halluzination“ nennt.
• Palantirs Aktie stieg im KI-Hype des Jahres 2023 stark, und CEO Alex Karp sagte öffentlich, Palantir stehe „an der Seite Israels“.
• Google Bard lieferte eine Antwort im Stil einer professionellen Pressemitteilung, wonach Palantir 2019 eine Partnerschaft mit der IDF zur Entwicklung von KI-Tools angekündigt habe; diese Pressemitteilung existierte jedoch nicht und war eine Halluzination.

[GN⁺]

Meinungen auf Hacker News

• Die Beispiele im Artikel wirken ziemlich cherry-picked. Das Scheitern in Vietnam lässt sich kaum allein einem IBM 360 zuschreiben, und der Hamas-Angriff mag Israel überrascht haben, aber Iron Dome war in den letzten Jahren eine gut funktionierende Technologie.
  Die USA warnten jeden, der es hören wollte, dass Russland die Ukraine angreifen werde, und die Atombombe wurde ebenfalls von ziemlich theoretischen Physikern gebaut.

  • Dass überhaupt jemand eine Warnung brauchte, ist an sich schon lächerlich. Es war völlig offensichtlich, dass Russland beschlossen hatte, kurz vor oder nach den Olympischen Spielen in die Ukraine einzumarschieren.
    Man schickt nicht zum Spaß einen großen Teil der Marine um Europa herum bis ins Schwarze Meer. Blutkonserven an Sammelpunkte nahe der Grenze zu liefern, ist ebenfalls etwas, das man niemals nur für eine Übung oder eine Machtdemonstration tun würde.
  • Organisationen scheitern oft, indem sie sich selbst täuschen. Eine dieser Täuschungen ist, Bewegung mit Fortschritt zu verwechseln.
    Der Kern des Textes ist, dass das Pentagon glaubt, Technologie zu finanzieren, aber nicht den entsprechenden Gegenwert erhält. Es scheitert, weil es weder den Willen noch die Fähigkeit gibt, Expertise, Befugnis und Verantwortung im Kopf einer einzelnen Person zusammenzuführen.
    Wenn eine Organisation Verantwortung verteilt oder Menschen Befugnisse gibt, die Bewegung nicht von Fortschritt unterscheiden können, führt das Ergebnis immer zu Verschwendung und Stillstand. In den seltenen Momenten, in denen eine starke Führungskraft diese Entropie der Organisation vorübergehend zurückdreht, geschehen fast magische Dinge; man kann etwa ULA mit SpaceX und DeepMind mit OpenAI vergleichen.
    Wäre institutionelle Leistungsfähigkeit der Normalfall und nicht ein instabiles, kurzes Wunder, stünde die Menschheit auf einer deutlich höheren technologischen Stufe.
  • Viele Fehlschläge sind schlicht menschliche und politische Fehlschläge. Technologie kann Offensichtliches vernebeln oder Unwahrscheinliches hervorheben, aber noch ist sie nicht so häufig entscheidend.
    Die USA warnten Russland auch vor dem Angriff in Moskau, doch das wurde als politische Einmischung behandelt. Es handelte sich mit ziemlicher Sicherheit um SIGINT, das ignoriert wurde.
    https://apnews.com/article/russia-intelligence-duty-to-warn-...
  • Am 21. Februar 2022 war ich mit einem ukrainischen Model zusammen und erwähnte die Möglichkeit einer Invasion; sie reagierte erstaunlich gelassen. Ich war irritiert, weil ich nicht einordnen konnte, ob das ihre Art war, damit umzugehen, ob sie es wirklich glaubte, ob sie nur um des Widerspruchs willen widersprach oder ob es eine kulturelle Reaktionsweise war.
    Für mich war angesichts der Truppenansammlungen an der Grenze, verschiedener Äußerungen, Bidens Aussagen und der grundlos politisierenden Republikaner eine völlig offensichtliche Invasion zu erwarten, etwa auf dem Niveau von Short Selling oder Prognosemärkten. Es war so klar wie ein Optionskontrakt mit null Tagen Restlaufzeit.
    Trotzdem geht mir diese Reaktion nicht aus dem Kopf. Ich weiß nicht, wie ich künftig damit umgehen soll. Mit Menschen zu diskutieren, die eine andere Wahrnehmung der Realität haben, wirkt sinnlos, und am Ende bleiben gefühlt nur völlige Untätigkeit oder finanzielle Wetten.
    Auf das zu wetten, woran man glaubt, mag ich: Die Belohnung ist ganz ordentlich, und selbst wenn die Prognose danebenliegt, ist es in Ordnung. Trotzdem fühlt sich ein Gespräch, in dem man ein gemeinsames Verständnis der Realität sucht, natürlicher an, aber heutzutage wirkt das sinnlos.
  • Die Aussage, man müsse unbemannte Systeme in der Luft und auf See übernehmen, um Risiken abzuwehren, war mit Blick auf die jüngsten Ereignisse tatsächlich zutreffend.

• Ich denke, dieser Artikel verallgemeinert künstliche Intelligenz zu stark, wie viele Medienberichte in diesem Bereich. Die prädiktiven Aspekte des maschinellen Lernens werden in modernen Armeen seit Jahrzehnten eingesetzt, und der erste Absatz deutet ziemlich vage an, als hätten LLMs bei dem Aufklärungsversagen zum Angriff vom 7. Oktober eine große Rolle gespielt.
  Es ist nicht überraschend, dass LLMs Teil von Systemen sind, die viel maschinelles Lernen enthalten. Sie sind schließlich hervorragende Mensch-Maschine-Schnittstellen. Aber ich glaube überhaupt nicht, dass sie eine so große Rolle gespielt haben, dass sie in nennenswertem Maß Verantwortung dafür tragen, dass der Angriff übersehen wurde.
  Maschinelles Lernen wird weiter eine Rolle spielen, Erfolge wie Fehlschläge erleben und umso unvollkommener werden, je stärker es mit gegnerischem maschinellem Lernen konkurriert. Es ist nicht hilfreich, ein unvollkommenes Werkzeug als Ursache unvermeidlicher Fehlschläge verantwortlich zu machen, und angesichts der Tatsache, dass die Alternative der noch fehleranfälligere Mensch ist, ist es schwer, darin ein „Problem“ zu sehen.

  • Ein Teil der anhaltenden Verwirrung liegt meiner Meinung nach daran, dass die Branche voll darauf aufgesprungen ist, LLMs als künstliche Intelligenz zu bezeichnen.
    Der Begriff KI hat deutlich mehr Gewicht, als wir zugeben, und wenn man ihn auf LLMs anwendet, wird seine Bedeutung verwässert.
    Wenn normale Menschen KI hören, erwarten sie, so clever und beeindruckend sie auch sein mag, viel mehr als einen Algorithmus, der menschliche Texte vorhersagen und imitieren soll.
    Die Branche scheint sich darauf geeinigt zu haben, die nächste Generation von Machine-Learning-Algorithmen „künstliche Intelligenz“ zu nennen, weil sich das besser verkauft und viel mehr Finanzierung anzieht. Dann frage ich mich, was aus den Sicherheits-, Moral- und Ethikfragen wird, die wir stellen müssten, bevor wir echte KI bauen.
  • Allerdings ist es zweifellos nützlich, die übertrieben hochtrabenden Behauptungen zu kritisieren, die über diese Werkzeuge aufgestellt wurden.

• „Das KI-System weiß alles über Hamas. Was sie gesagt haben, was sie gepostet haben […] es analysiert ihr Verhalten, prognostiziert Risiken und löst Alarm aus.“
  „Die Hamas-Mitglieder, die das gut wussten, fütterten den Gegner mit den Daten, die er hören wollte. Am Ende wusste das KI-System alles über den Terroristen, aber nicht, was er dachte.“
  Wenn der Gegner alles sehen kann, was ich tue, und alles hören kann, was ich sage, ist die einzige Verteidigung Privatsphäre. Im Roman The Three Body Problem wird das bis ins Extrem getrieben: Die einzige Privatsphäre existiert nur im menschlichen Geist, und manche Menschen sollen Entscheidungen auf Grundlage von Strategien treffen, die sie niemals laut aussprechen. Science-Fiction ist Realität geworden.

  • Das kommt in der Fortsetzung The Dark Forest vor.

• Die wichtigste Lehre ist meiner Ansicht nach, dass es ohne einen klaren Use Case fast unmöglich ist, ein gutes System zu entwerfen.
  Die Ukraine hat solche Use Cases, und die Motivation, sie zu lösen, ist sehr stark. Die Ukrainer kontrollieren das Schlachtfeld mit Allzweckcomputern https://en.defence-ua.com/news/how_the_kropyva_combat_contro..., haben mit Langstrecken-Seedrohnen mehrere russische Kriegsschiffe versenkt https://www.bbc.com/news/world-europe-68528761 und vor Kurzem begonnen, günstige Flugdrohnen mit zielerkennender Onboard-Computer-Vision in großem Maßstab zu testen https://www.forbes.com/sites/davidhambling/2024/03/21/ukrain...
  Die USA dagegen befinden sich in Friedenszeiten. Das ist an sich eine gute Sache, macht es aber viel zu leicht, Milliarden von Dollar für Technikentwicklung zu verschwenden, die in PowerPoint gut aussieht, in der Praxis aber nutzlos ist.

  • Das ist mit Abstand die wichtigste Lehre. Nebenbei gilt sie genauso für nichtmilitärische Softwareentwicklung.
  • Die Ukrainer testen Prototypen offenbar auf dem Schlachtfeld und verwerfen Designs, die nicht funktionieren, ziemlich früh. Ich habe auch einen Prototyp eines automatisch verfolgenden Maschinengewehrs gesehen, der mich an Aliens 2 erinnert hat.
    Auch Flugdrohnen-Designs werden von mehreren Firmen gebaut, um das Risiko zu vermeiden, dass ein einzelnes Unternehmen durch einen russischen Raketenangriff zerstört wird. Bei anderen Rüstungsgütern dürfte es ähnlich sein.
  • In Kriegszeiten sind Anforderungen und Wirkung viel leichter zu erkennen, deshalb ist Waffenentwicklung immer einfacher, aber nicht billiger.
    Es werden weiterhin Milliarden von Dollar verschwendet werden, aber dieses Geld wird in den Wiederaufbau von Gebäuden, Brücken, Infrastruktur und Leben fließen, die durch den Krieg zerstört wurden.
    Die Ukraine hat mit günstiger, selbst zusammengeschraubter Technik Erstaunliches geleistet, aber der Preis dafür sind 486 Milliarden Dollar, die für den Wiederaufbau des Landes nötig sind.
    https://www.reuters.com/world/europe/ukraine-needs-486-bln-r...
  • Das Konzept, dass die USA in Friedenszeiten leben, fiel mir immer schwer zu verstehen, weil sie sich nach dem Zweiten Weltkrieg entschieden haben, eine sehr große stehende Armee zu unterhalten.
    Ich weiß nicht wirklich, wo man die Grenze zwischen der Vorbereitung auf einen unmittelbar bevorstehenden Krieg und einem Zustand des Friedens ziehen soll.
  • Wir sehen gerade, was in der Ukraine tatsächlich eingesetzt wird, und es funktioniert.
    Mengen an Streumunition auf WW3-Niveau, die zur Verschrottung vorgesehen waren, sind an die AFU gegangen, und alte Bradley, Javelin, Stinger usw. wurden dafür entwickelt, T-72 und Hind-D in die Luft zu jagen, und genau das tun sie tatsächlich. Wir werden bald auch sehen, was die Dinge können, die „in PowerPoint gut aussehen“.
    Und ein erheblicher Teil der militärischen Effizienz der Ukraine ist dem Informationsaustausch der NATO zu verdanken. Gefechtsführungssysteme und Seedrohnen wären nur eine Nebenerscheinung geblieben, wenn die NATO nicht russische elektronische Kriegsführung, Schiffe und Truppenbewegungen kartiert hätte.

• Zu israelischer Technologie kann ich nichts sagen, aber das Pentagon hat im Silicon Valley ein Imageproblem, und selbst bei Auftragnehmern wie Palantir fällt es schwer zu glauben, dass sie die besten Talente bekommen.
  Unsere Generation ist eher von Irak und Vietnam geprägt als vom Zweiten Weltkrieg, und unter den herausragenden Talenten sind auch viele Einwanderer der ersten Generation. Auch Ad-Tech hat zuletzt ein schlechteres Image bekommen, aber für ein großes Consumer-Unternehmen zu arbeiten, ist immer noch attraktiver als für die Verteidigung.
  Um Kolleginnen und Kollegen dazu zu bringen, für die US-Regierung zu arbeiten, selbst indirekt, müsste man ihnen mehr Geld zahlen; üblicherweise ist es aber weniger, und oft gibt es auch weniger Freiheit bei dem, was man außerhalb der Arbeitszeit tun darf.
  Außerdem liest es sich so, als diene ein Vertrag mit dem Militär im Bereich KI bis zu einem gewissen Grad als Sündenbock-Versicherung. Man gibt klugen Leuten mit austricksbaren Computern die Schuld, nicht aber denen, die sie eingestellt und dann auf Basis dieser Signale, statt anderer, gehandelt haben.
  Die Vorstellung, ein ChatGPT-Modell hätte ein entscheidender Faktor sein können, um den 7.10. zu verhindern, dürfte für jeden, der in dieser Branche arbeitet, absurd wirken. Die einzige Ausnahme wären vielleicht Berater, die der IDF LLMs verkaufen wollen.

  • Wenn man einen Bundesauftrag mit einem Gesamtvertragswert im sieben- bis achtstelligen Bereich gewinnen muss, um die operativen Quartals-KPIs zu erreichen, verschwindet dieses Imageproblem.
    Das größere Hindernis ist die Beschaffung. Nach Bundesmaßstäben ist Software-Beschaffung relativ einfach: Ein Startup nach Series E kann hineinkommen, wenn es 7 bis 10 Millionen Dollar und 1 bis 1,5 Jahre in eine eigene Roadmap für FedRAMP- und FIPS-Compliance steckt.
    Sobald man über Software hinausgeht, wird Beschaffung zur Papierhölle. Rechnet man noch die Papierhölle von R&D-Förderstellen wie DoD und DoE hinzu, entsteht ein quasi-sowjetisches Beschaffungssystem.
    Ironischerweise wurden die meisten dieser Compliance- und Regulierungskontrollen in guter Absicht eingeführt, um Korruption und Bestechung zu verringern, haben aber faktisch das gesamte System blockiert und verhindern, dass Startups und Innovatoren direkt mit der Verteidigungs-Community arbeiten.
    Projekte wie DIUx und In-Q-Tel versuchen das zu ändern, aber es ist zu wenig und zu spät; die Rüstungsbasis ist vollständig darauf angewiesen, dass Unternehmen wie Microsoft, Cisco, CrowdStrike und Zscaler vielversprechende Startups übernehmen und Innovation intern weiterverbreiten.
  • Selbst Techniker, die bereit wären, für geringere Bezahlung in der Regierung zu arbeiten, scheitern oft an dem Einstellungs-Sumpf, den Uncle Sam geschaffen hat.
    Die Bundesregierung ist nicht darauf ausgelegt, schnell Talente aus der Industrie zu gewinnen. Sie hängt immer noch stark an veralteten Regeln, die für höhere Positionen fortgeschrittene akademische Abschlüsse verlangen.
  • Als ich zuletzt nachgesehen habe, schienen viele Rüstungsunternehmen auch keine Möglichkeiten für Remote-Arbeit anzubieten.
  • Dass Tech-Arbeiter „auf dem Weg zum Vorstellungsgespräch Cannabis rauchen“ wollen, ist ebenfalls eines der großen Probleme. Damit verliert man die Eignung für eine Sicherheitsfreigabe.
  • Ich bin mir nicht zu 100 % sicher, dass man es nicht absichtlich einfach hat geschehen lassen. Es könnte darum gegangen sein, einen Vorwand zu bekommen, um alles dem Erdboden gleichzumachen; genau das tun sie ja, und vielleicht waren sie nur vom Ausmaß überrascht.
    Die Signale waren überall, und der Mossad ist keine inkompetente Aktenbearbeitungs-Truppe.
    Der Verantwortliche ist ein ehemaliger Spezialkräfte-Angehöriger, und Menschen ohne mit der Wimper zu zucken zu töten, gehört zu diesem Job; von dieser Seite Humanität zu erwarten, ist also schwierig.
    Hätte ich nicht Geschichten gelesen, die sich in anderen Zeiten und an anderen Orten fast genauso abgespielt haben, würde ich es vielleicht anders sehen. KI löst keine politischen Probleme, sie macht ohnehin schon komplexe Probleme nur noch komplexer.

• Die Formulierung „überrascht worden“ ist seltsam. Israelische Medien haben wiederholt berichtet, dass Frontlinien-Analystinnen gewarnt hatten, aber ignoriert wurden.
  Der Grund dafür könnte Sexismus, Altersdiskriminierung oder Voreingenommenheit gegenüber Wehrpflichtigen gewesen sein; oder dass Siedlerorganisationen ihre Leute in der Regierung hatten und stark auf eine Wiederbesiedlung des Gazastreifens drängten.
  So oder so gab es Signale, und sie hatten die Vorbereitungen und Übungen etwa ein Jahr lang beobachtet. Selbst wenn die Widerstandsorganisationen das geheim gehalten hätten, hätte ein gewöhnlicher Offizier eines Nachrichtendienstes oder des Militärs allein aus „First Principles“ und ihrem Verhalten schließen müssen, dass es irgendwann eine gewaltsame Reaktion geben würde.

  • Als außenstehender Beobachter kenne ich mich nicht besonders gut aus, aber es wirkt so, als hätten das Regierungschaos durch Netanyahus immer extremere Politik und die massive Spaltung innerhalb der israelischen Gesellschaft zum Verteidigungsversagen am 7. Oktober beigetragen.
    Netanyahu hatte die israelische Gesellschaft so stark gespalten, dass in den Monaten vor dem 7.10. jedes Wochenende Millionen Menschen protestierten und Reservisten aus Protest den Dienst verweigerten.
    Hätte er sich stärker aufs Regieren konzentriert oder wäre zurückgetreten, statt sich mit allen Mitteln darauf zu fokussieren, nicht ins Gefängnis zu kommen, hätte es auf nationaler Ebene vielleicht weniger Ablenkung gegeben. Ich sage nicht, dass es seine Schuld war, aber das von ihm verursachte Chaos kann nicht hilfreich gewesen sein.
  • Eine gewaltsame Reaktion wurde erwartet. Nicht erwartet wurde eine kompetente gewaltsame Reaktion.
  • Wer die IDF aus erster Hand kennt, weiß, dass in der Organisation eine tief verwurzelte Arroganz steckt.
  • Das heißt, dem falschen Werkzeug die Schuld zu geben.
    Die Menschen, die die israelische Regierung und das Militär führten, waren die Werkzeuge. Ob aus Bosheit oder aus Inkompetenz und Unwissenheit: Sie sind eindeutig gescheitert.

• Für mich persönlich ist dies die interessanteste Stelle im gesamten Artikel:
  „Er konzentrierte sich danach auf Verteidigungsarbeit und beklagte, dass Menschen mit den relevanten technischen Fähigkeiten, um die Waffen der Zukunft zu bauen, sich ‚größtenteils weigern, mit dem Verteidigungssektor zu arbeiten‘.“
  Ich frage mich, inwieweit das noch stimmt. Es ist offensichtlich, dass viel Geld hineinfließt, und manche sind dem Geld sicher gefolgt. Palantir gibt es schließlich auch.

  • Es war einfacher, Techniker in die Verteidigung zu ziehen, als sie die Folgen dieser Waffen nicht sahen oder größtenteils nicht wussten, was sie tatsächlich bauten. So etwas wie das Manhattan Project.
    Wenn Menschen aber auf Twitter live sehen können, wie ein Viertel bombardiert wird, überlegen sie es sich vielleicht noch einmal, ob sie dabei helfen wollen.
  • Bis zu einem gewissen Grad stimmt das eindeutig. Es gibt dokumentierte Fälle von Menschen, die sich unter erheblichen persönlichen Kosten geweigert haben, mit dem Verteidigungssektor zu arbeiten.
    Die wichtige Frage ist, wie viel Widerstand es innerhalb der Arbeitskräfte gibt und wie stark er die Fähigkeit zur Talentgewinnung beeinflusst.
  • Ich vermute, es stimmt deutlich weniger, als Techniker glauben, die die US-Rüstungsindustrie ablehnen. Die Korrelation zwischen progressiven Ansichten und Problemlösungsintelligenz ist nicht null, aber auch nicht besonders hoch.

• Ich bin schockiert über das Ausmaß der verschwendeten Steuergelder. Es gibt so viele gescheiterte Projekte, dass selbst die berüchtigte Inkompetenz von Big Tech im Vergleich zum militärisch-industriellen Komplex der USA wie nichts wirkt.
  In den vergangenen drei Vierteln eines Jahrhunderts ist der Überschuss der westlichen Zivilisation offenbar komplett hierhin geflossen. Jetzt ist dieser Überschuss verschwunden, und da zentrale Ressourcen und Energiequellen zur Neige gehen, wird er bald ins Negative kippen. Ich hoffe, dass die globale Vorherrschaft der USA so schnell wie möglich endet.
  Tut mir leid, aber zu keinem Zeitpunkt waren die USA die rechtmäßigen Herrscher der Erde. Ganze meiner Länder wurden zerstört, ganze Bevölkerungen getötet oder zur Migration gezwungen. All das, damit du deinem Kind eine neue Xbox kaufen kannst und dein Nachbar eine neue Jacht.

  • Eher unterschätzen die Zahlen im Artikel das Ausmaß der Verschwendung.
    Die Katastrophe im Nahen Osten seit 2003 hat mindestens 8 Billionen Dollar gekostet.
    Mit diesem Geld hätte man die gesamten USA auf saubere Energie umstellen, alle Hungernden auf der Erde ernähren und allen obdachlosen Amerikanern ein Zuhause geben können. Es wäre noch Geld übrig geblieben.
    Stattdessen wurde das Geld dafür ausgegeben, Millionen Menschen zu töten, Zehnmillionen zu vertreiben und Generationen von Kindern Krebs und angeborene Fehlbildungen zu hinterlassen.
    Das ist so böse und dumm, dass selbst Noam Chomsky nach eigener Aussage keine Worte dafür hat.
  • Fairerweise ist die USA doch ein Land, das etwa 247 Jahre alt ist. Aus großer historischer Perspektive ist sie eher ein Kleinkind. Auch die Gründer waren nicht besonders überzeugt, dass dieses System lange halten würde.
    [1]:https://www.digitalhistory.uh.edu/disp_textbook.cfm?smtID=2&...
    „Am Ende des Verfassungskonvents sagte George Washington: ‚Ich erwarte nicht, dass die Verfassung länger als 20 Jahre Bestand haben wird.‘ Heute haben die Vereinigten Staaten die älteste geschriebene Verfassung der Welt.“
    Was das Land in dieser Zeit erreicht hat, ist ziemlich bemerkenswert. Während eines großen Teils seiner Existenz waren die USA nicht die Supermacht, wie wir sie heute kennen. Die Zukunft ist nicht festgelegt, aber vielleicht werden wir ein isoliertes Amerika sehen, das sich nur um seine inneren Probleme kümmert.

• Ich habe nach einer Erwähnung der Strategic Defense Initiative gesucht, auch bekannt als Star Wars. Eines der technischen Probleme, die dieses Programm letztlich nicht überwinden konnte, war die Fähigkeit, anfliegende Raketen zuverlässig genug zu erkennen und die Abfangabwehr auf ihr Ziel zu lenken.
  Wie bei den im Artikel erwähnten Systemen Igloo White und Assault Breaker scheiterte es daran, Täuschkörper von echten Zielen zu unterscheiden.

  • Das stimmt nicht. Sowohl die Raketenerkennung als auch die Steuerung von Abfangsystemen waren bereits vor Jahrzehnten nachgewiesene Fähigkeiten.
    Das größte technische Problem bei der Abwehr ballistischer Raketen bestand darin, die neu vorgesehenen Hyperschall-Raketenmotoren dazu zu bringen, mit ausreichender Präzision auf Steuerbefehle zu reagieren. Es war ein Problem der Materialwissenschaft, und wenn man dieselbe Ausrüstung an normalen Raketenmotoren einsetzte, funktionierte sie tatsächlich gut.