'Lavender': Israels KI-Maschine zur Steuerung der Bombardierung des Gazastreifens

'Lavender': Das KI-System, das Israels Bombardierung des Gazastreifens steuert

• Das israelische Militär entwickelte ein KI-basiertes Programm namens 'Lavender', das eine wichtige Rolle bei den unterschiedslosen Bombardierungen von Palästinensern im Gazastreifen spielt.
• Das System markiert ohne menschliche Aufsicht Zehntausende Bewohner Gazas als Ziele für Tötungen, wobei die Politik zur Inkaufnahme von Opfern sehr großzügig ist.
• Lavender wurde dafür entwickelt, Mitglieder der militärischen Organisationen der Hamas und des Palästinensischen Islamischen Dschihad (PIJ) als potenzielle Bombenziele zu markieren.

SCHRITT 1: Zielerstellung

• Lavender analysiert Informationen, die über ein Massenüberwachungssystem über die meisten Bewohner des Gazastreifens gesammelt wurden, und bewertet und priorisiert für jede Person die Wahrscheinlichkeit, Mitglied der militärischen Organisationen von Hamas oder PIJ zu sein.
• Dieses KI-System lernt die Merkmale bekannter Mitglieder militärischer Organisationen und sucht und bewertet diese Merkmale in der Allgemeinbevölkerung.
• Lavender markierte etwa 37.000 Palästinenser als verdächtige „Mitglieder militärischer Organisationen“ der Hamas und machte sie zu Zielen für Tötungen.

SCHRITT 2: Verknüpfung von Familienhäusern und Zielen

• Das israelische Militär nutzt ein automatisiertes System, um Ziele mit Familienhäusern zu verknüpfen, sowie zusätzliche Automatisierungssysteme wie „Wo ist Daddy?“, die ein Bombardement signalisieren, wenn ein Ziel das Familienhaus betritt.
• Diese Systeme überwachen Ziele kontinuierlich und ermöglichen einen Angriff, sobald sie einen Fuß in das Familienhaus setzen.

SCHRITT 3: Waffenauswahl

• Nachdem sie von Lavender als Ziel für Tötungen markiert wurden, prüfen Soldaten, ob das Ziel männlich ist, und wenn die Tracking-Software das Ziel im Haus lokalisiert, wählen sie die für den Angriff einzusetzende Munition aus.
• Günstige „dumme“ Bomben können mehr Kollateralschäden verursachen als präzisionsgelenkte Bomben und werden hauptsächlich zur Tötung rangniederer Mitglieder eingesetzt.

SCHRITT 4: Genehmigung ziviler Opfer

• In den ersten Kriegswochen erlaubte das israelische Militär, bei der Tötung jedes von Lavender markierten rangniederen Mitglieds bis zu 15 oder 20 Zivilisten zu töten.
• Dieses „Ausmaß an Kollateralschäden“ wurde breit auf alle verdächtigen rangniederen Mitglieder angewandt, unabhängig von ihrem Rang, ihrer militärischen Bedeutung oder ihrem Alter.

Meinung von GN⁺

• Das Lavender-System ist ein Beispiel für den Einsatz von KI-Technologie in militärischen Operationen und deutet darauf hin, dass die Rolle von KI in zukünftigen Kriegen zunehmen wird.
• Die ethischen Probleme, die sich aus der Abhängigkeit von einer von künstlicher Intelligenz bestimmten Liste von Tötungszielen ergeben, sowie die hohe Wahrscheinlichkeit ziviler Opfer durch fehlerhafte Zielauswahl sind erheblich.
• Es bedarf einer tiefgehenden Diskussion darüber, wie diese Technologie die Kriegsführung verändern wird, und neuer Auslegungen des internationalen Rechts und der Kriegsgesetze.
• Die Einführung von Systemen wie Lavender kann die militärische Effizienz steigern, hat aber zugleich eine doppelte Seite, da sie das Leben unschuldiger Zivilisten gefährden kann.
• Es besteht Bedarf, zu klären, welche Auswirkungen diese Technologie künftig auf die internationale Gemeinschaft haben wird und ob dafür Regulierung oder Gegenmaßnahmen erforderlich sind.

[GN⁺]

Hacker-News-Kommentare

• Forschende haben schon vor langer Zeit Bedenken gegen das Targeting von Personen auf Grundlage indirekter Zusammenhänge geäußert. Solche Systeme wurden ursprünglich zur Überwachung eingesetzt, werden nun aber über bloße Überwachung hinaus dazu verwendet, Menschen tatsächlich zu töten.

  Das humanitäre Völkerrecht verbietet die Tötung von Personen, die keine „Kämpfer“ bewaffneter Gruppen sind. Nur Personen, die „fortlaufend unmittelbar an Feindseligkeiten teilnehmen“, dürfen angegriffen werden. Alle übrigen Zivilisten dürfen nur dann zum Ziel werden, wenn sie unmittelbar an Feindseligkeiten teilnehmen.

• Es wird Besorgnis über die Idee geäußert, dass künstliche Intelligenz (KI) im Voraus Entscheidungen darüber trifft, Menschen zu töten. In diesem Fall gab es zwar eine menschliche Genehmigung, doch es sei nur noch ein Schritt bis zu einer Situation, in der Menschen ohne menschliches Eingreifen von Robotern getötet werden.

  Es wird überlegt, ob Israel ohne KI Ziele noch zufälliger ausgewählt hätte oder ob überhaupt keine Bomben abgeworfen worden wären. In Kriegssituationen sei es unvermeidlich, dass Unschuldige sterben.

• Es wird darauf hingewiesen, dass viele Menschen nur die Überschrift lesen und den Inhalt nicht lesen werden, verbunden mit der Empfehlung, auf den zweiten Absatz des Artikels zu achten.

  Es wird behauptet, dass israelische Militärvertreter neben dem Einsatz des KI-Systems Lavender den massenhaften Tod palästinensischer Zivilisten zugelassen hätten.

• Es wird vorgeschlagen, die aktuelle Staffel des Podcasts Serial anzuhören.

  Die Art der Datenverarbeitung, mit der KI „rangniedrige“ Operatoren schnell identifiziert und für das Targeting markiert, unterscheide sich nicht von den Verfahren, die bereits 2001 verwendet wurden. Die Entscheidungen würden nicht von der KI, sondern von Menschen getroffen.

• Obwohl es sich um eine Erzählung handelt, die Israels Handlungen negativ darstellt, lässt sie sich zumindest als ein Versuch lesen, militärische Ziele anzugreifen.

  Israel ziele darauf ab, das Leben im Gazastreifen unmöglich zu machen, indem es Journalisten, medizinisches Personal und Helfer ins Visier nehme.

• Die Genauigkeit dieser Technologie wird infrage gestellt; es wirke, als sei das Interesse größer daran, fortschrittlich auszusehen, als an den Ergebnissen selbst.

  Das belege, dass Machthaber weniger an „Genauigkeit“ interessiert seien als daran, eine Rechtfertigung zur Bestätigung ihrer eigenen Vorurteile zu haben.

• Es wird erwähnt, dass die israelischen Verteidigungsstreitkräfte (IDF) nicht nur daran interessiert gewesen seien, Hamas-Operatoren in militärischen Gebäuden oder während militärischer Aktivitäten zu töten.

  Die IDF hätten nicht gezögert, Familienhäuser zu bombardieren, und das System sei dafür gebaut worden, sie in genau solchen Situationen zu finden.

• Es wird infrage gestellt, welchen Nutzen der Einsatz von KI für das Erreichen der Ziele der IDF gebracht habe.

  Der fortgesetzte Einsatz von KI werde möglicherweise deshalb unterstützt, weil er Personen, die in Kriegsverbrechen verwickelt sind, Schutz biete.

• Auch The Guardian behandelt diese Geschichte als Aufmacher und wurde im Voraus mit Details versorgt.

  Solche Geschichten liegen im öffentlichen Interesse, und man hoffe, dass darüber diskutiert wird.

• Eine Quelle erwähnte, dass menschliche Mitarbeiter bei den Entscheidungen der Maschine nur als „Abnickinstanz“ fungiert hätten.

  Das erinnere an den Aufsatz über die Ironie der Automatisierung: Wenn der Großteil der Arbeit automatisiert ist, wird menschliche Aufsicht nahezu nutzlos.