Der Absturz von Ukraine International Airlines Flug 752, der sich vor einiger Zeit in der Nähe von Teheran im Iran ereignete, scheint mit hoher Wahrscheinlichkeit durch einen irrtümlichen Raketenabschuss des Iran verursacht worden zu sein. Damals verlegten die USA wegen der Spannungen mit dem Iran sechs strategische B-52-Bomber in die Nähe des Iran. Durch diese Verschärfung der Lage könnte eine iranische Flugabwehreinheit ein im eigenen Staatsgebiet gestartetes Verkehrsflugzeug mit einem US-Militärflugzeug verwechselt haben, das einen iranischen Flughafen angreifen wollte. Zufälligerweise überlagert sich dabei unweigerlich ein ähnlicher Vorfall in einer ähnlichen Region, bei dem ein iranisches Passagierflugzeug durch einen Fehler des US-Militärs abgeschossen wurde: der [Abschuss von Iran-Air-Flug 655 durch die USS Vincennes]. Als Ursachen dieses Vorfalls gelten unter anderem aufeinanderfolgende menschliche Fehler in einem Zustand psychischer Anspannung sowie eine ungeeignete Benutzeroberfläche.
So geraten Menschen leicht in Verwirrung und treffen Fehlentscheidungen, wenn sie unter Spannung stehen oder sich in einer unerwarteten, akuten Situation befinden. Als Gegenmaßnahme führen viele deshalb Automatisierung durch Maschinen oder eine Autonomie mit möglichst geringem menschlichem Eingriff an. Die Idee ist, dass eine Maschine in Situationen, in denen der Mensch sich täuscht oder nicht rechtzeitig reagieren kann, automatisch proaktiv bestimmte Maßnahmen ergreifen sollte. Das klingt plausibel, aber das Problem ist, dass die Menschen, die diese Maschinen bauen, weiterhin unvollkommene Wesen sind. Deshalb ist es sehr wahrscheinlich, dass auch die Maschinen unvollkommen sind. Folglich besteht die Möglichkeit, dass die von der Maschine ausgeführten automatisierten Maßnahmen in Wirklichkeit falsch sind. Wenn zudem die Personen, die eine solche Maschine betreiben, die Automatisierung nicht richtig verstehen, kann gerade diese Automatisierung das Problem sogar noch verschärfen.
Ich bin auf einen Text gestoßen, der anhand eines Fehlstarts einer Patriot-Boden-Luft-Rakete die negativen Seiten autonomer Systeme erklärt. (Englisch) Die Patriot-Rakete ist zwar in der Lage, feindliche ballistische Raketen abzufangen, doch weil ihre Bedienung für Menschen zu komplex ist und die verfügbare Zeit zu knapp, wurde ein [Automatikmodus] eingeführt: Sobald das Radar eine ballistische Rakete erkennt, startet das System automatisch und versucht den Abfangvorgang. Dieser Automatikmodus schien im Golfkrieg Scud-Raketen erfolgreich abzuschießen, weshalb das US-Militär ihm allzu sorglos vertraute. Im Irakkrieg kam es jedoch gleich zweimal dazu, dass Patriot-Raketen im Automatikmodus eigene Kampfflugzeuge abschossen. Als das Radar aufgrund von Funkstörungen ballistische Raketen erkannte, die in Wirklichkeit gar nicht existierten, wurden die Patriots automatisch gestartet. Da die Raketen ihr zugewiesenes Ziel nicht finden konnten, betrachteten sie das nächstgelegene Objekt – ein Kampfflugzeug – als Ziel und schossen es ab.
Der Fall des Automatikmodus der Patriot-Rakete zeigt die Probleme tödlicher autonomer Waffen (Lethal Autonomous Weapon: autonome Waffen, die so entworfen sind, dass sie ohne menschliches Eingreifen selbst Ziele auswählen und angreifen) sehr deutlich. In mehrdeutigen Situationen der realen Welt ist die Fähigkeit autonomer Systeme, richtige Entscheidungen zu treffen, geringer als man denkt. Und nicht nur tödliche autonome Waffen: Autonome Systeme beeinflussen zunehmend auch unseren Alltag. So identifiziert YouTube mithilfe von Machine Learning automatisch Inhalte für Kinder und zieht damit den Ärger von YouTubern auf sich, deren Videos fälschlich kategorisiert wurden. In Korea wird es außerdem ab Juli möglich sein, Autos mit teilautonomer Fahrfunktion auf Level 3 auf den Markt zu bringen. Das Zeitalter der Maschinen mit immer weniger menschlichem Eingriff rückt näher, doch wir sollten uns bewusst machen, dass menschliches Eingreifen im Ernstfall weiterhin notwendig ist.
Hinweis – koreanische auszugsweise Zusammenfassung des obigen Textes:
2 Kommentare
Es ist ein Video aufgetaucht, und es sieht wirklich so aus, als wäre es von einer echten Rakete getroffen worden.
https://www.nytimes.com/2020/01/09/video/iran-plane-missile.html
Letztlich hat der Iran eingeräumt, dass dieser Vorfall durch einen irrtümlichen Abschuss einer Rakete durch die eigenen Streitkräfte verursacht wurde. Den Verstorbenen mein Beileid.
https://www.yna.co.kr/view/AKR20200111031354009
https://www.yna.co.kr/view/AKR20200111041651111