Google nimmt Versprechen zurück, KI nicht für Waffen und Überwachung einzusetzen
(washingtonpost.com)- Google hat am Dienstag seine KI-Ethikrichtlinien geändert und dabei das öffentliche Versprechen entfernt, KI nicht in den Bereichen Waffen und Überwachung einzusetzen
- Die KI-Prinzipien von 2018 enthielten eine Einschränkungsklausel, die den Einsatz von KI in einer Weise ausschloss, die „insgesamt Schaden verursacht oder wahrscheinlich verursachen wird“
- Im Abschnitt „Applications we will not pursue“ des bisherigen Dokuments wurden Waffen, Überwachung, Technologien mit hohem Schadenspotenzial sowie Anwendungsfälle, die gegen Völkerrecht und Menschenrechtsprinzipien verstoßen, als verbotene Kategorien geführt
- In der im Internet Archive gespeicherten Kopie vom Donnerstag war dieser Verbotsabschnitt samt den vier Kategorien noch enthalten
- Durch die aktuelle Änderung ist aus Googles öffentlichen KI-Prinzipien die Formulierung verschwunden, die bestimmte Hochrisiko-Anwendungen ausdrücklich ausschloss
Verbotenes Versprechen aus den KI-Prinzipien verschwunden
- Google hat am Dienstag seine KI-Ethikrichtlinien aktualisiert
- In den neuen Richtlinien wurde die bisherige Formulierung entfernt, wonach KI-Technologie nicht für Waffen oder Überwachung eingesetzt werde
Einschränkungsklausel der Richtlinie von 2018
- Google führte 2018 eine Richtlinie ein, die den Anwendungsbereich von KI begrenzte
- Diese Richtlinie enthielt damals die Aussage, KI nicht in einer Weise einzusetzen, die „insgesamt Schaden verursacht oder wahrscheinlich verursachen wird“
Entfernter Abschnitt „Applications we will not pursue“
- Die bisherigen KI-Prinzipien enthielten einen Abschnitt mit dem Titel „Applications we will not pursue“
- In der im Internet Archive gespeicherten Kopie vom Donnerstag war dieser Abschnitt noch vorhanden
- Der Abschnitt umfasste vier Kategorien, die Google nach eigener Aussage nicht verfolgen wollte
- Waffen
- Überwachung
- Technologien, die „insgesamt Schaden verursachen oder wahrscheinlich verursachen werden“
- Anwendungsfälle, die gegen Völkerrecht und Menschenrechtsprinzipien verstoßen
Was sich in den öffentlichen Prinzipien geändert hat
- Vor der Änderung schlossen die KI-Prinzipien bestimmte Anwendungsbereiche ausdrücklich aus
- Nach der Änderung fehlt in den öffentlichen Prinzipien die Formulierung, wonach Anwendungen in den Bereichen Waffen, Überwachung, umfassender Schaden sowie Verstöße gegen Völkerrecht und Menschenrechtsprinzipien nicht verfolgt werden
1 Kommentare
Hacker-News-Meinungen
https://archive.ph/hfrKY
Zuerst dachte ich, es sei die Ankündigung eines neuen Versprechens, und dachte: „Das werden sie sofort vergessen, sobald es ihnen passt.“ Aber nach dem Lesen des Artikels dachte ich: „Ah, die Lage ist ihnen bereits bequem geworden.“
Google ist ein Großkonzern, und Großkonzerne sind vielleicht nicht ihrem Wesen nach „böse“, aber an Gutsein oder Moral haben sie grundsätzlich kein Interesse.
Wenn es Momente gibt, in denen es so wirkt, dann ist das reine Marketingarbeit.
Es mag einen Unterschied geben zwischen der Art von Bösem korrupter Polizisten und der Art von Bösem eines Serienmörders, aber die Haltung, für Geld alles zu tun, wurde historisch als böses Verhalten eingeordnet.
Ob eine Gesellschaft ohne Großkonzerne besser oder schlechter wäre, ist eine andere Frage; interessant fände ich aber eine Welt, in der Unternehmen umso deutlich höhere Steuern zahlen, je größer sie werden.
Sie wurden wie früher kostenlos verteilt und waren qualitativ auch in Ordnung.
Als der Bundesstaat später auch das verbot, begann Walmart wie ein Uhrwerk, kostenlos Papiertüten auszugeben, und auch die waren ziemlich in Ordnung.
Daran habe ich erkannt, dass Unternehmen nichts tun, was auch nur ein bisschen besser für die Umwelt ist, solange sie nicht dazu gezwungen werden.
Alles, was Unternehmen tun, einschließlich böser Dinge, folgt einfach dem Geld; Ethik bereitzustellen ist Aufgabe der Regierung.
Wenn Google es nicht macht, macht es jemand anders; also läuft die Logik darauf hinaus, dass Google lieber für seine Aktionäre Geld verdienen sollte.
Technisch gesehen könnten aktivistische Aktionäre sich zusammentun und argumentieren: „Wenn ihr diesen Markt nicht adressiert, muss das Management ausgetauscht werden.“
Am Ende ist der Aktienkurs dann die einzige Kennzahl, die zählt.
Befehle kommen von oben, unten werden sie hingenommen.
Deshalb wirken sie ihrem Wesen nach böse.
Der Kern liegt meiner Ansicht nach in der Anonymität, die durch Zahlen und Komplexität entsteht.
Tausende Menschen wollen jeweils, dass die Zahlen steigen, und dieses Verlangen bestimmt letztlich solche Entscheidungen.
Wäre Googles Aktienkurs dadurch gefallen, hätte Google es nicht getan.
Aber kollektives menschliches Verhalten stützt den Aktienkurs.
Großkonzerne sind nur Sündenböcke; tatsächlich ähneln sie eher einer Reihe demokratischer Regeln.
Unternehmen sind ein Fenster, durch das man das wahre Gesicht der menschlichen Natur sieht.
Ich möchte darüber mit einer etwas naiven Frustration à la „Warum können wir nicht alle einfach miteinander auskommen?“ wütend werden.
Ich weiß, wie die Welt aussehen sollte, aber als Spezies enttäuschen wir — mich selbst eingeschlossen — angesichts der nahezu garantierten Selbstzerstörung immer wieder.
Ich möchte wütend sein, aber gleichzeitig muss ich leider anerkennen, warum niemand überrascht ist.
In diesem Bereich gibt es bereits Wettbewerber, die genau das tun werden, und noch Schlimmeres.
Wir haben dort schon ziemlich entsetzliche Entwicklungen gesehen, und wenn man darüber nachdenkt, waren das die Dinge, von denen entschieden wurde, dass man sie öffentlich zeigen kann.
Die wirklich interessanten Dinge passieren außerhalb von Social Media, hinter verschlossenen Türen.
Wenn eine konkrete Waffe genannt würde, auf die man nur mit KI-Waffen reagieren kann, würde ich vielleicht anders denken; aber derzeit kann ich mir keinen Grund vorstellen, warum Roboter entscheiden müssen, wen sie töten.
Wenn Leute sagen, KI sei gefährlich oder könne den Weltuntergang bringen, stimme ich meist nicht zu, aber KI-Waffen sind eindeutig gefährlich und können leicht außer Kontrolle geraten.
Denn genau ihr Zweck ist es ja, sie außerhalb der Kontrolle agieren zu lassen.
Das Problem ist nicht, dass KI-Waffen „böse“ wären, sondern dass Value Alignment kein gelöstes Problem ist und KI-Waffen Menschen töten könnten, die wir nicht töten wollen.
Lügen halten die Erde am Laufen, und das ist widerlich.
Wie man es auch betrachtet: Wir leben auf einem Planeten mit knappen Ressourcen, und das bedeutet Konkurrenz; Konkurrenz bringt Waffeninnovation hervor.
Allerdings haben wir seit Jahrzehnten Atomwaffen und uns kollektiv dagegen entschieden, sie einzusetzen, also gibt es zumindest ein wenig Raum für Optimismus.
Es gibt keinen Grund, selbstzufrieden zu werden; dieser Weg beschleunigt nur die Zerstörung.
Es muss nicht zwangsläufig so kommen.
Ist das ethischer oder weniger ethisch als OpenAI, die nicht einmal ein Jahr nachdem sie sagte, „so etwas werde es absolut nie geben“, einen DoD-Vertrag bekam, um Modelle auf dem Schlachtfeld einzusetzen?
Die Ausrede lautete sinngemäß: „Wir meinten nur bestimmte Arten von Krieg oder militärischen Zwecken.“
Letztlich ist die Frage, ob es nicht ehrlicher ist, den Kurs offen umzukehren wie Google, statt die Fiktion aufrechtzuerhalten, man versuche weiterhin, das Richtige zu tun.
Das ist ungefähr so, als würde man fragen: „Ja, es sieht zwar aus, als würde man sich einem ausländischen Tyrannen beugen, aber ist es ethischer oder weniger ethisch als zu der Zeit, als Vidkun Quisling Norwegen führte?“
OpenAI halte ich für zwielichtig und aalglatt, geführt von einem durchgeknallten Narzissten.
Da wirkt Pichai fast wie ein Heiliger.
Ethisch mag es gleich sein, aber wenn jemand eine Waffe auf mich richtet, hätte ich lieber eine Person mit ein wenig Empathie hinter dem Abzug als die personifizierte Version eines Unternehmens, aus dessen Führungskräften einer nach dem anderen flieht.
Einer der größten Sorgenpunkte bei großen Sprachmodellen für Nachrichtendienste ist, dass sie Textanalyse skalieren können.
Früher musste sich zumindest irgendein Agent für mich interessieren; heute könnte ein LLM theoretisch jeden Text lesen, mit dem ich in Berührung gekommen bin, und alles markieren – von Gesetzesverstößen bis zur politischen Ausrichtung.
Wenn man Milliarden von Nachrichten durchsiebt, steigen die Kosten sehr schnell, daher ist auch fraglich, ob ein LLM für diese Aufgabe das beste Werkzeug ist.
Es fühlt sich gerade an wie die Phase in Downton Abbey, in der alle darauf warten, dass der Erste Weltkrieg beginnt.
Alle spüren, dass er kommt, aber niemand kann ihn verhindern.
Realistisch gesehen werden wir in einem Krieg des Westens gegen Russland/Iran/Nordkorea/China – oder gegen wen auch immer wir am Ende kämpfen – alles tun, damit die westliche Zivilisation und ihre Soldaten überleben und gewinnen.
Am Ende ist Google ein westliches Unternehmen, und wenn ein Krieg ausbricht, wäre eine Haltung, unsere Zivilisation und unser Militär nicht zu unterstützen, extrem unpopulär und würde Google zum Außenseiter machen.
Das Gegenteil war von Anfang an kaum vorstellbar.
Die USA isolieren sich selbst und schikanieren ihre Verbündeten.
Für expansionistische Gegenmächte gab es nie einen besseren Moment als jetzt.
Zwischen einem geeinten Westen und anderen Großmächten zeichnete sich kein Krieg ab.
Der Krieg kommt, weil es den Westen nicht mehr gibt.
Es gibt keine Trennung zwischen „unserer“ und „ihrer“ Zivilisation; es gibt nur eine Zivilisation.
Vor ein paar Jahrhunderten mag diese Vorstellung bis zu einem gewissen Grad begründet gewesen sein, aber heute ist die Idee, dass „wir“ uns stark von „ihnen“ unterscheiden, für die meisten Menschen eine gefährliche Illusion.
Wenn ein Land inzwischen damit droht, Grönland zu annektieren, und fordert, alle Palästinenser vollständig nach Jordanien und Ägypten umzusiedeln, dann braucht es sicher Waffen zur Kontrolle von Menschenmengen.
Solche Waffen könnten auch im Inland nützlich sein, wenn die Leute merken, dass beide Parteien sie schon immer ausbeuten.
Ich weiß nicht, warum China abseits der Wirtschaft eine Bedrohung sein soll.
Hat China je versucht, die USA zu überfallen? Hat Russland je versucht, die EU zu überfallen? Die Antwort lautet nein.
Die derzeit einzige Bedrohung für die EU kommt von dem orangefarbenen Mann.
Er hat auch den INF-Vertrag aufgekündigt.
Die USA werden nun nukleare Mittelstreckenraketen in Europa stationieren, Russland in Belarus.
So haben die beiden Großmächte einen bequemen Sündenbock, der zuerst atomar getroffen wird, und erst danach werden sie noch einmal nachdenken.
Es ist wirklich absurd, dass die USA und Russland ständig behaupten, sie seien bedroht, obwohl in den letzten 40 Jahren jede internationale Krise von einem der beiden ausging.
Russland hat eindeutig Länder in Europa überfallen, insbesondere die Ukraine.
Der einzige Grund, warum es nicht die EU selbst angegriffen hat, ist, dass dies wegen des NATO-Bündnisses einen Krieg auslösen würde, der enorme Opfer fordert und den Russland am Ende verlieren würde.
Was die EU sicher gehalten hat, ist militärische Stärke; Länder ohne ausreichende militärische Stärke werden weiter vom Machthunger anderer herumgestoßen und verprügelt.
Die Ukraine ist in diese Lage geraten, weil sie in den 1990er-Jahren naiv ihre Atomwaffen aufgab, nachdem Russland versprochen hatte, nicht einzumarschieren.
Das lässt sich schwerlich als eingebildete Bedrohung bezeichnen.
Auch seine Wirtschaftspolitik ist sehr räuberisch: Statt andere Länder zu unterstützen, verlangt es Dinge, die sich nicht rückgängig machen lassen.
Warum einmarschieren, wenn man sich einfach nehmen kann, was man braucht?
Der orangefarbene Mann ist an beiden Fronten völlig machtlos.
Er wird kein Geld fürs Militär ausgeben und ist auch nicht kompetent genug, Deals zu machen, die langfristig nicht schaden.
Interessant ist, wie solche Unternehmen sich nach den politischen Winden richten.
So wie Meta rund um die Amtseinführung einige Änderungen angekündigt hat, dürfte auch die Google-Führung die AI-bezogenen Ankündigungen registriert haben und hoffen, dass die aktuelle Regierung sie nicht auf eine bestimmte Weise wahrnimmt.
Ich denke, die Wahrheit liegt irgendwo in der Mitte.
Intern wird es enorme Meinungsverschiedenheiten geben, aber natürlich achten sie darauf, wie sie von den Mächtigen gesehen werden.
Unternehmen verfügen technisch gesehen über unverhältnismäßig große Macht.
Daher ist es besser, wenn sie sich nach dem Willen der Bevölkerung richten.
Die Alternative – dass Unternehmen nach eigenem Willen handeln – könnte viel schlimmer sein.
Der einzige Anreiz eines Unternehmens ist nicht dieses unbeholfene Unternehmensschauspiel vom „die Welt zu einem besseren Ort machen“, sondern Gewinnerzielung.
Dafür werden Unternehmen gegründet, und dem folgen sie immer.
Ich weiß nicht, was wir erwartet haben, nachdem Google das Motto Don’t be evil abgeschafft hat.
Ein gut gebautes autonomes System könnte durchaus helfen, die Zielgenauigkeit zu erhöhen und zivile Opfer zu reduzieren.
Wenn dich schon die bloße Existenz von Waffen wütend macht, solltest du dir das Gefangenendilemma noch einmal ansehen.
Nehmen wir an, kleine Formen des Verrats lassen sich durch Regierungen managen, die großen Weltmächte werden sich aber nicht der Zuständigkeit einer einzigen Weltregierung unterwerfen, die Verrat zwangsweise verhindert.
Gerade starke und wohlhabende Mächte wie wir würden das erst recht nicht akzeptieren, weil sie in einem solchen System meist viel zu verlieren hätten.
Googles ehemaliger CEO Schmidt entwickelt in Estland AI-Drohnen für die Ukraine.
Wenn er eine gute Quelle für Basis-AI braucht, ist zu erwarten, dass Google einer der bevorzugten Anbieter sein könnte.
Natürlich ist die Ukraine nur der Anfang, und der Zielmarkt für Dinge, die sich auf dem Schlachtfeld bewährt haben – noch dazu gegen Russland und indirekt gegen chinesische Technologie –, wird enorm wachsen.
Bisher wurde nur ein Teil davon tatsächlich auf echten Schlachtfeldern eingesetzt, aber auch an ferngesteuerten und autonomen Bodenplattformen gibt es enormes Interesse.
Google ist führend bei zivilen autonomen Plattformen, und der Transfer dieser Technologie in militärische Systeme wirkt vergleichsweise naheliegend.