USA und Großbritannien verweigern Unterschrift unter Sicherheitsdeklaration beim Pariser KI-Gipfel
(arstechnica.com)- Beim AI Action Summit in Paris einigten sich rund 60 Länder auf eine gemeinsame Erklärung zur KI-Sicherheit, doch die USA und Großbritannien unterzeichneten nicht, was Risse rund um KI-Regulierung und die Führungsrolle der Industrie offenlegte
- Die Erklärung hielt die Grundsätze fest, dass KI offen, inklusiv, transparent, ethisch, sicher, geschützt und vertrauenswürdig sein müsse, hatte jedoch keine rechtlich bindende Wirkung
- US-Vizepräsident JD Vance betonte, KI-Regulierung dürfe die technologische Entwicklung nicht „abwürgen“, und vertrat die Position, die leistungsfähigsten KI-Systeme in den USA mit in den USA hergestellten Chips zu bauen
- Eine der britischen Regierung nahestehende Person hielt den Wortlaut der Erklärung für „zu restriktiv“, und ein Vertreter eines Unterzeichnerstaats sagte, die USA hätten Formulierungen zu Multilateralismus und internationaler Zusammenarbeit nicht zugestimmt
- Europa baut derweil seine KI-Industriebasis aus, um die Abhängigkeit von den USA und China zu verringern; auf dem Gipfel wurden Investitionspläne von rund 200 Milliarden Euro für Rechenzentren und Computing-Cluster vorgestellt
Risse bei den Unterschriften auf dem Pariser KI-Gipfel
- Die USA und Großbritannien unterzeichneten die gemeinsame Erklärung des in Paris abgehaltenen AI Action Summit nicht
- Auf die gemeinsame Erklärung einigten sich rund 60 Länder; sie enthält das Ziel, KI-Technologien „sicher, geschützt und vertrauenswürdig“ zu machen
- Die Erklärung enthält außerdem die Grundsätze, dass KI offen, inklusiv, transparent und ethisch sein soll
- Darin ist auch eine Formulierung enthalten, die die Prüfung eines internationalen Frameworks für alle vorsieht
- Die Zusage ist nicht bindend, allerdings hatten die USA und Großbritannien ähnliche Erklärungen auf früheren KI-Gipfeln unterzeichnet
Der Fokus der USA liegt bei KI-Führerschaft statt Regulierung
- US-Vizepräsident JD Vance warnte Europa davor, bei KI eine „übermäßig vorsorgliche“ Regulierung einzuführen
- Vance sagte, die Trump-Regierung wolle sicherstellen, dass die leistungsfähigsten KI-Systeme in den USA gebaut werden
- Diese Systeme sollten von den USA entwickelte und hergestellte Chips verwenden
- Dies wurde als Signal gelesen, dass die USA ihre dominante Position in der KI-Technologie bewahren wollen
- Er argumentierte, ein internationales Regulierungsregime müsse die Entwicklung von KI-Technologien fördern und dürfe sie nicht unterdrücken
- Keegan McBride vom Oxford Internet Institute bewertete Vances Rede im Vergleich zur Biden-Regierung als eine „180-Grad-Wende“
Differenzen zwischen den USA und Großbritannien über den Wortlaut der Erklärung
- Die harte Haltung der USA steht im Einklang mit der „America First“-Ausrichtung der Trump-Regierung
- Eine der britischen Regierung nahestehende Person hielt den Wortlaut der Erklärung für „zu restriktiv“
- Ein Vertreter eines der Unterzeichnerländer sagte, die USA hätten Formulierungen zu Multilateralismus und internationaler Zusammenarbeit nicht zugestimmt
- In der gemeinsamen Erklärung zählt die Stärkung der internationalen Zusammenarbeit zur Förderung einer abgestimmten internationalen Governance zu den Prioritäten
- Derselbe Vertreter sagte, die USA hätten auch Bedenken gegenüber Current AI gehabt, das Frankreich auf dem Gipfel ins Leben gerufen hatte
- Es habe die Sorge gegeben, Current AI könnte dazu genutzt werden, Gelder in frankophone Länder zu lenken
Wettbewerb mit China und die von DeepSeek ausgelösten Spannungen
- Die harte Haltung der USA kommt in einer Situation zunehmenden Wettbewerbs mit China rund um KI zum Vorschein
- Die Wettbewerbsfelder reichen von der Chipfertigung über Foundation-Modelle und KI-Chatbots bis zur Energieversorgung für Supercomputer
- Das wenig bekannte chinesische Forschungslabor DeepSeek brachte ein kostengünstiges KI-Modell heraus und versetzte damit Unternehmen im Silicon Valley in Aufruhr
- Unternehmen wie OpenAI waren davon ausgegangen, einen starken Vorsprung zu haben
- Vance warnte davor, bei KI-Geschäften mit „autoritären Regimen“ zusammenzuarbeiten, und zielte damit indirekt auf China
- Er nannte CCTV und 5G als frühere Beispiele und sagte, autoritäre Regime hätten stark subventionierte, billige Technologien exportiert
- Solche Kooperationen würden Länder an autoritäre Akteure binden, die in die Informationsinfrastruktur eindringen und sie kontrollieren wollten
Europas Antwort: die eigene industrielle KI-Basis stärken
- Europa will sich in der KI-Industrie eine Ausgangsbasis schaffen, um die Abhängigkeit von den USA oder China zu verringern
- Auf dem von Frankreichs Präsident Emmanuel Macron veranstalteten zweitägigen Gipfel stellten europäische Politiker und Unternehmen Investitionspläne im Umfang von rund 200 Milliarden Euro vor
- Die Investitionen sollen Rechenzentren und Computing-Cluster unterstützen, die Europas KI-Bestrebungen tragen sollen
- Frederike Kaltheuner vom AI Now Institute sagte, nach der Veröffentlichung des leistungsstarken offenen Modells von DeepSeek hätten Europäer kurzzeitig die Chance gesehen, bei KI konkurrenzfähig zu sein
- McBride sagte, der Kurs von Macrons Gipfel habe darauf abgezielt, eine Alternative zur von den USA dominierten KI-Entwicklung voranzutreiben, doch Vances Äußerungen hätten dieser Stimmung einen Dämpfer versetzt
1 Kommentare
Hacker-News-Meinungen
Ein Teil des Lebens, das in den kommenden Jahrzehnten von technologischer Beschleunigung geprägt sein wird, dürfte sich anfühlen, als würde man bei vollem Bewusstsein einer Lobotomie unterzogen und dabei zusehen
Man kann sich Tausende hypothetische Wege vorstellen und endlos diskutieren, auf denen selbst Technologien unterhalb einer vollständigen AGI katastrophal aus dem Ruder laufen könnten, aber der Fortschritt in diese Richtung verlangsamt sich nicht und hört nicht auf
Es reicht eine einzige Gruppe mit genügend kollektiver Intelligenz und Durchbrüchen, und die nächste KI kann uns vor die Tür geliefert werden, ob wir das wollten oder nicht
Es ist ähnlich wie die Erfahrung, dass Bücher, die man als Kind gelesen hat, wichtige Lebensbotschaften enthielten, deren Bedeutung man erst 20 Jahre später versteht. Die Botschaft war die ganze Zeit da, aber damals fehlte einem die emotionale und wahrnehmende Intelligenz, sie aufzunehmen
Als die Druckerpresse erfunden wurde, gab es Menschen mit derselben Stimmung, und am Ende lagen sie falsch. Hätte man ihre „Lehren“ befolgt, wäre die menschliche Gesellschaft viel schlechter dran gewesen
Ob die heutige Kritik an KI/AGI berechtigt ist, lässt sich letztlich nur im Nachhinein feststellen
Besonders in der Tech-Branche gibt es zu viele Menschen, denen es ziemlich egal ist, was anderen passiert, solange sie selbst Geld verdienen können. Sie sind bereit, andere zu opfern, und wollen selbst innerhalb ihrer eigenen Community keinen Wohlstand teilen
Das ist die unvermeidliche Folge davon, dass Gesellschaften mit geringem Vertrauen in Gesellschaften mit hohem Vertrauen einsickern. Je weiter sich Technologien mit gefährlichen Implikationen für die Gesellschaft verbreiten, desto mehr Menschen wird es geben, die am Zusammenbruch der Gesellschaft mitarbeiten; es gibt daher keine realistische Hoffnung, dass dieser Zug anhält
Aktuell braucht KI-Training viel Hardware, aber bei Architekturen und Algorithmen sind Spitzenforschung und Innovation schon mit Laptop und Internet möglich
Selbst wenn ein Gesetz verabschiedet würde, das sagt: „KI-Fortschritt ist illegal“, ist fraglich, wie man das durchsetzen könnte
Eingebildete Ängste sind keine realen Ängste. Ich stimme dem Ansatz der aktuellen Regierung nicht zu, man sollte wachsam sein, und es sieht auch nicht gut aus, dass diejenigen, die mit dieser Technologie enorme Gewinne erzielen werden, mit am Tisch sitzen
Aber darüber hinaus habe ich bislang keinen echten Grund gesehen, mehr zu tun, als abzuwarten und wachsam zu bleiben
Man möchte nicht in einem Land festsitzen, das KI, insbesondere KI aus anderen Ländern, verboten hat und in einer aufstrebenden Welt an Wettbewerbsfähigkeit verliert
Die Zukunft wird schwierig werden; warum sollte man sich selbst eine Hand auf den Rücken binden? Vorsicht und Angst sind nicht dasselbe
KI ist nicht wie Kernspaltung. Man kann nicht aus der Ferne erkennen, ob jemand KI trainiert, und es ist bereits zu spät, KI-bezogene Informationen so abzuschotten wie bei der Urananreicherung
Die für KI-Training nötige Ausrüstung ist billig und verbreitet. Solche „Sicherheitserklärungen“ sind zahnlose Erklärungen und lassen sich auch nicht durchsetzen
Man kann KI nicht aufhalten, man muss sich anpassen. Videos und Fotos werden bald keinen Beweiswert mehr haben, und wir sollten reale menschliche Beziehungen stärker gewichten als Online-Beziehungen, weil man wissen kann, dass das Gegenüber ein echter Mensch ist
Es ist bedauerlich, aber nichts von dem, was KI „zerstört“, existierte schon vor 200 Jahren, und die Menschen werden sich anpassen, wie sie es immer getan haben. Wie der Comic-Bösewicht Toyo Harada sagt: „Keiner von euch kann mich aufhalten. Weder einzeln noch gemeinsam“
Es ist möglich, dass sie aus ähnlichen Gründen und auf ähnliche Weise gesetzlich vorgeschrieben wird wie Japans Pflicht zum Auslösegeräusch bei Digitalkameras
Vor 200 Jahren hatte die Erde etwa 1 Milliarde Einwohner, heute sind es etwa 8 Milliarden. Auch anarcho-primitivistische oder Degrowth-Anhänger wischen den Fortschritt der letzten 200 Jahre ähnlich beiläufig beiseite, aber dieser Fortschritt ist wichtig, um die Systeme zu tragen, die viele Menschen am Leben halten
Trotzdem haben sich internationale Abkommen zum Nichtgebrauch von Chemiewaffen erstaunlich gut gehalten
Verwirrung wird im öffentlichen Raum entstehen. Ungefähr eine Generation lang wird es Unruhe geben, weil die Generationen, die etwa zwischen der Zeit vor 1975 und heute geboren wurden, nicht kritisch denken können, wenn sie Bilder sehen, die sie glauben wollen
Wenn man KI-basierte Dienste wie ChatGPT verbietet, kann man auch den wirtschaftlichen Anreiz verringern, Geld in solche Trainingsläufe zu investieren
Eine neuere Initiative ist https://c2pa.org/
Diese ganze Diskussion über AI Safety ist nichts weiter als ein Burggraben, den Unternehmen wie OpenAI aufbauen, um neue Konkurrenten wie DeepSeek fernzuhalten.
LLMs führen nicht zu AGI. Nicht einmal annähernd. Wenn Altman über solche Risiken spricht, ist das ungefähr so, wie wenn Musk über fahrerlose Taxis spricht.
Natürlich ist es beeindruckende Technologie. Es sieht so aus, als könnten LLMs eines Tages die Produktivität von Menschen in Berufen, in denen sie den ganzen Tag mit Computern interagieren, um das Zehnfache steigern.
Sie haben darüber ganz sicher nicht gesprochen, um OpenAIs Burggraben zu schaffen. Damals existierte OpenAI überhaupt noch nicht, AI war nicht einmal annähernd auf dem heutigen Niveau, und fast alle hielten ihre Argumente für absurd.
Man muss ihnen nicht zustimmen, aber es ist falsch und unehrlich, das einfach als Argumentation abzutun, die nur bestehende AI-Unternehmen stützen soll.
Soweit es um Dinge geht, die ein LLM als Sinneseindrücke aufnehmen kann, ist es allen Beschreibungen nach deutlich intelligenter als der Durchschnittsmensch.
Eine dominierende Weltmacht lässt andere Länder nicht ihre Strategie bestimmen. So einfach ist das.
Versuche, AI einzudämmen, werden von der Seite kommen, die im Wettbewerb verliert. Wie in einem Interview, an das sich Edward Teller erinnerte, nutzte die Sowjetunion das Moratorium für Atomtests, um bei der Wasserstoffbombe zu den USA aufzuschließen; Teller war derjenige, der idealistischen Wissenschaftlern gesagt hatte, dass genau das passieren würde.
Es ist allgemein bekannt, dass China die USA bereits in fast jeder Hinsicht eingeholt hat und kurz davor steht, sie auch beim Rest zu überholen. Man muss nur DeepSeek ansehen: genauso effizient wie OpenAI, aber zu deutlich niedrigeren Kosten. Dazu kommen Baidu, Alibaba AI und andere.
Chinas Wirtschaft ist auf Kurs, die USA innerhalb von fünf Jahren zu überholen, und trotzdem hat China das Abkommen unterzeichnet. Tatsächlich haben die meisten Länder unterzeichnet, Indien ebenso.
Es ist keine Situation, in der Verlierer neue Regeln aufstellen, sondern eine, in der große Länder darüber diskutieren, wie sie mit dieser Lage umgehen; die Länder, die sich für allzu überlegen halten, wirken dabei zurückgefallen.
Allerdings sind auch solche Versuche symbolisch, und die Beteiligten wissen das. Es geht nur darum, naiven Informationskonsumenten, also nützlichen Idioten, den Eindruck zu vermitteln, man tue etwas.
Die 80er habe ich verpasst, aber als „Hacker“, der die 90er und 00er erlebt hat, finde ich den Verlauf der Diskussion rund um AI zutiefst traurig und unangenehm.
Stell dir vor, man würde den Hackern von früher erzählen, dass auf einer Seite namens „hacker news“ Leute darüber streiten würden, ob die Regierung das Ausführen von Code auf dem eigenen Computer kriminalisieren sollte.
Das steht ethisch und philosophisch in einem so direkten Widerspruch zu allem, was mich überhaupt erst für Computer begeistert hat. Ich frage mich, ob die Leute das wirklich glauben oder ob es sich um ein ausgefeiltes Narrativ handelt, das bestimmten Unternehmen und Politikern gelegen kommt.
Weder in der EU-AI-Regulierung noch in den Diskussionen, die ich gesehen habe, gibt es etwas, das AI-Hacking an sich einschränkt.
Die Regulierung betrifft Anwendungen durch Unternehmen und Regierungen sowie konkrete Einsatzfälle: etwa zu verhindern, dass AI ohne Verantwortlichkeit endgültige Einstellungsentscheidungen trifft, umfassende Gesichtserkennung im öffentlichen Raum zu verbieten, Transparenz beim Einsatz von AI in Hochrisikobereichen wie Gesundheit, Bildung und Justiz zu verlangen und bewaffnete AI zu verbieten.
Da du Ethik erwähnst: Welche Ethik sollte auf AI angewandt werden? Gar keine, nur teilweise, oder dieselbe wie für Menschen? Wenn AI Menschen bei Entscheidungen ersetzt, sollte sie wie ein Mensch Verantwortung tragen.
Länder mit unbegrenzter AGI werden technologisch wahrscheinlich sprunghaft voraus sein.
Länder, die sich dagegen Beschränkungen auferlegen, werden in diesem Bereich in der „Steinzeit“ verharren.
Im Allgemeinen erzielen Länder, in denen das Einkommen der Eliten von der Arbeit der Bevölkerung abhängt, bessere Ergebnisse für die Mehrheit als Länder, in denen das nicht der Fall ist. Man muss sich nur Entwicklungsländer mit reichen Ölvorkommen ansehen.
Wohin wird AGI führen? So wie Industriearbeit ersetzt wurde, wird auch der Großteil der Wissensarbeit ersetzt werden, und die bestehenden Eliten werden die AGI kontrollieren. Sie könnte genutzt werden, um mit vollständig automatisierter und allgegenwärtiger Überwachung Aufstände für immer zu unterdrücken.
Das ist wirklich nichts, was man anstreben sollte.
[1]: https://en.wikipedia.org/wiki/Resource_curse
Irgendwann könnte es sie geben. Aber die heutige „KI“ kann keine AGI werden, und es gibt auch keinen Weg dorthin.
Man sollte dieses Narrativ nicht einfach so glauben. Die EU-Regulierung will AGI nicht verbieten, sondern ein Mindestmaß an Anstand sicherstellen, wenn die Technologie existiert. Amerikaner scheinen gegen so etwas nahezu tödlich allergisch zu sein.
Ein paar Jahre später denken Teile der Welt tatsächlich ernsthaft darüber nach, KI anzunehmen, während andere es nicht tun.
Eine solche teilweise Übernahme war vorhersehbar, aber ich hätte nicht gedacht, dass wir diese Debatte so schnell führen würden.
Kann man diese „Erklärung“ so verstehen, dass sie keine konkreten Handlungszusagen enthält? Falls ja, verstehe ich nicht wirklich, warum es wichtig ist, wer unterschreibt und wer nicht.
Auch die Konkretheit scheint nicht viel besser zu sein. Sie ist etwa anderthalb Seiten lang, die Liste der Länder ist so lang wie die Erklärung selbst, und im Grunde steht darin: „Wir haben gesagt, dass wir keine bösen Dinge tun werden.“
Sie haben recht. Diese Erklärung ist nutzlos und einfach vergebliche Mühe.
Europa liebt es wirklich, Erklärungen und Besorgnisbriefe zu unterzeichnen. Selbst wenn sie unterschrieben hätten, hätte es keinen Unterschied gemacht.
Solche „Lasst uns nicht böse werden“-Erklärungen sind normalerweise bedeutungslose Gesten.
Nischenakteure, die ohnehin nicht mitmachen würden, stellen ihre moralische Überlegenheit zur Schau, haben aber keinerlei Einfluss auf den tatsächlichen Verlauf.
Der Ottawa Treaty ist ähnlich. Zu den Nichtunterzeichnern gehören die USA, China, Russland, Pakistan, Indien, Ägypten, Israel, Iran, Kuba, Nord- und Südkorea usw. Also fehlen von vornherein alle Länder, bei denen der Einsatz von Landminen zu erwarten ist.
Wenn es hart auf hart kommt, werden auch Unterzeichnerstaaten wie die Ukraine Landminen einsetzen. Denn Landesverteidigung ist wichtiger, als sich beim Einhalten eines Stücks Papier moralisch überlegen zu fühlen.