KI: Dystopie oder Utopie?

• Ein Text von Vinod Khosla, Khosla Ventures

1. Einleitung

• Ich widme mich seit 40 Jahren disruptiven Innovationen und ihrer Erforschung. Angefangen bei Mikroprozessoren habe ich bei Sun Microsystems eine Vorreiterrolle bei der Entwicklung von verteiltem Computing und Personal Computern gespielt
• Das Aufkommen des Browsers im Jahr 1996 war ein weiterer bahnbrechender Wendepunkt. Ich investierte in Netscape und half beim Aufbau von Juniper, um das grundlegende TCP/IP-Backbone des Internets zu schaffen. Das war die Morgendämmerung der Internetrevolution, und ich tätigte strategische Investitionen in aufstrebende Giganten wie Amazon und Google
• Mit dem Erscheinen des iPhone im Jahr 2007 begann das Zeitalter der mobilen Plattformen. Jede neue Plattform ermöglichte gewaltige Innovationen bei Anwendungen und eine Explosion neuer Ideen
• Es gibt einen Punkt, an dem ein Unterschied im Ausmaß zu einem Unterschied in der Art wird, und AI ist wahrscheinlich eine andere Art von Wandel als frühere technologische Etappen. Mikroprozessoren, Internet und Mobiltelefone waren Werkzeuge, um das menschliche Gehirn zu nutzen, aber AI verstärkt und vervielfacht das menschliche Gehirn selbst
• So wie die Erfindung der Dampfmaschine und des Motors Muskelkraft verstärkte, bildet AI dazu das intellektuelle Gegenstück. Die Fähigkeit, Expertise, Denkvermögen und Wissen zu vervielfachen, bedeutet, dass AI die Fähigkeiten des menschlichen Gehirns in den kommenden zehn Jahren deutlich übertreffen könnte
• Künstliche Intelligenz verspricht eine Zukunft beispiellosen Wohlstands. Kurzfristig kann sie für diejenigen, die verdrängt werden, schmerzhaft sein, doch mit gut durchdachter Politik lassen sich die Folgewirkungen abmildern
• Die Zeiträume 0–10 Jahre, 10–25 Jahre und 25–50 Jahre werden sich stark voneinander unterscheiden. Es wird schwer sein, das Tempo der Veränderungen bei technologischen Fähigkeiten, die menschliche Intelligenz weit übertreffen, und bei der gesellschaftlichen Durchdringung in einzelnen Bereichen vorherzusagen oder einzuschätzen
• Die gegenwärtige Verwirrung darüber, ob die Zukunft dystopisch oder utopisch ist, wird zusätzlich durch den aktuellen AI-Hype-Zyklus verzerrt, zusammen mit den damit einhergehenden Fehlschlägen
  • Die meisten AI-Ventures werden mit finanziellen Verlusten enden
  • Insgesamt wird jedoch durch die wenigen Unternehmen, die die Welt verändern, mehr Geld verdient werden als verloren geht
  • Am aufregendsten ist nicht das Umsatzpotenzial von AI, sondern ihr Potenzial, den Lauf der Welt zu verändern und die gesellschaftliche Infrastruktur zum Besseren neu zu gestalten

2. Die dystopische Sicht auf AI

• Pessimisten und Doomers zeichnen wirtschaftlich und gesellschaftlich das Bild einer dystopischen Zukunft
  • Ich halte die meisten ihrer Sorgen für unbegründet, kurzsichtig, übertrieben und in der Praxis sogar schädlich
  • Diese Sorgen lassen sich durch gesellschaftliche Entscheidungen lösen
  • Ich betrachte die Dystopie der Doomers als Fehlkalkulation in der Risiko-Ertrags-Abwägung
  • Die Risiken von AI sind real, aber beherrschbar
• In der aktuellen Debatte konzentrieren sich die Doomers auf das geringe Risiko einer „bösen intelligenten AI“ und übersehen dabei die offensichtlichste Gefahr: den AI-Wettbewerb gegen den „Staat“ oder andere böswillige Akteure zu verlieren
  • Das ist genau das Risiko, das diejenigen am meisten fürchten sollten, die Angst vor AI haben und befürchten, dass sie die Demokratie untergraben und die Gesellschaft manipulieren könnte
  • Das ist der Grund, warum wir China nicht unterliegen dürfen und warum AI zum Nutzen der gesamten Menschheit eingesetzt werden sollte
• China ist der schnellste Weg, die Albträume der Doomers wahr werden zu lassen
  • „Sind Sie bereit, Xi Jinping und seinem Putin-ähnlichen Umfeld zu vertrauen, wenn es um die faire Verteilung der mächtigsten Technologie der Welt geht? Das wäre wahre Dystopie“

A. Arbeitsplatzabbau und wirtschaftliche Ungleichheit

• In einer wirtschaftlichen Dystopie konzentriert sich Wohlstand an der Spitze, während der Wert geistiger und körperlicher Arbeit sinkt; weitverbreitete Arbeitslosigkeit und Deflation zerstören Wirtschaft und Kaufkraft, und die Ungleichheit verschärft sich
  • AI könnte eine Welt schaffen, in der eine kleine Elite floriert, während der Rest mit wirtschaftlicher Unsicherheit konfrontiert ist. Das gilt insbesondere für Demokratien, die ohne starke politische Maßnahmen dahintreiben
  • Mit klugen Eingriffen wie Einkommensumverteilung, der Sicherung eines Mindestlebensstandards (vielleicht UBI?, Universal Basic Income) und strategischer, demokratisch getriebener Gesetzgebung lässt sich das jedoch verhindern
  • Kapitalismus und Steuerstrukturen bestehen mit Zustimmung der Demokratie, und die Demokratie kann diesen Übergang ermöglichen
• Die gute Nachricht ist, dass AI genug Wohlstand schaffen kann, damit alle davon profitieren, und dass es allen besser gehen wird als in einer Welt ohne AI
  • Angesichts einer alternden Weltbevölkerung und eines schrumpfenden Pools junger Arbeitskräfte ist AI unverzichtbar
  • Mit der richtigen Politik könnte der Übergang reibungslos verlaufen und sogar eine Drei-Tage-Woche eingeführt werden
• Wenn das BIP-Wachstum von 2 % auf 5 % steigt, entsteht genug Wohlstand, um einen „Transformationsfonds“ zu schaffen. Vergleichbar mit dem Ölfonds, der den Wohlstand eines Landes wie Norwegen getragen hat

B. Gesellschaftliche Kontrolle und Manipulation

• Gesellschaftliche Kritiker entwerfen ein Szenario, in dem AI mit allgegenwärtiger Überwachung beginnt und schließlich die Menschheit bedroht
  • Doch ein solches Ergebnis ist nicht unvermeidlich. Die Gesetzgebung in jedem einzelnen Land wird bestimmen, wie AI in unser Leben integriert wird
  • In demokratischen Gesellschaften wird das eine kollektive Entscheidung sein. Ich wäre bereit, für eine Gesellschaft mit weniger Kriminalität ein gewisses Maß an Freiheit aufzugeben. Das heißt nicht, dass wir Totalitarismus akzeptieren sollten
  • Durch AI könnten sogar die Gründe für Kriminalität selbst zurückgehen
  • Wenn wir dem legalen Einsatz von AI Grenzen setzen wollen, können wir ein vernünftiges Gleichgewicht erreichen: die Vorteile der AI-Entwicklung nutzen, ohne uns der dystopischen Vision zu beugen, die Alarmisten vorhersagen
• Eine weitere Sorge ist, dass AI genutzt werden könnte, um die öffentliche Meinung zu manipulieren, Informationen zu kontrollieren und Wahlen durch zielgerichtete Propaganda oder Deepfake-Technologie zu beeinflussen
  • Tatsächlich ist russische Einflussnahme bei der US-Präsidentschaftswahl 2024 bereits zu beobachten, und mit noch leistungsfähigerer AI könnte sich die Lage erheblich verschärfen. Das könnte die Demokratie untergraben und eine Gesellschaft schaffen, in der Wahrheit nur schwer zu erkennen ist
  • Die Sorgen über Manipulation und Kontrolle beruhen jedoch auf der Annahme, dass es einen einzigen autoritären AI-Herrscher geben werde, was wenig realistisch ist
  • Wahrscheinlicher ist, dass wir vielfältige AI-Systeme sehen werden, die jeweils unterschiedlichen Interessen dienen
• Was ich mir vorstelle, sind persönliche AI-Agenten für jeden Einzelnen, die dazu entworfen sind, Menschen vor manipulativen Marketingpraktiken und dem heutigen Brain Hacking zu schützen. Mit Brain Hacking ist gemeint, dass Marketer Konsumenten dazu bringen, Dinge zu kaufen oder anzuklicken, die sie sonst nicht gekauft oder angeklickt hätten
  • Wir können erwarten, dass leistungsstarke AI jeden Einzelnen vertreten und schützen wird
  • Man kann es sich als „Spy vs. Spy“ des digitalen Zeitalters vorstellen. AI wird uns als Verbraucher und Bürger gegenüber Unternehmens-AI stärken, die Anreize hat, uns zu manipulieren

C. Verlust menschlicher Autonomie und ethische Erwägungen bei AI-Systemen

• Die Sorge darüber, dass AI in Bereichen wie Medizin, Justiz und Governance wichtige Entscheidungen trifft, ist angesichts der verborgenen Vorurteile in heutigen Systemen berechtigt
  • Diese Vorurteile stammen jedoch vom Menschen, und AI bietet die Chance, sie zu erkennen und zu korrigieren
  • Wenn menschliche Ärzte zum Beispiel für Operationen vergütet werden, neigen sie dazu, mehr Operationen durchzuführen, und es ist schwer zu behaupten, dass sie frei von Vorurteilen sind
  • AI wird der einzige Weg sein, eine vorurteilsfreie Versorgung zu ermöglichen. AI wird Vorurteile sichtbar machen und sie korrigieren. Das wird eine wohlhabendere Welt und einen gerechteren Zugang schaffen
  • Meiner Ansicht nach werden Menschen die Macht behalten, die Entscheidungsbefugnis von AI aufzuheben, sodass AI kein unkontrollierbares Machtzentrum wird, sondern eine durch menschlichen Konsens gelenkte "Institution" bleibt
  • Das Schreckgespenst einer bewussten und böswilligen AI ist gefährlich, aber es ist ein Risiko, das wir mindern können
• Während AI die Arbeit neu ordnet und letztlich in Medizin, Justiz und Governance Entscheidungen trifft und dabei potenziell menschliche Intelligenz und Urteilskraft übergeht, stehen wir vor der Chance, den menschlichen Zweck neu zu definieren und heutige Ergebnisse zu verbessern
  • Heute werden wir ab dem sechsten Lebensjahr in der Schule darauf programmiert, Bildung zu erwerben, um einen Beruf zu sichern, und das prägt letztlich einen großen Teil unseres Selbstverständnisses
  • In 25 Jahren jedoch könnten wir Kindern ohne diesen drängenden Zwang stattdessen Erkundung, Vorstellungskraft, Entdeckung und Experimentieren beibringen
  • Menschen von Jobs zu befreien, die nur dem Überleben dienen, kann neu definieren, was es bedeutet, Mensch zu sein, unsere "Menschlichkeit" stärken und die Vielfalt unserer Ziele erweitern
• Letztlich wird "Menschlichkeit" durch die Freiheit definiert werden, solchen Motiven nachzugehen, befreit von den Ketten existenzsichernder Arbeit
  • Vor allem hoffe ich, dass in einer Welt mit weniger Wettbewerb um Ressourcen mehr Menschen von innerer Motivation statt von äußerem Druck geleitet werden
  • Gesellschaften und Einzelne werden wählen können, welche Technologien sie persönlich nutzen und wofür sie ihre Zeit einsetzen möchten
  • Wer persönliche Entscheidungen lieber ohne AI-Unterstützung trifft, soll frei ohne Copilot vorangehen können. Nichts wird uns aufgezwungen werden
  • AI wird kein Herrscher sein, sondern ein Werkzeug, das wir einsetzen können, um unsere Bedürfnisse und Anfragen zu erfüllen
  • Im Kleinen verzichten die Amish in den USA aus eigener Entscheidung auf Technologie. Tausende solcher Gemeinschaften könnte es geben
• Vor diesem Hintergrund gibt es die Sorge, dass die Abhängigkeit von AI die ethischen und moralischen Maßstäbe des Menschen schwächen könnte
  • Wenn AI-Systeme so programmiert werden, dass sie Effizienz über ethische Erwägungen stellen, können schädliche oder ungerechte Entscheidungen getroffen werden
  • Doch das ist eine gesellschaftliche Entscheidung des Menschen, nicht der Maschine. Wenn etwas schiefläuft, müssen wir die Verantwortung tragen
• Aus demselben Grund möchte ich, wenn Pessimisten ethischen und moralischen Verfall befürchten, weil Maschinen kein feines Verständnis für menschliche Werte, Ethik und Emotionen hätten, vorschlagen, dass vom Menschen getragene Verantwortung das weit größere Risiko ist
  • Alignment ist wichtig, aber dasselbe gilt auch, wenn Menschen versuchen, Gruppen zu koordinieren und Entscheidungen zu treffen. Entscheidend ist zunächst, dieselben Ziele zu haben
  • AI ist entweder mächtig genug, unsere Anweisungen zu verstehen und zu befolgen, oder eben nicht. Beides zugleich geht nicht
  • Eine vollständig unabhängige AI könnte andere, größere Risiken verursachen, die weiter unten behandelt werden, aber dass eine "hinreichend smarte AI" unsere Anweisungen nicht versteht, gehört nicht dazu

D. Verlust von Kreativität und kritischem Denken

• Auf die Sorge, dass in einer AI-Welt die menschliche Kreativität und das kritische Denken geschwächt werden, halte ich das für eine engstirnige Sichtweise
  • Kritiker befürchten, dass AI-Algorithmen den Nutzern nur ein enges Spektrum von Echo-Kammer-Ideen liefern und dadurch kulturelle Homogenisierung entsteht
  • Sie sorgen sich außerdem, dass eine übermäßige Abhängigkeit von AI menschliche Kreativität, Problemlösungsfähigkeit und kritisches Denken verringern könnte, weil Menschen Entscheidungen an Maschinen delegieren
• Ich hingegen sehe eine Welt, in der selbst jemand wie ich ohne jedes musikalische Talent mit AI ein personalisiertes Lied erstellen kann, das eine von mir geschriebene Rede auf der Hochzeit meiner Tochter übermittelt
  • Das ist eine wahre Geschichte. Das hatte für mich eine große Bedeutung
  • Durch AI können wir Kreativität über unsere heutigen Grenzen und Fähigkeiten hinaus erweitern
  • Großartige Künstler, Maler und Performer werden diese Werkzeuge noch besser einsetzen können
• Weil AI-Systeme bei kreativer Arbeit besser oder anders sein können und bald auch Emotionen und Empathie ausdrücken können und den Menschen dadurch ergänzen, sehe ich darin keinen Verlust von Menschlichkeit, sondern vielmehr eine Vergrößerung, Verbesserung und Erweiterung von Menschlichkeit

E. Die Autonomie von KI, existenzielle Risiken, Hegemonie und China

• Aus der extremsten Perspektive warnen Pessimisten, dass KI außer Kontrolle geraten und die Menschheit auslöschen könnte

  • Die Gefahr einer „fühlenden, unabhängigen und böswilligen KI“ ist vermutlich die schwerwiegendste Bedrohung, die von KI ausgeht, und eine Bedrohung, die wir ernst nehmen sollten
  • Das Konzept eines „Hard Take-Off“, bei dem sich KI abrupt der menschlichen Kontrolle entzieht, ist real und verdient Wachsamkeit, aber es ist wichtig, dieses Risiko im Verhältnis zu den enormen Vorteilen zu bewerten, die KI der Menschheit bieten kann, oder zu den Risiken, die KI in den Händen feindlicher Staaten erzeugt

• Auch Yoshua Bengio und Geoffrey Hinton, die weithin als „Godfathers of AI“ bekannt sind, teilen diese Sorgen

  • Während Maschinen Menschen bei spezialisierten Aufgaben wie der Modellierung von Proteinstrukturen bereits übertreffen, warnt Bengio, dass innerhalb der nächsten zehn Jahre eine allgemeine KI entstehen könnte, die die menschliche Intelligenz übertrifft
  • Gemeinsam mit Hinton warnt Bengio vor dem katastrophalen Risiko einer KI, die von böswilligen Akteuren oder Organisationen missbraucht wird
  • Das Potenzial von KI, sich selbst zu replizieren, ihr Überleben zu schützen, Systeme aufzubauen, die gegen menschliche Eingriffe undurchdringlich sind, und Schwachstellen digitaler Infrastrukturen auszunutzen, könnte nicht nur Demokratien destabilisieren, sondern die gesamte Menschheit untergraben
  • Diese Sorgen betreffen nicht nur die KI selbst, sondern auch die breite Verfügbarkeit solcher mächtigen Werkzeuge und die Möglichkeit, dass sie in die Hände von Menschen mit böswilligen Absichten fallen
  • Bengio plädiert für internationale Zusammenarbeit, um die KI-Entwicklung zu regulieren, Missbrauch zu verhindern und Maßnahmen zum Schutz der Menschheit zu entwickeln
  • Ich würde argumentieren, dass internationale Verträge hier bedeutungslos sind, weil sich der Einsatz von KI nicht verifizieren lässt (anders als bei biologischen oder nuklearen Waffen, deren Einsatz offensichtlich ist)
  • Auch Max Tegmark konzentriert sich auf das „Kontrollproblem“, aber selbst das wird durch Fortschritte in der KI-Sicherheitsforschung gelöst
  • Die Forschung von OpenAI zu Reinforcement Learning from Human Feedback (RLHF) und der breite Fokus auf KI-Interpretierbarkeit treiben das Feld in Richtung transparenterer und besser kontrollierbarer Systeme
  • Paul Christiano, Leiter für KI-Sicherheit am U.S. AI Safety Institute, weist darauf hin, dass das Alignment-Problem real ist, aber nicht unlösbar, und durch technische Lösungen und strengere Aufsichtsrahmen schrittweise angegangen wird
  • Dazu gehören Systeme, die es Menschen ermöglichen, den Lernprozess von KI genauer zu überwachen, wodurch sichergestellt wird, dass die Ziele, die KI optimiert, mit menschlichen Werten übereinstimmen

• Außerdem ist die Analogie zwischen Atomwaffen oder Pandemien und existenziellen Risiken nur bedingt passend

  • Anders als KI haben Atomwaffen und Pandemien eine unmittelbare und offensichtliche Zerstörungskraft
  • KI hingegen ist ein Werkzeug, das so entwickelt und gesteuert werden kann, dass es bestimmte Funktionen erfüllt
  • Stuart Russell, Autor von "Human Compatible", betonte, dass sich KI durch sorgfältige Planung so kontrollieren lässt, dass sie keine Bedrohung darstellt
  • Er schlägt vor, KI so zu bauen, dass sie Unsicherheit über ihre Ziele besitzt, wodurch sichergestellt wird, dass sie für ihre Entscheidungen stets menschliche Zustimmung einholt
  • Dieser Ansatz, der „Value Alignment“ genannt wird, verringert die Wahrscheinlichkeit, dass KI in der von Tegmark, Bengio und Hinton beschriebenen Weise außer Kontrolle gerät
  • Das geschieht jedoch nicht automatisch und ist auch nicht garantiert, daher sind mehr Forschungsgelder nötig
  • Dennoch wäre es ein zu großes Risiko, die KI-Entwicklung durch Regulierung im Kampf mit unfreundlichen Staaten zu verlangsamen
  • Zurückzufallen ist bei weitem das Risiko, das mir am meisten Angst macht

• Forscher wie Yann LeCun, Metas Chief AI Scientist, haben darauf hingewiesen, dass den heutigen KI-Systemen die grundlegenden Mechanismen fehlen, die für Selbstbewusstsein oder Autonomie nötig sind

  • Für sie ist die Angst vor einer Machtergreifung durch fühlende KI stark übertrieben
  • Die KI, die wir kennen, ist vollständig auf von Menschen erzeugte Eingaben und Ziele angewiesen und besitzt weder unabhängige Motive noch die Fähigkeit, eigene Ziele zu setzen
  • LeCun argumentiert, dass sich KI zwar rasant entwickelt, die Vorstellung, dass KI Bewusstsein entwickelt, aber weiterhin weit über unsere derzeitigen technischen Fähigkeiten hinausgeht
  • (Doch was könnte in naher Zukunft möglich sein? Dass China sich im KI-Wettlauf einen Vorsprung verschafft und die Gewalt des Regimes nutzt, um weltweit politische und sozioökonomische Werte zu dominieren. Darauf werde ich weiter unten näher eingehen.)
  • Meine Gesamtbewertung dieser apokalyptischen Ängste ist, dass die Katze bereits aus dem Sack ist und wir keine andere Wahl haben, als uns zwischen vollständiger Verwundbarkeit gegenüber böswilligen Akteuren, die KI nutzen, und der Entwicklung von Technologien zu entscheiden, die sich gegen diese böswillige KI verteidigen können

• Zudem werden wir mehrere KIs haben, sodass es selbst im schlimmsten Szenario unwahrscheinlich ist, dass sich alle KIs gleichzeitig gegen die Menschheit wenden

  • Wir werden viele verschiedene KIs haben, die dafür entworfen sind, den Menschen zu dienen
  • Mit dem wachsenden Interesse an Explainability von KI wird sich die Sicherheit wahrscheinlich verbessern, indem die Ziele der KI mit menschlichen Werten in Einklang gebracht werden
  • Ich glaube, dass wir innerhalb der nächsten zehn Jahre die Angst vor „Blackbox-Systemen“ ohne Kontrollierbarkeit hinter uns lassen werden
  • Um dieses Problem zu lösen, ist jedoch eine laserfokussierte Konzentration auf KI-Sicherheit und Ethik nötig

• Große Investitionen in KI-Sicherheit sind wichtig, und ein erheblicher Teil der universitären Forschung sollte sich auf diesen Bereich konzentrieren

  • Die Bundesregierung sollte mehr in Sicherheitsforschung und KI-Erkennung investieren
  • Nach angemessener Forschung und Erprobung werden Funktionen wie ein „Off Switch“ nötig sein
  • Ich würde argumentieren, dass internationale Verträge unmöglich sind, weil es keine Möglichkeit gibt zu verifizieren, ob sie eingehalten werden
  • Wir müssen auch daran denken, dass die Menschheit vielen existenziellen Risiken gegenübersteht, darunter Pandemien, Asteroideneinschläge und Atomkrieg
  • KI ist in diesem breiteren Kontext nur ein Risiko unter vielen, und wir müssen die Zielkonflikte zwischen diesen Risiken und den potenziellen Vorteilen berücksichtigen, die KI bringen kann
  • Meiner Ansicht nach ist das Risiko, bei KI-Technologien hinter China und anderen feindlichen Staaten zurückzufallen, deutlich größer als das Risiko einer selbstbewussten KI
  • Die Verlangsamung der KI-Entwicklung könnte für Demokratien katastrophal sein

• In den nächsten 20 Jahren wird insbesondere der Staat, der sich im KI-Bereich als technologischer Führer etabliert, in der globalen Verteilung von Technologie, wirtschaftlichen Vorteilen und Einfluss eine dominante Position einnehmen und damit auch bei den Werten

  • KI wird die wertvollste Technologie sein, nicht nur für Verteidigungsanwendungen wie Cyberkrieg oder Killerroboter, sondern auch für Dinge wie kostenlose Ärzte und kostenlose Tutoren für den Planeten
  • Der Staat, der diesen KI-Wettlauf und verwandte Wettbewerbe wie Fusion gewinnt, wird mit seiner enormen Wirtschaftskraft wahrscheinlich politische Macht übernehmen und das globale politische System schmieren
  • Der Einfluss auf Südostasien, Afrika, Lateinamerika und andere Regionen steht auf dem Spiel
  • Da in diesem Technologiekampf demokratische Werte auf dem Spiel stehen, müssen wir alles tun, um diesen Kampf zu gewinnen und China zu schlagen
  • Deren Vorstellung von Utopie wird vermutlich eine andere sein

• Ich vermute, dass China in den nächsten 25 Jahren zu Taktiken vom Typ Tiananmen-Platz greifen könnte, um mit der Kommunistischen Partei Chinas das durchzusetzen, was sie in ihrer Gesellschaft für richtig hält

  • Im Gegensatz dazu werden wir einen politischen Prozess durchlaufen
  • Damit sich demokratische Werte weltweit durchsetzen, müssen wir vorsichtig mit KI umgehen, dürfen es uns aber nicht leisten, den KI-Wettlauf zu verlieren
  • Deshalb glaube ich, dass Chinas 14. Fünfjahresplan unter Aufsicht von Präsident Xi Jinping ausdrücklich die Absicht erklärt, bei KI und 5G-Funk zu gewinnen
  • Ersteres bringt wirtschaftliche Macht, Letzteres ermöglicht es China, durch die Kontrolle von Kommunikationsnetzen und TikTok jeden Bürger in über 100 Ländern zu überwachen
  • Technologische Führerschaft ist eine existenzielle Priorität, die einer Mobilmachung in Kriegszeiten entspricht
  • Man stelle sich chinesische Bots vor, die frei von den „Alignment-Beschränkungen“ sind, über die sich amerikanische Wissenschaftler und Philosophen Sorgen machen, und die westliche Wähler verdeckt und individuell beeinflussen
  • Um mit diesen zufälligen und konspirativen Risiken umzugehen, müssen wir Forschung und Investitionen in Sicherheitstechnologien massiv ausweiten, sollten KI aber nicht aggressiv regulieren

• Wenn man glaubt, dass China wegen Demografie, nachlassendem Wachstum und gewaltiger Schuldenlast innerhalb des nächsten Jahrzehnts seinen Höhepunkt erreicht, dann muss man auch glauben, dass China verzweifelter wird zu gewinnen und in seiner Phase des Niedergangs gefährlicher wird

  • Im Gegensatz zur Thukydides-Falle (wenn eine aufstrebende Handelsmacht die bestehende Ordnung erschüttert, kommt es zu einem gewaltsamen Konflikt zwischen der bestehenden und der aufstrebenden Handelsmacht)
  • Deshalb sollten wir uns nicht auf ihre Gnade verlassen, während wir hypothetische Szenarien diskutieren und durch Regulierung mit falschen Prioritäten den Fortschritt verlangsamen

• Wir sollten uns vielleicht Sorgen über die Möglichkeit machen, dass KI ein Bewusstsein entwickelt, das die Menschheit vernichten könnte, aber es besteht auch das Risiko, dass ein Asteroid die Erde trifft oder eine Pandemie ausbricht

  • Doch das Risiko, dass China unser System zerstört, ist meiner Meinung nach weitaus größer
  • In der aktuellen Debatte konzentrieren sich die Pessimisten auf geringe Risiken und nicht auf die offensichtlichste Gefahr: dass der Westen im KI-Wettlauf böswilligen Akteuren unterliegt und genau das KI für den Westen gefährlich macht
  • Ironischerweise sollten gerade diejenigen, die KI und ihre Fähigkeit fürchten, die Demokratie auszuhöhlen und die Gesellschaft zu manipulieren, dieses Risiko am meisten fürchten!

3. Die utopische Sicht auf KI

• Einer der Gründe, warum ich diesen Text schreibe, ist, die dystopische Vision einer KI-zentrierten Welt zu entkräften
  • Es handelt sich um eine einfallslose, kognitiv träge Vision: Massenarbeitslosigkeit, die Reichen werden noch reicher, der Wert intellektueller und körperlicher Expertise sinkt, menschliche Kreativität geht verloren
  • Im Westen gibt es eine stark verzerrte Sicht auf Dystopien
  • Viele Autoren von Dystopien genießen bereits den Luxus, dem Elend der Realität und der Bedrohung des bloßen Überlebens entkommen zu sein und im Elfenbeinturm zu spekulieren
  • Erwähnt werden 40 % der Amerikaner, die nicht einmal unerwartete Ausgaben von 400 Dollar tragen können, 100 Millionen Amerikaner ohne angemessene primäre Gesundheitsversorgung und 500.000 Bürger, die jedes Jahr wegen überhöhter Gesundheitskosten bankrottgehen
• KI kann jedem Kind auf der Erde nahezu kostenlose KI-Tutoren und jedem Menschen nahezu kostenloses medizinisches Expertenwissen bereitstellen
  • Fast jede Form von Expertise wird nahezu kostenlos werden, vom Onkologen über den Tragwerksplaner, Software Engineer, Produktdesigner und Chipdesigner bis hin zum Wissenschaftler
  • Der Mikroprozessor hat, gemessen an der Rechenleistung von Mobiltelefonen, die meisten Elektronikprodukte und weite Teile des Computing nahezu kostenlos gemacht
  • KI wird ähnliche Kostensenkungen wie der Mikroprozessor auf sehr viel mehr Bereiche anwenden: nahezu kostenlose Expertise aller Art, sehr günstige Ausführung der meisten Arbeit durch zweibeinige Roboter und deutlich billigere Materialien von Metallen bis zu Medikamenten durch bessere wissenschaftliche Entdeckungen und Rohstofffunde
  • Außerdem wird sie das Plasma in Fusionsreaktoren steuern und autonome Flugzeuge, autonome Fahrzeuge und den öffentlichen Verkehr kontrollieren, sodass all dies für alle viel günstiger und zugänglicher wird
  • KI wird jeder einzelnen Person einen personalisierten intelligenten Assistenten bereitstellen, der bei Alltagsaufgaben hilft, personalisierte Gesundheit und Ernährung bietet und sogar Executive Support leisten kann
  • KI-basierte Tools werden Illustrationen, Icons, Logos und Kunstwerke generieren und damit die Arbeitsweise von Kreativen verändern
  • Es werden KI-Copiloten für Ärzte entstehen, KI zur Automatisierung radiologischer Arbeit und Diagnostik sowie KI-Finanzanalysten, die Aufgaben wie Forderungsmanagement und Financial Modeling automatisieren
  • KI wird das Erstellen von Verträgen, die Entwicklung von Videospielen und den Betrieb vollständig autonomer Fahrzeuge unterstützen
  • KI-Copiloten werden Engineers bei allem unterstützen, von der formalen Verifikation von Chips über Wärmemanagement und Bauingenieurwesen bis hin zu Innenarchitektur
  • Von autonomen MRTs bis zu personalisierten Hörbüchern sind wir nur durch das begrenzt, was Unternehmer sich vorstellen können
  • KI wird sogar die Art und Weise demokratisieren, wie wir Unternehmen aufbauen
  • Programmierung wird zum Beispiel nicht länger auf die Informatik beschränkt sein. Schon bald werden wir in natürlicher Sprache statt in komplexen Programmiersprachen programmieren können und dadurch fast 1 Milliarde Programmierer hervorbringen

A. Steigerung von Effizienz und Produktivität

• Ich schätze, dass 80 % von 80 %, vielleicht sogar mehr, aller Jobs von KI erledigt werden können.
  • Das gilt für jeden Beruf: Hausärzte, Psychiater, Vertriebsmitarbeiter, Onkologen, Landarbeiter, Fließbandarbeiter, Tragwerksplaner, Chipdesigner und viele mehr. Und in den meisten Fällen wird KI es besser machen
  • Wir erleben bereits die Anfangsphase, in der KI monotone und repetitive Aufgaben übernimmt und Menschen ermöglicht, sich auf kreativere, strategischere und erfüllendere Arbeit zu konzentrieren
• Letztlich werden wir als Menschen entscheiden, welche Aufgaben wir Menschen zuweisen und was wir bewusst selbst wählen
  • Außerdem können wir beobachten, wie KI-Copiloten Terabytes an Daten besser zusammenführen, als Menschen es je könnten
  • Überall dort, wo Expertise mit menschlichen Ergebnissen verknüpft ist, kann KI bessere Leistungen als Menschen erbringen und dies zu nahezu null Grenzkosten anbieten
  • Nehmen wir einen Onkologen, der Brustkrebspatientinnen behandelt: Es wäre für ihn sehr schwierig, sich an die neuesten 5.000 Fachaufsätze zu einer bestimmten Form von Brustkrebs zu erinnern
  • Verkörperte Intelligenz wie Robotik wird in den kommenden zehn Jahren ein Vektor erstaunlicher neuer Fähigkeiten sein
  • Nur weil eine Aufgabe oder ein Beruf von KI ausgeführt werden kann, heißt das nicht, dass jede Gesellschaft das zulassen wird
• Ein weiterer Gedanke ist: Werden in einer Gesellschaft, in der Expertise in der KI liegt, alle Formen von Arbeit gleich bewertet werden, vom Landarbeiter bis zum Onkologen und Engineer?
  • Wird KI zum großen Gleichmacher?
  • Und was ist mit den natürlichen Ressourcen und physischen Inputs wie Eisen, Kupfer, Lithium und Zement, die nötig sind, um diese Software und Hardware zu tragen?
  • Wenn man beobachtet, wie China sich strategisch in rohstoffreichen Regionen wie Afrika und Südamerika positioniert, insbesondere um kritische Mineralien-Lieferketten zu kontrollieren, wird die Notwendigkeit von Innovation deutlich
• KI wird die Art verändern, wie wir natürliche Ressourcen wie Lithium, Kobalt und Kupfer entdecken und erschließen, sodass unsere Fähigkeit zur Rohstoffentdeckung den Verbrauch übersteigen kann
  • Die aktuelle Herausforderung ist nicht der Mangel an Ressourcen, sondern die Begrenzung unserer Fähigkeit, sie zu finden, und KI wird helfen, diese Barriere zu durchbrechen
• Darüber hinaus kann KI den Einsatz natürlicher Ressourcen, Rohstoffe und anderer Inputs optimieren, Verschwendung verringern und die Effizienz in Branchen wie Landwirtschaft, Fertigung und Energie verbessern
  • Dies könnte zu einer nachhaltigeren Wirtschaft und zu einer besseren Bewirtschaftung des Planeten führen

B. Verbesserung der Lebensqualität

• Auch unser physisches Leben wird auf positive Weise umgekrempelt werden
  • Zweibeinige Roboter haben das Potenzial, jede vertikale Domäne zu verändern, vom Haushalt über Altenpflege, Fabrikmontagelinien bis hin zur Landwirtschaft
  • Kaum jemand bereitet sich darauf vor, wie radikal dies BIP, Produktivität und menschliches Glück verändern und Menschen aus der Knechtschaft dieser Zuweisungen befreien wird, die wir Jobs nennen
  • Diese Roboter werden genügend Wert schaffen, um die Menschen zu tragen, die sie ersetzen
  • In 25 Jahren könnte es 1 Milliarde zweibeinige Roboter geben, die eine Vielzahl von Aufgaben einschließlich feinmotorischer Manipulation ausführen können, und in 10 Jahren bereits 1 Million
  • Wir können Menschen aus den wirklich unerwünschten Jobs der unteren 50 % befreien, etwa von Fließbandarbeit oder landwirtschaftlicher Arbeit
  • Das könnte eine noch größere Industrie als die Automobilindustrie werden. Dennoch wird es in der Verantwortung des Menschen liegen, dem Leben gegenüber keinen trägen und zügellosen Ansatz zu wählen
• KI kann auch die physische Distanz zwischen uns verringern
  • In den meisten Städten könnten wir den Großteil der Autos durch KI-basierte autonome, persönliche Schnelltransportsysteme und autonome Fahrzeuge für die letzte Meile ersetzen und so die Passagierkapazität bestehender Straßen verzehnfachen
  • Das würde die Automobilindustrie drastisch schrumpfen lassen und das nominale BIP senken, während lokaler Individualverkehr zugleich sehr viel bequemer, schneller und günstiger würde
  • Aber nicht nur unser physisches Leben wird sich verändern
• Schon bald könnte der Internetzugang der meisten Verbraucher von Agenten vermittelt werden, die in ihrem Namen handeln, ihnen helfen, alltägliche Aufgaben effizient zu organisieren, und Marketer sowie Bots abwehren
  • Dass Zehnmilliarden von Agenten im Auftrag von Verbrauchern rund um die Uhr laufen, wäre nicht überraschend und ist derzeit meine Hoffnung
  • Auch das würde den Konsumismus steigern und zugleich ein großes Gleichmacher-Werkzeug für Verbraucher sein, die sich gegen gut organisierte Marketingmaschinen behaupten müssen, die Dinge verkaufen oder Denkweisen verzerren wollen
  • Sie werden über die intelligenteste KI verfügen, um ihre eigenen Interessen zu schützen

C. Verbesserte Gesundheitsversorgung und längere Lebenserwartung

• KI kann die Gesundheitsversorgung revolutionieren, indem sie personalisierte Medizin ermöglicht – durch Behandlungen, die auf die genetische Veranlagung, den Lebensstil und das Umfeld des Einzelnen zugeschnitten sind. Das kann zu besseren Gesundheitsergebnissen und einem längeren gesunden Leben führen
  • KI kann eingesetzt werden, um Krankheiten frühzeitig zu erkennen, noch bevor Symptome auftreten, wodurch wirksamere und weniger invasive Behandlungen möglich werden. Das könnte die Belastung durch chronische Erkrankungen erheblich verringern und die öffentliche Gesundheit insgesamt verbessern
• Die Qualität, Konsistenz und Zugänglichkeit von Dienstleistungen wie der Gesundheitsversorgung werden sich verbessern und zugleich nahezu kostenlos werden
  • Ein sehr breites Spektrum an Primärversorgung, einschließlich psychischer Gesundheitsversorgung und Management chronischer Erkrankungen, wird weltweit nicht nur grundlegend verfügbar sein, sondern KI wird auch die heutige Biotechnologie ergänzen, um Präzisionsmedikamente zu entwickeln, die tatsächlich wirken, Off-Target-Effekte minimieren und weltweit skalierbar und bezahlbar sind
  • Noch stärker spezialisierte Ärzte wie Onkologen werden Zugang zu enormen Mengen aktueller Forschung und Daten haben und dadurch wirksamer und besser informiert sein können als ihre menschlichen Pendants
  • Wahrscheinlich wird weiterhin menschliches Eingreifen nötig sein, und KI wird je nach Präferenz des Patienten wissen, wann ein menschlicher Arzt hinzugezogen werden muss. Doch ein rund um die Uhr verfügbarer KI-Onkologe kann weit mehr Kontaktpunkte bieten, viel mehr Informationen zusammenführen und Ergebnisse modellieren, um Entscheidungen über Diagnostik und klinische Abläufe zu treffen, sodass menschliche Ärzte sich wertvolleren Tätigkeiten widmen können. Das gilt ebenso für andere Fachgebiete sowie für alle Arten des Managements chronischer Erkrankungen und diagnostischer Untersuchungen
• Die Angst vor einer KI-Dystopie kommt nicht von Patienten, die darum kämpfen, in einem hochineffizienten Gesundheitssystem versorgt zu werden (auch wenn sie sich um ihre Arbeitsplätze sorgen)
  • 150 Millionen Amerikaner leben in von der Bundesregierung ausgewiesenen Regionen mit Mangel an Fachkräften für psychische Gesundheit, und mehr als die Hälfte der Erwachsenen mit psychischen Erkrankungen erhält keine Behandlung
  • Wir sollten nicht Eliteakademiker fragen, sondern 28 Millionen Menschen, ob sie folgende Nachrichten begrüßen würden:
    • Die ersten in Großbritannien zugelassenen KI-Therapeuten auf Basis großer Sprachmodelle bearbeiten derzeit 40 % der Verhaltensgesundheits-Aufnahmen im NHS und zeigen mit KI, die Aufnahme, Eskalation, Diagnose und Behandlung übernimmt, deutlich bessere Ergebnisse bei der Genesung.
    • Mit der Zeit wird dieser Trend zu nahezu kostenloser psychischer Gesundheitsversorgung führen. Das ist die utopische Seite von KI – eine lange erwartete technologische Revolution, die viel Leid beheben kann, das durch das heutige System verursacht wird
• Meine Vermutung, dass wir durch das Neugestalten gesellschaftlicher Infrastruktur (Reinventing Societal Infrastructure) mittels Technologie erreichen können, dass 7,9 Milliarden Menschen auf der Erde so leben wie die reichsten 10 % der Menschheit, erscheint mit der Offenlegung der stetig wachsenden Fähigkeiten von KI nun sehr viel erreichbarer
  • Der Ausbau grundlegender Primärversorgung, des Managements chronischer Erkrankungen und spezialisierter Versorgung (z. B. Kardiologie, Onkologie, Muskel-Skelett-Medizin usw.) ist entscheidend, um die Gesundheit von Menschen in Entwicklungsländern zu verbessern und Krankheiten vorzubeugen
  • Ein nahezu kostenloser, rund um die Uhr verfügbarer Arzt für jedes Kind auf der Welt wäre unmöglich, wenn wir weiterhin darauf angewiesen wären, Gesundheitsversorgung ausschließlich durch Menschen bereitzustellen
  • Tatsächlich verfehlt die aktuelle Debatte den auffälligsten Effekt von KI: Am stärksten von der KI-Revolution betroffen sein werden die 4 Milliarden Menschen der unteren Hälfte der Weltbevölkerung, die täglich ums Überleben kämpfen
• Vor allem aus diesen Gründen zeigt es, wie weit Elfenbeinturm-Akademiker von der realen Welt entfernt sind, wenn sie versuchen, uns auf dem Weg in eine KI-Utopie zurückzuwerfen
• Vor 20 Jahren stellte die Fachzeitschrift The Lancet fest, dass in 42 Ländern, auf die 90 % der weltweiten Kindersterblichkeit entfallen, 63 % der Todesfälle bei Kindern durch wirksamere Primärversorgung vermeidbar gewesen wären – das entspricht 6 Millionen Leben pro Jahr. KI kann das nahezu kostenlos machen
  • In westlichen Ländern nehmen wir die Vermeidbarkeit von Krankheiten wie Durchfall, Lungenentzündung, Masern, Malaria und der HIV/AIDS-Übertragung vor und nach der Geburt als selbstverständlich hin
  • Es gibt keinen realistischen Weg, genügend menschliche Hausärzte bereitzustellen, um alle Kinder in benachteiligteren Regionen der Welt zu erreichen und die Zahl der Kontaktpunkte zu erhöhen
• Wenn wir KI als Teil der Gesellschaft annehmen und voranschreiten, stelle ich mir vor, dass die Qualität der Versorgung, die ich bei einem Besuch in einem Dorf in Indien, in dem ich geboren wurde, erhalte, höher sein wird als bei einem lokalen Hausarzt in Stanford. Denn Dörfer in Indien werden KI angesichts bestehender Reibungen in den USA schneller übernehmen

D. Bildung und Ausweitung von Wissen

• KI kann personalisierte Lernerfahrungen schaffen, die sich an die Bedürfnisse, das Lerntempo, Wissenslücken und Interessen jedes Schülers anpassen, und so für alle Lernenden zu wirksamerer Bildung und höheren Leistungsniveaus führen
  • KI-gestützte Plattformen können Menschen weltweit unabhängig von geografischem Standort oder wirtschaftlichem Status hochwertige Bildung bieten. Das kann Wissen demokratisieren und Menschen auf der ganzen Welt befähigen
  • Die Einteilung in öffentliche Schulbezirke und die Postleitzahl, in die man hineingeboren wird, werden das Lebensergebnis eines Menschen mit Hilfe von KI deutlich weniger beeinflussen, wenn wir das Problem der Peergroup-Effekte lösen können
• Weltweit ist KI unsere einzige Chance, für jedes Kind auf der Erde in unzähligen Fächern einen nahezu kostenlosen persönlichen Tutor bereitzustellen, der rund um die Uhr verfügbar ist
  • Es ist schwer zu überschätzen, welche Auswirkungen das auf Chancen, Handlungsmacht, Selbstwirksamkeit, Leidenschaft, Hoffnung, Motivation und Geschlechtergerechtigkeit haben könnte. Das gilt besonders für Menschen in Teilen der Welt, die andernfalls ressourcenarm sind und denen die Infrastruktur für eine derart breit angelegte, konsistente und zugängliche Bildung fehlt
  • In Verbindung mit meiner seit über 25 Jahren bestehenden Vision einer Gesellschaft, die vom „Arbeitszwang“ befreit ist, werden KI-Tutoren und menschliche Mentoren Kindern die Freiheit geben, zu erkunden und sie selbst zu sein. Das kommt Freiheit näher

E. Ökologische Nachhaltigkeit

• KI kann eine wichtige Rolle bei der Bewältigung des Klimawandels spielen, indem sie den Energieeinsatz optimiert, Emissionen senkt und neue Technologien für erneuerbare Energien entwickelt
  • KI kann auch bei Umweltüberwachung und Naturschutzbemühungen helfen
  • KI kann zu intelligenteren und effizienteren landwirtschaftlichen Praktiken führen, die die Nahrungsmittelproduktion steigern und gleichzeitig die Umweltbelastung verringern, und so dazu beitragen, die wachsende Weltbevölkerung nachhaltig zu ernähren
  • Aber das ist lineares Denken. KI-Wissenschaftler können viel innovativere Ansätze für dieses entscheidende, von uns Menschen geschaffene Problem ermöglichen
• Um eine KI-Utopie zu verwirklichen, braucht es ergänzende Technologien wie Kernfusion zur Erzeugung unbegrenzt verfügbarer günstiger Energie
  • Bei der richtigen politischen Stimmung könnten bis 2050 alle Kohle- und Erdgaskraftwerke ersetzt werden
  • Ich setze eher auf Fusionskessel zur Umrüstung und zum Ersatz von Kohle- und Erdgasboilern als auf den kompletten Neubau ganzer Fusions- oder Kernkraftwerke
  • Es gibt auch vielversprechende Ansätze mit Geothermie, Solarenergie und fortschrittlichen Batteriesystemen für saubere, regelbare Energie
• Mehrere Faktoren tragen dazu bei, die Umweltkosten des Computings zu senken
  • Bei der Algorithmuseffizienz und Hardware gibt es erhebliche Verbesserungen, sodass KI-Systeme mit weit geringerem Stromverbrauch deutlich mehr leisten können
  • Neue Technologien und die Integration von Websuche helfen KI, effektiver zu skalieren, ohne den Energieverbrauch drastisch zu erhöhen
  • Diese Bemühungen um optimiertes Computing unterstützen nicht nur den steigenden Energiebedarf von KI, sondern stellen auch sicher, dass diese Technologie nachhaltig skaliert werden kann, ohne die globale Infrastruktur zu belasten
  • Dennoch müssen wir an diesem Problem mit Nachdruck arbeiten, und es ist ein reales Problem

F. Verbesserung menschlicher Fähigkeiten (und Kreativität), neue Erfahrungen

• KI kann menschliche Fähigkeiten erweitern und es ermöglichen, komplexe Probleme zu lösen, die mit menschlicher Intelligenz allein derzeit nur schwer zu bewältigen sind
  • Das könnte zu Durchbrüchen in Wissenschaft, Technik und anderen Bereichen führen, einschließlich intellektueller Herausforderungen
• KI kann als kreativer Partner Künstlern, Designern und Innovatoren helfen, neue Ideen zu erkunden und die Grenzen des Möglichen in Kunst, Wissenschaft und Technik zu erweitern
  • Consumer-Services werden hyperpersonalisiert, sodass Einzelne gleichzeitig Künstler, Komponist, Produzent, Autor und Konsument sein können
  • Musik könnte zum Beispiel wie ein Spiel interaktiv werden, und neue Formate könnten entdeckt und aktiviert werden
  • Solche Medien strömen bereits in großem Umfang auf den Markt und erzeugen in manchen Fällen einen größeren Anteil an Hits als von Menschen geschaffene Werke
• Viele künstlerische Ambitionen wurden früher blockiert, weil Talent fehlte, Sorgen über eine stabile wirtschaftliche Zukunft bestanden oder schlicht die Ressourcen fehlten, um einen Film zu machen oder ein Lied zu komponieren, doch diese Hürden werden nach und nach verschwinden
  • Das bedeutet nicht, dass berühmte Entertainer verschwinden werden, aber KI-generierte Kunst wird eine Komplexität und tiefe Textur bieten, die den künstlichen Ursprung der Musik verschleiert
  • Manche werden das hassen, andere werden es mögen. So ist es auch bei heutigen Musikgenres von Klassik bis Heavy Metal
• Es werden neue Arten von Jobs entstehen und neue Kreativität wird hervorbrechen
  • Vor der Erfindung der Filmkamera gab es den Beruf des Filmemachers nicht. Eine ganze Industrie ist explosionsartig gewachsen
  • Unterhaltung wurde populärer, und Extremsportarten wurden mit Formaten wie den X Games zu Berufen, die vielen Menschen Einkommen verschafften
  • Snowboarden zum Beispiel war früher kein Beruf, heute ist es einer
  • Plattformen wie Etsy und eBay haben Handwerker und Unternehmer weltweit gefördert, und neue Technologien werden Jobs in einer völlig neuen Welt ermöglichen
  • Wattpad hat viele neue kreative Autoren hervorgebracht, und Plattformen wie Pinterest und Tumblr haben Menschen ein Ventil für ihre Kreativität gegeben, sodass sie ihren Geschmack und ihre Persönlichkeit stärker ausdrücken können

G. Ethische Entscheidungsfindung und Governance

• KI kann helfen, eine gerechtere und gleichere Gesellschaft zu schaffen, indem sie faire Entscheidungsprozesse sicherstellt, Vorurteile verringert und Transparenz in der Governance fördert
  • KI kann enorme Datenmengen analysieren und damit eine evidenzbasierte Politikgestaltung unterstützen, was zu effektiverer und informierterer Governance führen kann
• Es könnte möglich werden, für jeden Bürger rund um die Uhr einen Anwalt bereitzustellen und damit Expertenkapazität zu verzehnfachen sowie Zugänglichkeit und Angemessenheit auszuweiten
  • Es wird genügend KI-Richter geben, um Streitfälle schnell und ohne tief verwurzelte menschliche Vorurteile zu lösen
  • Bildung, Rechtsberatung und Finanzberatung werden nicht länger nur für die Oberschicht der Gesellschaft existieren
  • Tatsächlich könnten diese Leistungen zu essenziellen und nahezu kostenlosen staatlichen Diensten werden, so wie heute Straßen und Landesverteidigung

H. Menschliches Gedeihen und Glück

• In einer utopischen Vision kann KI helfen, den gesellschaftlichen Fokus von Wirtschaftswachstum auf menschliches Glück und Erfüllung zu verlagern
  • Stell dir eine Welt vor, in der Menschen von klein auf die Chance bekommen, dem nachzugehen, was sie wirklich begeistert, sodass Leidenschaft ganz natürlich entsteht
• Die Freiheit von Kindern wurde zuvor bereits beschrieben, aber wenn man noch etwas tiefer geht
  • Wenn man Kindern schon ab dem Alter von sechs Jahren beibringen würde, dass sie in der Schule nicht nur deshalb glänzen müssen, um später einen Job zu bekommen, sondern um ihre eigene Leidenschaft zu entfachen, würde das im Vergleich dazu, dieses Gespräch erst mit 40 zu beginnen, eine völlig andere prägende Erfahrung für ihr sich entwickelndes Gehirn schaffen
  • Berufe wie bildende Kunst, Musik, Sport oder Schreiben, die abgesehen von den obersten 1 % oder 0,1 % normalerweise nicht mit finanzieller Stabilität verbunden sind, könnten bald für jeden befriedigend und erreichbar werden, der ihnen nachgehen möchte, ohne an die heutigen Zwänge gebunden zu sein, seinen Lebensunterhalt zu verdienen und eine Familie zu versorgen
• Diese Veränderungen könnten neu definieren, was es bedeutet, Mensch zu sein
  • Man wäre nicht länger an die Monotonie von Fließbandarbeit gebunden, die die gesamte eigene Existenz bestimmt
  • Wie ich bereits im Jahr 2000 vorgeschlagen habe, müssen wir möglicherweise die Definition dessen, was es heißt, Mensch zu sein, selbst überdenken
  • Ist es am Ende wirklich erfüllend, 30 Jahre lang am Fließband eine einzige Art von Rad an Autos zu montieren?
  • Solche Tätigkeiten stehen eher für eine sklavenähnliche Form als für menschliches Gedeihen, so wie Feldarbeit bei 100 Grad Fahrenheit Hitze
• Dabei geht es jedoch nicht nur um Blue-Collar-Arbeit. White-Collar-Jobs könnten sogar zuerst verschwinden
  • Ist es zum Beispiel im Investmentbanking erfüllend, 16 Stunden am Tag in Excel-Spreadsheets oder PowerPoint-Unterlagen zu hacken und immer wieder dieselben Routinearbeiten zu erledigen?
  • Die finanziellen Folgen von KI werden Menschen von diesen Zwängen befreien und ihnen ermöglichen, sich wieder auf das zu konzentrieren, was wirklich wichtig ist: nicht auf das Überleben oder auf Grundlegendes wie Wohnen, Nahrung und Medikamente für die Familie, sondern auf Leidenschaft
• Die Abschaffung unerwünschter und arbeitsintensiver Jobs bedeutet nicht, dass das Leben weniger Sinn hat
  • Eher das Gegenteil
  • Für Länder, die sich an diese Technologien anpassen, könnte das Leben sogar bedeutungsvoller werden, weil innerhalb einiger Jahrzehnte die Notwendigkeit verschwinden könnte, 40 Stunden pro Woche zu arbeiten
  • Keynes ging 1920 von einer 15-Stunden-Woche aus!
  • Stell dir vor, was möglich wäre: ein Arbeitstag pro Woche, der die 20 % der Arbeit liefert, die wir brauchen oder wollen
  • Ich selbst würde mich mit 69 Jahren noch freuen, einen Tag pro Woche im Garten zu arbeiten und den Rest der Zeit mit Lernen zu verbringen
  • Endlich hätte ich genug Zeit zum Skifahren, Wandern oder um mich meinen vielen Interessen zu widmen
• Genau diese Chance, die menschliche Erfahrung neu zu definieren, widerlegt die Behauptung der Pessimisten, dass das "Menschliche" in unserem Leben verschwinden werde
  • Wir können eine Welt schaffen, die allen Menschen viel mehr Handlungsmacht, Selbstwirksamkeit und Hoffnung gibt, indem wir zuerst die finanziellen Zwänge und Erwägungen beseitigen, die viele Menschen dazu zwingen, sich um das Grundlegende für sich und ihre Familie zu sorgen
  • Indem KI die Last des bloßen Überlebens nimmt, bietet sie uns die Chance, eine Welt zu schaffen, in der Menschen frei verfolgen können, was ihnen wirklich wichtig ist
  • Die zentralen Bereiche menschlichen Strebens könnten Kultur, Kunst, Wissenschaft, Kreativität, Philosophie, Experimentieren, Entdecken, jede Art von Wettbewerb und Abenteuer sein
  • Die eigentliche Frage ist, ob alle daran teilhaben können

I. Potenzielle Hindernisse für unsere Utopie können überwunden werden

• Natürlich kann vieles einer Verwandlung dieser Prognosen in eine utopische Realität im Weg stehen
  • Der Widerstand bestehender Organisationen könnte den Fortschritt behindern (z. B. Schauspielergewerkschaften)
  • Politiker könnten die Ängste der Bevölkerung für persönliche oder populistische Vorteile ausnutzen, was den Widerstand weiter anheizen könnte
  • Auch technische Fehlschläge oder Verzögerungen, verschärft durch Probleme in der Lieferkette oder globale Konflikte, könnten die Entwicklung bremsen
  • Auch die Finanzmärkte sind ein Risikofaktor. Eine Rezession oder schlechte Rahmenbedingungen könnten vielversprechende Ideen in eine Finanzierungslücke fallen lassen, die als „chasm over the too-far bridge“ beschrieben wird
• Eine anti-technologische Stimmung, einschließlich des Widerstands von Menschen, die Technologie misstrauen, und von Gegnern, könnte die breite Einführung nützlicher Fortschritte behindern
  • Diese Stimmung könnte mit den Sorgen moderner Ludditen übereinstimmen, die gemeinsam mit DEI-Befürwortern den Diskurs dominieren und so den Fokus von den potenziellen Vorteilen der Technologie ablenken könnten
  • Die Lage könnte zusätzlich dadurch verkompliziert werden, dass einige wenige negative, mit KI verbundene Folgen unverhältnismäßig viel mediale Aufmerksamkeit erhalten und dadurch die öffentliche Wahrnehmung von KI vergiften
  • Unvorhersehbare und ungewöhnliche „Black Swan“-Ereignisse kommen häufig vor und können den Fortschritt unerwartet behindern
  • Schließlich könnte die Bewegung Schaden nehmen, wenn wichtige Anstifter und Fürsprecher nicht auftreten oder ihr Anliegen nicht wirksam vertreten können
• Dennoch halte ich an der Überzeugung fest, dass eine KI-getriebene Utopie nicht nur eine optimistische Möglichkeit ist, sondern mit den richtigen gesellschaftlichen Entscheidungen und technologischen Fortschritten eine sehr gut erreichbare Wahrscheinlichkeit darstellt
  • Entscheidend ist, das Potenzial von KI verantwortungsvoll zu nutzen und sicherzustellen, dass ihre Vorteile in der gesamten Gesellschaft gerecht verteilt werden
  • Während sich die Konturen der KI-Landschaft weiterentwickeln, scheint es unwahrscheinlich, dass es ein dominierendes Unternehmen geben wird, das KI bereitstellt und ihre Vorteile kontrolliert
  • Angesichts dessen, wie zugänglich und benutzerfreundlich KI-Tools geworden sind, ist die Sorge weniger wahrscheinlich, dass sich KI-Macht in den Händen einiger weniger konzentriert
  • Anders als in Branchen, in denen Fachwissen und Kapital die Eintrittsbarrieren erhöhen, wird die KI-Entwicklung zunehmend demokratisiert, sodass Einzelpersonen und kleine Teams mit minimalen Ressourcen KI-Systeme aufbauen, trainieren und bereitstellen können
• Viele Cloud-Services bieten heute bereits die Infrastruktur, die nötig ist, um KI-Modelle in großem Maßstab zu trainieren, ohne spezialisierte Hardware oder massive finanzielle Investitionen
  • Zudem konzentriert sich neue Forschung kleinerer Anbieter auf KI-Entwicklungsansätze, die sich grundlegend von den heutigen LLMs unterscheiden
  • Welcher Entwicklungsweg optimal ist, ist mir noch nicht klar. Viele davon dürften sich gegenseitig ergänzen
• Außerdem machen Low-Code-, No-Code- und Natural-Language-Plattformen es Menschen ohne tiefes technisches Fachwissen einfacher denn je, KI-Lösungen zu erstellen und bereitzustellen
  • Von Chatbots bis hin zu Machine-Learning-Modellen abstrahieren diese Plattformen einen Großteil der Komplexität, sodass durchschnittliche Nutzer KI-Anwendungen in viel kürzerer Zeit entwickeln können als noch vor wenigen Jahren
  • Mit KI-basierten APIs kann praktisch jeder mit nur grundlegendem Verständnis von Programmierung leistungsstarke KI mit minimalem Aufwand in eigene Apps, Tools und Workflows integrieren
• Da Werkzeuge und Ressourcen für die KI-Entwicklung weiter zugänglicher werden, wird die Vorstellung eines Monopols von KI durch ein einzelnes Unternehmen oder eine einzelne Organisation immer weniger realistisch
  • Stattdessen bewegen wir uns auf eine Zukunft zu, in der KI-Entwicklung für alle offen ist, von einzelnen Unternehmern bis hin zu lokalen Unternehmen, sodass Innovation von unten gedeihen kann
  • Dieses Modell dezentraler Innovation wird dazu beitragen, dass KI ein Werkzeug für die Vielen bleibt und nicht für wenige

4. Die neue Wirtschaft der KI-Welt

A. Kapitalismus und Demokratie im KI-Zeitalter

• Der westliche Kapitalismus operiert innerhalb des Rahmens der Demokratie und wurde traditionell auf wirtschaftliche Effizienz ausgelegt
  • Kapitalismus hat zwar Wirtschaftswachstum geschaffen, doch im KI-Zeitalter darf der Fokus nicht allein auf Effizienz liegen; angesichts der Rolle von Gleichheit für menschliches Glück sollte das Ziel der Verringerung von Einkommensunterschieden als ebenso wichtiges Ergebnis hinzukommen
• Der Kapitalismus, traditionell der Motor wirtschaftlicher Effizienz, muss sich angesichts KI-getriebener Veränderungen womöglich weiterentwickeln
  • Da der Bedarf an traditioneller wirtschaftlicher Effizienz sinkt, entsteht Raum, neben Effizienz auch mitfühlenden Kapitalismus und wirtschaftliche Gleichheit zu priorisieren
  • Kapitalismus existiert mit der Erlaubnis der Demokratie
  • Ungleichheit ab einem bestimmten Niveau führt zu sozialer Instabilität, und dies sollte bei der Gestaltung von Politik berücksichtigt werden
  • Ich bin mit einer gewissen Sympathie für ein bestimmtes Maß an Ungleichheit aufgewachsen (also als „Motivation, härter zu arbeiten“), unter der Annahme, dass es große Chancen für sozialen Aufstieg gibt
  • Diese Auswege, die unser Leben spürbar verbessern können, müssen weiterhin bestehen
• Darüber hinaus ist der heutige Kapitalismus über Bemühungen zur Nachfrageschaffung hinausgewachsen (also Werbung und entsprechende Äquivalente) und hat eine neue Form angenommen, in der wir Dinge begehren, von denen wir nicht wussten, dass wir sie wollen, und deren wirtschaftlicher Effizienzvorteil für Unternehmen überschritten wird.
  • Das trägt nicht zum gesellschaftlichen Wohlergehen bei
  • Wir sind an einem Punkt angekommen, an dem die Verbesserung des gegenwärtigen kapitalistischen Systems durchweg positiv sein kann
  • Ironischerweise wird die Gesellschaft, die sich entscheidet, diese Technologie am weitesten anzunehmen – auch wenn nicht alle sie gleichermaßen annehmen –, dank des Überflusses, den KI erschließen wird, eine viel größere Fähigkeit haben, mitfühlenden Kapitalismus zu praktizieren
• Wir sollten weder die Hand des Marktes noch den technologischen Fortschritt verlangsamen, sondern vielmehr erkennen, dass menschliche Arbeit in vielen Fällen entwertet werden kann
  • Das erzeugt Abwärtsdruck auf die Löhne von gering qualifizierten Arbeitskräften und sogar von vielen hoch qualifizierten Beschäftigten
  • Da der Bedarf an menschlicher Arbeit und Urteilsvermögen sinkt, wird Arbeit gegenüber Kapital sowie gegenüber Ideen und Machine-Learning-Techniken weiter an Wert verlieren
  • In einem Zeitalter des Überflusses und wachsender Einkommensunterschiede könnten wir, wie ich bereits in meinem Essay über KI aus dem Jahr 2014 vorhergesagt habe, eine Form des Kapitalismus brauchen, die nicht nur auf effiziente Produktion fokussiert ist, sondern den unerwünschten Nebenwirkungen des Kapitalismus deutlich höhere Priorität einräumt

B. Lohnkompression und Verwerfungen am Arbeitsmarkt treten zusammen mit Produktivitätssteigerungen auf

• Da KI technische Unterschiede nivelliert, könnten Löhne komprimiert werden, während sich Wertschöpfung hin zu Kreativität, Innovation oder dem Besitz von KI verlagern könnte, was potenziell zu anderen Formen wirtschaftlicher Ungleichheit führt
  • Historisch führten Produktivitätssteigerungen zu höheren Löhnen und steigenden Konsumausgaben, aber angesichts der Fähigkeit von KI-Technologien, in den von mir prognostizierten 80 % der Jobs 80 % der Arbeit vom Menschen zu entkoppeln, räume ich ein, dass das diesmal nicht passieren muss
• Im gleichen Zusammenhang können wir die Wirtschaftsgeschichte der Vergangenheit nicht einfach fortschreiben, nur weil gepredigt wird, dass bei jeder technologischen Revolution neue Arbeitsmöglichkeiten die Verluste übertroffen hätten
  • Wie jemand sagte: "Wenn der Zug der Geschichte in die Kurve geht, fallen die Intellektuellen heraus"
  • Ich behaupte, dass die Lage diesmal anders sein könnte, weil sich der grundlegende Motor der Arbeitsplatzschaffung durch eine Technologie verändert, die menschliche Fähigkeiten nicht nur erweitert, sondern insgesamt übertreffen kann
  • Wir haben schon früher große Umbrüche gesehen, aber nie in diesem Tempo, weshalb die Anpassung zu einem deutlich schwierigeren Problem wird
    • Im Jahr 1900 entfiel der Großteil der Jobs in den USA auf die Landwirtschaft
    • Bis 1970 waren es 4 %
    • Dafür brauchte es jedoch drei Generationen
    • Dieser KI-Zyklus wird sehr viel schneller verlaufen. Daher wird er chaotischer und unangenehmer sein
• Künstliche Intelligenz wird voraussichtlich tektonische Verschiebungen in der Arbeitswelt auslösen, viele Berufe abschaffen und ein gesellschaftliches Umdenken darüber verlangen, wie Menschen ihre Zeit verbringen
  • Selbst wenn sich die Gesellschaft insgesamt verbessert, kann der Wandel Teile der Menschen in der Wirtschaft deutlich härter treffen
  • Für die am stärksten Betroffenen wird das kaum leicht zu akzeptieren sein
  • Eine Übergangsphase von 10–25 Jahren könnte sehr chaotisch sein
  • Das ist jedoch niemals ein Grund, aus Angst zu handeln und letztlich die Vorteile einer Welt nicht zu nutzen, die von den Zwängen der Arbeit befreit ist und einen breiteren Zugang zu Ressourcen ermöglicht, die derzeit nur so wenige genießen
  • Es ist an der Zeit, ernsthaft darüber nachzudenken, wie wir uns um die Betroffenen kümmern
• Die Bereitstellung eines Vielfachen an Expertenkapazität kann nicht nur die Zugänglichkeit, sondern auch die Qualität erhöhen und gleichzeitig zum Arbeitsplatzverlust derjenigen führen, die diese Rollen bisher innehatten
  • KI-gestützte Robotik kann und wird dasselbe auch in arbeitsintensiven manuellen Tätigkeiten leisten
  • KI-Tools, die Designer und Architekten in verschiedenen vertikalen Märkten unterstützen, werden Output und Produktivität ähnlich steigern, sodass weniger Menschen benötigt werden. Wahrscheinlich zumindest bis sie innerhalb der nächsten 10–25 Jahre Aufgaben autonom übernehmen
• Wenn eine Million Ärzte jeweils 300.000 Dollar verdienen, verursacht das allein in den USA Kosten von 300 Milliarden Dollar
  • Weltweit ist es wahrscheinlich das Zehnfache davon. Also Billionen Dollar
  • Wahrscheinlich bleiben die Ausgaben von 300 Milliarden Dollar gleich, liefern aber in den nächsten 10–20 Jahren die zehnfache Menge an Leistungen
  • Bei Buchhaltern kommt man auf ähnliche Größenordnungen. Es werden Billionen Dollar ausgegeben, aber die Nachfrage nach Buchhaltungsdienstleistungen wird kaum um das Zehnfache steigen
  • Je nach Fachgebiet wird unterschiedlich auf das Verhältnis von mehr Angebot und mehr Konsum reagiert werden
  • Wenn KI große Teile der Belegschaft unterstützt/ersetzt, werden diese Einsparungen an die Verbraucher weitergegeben. Je nach Bereich wird ein Gleichgewicht von Angebot und Nachfrage gefunden werden müssen
  • In den USA kann die Nachfrage nach Gesundheitsversorgung, Lebensmitteln und Wohnraum steigen, aber kaum auf das Zehnfache
  • Bei Musik und Unterhaltung gibt es nahezu keine Grenze für steigende Nachfrage, aber abgesehen von prominenter Unterhaltung wie Musikern oder Sportstars wird sie fast kostenlos sein
• Produktivität kann das Durchschnittseinkommen erhöhen und zugleich sowohl das Medianeinkommen als auch den Gini-Koeffizienten (ein statistisches Streuungsmaß zur Beschreibung der Einkommensverteilung) senken
  • Ironischerweise könnten Bürger in fortgeschrittenen Ländern wie den USA einen höheren Lebensstandard haben, obwohl sich die Einkommensunterschiede vergrößern
  • Das wird jedoch zu einem erheblichen Teil von den politischen Ansätzen abhängen, die gewählte Amtsträger verfolgen
  • Möglicherweise wird eine breiter angelegte Bildung nötig sein, nicht um auf einen Beruf hin auszubilden, sondern damit intellektuelle Betätigung um ihrer selbst willen verfolgt wird statt wegen eines „Zwecks“ wie einem Beruf

C. Deflation und die Notwendigkeit neuer wirtschaftlicher Messgrößen

• Produktivitätssteigerungen durch geringeren Input (also niedrigere Arbeitskosten) und mehr Wettbewerb könnten zusammen mit den oben erwähnten Arbeitsplatzverlusten Deflation auslösen
  • Umgekehrt könnten diese neuen Dynamiken die Beschäftigung erhöhen, um in Unternehmen mit begrenzten Ausgaben niedrigere Kosten auszunutzen
  • Über Arbeitskraft und Fachwissen hinaus kann der Einsatz von KI für Ressourcenfindung, Forschung und Ähnliches Zeitpläne und Kosten verkürzen und damit den Deflationsdruck verstärken
  • Natürlich gibt es weitere Nuancen wie Konsumverhalten, Investitionsentscheidungen von Unternehmen, Reaktionen der Zentralbanken und sektorale Volatilität
  • Da KI voraussichtlich alle vertikalen Bereiche des BIP berühren wird, wenn auch in unterschiedlichen Zeithorizonten, dürfte es schwer sein, ihre möglichen Auswirkungen auf die Gesamtwirtschaft zu überschätzen, und es erscheint unwahrscheinlich, dass Geldpolitik in dieser neuen Ära ein ebenso starkes Hebelinstrument sein wird wie historisch
  • Die Geldpolitik wurde entwickelt und verfeinert, um schrittweise Veränderungen in der Wirtschaft zu bewirken
  • Dass marginale wirtschaftliche Veränderungen marginale Verhaltensänderungen auslösen, gilt womöglich nicht mehr
  • Auf Wind reagiert man anders als auf einen Hurrikan, und auf Wellen anders als auf einen Tsunami
• KI-getriebene Effizienz in Blue-Collar- und White-Collar-Bereichen kann zu Deflation und Arbeitsplatzverlusten führen, wobei beides abgemildert werden kann
  • „Deflation“ hat einen negativen Beiklang, weil chronisch sinkende Preise gewöhnlich zu geringerer Profitabilität von Unternehmen und zu stagnierendem oder sogar schrumpfendem Wirtschaftswachstum führen
  • Im Gegensatz dazu dürfte KI-getriebenes deflationäres Wachstum aus allen oben beschriebenen Gründen wahrscheinlich gleichzeitig mit einem höheren Konsum von Waren und Dienstleistungen auftreten, also mit einer effektiven Zunahme der Konsumausgabenkraft
  • Wenn die Menge der von Bürgern konsumierten Waren und Dienstleistungen stark steigt, ist das dann zwangsläufig schlecht? Unsere Sprache setzt BIP-Wachstum und Unternehmensgewinne mit Wohlstand gleich. Das ist ein Fehler in unserem heutigen Vokabular
• Arbeitskosten oder Kapitalkosten können durch einfache Regeln, Regulierung, Gesetze und Steuerstrategien wie die Kapitalertragsteuer oder MLPs effektiv verändert werden
  • Viele dieser Verzerrungen sind in der heute scheinbar neutralen kapitalistischen Wirtschaft bereits eingebaut
  • Um vernünftige Ziele bei Einkommensunterschieden zu erreichen, werden mehr und wichtigere Eingriffe nötig sein
  • Einkommen oder soziale Mobilität sind Ziele, die sich sehr viel schwerer in die „Regeln“ einer Gesellschaft einbauen lassen
  • Ich denke, die Lage wird noch komplizierter werden, weil die traditionelle wirtschaftliche Debatte Arbeit gegen Kapital durch eine Ideenökonomie auf den Kopf gestellt wird, die von Unternehmertum und Wissen getrieben ist — einem neuen Faktor, den viele Ökonomen nicht angemessen würdigen
  • Dieser letzte Faktor könnte ein wichtigerer Treiber der Wirtschaft sein als Arbeit oder Kapital
  • Manche Produktionsfaktoren wie physische Ressourcen, etwa Lithium, Kupfer und Stahl, könnten deutlich länger als andere brauchen, um sich an Veränderungen anzupassen

D. Politische Entscheidungen

• Dieser neue Quantensprung bei der Rechenleistung wird wahrscheinlich sowohl die Einkommensungleichheit als auch den Wohlstand vergrößern
  • Diesmal könnte die technologische Entwicklung tatsächlich anders sein, weil sie zum ersten Mal nicht nur die Produktivität steigert, sondern die menschliche Intelligenz übertrifft
  • Sollte dieses Szenario eintreten, wären strukturelle Veränderungen unserer sozialen und politischen Systeme nötig, um Fairness zu optimieren – unabhängig davon, welches Ziel unsere Gesellschaft verfolgt
  • Demokratische Prozesse sind für solche Entscheidungen ideal. Vor allem, weil nicht alle dasselbe Ziel verfolgen müssen
• Wir stehen vor einer Wahl: ob wir die Einführung disruptiver Technologien beschleunigen, verlangsamen oder steuern und ob wir etwa durch wirtschaftliche Unterstützung die Verdrängten entschädigen
  • Die Dynamik des Wandels kann für diejenigen, die davon aus der Bahn geworfen werden, schmerzhaft sein, und um KI und all ihre Vorteile wirksam zu nutzen, wird es entscheidend sein, die Verdrängten ins Zentrum der staatlichen Politik zu stellen
  • Wirtschaftspolitik sollte nicht nur das Wirtschaftswachstum steuern, wie es heute die US-Notenbank tut, sondern auch Hebel und Ausgleichsmechanismen für Ungleichheit und soziale Mobilität im Blick haben
  • Als bekennender Kapitalist und Technologie-Optimist unterstütze ich die fortgesetzte und schnelle Förderung und Ausrollung von KI-Systemen
  • Wir sollten uns an die Veränderungen anpassen, die technischer Fortschritt mit sich bringt, statt ihn zu verlangsamen; dazu gehört auch ein möglicher Wertverlust menschlicher Arbeit
  • Diese Veränderungen stellen erhebliche Herausforderungen dar, bieten aber über einen Zeitraum von mehr als 25 Jahren auch die Chance, eine empathischere Gesellschaft und eine Welt jenseits von Ressourcenknappheit zu schaffen
  • Wir sollten sorgfältig darüber nachdenken, in welcher Gesellschaft wir leben und welche Zukunft wir schaffen, und Politik sehr viel empathischer gestalten. Das war früher ein Luxus, den wir uns nicht leisten konnten, steht uns nun aber zur Verfügung
• Um die größeren Nebenwirkungen von Technologien zu bewältigen, die menschliche Fähigkeiten übersteigen, werden langfristig vermutlich strukturelle Veränderungen auf staatlicher (und internationaler) Ebene nötig sein
  • Wirtschaftspolitik sollte nicht nur das Wachstum steuern, wie es heute die US-Notenbank tut, sondern auch von dem Ziel geprägt sein, Ungleichheit zu verringern und soziale Mobilität zu fördern
  • In einem globalen Kontext, in dem Staaten unterschiedliche Ansätze zur KI-Anpassung verfolgen, sind dramatische Verschiebungen relativer Wirtschaftskraft möglich
• Da KI den Bedarf an menschlicher Arbeit verringert, könnte ein UBI (Universal Basic Income) wichtig werden, wobei Regierungen eine Schlüsselrolle dabei spielen, die Auswirkungen von KI zu regulieren und eine gerechte Vermögensverteilung sicherzustellen
  • Da KI die Arbeitskosten senkt und die Produktivität erhöht, wird die Rolle staatlicher Regulierung bei Vermögensverteilung und der Aufrechterhaltung sozialer Sicherungssysteme entscheidend sein
• Angesichts großer Produktivitätssteigerungen und der Möglichkeit, dass das jährliche BIP-Wachstum in den kommenden 50 Jahren von 2 % auf 4–6 % steigt, könnte das BIP pro Kopf etwa 1 Million Dollar erreichen (bei angenommener jährlicher Wachstumsrate von 5 % über 50 Jahre)
  • Eine deflationäre Wirtschaft lässt heutige nominale Dollar wesentlich weiter reichen
  • Ich glaube, dass es genügend Ressourcen und Wohlstand geben wird, um UBI finanzieren zu können
  • Heute mag UBI wegen wirtschaftlicher Zwänge unrealistisch erscheinen, und tatsächlich hat die Missachtung solcher Zwänge in Ländern wie Argentinien und Venezuela zu Katastrophen geführt. Doch diese Zwänge werden nach und nach abnehmen
• Bei der Empfehlung bestimmter Lösungen oder früher Maßnahmen in kühner oder irreversibler nationaler Größenordnung ist Vorsicht geboten
  • Debatte und Diskussion sind eindeutig nötig. Wir müssen punktuelle Lösungen für diejenigen finden, die unter wachsender Einkommensungleichheit leiden
  • Wir sollten die Veränderungen genau beobachten und in diesem Jahrzehnt fortlaufend kleine politische Anpassungen vornehmen
  • Trotz starker Fortschritte bei der KI-Technologie könnten reale Auswirkungen und tatsächliche Einführung langsamer verlaufen, ähnlich wie im flachen Teil einer exponentiellen Kurve

E. Eine Verbraucherutopie vorstellen

• Es gibt interessante Parallelen zur deflationären Wirkung Chinas auf den Westen in den vergangenen 20 bis 30 Jahren
  • Die Verlagerung von Arbeitskräften ins Ausland führte zum Verlust von zig Millionen heimischen Industriearbeitsplätzen, doch kaum eine Politik konzentrierte sich auf Weiterbildung oder Fürsorge für die Menschen, deren Lebensgrundlage umgestürzt wurde
  • Mit KI und Computer Vision eröffnet sich uns die Chance, Fertigung ins Inland zurückzuholen, ohne die Preise für Güter zu erhöhen, uns von billiger Arbeit in Ländern wie China zu lösen und zugleich produktive politische Maßnahmen für die Verdrängten mitzudenken
  • Chinas deflationärer Einfluss ging in den USA mit sinkender Konsumkraft einher, als Arbeitsplätze ins Ausland verlagert wurden
  • Im Gegensatz dazu dürfte KI-getriebenes deflationäres Wachstum aus allen oben beschriebenen Gründen mit einem Anstieg des Konsums von Gütern und Dienstleistungen einhergehen, also mit einer effektiven Zunahme der Konsumkraft. Die Dynamik dieses Wandels wird schwer vorherzusagen sein
• Stell dir eine Welt vor, in der Wohnen, Energie, Gesundheitsversorgung, Nahrung und Transport fast kostenlos von Maschinen bereitgestellt oder bis vor die Haustür geliefert werden. In diesen Bereichen gibt es keine Jobs mehr
  • Was wären die Hauptmerkmale dieser Welt, und wie wäre es, in ihr zu leben? Zunächst einmal wäre sie eine Verbraucherutopie. Alle genießen einen Lebensstandard, von dem früher nur Könige und Päpste träumen konnten
  • Ich denke, dass in einer künftigen utopischen Gesellschaft ein bestimmtes Lebenshaltungsniveau günstiger sein wird, sodass jemand, der heute 40.000 Dollar im Jahr verdient, real besser leben könnte als jemand, der heute 300.000 Dollar im Jahr verdient
  • Glücklicherweise wird Technologie für Güter und Dienstleistungen sehr viel deflationärer wirken als das Outsourcing nach China in den vergangenen 10 oder 20 Jahren
  • Meine eigentliche Hoffnung ist jedoch, dass unsere Bürger sich, wenn Güter und Dienstleistungen im Überfluss vorhanden sind, stärker darauf konzentrieren, was ihnen wirklich mehr Glück bringt, statt auf noch mehr Konsum, und dass Konsum seltener ein Statussymbol wird

F. Unternehmen vs. Staat

• In einer KI-Welt könnten Tech-CEOs, die diese Technologien kontrollieren, beispiellosen Einfluss auf weltweite Beschäftigung, Wirtschaftsstrukturen und sogar die Verteilung von Wohlstand ausüben
• Ihre Plattformen könnten zu den wichtigsten Vermittlern von Arbeit, Bildung und sozialer Interaktion werden und in vielen Aspekten des Alltags die traditionelle Rolle von Regierungen übertreffen
• Kritiker argumentieren, dass diese Führungskräfte Einfluss ausüben, der dem vieler Staaten entspricht oder sie sogar übertrifft. Als Beleg für diese übermäßige Macht verweisen sie auf die Fähigkeit technologischer Plattformen, den öffentlichen Diskurs zu formen, Wahlen zu beeinflussen und sogar Geopolitik zu prägen
• Diese Bedenken werfen jedoch eine interessante Frage auf, und ich kehre damit zu dem früheren Rahmen einer erzwungenen Wahl zwischen einem aufsteigenden und maximierten China und unseren freieren Gesellschaften und Volkswirtschaften zurück
• Warum sollten wir uns mit dem Einfluss von Tech-CEOs wohler fühlen als mit dem globalen Einfluss eines nicht gewählten Führers wie Xi Jinping? Kein Tech-CEO wird voraussichtlich eine beherrschende oder auch nur wesentliche Beteiligung besitzen, und sie müssen gegenüber Aktionären und Vorständen Rechenschaft ablegen
• Beide üben enorme Macht ohne direkte demokratische Rechenschaft aus, doch es gibt wichtige Unterschiede in ihren Anreizstrukturen
• Tech-CEOs sind trotz all ihrer Mängel letztlich auf die fortgesetzte Unterstützung und Beteiligung von Nutzern, Kunden und Aktionären angewiesen. Um ihre Position zu halten, müssen sie in gewissem Maß auf Marktkräfte und öffentliche Meinung reagieren
• Im Gegensatz dazu kann ein autoritärer Führer wie Xi Jinping die öffentliche Stimmung ignorieren und den Staatsapparat nutzen, um Widerspruch zu unterdrücken und die Kontrolle zu behalten
• Diese Dynamik deutet darauf hin, dass die Macht von Tech-CEOs zwar eindeutig besorgniserregend ist und sorgfältig geprüft werden muss, in Bezug auf Reaktionsfähigkeit gegenüber globalen Stakeholdern aber dennoch einer ungebremsten autoritären Macht vorzuziehen sein könnte

5. Wir können die Zukunft gestalten, die wir wollen

• Die Zukunft, die eintreten wird, ist die Zukunft, in die unsere Gesellschaft dieses mächtige Werkzeug zu lenken beschließt
  • Es wird eine Reihe politischer Entscheidungen sein und keine technologischen, und sie werden von Land zu Land unterschiedlich ausfallen
  • Manche werden es nutzen, andere nicht
  • Wie sollten die Entscheidungen auf individueller und gesellschaftlicher Ebene aussehen?
  • Da unsere grundlegenden Bedürfnisse erfüllt sind, werden sich Zeit, Arbeit, Energie, Ehrgeiz und Ziele aller Menschen auf Immaterielles neu ausrichten:
    • Große Fragen, tiefe Bedürfnisse. Die menschliche Natur wird zum ersten Mal in der Geschichte vollständig zum Ausdruck kommen.
    • Ohne die Beschränkungen physischer Bedürfnisse werden wir zu dem werden, was wir sein wollen
  • Das Wachstum des BIP wird uns in eine „wohlhabende“ Gesellschaft führen, in der wir unsere grundlegende Beziehung zur Arbeit neu definieren müssen
  • Und traditionelle BIP-Messgrößen werden zunehmend zu ungenauen Maßstäben menschlichen Fortschritts werden
  • Und abhängig von den politischen und gesellschaftlichen Entscheidungen, die wir treffen, wird es eine starke Pfadabhängigkeit geben
• Am wichtigsten ist, dass die große Vision, das wohlhabende Leben, das nur 700 Millionen Menschen (10 %) genießen, allen 7,9 Milliarden Bürgern der Welt zugänglich zu machen, endlich in greifbare Nähe rückt
  • Ohne KI wäre es offensichtlich unmöglich, Energie, Ressourcen, Gesundheitsversorgung, Verkehr, Unternehmen und professionelle Dienstleistungen um das Zehnfache zu skalieren. Sie ist der nötige Kraftmultiplikator und das einzige Werkzeug, mit dem sich das ausweiten lässt, was die Glücklichsten heute genießen
  • KI ist notwendig, aber nicht hinreichend
  • Es braucht politische Maßnahmen, die günstige Bedingungen für die damit verbundenen sozialen, politischen und wirtschaftlichen Übergänge schaffen
• KI ist wie frühere mächtige technologische Werkzeuge wie Nukleartechnik oder Biotechnologie ein mächtiges Werkzeug, das für gute oder schlechte Zwecke eingesetzt werden kann
  • Es ist zwingend notwendig, dass wir klug wählen und sie nutzen, um eine „mögliche“ Welt aufzubauen – auf Grundlage gesellschaftlicher Entscheidungen, nicht technologischer
    Wir dürfen nicht aus Angst vor dem Unbekannten auf die Vorteile verzichten
• Ich bin ein Technologie-Möglichkeitsdenker, ein Technologie-Optimist, aber ich setze Technologie mit Umsicht und Rücksicht ein
  • Wie in dem Slogan „No wine before its time“ heißt, braucht es Regulierung, aber keine verfrühte Regulierung
  • Wenn ich auf meine Worte in einem Interview mit der New York Times im Jahr 2000 zurückblicke, werden wir neu definieren müssen, was es bedeutet, ein Mensch zu sein
  • Diese neue Definition sollte persönliche Interpretationen von Menschlichkeit ermöglichen, die nicht auf der Notwendigkeit von Arbeit oder Produktivität beruhen, sondern sich auf Leidenschaft, Vorstellungskraft und Beziehungen konzentrieren

[garangb]

Ich denke, die Aussage „Die Demokratie kann die KI zähmen“ ist kein gesicherter Satz, solange es weder eine Weltregierung noch wirksames internationales Recht gibt. Einzelne Staaten können Regulierungen nicht allzu streng gestalten, wenn sie die Wettbewerbsfähigkeit ihrer KI-Industrie gegenüber anderen Ländern wahren wollen, und internationale Konzerne wie die M7 werden sich unter Berufung auf „Innovation“ und „Gemeinwohl“ weiterhin gegen Regulierung stellen. Zugleich wird die politische Polarisierung uns daran hindern, unsere Kräfte zu bündeln, um KI rechtzeitig und zum angemessenen Zeitpunkt in den Griff zu bekommen.

[readiz]

Ich habe es mit Interesse gelesen. Ich glaube nicht, dass man den Text unter dem Gesichtspunkt von richtig oder falsch betrachten sollte. Es ist eben nur die Perspektive des Autors.

[kraker]

Die Konzentration von Wohlstand bei Unternehmen ließe sich politisch lösen
Dieser Teil wirkt mir viel zu rosarot
Politik ist immer hinterhergelaufen, und ich mache mir Sorgen, wie die Gesellschaft diese schnellen und gewaltigen Veränderungen verkraften soll.

[kraker]

• Das Tempo des technologischen Fortschritts ist zu hoch.
• Politische Entscheidungsprozesse sind komplex und dauern lange.
• Die Zukunft lässt sich nur schwer vorhersagen.
• Konflikte mit bestehenden Interessenlagen sind unvermeidlich.

[koreaisbest]

Wenn der Mensch nicht gebraucht wird, warum sollte man ihm dann dienen? Könnte das nicht dieselbe Illusion sein wie die Vorstellung, dass der Gott, der den Menschen erschaffen hat, dem Menschen überlegen sein müsse?

[lcanon]

Wie erwartet gibt es wieder keine Erwähnung des Klimas. Außerdem frage ich mich, warum es gerechtfertigt sein soll, mit Gerede über nicht gewählte Anführer ausgerechnet Technologien der Gesellschaft faktisch aufzuzwingen, denen die Mehrheit tatsächlich nicht einmal zustimmt.

[savvykang]

Ich finde es insgesamt schwer, dem Text zuzustimmen, weil sich der Autor nur auf das Potenzial gesellschaftlicher Veränderungen durch AI konzentriert und nicht alle notwendigen Bedingungen für solche Veränderungen berücksichtigt.

---

AI kann fast jedem Kind auf der Erde nahezu kostenlose AI-Tutoren und allen Menschen nahezu kostenloses medizinisches Expertenwissen bereitstellen

Letztlich werden wir als Menschen entscheiden, welche Aufgaben wir Menschen zuweisen und was wir selbst wählen werden

Ich denke, das Wesen der Medizin erschöpft sich nicht darin, bloß medizinisches Wissen bereitzustellen, sondern liegt darin, unter Berücksichtigung von Evidenz und Situation Entscheidungen über Wirksamkeit, Risiken und Prognosen verschiedener Behandlungsmethoden zu treffen. Bis Expertensysteme das Vertrauen der breiten Öffentlichkeit gewinnen, müssen sich statt bloßem Optimismus zahlreiche Belege, gescheiterte Fälle und Erfahrungswerte ansammeln.

---

AI kann auch die physische Distanz zwischen uns verringern

Wir können in den meisten Städten den Großteil der Autos durch ein AI-basiertes autonomes, persönliches Schnellverkehrssystem und autonome Fahrzeuge für die letzte Meile ersetzen und so die Passagierkapazität bestehender Straßen um das Zehnfache erhöhen

Damit sich physische Distanzen weiter verringern, reicht nicht allein die Entwicklung von Verkehrsmitteln; es braucht auch Stadtplanung und Veränderungen im Straßennetz passend zu den fortschrittlicheren Transportmitteln. Wenn man sieht, dass große Städte in Europa und den USA ihre ursprüngliche Stadtplanung kaum verlassen können und noch immer die bei ihrer Gründung angelegten Straßennetze nutzen, lässt sich die physische Distanz in allen Metropolen nicht allein durch bessere Verkehrsmittel verringern. Bereits bestehende Städte zu verändern ist wegen der enormen finanziellen Belastung und der Unsicherheit wenig wahrscheinlich; eher werden neu entstehende Städte von den Fortschritten im Verkehr profitieren.

---

• Vor 20 Jahren stellte das Journal Lancet fest, dass in 42 Ländern, auf die 90 % der weltweiten Kindersterblichkeit entfallen, 63 % der Todesfälle von Kindern durch wirksamere Primärversorgung hätten verhindert werden können, was 6 Millionen Leben pro Jahr entspricht. AI kann dies nahezu kostenlos machen

  • In westlichen Ländern gilt die Vermeidbarkeit von Krankheiten wie Durchfall, Lungenentzündung, Masern, Malaria und der Übertragung von HIV/AIDS vor, während und nach der Geburt als selbstverständlich
  • Es gibt keinen realistischen Weg, genügend menschliche Ärzte für die Primärversorgung bereitzustellen, um alle Kinder in den benachteiligteren Regionen der Welt zu erreichen und die Kontaktpunkte zu erhöhen

Infektionskrankheiten lassen sich nicht allein durch besseren Zugang zu medizinischer Versorgung verhindern; gleichzeitig müssen auch öffentliche Gesundheit und Hygiene verbessert werden, und dafür braucht es begleitende staatliche Dienstleistungen wie Wasser- und Abwassersysteme.

---

AI kann dazu beitragen, eine gerechtere und gleichere Gesellschaft zu schaffen, indem sie faire Entscheidungsprozesse gewährleistet, Vorurteile reduziert und Transparenz in der Governance fördert

AI kann Probleme von Psychologie und Werturteilen wie kognitive Verzerrungen oder Vorurteile, Konflikte, Chancengleichheit und Umverteilung von Wohlstand nicht stellvertretend lösen.

---

Darüber hinaus ermöglichen Low-Code-, No-Code- und Natural-Language-Plattformen Menschen ohne tiefgehendes technisches Fachwissen, AI-Lösungen einfacher denn je zu erstellen und bereitzustellen

Mit Low-Code-Plattformen lässt sich die Arbeit leicht beginnen, aber je mehr Anforderungen hinzukommen und je komplexer die Abhängigkeiten werden, desto schwieriger wird es, effiziente und ausgereifte Ergebnisse zu erzielen.

---

Arbeitskosten oder Kapitalkosten können durch einfache Regeln, Regulierung, Gesetze oder Änderungen von Steuerstrategien wie Kapitalertragsteuer oder MLP effektiv verändert werden

Dass alle Politiker und politischen Entscheidungsträger wie der Autor denken und entsprechende Maßnahmen umsetzen, ist äußerst unwahrscheinlich.

---

• Ihre (die Plattformen der Tech-CEOs) könnten zu den wichtigsten Vermittlern von Arbeit, Bildung und sozialer Interaktion werden und dabei in vielen Bereichen des Alltagslebens möglicherweise die traditionelle Rolle des Staates übertreffen
• Diese Bedenken werfen jedoch interessante Fragen auf, und ich kehre zu dem früheren Deutungsrahmen einer erzwungenen Wahl zwischen einem aufstrebenden und maximierten China und unserer freieren Gesellschaft und Wirtschaft zurück
• Tech-CEOs sind letztlich trotz aller Mängel auf die anhaltende Unterstützung und Beteiligung von Nutzern, Kunden und Aktionären angewiesen

Die Diskussion über die Maßnahmen der EU gegen die Wirkungsmacht amerikanischer Big-Tech-Unternehmen und über deren Angemessenheit läuft derzeit weiter und hat nichts mit der totalitären Regierung Chinas zu tun.

[xguru]

Irgendwie vergleiche ich den Text unweigerlich mit Sam Altmans The Intelligence Age.
Statt einfach nur zu sagen, dass alles gut laufen wird, fand ich es besser, dass es anhand verschiedener Beispiele erklärt wurde.
Es wurden Perspektiven angesprochen, an die ich bisher nicht gedacht hatte, und ich habe viele Anregungen daraus mitgenommen.

Khosla Ventures gilt als der beste VC, gewählt von Gründern. https://www.founderschoicevc.com/

[nowdoit7]

Wenn Sam Altmans Text eher an ein marktschreierisches „Es wird schon irgendwie gutgehen“ erinnert, fand ich diesen Artikel gut, weil er viele unterschiedliche Denkanstöße bietet.

Im Moment scheint die Beziehung noch so zu sein, dass der Mensch der Herr und die AI der Diener ist. Aber wenn man sieht, wie frustrierend es sich anfühlt, wenn ChatGPT wie heute einmal nicht funktioniert, kommt man ins Grübeln, wer hier eigentlich Herr und wer Diener ist.

Und natürlich werden AI-Unternehmen gewaltige finanzielle Mittel und politische Macht erlangen. Deshalb scheint es mir, dass auf dem Weg zu einer Utopie auf Grundlage eines gesellschaftlichen Konsenses enorme gesellschaftliche Kosten entstehen werden.

Natürlich wäre es schön, wenn alle Menschen ethisch und gut wären. Aber wenn man an die Vergangenheit denkt, in der das im Zeitalter des Menschen nur selten der Fall war, macht es mich traurig, dass ich als einzelner Mensch vor diesem gewaltigen Umbruch so klein und hilflos dastehe.