Der wichtigste Wert von KI entsteht eher durch breit angelegte Automatisierung als durch F&E

• Allgemein ist die Sicht weit verbreitet, dass der wirtschaftliche Wert von KI vor allem durch die Automatisierung von Forschung und Entwicklung (F&E) entstehen wird
  • Dario Amodei argumentiert, dass KI positive Auswirkungen auf F&E in Biologie, Neurowissenschaften und Ökonomie haben werde
  • Demis Hassabis erklärt, dass KI durch F&E zur Gesellschaft beitragen werde, etwa indem sie alle Krankheiten heilt und Energieprobleme löst
  • Sam Altman erwähnt, dass KI wie Halbleiter alle Branchen beeinflussen könne, ihr größter Einfluss aber auf den wissenschaftlichen Fortschritt liegen werde
• Obwohl F&E zum langfristigen Wirtschaftswachstum beiträgt, wird ihr Beitrag überschätzt
  • Laut dem U.S. Bureau of Labor Statistics (BLS) machten die privaten F&E-Ausgaben von 1988 bis 2022 nur 0,2 % pro Jahr des Wachstums der totalen Faktorproduktivität (TFP) aus
  • Öffentliche F&E-Ausgaben machen etwa 25 % der gesamten F&E-Ausgaben aus, und der gesamte Beitrag der F&E zum TFP-Wachstum liegt bei etwa 0,4 % pro Jahr
  • Nur rund 20 % des Wachstums der Arbeitsproduktivität entstehen durch F&E; der Rest geht auf Kapitalakkumulation, bessere Unternehmensführung, Lerneffekte usw. zurück
• Die meisten F&E-Tätigkeiten erfordern zusammengesetzte Fähigkeiten statt bloß einfacher logischer Schlussfolgerung
  • Beispiele: Agency, multimodale Verarbeitungsfähigkeiten, langfristige Konsistenz
• Ein KI-Niveau, das die Arbeit von Forschenden vollständig automatisieren kann, würde bedeuten, dass auch in den meisten anderen Wirtschaftsbereichen Automatisierung möglich ist → Potenzial für deutlich größeren wirtschaftlichen Wert

Der wichtigste wirtschaftliche Wert von KI wird aus breit angelegter Arbeitsautomatisierung kommen

• Zwei Behauptungen über den wirtschaftlichen Wert von KI
  • ✅ Die Automatisierung von F&E kann die jährliche Wachstumsrate der Wirtschaft um mehrere Prozentpunkte erhöhen
    • Wenn eine Technologie F&E vollständig automatisieren kann, ist eine erhebliche wirtschaftliche Wertschöpfung möglich
    • Sie kann sehr wahrscheinlich einen bedeutenden Beitrag zum Wirtschaftswachstum leisten
  • ❌ Der größte wirtschaftliche Wert von KI wird aus der Automatisierung von F&E kommen
    • F&E ist wertvoll, wird aber voraussichtlich nicht der Kernmotor des durch KI getriebenen Wachstums sein
    • Selbst nachdem KI die menschliche Leistungsfähigkeit übertroffen hat, ist es unwahrscheinlich, dass die F&E-Automatisierung der wichtigste Faktor der wirtschaftlichen Wertschöpfung sein wird
• Messung des tatsächlichen wirtschaftlichen Werts von F&E
  • Laut Daten des U.S. Bureau of Labor Statistics (BLS):
    • Wachstum der totalen Faktorproduktivität (TFP) von 1988 bis 2022: 0,8 % pro Jahr
    • Beitrag der privaten F&E: 0,2 % pro Jahr → etwa 25 % des gesamten TFP-Wachstums
    • Wachstum der Arbeitsproduktivität: 1,9 % pro Jahr → der Beitrag der F&E beträgt nur rund 20 %
  • Öffentliche F&E-Ausgaben machen etwa 25 % der gesamten F&E-Ausgaben aus
    • Die externen Effekte öffentlicher F&E und die externen Effekte privater F&E heben sich gegenseitig auf
    • Dadurch liegt der gesamte F&E-Beitrag bei rund 0,4 % pro Jahr
• Zusammenhang zwischen Kapitalakkumulation und Produktivitätswachstum
  • Kapitalakkumulation macht rund 50 % des Wachstums der Arbeitsproduktivität aus
  • Das restliche Wachstum entsteht durch bessere Unternehmensführung, Lerneffekte, Wissensverbreitung usw.
  • Verhältnis von Kapitalakkumulation zu F&E-Investitionen in der US-Wirtschaft:
    • Jährliche Kapitalinvestitionen: 5 Billionen US-Dollar
    • Jährliche private F&E-Investitionen: 1 Billion US-Dollar
    • Kapitalinvestitionen sind etwa fünfmal höher als F&E-Investitionen
• Die Produktionselastizität der Arbeit (0,6) ist etwa fünfmal höher als die Produktionselastizität der F&E
  • Die Automatisierung von Arbeit kann wirtschaftlich einen größeren Beitrag leisten
  • Wenn man den größten Kostenblock der heutigen Wirtschaft — die Arbeit — automatisiert, lässt sich der wirtschaftliche Wert maximieren
  • Der durch Arbeitsautomatisierung entstehende Überschuss an Output kann erneut in Kapital investiert werden und so weiteres Wachstum ermöglichen
• Es gibt auch die Behauptung, dass die Wachstumseffekte von F&E unterschätzt wurden
  • Externe Effekte der F&E oder Reibungsverluste durch doppelte Forschung wurden womöglich nicht berücksichtigt
  • Laut der Studie von Bloom et al. (2020) gilt jedoch:
    • Die Produktionselastizität von F&E-Investitionen beträgt 0,3, liegt also in der Nähe von Kapital und nur bei der Hälfte von Arbeit
• Insgesamt wird das aktuelle Wirtschaftswachstum hauptsächlich durch andere Faktoren als F&E getragen

Allein die Automatisierung von KI-F&E dürfte die KI-Entwicklung nicht dramatisch beschleunigen

• Der wirtschaftliche Wert von KI-F&E ist womöglich nicht so groß wie erwartet, aber wenn KI ihre eigene F&E automatisiert, könnte das dennoch wichtige Auswirkungen haben
  • Wenn KI ihren eigenen Software-F&E-Prozess automatisieren kann, könnte eine software-only singularity entstehen
  • Auf Basis fixer Rechenressourcen könnten KI-Forschende ihre Algorithmen selbst verbessern und dadurch mehr KI-Forschende hervorbringen, was weitere Software-Fortschritte ermöglicht
• Die Schlüsselvariable ist, wie schnell die Kosten für das Finden neuer Ideen steigen
  • Die Annahme, dass sich viele Ergebnisse in der Software-F&E allein durch den Einsatz von Forschenden erreichen lassen, ist essenziell, aber wahrscheinlich nicht zutreffend
  • Ein realistischeres Modell ist, dass Forschungsergebnisse durch die Komplementarität von kognitivem Aufwand + Daten entstehen
• Bei KI steigen experimentbasierte Rechenleistung und das Tempo der Softwareentwicklung derzeit schnell, nämlich um etwa das 3- bis 4-Fache pro Jahr
  • Softwarefortschritte entstehen über experimentbasierte Daten → Daten könnten ein wichtiger komplementärer Faktor zur Forschungsarbeit sein
• Wenn beide Inputs (kognitiver Aufwand + Daten) komplementär sind, können Rechenressourcen zum Flaschenhals werden
  • Letztlich könnte physische Arbeit nötig werden, um mehr GPUs zu beschaffen und zu produzieren
  • Das bedeutet, dass KI breit in der Halbleiter-Lieferkette und in der Gesamtwirtschaft eingesetzt werden müsste
• Wie tragfähig eine software-only singularity ist, hängt davon ab, wie stark diese Komplementarität ausfällt
  • In anderen Industrien ist Komplementarität in der Regel stark → in der KI-F&E dürfte sie daher ebenfalls stark sein
    • Beispiel: In der Studie von Oberfield und Raval (2014) beträgt die Substitutionselastizität zwischen Kapital und Arbeit im US-Verarbeitenden Gewerbe 0,7
    • Das deutet darauf hin, dass eine software-only singularity bei Effizienzverbesserungen wahrscheinlich unter einem Faktor 1 enden würde
• Trotz Automatisierung beim Programmieren und bei Forschungsgeräten hat sich der wissenschaftliche Fortschritt bislang nicht sprunghaft beschleunigt
  • Entwicklung spezialisierter Bibliotheken → Automatisierung von Programmierarbeit
  • Beschleunigtes Coding mit LLM-Tools → nur teilweise Wirkung
  • Automatisierung physischer Versuchsanlagen → nur schrittweise Verbesserungen statt rasanter wissenschaftlicher Durchbrüche

Für die vollständige Automatisierung von F&E sind sehr breit gefächerte Fähigkeiten nötig

• Die Arbeit von Wissenschaftlerinnen und Wissenschaftlern kann oberflächlich betrachtet wie eine Reihe abstrakter Denkaufgaben wirken, etwa Ideengenerierung, Hypothesenbildung, Datenanalyse, Coding, mathematisches Schlussfolgern
  • Deshalb entsteht die Erwartung, dass die Arbeit von Forschenden schnell automatisiert werden könnte, sobald Modelle mit abstraktem Denkvermögen verfügbar sind
  • Tatsächlich erfordert die Arbeit von Forschenden aber weitaus komplexere Fähigkeiten als bloßes Schlussfolgern
• Beispielhafte Tätigkeiten von Medical Scientists
  • Umgang mit toxischen Stoffen, Bewertung von Arzneimittelwirkungen, Planung und Durchführung von Krankheitsforschung, Analyse von Zellproben erfordern keine bloße Schlussfolgerung, sondern komplexe Fertigkeiten und den Einsatz spezialisierter Geräte
  • Standardisierung von Medikamentendosierungen, Anleitung medizinischer und experimenteller Verfahren, Verfassen von Fachartikeln, Beantragung von Forschungsgeldern haben vergleichsweise höheres Potenzial für eine auf Schlussfolgern basierende Automatisierung
  • Unter den fünf wichtigsten Tätigkeiten von Medical Scientists ist nur eine allein durch Schlussfolgern automatisierbar
  • Von insgesamt 14 Tätigkeiten werden nur sechs als allein durch abstraktes Schlussfolgern automatisierbar eingeschätzt
• Der Kern der Forschungsarbeit besteht nicht aus einfachem Schlussfolgern, sondern umfasst zusammengesetzte Fähigkeiten wie:
  • Bedienung technischer Geräte → Fähigkeit zum Umgang mit komplexen Versuchsanlagen
  • Teamarbeit → Fähigkeit zur Zusammenarbeit und Abstimmung mit menschlichen Forschungsteams
  • Langfristige Ausführung → Fähigkeit, komplexe Projekte über lange Zeiträume umzusetzen
  • Manipulation der physischen Umgebung → Fähigkeit zu physischen Eingriffen in Experimenten und praktischer Arbeit
• Es wird erheblich Zeit brauchen, bis KI alle zusammengesetzten Fähigkeiten erlernt, die für Forschungsarbeit nötig sind
  • Daher ist es wahrscheinlich, dass allgemeine Arbeitsautomatisierung früher eintritt als die Automatisierung von Forschungsarbeit
  • Die Annahme, KI werde zuerst wissenschaftliche Durchbrüche erzielen und sich dann auf andere Branchen ausbreiten, ist wenig realistisch
  • Ein realistischeres Szenario ist, dass KI zunächst breit angelegte Arbeitsautomatisierung erreicht und sich wissenschaftlicher sowie technologischer Fortschritt erst danach beschleunigt
• Selbst wenn KI den wissenschaftlichen Fortschritt beschleunigt, dürfte das eher durch die Automatisierung des Aufbaus von Forschungsinfrastruktur geschehen als durch den Ersatz von Forschenden
• Weil die Automatisierung von F&E am heutigen Wirtschaftswachstum keinen großen Anteil hat, wird KI das Wachstum wahrscheinlich eher durch die Automatisierung von Nicht-F&E-Arbeit antreiben

Der Durchbruch von KI dürfte breit und deutlich sichtbar ausfallen

• Schon bevor die wirtschaftlichen und technologischen Effekte von KI voll durchschlagen, dürfte KI-Automatisierung in breiter und deutlich sichtbarer Form auftreten
• Breit angelegt (Diffuse) → KI-Automatisierung wird nicht auf bestimmte F&E-Berufe beschränkt sein, sondern die gesamte Wirtschaft weitreichend beeinflussen
• Deutlich sichtbar (Salient) → Die Auswirkungen von KI werden wahrscheinlich so groß sein, dass die meisten Menschen sie klar wahrnehmen, und sie könnten massive Verwerfungen am Arbeitsmarkt auslösen

• Der wichtigste wirtschaftliche Effekt von KI wird nicht aus F&E-Automatisierung, sondern aus breit angelegter Automatisierung kommen

  • Es ist unwahrscheinlich, dass die transformative Wirkung von KI auf die Welt aus expliziter F&E-Automatisierung entsteht
  • Vielmehr wird breit angelegte Arbeitsautomatisierung der Hauptmotor wirtschaftlicher und technologischer Entwicklung sein

• Ein realistisches Szenario für den KI-Durchbruch

  • 1. Ausweitung des Aufgabenspektrums von KI
    • KI wird schrittweise den Bereich der Aufgaben erweitern, die sie erledigen kann
    • Dieser Prozess wird wahrscheinlich vor allem durch den Ausbau der Recheninfrastruktur getrieben
  • 2. Breit angelegte Arbeitsautomatisierung in der gesamten Wirtschaft
    • KI wird nach und nach immer mehr unterschiedliche Arbeitsaufgaben automatisieren
    • Das wird letztlich zu beschleunigtem Wirtschaftswachstum führen
  • 3. Umfassende Veränderungen am Arbeitsmarkt
    • Noch bevor KI wirtschaftliche oder technologische Durchbrüche schafft, wird es wahrscheinlich bereits eine Welle der Arbeitsautomatisierung geben
    • In diesem Prozess wird der Arbeitsmarkt grundlegend umgestaltet, und die öffentliche Wahrnehmung von KI wird sich verändern
  • 4. Breit angelegte Automatisierung von Nicht-F&E-Arbeit als Hauptmotor des Wachstums
    • Selbst wenn KI wirtschaftliches und technologisches Wachstum beschleunigt, wird dies durch die Automatisierung von Nicht-F&E-Arbeit geschehen
    • Die Automatisierung von F&E dürfte beim Wachstum einen relativ kleinen Anteil haben

• Szenario einer „allgemeinen Automatisierungsexplosion“

  • Der KI-Durchbruch wird wahrscheinlich nicht die Form annehmen, dass „Genies in Laboren explosionsartig F&E-Ergebnisse produzieren“
  • Stattdessen wird der KI-Durchbruch eher die Form einer breit angelegten Automatisierungsexplosion haben
  • Nicht Leistungen in einzelnen Bereichen, sondern Umfang und Ausmaß der allgemeinen Automatisierung durch KI werden der wichtigste Wachstumstreiber sein

Zentrale Implikationen

• In naher Zukunft dürfte es für KI-Labore profitabler sein, sich auf die Automatisierung allgemeiner Aufgaben zu konzentrieren
  • Zum Beispiel: Browsen im Internet, Bedienen kommerzieller Software, allgemeine Bürotätigkeiten
  • Die Automatisierung allgemeiner Aufgaben hat wahrscheinlich größeres wirtschaftliches Wertschöpfungspotenzial als die Entwicklung hochgradig schlussfolgernder Modelle für Dinge wie Unterstützung in Biologie- und Medizinforschung
  • Daher könnte es wichtiger sein, bei der Bewertung von KI-Leistung eher die Fähigkeit zur Ausführung allgemeiner Aufgaben als F&E-Ergebnisse zu verfolgen
• Bevor KI transformative Wirkungen auf die Welt entfaltet, wird sich die öffentliche Wahrnehmung von KI wahrscheinlich bereits stark verändern
  • Noch bevor Ergebnisse wie durch KI getriebenes Wirtschaftswachstum oder eine Verlängerung der menschlichen Lebensspanne sichtbar werden, dürfte es bereits massive Verwerfungen durch Arbeitsautomatisierung geben
  • Deshalb ist es riskant anzunehmen, dass die heutige öffentliche Wahrnehmung von KI langfristig bestehen bleibt
• Es ist unwahrscheinlich, dass KI alle menschlichen Aufgaben auf einmal ersetzt → wahrscheinlicher ist schrittweise Automatisierung
  • Über mehrere Jahre hinweg wird KI menschliche Arbeit wahrscheinlich nach und nach automatisieren
  • Gegenüber dem Szenario einer plötzlichen Superintelligenz-Explosion durch KI-F&E-Automatisierung ist ein gradueller Übergang realistischer
  • Selbst wenn KI Menschen in bestimmten Aufgaben übertrifft, könnten Menschen bei anderen komplementären Aufgaben weiterhin im Vorteil bleiben
• KI wird letztlich in den meisten wirtschaftlichen Tätigkeiten des Menschen überlegen sein
  • Das wird jedoch wahrscheinlich erst nach jahrzehntelanger schrittweiser Automatisierung eintreten
  • Die Beschleunigung des Wirtschaftswachstums wird stärker aus allgemeiner Aufgabenautomatisierung als aus F&E-Automatisierung kommen

[redcrash0721]

https://freederia.com/%ed%94%84%eb%a1%ac%ed%94%84%ed%8a%b8-%ea%b0%a4%e… Ich teste gerade die R&D-Automatisierung. Es wird nicht einfach, aber es ist wohl keine ferne Zukunft.

[GN⁺]

Hacker-News-Kommentare

• Ich frage mich, ob noch jemand Technologieoptimismus wirklich deprimierend findet. Nicht nur wegen des Aspekts, dass Technik Menschen ersetzt, sondern auch, weil ich mich nicht für Hype begeistern kann, dessen Umsetzungschancen gering erscheinen

  • Es fühlt sich nicht so an, als würde das der Gesellschaft einen echten Nutzen bringen

• Es überrascht mich, dass unter den inzwischen fast 300 Kommentaren niemand Constraint Programming (CP) erwähnt. CP ist das deterministische Geschwister probabilistischer, datenbasierter KI

  • Ich vermute, dass nur 6 von 14 Aufgaben allein durch abstraktes Schlussfolgern erledigt werden können. Nur eine der für medizinische Wissenschaftler wichtigsten Aufgaben wird als ausschließlich von abstraktem Schlussfolgern abhängig eingeordnet
  • Die meisten wichtigen Aufgaben erfordern technische Fertigkeiten, ausgefeilte Koordination mit anderen Menschen, den Einsatz spezieller Geräte, die Fähigkeit, lange Kontexte zu verarbeiten, und ein komplexes multimodales Verständnis
  • Fast alle 14 F&E-Aufgaben sind für datenbasierte KI mit abstraktem Schlussfolgern ungeeignet und mit CP lösbar
  • Der Begründer moderner Logik, Optimierung und Constraint Programming ist George Boole, der Großvater von Geoffrey Everest Hinton

• Dieser Artikel verliert hier für mich jede Glaubwürdigkeit

  • Die Behauptung, dass „nur 20 % des Wachstums der US-Arbeitsproduktivität seit 1988 durch F&E-Ausgaben getrieben wurden“, ist so, als würde man sagen, Jeff Deans Nettovermögen beruhe nicht auf seinen Programmierfähigkeiten, sondern auf der Kapitalvertiefung seines Bankkontos
  • Die Autoren hantieren auf einem so abstrakten Niveau mit Begriffen, dass sie den Kontakt zu dem verlieren, worüber sie sprechen

• Wenn man den Klassiker von 2015 über die Einführung von Technologien noch nicht gelesen hat, ist er lesenswert

  • Es fühlt sich an, als befänden wir uns bei GenAI noch immer in der Erkundungsphase, während ML eher in der Einführungsphase zu sein scheint

• Das typische Silicon-Valley-Argument lautet, dass F&E „komplex“ sei und alles andere „einfach“

  • Vor zehn Jahren wäre man erstaunt gewesen, wenn man gesagt hätte, dass KI in Mathematik/Code besser sein könne als 99 % der Menschen, während das Bestellen eines Hotdogs bei DoorDash der Stand der Technik und nahezu unmöglich sei
  • Ich stimme zu, dass „allgemeine“ Aufgaben wertvoller sind, aber die Behauptung, diese Aufgaben ließen sich leicht automatisieren, ist eine Perspektive, die auf Unwissen beruht
  • RPA gibt es seit mehr als zehn Jahren, wird aber für viele Aufgaben nicht genutzt. Bei KI ist es genauso, und ohne großflächigen, unbegrenzten Zugriff auf Daten wird nichts automatisiert werden

• Sie streiten darüber, ob F&E oder allgemeine Automatisierung den größeren Nutzen bringen wird. Ich frage mich, was der Sinn dieser Debatte überhaupt ist

  • Die Kluft zwischen laufenden Fortschritten (z. B. alphafold) und dem Versuch, aus historischen Statistiken wie F&E-Investitionen, Quoten und geschätzten vergangenen Effekten eine Antwort abzuleiten, ist seltsam
  • KI selbst und die fortlaufenden Durchbrüche sind F&E

• Es ist, als ob industrielle Revolution und Agrarrevolution noch einmal stattfinden. Eine breit angelegte Automatisierung von Arbeit wird keine gesellschaftliche Verbesserung bringen, sondern eine Verbesserung für das Kapital

  • Sie sprechen von „gesellschaftlicher Unruhe“ durch den Ersatz von Arbeit durch KI, schieben das Problem aber als etwas ab, das der Staat lösen müsse
  • Wenn Arbeit wegfällt, frage ich mich, wer dann ihre Produkte kaufen soll und mit welchem Einkommen
  • Das Kapital müsste sich vom Konsum lösen und die Zivilisation vollständig auf höhere Ziele hin neu organisieren, aber das würde bedeuten, die Macht- und Vermögensstrukturen einzureißen, von denen es derzeit profitiert

• Es ist eine Frage des relativen Werts der Produktionsfaktoren. Es geht darum, ob KI den relativen Wert menschlicher Arbeit im Vergleich zu Maschinen, Rohstoffen und Land erhöhen oder senken wird

  • Mein Bauchgefühl sagt, dass der mittlere relative Wert von Arbeit sinken wird, insbesondere bei Wissensarbeitern
  • Es ist wichtig, in reglementierten Berufen geschützt zu sein

• Ich stimme diesem Artikel vollständig zu; es gibt viele Chancen, bei denen Kosten-Nutzen-Rechnungen früher keinen Sinn ergaben

  • Wenn man an die Verbreitung von Excel VBA denkt, würde das für die meisten noch immer als fortgeschrittene Fähigkeit gelten

• Technologieoptimisten müssen die Fragen beantworten, die Menschen aus Mittel- und Unterschicht im Kopf haben

  • Ich frage mich, wie man angesichts einer Zukunft, in der KI massenhaft Arbeitsplätze ersetzt, technologieoptimistisch sein kann
  • Ich frage mich, wie man Miete oder Steuern bezahlen soll, wenn man durch KI massenhaft entlassen wird
  • UBI funktioniert hier nicht zusammen mit steigenden Mieten, Miete, Kinderbetreuungskosten und Steuern; es ist zu unrealistisch und zu idealistisch
  • Es gibt das Narrativ, dass im KI-Zeitalter neue Arbeitsplätze entstehen werden, aber ich glaube, dass KI Arbeitsplätze schneller ersetzen wird, als sie neue schafft
  • Technologieoptimisten gehören zur wohlhabenden Investorenklasse und haben ein Eigeninteresse daran, dieses Narrativ voranzutreiben