Der KI-Fortschritt ist kontinuierlich, doch die Annäherung an den Menschen könnte abrupt erfolgen

• Das Verhältnis von Motor und Pferd wird als Beispiel angeführt, um zu zeigen, dass die funktionale Gleichwertigkeit mit Menschen oder Lebewesen abrupt eintritt und dass die Ersetzung auf menschlichem Niveau in kurzer Zeit erfolgt.
  • Die Effizienz von Motoren verbesserte sich über 10 Jahre hinweg konstant um 20 %, bis zwischen 1930 und 1950 90 % der Pferde in den USA verschwanden.
• Auch bei der Entwicklung von Schach-KI zeigt sich ein ähnliches Muster, bei dem nach Jahrzehnten schrittweiser Verbesserung menschliche Großmeister in kurzer Zeit übertroffen wurden.
• Das KI-Investitionsvolumen wächst weltweit kontinuierlich, und es werden jährlich rund 2 % des US-BIP in KI-Datenzentren investiert.
• Anthropic's Claude ersetzte in nur sechs Monaten den Großteil der Arbeit von Forschenden, wobei die Kosten auf etwa 1/1000 des Menschen sanken.
• Angesichts der Geschwindigkeit des technologischen Fortschritts und der Reichweite der Automatisierung ist möglich, dass die Umgestaltung menschlicher Arbeit schneller voranschreitet als das Schicksal der Pferde früher.

---

Das Verhältnis von Pferd und Motor

• Die Dampfmaschine wurde 1700 erfunden und entwickelte sich über 200 Jahre hinweg stetig, mit einer Leistungssteigerung von etwa 20 % pro Jahrzehnt.
  • In den ersten 120 Jahren nahmen die Pferde diese Veränderung jedoch überhaupt nicht wahr.
  • Zwischen 1930 und 1950 verschwanden jedoch 90 % der Pferde in den USA.
• Der technische Fortschritt war schrittweise, doch die funktionale Gleichwertigkeit mit dem Pferd trat plötzlich ein.

Der Wendepunkt bei Schach und KI

• Die Verfolgung der Entwicklung von Computerschach beginnt 1985, danach verbessert sie sich jährlich um 50 Elo.
  • Im Jahr 2000 erreichte ein menschlicher Großmeister gegen den Computer eine Siegrate von 90 %.
  • Nur zehn Jahre später lag die Siegrate des Computers gegen Menschen bei 90 %.
• Auch die Entwicklung der Schach-KI war kontinuierlich, doch die Leistungsumkehr gegenüber Menschen trat kurzfristig auf.

KI-Investitionen und Wachstumstempo

• Die KI-bezogenen Investitionen steigen weltweit stetig.
  • Aktuell werden jährlich rund 2 % des US-BIP in KI-Datenzentren investiert.
  • In den letzten Jahren hat dieser Wert dauerhaft jedes Mal doppelt so stark zugenommen.
  • Laut unterzeichneten Verträgen wird erwartet, dass diese Entwicklung auch in Zukunft anhält.

Beispiel der Arbeitsersetzung durch Claude

• Als früherer Forscher bei Anthropic war ich dafür zuständig, technische Fragen von Neueinsteigern zu beantworten.
  • Im Jahr 2024 wurden monatlich rund 4.000 Fragen bearbeitet.
  • Im Dezember 2024 erreichte Claude das Niveau, auf einige Fragen zu antworten.
  • Sechs Monate später wurden 80 % aller Fragen von Claude bearbeitet, mit über 30.000 Antworten pro Monat.
• Die Antwortmenge von Claude liegt bei achtfacher Menge gegenüber einem menschlichen Forscher, bei Kosten auf etwa 1/1000 des Menschen.
  • Nach den Kosten pro Wort liegt sie unterhalb der günstigsten weltweit verfügbaren Arbeitskraft.

Geschwindigkeit der Automatisierung menschlicher Arbeit

• Es dauerte Dutzende von Jahren, bis Pferde ersetzt wurden, und einige Jahre, bis Schachmeister verdrängt wurden,
  • doch die KI ersetzte in nur sechs Monaten die wesentlichen Aufgaben eines Forschers.
• 1920 gab es in den USA 25 Millionen Pferde, danach sind 93 % verschwunden.
• Die Automatisierungsgeschwindigkeit durch KI verläuft deutlich schneller als in früheren Industrialisierungsphasen,
  • und es ist möglich, dass der Zeitfenster für menschliche Anpassung deutlich kürzer ist als bei den Pferden.

„Ich glaube, es wird schwer werden, selbst nur eine 20-jährige Übergangszeit zu bekommen, wie sie den Pferden zugestanden wurde."

Vortragskontext

• Der Inhalt ist Teil eines 5-minütigen Lightning Talks, der auf einem Sommer-Workshop 2025 gehalten wurde.
• Es ist die persönliche Einschätzung der Vortragenden und stellt nicht die Position der jeweiligen Organisation dar.

[GN⁺]

Hacker-News-Meinungen

• Wenn ich HN in letzter Zeit lese, bekomme ich langsam eine Art Verfolgungswahn. Ich hätte nie gedacht, einmal einen Beitrag zu sehen, der eine Grafik zum starken Rückgang der Pferdepopulation mit der menschlichen Bevölkerung vergleicht. Noch schockierender war, dass der Beitrag nicht als humanitäre Warnung, sondern aus einer ökonomisch-deterministischen Perspektive geschrieben war. Diese Stimmung, in der Menschen mit Motoren verglichen und nur nach wirtschaftlicher Logik diskutiert werden, ist äußerst befremdlich. Man fragt sich, ob Technik nicht eigentlich die Zustimmung der breiten Öffentlichkeit braucht

  • Ich bin schockiert, wie viele Menschen in der Tech-Branche Menschlichkeit und ihren Hervorbringungen keinerlei Wert beimessen. Ideen, Freundschaft, Liebe, Kunst, Glauben und sogar Kindererziehung durch AI zu ersetzen, hört man inzwischen selbst in Alltagsgesprächen. Eine solche Welt klingt buchstäblich wie die Hölle
  • Der ursprüngliche Beitrag scheint falsch interpretiert worden zu sein. Die Grafik zeigt die Zahl der gehaltenen Pferde, und die Menschen haben einfach aufgehört, Pferde zu kaufen. Es ging nicht um das Aussterben der Pferde, sondern um einen Nachfragerückgang
  • Softwareingenieure neigen dazu, zu sprechen, als wären sie ein galaktisches Gehirn, das die Menschheit aus der Ferne beobachtet. Ich glaube, das kommt daher, dass sie sich selbst als „intellektuelle Wesen“ begreifen und das Internet ihre Verbindung zur menschlichen Gesellschaft geschwächt hat
  • Dass Leute aus der Computerbranche erst jetzt anfangen, sich Sorgen zu machen, kommt reichlich spät. Automatisierung und Digitalisierung erschüttern Arbeitsplätze schon seit Jahrzehnten. Damals hieß es nur „anpassen oder verschwinden“, aber jetzt, wo sie selbst zum Ziel werden, scheint es plötzlich anders zu sein
  • Diese Debatten sind nicht neu. Werke wie Schöne neue Welt und Logan’s Run behandeln technologischen Weltuntergang schon seit fast 100 Jahren. Dass solche Diskurse im AI-Zeitalter wieder auftauchen, ist nur natürlich

• Pferde fressen Futter, Autos fressen Benzin, und LLMs fressen Strom. Aber mehr Rechenleistung allein bedeutet nicht automatisch Fortschritt. LLMs werden nicht jede Aufgabe ersetzen können.

  • Ich stimme der Aussage zu, dass Unternehmen Personal abbauen, um „wertlose Menschen“ zu entfernen, aber die Realität sieht anders aus. Krankenhäuser haben zum Beispiel Sekretärinnen entlassen, und das Ergebnis war, dass Ärzte Zeit mit Verwaltungsarbeit verschwenden mussten
  • Ich bin skeptisch gegenüber der Behauptung, dass AI das Programmieren nicht ersetzen werde. Im Moment sieht es vielleicht noch harmlos aus, aber am Ende könnten wir wie Wile E. Coyote in der Luft hängen
  • Wie die Geschichte von Sekretärinnen oder Stenotypistinnen zeigt, hat Automatisierung der Kommunikation kontinuierlich Menschen ersetzt. LLMs setzen diese Entwicklung nur fort. Sie sind nicht perfekt, aber die menschliche Rolle wird langfristig wohl weiter schrumpfen
  • Der Wettbewerb zwischen Unternehmen treibt ein AI-Wettrüsten an. Firmen, die Menschen vollständig ausschließen, werden am Ende gegen Unternehmen verlieren, die auf Menschen+AI setzen
  • Die meisten Unternehmen haben immer zu viel Arbeit und zu wenig Leute. AI dient dort nur als Beschleuniger der Entwicklungsgeschwindigkeit

• Motoren führen nur einfache mechanische Abläufe aus, aber AI mit menschlicher Anpassungsfähigkeit und Schlussfolgerungsvermögen ist noch weit entfernt. Interessant ist auch, dass das Wort AGI verschwindet und durch Begriffe wie „transformative AI“ ersetzt wird. Im Moment wirkt es eher so, als seien wir ohne große Veränderungen in eine Stagnationsphase eingetreten

  • So wie das Auto die Welt verändert hat, frage ich mich, welche neuen „Straßen“ wir für AI bauen werden. Vermutlich wird es die Strominfrastruktur sein
  • Früher war „AGI“ ein großspuriges Wort, heute ist es ironischerweise eher das Gegenteil
  • Unternehmen verkaufen AI mit Angstmarketing. AGI ist letztlich nur ein Buzzword für IPOs oder Übernahmen
  • Zu sagen, man warte auf AI, die wie ein Mensch lernt, ist sinnlos. Wenn es so etwas bereits gäbe, wären wir längst ersetzt worden
  • Dass Motoren einfach wirken, liegt nur daran, dass wir an sie gewöhnt sind. In Wirklichkeit sind sie komplexe Systeme, genau wie LLMs

• Menschen sind keine bloßen Maschinen. Solange AI dem Menschen nicht in jeder Hinsicht überlegen ist, kann der Mensch weiterhin eine wertvolle Rolle spielen. Die Frage ist, wie gut Gesellschaft und Wirtschaftssystem diesen Wandel aufnehmen können

  • So wie Bankangestellte verschwanden und dadurch letztlich die Gesamteffizienz der Menschheit stieg, könnte auch die Automatisierung langweiliger Büroarbeit am Ende positiv sein. Allerdings muss verhindert werden, dass die Gewinne nur beim Kapital landen
  • AI ist wie eine vampirische Technologie. Sie saugt Daten auf und extrahiert Wert, könnte dabei aber letztlich die Verbindung zur Realität schwächen. Die Eigentümer dieser Technologie müssen unbedingt wieder in Menschen investieren
  • Das eigentliche Problem ist nicht, was Menschen einander bieten, sondern was sie einer kleinen Gruppe Reicher bieten

• LLMs beschleunigen das Onboarding von Berufseinsteigern. Sie übernehmen eine Mentorrolle, die nie müde wird, und stärken das Selbstvertrauen. Dennoch werden die entscheidenden Entscheidungen weiterhin von Menschen getroffen

  • Onboarding sollte ein Prozess sein, in dem man nicht nur das „Was“, sondern vor allem das „Warum“ lernt. LLMs können Kontext und historische Gründe nicht erklären
  • Ein menschlicher Mentor gibt weit mehr als bloße Antworten. Empathie und soziale Verbindung sind wichtig
  • Wenn die Fragen von Neulingen verschwinden, verliert man womöglich auch die Gelegenheit, Probleme in der Dokumentation oder im Code zu entdecken

• Die Geschichte der Menschheit ist auch die Geschichte davon, wie viele Energiesklaven sie sich gesichert hat. Die entscheidende Frage ist, ob AI ihre Zahl vergrößert oder verkleinert

  • AI birgt das Risiko, den Umverteilungsmechanismus menschlicher Arbeit zu zerstören. Wenn der Wert von Arbeit verschwindet, könnten normale Menschen am Ende sogar noch ärmer werden
  • Weil AI meine Arbeitsergebnisse ohne Erlaubnis nutzt, habe ich eher das Gefühl, selbst ein Energiesklave der AI geworden zu sein
  • Manche scheinen sogar gewöhnliche Menschen beseitigen zu wollen. Dahinter steht die kalte Vorstellung, dass mit weniger Menschen auch Ressourcenprobleme gelöst wären

• Früher war es selbstverständlich, Produktivität nicht nach der Anzahl der Codezeilen zu messen

  • Es wäre schön, wenn die nächste Generation von Coding-LLMs darauf trainiert würde, Patches zu erzeugen, die Code reduzieren

• Ich denke, mein Job ist sicher, weil durchschnittliche Entwickler so komplexen Code produzieren. Ich stehe im Zentrum des Teams, weil ich Strukturen entwerfe, die technische Schulden abbauen. Wenn AI Top-Ingenieure wie mich ersetzen kann, dann bedeutet das letztlich auch, dass sie Unternehmergeist ersetzen kann

  • Die meisten Menschen glauben, sie lägen über dem Durchschnitt
  • Ich habe oft das Bedürfnis, ein Projekt an mich zu reißen, halte mich aber aus Rücksicht auf die Kosten menschlicher Beziehungen zurück
  • Dass LLMs komplexen Code erzeugen, liegt nicht daran, dass sie Menschen nachahmen, sondern an ihrem Mangel an Planungsfähigkeit
  • Vielleicht übernimmst du nur deshalb die Führung, weil andere Ingenieure es vermeiden wollen, in Konflikte zu geraten
  • Wenn die Kosten für die Wartung von Code nahezu null wären, wäre Komplexität kein großes Problem

• Kennzahlen wie „Kosten pro Wort“ sind merkwürdig. Die Zahl der Wörter kann kein Maß für Wert sein

  • Solche Kennzahlen spielen AI sogar in die Hände. AI antwortet selbst auf einfache Fragen ausschweifend
  • Anfangs fand ich AI faszinierend, inzwischen bin ich charakterloser Langtexte müde. Am Ende nutze ich sie nur noch als Korrekturwerkzeug
  • Ein Konzept wie „Kosten des Denkens pro Wort“ ist noch merkwürdiger. Meist ist es bloß automatisch vervollständigter Text
  • Interessant ist, dass das nicht bloß irgendwelche Wörter sind, sondern eine Antwort, die von einem Anthropic-Mitarbeiter geschrieben wurde

• Statt AI mit anderen Technologien zu vergleichen, sollte man sie besser als an sich unvorhersehbares Phänomen betrachten. Wie beim Wetter lässt sich nicht sagen, wie es in 20 Monaten aussieht

  • Wie bei Vergleichen mit Pferden oder Schach-Engines könnte ab einem bestimmten Niveau ein abrupter Wendepunkt kommen. Repetitive Büroarbeit dürfte als Erstes verschwinden
  • Jetzt brauchen wir konkrete Diskussionen. Wir müssen Realität statt Hype betrachten
  • Die Entwicklung von AI ähnelt weniger dem Wetter als vielmehr einer Schach-Elo-Kurve. Sie steigt stetig an
  • AI ist keine mechanische Kraft, sondern Informationstechnologie. Man kann sie mit anderen Informationsinnovationen der Menschheit vergleichen — Sprache, Mathematik, Logik, Transistoren. AGI wird menschliche Tätigkeiten wahrscheinlich eher ergänzen als ersetzen. Allerdings gibt es viele Beschränkungen wie Strom, Halbleiter und rechtliche Infrastruktur. Am Ende werden die Fehlermodi und die Stabilität von AGI wohl das spannendste Forschungsthema sein