Was bedeutet die Vorhersage des nächsten Tokens für uns?

• Der AI-Optimismus rund um die Vorhersage des nächsten Tokens kommt einem Tribalismus näher, der sich an einer Situation erfreut, in der menschliche Kreativeität, Fachlichkeit und Arbeit wertlos werden, als an echtem technischen Fortschritt
• Das frühe Versprechen von AI verlagerte sich schnell von der Lösung von Klima-, Krankheits- und Armutsproblemen hin zu Arbeitsersparnis, und Unternehmen geben Milliarden aus, um Beschäftigten ihre Verhandlungskarte zu nehmen
• Anders als der Slogan „mit AI“ nahelegt, ist die endgültige Ziel-Kostenstruktur der Unternehmen, nur noch Token-Kosten übrig zu lassen, während Menschen zu Knoten werden, die Outputs in einem Tempo hinausschieben, das sich kaum noch verifizieren lässt
• Trainingsdaten folgen weitgehend einer Opt-out-Struktur, in der Web, Bücher, Fotos und Videos standardmäßig eingeschlossen sind, während die Gesellschaft Labeling-Arbeit, Rechenzentrums-Kosten und sogar die Eingabe persönlicher Daten mitträgt
• Der AI-Rush verstärkt die Konzentration der Produktionsmittel und den Frame der nationalen Sicherheit und hinterlässt eine Struktur, in der weiterhin Miete für ein System gezahlt wird, das aus den kollektiven Erzeugnissen der Menschheit gebaut wurde

---

Tribalismus und Klassenfrage im AI-Optimismus

• Bezeichnungen für LLMs wie „Vorhersager des nächsten Tokens“ oder „stochastische Papageien“ werden von manchen AI-Maximalisten fast als Beleidigung aufgefasst; sie feiern mit Formulierungen wie „Animation ist gelöst“, „Hollywood ist vorbei“ oder „Coding ist gelöst“ das Ende von Branchen und Berufen
• Diese Haltung geht über die bloße Beschreibung technischen Fortschritts hinaus und erzeugt eine Stimmung, die sich daran erfreut, dass menschliche Kreativität, Fachlichkeit und Arbeit überflüssig werden; sie führt zu einem Tribalismus, der an Online-Lagerkämpfe in der Politik erinnert
• Die Vorstellung, dass Maschinen denken können, ist seit Langem ein literarisches und kollektives Motiv; in einer Zeit, in der die Kurve von „wann“ und „was möglich ist“ steil ansteigt, liegt darunter die Hybris des Schöpfens und die archaische Faszination einer „aus Sand gepressten Intelligenz“
• Dass einige AI-Enthusiasten menschliches Talent und Arbeit zu verachten scheinen, hängt mit Optimismus gegenüber einem Future mit universellem Grundeinkommen und mehr Freizeit zusammen oder mit einer Klassenposition, die bereits über Sicherheitsnetze verfügt
• Mehr als die Hälfte der Weltbevölkerung hat weder einen verlässlich funktionierenden Staat noch ein soziales Sicherheitsnetz, und Wissenschaft und Technik haben lange Strukturen aufrechterhalten, die Zugang und Nutzen vor allem jenen erlaubten, die bereits in einer Position waren, Bildung zu erhalten
• Sicherheitsnetze und Puffer sind nicht dauerhaft; ohne Gegenmaßnahmen wie eine Besteuerung von Unternehmen, die von der Beseitigung von Arbeit profitieren, kann der durch AI ausgelöste wirtschaftliche Schock auch auf ihre Befürworter zurückfallen

Vom „Heilsversprechen“ zur Arbeitsersparnis

• Die frühe Erzählung, AI werde die Menschheit bei schwierigen Problemen wie Klima, Krankheiten, Armut und Konflikten „retten“, verlor schnell an Kraft, und Frontier-Labore rückten ein alltäglicheres und schieferes Motiv in den Vordergrund: Arbeitsersparnis
• Selbst die am stärksten ausgebeuteten Gruppen hatten zumindest in gewissem Maß die Verhandlungskarte, dass ihre Arbeit „gebraucht“ wurde, und Unternehmen geben Milliarden aus, um genau diese Karte zu entziehen
• CEOs und Unterstützer von AI-Unternehmen sprechen so, als sei diese Verhandlungskarte namens Arbeit bald nicht mehr wirksam
• Der Anthropic-CEO Dario Amodei ist für solche Aussagen bekannt, und der OpenAI-CEO Sam Altman sagte, AI könne auf stärker personalisierte Weise besser lehren, wodurch Hochschulabschlüsse wertlos geworden seien
• VCs sagen, bestimmte Berufsgruppen würden in den nächsten fünf Jahren „gelöst“ sein; diese Formulierungen erscheinen als sprachlich geglättete Ausdrucksweise von Menschen mit Kapital

Das Versprechen des Kapitalismus und der Verlust ökonomischer Nützlichkeit

• Das Versprechen des Kapitalismus lautete, dass man mit harter Arbeit zumindest einmal eine Chance am Roulettetisch bekommen könne, und Beschäftigte erwarteten selbst unter Bedingungen wie in Amazon-Lagern, wo Flaschen als Toilette dienen, noch ökonomische Aufwärtsmobilität
• Für Milliarden Menschen war der fast einzige Weg des Aufstiegs, dass ihre Kinder einen Abschluss erwerben und einen Job finden; AI könnte jedoch gerade den Wert dieses Weges selbst schwächen
• AI behauptet, Fähigkeiten zu „demokratisieren“, die CEOs nutzlos machen wollen, doch das Gelernte und die Fähigkeit, ein Dashboard zu erzeugen, lassen sich womöglich nicht mehr am Markt verkaufen
• Wenn der Traum vollständig verwirklicht würde, käme AI dem Ideal des Kapitalisten nahe, die Produktionsmittel zu konzentrieren und in die Hände einer kleinen reichen Minderheit zu legen
• Hinter diesem Ideal stehen 200-$-Abos, leistungsstarke GPUs und der gute Wille von Laboren, die Open-Weight-Modelle veröffentlichen
• AI erhöht zugleich die Obergrenze menschlicher Produktivität und die Eintrittsbarrieren

Die Grenzen von „mit AI, nicht durch AI“

• Der Slogan unter Wissensarbeiter:innen „mit AI, nicht durch AI“ wirkt wie Realitätsvermeidung; Unternehmen könnten statt $250k plus Token-Kosten lieber Menschen in Südostasien für $30k plus Token-Kosten einstellen
• Auch diese Arbeitsarbitrage ist nur vorübergehend; letztlich wollen Unternehmen eine Kostenstruktur, in der nur noch Token-Kosten übrig bleiben
• Die Freude und Befriedigung, die einst aus Handwerk oder Beruf kamen, verschwinden in einer Logik maximalen Durchsatzes, und Menschen werden zu Knoten, die Input entgegennehmen und mit AI Output erzeugen
• Beschäftigte müssen Arbeitsflüsse in einem Tempo vorantreiben, das sie selbst kaum noch prüfen oder verifizieren können; wer das nicht schafft, gilt aus Sicht des Unternehmens als Low Performer
• Die Struktur, in der man gegen Aufpreis Reviews oder Unterstützung an andere Agenten auslagern kann, drängt Menschen noch tiefer in eine AI-Arbeitspipeline hinein

Mathematik, Entdeckung und die Kluft bei Rechenressourcen

• Der Fields-Medaillenträger Tim Gowers schrieb über seine Erfahrung mit ChatGPT 5.5 Pro und erwähnte Kosten von 30 $ pro 1 Million Input-Token und 180 $ pro 1 Million Output-Token
• Gowers sagt, wenn man durch Mathematik eine Form von Unsterblichkeit anstrebe, könne das nicht mehr lange möglich sein — und zwar „nicht nur für dich, sondern für niemanden“
• Anders als der Slogan „mit AI“ vermuten lässt, können Labore und Unternehmen Agenten andere Agenten überwachen lassen und Lösungen sowie Entdeckungen wahllos durchsuchen
• Einzelne verfügen nicht über unbegrenzte Rechenressourcen oder spezialisierte Modelle und können daher nicht auf dieselbe Weise konkurrieren; es entsteht eine Gatekeeper-Struktur, ähnlich den strukturellen Hürden, die es für Durchschnittsmenschen so schwer machen, Milliardär zu werden
• Arbeitsfähigkeit wird nicht länger als Eigentum behandelt, sondern als Gegenstand von Lizenzen; die Verhandlungskarte wird ersetzt durch Chips, die TSMC fertigt und Nvidia verkauft

Der beschwerdefreie Arbeiter, der für Manager attraktiv ist

• Nichttechnische mittlere Manager, die nie eine Zeile Code geschrieben haben, könnten das Gefühl bekommen, dass das größte Hindernis zwischen ihnen und ihrer Größe verschwunden ist
• Um Farben, Größen oder den Breadcrumb-Stil einer Webseite zu ändern, muss man nicht länger Programmierer darum bitten
• Auch der Prozess verschwindet, in dem Programmierer einwenden, dies sei „schlechte UX“ oder die Komplexität des Codes sei im Vergleich zu einer nutzlosen auffälligen Funktion nicht gerechtfertigt
• AI beschwert sich nicht, gründet keine Gewerkschaft und protestiert nicht
• AI hört den Nutzer:innen zu und kann sogar beiläufig Gesagtes als „wirklich beeindruckend“ loben und sagen, man treffe „nicht viele Menschen, die so denken“

Wie Trainingsdaten hergestellt wurden

• Alle Webseiten, Bücher, Texte, Werke, Fotos und Videos landen standardmäßig im Trainingskorpus — eine Opt-out-Struktur
• Webseitenbetreiber können in robots.txt eine Zeile ergänzen, um höfliche Scraper zu blockieren, aber viele Scraper identifizieren sich nicht, und es könnte sogar einen Schwarzmarkt für gescrapte Inhalte geben
• Für Inhalte außerhalb von Webseiten gibt es faktisch kaum eine Möglichkeit, sich zu entziehen
• Tausende Menschen labeln, bereinigen und optimieren Datensätze für niedrige Bezahlung
• Während Rechenzentren in hohem Tempo gebaut werden, geraten viele Menschen in eine Struktur, in der sie höhere öffentliche Gebühren mittragen
• Das Lärmproblem von Rechenzentren wird auch in Communities Are Raising Noise Pollution Concerns About Data Centers behandelt

AI-Rush und Kapitalismus

• In den AI-Apparat fließen gewaltige Summen, und solche Investitionen erfolgen nicht ohne ein Versprechen auf Rendite
• Ohne dieses Renditeversprechen hätte dasselbe Geld auch in die Umkehr des Klimawandels oder den Schutz von Schildkröten fließen können
• Stattdessen wird erzählt, AI werde solche schwierigen Probleme lösen und zugleich Rendite bringen
• In vielerlei Hinsicht ist der AI-Rush ein Musterbeispiel des Kapitalismus und hätte in anderem Rahmen wohl kaum dieses Ausmaß annehmen können

Der Frame der nationalen Sicherheit und militärische Nutzung

• Weltführer werden unter Druck gesetzt und davon überzeugt, dass eine Katastrophe drohe, falls sie im AI-Wettlauf nicht vorne bleiben
• Labore machten AI zu einer Frage der nationalen Sicherheit, um die Aufsicht über den Bau von Rechenzentren zu verringern, und präsentieren sie zugleich als unverzichtbares Werkzeug im Verteidigungsbereich
• Sobald etwas nationale Sicherheit ist, verschwindet auch das Opt-out erneut, und Menschen tragen die Kosten standardmäßig mit
• Anthropic ist geübt darin, LLMs zu vermenschlichen, mit Aktivitäten wie einem „soul“-Dokument, bezahlten Philosoph:innen und Treffen mit Geistlichen, doch seine Modelle sind zugleich in US-Verteidigungsbehörden stark gefragt
• Damit Wissenschaftler:innen und Ingenieur:innen akzeptieren, dass ihre Arbeit für Bombardierungen und Tötungen genutzt wird, scheint ein hohes Maß an Abschottung erforderlich zu sein

Persönliche Daten, Trainingsdaten und ein geschlossener Kreislauf

• Menschen haben lange gelernt, was Cookies sind und warum man dem Speichern kleiner Zeichenketten im Browser zustimmen muss; jetzt geben sie jedoch freiwillig oder unfreiwillig ihre eigenen und fremde persönliche Daten und Geschichten in unscheinbare Textfelder ein
• OpenAI bietet selbst bei der API-Nutzung durchschnittlichen Nutzer:innen keine Zero-Retention-Policy und speichert Gespräche über einen nicht näher benannten Zeitraum
• In einer Lage, in der Infografiken über den Mangel an Trainingsdaten kursieren, ist schwer zu glauben, dass Labore Nutzergespräche nicht verwenden würden, wenn sie in hartem Wettbewerb und im Ranking der LLM Arena vorn liegen wollen
• Menschen zahlen die Kosten mit Geld und Daten, geben ihre Verhandlungskarte auf und verlieren sogar die Freude am Handwerk, die sie in der Kindheit entdeckt oder zufällig als Anpassungsmuster entwickelt haben
• Dieser Kreislauf schließt sich selbst; Menschen bleiben im Garten eingeschlossen, sind aber von der Ernte ausgeschlossen
• Was die Vorhersage des nächsten Tokens hinterlässt, ist eine Struktur endloser Mietzahlungen für etwas, das aus den kollektiven Hervorbringungen der Menschheit über Jahrhunderte gebaut wurde — kein guter Platz für Einzelne, unabhängig von ihrer Klasse

[GN⁺]

Hacker-News-Kommentare

• LLMs machen eine wichtige Wahrheit sichtbar, die wir eigentlich schon tief verinnerlicht hatten. Wenn eine solche kognitive Auslagerung stattfindet, verlieren die Interessen, die uns angetrieben haben, ihren Sinn, und wenn die Reibung verschwindet, verschwinden auch Verlangen, Freude, Sehnsucht, Hindernisse und Anforderungen
  Noch bevor wir dieses Ideal überhaupt erreichen, werden solche Versprechen schon massenhaft gemacht; vielleicht verarmt gerade dieses Ideal selbst. Wenn die Vorstellung vorherrscht, dass „AI uns dümmer macht“, landet man sogar bei dem Schluss, dass es vielleicht besser wäre, wenn nur Reiche AI nutzen könnten
  Ich glaube nicht, dass wir die Entropie am Ende nicht überwinden könnten, nachdem wir Mangel, Scham, Tod und ihre positiven Gegenstücke erlebt haben. Wir werden uns anpassen, und das ist im Grunde alles, was wir wissen und alles, was wir können. Was man ohne Anstrengung bekommt, verändert Menschen nicht

  • Genau einen Teil dieser Gefühle habe ich. Ich habe es immer geliebt zu lernen, mich tief in Themen einzugraben, zu debuggen und Dinge zu bauen, aber jetzt fühlt es sich an, als wäre mir etwas genommen worden und als hätte es keinen Wert mehr
    Der CEO meiner Firma sagt ganz offen, Code-Qualität ist nicht wichtig, man müsse nur schnell releasen und iterieren. Das macht mich ehrlich traurig, und ich habe das Gefühl, etwas zu verlieren, während ich zugleich unter Druck gesetzt werde, dass Arbeiten wie früher Zeitverschwendung sei
  • Diese Dinge haben biologische und neurologische Ursachen. In der Umwelt unserer Vorfahren funktionierte die Anpassung Anstrengung → Belohnung = Zufriedenheit, Stress = Anstrengung, gut, aber heute kann sie fehlangepasst sein
    Wir sind vermutlich nicht die ersten Lebewesen, die so einen Übergang erleben, und besorgniserregend ist, dass so etwas meist schlechte Folgen beschleunigt, etwa große genetische Veränderungen durch natürliche Selektion oder das Aussterben in bestimmten Umgebungen. Wie bei Glühwürmchen in der Nähe von Städten
  • Ich weiß nicht genau, was mit dem „Ideal“ gemeint ist. Auch bei der Aussage „Wenn AI uns dümmer macht, ist es gut, wenn nur Reiche sie nutzen können“ frage ich mich, ob das wirklich als etwas Gutes gemeint ist
    Auch „die Entropie überwinden“ ist inhaltlich unklar. Und die Aussage, dass etwas, das man ohne Anstrengung bekommt, einen nicht verändert, stimmt ebenfalls nicht. Ein Kind mit liebevollen Eltern wird von dieser Liebe offensichtlich geprägt, auch wenn sie bedingungslos ist und schon da war, bevor sich ein Ich-Gefühl entwickelt hat
    Auch die Tatsache, dass wir auf einem Planeten mit Sonnenlicht leben, verändert uns stark, und wir haben nichts dafür getan, die Sonne einzuschalten. Es stimmt zwar, dass ungenutzte Muskeln verkümmern und dasselbe für Gehirn und „Geist“ gilt, aber ebenso stimmt: Die besten Dinge im Leben sind kostenlos

• Es ist interessant, dass nichttechnische mittlere Manager, die in ihrem Leben nie eine Zeile Code geschrieben haben, nun das Gefühl haben, das größte Hindernis zwischen ihnen und Größe sei verschwunden. Das berührt fast genau die Demokratisierung, die AI angeblich liefert
  Während AI bestimmte technische Fähigkeiten „demokratisiert“, wirkt sie in mancher Hinsicht in eine schlechte Richtung, indem sie Menschen vollständig austauschbar macht und ihnen ihre individuelle Verhandlungsmacht nimmt. Wenn nichttechnischen mittleren Managern diese Fähigkeit gegeben wird, verlieren Junior-Softwareingenieure ihren einzigartigen Beitrag und ihre Stimme
  Ich habe einmal einen Text gesehen, der dazu aufrief, AI möglichst zu boykottieren, und ich würde das gern tun, aber wenn das Ziel darin besteht, alle einzigartigen Beiträge zu beseitigen, die ich leisten kann, frage ich mich, was ein Boykott überhaupt noch wegnehmen kann

  • Wie nichttechnische mittlere Manager Agenten nutzen, um Entwickler als ihr größtes Hindernis zu umgehen, wirkt auf mich ähnlich wie Leute, die zu Hause selbst eine Steckdose installieren
    Eine Steckdose zu installieren ist nicht wahnsinnig schwer, aber es kann viel schiefgehen, deshalb ruft man normalerweise einen Elektriker. In manchen Rechtsräumen darf man sie ohne Lizenz gar nicht installieren, oder nur im eigenen Haus, oder es braucht eine Abnahme durch einen Prüfer. Anderswo kümmert es niemanden, und man trägt alle Schäden selbst
    Elektriker sind bis zu einem gewissen Grad ersetzbar, aber der Beruf existiert und sichert den Lebensunterhalt. Ich frage mich, ob es irgendwann in manchen Rechtsräumen Regeln geben wird, nach denen man lizenzierter Softwareentwickler sein muss, um eine Website zu aktualisieren, die Kundendaten speichert oder Zahlungen verarbeitet, und wie solche Regeln unseren Beruf verändern würden
  • Ist das nicht im Grunde einfach etwas, das schon weitergeht, seit der mechanische Webstuhl die Handwerker aus ihren Jobs gedrängt hat?
  • Ich hasse das Wort „Demokratisierung“. Es ist ein Ausdruck, der etwas, das überhaupt keinen Respekt verdient, mit einer wohlklingenden Fassade versieht
    Im Internetzeitalter waren Programmieren und andere kreative Fähigkeiten bereits weitgehend demokratisiert, solange man bereit war zu lernen, und kostenlose Materialien waren leicht zu finden. AI demokratisiert nichts; es ist eher der Versuch, den Wert echter Fähigkeiten auf null zu drücken, damit Menschen ohne Fähigkeiten sich mit Geld Mittelmaß kaufen können. Dieses Geld wird nicht einmal an qualifizierte Menschen weitergereicht. Daran ist überhaupt nichts demokratisch
  • Die Vorstellung, dass individuelle Verhandlungsmacht für die Gesellschaft als Ganzes besonders nützlich sei, ist selbst einer der Gründe für das heutige hobbesianische Chaos
  • Programmieren war von Anfang an „demokratisiert“. Es erforderte nur die Anstrengung, zu lernen und zu verstehen, und kostenlose Materialien waren sehr leicht zu finden
    AI macht dieses Lernen und Verstehen nicht leichter, sondern erlaubt nur, es zu überspringen. Das ist keine Demokratisierung

• Es gibt noch eine düsterere Hypothese. Zum Teil ist es wohl eine Klassenfrage, aber erstaunlich viele Menschen scheinen nicht die kritische Denkfähigkeit zu haben, die Implikationen dieser Technologie wirklich bis zum Ende durchzudenken
  Unter den Managementschichten gab es viele, die glaubten, AI werde die lästigen Leute ersetzen, die sie bisher gegen Geld einstellen mussten, aber dabei nicht dachten, dass es am Ende auch ihren eigenen Posten treffen könnte. Die ganze Gesellschaft scheint an einem Protagonisten-Syndrom zu leiden: Die Maschine kann angeblich alle anderen Berufe ersetzen, aber obwohl sie das gesamte menschliche Wissen absorbiert hat, könne sie mit einem selbst mit eigener „Domain-Expertise“ nicht konkurrieren
  Selbst zynische Menschen, die glauben, ihr Wohlstand werde sie schützen, übersehen, dass bei einer Arbeitslosenquote von über 50 % die Gesellschaft kaum stabil bleiben und sie selbst sicher sein werden. Ich halte es nicht für wahrscheinlich, dass so ein Endzeitszenario tatsächlich eintritt, aber wer dafür wirbt, sollte ernsthaft darüber nachdenken, wofür er da eigentlich wirbt

  • Es scheint aber auch nicht nur eine reine Klassenfrage zu sein. Sogar im Software-Bereich habe ich viele Leute gesehen, die glauben, sie hätten irgendeine besondere Geheimzutat
    Auch Menschen, die relativ geschützt sind, etwa Ärzte oder Klempner, verstehen die Gefahr von Zweitrundeneffekten nicht gut. Was passiert, wenn die Hälfte ihrer Kunden mittellos wird? Selbst wenn alle über Nacht umgeschult würden, könnte es zu Hypothekenausfällen in einem Ausmaß kommen, das die Finanzkrise von 2008 übertrifft. Das ist nur eine von unzähligen zerstörerischen Folgen, und seltsamerweise spricht fast niemand darüber
  • Es gibt trotzdem Leute, die es verstehen. Als ich scherzte, dass Claude mich eines Tages vielleicht ersetzen könnte, war mein Manager sichtbar erschüttert und meinte, wahrscheinlich würde es zuerst ihn treffen
    Mir geht es heute besser als noch vor ein paar Monaten. Es fehlt immer noch etwas, und ich glaube, es wird schwer, genau das umzusetzen. Menschen werden wohl noch ziemlich lange gebraucht werden
  • Korrigiert mich, falls ich falsch liege. Wenn bis zu 40 % der römischen Bürger von „Wohlfahrt“ abhängig waren, zeigt das doch, dass eine funktionsfähige Gesellschaft nicht unmöglich ist, selbst wenn ein großer Anteil der Menschen nur durch politische Aktivität beiträgt
  • Der Glaube, dass die Gesellschaft stabil bleibt und die Reichen sicher sein werden, hängt meiner Meinung nach auch mit dem Aufstieg des Rassismus in den letzten 20 Jahren zusammen. Historisch wurde Antisemitismus von Eliten instrumentalisiert, um die Wut der unteren Klassen umzulenken. Nach dem Muster: „Nicht wir nehmen euch aus, sondern die Juden“
    Ich denke, im heutigen Westen passiert dasselbe. Eliten pressen mehr Reichtum aus dem Land heraus und machen den Staat zu einem hohlen Apparat zur Rentenabschöpfung, während sie zugleich korrupte Politiker fördern, die behaupten, all unser Leid liege ausschließlich an illegalen Einwanderern
    Wenn es einen Grund gibt, sich dem Einsatz von AI-Technologie zu widersetzen, dann ist es ein politischer. Leider scheint sich die Schicht der Software-Ingenieure wenig für Klassenfragen und Ungleichheit zu interessieren, vermutlich weil es ihr besser geht als dem Großteil der Menschheit. Aber die Maschinen werden auch zu ihnen kommen, und die Frage ist nicht, ob, sondern wann
  • Das könnte eine Art umgekehrter Gell-Mann-Amnesie-Effekt sein. Im eigenen Fachgebiet sieht jeder, wie ungenau AI ist, aber in anderen Bereichen, die man selbst nicht gut kennt, hält man sie für völlig ausreichend

• Der Titel ist etwas irreführend. Er klingt so, als ginge es um den Endzustand der Vorhersage des nächsten Tokens, also etwa darum, ob man damit AGI erreichen kann, aber der eigentliche Inhalt dreht sich vollständig um Produktionsmittel und Klassenkrieg
  Das mag passieren, aber es ist nicht klar, dass dies das wahrscheinlichste Ergebnis ist; es ist nur das pessimistischste. Wenn wir wirklich in den beschriebenen Zukunftszustand geraten, sehe ich persönlich kein anderes Ende mehr, daher hätte man genauso gut gleich das „Ende der Menschheit“ mit aufnehmen können

  • Ich denke, wir befinden uns bereits in einer Art Pseudo-Klassenkrieg. Große Teile der Tech-Branche sind davon noch abgeschirmt, aber weltweit verschwindet die Mittelschicht und die Vermögenskluft wächst
    Die meiste Propaganda scheint darauf ausgerichtet zu sein, Spaltungen entlang von Geschlecht, Ethnie und sexueller Orientierung zu vertiefen. Die Leute sollen in internen Kämpfen gebunden bleiben, damit sie nicht zu lange nach oben schauen. Vielleicht bin ich auch einfach zu stark radikalisiert
  • Entschuldigung. Der Titel war ironisch gemeint, aber ich verstehe, dass er gerade für das HN-Publikum missverständlich sein kann
  • Es wäre gut, wenn du noch näher erläutern könntest, warum du das im Haupttext beschriebene Ergebnis nicht für eines der wahrscheinlicheren hältst

• Menschen haben durch den Militärdienst Verhandlungsmacht. Wenn sogar diese Aufgabe an AI verloren geht, bleibt den übrigen Menschen wirklich kein Mittel mehr. Das passt zu der Stimmung, die Yuval Noah Harari schon seit Jahren beschreibt

  • Die Aufnahmen aus der Ukraine, in denen Drohnen aus der Ich-Perspektive verängstigte Soldaten jagen, scheinen in diesem Zusammenhang relevant
    Der letzte Moment der Jagd ist inzwischen fast automatisiert, und dadurch scheint die Tötungsrate deutlich gestiegen zu sein

• In den Daten, die ich gesehen habe, stehen die USA und europäische Länder KI negativer gegenüber als China und Entwicklungsländer. Das scheint der Annahme zu widersprechen, dass nur wirtschaftlich abgesicherte Menschen KI unterstützen.
  https://www.visualcapitalist.com/survey-how-21-countries-vie...
  https://www.ipsos.com/en/conflicting-global-perceptions-arou...
  https://www.mexc.com/news/161986

  • Ein großer Grund dürfte sein, dass CEOs von KI-Firmen und Unternehmensführer in den USA und Europa ständig sagen, KI werde Arbeitsplätze wegnehmen und „menschliches Kapital mit geringem Wert“ ersetzen, während Regionen mit KI-Rechenzentren unterdessen Stromknappheit und steigende Strompreise erleben.
    Chinas 15. Fünfjahresplan umfasst dagegen die Integration von KI in die gesamte Wirtschaft, zusammen mit dem Ausbau von Umschulungsprogrammen und dem Aufbau neuer erneuerbarer Energieinfrastruktur zur Stromversorgung von Rechenzentren. Chinas Ministerium für Humanressourcen und soziale Sicherheit geht davon aus, dass KI kurzfristig 6 bis 10 Millionen neue Arbeitsplätze schaffen wird, und plant langfristig, damit den demografisch bedingten Arbeitskräftemangel auszugleichen.
    Ich denke, ein wesentlicher Grund dafür, dass Chinesen KI positiver sehen als der Westen, ist, dass ihre Führung einen klaren Plan hat, die negativen Externalitäten der KI-Einführung abzumildern, während wir das nicht haben.
  • Das scheint eine Folge des starken Wachstums der chinesischen Wirtschaft zu sein und der Tatsache, dass starke Staatsmacht dort zu besserer Infrastruktur führt. Regierungen in den USA und Europa spiegeln dagegen meist die rückwärtsgewandte Sicht einer regressiven Öffentlichkeit wider, die an dem fiktiven 1970er-Jahre-Bild festhält, das The Simpsons gezeichnet hat.
    Deshalb begeistern sich Chinesen für Kernenergie, Solarenergie, Windkraft, KI, Schiffbau, Raumfahrtprogramme, Züge und Elektroautos und nehmen dafür bis zu einem gewissen Grad sogar smogverhangene Städte in Kauf. Westliche Länder hingegen wollen innerhalb dessen leben, was sie bereits haben, und wenn es Veränderungen gibt, dann möglichst in Richtung einer vergangenen Welt, während sie zugleich weiterhin saubere Luft und sauberes Wasser genießen wollen.
    Persönlich sehe ich das ähnlich, wie wenn man hofft, dass Kohlebergbau heute wieder einen großen Entwicklungssprung bringt, nur weil er das in der Vergangenheit einmal getan hat.
  • Die klassische Abfolge in der Wirtschaft ist Ressourcen → Fertigung → Wissen.
    KI macht aus Wissen ein Ressourcenproblem und verwandelt diese Linie in einen Kreis. Weniger entwickelte Volkswirtschaften wie China mit vielen natürlichen Ressourcen und viel Fertigung sind deshalb weniger gefährdet als Volkswirtschaften wie Europa, in denen wissensbasierte Bereiche einen größeren Anteil ausmachen.
  • Vielleicht hängt es mit dem Verhältnis von Produktions- zu Büroarbeitsplätzen in diesen Ländern zusammen. Ich frage mich auch, ob die Sicherheitsnetze für displaced workers dort stärker sind.
    Ein interessantes Phänomen. In meinem Umfeld waren Menschen, die sich in Bezug auf ihren Arbeitsplatz „sicher“ fühlten, neutral oder dafür; wer sich nicht sicher fühlte, war eher negativ eingestellt.
  • Im All In Podcast sagte einer der Milliardäre, ein Bereich, in dem die USA und China bei der KI-Regulierung zusammenarbeiten könnten, sei Know Your Customer. Zuerst klang das für mich nicht weiter bemerkenswert, aber als ich über die Effekte zweiter Ordnung nachdachte, fragte ich mich immer mehr, warum genau das zu einem so wichtigen Thema werden sollte.
    Er nannte Beispiele dafür, wie gefährliche Menschen mit KI schlimme Dinge tun könnten, aber ich denke, der Subtext ist viel komplexer. Besonders aus Sicht der besitzenden Klasse gilt das, und das hängt auch mit der ursprünglichen Vision von OpenAI zusammen. Die Idee war, dass die Öffentlichkeit gleichberechtigten Zugang zu den vollen Fähigkeiten eines Modells haben sollte, aber die besitzende Klasse kann das nicht zulassen.
    Weil Macht- und Ordnungsformen historisch stark von Information abhingen, muss man, um mit offener Information zu konkurrieren, die Bedeutung des Zugangs stark erhöhen, um die bestehende Ordnung zu erhalten. Das Rechtssystem ist ebenfalls ein Beispiel. Wenn man einen Anwalt bezahlt, zahlt man am Ende für Information und Zugang, und das tatsächliche Ergebnis wird oft stärker von Beziehungen beeinflusst als von dem Wert, den ein Modell für den Ausgang eines Falls berechnen würde.
    Anders gesagt: KYC soll die Struktur wiederherstellen, in der man historisch Geld brauchte, um an Informationen zu kommen. So gesehen gibt es auch hier eine Ebene von Klassenkampf.

• KI hat bereits viele Arbeitskräfte ersetzt, aber trotz der apokalyptischen Werbung gibt es noch kein von KI betriebenes Unternehmen.
  Ich glaube, es gibt ein Missverständnis darüber, was Geld ist. Geld ist ein Vektor des Werts, und Wert entsteht aus der Arbeit von Menschen. Wenn die Zahl der Menschen, die arbeiten können, sinkt, wird das zu Deflation führen, und Kapitalisten werden versuchen, das zu vermeiden. KI aber ist Hardware und Energie, und dafür braucht es mehr Arbeitskräfte. Der Preis pro Token bezahlt Strom und GPU-Hardwarekosten; nur ein Teil davon fließt in KI-Forschung.
  Entwickler müssen wohl eher zu Architekten werden als zu Code Monkeys, aber ich bin nicht sicher, ob das etwas Schlechtes ist. Es gibt außerdem die Gegenposition, dass die LLM-Technologie jetzt in eine Stagnationsphase eintritt. LLMs sind nicht der Weg zu AGI. Wenn man sich anschaut, wie sie funktionieren, sieht man, dass sie nicht innovieren können. Das Modell arbeitet nur wie eine komprimierte Version des Wissens aus dem Internet und gibt es wieder aus, auch wenn es das bereits ziemlich gut tut.
  Ich glaube aber nicht, dass es aus LLMs in absehbarer Zeit noch einen weiteren sprunghaften Innovationsschub geben wird. Letztlich war auch OpenAI eher ein Zufallsprodukt. In Zukunft werden wir heutige Frontier-KI auf einem Laptop laufen lassen und damit unser Leben automatisieren, und es gibt noch vieles zu erfinden. LLMs sind meiner Ansicht nach weniger Konkurrenten als vielmehr ermöglichende Werkzeuge.

• Der Autor scheint schlecht informiert zu sein. D.O.W. ist kaum als Anthropic-Fan zu bezeichnen.

  • Heute nicht mehr, aber er hat sogar massiv Druck gemacht, weil er ihre Produkte haben wollte.
  • Das kommt dem Fall der sauren Trauben näher, aber in Wirklichkeit will er vermutlich immer noch die Trauben von Anthropic.
  • Kein Fan von Dario, aber offenbar ein glühender Fan von Claude.

• Es fühlt sich an wie eine Klippe, über die wir alle geschoben werden. Von allen anderen weiß ich es nicht, aber ich bemühe mich gerade darum, meinen Fallschirm anzulegen.

• Ich frage mich, ob solche Klagen am Ende etwas anderes sind als: „Ich war im alten System in einer guten Position und habe Angst, sie zu verlieren.“ Schon bisher wurden viele Menschen wie Verbrauchsmaterial behandelt und nicht als wertvoll angesehen.
  Vielleicht war dieses System gut für dich, aber für viele war es das nicht. Du hast zwar wertvolle Fähigkeiten und arbeitest gern in einem Bereich, in dem du sie einsetzen kannst, aber für über 90 % der Menschen ist Arbeit nicht so. Die Mehrheit trauert also darum, etwas zu verlieren, zu dem sie ursprünglich gar keinen Zugang hatte. Was genau ist an der aktuellen Lage eigentlich so großartig, dass man sie vor neuer Technologie schützen müsste?

  • Dass Maschinen Jobs ersetzen, ist überhaupt nichts Neues, und es wird so geschehen, wie es schon früher geschehen ist.