Ich liebe LLMs, aber hasse den Hype

• LLMs, autonome Fahrzeuge, Videogenerierungsmodelle und Coding Agents sind tatsächlich nützlich und spannend, doch der sie umgebenden Angst- und Weltuntergangs-Hype überzeugt nicht
• Die Erzählung, dass man dauerhaft zur Unterschicht werde, sobald sich das Zeitfenster der Chancen schließt, ist weniger Fakt als vielmehr Hype, der Menschen verunsichert und nach San Francisco zieht
• Die Prognose, LLMs würden von fortgeschrittener Autovervollständigung, Smart Compiler und verbesserter Suchmaschine zu einer Superintelligenz springen, die das Universum beherrscht, wird zurückgewiesen; KI-Fortschritt entstehe vor allem aus Moore’s Law und dem allgemeinen Fortschritt im Computing, nicht durch bestimmte Gruppen
• Coding Agents verändern die Art des Programmierens und steigern die Produktivität in gewissem Maß, können aber kognitive Ermüdung erhöhen; Ergebnisse aus Vibe Coding enthalten weiterhin viel minderwertigen Code
• KI steht in der Kontinuität der Computerrevolution, und LLMs sind Werkzeuge, die Entwicklern helfen – wie find/replace, Stack Overflow oder reguläre Ausdrücke –, doch ihre Nützlichkeit führt nicht automatisch zur Wertabschöpfung durch Frontier-AI-Labore

---

Zwischen KI-Fortschritt und Hype

• Nachdem der Autor sich von 2007 bis 2014 aufs Hacking konzentriert hatte, investierte er seine gesamte Karriere in KI und begrüßt die Fortschritte bei neuen LLMs, autonomen Fahrzeugen, Videogenerierungsmodellen und Coding Agents
• Als er opencode auf dem lokalen GLM-5.2 ausführte und install tmux with the geohot configuration anwies, funktionierte die Installation; er nahm dies als Beispiel dafür, dass das Jahr des Linux-Desktops endlich gekommen sei
• Der Hype, den er ablehnt, teilt sich in zwei Stränge
  • Die Erzählung, das Zeitfenster der Chancen schließe sich und man werde dauerhaft zur Unterschicht oder falle uneinholbar zurück, ist negativer Hype, der Menschen verunsichert
  • Die Logik, von fortgeschrittener Autovervollständigung, Smart Compiler und verbesserter Suchmaschine zu einem Superintelligenz-Szenario zu springen, in dem sich alles plötzlich ändert, sei ein Strohmann-Sprung; er erklärt ausdrücklich, dass ein solches Ereignis nicht eintreten werde
• Der Vortrag über Superintelligenz von 2016 und der Film Terminator 2 von 1991, in dem Maschinen die Welt übernehmen, zeigen, dass diese Idee keine neue Erfindung einer bestimmten Gruppe der jüngeren Zeit ist
• Er räumt ein, dass KI enormes Potenzial zur Wertschöpfung hat, glaubt aber nicht, dass Frontier-Labore diesen Wert direkt abschöpfen können, genug um ihre Unternehmensbewertungen zu rechtfertigen
• Im Kern der Argumente gegen Open Source sieht er nicht Sicherheit oder China, sondern Angst vor Kommoditisierung
  • KI-Fortschritt entspringt vor allem Moore’s Law und dem allgemeinen Fortschritt im Computing, nicht einzelnen Forschungslaboren
  • Würde diese Tatsache bekannt, könnten Investoren keine Milliarden Dollar mehr bereitstellen; daher hätten die Labore einen starken Anreiz, sie zu verbergen

Was die Produktivität durch Coding Agents wirklich ausmacht

• In der Vergangenheit hat er in The Eternal Sloptember die Programmierfähigkeiten von Modellen möglicherweise zu hart beurteilt; inzwischen erkennt er an, dass sich die Art des Programmierens selbst verändert
• Linus Torvalds’ Aussage vergleicht, dass Agents die Programmierproduktivität um den Faktor 10 und Compiler um den Faktor 1.000 steigern
  • Sowohl 10x als auch 1.000x hält er für extreme Schätzungen
  • Mit besseren Fähigkeiten im Einsatz von Modellen ist er überzeugt, tatsächlich eine gewisse Produktivitätssteigerung zu erzielen
  • Der Einsatz von Modellen ist eine neue Fähigkeit, die man separat erlernen muss; schon zuvor hat er verschiedene Modelle kontinuierlich getestet
• Bei Coding Agents bleiben klare Einschränkungen bestehen
  • Modelle können kognitive Ermüdung erhöhen und müssen daher sorgfältig eingesetzt werden
  • Ergebnisse aus Vibe Coding sind weiterhin minderwertig, und unklar ist auch, wo die neue Software tatsächlich ist, die den behaupteten Produktivitätsgewinnen entsprechen würde
• Dennoch sind Modelle nützliche Werkzeuge zur Unterstützung der Entwicklung, ähnlich wie find/replace, Stack Overflow und reguläre Ausdrücke, und auch KI steht in der Kontinuität der Computerrevolution

[GN⁺]

Meinungen auf Hacker News

• Der Satz, dass es nicht darum gehe, dass „AI keinen großen Wert schafft, sondern dass Frontier-Labore diesen Wert nicht abschöpfen können“, erklärt knapp ihr Verhalten und warum sie versuchen, die besten Modelle zu Token-Preisen abrechnen zu lassen
  Bei den aktuellen Abogebühren, die für 100 bis 200 Dollar im Monat großzügige, aber begrenzte Token-Kontingente bieten, entscheiden sich die meisten Privatpersonen und Unternehmen leicht für Frontier-Modelle. Wenn der Token-Preis aber 10- bis 100-mal höher ist als bei offenen Modellen oder bei Frontier-Modellen von vor einem Monat, sieht die Sache anders aus. Ich würde für das beste Modell keine 1.000 Dollar im Monat ausgeben, geschweige denn 10.000 Dollar, und mein Arbeitgeber würde vielleicht noch 1.000 Dollar zahlen, aber ganz sicher keine 10.000 Dollar
  Um die aktuellen Unternehmensbewertungen zu rechtfertigen, müssten alle 100-mal mehr zahlen als heute, aber solange jeder solche Modelle bauen kann, wird das nicht passieren. Sowohl OpenAI als auch Anthropic suchen nach einer Lösung, und insbesondere Anthropic versucht, Fable auf nutzungsbasierte Abrechnung umzustellen. Doch OpenAIs 5.6 Sol ist gut genug, um mit Fable zu konkurrieren, und lässt sich auch im 20-Dollar-Monatsabo nutzen, sodass es keinen Burggraben gibt, der den Wechsel verhindert. Wenn Anthropic in ein paar Tagen den Fable-Zugang in den Abotarifen tatsächlich beendet, wird sich der Markt meiner Meinung nach deutlich zurück zu OpenAI bewegen
  Der Markt wird keine Preise akzeptieren, die hoch genug sind, um die Wirtschaftlichkeit von Frontier-Investitionen aufgehen zu lassen

  • Auch ich greife inzwischen häufiger zu lokalen Modellen. Für Aufgaben, bei denen lokale Modelle nicht gut sind, werde ich zu den aktuellen Preisen Frontier-Modelle nutzen, aber wenn am Ende die Preislogik umgedreht wird und 1.000 bis 2.000 Dollar im Monat verlangt werden, ist es das nicht wert
    Für meine Anwendungsfälle müssen die Modelle auch gar nicht viel besser werden. Ich habe Fable ein paar Mal ausprobiert, sah aber wenig Grund, es bewusst zu wählen; Opus erledigte dieselbe Arbeit deutlich günstiger. Wenn Modelle zur Commodity werden, ist die interessante Frage, wer bereit sein wird, die enormen Trainingskosten zu tragen. Die Kosten werden irgendwann sinken, aber wohl nicht schnell genug, damit diese Unternehmen durchhalten
  • Das Lustige ist, dass Fable wahrscheinlich in ein oder zwei Monaten veraltet sein wird. Sie haben mit dem Nichtveröffentlichungs-Theater um ein angeblich gefährliches Modell, das sie hätten vermeiden können, wenn sie nicht so getan hätten, als sei es gefährlich, den geringen Vorsprung praktisch vergeudet, während sie den Zugang weiterhin zuließen
    Es wäre interessant gewesen, wenn sie von Anfang an mehr verlangt und getestet hätten, wie viel der Markt zu tragen bereit ist, statt sich abzumühen, bis sie bald vom nächsten Modell überholt werden
  • Die Macht eines gut genug Modells darf man nicht unterschätzen. Selbst wenn GLM5.2 nicht so gut ist wie die modernsten Modelle, kann es gut genug sein, um die meisten, vielleicht sogar alle unsere Anforderungen zu erfüllen
  • Ich frage mich wirklich, ob das die besten Modelle sind. Ist Anthropic ohne mythos nicht eher auf Platz drei?
    OpenAI liegt zuletzt wieder vorn, nutzt dafür aber ein riesiges Modell mit absurd hohen Kosten pro Token. Niemand braucht ein solches Modell. Das ist ähnlich, als würden NVIDIA oder Intel mit der besten Gaming-Leistung werben, während sie pro Frame viel mehr Strom verbrauchen als die Konkurrenz
  • Der Genauigkeit halber: Der Abo-Nutzungszeitraum von Fable wurde erneut bis zum 19. Juli verlängert

• Die magische neue Software, die durch Produktivitätssteigerungen entstanden ist, läuft privat in meinem Homelab
  Es fühlt sich an, als seien wir jetzt in der Ära „baue es dir, wie du willst“ angekommen. Wenn ein Open-Source-Projekt nicht so funktioniert, wie man möchte, forkt man es oder baut eine neue Version, und das ist viel zu einfach geworden
  Allerdings mache ich mir etwas Sorgen um die Zukunft von Open Source. Früher lohnte es sich, Änderungen upstream zurückzugeben, weil auch die Pflege eines Forks Aufwand bedeutete. Dieses Gleichgewicht hat sich nun stark verschoben. Viele Projekte verschärfen die Anforderungen für Beiträge, und manche sind AI gegenüber offen feindselig, was nicht unverständlich ist. Doch je stärker AI genutzt wird, desto geringer dürfte die Wahrscheinlichkeit werden, dass Verbesserungen an die Gemeinschaft zurückfließen

  • Man sollte bedenken, dass Code im Sinne eines „kostenlosen Welpen“ kostenlos ist. Der Wert der Free- und Open-Source-Community lag nicht im Code selbst, sondern in der gemeinsam getragenen Dokumentation und dem mündlich weitergegebenen Wissen, die Software nützlich, nutzbar und aktuell machen
  • Es ist sehr wahrscheinlich, dass man bald in der Wartungshölle landet. Der schwierige und lästige Teil ist nicht das Programmieren, sondern jedes einzelne kleine Projekt wieder hervorzuholen und anzupassen, sobald eine Kleinigkeit geändert werden muss; langfristig wird das zu enormer Fleißarbeit. Auch mit AI wird das nicht wesentlich einfacher werden
  • Einen aktiven Projekt-Fork sollte man nur dann anlegen, wenn man selbst der einzige Nutzer dieses Forks ist und die erträumte Änderung wirklich unbedingt nötig ist. Ich habe zu viele unnötige Forks beliebter Projekte gesehen und denke, dass es besser ist, beim Original zu bleiben, auch wenn es nicht perfekt ist
  • Man muss weiterhin Upstream-Änderungen verfolgen und Merge-Konflikte lösen. Andernfalls muss man alle CVEs im Fork von einem LLM beheben lassen
  • Die Erklärung, dass trotz der neuen Tools, mit denen all dieser Code geschrieben werden kann, alle Einzelpersonen und Unternehmen wie in einer riesigen Absprache sämtliche Ergebnisse nur als proprietäre Software erstellt und nichts veröffentlicht hätten, wirkt nicht besonders plausibel

• Zumindest meine Produktivitätssteigerung floss in den Bau schlanker Einweg-Software für sehr konkrete Zwecke
  Mit LLMs kann man alles Mögliche bauen, aber man muss selbst wissen, was man baut, und jedes Verhalten durchdenken. Andernfalls stopft das LLM das Innere mit wurstförmigem Krimskrams voll. Schon die schwankende Qualität der Software von Unternehmen mit Billionenbewertungen zeigt, dass die Modelle weiterhin uneinheitlich und begrenzt sind. Die Zukunft ist Wurst

  • Auch wenn man zu Hause Brot backen kann: Wenn es zehnmal so teuer ist und furchtbar schmeckt, möchte ich keine Zeit darauf verwenden, die Technik für ein Brot zu perfektionieren, das ich täglich esse. Als gelegentliche beruhigende Beschäftigung ist es in Ordnung, aber ich unterstütze gern jemanden, der sein ganzes Leben lang mehr Zeit und Mühe als ich in die Perfektionierung einer Lösung gesteckt hat
    Dann muss ich mir um dieses Problem keine Gedanken mehr machen und kann mich auf das konzentrieren, was ich tun will

• 2024 bis 2025 ging es mir ähnlich. Nach Sonnet 4 begann sich das jedoch zu ändern, und Opus 4.5 war ein weiterer Sprung
  Es fühlt sich an, als beschleunige sich alles und als würden sich die erwarteten Zeitpläne verdichten. In gewisser Weise beneide ich den Autor des Originalbeitrags darum, dass er gegen ASI „alles setzen“ will. Die Wahrheit ist: Ich weiß auch nicht, wohin das führt, und ich glaube nicht, dass es irgendjemand weiß

  • Der Autor des Originalbeitrags hat nicht gesagt, er setze alles darauf, dass ASI selbst nicht kommt. Er sagte, er setze gegen die Aussicht, dass ASI wie ein Blitz am Himmel erscheint und unsere Chance zerstört, Zugang zu dem von ihr geschaffenen Wohlstand zu bekommen

• Ich mag LLMs auch, aber ich mache mir Sorgen um die Kosten. Im Moment wird noch alles stark subventioniert; gibt es irgendeine Garantie, dass man ein Modell auf Opus-4.8-Niveau auf einem privaten Computer ausführen können wird, bevor die großen KI-Labore die Preise erhöhen?

  • Ich denke eher, dass Frontier-Labore pro Inferenzkosteneinheit beträchtliche Margen erzielen
    Die Kosten für den Betrieb von Modellen in annähernder Frontier-Größe lassen sich bereits nachvollziehen. Unabhängige Anbieter sind dazu übergegangen, solche Modelle zu vernünftigen Preisen anzubieten, und auf OpenRouter konkurrieren sie zu deutlich niedrigeren Preisen als die Frontier-Labore
    Wenn man ein Modell auf Opus-4.8-Niveau auf einem privaten Computer ausführen kann, können Rechenzentren es mit eigener Hardware noch viel günstiger bereitstellen. Daher würde ich darauf wetten, dass die Preise nicht steigen, sondern wahrscheinlich stark fallen werden
  • Selbst bei den derzeit stark aufgeblähten Preisen für schnellen RAM kann man ein lokales Modell ungefähr auf Sonnet-4.5-Niveau für weniger als den Preis eines Neuwagens betreiben. Das ist vielleicht nicht die erhoffte Antwort, aber es ist eine mögliche Option; man könnte auch eine kleine KI-Genossenschaft gründen, in der sich mehrere Entwickler einen Server mit zwei RTX Pro 6000 teilen
    DeepSeek V4 Pro ist über praktisch jede gängige API günstig, und DeepSeek V4 Flash kostet etwa 0,09 Dollar pro Million Input-Token und 0,18 Dollar pro Million Output-Token, ist also praktisch kostenlos. Das sind normalerweise auch keine durch Subventionen zustande gekommenen Preise
    Als realistischere lokale Konfiguration ist Qwen3.6 27B auf ein oder zwei gebrauchten Nvidia 3090 erstaunlich brauchbar. Es braucht klare Anweisungen und taugt nicht für vollständig automatisiertes Vibe Coding, ist aber für Programmierer, die selbst eingreifen, ziemlich praktisch
  • Garantien kann man schwer verlangen, aber wenn gesunder Wettbewerb anhält, ist es sehr wahrscheinlich, dass sich Angebots- und Nachfragekurven an einem vernünftigen Punkt treffen. Sicher ist jedenfalls immer, dass man offene Modelle separat aufbewahren kann
  • In zwei Jahren soll es einen 1,5-TB-RAM Mac Studio geben, und der dürfte ausreichen, um Modelle auf Opus-Niveau zu betreiben. Natürlich wird der Preis vermutlich bei etwa 50.000 Dollar liegen
    Wenn lokale KI wirklich weit verbreitet wird, könnte sie auch zu den Dingen gehören, die man wie ein Auto auf Raten kauft
  • Derzeit konzentriert sich die Nachfrage wegen der Subventionen für Frontier-Modelle vor allem auf höhere Intelligenz. Wenn die Subventionen enden, wird die Nachfrage nach Kosteneffizienz pro Intelligenzeinheit stark steigen; da es viele Marktteilnehmer gibt, werden einige Anbieter das erfüllen

• Ich würde der Logik vom „neuen Werkzeug im Werkzeugkasten eines professionellen Software-Handwerkers“ gern zustimmen, aber man sollte an Wattestäbchen denken
  Auch wenn darauf steht, dass man sie nicht zum Ohrenreinigen verwenden soll, wollen die meisten sie genau dafür benutzen. In der Praxis läuft es auf „Wattestäbchen verantwortungslos benutzen“ oder „gar nicht benutzen“ hinaus; „richtig benutzen“ macht nur einen winzigen Anteil aus

  • Wattestäbchen wurden tatsächlich dafür gemacht, Ohren zu reinigen. Der Grund, warum draufsteht, dass man das nicht tun soll, ist, dass man nicht verklagt wird, wenn sich jemand am Ohr verletzt

• Er sagte, sein Text „eternal sloptember“ vom Mai sei vielleicht zu hart gewesen: https://geohot.github.io/blog/jekyll/update/2026/05/24/the-e...
  Ich frage mich, welchen Teil er für zu hart hält. Er wirkt immer noch ziemlich zutreffend, und ich denke, er wird auch mit der Zeit gut altern

  • Anders als in dem Satz „Die Einführung von KI-Agenten in die Softwareentwicklung wird einer der teuersten Fehler in der Geschichte dieses Fachs sein. Agenten können nicht programmieren, und es dauert immer länger, bis man diese Tatsache erkennt“ scheint er inzwischen zu glauben, dass Agenten doch ein wenig programmieren können

• Niemand spricht darüber, aber Terminator 2 ist keine Geschichte darüber, dass Maschinen die Weltherrschaft übernehmen. Das ist bereits passiert oder wird passieren, aber am Ende besiegen die Menschen die Maschinen. Skynet versucht, John Connor zu töten, um das zu verhindern, und das ist der Kern des Films
  Es ist auch eine Geschichte darüber, dass John im T800 eine Art Elternfigur findet. Von seinen Pflegeeltern oder seiner entfremdeten Mutter hat er das nicht bekommen. Schade, dass diese Person den Film offenbar nicht wirklich gesehen hat. Er ist ein Klassiker

  • Der schlimmste Rollenspieler aller Zeiten

• Es gibt genug Gründe, Händler und ihr Marketing nicht zu mögen, aber Macher sind keine Händler. Macher nutzen jedes Werkzeug, das verfügbar ist

  • Geohot war auch einer von denen, die Händler werden wollten. Vielleicht ändert er seine Haltung, weil das Geschäft nicht gut gelaufen ist

• Man muss nicht auf Twitter gehen und sich Leuten aussetzen, die von einer „permanenten Unterschicht“ reden, nur um LLMs zu nutzen. Ich mag das Internet, aber inzwischen habe ich mehr denn je das Gefühl, dass man bewusst auswählen muss, welche Seiten man besucht

  • Solche Leute gibt es nicht nur auf Twitter. Es gibt sie auch hier, am Arbeitsplatz und beim nächsten gesellschaftlichen Treffen. Bis zu einem gewissen Grad fühlen sie sich wie unvermeidliche Gestalten an
  • Die bösartige Atmosphäre der Gegenübertreibung, die man hier sieht, ist ziemlich unangenehm. Ich denke, sie entsteht, weil viele gezielt nach Ansichten suchen, denen ich gar nicht begegne
    Absurde Verschwörungstheorien über Rechenzentren und die Finanzlage der dazugehörigen Unternehmen beginnen auf Bluesky oder Instagram und gelangen oft über diesen Ort auch zu mir. Aber die unaufhaltsame Welle der Übertreibung, gegen die sie angeblich kämpfen, habe ich selbst nie gesehen. Ich lese auch Scott Alexander, aber er ist viel vorsichtiger, als die Leute ihn darstellen
  • Ich frage mich, ob es auf Xitter noch Leute gibt, die sich über Klassenspaltung beschweren. Ich gehe heutzutage kaum noch dorthin, aber früher habe ich das dort auch nie gesehen