Der AI-Investitionsboom

• Die Nachfrage nach AI treibt in den USA die Investitionen in Computer, Rechenzentren und Strominfrastruktur nach oben. Dass Microsoft die Kosten für die Wiederinbetriebnahme von Block 1 des Kernkraftwerks Three Mile Island übernimmt, zeigt, wie sich der Strommangel von Rechenzentren auf Investitionen in physische Infrastruktur ausweitet
• Die Bauausgaben für US-Rechenzentren liegen annualisiert bei 28,6 Mrd. US-Dollar und damit auf Rekordniveau. Sie sind gegenüber dem Vorjahr um 57 % und gegenüber vor zwei Jahren um 114 % gestiegen und erreichen damit eine Größenordnung, die den gesamten Bauausgaben für Restaurants, Bars und Einzelhandelsgeschäfte ähnelt
• In den Bauausgaben sind Server-Racks und Komponenten nicht enthalten. Die Nettoimporte großer Computer sowie von Computerteilen und Zubehör lagen im vergangenen Jahr bei über 65 Mrd. US-Dollar; auch die Importe von Chips, Computern und zugehörigen Teilen aus Taiwan stiegen sprunghaft auf mehr als 38 Mrd. US-Dollar
• Die Ausstrahlungseffekte dieses AI-Booms zeigen sich stärker bei Hardware, Fertigung, Bau und Strominfrastruktur als bei klassischer Softwarebeschäftigung; in den USA kamen im vergangenen Jahr nur 32.000 Tech-Jobs hinzu
• Da der Investitionswettlauf unter der Annahme größerer Modelle und einer breiteren Verbreitung realer Anwendungen weitergeht, rücken die Nachfrage nach High-End-Halbleitern, die Abhängigkeit von Taiwan und Beschränkungen des Zugangs Chinas als zentrale Themen des Chip War noch stärker in den Vordergrund

---

AI-Nachfrage führt zu Investitionen in physische Infrastruktur

• Um den steigenden Strombedarf von Rechenzentren zu decken, hat Microsoft zugesagt, die Kosten für die Wiederinbetriebnahme von Block 1 des Kernkraftwerks Three Mile Island zu übernehmen. Nach Amazon ist Microsoft damit das zweite große US-Technologieunternehmen, das bestehende Kernkraftanlagen zur Deckung des Energiebedarfs nutzt
• Microsoft ist ein wichtiger Investor in OpenAI und stellt Rechenkapazität bereit; weniger als zwei Jahre nach dem Start von ChatGPT haben sich Entwicklung und Nutzung von AI rasch verbreitet
• AI-Produkte werden für Code-, Text- und Bildgenerierung, Datenanalyse, Aufgabenautomatisierung und die Verbesserung von Online-Plattformen eingesetzt; eine weiter steigende Nutzung wird erwartet
• Moderne AI-Modelle benötigen für Training und Inferenz Rechenressourcen in großem Maßstab; für deren Betrieb sind leistungsfähige Hardware, Anlagen im industriellen Maßstab sowie Strom-, Wasser- und Breitbandinfrastruktur erforderlich

Rechenzentren und Computerinvestitionen steigen sprunghaft

• Der Bau von Rechenzentren in den USA erreicht annualisiert 28,6 Mrd. US-Dollar und damit einen historischen Höchststand
  • 57 % mehr als im Vorjahr
  • 114 % mehr als vor zwei Jahren
  • Eine Größenordnung, die den gesamten Bauausgaben für Restaurants, Bars und Einzelhandelsgeschäfte in den USA ähnelt
• Diese Zahl umfasst nur die Gebäude selbst; leistungsfähige Computer-Racks, Kabel, Lüfter und andere Komponenten, die das Gehirn eines Rechenzentrums bilden, sind nicht enthalten
• Im August erreichten die US-Nettoimporte großer Computer ein Allzeithoch, und die Nettoimporte von Computerteilen, Zubehör und sonstigen Komponenten hatten bereits im Vormonat ein Allzeithoch erreicht
• In den vergangenen zwölf Monaten importierten die USA in beiden Kategorien Waren im Wert von über 65 Mrd. US-Dollar; zugleich steigt auch die Inlandsproduktion

Die Investitionsstruktur der Technologieunternehmen verändert sich

• Der Großteil neuer Rechenzentren, Computer und Ausrüstung wird von Unternehmen aus dem Bereich Informationstechnologie gekauft
  • Anbieter von Computing-Infrastruktur wie Amazon
  • Websuche-Unternehmen wie Google
  • Software-Publisher wie Microsoft
• Diese Unternehmen haben ihren Nettobestand an Immobilien, Anlagen und Ausrüstung im vergangenen Jahr um mehr als 95 Mrd. US-Dollar erhöht, ein historischer Höchststand
• Vor gut zehn Jahren kaufte Facebook Instagram für 1,2 Mrd. US-Dollar und zwei Jahre später WhatsApp für 15 Mrd. US-Dollar
  • Damals hatte Instagram nur 13 Mitarbeitende und WhatsApp nur 55; die physische Basis bestand im Wesentlichen aus Büros und Entwickler-Workstations
• Meta tätigte allein im ersten Halbjahr 2024 15,2 Mrd. US-Dollar an Kapitalausgaben, ein erheblicher Teil davon für großskalige Computing-Infrastruktur zur Unterstützung der Llama-AI-Modelle
• Der aktuelle AI-Boom ist deutlich hardwareintensiver als frühere Technologiebooms und treibt Bauaktivität und Investitionen in den USA schnell nach oben

Hochleistungscomputer und Importe aus Taiwan werden zu zentralen Achsen

• Die Investitionen US-amerikanischer Unternehmen in Computer und zugehörige Ausrüstung stiegen im Zuge des AI-Booms preisbereinigt im vergangenen Jahr um 16,6 % und erreichten ein Allzeithoch
• In den 2010er-Jahren stagnierten Computerinvestitionen fast ein Jahrzehnt lang relativ; die Nachfrage nach Remote Work während der Pandemie durchbrach diesen Trend
• 2022 gingen die Computerinvestitionen zurück, als sich das Niveau von Homeoffice und Internetnutzung stabilisierte; seit Ende 2023 steigen sie mit dem AI-Boom wieder sprunghaft an
• Hochwertige Computersysteme wachsen schneller als die gesamten Computerinvestitionen
  • TSMC ist der weltweit führende Hersteller moderner Halbleiter
  • Die US-Importe von Chips, Computern und zugehörigen Teilen aus Taiwan lagen in den vergangenen zwölf Monaten bei über 38 Mrd. US-Dollar und stiegen gegenüber dem Vorjahr um mehr als 140 %
  • Die direkten US-Importe von Logikchips stiegen von niedrigem Niveau auf eine annualisierte Rate von rund 5 Mrd. US-Dollar
  • Computerteile und Komponenten bleiben weiterhin die größte Importkategorie

Auch Softwareunternehmen steigen in den Hardware-Wettlauf ein

• Detaillierte Branchendaten zu Investitionen bis 2023 zeigen, dass Datenverarbeitungs- und Websuche-Unternehmen wie Amazon und Google im Technologiesektor weiterhin das größte Investitionsvolumen aufweisen
• Das schnellste Investitionswachstum zeigt sich bei Softwareentwicklern
  • Die realen Investitionen von Software-Publishern in geistiges Eigentum sind seit 2021 um 40 % gestiegen
  • Diese Kategorie umfasst die AI-Modelle selbst sowie entsprechende Forschung und Entwicklung
  • Die realen Investitionen in Ausrüstung wie Computer stiegen um 96 %
• Die Zeit, in der führende Softwareentwickler eine schlanke Hardwarestruktur hatten, ist einem Wettlauf gewichen, schnell Hardwarekapazitäten aufzubauen

Die Standorte von Rechenzentren unterscheiden sich stark nach Region

• Rechenzentren müssen wegen Netzwerkanforderungen und zur Umgehung von Infrastrukturengpässen bis zu einem gewissen Grad verteilt sein; zugleich erhöhen große Cluster die Wirkung und senken Kosten sowie Latenz
• Bei AI sind diese Konzentrationseffekte besonders wichtig, und Unternehmen treiben die Grenzen von Rechenzentrumsgröße und Vernetzung aus, um möglichst viel Rechenleistung in die Modellentwicklung einzubringen
• Offizielle Baustatistiken gliedern Rechenzentrumsausgaben nur auf regionaler Ebene, daher gibt es keine granularen Baudaten
• Der Ausbau von Rechenzentren in den USA bleibt im Süden, wo historische Cluster bestehen, am stärksten
• Das Wachstumstempo war im Mittleren Westen und an der Westküste höher, während der Nordosten praktisch unberührt blieb

Stromnachfrage und Auswirkungen auf regionale Stromnetze

• Die Energy Information Administration hat ihre Prognosen für das Wachstum der Stromlast mehrfach angehoben, um die Nachfrage von Rechenzentren zu berücksichtigen
• Die aktuelle Prognose geht davon aus, dass der Stromverbrauch im gewerblichen Sektor in diesem Jahr um 3 % und im kommenden Jahr um 1 % steigt
• Auch in dieser Prognose sind gewerbliche Nutzer ein kleinerer Treiber des Stromverbrauchswachstums als die Elektrifizierung von Haushalten und das Reshoring der Industrie; für den gewerblichen Sektor ist es jedoch das schnellste Nachfragewachstum seit Jahren
  • Von 2007 bis 2023 stieg der gewerbliche Stromverbrauch insgesamt nur um 5 %
  • In offiziellen Schätzungen vor dem AI-Boom entfielen 11,4 % des gewerblichen Stromverbrauchs auf Computer und Büroausstattung
• In einigen Regionen wird der Stromverbrauch von Rechenzentren zu einem wichtigen Treiber des Lastwachstums
  • In North Dakota ist der gewerbliche Stromverbrauch seit der Eröffnung eines großen Rechenzentrums im Jahr 2022 um mehr als 45 % gestiegen
  • Da der Strom- und Computing-Markt in North Dakota klein ist, ist der absolute Zuwachs der Stromnachfrage in großen Rechenzentrumsclustern wie Virginia und Texas höher

Strombedarf von Rechenzentren in Virginia und Texas

• Der byteway in den nördlichen Vororten Virginias bei Washington, DC, ist der weltweit größte Cluster für Rechenleistung
• Durch diesen Cluster ist der gewerbliche Energieverbrauch in Virginia seit 2019 um 30 % gestiegen; der absolute Zuwachs der gewerblichen Stromnachfrage ist dort der größte in den USA
• Texas hat im Rahmen seiner Programme zur Steuerung der Energielast Rechenzentren und Kryptowährungs-Miner angezogen
• Der gewerbliche Stromverbrauch in Texas ist seit 2019 um 10 % gestiegen, und künftig wird noch stärkeres Wachstum erwartet
• Der Anstieg der Rechenzentrumslast trägt zur überdurchschnittlichen Entwicklung von Investitionen in erneuerbare Energien in Texas bei
  • ERCOT und PJM werden voraussichtlich in diesem Jahr und 2025 beim Wachstum erneuerbarer Energien die USA insgesamt übertreffen
  • Wegen der Vorteile konzentrierter Rechenzentren neigen AI-Unternehmen zunehmend dazu, sich in der Nähe großer Stromressourcen zu bündeln
  • Dies ist der Hintergrund für das wachsende Interesse an Kernenergie und die größere Bereitschaft von Technologieunternehmen, direkt in Erzeugungsinfrastruktur zu investieren

Umsätze haben sich erholt, Tech-Beschäftigung bleibt schwach

• Im Zuge des AI-Booms haben sich die Umsätze im Informationstechnologiesektor von der Verlangsamung 2022–2023 erholt
• Software-Publisher, Websuche-Portale und Anbieter von Computing-Infrastruktur verzeichneten im vergangenen Jahr alle Umsatzsteigerungen von 12–15 %
• Das liegt zwar unter dem Niveau von 2021, entspricht aber nach Maßstäben vor Corona einem starken Umsatzwachstum
• Trotz sprunghaft gestiegener physischer Investitionen und erholter Umsätze bleibt das Beschäftigungswachstum im Technologiesektor sehr schwach
  • In den USA kamen im vergangenen Jahr 32.000 Tech-Jobs hinzu
  • Das ist weniger als 2021, 2022 und in jedem Jahr der neun Jahre vor der Pandemie
  • Auch Software-Publisher und die Computing-Infrastruktur-Branche, die im Zentrum des AI-Booms stehen, verzeichneten im vergangenen Jahr praktisch keinen Nettozuwachs bei der Beschäftigung
• Der Tech-Arbeitsmarkt, der Absolventen der Informatik zuletzt zugesetzt hat, hat sich kaum verbessert

Arbeitsmarkteffekte sind außerhalb klassischer Tech-Jobs deutlicher

• Der AI-Investitionsboom ist nicht ohne Auswirkungen auf den Arbeitsmarkt, doch diese konzentrieren sich stärker außerhalb des klassischen Informationstechnologiesektors
• Die Gesamtvergütung in der Halbleiterfertigung stieg vom ersten Quartal 2023 bis zum ersten Quartal 2024 um 25 %
  • Mitarbeitende von Unternehmen wie NVIDIA profitieren von wertvoller gewordenen Aktienoptionen
• Im vergangenen Jahr kamen 30.000 Jobs im gewerblichen Bau hinzu; ein Teil davon ist ein nachgelagerter Effekt der Rechenzentrumsnachfrage
• Gleichzeitig gibt es einen Beschäftigungsboom beim Industriebau für Chip-Fabs und andere Fertigungsbereiche sowie zusätzliche Jobs im Zusammenhang mit Strom- und breiterem Infrastrukturausbau
• Die Beschäftigungsdynamik des AI-Booms unterscheidet sich deutlich vom Tech-Arbeitsmarkt des vergangenen Jahrzehnts und richtet den Fokus stärker auf Hardwareinvestitionen, Fertigungs-/Designunternehmen und Infrastrukturbauer als auf klassische Programmierer

Investitionswettlauf und Ausweitung zum Chip War

• AI-Entwickler konkurrieren intensiv, weil sie davon ausgehen, dass Produktverbesserungen und eine breitere Kommerzialisierung das derzeit historisch hohe Investitionsniveau rechtfertigen werden
• Kurzfristig werden durch die Entwicklung leistungsfähigerer Modelle und die Verbreitung realer Anwendungen wie autonomer Fahrzeuge weitere Investitionssteigerungen erwartet
• Politische Entscheidungsträger betrachten AI als künftiges Kernfeld der US-Wirtschaft
  • Dank der Dominanz des Silicon Valley und großer US-Technologiekonzerne haben die USA einen erheblichen Vorsprung bei AI-Entwicklung und Rechenzentrumskapazitäten aufgebaut
  • Der AI-Boom hat Investitionen in den USA nach Einschätzung stärker begünstigt als in jedem anderen Land
• Der geopolitische Wettbewerb um Hardwarekapazitäten dürfte sich weiter verschärfen
  • Der CHIPS Act wurde vor ChatGPT geschaffen, und einige Branchenchefs beklagen, dass er bei Prioritäten und Umfang veraltet wirke
  • Die steigende Nachfrage nach High-End-Halbleitern erhöht die US-Abhängigkeit von Importen aus Taiwan, die der CHIPS Act eigentlich abmildern sollte
  • Bei vielen Komponenten, die für die Versorgung von Rechenzentren im großen Maßstab nötig sind, sind die USA weiterhin von China abhängig
• Die USA werden voraussichtlich weiterhin den Zugang zu Spitzenchips beschränken, um Chinas AI-Entwicklung zu bremsen, während China seine Chipfertigungskapazitäten weiter ausbaut, um die Importabhängigkeit zu verringern
• Je weiter der AI-Investitionsboom voranschreitet, desto stärker rückt er an die Front des bestehenden Chip War

[GN⁺]

Hacker-News-Kommentare

• Nachdem ich diesen Artikel gelesen habe, neige ich dazu zu wetten, dass auch dieser kapitalintensive Investitionsboom ähnlich verlaufen wird wie die großen Investitionsbooms in der US-Geschichte.
  Nach massiven Überbauten an Infrastruktur – wie beim Eisenbahnbau im 19. Jahrhundert, dem Wildwuchs an Autoherstellern zu Beginn des 20. Jahrhunderts oder dem Glasfaserboom in der Telekommunikation Ende der 1990er – kam jeweils ein Einbruch, bei dem der Großteil der Branche bankrottging. Später wurde diese Infrastruktur jedoch absorbiert und brachte Wirtschaft und Gesellschaft großen Nutzen.
  Das erinnert an den Fall, dass die nach den Telekom-Investitionen und Pleiten Ende der 1990er und Anfang der 2000er verlegte Dark Fiber am Ende doch aktiviert wurde und so das Wachstum hochwertiger Multimedia-Angebote wie Netflix ermöglichte.
  Auch hier werden durchschnittliche Investoren wohl viel Geld in High-End-Chips, Rechenzentren und Energieversorgung stecken und am Ende stark enttäuscht sein, langfristig dürfte sich das aber reichlich auszahlen.
  Allein bei den Energieinvestitionen glaube ich, dass diese enorme Kapitelnachfrage den Ausstieg aus fossilen Energien beschleunigen wird, selbst wenn AI oft als riesiger, das Klima aufheizender Energiefresser dargestellt wird, denn erneuerbare Energien sind inzwischen die günstigste Stromquelle.

  • Klingt plausibel, und irgendwann wird die Blase platzen.
    Die eigentliche Frage ist nur, wann. Wenn wir uns gerade eher im Jahr 1995 als im Jahr 1999 des Dotcom-Booms befinden, könnten noch vier Jahre starkes Wachstum vor uns liegen, und selbst nach dem Crash könnte der Markt 2029 deutlich größer sein als 2024. Cisco war 2001 auch immer noch viermal so groß wie 1995.
    Ein kleiner Unterschied zu früheren Blasen ist, dass AI mit mehr Rechenleistung tatsächlich intelligenter und leistungsfähiger wird.
    Ein Maßstab dafür, ob wir noch am Anfang des Booms stehen, ist für mich, ob Slack schon einen LLM-Chatbot verkauft, der verlässlich Antworten auf Arbeits- und Technikentscheidungen geben kann, die in den letzten zwei Jahren im Chat getroffen wurden. So ein Produkt gibt es noch nicht, vermutlich weil es mit großen Kontextfenstern immer noch zu teuer ist, so viel Inferenz laufen zu lassen.
    Deshalb denke ich, dass wir eher näher am Anfang als am Ende der Blase stehen.
    Ein weiterer Punkt, den man beobachten sollte, ist, ob die LLM-Skalierungsgesetze schnell zusammenbrechen und mehr Rechenleistung wirtschaftlich nicht mehr zu höherer Intelligenz führt. Dann dürfte die Blase platzen, und alle schauen darauf, ob Modelle auf GPT-5-Niveau dieses Signal zeigen.
  • Ich frage mich, warum man das so sehen sollte. Eisenbahnnetze, Straßennetze und Glasfasernetze konnten noch jahrzehntelang genutzt werden, selbst nachdem die ursprünglichen Investoren gescheitert waren.
    Das Problem ist aber, dass Rechenzentren für AI-Compute heute faktisch schwer für andere Zwecke nutzbar sind, wenn die AI-Firmen scheitern.
    Das Problem bei Investitionen in Compute-Infrastruktur ist, dass man einen Plan haben muss, sie innerhalb der nächsten fünf Jahre vollständig auszulasten. Danach will sie vielleicht niemand mehr haben, nicht einmal geschenkt.
  • Erneuerbare Energien sind ohnehin schon so günstig, dass sie wohl auch ohne diesen Boom im gleichen Tempo gebaut worden wären.
    Dagegen wäre teure Kernenergie ohne diese Blase vermutlich nicht gebaut worden, und seltsamerweise scheint auch dorthin Geld zu fließen.
  • Die Vermögenswerte aus der Telekom-Blase, die später noch Wert hatten, waren letztlich nur die vergrabene Glasfaser. Die Endgeräte waren innerhalb weniger Jahre veraltet und mussten ersetzt werden; die Glasfaser war wiederverwendbar und wegen der hohen Verlegekosten der eigentliche Kernwert.
    Welche Vermögenswerte aus der AI-Blase werden in fünf Jahren noch Wert haben? Wahrscheinlich nicht ein Lager voller fünf Jahre alter GPUs. Vielleicht eher Kernkraftwerke.
  • Eisenbahnen und Computernetzwerke erzeugen Netzwerkeffekte, aber ob man dasselbe über Rechenzentren sagen kann, die mit Hardware vollgestopft sind, die sehr schnell veraltet, ist fraglich.

• Es wird zwar gesagt, das sei mit Eisenbahnen vergleichbar, aber abgesehen davon, dass es viel Geld kostet, ist es überhaupt nicht wie Eisenbahn.
  Eisenbahnen hielten jahrzehntelang und werden noch viele weitere Jahrzehnte relevant sein. Sie verschleißen langsam und sind die effizienteste Form des Landtransports.
  Dagegen werden solche Hardware-Investitionen in sechs Jahren vollständig abgeschrieben sein und wahrscheinlich verschrottet, weil sich ihr Betrieb wegen der Stromkosten im Verhältnis zum Output nicht mehr lohnt.
  Hinzu kommt das zusätzliche Risiko, dass künftige AI-Systeme aus irgendeinem Grund auf der aktuellen Hardwaregeneration nicht effizient laufen.

  • Vielleicht, vielleicht auch nicht. Die Nvidia P40-GPU kam vor acht Jahren heraus, wird heiß, aber ihr Preis hat sich im letzten Jahr verdoppelt.
    Innerhalb von sechs Jahren wird nicht einfach alles vollständig abgeschrieben sein. Es ist gut möglich, dass die Leute auch in 15 Jahren noch A100s nutzen. Selbst sieben Jahre alte V100-32GB-GPU-Karten werden auf eBay noch für 1500 Dollar gehandelt.
    Es erscheint wahrscheinlicher, dass effizientere Softwarearchitekturen erfunden werden, als dass eine völlig neue und bessere Hardwareart entwickelt wird, die bestehende Hardware komplett ersetzt.
  • Das öffentliche Gut in dieser Analogie ist nicht AI-Hardware, sondern das AI-Modell.
  • Manche Vermögenswerte wie Gebäude und Stromversorgung dürften vermutlich weiter nutzbar bleiben. Die Chips werden aber wohl bald durch neue ersetzt.
  • IT-Infrastruktur hat eine deutlich kürzere Lebensdauer als die Eisenbahnindustrie, aber die Margen sind auch erstaunlich hoch.
    Während sich Investitionen in Eisenbahnen oft erst nach Jahrzehnten amortisieren, geschieht das in der IT-Branche meist schon innerhalb weniger Jahre.

• Mir scheint, in dieser Debatte klafft eine große Lücke. Fast alles konzentriert sich auf Investitionen in GPUs und Hardware, und das treibt den aktuellen AI-Boom zwar tatsächlich stark an, aber die Software-Seite fehlt.
  Man müsste auch die erheblichen Venture-Investitionen in AI-basierte Plattformen, Tools und Anwendungen behandeln. Dieser Artikel ist so hardwarelastig, dass die Bezeichnung „GPU-Investitionsboom“ fast treffender wäre.
  Auch Software-Investitionen sollten mit demselben Gewicht betrachtet werden.

  • Ich denke, GPUs und Rechenzentren spielen für AI eine ähnliche Rolle wie Glasfaser im Dotcom-Boom.
    Viele LLM-basierte Softwareprodukte sind wirtschaftlich nicht tragfähig, weil noch nicht genug Rechenleistung und Strom vorhanden sind, um das zu leisten, was sie eigentlich tun wollen.
  • Gibt es irgendwo gute Schätzungen zu diesem Verhältnis? Bei den AI-Startups, die ich einigermaßen kenne, habe ich den Eindruck, dass der Großteil des aufgenommenen Venture-Kapitals – auch bei Nicht-Hardware-Startups – direkt oder indirekt wieder in Hardwarekosten zurückfließt.
    Harte Zahlen habe ich allerdings nicht.
  • Wenn man sich heute YC und Product Hunt anschaut, ist fast die gesamte übertrieben beworbene Software irgendein „AI Powered“-Ding.
    Für jede Firma, bei der AI tatsächlich etwas Nützliches macht, gibt es gefühlt zehn Firmen, die AI irgendwie in eine bestehende App hineinzwängen und es dann als „AI Powered“ vermarkten, was ziemlich nervt.
    Unsere Firma hat kürzlich Zenhub evaluiert, und das Vertriebsteam betonte sehr stark, dass die App AI nutzt. In der Praxis war es dann nur die simpelste Form der AI-Integration, nämlich per Prompt Story-Beschreibungen zu generieren.
    AI ist sehr nützlich, aber man muss sie nicht in alles einbauen.
  • Es wird viel über Rechenzentren und Cloud-Compute gesprochen, aber Chips für Inferenz direkt auf dem Gerät werden kaum erwähnt.
    Wenn ich Venture-Investor wäre, würde ich mit Blick auf die Rolle mobiler Geräte in der Interface-Schicht auf On-Device-Inferenz setzen.

• Ich weiß nicht, warum all diese übertriebenen Artikel immer mit Sätzen anfangen wie: „AI-Produkte werden bereits in viel mehr Bereichen breit eingesetzt – etwa zur Code-, Text- und Bilderzeugung, für Datenanalyse, Aufgabenautomatisierung und die Verbesserung von Online-Plattformen – und die Nutzung wird voraussichtlich weiter zunehmen.“
  Persönlich nutze ich Copilot beim Programmieren inzwischen weniger. Ich habe es immer wieder versucht, aber es hat schnell den Faden verloren und subtile Bugs ausgespuckt, sodass ich am Ende mehr Zeit fürs Debugging gebraucht habe, als wenn ich es direkt selbst geschrieben hätte.
  Ich habe oft das Gefühl, den Code nicht gründlich genug geprüft zu haben, und denke dann immer: „Das könnte in Production auf irgendeine unbekannte Weise hochgehen.“ Kollegen und Freunde sagen Ähnliches.
  Ich habe auch die neuen Modelle mit „Chain of Thought“ ausprobiert, aber seltsamerweise wirkten sie noch schlechter.

  • Durch diesen Kommentar ist mir wieder eingefallen, dass ich ein Copilot-Abo hatte.
    Es war so lange nicht in der Lage, nützliche Code-Vorschläge zu machen, dass ich es komplett vergessen hatte. Ich habe mich eben eingeloggt und gekündigt.
    Jetzt sollte ich wohl auch prüfen, ob ich andere Abos kündigen oder auf günstigere Tarife umstellen kann.
  • Meine Erfahrung ist ähnlich. Ich habe Claude kürzlich für Programmieraufgaben genutzt, und es hat mich in endlose Kaninchenlöcher geführt, wobei es sich jedes Mal noch schlechter anfühlte als zuvor.
    Trotzdem konnte es nicht einfach stehen bleiben und sagen: „Es tut mir leid, aber ich weiß ehrlich gesagt nicht, wie ich Ihnen helfen kann.“
  • Für mich ist AI derzeit eher ein Lehrer als ein Umsetzer. Wenn man etwas Neues lernt oder Ideen dafür sucht, in welche Richtung man gehen könnte, ist sie wirklich hilfreich.
    Aber den eigentlichen Code müssen größtenteils immer noch Menschen schreiben.
    AI ist ein großartiges Tool und kann das Tempo deutlich erhöhen, aber das passt nicht zu der magischen Vorstellung, dass wir nur die Idee liefern und AI die ganze Fleißarbeit übernimmt.
    Generell ist es immer besser, sein Denkmodell auf reale Belege statt auf Fantasien zu stützen, und im Moment ist viel Fantasie im Spiel. Das heißt nicht, dass man pessimistisch in Bezug auf künftige Fortschritte sein sollte, aber es ist sehr schwer vorherzusagen, welche Form diese Verbesserungen annehmen werden.
  • Meiner Erfahrung nach wird es mit der Zeit besser, und besonders bei der Integration von LLMs mit dem Language Server Protocol und anderen Tools gibt es noch einiges an relativ leicht zu hebendem Verbesserungspotenzial.
    Trotzdem reicht es derzeit nicht dafür, eigenständig zu arbeiten; am besten nutzt man es wie Pair Programming mit einem menschlichen Entwickler auf Mid-Level, der wenig Projektkontext hat und nur kurze Konzentrationsspannen.
    Besonders viel Wert bekomme ich heraus, wenn ich der AI immer nur eine Funktion oder ein Refactoring auf einmal gebe und die Arbeit unterwegs leicht testbar halte.
  • Weil die Artikel auch alle von AI geschrieben werden.

• Jedes Mal, wenn ich solche Texte und Diskussionen sehe, überrascht es mich aufs Neue, dass niemand zu bemerken scheint, wie absurd es ist, gleichzeitig zu sagen, wir hätten den Planeten ruiniert und vielleicht nur noch 5 bis 6 Jahre bis zu grundlegendem Schaden, und zugleich unvorstellbare Ressourcen in LLMs zu investieren.
  Irgendwann muss man entweder die Hoffnung aufgeben, was ausreichend finanzierte LLMs bringen könnten, oder die sehr laute, aber letztlich hohl wirkende Argumentation über den Schaden, den wir der Erde zufügen.

  • Ich weiß nicht, wer mit „wir“ gemeint ist. Ein Teil der Gesellschaft schlägt Alarm wegen irreversibler Schäden für die Umwelt, während ein anderer Teil Zahlen offenbar so schnell wie möglich nach oben treiben will und die Auswirkungen auf das menschliche Leben insgesamt nicht berücksichtigt oder bewusst ignoriert.
    Die Leute, die AI-Investitionen vorantreiben, werden von den Folgen des Klimawandels kaum stark betroffen sein. Selbst wenn Hunderte Millionen Menschen in tropischen Regionen sterben und ein erheblicher Teil organisierter menschlicher Aktivität zusammenbricht, wird man sie bis zum letzten Moment vor den Konsequenzen schützen, also ist es ihnen egal.
  • Vielleicht, wirklich nur vielleicht, finden wir jetzt, wo mehr Energie gebraucht wird, endlich eine nachhaltigere Form von Entwicklung.
  • Ich frage mich, was genau mit „hohler Argumentation“ gemeint ist.
  • Vom Solarboom hast du sicher gehört. Er wächst exponentiell.
    Und es ist auch nicht so, dass eine einzelne Person die ganze Welt steuert und entscheidet, was passiert.

• Die AI-Blase wird nächstes Jahr platzen. Wir sind gerade ungefähr im Jahr 1998 der Dotcom-Blase, und ein weiterer AI-Winter steht bevor.
  LLMs und generative AI sind die diesjährige Version von „ein Business im Internet“ oder „Uber für X“ als Geschäftsplan.

  • Wird der Zusammenbruch der AI-Blase auch den Rest der Startup-Branche mit nach unten ziehen, oder könnte dadurch mehr Investition in Nicht-AI-Technologie möglich werden?
    Klimabezogene Technologien brauchen mehr Geld.
  • Ich glaube nicht, dass es so kommt.
    Die Wirtschaftsblase wird nach der Wahl platzen, und wir werden es merken, wenn die Fed wieder anfängt, die Zinsen anzuheben. Der Auslöser dürfte diesmal eher Commercial Real Estate sein.
    Innerhalb von Commercial Real Estate sind Rechenzentren in den Augen der Investoren praktisch der einzige Bereich, der noch gut aussieht, und durch den AI-Boom umso mehr. Ich denke, solche Investoren werden noch mehr Geld als zuvor in Energieausbau und andere AI-bezogene Sektoren stecken, um dem bevorstehenden Zusammenbruch zu entgehen.
    Die größte Unbekannte ist, ob transnationale Oligarchen diesen Crash für einen viel größeren geldpolitischen Kurswechsel nutzen wollen, etwa in Richtung digitale Zentralbankwährungen.
  • Das Kurs-Gewinn-Verhältnis am Markt ist sehr hoch und das schon seit einer Weile. Technologieaktien und AI stützen einen beträchtlichen Teil davon.
    Man muss sich nur ansehen, was mit Tesla passiert ist, als die Fundamentaldaten etwas ins Wanken geraten sind. Trotzdem wäre ich vorsichtig mit der Vorhersage, dass die „AI-Blase“ schon nächstes Jahr platzt.

• Ich hoffe, die AI-Blase endet bald, damit HN wieder über andere Dinge sprechen kann.

  • Die AI-Blase ist mir jederzeit lieber als die Krypto-Blase.
  • Wenn du müde davon bist, kannst du dich auch in die Diskussionen um das WordPress-Chaos stürzen. Das geht hier in letzter Zeit ziemlich ab.
  • Ich glaube, es platzt, wenn die Fed zu dem Schluss kommt, dass die Inflation noch nicht vorbei ist, und innerhalb von sechs Monaten wieder mit Zinserhöhungen beginnt.
    Man kann die Blase nur so lange weiterfüttern, bis normale Leute die steigenden Preise nicht mehr aushalten.
  • Unter den Top 30 Beiträgen auf HN im letzten Monat (https://hn.algolia.com/?dateRange=pastMonth&page=0&prefix=fa...) waren nur 6 zu AI.
    Der höchstplatzierte AI-Beitrag war auf Platz 10 „OpenAI to become for-profit“, auf Platz 1 lag „Bop Spotter“, danach kamen Starship und das Kündigen von Abos per Klick.
  • Die Leute werden für den Rest ihres Lebens über AI reden. Wenn du willst, kannst du dich einer Amish-Gemeinschaft anschließen oder im Wald leben und so etwas wie Firewatch machen.

• Ich frage mich, welche Auswirkungen das auf die Cloud-Kosten für Leute wie uns haben wird.
  Einerseits könnte es Skaleneffekte geben, andererseits könnten die Preise auch steigen, weil andere Cloud-Ressourcen verbrauchen. Mich würde interessieren, ob jemand dazu Vermutungen hat.

  • Ich glaube nicht, dass das die traditionellen CPU-basierten Cloud-Kosten erhöhen wird.
    Man muss sich nur Ampere-CPUs mit 192 Kernen und AMD-CPUs mit 196 Kernen ansehen. Effizienzsteigerungen werden das Preis-Leistungs-Verhältnis traditioneller Cloud-Angebote weiter verbessern.

• Ich habe noch keine „AI“ gefunden, die nicht auf natürliche Weise halluziniert, und ich weiß nicht, wie halluzinierende „AI“ außerhalb von Nischenanwendungen nützlich werden kann.

  • Bei neueren Modellen wird das Erfinden von Fakten weniger. Ich habe hier den Fall getestet, in dem Halluzinationen auf Basis bereitgestellter Dokumente wichtig sind, also RAG: https://github.com/lechmazur/confabulations/
    Der Unterschied zwischen GPT-4 Turbo und GPT-4o ist erheblich.
  • Bei sehr eng fokussierten Themen wirken LLMs deutlich hilfreicher und meistens korrekt. Den erzeugten Inhalt kann man anhand des zugehörigen Sourcecodes oder der offiziellen Dokumentation überprüfen.
    Wenn ich theoretisch nur etwas Einfaches fragen will, spare ich jeden Tag enorm viel Zeit, wenn ich mit Claude oder 4o spreche. Früher musste ich vier oder mehr Suchmaschinen durchsuchen und mich durch viel zu viel SEO-Spam kämpfen, was frustrierend war.
    Auch die Zusammenfassungsfunktion ist inzwischen schon fast ein Meme, aber extrem nützlich. Wenn ich im Lauf eines Tages alle interessant wirkenden Links in eine Datenbank lege, holt ein Cloudflare-Cronjob den Inhalt jedes Links, erzeugt mit 4o eine Zusammenfassung und speichert sie.
    Am Wochenende überfliege ich die Zusammenfassungen der gespeicherten Links, und wenn etwas ziemlich interessant aussieht, schaue ich es mir selbst an und recherchiere weiter.
    Tatsächlich habe ich so SolidJS über einen zufälligen Beitrag auf HN Seite 4 mit nur wenigen Stimmen kennengelernt, und schon die Zusammenfassung hat mir genug Informationen gegeben, um mir SolidJS anzusehen, ohne einen Beschwerdepost über ReactJS komplett lesen zu müssen.
  • Ich denke, das Ziel, Halluzinationen zu minimieren, muss angepasst werden. Wenn Menschen „lügen“, tun sie das auf vertraute Weise. Mit Sätzen wie „Das Restaurant müsste ungefähr hier sein“ oder „War die Person nicht in Inception?“ vermitteln Menschen über Stimme, Gestik und Schreibstil gut, bei welchen Informationen sie sicher sind und was unsicher ist.
    Ich habe Gemini ein paar einfache Fragen gestellt, und die Halluzinationen waren wirklich störend. Weil Falsches selbstbewusst vorgetragen wurde, kam mein instinktives Gehirn zu dem Schluss, dass ich dem nicht vertrauen kann, und ich wollte nichts mehr fragen.
    Aufgrund der probabilistischen Natur von LLMs wird es unmöglich sein, Halluzinationen zu eliminieren, aber man kann besser abstimmen, wie sie Menschen präsentiert werden.
  • Man muss es sich gar nicht erst vorstellen. Generative AI ist bereits in vielen Nicht-Nischenanwendungen sehr nützlich.
  • Es gibt meiner Meinung nach auch viel Content-Erzeugung, bei der Qualität nicht wirklich wichtig ist. In solchen Fällen sind Halluzinationen auch nicht besonders wichtig.
    Solange es rechtlich nicht problematisch werden kann, etwa bei Hassrede oder Verleumdung.
    Für das massenhafte Verbreiten von Artikeln, Social-Media-Posts und sogar Videos sind Halluzinationen wegen der Größenordnung nicht besonders relevant. Es wird bereits genug Content erzeugt, um genug Aufrufe zu bekommen, sodass das bis zu einem gewissen Grad schon eine tragfähige Strategie ist.

• Ich erinnere mich, Robert Martin von Bell Labs Ende der 90er sagen gehört zu haben, dass die Bandbreitenkapazität gegen unendlich geht und die Kosten pro Bit gegen null.
  Wir wissen alle, wie die Anbieter für den Ausbau optischer Kapazitäten damals vor dem Platzen der Blase geendet haben.
  Gibt es einen Grund anzunehmen, dass die Nachfrage nach Intelligenz unerschöpflich ist? Gibt es einen Grund anzunehmen, dass die Kosten von Intelligenz als Systemeingabe, wie Sama sagt, auf den Strompreis zur Versorgung von GPUs in Rechenzentren konvergieren? Beides ist möglich.
  Trotzdem hätte man dasselbe auch über ein Bit Bandbreite sagen können.

  • Ich bin sehr skeptisch, dass unendliche Intelligenz einen positiven Einfluss auf den Lebensstandard von Wissensarbeitern haben wird.
    Im pessimistischeren Szenario ersetzt AI uns und wir werden in die Kohleminen geschickt.
    Selbst im optimistischsten Fall ist der Lebensstandard ein zusammengesetztes Produkt vieler in der Realität verankerter Faktoren, daher liegt die tatsächliche Obergrenze meiner Ansicht nach eher bei einer Verdopplung der Lebensqualität. Das ist nicht nichts, aber mit Blick auf die letzten 150 Jahre auch nicht beispiellos.
  • Generierter Text ist keine Intelligenz.