Die RAM-Knappheit wird am Ende alle treffen

• Weltweit sind die Speicherpreise sprunghaft gestiegen und betreffen sowohl PC-Selbstbauer als auch Hersteller
• Ein DDR5-64GB-Speicherkit ist von Anfang des Jahres auf 209 US-Dollar auf inzwischen 650 US-Dollar gestiegen, also mehr als das Dreifache
• Durch die Abschaffung der Crucial-Marke von Micron, die Preiserhöhung bei Raspberry Pi und den Kostenpress kleiner Board-Hersteller ist der Konsumermarkt unter Druck geraten
• Aufgrund des Ausbaus von KI-Datenzentren konzentrieren sich die großen Speicherhersteller auf KI-Produkte und reduzieren die Consumer-Produktion
• Dadurch wächst das Risiko, dass PC-Bau, SBCs, GPU-Board-Produktion und das gesamte Ökosystem dahinter schrumpfen

---

Stand der Speicherpreisentwicklung

• Ein DDR5-64GB-Speicherkit kostete zu Jahresbeginn 209 US-Dollar und liegt jetzt bei 650 US-Dollar
  • DDR4-Speicher stieg von 30 US-Dollar auf 120 US-Dollar, DDR5 von 150 US-Dollar auf 500 US-Dollar
  • Auch der Graph von PC Parts Picker bestätigt diese starke Preisexplosion
• Raspberry Pi erhöht die Preise für Single-Board-Computer (SBC), Micron stellt die Crucial-Marke ein
  • Weil die Zahl der herstellerseitig ausgerichteten Speicheranbieter im Konsumbereich sinkt, wird das Angebot weiter eingeschränkt

Auswirkungen auf kleinere Hersteller und den Verbrauchermarkt

• Libre Computer sagt, ein 4GB-LPDDR4-Modul koste 35 US-Dollar
  • Das ist teurer als die Summe aller anderen Teile in ihren eigenen SBCs
  • Da sich Verluste nicht mehr ausgleichen lassen, sind Preiserhöhungen oder Produktstilllegungen unvermeidlich
• Raspberry Pi erhöht ebenfalls die Preise und bringt ein 1GB-Modell auf den Markt
  • Eine Umstellung auf speichersparende Entwicklung wird als möglich erörtert
• Alle Geräte, die Speicher nutzen, von Kameras, Konsolen, Tablets usw., werden ebenfalls betroffen sein

Ausbau der KI-Datenzentren und Konzentration der Produktion

• Große Speicherhersteller konzentrieren sich auf Produkte für KI-Datenzentren
  • Sie reduzieren oder schließen Konsumentenspeicher-Linien
  • Sie verfolgen die Gewinnmaximierung durch KI-RAM-Produktion
• Auch GPU-Board-Hersteller sind betroffen
  • Es gibt Berichte, dass Nvidia die VRAM-Lieferung eingestellt und nur Chips anbietet
  • Dadurch sind GPU-Hersteller gezwungen, den Speicher selbst zu beschaffen

Marktstrukturwandel und langfristige Auswirkungen

• Einige erwarten, dass nach dem Platzen der KI-Blase günstige Hardware auf den Markt drängt
  • Die aktuell produzierten RAMs sind jedoch Spezialspezifikationen wie HBM, die für normale PCs nicht nutzbar sind
  • KI-Server-GPUs und ihr Speicher sind in normaler Strom- und Kühlumgebung nicht einsetzbar
• Als Folge werden Rückgang des PC-Selbstbau-Hobbys, rascher Preisanstieg bei SBCs und Teileknappheit erwartet
  • Selbst Lenovo baut RAM-Reserven auf, was die Lieferdominanz großer Konzerne weiter verstärkt

Ausblick und Reaktionen der Community

• Einige Unternehmen prüfen sogar, ob sie Speicherchips aus gebrauchten Systemen zurückgewinnen können
  • Ein Muster ähnlich der Halbleiterknappheit 2021–2022
• In der Community taucht die Aussage auf: 'KI wirkt wie eine versteckte Steuer in allen Branchen'
  • Befürchtungen hinsichtlich steigender Preise für alle Elektronik, von Autos über Medizintechnik bis zu Bank-Terminals
• Bedauern darüber, dass PC-Bau- und Hacking-Kultur zunehmend verschwinden
  • Einige Nutzer reagieren mit Wiederverwertung alter Geräte oder dem Aufbau eines lokalen Servers
• Schlussfolgerung des Beitrags: 'Jetzt ist die Zeit, unfertige Projekte abzuschließen, statt neue Teile zu kaufen'

[aer0700]

Kommt wieder eine Zeit, in der Rechenkosten teurer sind als die Zeitkosten von Entwicklern ...
Wenn ja, könnte vielleicht künftig die Ära der entwicklerfreundlichen Sprachen zu Ende gehen,
und stattdessen eine Zeit kommen, in der man mit LLMs in Sprachen wie C oder Rust programmiert.

[roxie]

Ich halte das für einen guten Einblick. Ich wäre dankbar, wenn es bei C aufhören würde T_T

[ryj0902]

Gibt es selbst am tiefsten Punkt noch einen tieferen Boden? Uff.

[bokjjang]

Auch C oder RUST sind Sprachen für Menschen, daher könnte künftig ein LLM vielleicht direkt in Assembler entwickeln, ohne dass Menschen noch etwas daran anpassen müssen.
Die unzähligen Bibliotheken und Plattformen sind letztlich ebenfalls nur für Menschen gedacht, daher wird ihre Notwendigkeit künftig wohl anders wahrgenommen werden als heute.

[kaykim]

Wäre das, selbst wenn es dazu kommt, nicht nur vorübergehend oder auf bestimmte Bereiche beschränkt?

[GN⁺]

Hacker-News-Meinung

• Das erinnert mich an ein kürzlich gesehenes LaurieWired-Video. Die Annahme war: „Was, wenn die CPU-Produktion zum Stillstand kommt?“ Das Fazit war, dass am Ende die Haltbarkeit und Zuverlässigkeit alter Hardware gewinnt.
  DDR5 32GB kostet etwa $330, DDR4 etwa $130 und DDR3 etwa $50, daher ist es viel vernünftiger, bei kostenkritischen Anforderungen alte Hardware in einer Linux-Umgebung zu verwenden.

  • Wenn alle auf DDR4 oder DDR3 ausweichen, steigt der Preis zwangsläufig, weil das Angebot nicht mitwächst.
  • Wer alten RAM nutzt, muss am Ende auch bei alten Mainboards, Sockeln und CPUs bleiben, daher ist ein einfacher Austausch schwierig.
  • Dass ich meinen Homeserver damals vorsorglich mit DDR4 128GB voll bestückt habe, war wirklich eine gute Entscheidung. Beim neuen Server konnte ich das leider nicht tun.
  • Mein PC nutzt ebenfalls DDR4, daher denke ich darüber nach, einen PC von 2012 hervorzuholen und Linux darauf zu installieren.
  • Statt Linux wäre auch FreeBSD 15.0R eine gute Option. Die neue Version ist gerade erschienen.

• Ich halte es für einen beeindruckenden strategischen Schachzug, dass OpenAI sich Wafer-Lieferungen gesichert hat. In einer Lage, in der Anthropic, Google und offene Modelle sich stetig weiterentwickeln, könnte man so einen Hardware-Flaschenhals schaffen und die Skalierung der Konkurrenz bremsen.
  Ich beneide Modelle wie Claude fast ein wenig, weil sie so konsistente Verbesserungen zeigen.

  • Google könnte von solchen Einschränkungen weniger betroffen sein, weil das Unternehmen seine TPUs selbst entwirft.
  • Ich frage mich, ob diese Situation den Druck erhöhen könnte, speichersparende Modelle zu entwickeln.
  • Dass eine gemeinnützige Organisation die weltweiten Rechenressourcen faktisch monopolisieren könnte, ist beunruhigend.
  • Ich mochte OpenAI ohnehin schon nicht. Solche Schritte verstärken meine Abneigung noch.
  • Falls das eine AI-Blase ist, könnte OpenAI beim Platzen der Blase auf einem enormen Bestandsrisiko sitzen bleiben.

• Ich finde, der Artikel sollte auch die Verantwortung von OpenAI ansprechen. Dazu ist der Beitrag von Moore’s Law Is Dead gut aufbereitet.

  • In Podcasts gab es auch das Gerücht, dass Führungskräfte von AI-Unternehmen in stationären Geschäften RAM in großen Mengen gekauft hätten. Wenn das dann nicht einmal ECC-zertifizierte Produkte gewesen wären, wäre die Geschichte noch interessanter.
  • Letztlich erwähnt auch der Autor, dass die Ursache der Ausbau von AI-Rechenzentren ist. Ich hoffe, diese Blase platzt bald, damit nur wirklich nützliche AI übrig bleibt.

• Vielleicht müssen wir uns wieder mehr mit Leistungs- und Speichereffizienz-Optimierung beschäftigen. MS Teams belegt zum Beispiel 1,5GB, selbst wenn man gar nichts tut.

  • Electron-Apps und PWAs verbrauchen viel Speicher. PWAs in Safari sind sparsamer, werden aber nur schwach unterstützt.
  • Auch Slack belegt 2,3GB. Ich frage mich, ob dieser AI-Boom zu einer Rückkehr nativer Apps führen wird.
  • Es fühlt sich an, als hätte ich das Wort „Optimierung“ seit langer Zeit nicht mehr gehört.
  • Hier ist jemand, der Code auf Diät setzen würde, damit er auch auf alten PCs läuft.
  • PCIe 5.0 NVMe als Page Cache zu nutzen, hilft ziemlich gut.

• Es gab einen halb scherzhaften, halb ernst gemeinten Vorschlag: „Sollen wir nicht unsere eigene Fab aufbauen?“ Angeblich in der Nähe von Toronto.

  • Große chinesische Tech-Unternehmen denken vermutlich über dasselbe nach. Allerdings dauert es bei einer Fab Jahre bis zur Massenproduktion. In 2 bis 3 Jahren könnte das Angebot steigen und die Preise sich stabilisieren.
  • Ich habe weder die Technik noch das Geld, aber wenn es in der Nähe von Ottawa wäre, würde ich gern mitmachen.
  • Handgemachter DRAM (artisanal DRAM) klingt erstaunlich plausibel.
  • Selbst wenn man die Ausrüstung kauft, weiß niemand, wie lang die Lieferzeiten wären.
  • Realistisch betrachtet braucht man tiefe Taschen, aber ich drücke die Daumen.

• Ich mache mir Sorgen, ob der RAM-Mangel auch den Start der Steam Machine beeinflussen wird. Valve dürfte sich Produktionszusagen schwerer sichern können als Sony oder Nintendo. Bei über $750 dürfte sich das kaum gut verkaufen.

  • Kurzfristig scheint Konkurrenz zu Konsolen schwierig. Der RAM-Mangel könnte den Markt für kleine PC-Systeme fast abwürgen. Wahrscheinlich halten nur große Anbieter wie HP oder Dell durch.
  • Valve sagt, man werde sich preislich auf dem Niveau vergleichbarer Gaming-PCs bewegen. Selbst wenn man Konsolen nicht schlägt, bleibt das für PC-Gamer attraktiv.
  • Man könnte auch Verluste auf kurze Sicht akzeptieren, um sich langfristige Loyalität zu sichern.
  • Weil Valve viel Cash hat, wurde sogar scherzhaft gesagt, das Unternehmen könnte im Extremfall Micron kaufen und sich so DDR5 sichern.

• Ich fand die Erklärung interessant, dass wegen der Nachfrage aus AI-Rechenzentren Produktionslinien für Verbraucherspeicher reduziert werden. Ich dachte eigentlich, dass HBM- und DDR-Produktionslinien unterschiedlich sind, und würde dazu gern mehr belastbare Informationen lesen.

  • Wie schon bei GPUs war es auch für NVIDIA eine naheliegende Entscheidung, teure Produkte in der Produktion zu priorisieren.
  • Am Ende ist es ganz natürlich, dass RAM-Hersteller an den Höchstbietenden liefern.

• Im Mai habe ich einen HP-Laptop für $330 (biegt sich wie Plastik) von 8GB auf 32GB aufgerüstet, und der RAM, der damals $44 gekostet hat, kostet jetzt $180.
  Link zum Upgrade-Bericht

  • Damals waren die Preise wirklich extrem niedrig. Ich habe meinen Server auch auf 32GB aufgerüstet und nur 55 Euro bezahlt. Jetzt warte ich nur noch auf das Platzen der Blase.

• Das Versorgungsproblem mit den „roten Chips“ in der Fabrik liegt normalerweise an einem Mangel an Plastikbarren, was wiederum auf einen Engpass in der Ölproduktion zurückgeht, der durch sinkenden Schwerölverbrauch entsteht. Man muss Schweröl zu Leichtöl cracken und überschüssiges Öl in festen Brennstoff umwandeln. Wenn man Pumpen per Schaltkreis so steuert, dass sie nur ab 80% Tankfüllstand laufen, ist das effizient.

  • Spielst du zufällig Foxhole? Die Logistikspieler würden sich jemanden wie dich wünschen.
  • Fester Brennstoff wird später auch als Raketentreibstoff genutzt, daher ist das Anlegen von Vorräten keine Verschwendung.

• Ich sage seit Monaten, dass Chinas Halbleiter-Wettbewerbsfähigkeit gestärkt werden muss. Nur so könnte der Markt einbrechen und normale Nutzer wieder Preise sehen, die für sie erreichbar sind. Damals wurde ich dafür kritisiert, aber wenn man die aktuelle Lage ansieht, scheint es, als hätte ich recht gehabt.