OpenAI entwickelt in Zusammenarbeit mit Broadcom & TSMC den ersten Chip und fährt Foundry-Pläne zurück

• OpenAI entwickelt einen AI-Inferenzchip und gibt Pläne für ein Foundry-Netzwerk auf
• Broadcom hilft bei OpenAIs Chipdesign und unterstützt die Fertigung bei TSMC
• OpenAI diversifiziert seine Chipversorgung durch die zusätzliche Nutzung von AI-Chips von AMD

OpenAIs interne Chipdesign-Bemühungen und die Nutzung von Industriepartnerschaften

• OpenAI prüft verschiedene Optionen, um die Chipversorgung zu diversifizieren und Kosten zu senken
• Das Unternehmen will seine ehrgeizigen Foundry-Pläne vorerst aussetzen und sich auf interne Chipdesign-Bemühungen konzentrieren
• OpenAIs Strategie zeigt – ähnlich wie bei großen Wettbewerbern wie Amazon, Meta, Google und Microsoft –, wie sich die Chipversorgung sichern und Kosten steuern lassen, indem Industriepartnerschaften sowie interne und externe Ansätze kombiniert werden
• OpenAI gehört zu den größten Chipkäufern; die Entscheidung, eigene Chips zu entwickeln und zugleich von verschiedenen Chipherstellern zu beziehen, könnte weitreichende Auswirkungen auf den Technologiesektor haben
• Broadcom hilft Unternehmen wie Google dabei, Chipdesigns für die Fertigung zu verfeinern, und liefert Designbausteine, die den schnellen Datentransfer auf Chips unterstützen
• OpenAI hat sich über Broadcom Fertigungskapazitäten bei TSMC gesichert, um 2026 den ersten kundenspezifisch entworfenen Chip herstellen zu können
• Derzeit haben Nvidias GPUs einen Marktanteil von mehr als 80 %
• Doch Lieferengpässe und steigende Kosten veranlassen große Kunden wie Microsoft, Meta und nun auch OpenAI, nach internen oder externen Alternativen zu suchen
• Dass OpenAI über Microsoft Azure AMD-Chips nutzen will, zeigt, dass AMDs neuer MI300X-Chip versucht, einen Teil des von Nvidia dominierten Marktes zu erobern
• Das Training von AI-Modellen und der Betrieb von Diensten wie ChatGPT sind kostspielig
• OpenAI erwartet in diesem Jahr bei einem Umsatz von 3,7 Milliarden US-Dollar einen Verlust von 5 Milliarden US-Dollar
• Rechenkosten sind der größte Kostenblock des Unternehmens und treiben die Bemühungen an, die Auslastung zu optimieren und die Lieferantenbasis zu diversifizieren

Meinung von GN⁺

• OpenAIs interne Chipdesign-Bemühungen und die Zusammenarbeit mit verschiedenen Chipherstellern markieren einen wichtigen Wandel in der AI-Branche. Dadurch könnten neue Alternativen entstehen, die Nvidias Dominanz herausfordern und die Entwicklung von AI-Technologien beschleunigen
• Gleichzeitig könnten Bedenken hinsichtlich OpenAIs Kostenstruktur aufkommen. Angesichts der enormen Kosten für die Entwicklung von AI-Modellen und den Betrieb von Diensten stellen sich Fragen zur langfristigen Profitabilität und Nachhaltigkeit
• Zugleich dürfte das Auftreten neuer AI-Chips wie AMDs MI300X den Wettbewerb im Markt fördern und Kunden mehr Auswahl bieten. Das könnte zur Verbreitung und Kommerzialisierung von AI-Technologien beitragen
• Mit der zunehmenden Konkurrenz im Markt für AI-Chips dürfte sich die technologische Innovation beschleunigen, und die Nachfrage nach leistungsstarken, stromsparenden Chips wird voraussichtlich steigen. Entsprechend dürfte auch der Wettbewerb um Investitionen und Talente in Chipdesign und -fertigung weiter zunehmen
• Unternehmen sollten bei der Einführung von AI-Chips verschiedene Faktoren wie Leistung, Kosten, Kompatibilität und Skalierbarkeit ganzheitlich berücksichtigen. Entscheidend ist die Wahl des optimalen Chips, der zur langfristigen Technologie-Roadmap und Geschäftsstrategie passt

[GN⁺]

Hacker-News-Kommentare

• OpenAI hat seinen Plan aufgegeben, ein Fabriknetzwerk namens „foundries“ für die Chipfertigung aufzubauen. Grund dafür waren Kosten- und Zeitprobleme.

  • OpenAIs Plan war, 7 Billionen Dollar einzusammeln und 36 Fabriken zur Herstellung von AI-Silizium zu bauen.
  • Berichten zufolge lachten TSMC-Manager, als sie von diesem Plan hörten.

• OpenAI stellt viele Hardware-Ingenieure von Google ein.

  • Wenn man sich auf LinkedIn die Profile der Hardware-Ingenieure von OpenAI ansieht, erkennt man, dass viele von ihnen früher bei Google gearbeitet haben.
  • Googles TPU-Team ist schwächer als früher, und es ist möglich, dass zukünftige Google-TPUs den OpenAI-Chips unterlegen sein werden.

• Die Entwicklung von Googles TPUs wurde mit Unterstützung von Broadcom vorangetrieben.

  • Wenn man berücksichtigt, dass Broadcom zur Entwicklung von Googles TPUs beigetragen hat, ist es nur natürlich, dass ehemalige Google-Mitarbeiter diese Beziehung auch in einem neuen Unternehmen fortführen.

• Es gibt Bestrebungen, durch zusätzliche AMD- und NVIDIA-Chips den Infrastrukturbedarf zu decken.

  • Die Nachfrage wächst „wie verrückt“, was zu Lieferproblemen führen kann.
  • Fortune-500-Unternehmen konzentrieren nicht alle Ressourcen an einem Ort, und es ist klug, die Bezugsquellen für AI-Hardware und -Software zu diversifizieren.

• OpenAI scheint eigene Rechenzentren aufzubauen, der Artikel erwähnt dies jedoch nicht ausdrücklich.

  • Es stellt sich die Frage, ob es außer TSMC im Westen noch andere Hersteller für AI-/Matrixmultiplikations-Chips gibt.
  • NVIDIA, AMD, Google und OpenAI nutzen alle TSMC.
  • Es stellt sich die Frage, ob Samsung nicht wettbewerbsfähig ist.

• Es stellt sich die Frage, wie lange es dauern wird, den neuen Chip zu produzieren und für Training/Inferenz einzusetzen.

• Abgesehen von GH Copilot wurden die gesellschaftlichen/kulturellen Auswirkungen von LLMs bislang noch nicht wirklich sichtbar.

  • Es wäre wünschenswert, wenn es produktive kulturelle Auswirkungen gäbe, die sich breit in der Gesellschaft ausbreiten und nachhaltig wirken.

• OpenAI wollte sich durch eigenes Chipdesign und eigene Fertigung einen Wettbewerbsvorteil sichern.

  • Eigene Chips könnten bei den Kosten große Vorteile bieten.
  • Möglicherweise kam man zu dem Schluss, dass es ausreicht, zunächst mit eigenem Chipdesign zu beginnen.

• Für 7 Billionen Dollar eigene Fabriken zu bauen, war ein ambitionierter und waghalsiger Plan.

  • Es scheint, als habe man der Realität ins Auge geblickt und den Plan zurückgefahren.
  • Hoffentlich bleibt die Qualität erhalten.

• Es ist schon bemerkenswert, dass die „abgespeckte“ Variante darin besteht, gemeinsam mit TSMC einen eigenen Chip zu bauen.