Intel-CEO: „Die gesamte Branche ist motiviert, den CUDA-Markt zu beseitigen“

Intel-CEO greift Nvidias CUDA-Technologie im KI-Bereich an

• Intel-CEO Pat Gelsinger stellte bei einer Veranstaltung in New York City Intel Core Ultra und Xeon-Datacenter-Chips der 5. Generation vor und erklärte, dass Inferenz in der KI wichtiger werden dürfte als Training.
• Gelsinger sagte, dass Nvidias CUDA den Trainingsbereich zwar dominiere, dies aber nicht ewig so bleiben werde. Er erläuterte, dass sich MLIR, Google, OpenAI und andere hin zu einer „pythonischen Programmierschicht“ bewegten, um KI-Training offener zu machen.
• Intel betonte, nicht nur im Training, sondern auch bei der Inferenz wettbewerbsfähig zu sein, und hob hervor, dass entscheidend sei, wie gut sich Modelle ausführen lassen.

Intels KI-Strategie und der OpenVINO-Standard

• Gelsinger treibt Intels KI-Bemühungen mit dem OpenVINO-Standard voran und prognostiziert eine Zukunft des gemischten Computings in der Cloud und auf dem PC.
• Sandra Rivera, Vizepräsidentin von Intels Data Center and AI Group, ergänzte, dass Intel bei der Partnerwahl im Vorteil sein könne, weil das Unternehmen vom Datacenter bis zum PC skaliere.
• Gelsinger sagte, Intel werde mit führenden CPUs, Beschleunigern und Foundry-Angeboten um 100 % des KI-Markts im Datacenter konkurrieren und zugleich auch kommerzielle Chancen mit Nvidia, AMD und anderen verfolgen.

Meinung von GN⁺

• Die Aussagen von Intel-CEO Pat Gelsinger zeigen einen neuen Versuch, die Dominanz von Nvidias CUDA-Technologie im KI-Bereich herauszufordern. Das lässt sich als Teil einer Bewegung hin zu offeneren und stärker standardisierten Ansätzen in der Tech-Industrie verstehen.
• Intels Strategie, den Schwerpunkt auf KI-Inferenz zu legen, deutet auf ein neues Wettbewerbsbild im KI-Markt hin. Das weist auf einen Wandel hin, bei dem der effizienten Ausführung und Nutzung von KI-Modellen mehr Wert beigemessen wird.
• Über Standards wie OpenVINO bietet sich ein Einblick darin, wie Intel seine Position im KI-Bereich stärken will. Das könnte dazu beitragen, die Demokratisierung von Technologie und Innovation zu fördern.

[GN⁺]

Hacker-News-Kommentare

• Diskussion über die Bedeutung von CUDA

  • Bei CUDA geht es nicht einfach um die Geschwindigkeit der Chipproduktion, sondern um Software und das Ökosystem. Die Konkurrenz muss mit dem Ökosystem konkurrieren.
  • Gebrauchte Mi100s bieten auf eBay für fast die gleiche Leistung wie eine A100 etwa ein Fünftel des Preises, aber wegen fehlender Software-Kompatibilität braucht man im Vergleich zu Nvidia-GPUs viel mehr Zeit, um sie zum Laufen zu bringen.
  • Google bietet über die XLA-Schnittstelle Kompatibilität mit PyTorch, und bei Intel ist die Lage ähnlich.
  • Die Konkurrenz muss große Test-Suites aufbauen, um alle Modelle zu testen und Probleme zu beheben.
  • Intel kündigt häufig öffentliche Initiativen an und liefert dann nur minimale Unterstützung; OpenVino wird daher wahrscheinlich keinen Erfolg haben. Dagegen wirkt Triton von OpenAI deutlich populärer.

• NVIDIAs Software-Engineering-Strategie

  • Mehr als die Hälfte der NVIDIA-Ingenieure sind Software-Ingenieure. Jensen hat über Jahrzehnte hinweg einen starken Software-Stack aufgebaut.
  • Solange Intel keinen CEO mit technischem und strategischem Verständnis findet, wird es schwer sein, eine erfolgreiche Antwort auf CUDA zu organisieren.

• Erwartungen und Realität bei CUDA-Alternativen

  • Wenn man bessere Werkzeuge, ein besseres Ökosystem und eine bessere Programmiererfahrung als CUDA bieten könnte, wäre das für alle von Vorteil.
  • Angesichts früherer Versuche wie dem Scheitern von OpenCL wirken solche Behauptungen derzeit jedoch etwas lächerlich.
  • Intel und AMD haben im Vergleich zu den Investitionen in CUDA deutlich weniger Aufwand betrieben, und das Ergebnis ist enttäuschend.

• Frage nach dem eigentlichen Vorteil von CUDA

  • Der Vorteil von CUDA liegt nicht in der Hardware, sondern im Software-Ökosystem.
  • Für die meisten Nutzer sind die Migrationskosten vielleicht nicht hoch, für Forschende und diejenigen, die an den Grenzen des Machbaren arbeiten, gilt das aber womöglich nicht.

• Kritik an OpenCL-basierten Gegenmaßnahmen

  • Intel und AMD hatten über viele Jahre Zeit, auf Basis von OpenCL ähnliche Funktionen bereitzustellen, sind damit aber gescheitert.

• Mangel an Motivation, sich von CUDA zu lösen

  • Die meisten Modelle und Tools verwenden weiterhin CUDA, und von AMD-NN-Middleware ist kaum etwas zu sehen.

• Scheitern der Software-Strategie von Intel und AMD

  • Intel hat in den letzten zehn Jahren nichts getan und Milliarden von Dollar für GPUs verschwendet, die fast nicht funktionieren.
  • Nvidia hat erfolgreich investiert, um die Entwicklung von KI voranzubringen.

• Kritik an der Software-Strategie von Intel und AMD

  • Pat Gelsinger und Lisa Su fehlt es an Verständnis für Software, und bei Software für komplexe Hardware verlassen sie sich auf die Community.
  • Nvidia hat Hardware und Software gemeinsam weiterentwickelt, und das CUDA-Programmiermodell war schon vor langer Zeit eine große Wette.
  • Wenn Intel und AMD keine grundlegenden Veränderungen vornehmen, werden sie gegen ARM und Nvidia verlieren.

• Erwartungen an Intel-GPUs

  • Wenn es eine Intel-GPU mit starker Leistung zum gleichen Preis wie eine Nvidia-GPU gäbe und darauf PyTorch gut liefe, wäre man bereit, eine Intel-GPU zu kaufen.

• Kritik am CUDA-Monopol

  • Dass NVIDIA motiviert ist, das CUDA-Monopol aufrechtzuerhalten, ist nachvollziehbar, aber AMD/Intel/andere Unternehmen haben ihre Chance ebenfalls verpasst.
  • Wenn technische oder kompetenzbezogene Hürden ein De-facto-Monopol für bestimmte Anwendungsfälle aufrechterhalten, sind am Ende die Verbraucher die Leidtragenden.