Wie AMD den CUDA-Burggraben überwinden könnte

• Nvidia hat im Bereich GenAI einen Vorsprung dank Software-Tools wie CUDA und cuDNN sowie optimierten Bibliotheken
  • Rund um die Hardware wurde ein starker Software-„Burggraben“ (Moat) aufgebaut, der es anderen Unternehmen erschwert, im HPC- und GenAI-Markt zu konkurrieren
• Durch die steigende Nachfrage nach GenAI-Rechenressourcen werden mehr GPUs benötigt. Dadurch entsteht eine Lücke zwischen Angebot und Nachfrage, die Unternehmen wie AMD zu füllen versuchen
• Um mit Nvidia zu konkurrieren, müssen GPUs und Beschleuniger anderer Hersteller CUDA unterstützen. AMD ermöglicht dies mit dem HIP-CUDA-Konvertierungstool
• Die Open-Source-Machine-Learning-Bibliothek PyTorch gewinnt als Alternative zu TensorFlow an Beliebtheit, um AI-Anwendungen mit GPUs zu entwickeln
• PyTorch schirmt Nutzer von der zugrunde liegenden GPU-Architektur ab und erleichtert es AMD-GPUs, den CUDA-Burggraben zu überwinden
• Nvidias kommender ARM-basierter Grace-Hopper-Superchip mit 72 Kernen weckt aufgrund seiner potenziellen Leistung in HPC und GenAI große Erwartungen
• AMD will mit dem kommenden Instinct-MI300A-Prozessor gegen Nvidias Grace-Hopper-Superchip antreten; dieser Prozessor wird den kommenden El Capitan des Lawrence Livermore National Laboratory antreiben
• AMD-CEO Lisa Su hat erklärt, dass das Unternehmen aufgrund seiner Architekturentscheidungen das Ziel verfolgt, Branchenführer bei Inferenzlösungen zu werden
• Für AMD und andere Hardware-Anbieter hat PyTorch eine Zugbrücke über den CUDA-Burggraben gelegt
• Die Hardware-Schlacht im GenAI-Markt wird durch Performance, Portabilität und Verfügbarkeit entschieden werden

[slemma999]

Ich lese Ihre guten Artikel immer gern, vielen Dank. Ich möchte aber eine persönliche Meinung anmerken: Es ist weder eine echte Koreanisierung, noch wirkt es natürlich, wenn Begriffe in sino-koreanische Wörter umgewandelt werden; dadurch klingt der Text holprig und ist schwer verständlich. Wörter wie 도개교 oder 해자 würde ich lieber entweder im Englischen belassen oder in leicht verständlichem Koreanisch umschrieben sehen.

[monovision]

"Graben" ist ein häufig verwendetes Wort, und obwohl "Zugbrücke" nicht so gebräuchlich ist, scheint es laut Wörterbüchern und Ähnlichem eine genau passende Übersetzung zu sein.
https://ko.wikipedia.org/wiki/%EA%B0%80%EB%8F%99%EA%B5%90

[slemma999]

Ich weiß, dass der Begriff auch in der Wirtschaft verwendet wird, und ich verstehe, dass er mit der zunehmenden Komplexität der AI-Technologie hier benutzt wird, aber ich glaube, er wird falsch verwendet. Zum Beispiel ist die Formulierung, dass es AMDs GPU erleichtere, den CUDA-Burggraben zu überwinden, indem sie vom grundlegenden CPU-Architekturmodell isoliert wird, technisch so geschrieben, als ließe sich das auf einfache Weise lösen, und das ist irreführend. Auf Koreanisch wäre eine Formulierung wie, dass man über die technische Fähigkeit verfügt, den Burggraben zu überwinden, passender. Dieser Satz wirkt, als sei er so geschrieben, als könne irgendeine einzelne Bibliothek das Problem lösen, und deshalb klingt er ziemlich unnatürlich. So sehr, dass ich mich frage, ob "Burggraben" hier überhaupt das richtige Wort ist.

[newtype]

„Burggraben“ ist ein ausgesprochen passendes Wort: Es lässt sich kaum ersetzen, und es besteht auch kaum Bedarf, es überhaupt zu ersetzen ... Für Sie mag es ungewohnt sein, weil Sie ihm gerade erst zum ersten Mal im Wörterbuch begegnet sind, aber nicht alle anderen Leser haben ein ähnliches Sprachniveau wie Sie. Bitte setzen Sie Unwissenheit nicht als Waffe ein.

[botplaysdice]

Das geht einem schon nahe. Aber ich hoffe, dass dies keine Community wird, in der Unwissen zur Beschämung führt.

[fortune]

Stimmt, ich habe auch manchmal das Gefühl, dass automatische Übersetzungen an einigen Stellen etwas unnatürlich wirken.

Allerdings ist „Burggraben“ in solchen Fällen auch bei uns ein geläufiger Ausdruck. Wenn Sie in den Nachrichtensuchen nach „Burggraben“ suchen, werden Sie viele Ergebnisse finden.

[cosine20]

Soweit ich weiß, war OpenCL das, womit AMD als Gegenspieler zu CUDA angetreten ist. Da es hier nicht erwähnt wird, scheint es in der Zwischenzeit wohl keine besonders enge Anbindung an Bibliotheken im Bereich Künstliche Intelligenz gegeben zu haben.

[GN⁺]

Hacker-News-Kommentare

• Ein Nutzer sah mit ROCm zusammen mit Pytorch im Vergleich zur CPU eine 200-fache Leistungssteigerung.
• Wegen der Komplexität des AMD-Setups empfiehlt der Nutzer die Verwendung des offiziellen Standard-Docker-Images von ROCm Pytorch.
• Der Nutzer sagte, dass CUDA der einzige Grund sei, warum er eine Nvidia-Karte habe, würde es aber begrüßen, wenn mehr Projekte zu neutralen Umgebungen wechseln würden.
• Der Nutzer empfindet das Ausführen von Nvidia unter Linux als kaum angenehmer als Kernel-Abstürze unter Windows Vista.
• Der Nutzer begrüßt den Wettbewerb durch AMD und andere Konkurrenten und interessiert sich auch für Apple-Silicon-SoCs mit großem internem RAM.
• Pytorch erlaubt andere Hardware, und der Nutzer möchte reale Benchmarks zur Rechenleistung sehen.
• Empirische Belege dafür, dass AMD den Abstand zu Nvidia bei wissenschaftlicher oder ML-Software verkleinert, sind begrenzt.
• CUDA ist das Ergebnis von Nvidias Bemühungen zur Unterstützung des Ökosystems; wer Nvidia kauft, kauft auch die Investitionen des Unternehmens in dieses Ökosystem mit.
• AMD hat die Hardware, aber es fehlt an Unterstützung für HPC jenseits von bliss und AOCL.
• Der Nutzer fragt sich, ob AMD eine Lösung für Vorwärtskompatibilität bei Geräten hat, ähnlich wie Nvidias PTX.
• Nvidias Vorsprung ist das Ergebnis jahrelanger Arbeit der Open-Source-Community, großer Unternehmen und Forschungseinrichtungen.
• Der Nutzer fragt sich, ob bei einem Aufholen von AMD die Preise für Hobbyprojekte oder gebootstrappte Startups sinken würden oder ob AMD die Preise wie Nvidia ebenfalls anheben würde.
• AMDs Softwarelösung ist so konzipiert, dass sie auf beliebiger Hardware läuft, und da hip zeilenweise mit cuda kompatibel ist, ist die Portierung sehr einfach.