Prozessoren der Ryzen Pro 8000-Serie für Notebooks und Workstations
- Basieren auf der bisherigen 8040-Serie „Hawk Point“
- Mit integrierter NPU für AI-Workloads als erste im kommerziellen Markt
- AMD beansprucht einen Vorsprung bei der NPU-Leistung gegenüber Intel (16 TOPS vs. 11 TOPS)
- Auch Desktop-Prozessoren der 8000-APU-Reihe verfügen über eine 16-TOPS-NPU
AI-Ökosystem und Partnerschaften
- Das aktuelle AI-Ökosystem befindet sich noch in einer frühen Phase
- AMD plant, bis 2024 mehr als 150 ISV-Partnerschaften aufzubauen
- Intel verfügt derzeit über 100 ISV-/IHV-Partnerschaften
Detaillierte Spezifikationen der Ryzen Pro 8040-Serie
- U- und HS-Serien mit einem TDP-Bereich von 15 bis 54 W
- Gleiche maximale Taktraten bei 6/8 Kernen, nur der Ryzen 5 Pro 8540U kommt ohne NPU
- AMD beansprucht einen Leistungsvorsprung von mehr als 30 % gegenüber Intel (Benchmarks mit Vorsicht betrachten)
Detaillierte Spezifikationen der Ryzen Pro 8000-APU-Serie
- Basieren auf der Consumer-Serie 8000G
- 4/6/8 Kerne, Versionen mit 45 bis 65 W sowie stromsparende 35-W-Varianten
- AMD beansprucht gegenüber Intel eine bis zu 3-fach höhere Grafikleistung
AMD-Pro-Technologien
- Pro Security, Pro Manageability, Pro Business Ready usw.
- Einheitlicher Funktionssupport über die gesamte Produktfamilie hinweg (als Differenzierung zu Intel)
Meinung von GN⁺
- Die Integration einer NPU in Prozessoren für professionelle Anwender ist eine bemerkenswerte Innovation. Angesichts der schnellen Verbreitung von AI-Anwendungen wirkt es so, als habe AMD hier proaktiv reagiert.
- Allerdings ist das Ökosystem an Anwendungen, die NPUs nutzen, noch unreif, sodass der tatsächliche Leistungsvorteil im Alltag schwer spürbar sein könnte. Der Ausbau der ISV-Partnerschaften wird entscheidend sein.
- AMD beansprucht zwar Vorteile gegenüber Intel, doch eine objektive Überprüfung durch Benchmarks ist nötig. Ein Vergleich mit Apples M-Serie fehlt ebenfalls.
- Bei der Integration professioneller Funktionen und der Unterstützung durch Pro-Technologien scheint es durchaus Differenzierungsmerkmale zu geben. Die gesamte Plattform wirkt wettbewerbsfähig.
- Es bleibt spannend, inwieweit AMD Intels Vormachtstellung im Unternehmensmarkt aufbrechen kann. Das dürfte von der Erweiterung des Ökosystems und der langfristigen Roadmap abhängen.
2 Kommentare
Ohne CUDA scheint man da wohl nichts ausrichten und das Blatt nicht wenden zu können ... Soweit ich weiß, wurde auch das letzte CUDA-Wrapping-Projekt eingestampft ... schluchz
Hacker-News-Kommentar
Apples Chips der M-Serie haben sich mit ihrem Unified-Memory-Modell als sehr leistungsfähig erwiesen: Der Speicher sitzt im selben Package wie die CPU und bietet eine hohe Bandbreite. Deshalb bevorzugen viele in der LLM-Community Macs mit viel Arbeitsspeicher.
Es ist erfreulich, dass die neuen Ryzen-Kerne eine NPU enthalten, aber es ist fraglich, ob AMDs Ansatz mit Speicher außerhalb des Dies so effektiv sein wird wie bei Apple.
Diese Funktionen in Produkten zu sehen, die keine teuren NVIDIA-Karten sind, ist ein großer Fortschritt. Eine lokale NPU könnte helfen, mehr Videokonferenz-Funktionen und Ähnliches am Edge bereitzustellen.
Die Zen4-Architektur ist sehr elegant. Die APU wird stark genutzt, und es ist auch möglich, beliebigen Code auf den GPU-Kernen auszuführen. Allerdings ist der Software-Stack noch nicht vollständig ausgereift.
Die Ryzen-AI-NPU ist bisher nicht in die wichtigen Inferenz-Frameworks integriert und daher aktuell kaum mehr als nutzlose Siliziumfläche.
Jeder Vendor hat eigene Hardware, weshalb die Tool-Unterstützung schwach ist, und selbst wenn es Unterstützung gibt, wird sie nur in Teilen der Software genutzt. Gleichzeitig belegt das Die-Fläche und andere Ressourcen.
Es ist fraglich, ob sich eine NPU im PyTorch-LLM-Stack sinnvoll nutzen lässt. „NPU“ bedeutet je nach Gerät bzw. Vendor sehr Unterschiedliches.
Die diesmal vorgestellten neuen Produkte bieten maximal 8 Kerne, was im Vergleich zu den früheren 5900X- und 5950X-Modellen mit 12 bzw. 16 Kernen wie ein Rückschritt wirkt.
Der Fokus auf TOPS passt nicht zur Realität von LLMs. Ohne ausreichende Speicherbandbreite sind TOPS bedeutungslos. Es scheint Dual-Channel-Speicher statt Quad-Channel zu sein.