Nvidia stellt mit LPDDR5X-basiertem 128-GB-RAM den persönlichen KI-Supercomputer DIGITS vor
- Nvidia hat auf der CES, die am 7. Januar 2025 (Ortszeit) in Las Vegas stattfand, den persönlichen KI-Supercomputer DIGITS mit 128 GB RAM vorgestellt
- DIGITS ist mit Nvidias neuem NVIDIA GB10 Grace Blackwell Superchip ausgestattet
- Nvidias Ziel ist es, auf den Schreibtischen aller Data Scientists, KI-Forschenden und Studierenden KI-Supercomputer bereitzustellen, damit sie am KI-Zeitalter teilhaben können
Leistung von Nvidias neuem Superchip GB10
- Der GB10-Superchip ist ein auf der NVIDIA Grace Blackwell-Architektur basierendes System on Chip (SoC) und bietet bei FP4-Präzision eine Rechenleistung von bis zu 1 Petaflop (PetaFlop, 10¹⁵/s, 1 Billiarde Operationen pro Sekunde)
- GB10 verfügt über eine NVIDIA Blackwell-GPU mit CUDA®-Kernen der neuesten Generation und Tensor-Kernen der 5. Generation
- Über die NVLink®-C2C-Chip-to-Chip-Interconnect ist sie mit einer CPU auf Arm-Architekturbasis mit 20 Kernen verbunden
- MediaTek, Marktführer im Bereich Arm-basierter SoC-Entwicklung, hat am Design des GB10 mitgewirkt
Ungefähre Spezifikationen des persönlichen KI-Supercomputers DIGITS
- DIGITS ist mit 128 GB vereinheitlichtem, kohärentem Speicher (unified, coherent memory) und bis zu 4 TB NVMe-Storage ausgestattet
- Dieser vereinheitlichte, kohärente Speicher ist ein anderes Konzept als das VRAM der GPU; DIGITS nutzt LPDDR5X-Chips, um 128 GB Speicher bereitzustellen
- Es können LLMs mit bis zu 200B (200 Milliarden) Parametern ausgeführt werden
- Über NVIDIA ConnectX® Networking lassen sich zwei DIGITS-KI-Supercomputer verbinden, um auch LLMs mit bis zu 405B Parametern auszuführen
Geplanter Marktstart und Preis
- DIGITS wird über Nvidias Top-Partner ab Mai dieses Jahres ab 3000 US-Dollar erhältlich sein
Geschätzte Speicherbandbreite (Geschwindigkeit) von DIGITS
- Die Speicherbandbreite ist ein repräsentativer Indikator, der zur Abschätzung der GPU-Leistung verwendet wird
- Detaillierte Spezifikationen von DIGITS, darunter auch die Speicherbandbreite, wurden noch nicht veröffentlicht
- Ein Artikel schätzt auf Basis eines von Nvidia veröffentlichten Bildes, dass DIGITS mit sechs LPDDR5X-Modulen ausgestattet ist, und leitet daraus eine Speicherbandbreite von 825 GB/s ab
- Das ist 2,3-mal schneller als die 360 GB/s der RTX 3060 und 0,8-mal langsamer als die 1008 GB/s der RTX 4090; angesichts von 128 GB RAM ist das eine durchaus respektable Leistung
- Dabei handelt es sich jedoch lediglich um eine persönliche, nicht eindeutig belegte Schätzung; die genaue Leistung lässt sich erst beurteilen, wenn die detaillierten Spezifikationen veröffentlicht werden
7 Kommentare
Haha, ein Personal AI-Supercomputer mit 128 GB normalem Systemspeicher..?
Da lacht sogar unser Shih Tzu zu Hause, Herr Huang.
Mit Korea-Aufschlag landet der Preis wohl bei 600 …
Welches OS würde man dafür dann wohl verwenden?
Wahrscheinlich Linux, oder? Ubuntu.
Anders gesagt … verglichen mit einem Modell mit AMDs leistungsstarker integrierter Grafik (wie etwa dem 8840HS) …
Darauf läuft es also hinaus?
Scheint eine ähnliche Positionierung wie der M4 Mac mini zu haben, nur wirkt dieses Gerät statt für allgemeine Zwecke eher spezialisiert und dafür preislich attraktiver.
Nebenbei gefragt: Werden darauf wohl auch Spiele gut laufen?
Da es sich von einer normalen GPU unterscheidet – etwa durch 128 GB gemeinsamen, konsistenten Speicher –, bin ich mir nicht sicher, wie es sich in der Praxis schlägt! Es gibt wohl auch Aussagen in anderen Beiträgen, dass es sich nicht gut zum Gaming eignen dürfte: https://dirox.com/post/nvidia-project-digits