-
Vorstellung von Nvidias Project Digits
- Nvidia hat auf der CES 2025 Project Digits vorgestellt, den als „persönlichen KI-Supercomputer“ bezeichneten.
- Es bietet die Grace-Blackwell-Hardwareplattform im kompakten Formfaktor.
- Es ist eine Cloud-Computing-Plattform, auf der der komplette KI-Software-Stack von Nvidia ausgeführt werden kann.
-
Technische Merkmale von Project Digits
- Es wurde für KI-Forscher, Datenwissenschaftler und Studierende entwickelt.
- Mit dem GB10 Grace Blackwell Superchip liefert es bis zu 1 Petaflop Rechenleistung.
- Es kann Modelle mit bis zu 200 Milliarden Parametern ausführen.
- Es ist mit der in Zusammenarbeit mit MediaTek entwickelten Nvidia Blackwell GPU und einer 20-Core-Nvidia-Grace-CPU ausgestattet.
- Es bietet 128 GB Speicher und bis zu 4 TB Flash-Speicher.
-
Skalierbarkeit und Preis
- Durch die Verbindung von zwei Project Digits können Modelle mit bis zu 405 Milliarden Parametern ausgeführt werden.
- Es kann als eigenständiges Gerät genutzt werden oder an einen Windows- oder Mac-PC angeschlossen werden.
- Der Preis beginnt bei 3.000 US-Dollar, und ab Mai ist der Kauf über „Hauptpartner“ möglich.
-
Markt und Vision
- Nvidia-CEO Jensen Huang sagte, Project Digits werde Millionen von Entwicklern einen KI-Supercomputer bereitstellen.
- Es soll Datenwissenschaftlern, KI-Forschern und Studierenden dabei helfen, die KI-Ära mitzugestalten.
-
Weitere Informationen
- Zu Nvidias Präsentation auf der CES 2025 sind weitere Updates angekündigt.
- Den Artikel verfasste Kyle Wiggers von TechCrunch.
2 Kommentare
Wenn es wirklich so klappt, wie behauptet, wäre es schön, wenn die Leistung gut wäre und der Wartungsaufwand gut erledigt würde.
Hacker News Kommentare
Die Nvidia Jetson Nano ist vier Jahre nach ihrer Einführung unbrauchbar geworden, nachdem der Support eingestellt wurde. Sie wurde auf Basis von Ubuntu 18.04 herausgebracht, aber ohne spätere Updates ist der Machine-Learning-Stack veraltet. Nvidia-SBCs werde ich nicht kaufen, solange die Softwareunterstützung nicht in den Linux-Kernel integriert ist.
Mit dem steigenden Interesse an KI und LLMs könnte Nvidia Apples Markt für KI-Entwickler erobern. Ich hätte gerne Nvidia-Aktien besessen.
DGX OS 6 basiert auf Ubuntu 22.04 und enthält aktuelle Hardware- und Sicherheitsupdates. Es unterstützt GPU Direct Storage und ermöglicht den Zugriff auf alle Nvidia-GPU-Treiber und CUDA Toolkit-Versionen.
Der Wert von Nvidia ist mit Cloud-Lösungen nicht vergleichbar, besonders wenn private Daten oder Unternehmensgeheimnisse im Spiel sind; entscheidend ist, dass die Daten nicht nach außen gelangen.
Nvidia hat einen Linux-Desktop-Supercomputer mit einem besseren Preis-Leistungs-Verhältnis als Wintel vorgestellt, wobei der neue Software-Stack nur unter WSL2 läuft.
Der IBM Roadrunner war der erste Supercomputer, der 1 Petaflop erreicht hat, und Nvidias Project Digits liefert 1 Petaflop Leistung für das Ausführen von KI-Modellen.
Im Markt der Bioinformatik beschleunigt Illumina die Genomanalyse mithilfe der DRAGEN-Hardwarechips; Oxford Nanopore nutzt ebenfalls GPUs, ist aber durch Größen- und Strombeschränkungen in der Leistung limitiert.
Nvidia hat ein günstiges 128-GB-Gerät für lokale Inferenz eingeführt und erledigt damit, was Intel/AMD hätte tun sollen, wodurch das CUDA-Ökosystem bedroht werden könnte.
Dieses Bild scheint KI-generiert zu sein.
Nvidias neues Produkt ist kein bloßes Peripheriegerät, sondern ein vollwertiger Computer, auf dem Linux läuft. In Zukunft könnte jeder über ein solches Gerät verfügen.