Nvidia bringt KI-Supercomputer für den Schreibtisch – für 3.000 USD

Der neue persönliche KI-Computer im handlichen Desktop-Format soll im Mai auf den Markt kommen und KI-Modelle mit bis zu 200 Milliarden Parameter beherrschen.

Nvidia kündigte auf der Comsumer Electronics Show (CES) einen persönlichen KI-Supercomputer namens Project Digits an, der schon im Mai dieses Jahres auf den Markt kommen soll.

Das Herzstück von Project Digits ist der neue Grace-Blackwell-Superchip GB10, der genug Rechenleistung für anspruchsvolle KI-Modelle aufbringt und gleichzeitig so kompakt ist, dass er auf einen Schreibtisch passt und über eine normale Steckdose betrieben werden kann, Für diese Art von Rechenleistung waren bisher viel größere, leistungshungrigere Systeme erforderlich. Das Nvidia-System in handlicher Desktopgröße kann KI-Modelle mit bis zu 200 Milliarden Parametern verarbeiten und hat einen Startpreis von 3.000 US-Dollar. Das Produkt selbst sehe einem Mac Mini sehr ähnlich, schreibt das Technologieportal The Verge.

Jedes Project-Digits-System ist mit 128 GByte Arbeitsspeicher (RAM) und mit bis zu 4 TByte NVMe-Speicher ausgestattet. Zum Vergleich: ein guter Laptop kommt auf 16 GByte oder 32 GByte RAM. Für noch anspruchsvollere Anwendungen können zwei Project-Digits-Systeme miteinander verbunden werden, um Modelle mit bis zu 405 Milliarden Parametern zu verarbeiten. Das beste Modell von Meta, Llama 3.1, hat 405 Milliarden Parameter.

Wahnsinnsleistung: 1 Billiarde KI-Berechnungen pro Sekunde

Der im KI-Supercomputer von Nvidia verbaute GB10-Chip bietet eine KI-Leistung von bis zu 1 Petaflop, was heißt, er kann 1 Billiarde KI-Berechnungen pro Sekunde durchführen – und das für 3.000 US-Dollar.

Entwickler und Data Scientists können ihre KI-Modelle lokal auf Project Digits entwickeln, testen und dann auf Cloud-Dienste oder Rechenzentrumsinfrastrukturen übertragen, indem sie die Grace Blackwell-Architektur und die Nvidia AI Enterprise-Softwareplattform verwenden.

So schätzen wir es ein: KI wird durch Project Digits weiter demokratisiert. Der KI-Supercomputer von Nvidia wird individuellen und domänenspezifischen KI-Modellen in den Unternehmen einen Riesenschub versetzen.