15.03.26: Die DGX Spark von Nvidia ist angekommen
Desktop Agent Computer
Unterstützt vom NVIDIA GB10 Grace Blackwell Superchip ist NVIDIA DGX Spark™ eine vollständige Plattform für lokale autonome Agenten. Großer lokaler Speicher, leistungsstarkes KI-Computing und der NVIDIA AI-Software-Stack ermöglichen es, Agenten und große Modelle lokal auszuführen, was den Bedarf an cloudbasierten Ressourcen für die Token-Generierung reduziert. Mit einem kompakten, energieeffizienten Design ist DGX Spark darauf ausgelegt, Always-on-Agent-Workloads auszuführen – direkt vom Desktop aus. ( Quelle: https://www.nvidia.com/de-de/products/workstations/dgx-spark )
Warum haben wir diesen Rechner ausgewählt?
Rein für Inferenz ist die SPARK vermutlich nicht die erste Wahl. Da ist u.a. Apple auch sehr gut aufgestellt, wenn kein Cuda Support notwendig ist und MLX-Modelle verfügbar sind. Das Gesamtspektrum
- Inferenz (lokale Modelle bis ca. 200 B - Milliarden Parameter, direkt oder als KI Server)
- Prototyping (entwickeln, testen und validieren von KI Modellen & Anwendungen)
- Feinabstimmung (Optmierung von KI Modellen bis 70 B)
- Edge Anwendungen (mit KI Frameworks entwickeln, wie IsaakTM, Metropolis)
Am Ende hat für diese Aufgaben auch das Preis-/Leistungsverhältnis entschieden.

-