GEEKOM präsentiert vierknotigen Mini-PC-KI-Cluster mit lokalem DeepSeek-Modell

GEEKOM hat einen vierknotigen KI-Cluster demonstriert, der aus seinen kompakten A9 Mega Mini-PCs aufgebaut ist, und damit gezeigt, wie sich Systeme im Small-Form-Factor für lokale Unternehmens-KI-Anwendungen kombinieren lassen.

Der Cluster verbindet vier A9 Mega-Einheiten über USB4, wodurch sie als verteilte Plattform betrieben werden können, ohne dass ein traditionelles Server-Rack oder proprietäre Hochgeschwindigkeits-Netzwerkausrüstung erforderlich ist. Jedes System wird von AMDs Ryzen AI Max+ 395-Prozessor angetrieben, der über 16 Zen-5-CPU-Kerne, Radeon-8060S-Grafik und Unified Memory verfügt.

Der Cluster läuft unter Ubuntu, ROCm und DwarfStar-Software und verteilt das DeepSeek V4 Flash-Modell auf alle vier Maschinen. Er bietet zudem eine OpenAI-kompatible API, die die Integration mit Anwendungen, KI-Agenten und Automatisierungstools ermöglicht.

Ein wesentlicher Vorteil des Aufbaus ist die lokale Verarbeitung. Unternehmen können Dokumente, Quellcode, Verträge und internes Wissen analysieren, ohne sensible Informationen an eine öffentliche Cloud zu übermitteln. GEEKOM zufolge wurde das System zudem mit Kontextfenstern von bis zu 250.000 Token getestet, was es für umfangreiche Dokumente und komplexe Workflows geeignet macht.

Laut Unternehmen erreichte der Cluster bei Einzelgleichzeitigkeit etwa 14,61 Token pro Sekunde, mit einer 95-Perzentil-Zeit bis zum ersten Token von rund 0,42 Sekunden in seinen 32- und 128-Token-Tests. Organisationen können mit einem oder zwei A9 Mega-Systemen beginnen und mit wachsendem Bedarf auf vier erweitern.

Die Demonstration unterstreicht das Potenzial kompakter PCs als skalierbare lokale KI-Plattformen für Unternehmen, Labore, Klassenzimmer und Edge-Computing-Umgebungen.

Quelle: GEEKOM via PR Newswire. Leistungsdaten und Fähigkeiten basieren auf unternehmenseigenen Tests.