GEEKOM demonstrerar ett AI-kluster med fyra noder för mini-PC med lokal DeepSeek-modell

GEEKOM har demonstrerat ett AI-kluster med fyra noder byggt av sina kompakta A9 Mega Mini-PC:er, vilket visar hur system i litet format kan kombineras för lokala AI-applikationer inom företag.

Klustret ansluter fyra A9 Mega-enheter via USB4, vilket gör att de kan fungera som en distribuerad plattform utan att kräva ett traditionellt serverrack eller proprietär höghastighetsnätverksutrustning. Varje system drivs av AMD:s Ryzen AI Max+ 395-processor, med 16 Zen 5 CPU-kärnor, Radeon 8060S-grafik och enhetligt minne.

Klustret kör Ubuntu, ROCm och DwarfStar-programvara och distribuerar DeepSeek V4 Flash-modellen över alla fyra maskinerna. Det tillhandahåller också ett OpenAI-kompatibelt API, vilket möjliggör integration med applikationer, AI-agenter och automatiseringsverktyg.

En viktig fördel med uppsättningen är lokal bearbetning. Företag kan analysera dokument, källkod, kontrakt och intern kunskap utan att skicka känslig information till ett offentligt moln. GEEKOM säger att systemet också har testats med kontextfönster på upp till 250 000 tokens, vilket gör det lämpligt för långa dokument och komplexa arbetsflöden.

Enligt företaget uppnådde klustret cirka 14,61 tokens per sekund vid enkel samtidighet, med en 95:e percentil tid till första token på cirka 0,42 sekunder i sina 32- och 128-token-tester. Organisationer kan börja med ett eller två A9 Mega-system och utöka till fyra i takt med att kraven växer.

Demonstrationen belyser potentialen hos kompakta PC:er som skalbara lokala AI-plattformar för företag, laboratorier, klassrum och edge computing-miljöer.

Källa: GEEKOM via PR Newswire. Prestandasiffror och funktioner baseras på företagets rapporterade tester.