In dit artikel
GEEKOM heeft een vier-node AI-cluster gedemonstreerd dat is gebouwd uit zijn compacte A9 Mega Mini-pc’s, waaruit blijkt hoe small-form-factor systemen kunnen worden gecombineerd voor lokale enterprise-AI-toepassingen.
Het cluster verbindt vier A9 Mega-eenheden via USB4, waardoor ze kunnen werken als een gedistribueerd platform zonder dat een traditioneel serverrack of propriëtaire hogesnelheidsnetwerkapparatuur nodig is. Elk systeem wordt aangedreven door AMD’s Ryzen AI Max+ 395-processor, met 16 Zen 5 CPU-kernen, Radeon 8060S-graphics en unified memory.
Het cluster draait Ubuntu, ROCm en DwarfStar-software en verdeelt het DeepSeek V4 Flash-model over alle vier machines. Het biedt ook een OpenAI-compatibele API, waardoor integratie met applicaties, AI-agenten en automatiseringstools mogelijk is.
Een belangrijk voordeel van de opstelling is lokale verwerking. Bedrijven kunnen documenten, broncode, contracten en interne kennis analyseren zonder gevoelige informatie naar een publieke cloud te sturen. GEEKOM zegt dat het systeem ook is getest met contextvensters tot 250.000 tokens, waardoor het geschikt is voor lange documenten en complexe workflows.
Volgens het bedrijf bereikte het cluster ongeveer 14,61 tokens per seconde bij enkele gelijktijdigheid, met een 95e-percentiel tijd tot eerste token van ongeveer 0,42 seconden in zijn 32- en 128-token-tests. Organisaties kunnen beginnen met een of twee A9 Mega-systemen en uitbreiden naar vier naarmate hun behoeften groeien.
De demonstratie benadrukt het potentieel van compacte pc’s als schaalbare lokale AI-platforms voor bedrijven, laboratoria, klaslokalen en edge-computingomgevingen.
Bron: GEEKOM via PR Newswire. Prestaties en mogelijkheden zijn gebaseerd op door het bedrijf gerapporteerde tests.
Vragen & opmerkingen
0
Elke vraag krijgt een antwoord. Vraag voordat je koopt — DaveC en het team antwoordt binnen een werkdag, en antwoorden blijven openbaar zodat ze de volgende lezer ook helpen.
