GEEKOM demonstrerer AI-klynge med fire noder i mini-PC med lokal DeepSeek-modell

GEEKOM har demonstrert en AI-klynge med fire noder bygget av sine kompakte A9 Mega Mini-PCer, og viser hvordan systemer i lite format kan kombineres for lokale bedrifts-AI-applikasjoner.

Klyngen kobler sammen fire A9 Mega-enheter via USB4, slik at de kan fungere som en distribuert plattform uten behov for et tradisjonelt serverrack eller proprietært høyhastighetsnettverksutstyr. Hvert system drives av AMDs Ryzen AI Max+ 395-prosessor, med 16 Zen 5 CPU-kjerner, Radeon 8060S-grafikk og unified memory.

Klyngen kjører Ubuntu, ROCm og DwarfStar-programvare og distribuerer DeepSeek V4 Flash-modellen på alle fire maskinene. Den tilbyr også et OpenAI-kompatibelt API, noe som muliggjør integrasjon med applikasjoner, AI-agenter og automatiseringsverktøy.

En viktig fordel med oppsettet er lokal behandling. Bedrifter kan analysere dokumenter, kildekode, kontrakter og intern kunnskap uten å sende sensitiv informasjon til en offentlig sky. GEEKOM sier at systemet også er testet med kontekstvinduer på opptil 250 000 tokens, noe som gjør det egnet for lange dokumenter og komplekse arbeidsflyter.

Ifølge selskapet oppnådde klyngen omtrent 14,61 tokens per sekund ved enkel samtidighet, med en 95-persentil tid til første token på rundt 0,42 sekunder i testene med 32 og 128 tokens. Organisasjoner kan begynne med ett eller to A9 Mega-systemer og utvide til fire etter hvert som behovene vokser.

Demonstrasjonen fremhever potensialet til kompakte PCer som skalerbare lokale AI-plattformer for bedrifter, laboratorier, klasserom og edge-computing-miljøer.

Kilde: GEEKOM via PR Newswire. Ytelsestall og egenskaper er basert på selskapets rapporterte testing.