GEEKOM předvádí čtyřuzlový AI cluster Mini PC s lokálním modelem DeepSeek

GEEKOM předvedl čtyřuzlový AI cluster postavený ze svých kompaktních A9 Mega Mini PC, který ukazuje, jak lze systémy malých rozměrů kombinovat pro lokální podnikové AI aplikace.

Cluster propojuje čtyři jednotky A9 Mega přes USB4, což jim umožňuje fungovat jako distribuovaná platforma bez potřeby tradičního serverového racku nebo proprietárního vysokorychlostního síťového vybavení. Každý systém je poháněn procesorem AMD Ryzen AI Max+ 395 s 16 jádry Zen 5, grafikou Radeon 8060S a unifikovanou pamětí.

Cluster provozující software Ubuntu, ROCm a DwarfStar distribuuje model DeepSeek V4 Flash napříč všemi čtyřmi stroji. Poskytuje také API kompatibilní s OpenAI, což umožňuje integraci s aplikacemi, AI agenty a automatizačními nástroji.

Klíčovou výhodou tohoto uspořádání je lokální zpracování. Podniky mohou analyzovat dokumenty, zdrojový kód, smlouvy a interní znalosti, aniž by odesílaly citlivé informace do veřejného cloudu. GEEKOM uvádí, že systém byl také testován s kontextovými okny až do 250 000 tokenů, což jej činí vhodným pro dlouhé dokumenty a složité pracovní postupy.

Podle společnosti cluster dosáhl přibližně 14,61 tokenů za sekundu při jednoduché souběžnosti, s 95. percentilem času do prvního tokenu kolem 0,42 sekundy v testech se 32 a 128 tokeny. Organizace mohou začít s jedním nebo dvěma systémy A9 Mega a rozšířit na čtyři podle rostoucích požadavků.

Demonstrace zdůrazňuje potenciál kompaktních PC jako škálovatelných lokálních AI platforem pro podniky, laboratoře, učebny a prostředí edge computingu.

Zdroj: GEEKOM via PR Newswire. Údaje o výkonu a schopnosti vycházejí z testování uváděného společností.