In this article
GEEKOM a démontré un cluster IA à quatre nœuds construit à partir de ses mini-PC compacts A9 Mega, montrant comment des systèmes à petit facteur de forme peuvent être combinés pour des applications d’IA d’entreprise locales.
Le cluster connecte quatre unités A9 Mega via USB4, leur permettant de fonctionner comme une plateforme distribuée sans nécessiter de baie de serveurs traditionnelle ni d’équipement de réseau haut débit propriétaire. Chaque système est propulsé par le processeur Ryzen AI Max+ 395 d’AMD, doté de 16 cœurs CPU Zen 5, d’un graphisme Radeon 8060S et d’une mémoire unifiée.
Fonctionnant sous Ubuntu, ROCm et le logiciel DwarfStar, le cluster distribue le modèle DeepSeek V4 Flash sur les quatre machines. Il fournit également une API compatible OpenAI, permettant l’intégration avec des applications, des agents IA et des outils d’automatisation.
Un avantage clé de cette configuration est le traitement local. Les entreprises peuvent analyser des documents, du code source, des contrats et des connaissances internes sans envoyer d’informations sensibles vers un cloud public. GEEKOM indique que le système a également été testé avec des fenêtres de contexte allant jusqu’à 250 000 tokens, ce qui le rend adapté aux documents longs et aux flux de travail complexes.
Selon l’entreprise, le cluster a atteint environ 14,61 tokens par seconde en concurrence unique, avec un temps jusqu’au premier token au 95e percentile d’environ 0,42 seconde dans ses tests de 32 et 128 tokens. Les organisations peuvent commencer avec un ou deux systèmes A9 Mega et passer à quatre à mesure que leurs besoins augmentent.
La démonstration met en évidence le potentiel des PC compacts en tant que plateformes d’IA locales évolutives pour les entreprises, les laboratoires, les salles de classe et les environnements d’informatique en périphérie.
Source : GEEKOM via PR Newswire. Les chiffres de performance et les capacités sont basés sur des tests rapportés par l’entreprise.
Bringer of videos, text and images! AKA the social media guy at DROIX. Massive retro gaming fan and collector, with a far too large collection of consoles and computers from 1970's to modern. Contact me at [email protected]
Questions & comments
0
Every question gets an answer. Ask before you buy — DaveC and the team reply within one working day, and answers stay public so they help the next reader too.
