In this article
GEEKOM ir demonstrējis četru mezglu AI klasteri, kas veidots no tā kompaktajiem A9 Mega Mini PC, parādot, kā maza izmēra sistēmas var apvienot vietējām uzņēmumu AI lietojumprogrammām.
Klasteris savieno četras A9 Mega vienības caur USB4, ļaujot tām darboties kā sadalītai platformai bez tradicionāla serveru skapja vai patentēta ātrgaitas tīkla aprīkojuma. Katru sistēmu darbina AMD Ryzen AI Max+ 395 procesors ar 16 Zen 5 CPU kodoliem, Radeon 8060S grafiku un vienoto atmiņu.
Darbojoties ar Ubuntu, ROCm un DwarfStar programmatūru, klasteris sadala DeepSeek V4 Flash modeli visās četrās mašīnās. Tas nodrošina arī OpenAI saderīgu API, ļaujot integrēt lietojumprogrammas, AI aģentus un automatizācijas rīkus.
Galvenā priekšrocība ir vietējā apstrāde. Uzņēmumi var analizēt dokumentus, pirmkodu, līgumus un iekšējās zināšanas, nenosūtot sensitīvu informāciju publiskajā mākonī. GEEKOM norāda, ka sistēma ir testēta arī ar konteksta logiem līdz 250 000 marķieriem, padarot to piemērotu gariem dokumentiem un sarežģītām darbplūsmām.
Saskaņā ar uzņēmuma teikto klasteris sasniedza aptuveni 14,61 marķieri sekundē pie vienas vienlaicības, ar 95. procentiles laiku līdz pirmajam marķierim aptuveni 0,42 sekundes tā 32 un 128 marķieru testos. Organizācijas var sākt ar vienu vai divām A9 Mega sistēmām un paplašināt līdz četrām, pieaugot prasībām.
Demonstrācija izceļ kompakto datoru potenciālu kā mērogojamām vietējām AI platformām uzņēmumiem, laboratorijām, klasēm un malas skaitļošanas vidēm.
Avots: GEEKOM, izmantojot PR Newswire. Veiktspējas rādītāji un iespējas ir balstīti uz uzņēmuma ziņotajiem testiem.
Bringer of videos, text and images! AKA the social media guy at DROIX. Massive retro gaming fan and collector, with a far too large collection of consoles and computers from 1970's to modern. Contact me at [email protected]
Questions & comments
0
Every question gets an answer. Ask before you buy — DaveC and the team reply within one working day, and answers stay public so they help the next reader too.
