Šajā rakstā
GEEKOM ir demonstrējis četru mezglu AI klasteri, kas veidots no tā kompaktajiem A9 Mega Mini PC, parādot, kā maza izmēra sistēmas var apvienot vietējām uzņēmumu AI lietojumprogrammām.
Klasteris savieno četras A9 Mega vienības caur USB4, ļaujot tām darboties kā sadalītai platformai bez tradicionāla serveru skapja vai patentēta ātrgaitas tīkla aprīkojuma. Katru sistēmu darbina AMD Ryzen AI Max+ 395 procesors ar 16 Zen 5 CPU kodoliem, Radeon 8060S grafiku un vienoto atmiņu.
Darbojoties ar Ubuntu, ROCm un DwarfStar programmatūru, klasteris sadala DeepSeek V4 Flash modeli visās četrās mašīnās. Tas nodrošina arī OpenAI saderīgu API, ļaujot integrēt lietojumprogrammas, AI aģentus un automatizācijas rīkus.
Galvenā priekšrocība ir vietējā apstrāde. Uzņēmumi var analizēt dokumentus, pirmkodu, līgumus un iekšējās zināšanas, nenosūtot sensitīvu informāciju publiskajā mākonī. GEEKOM norāda, ka sistēma ir testēta arī ar konteksta logiem līdz 250 000 marķieriem, padarot to piemērotu gariem dokumentiem un sarežģītām darbplūsmām.
Saskaņā ar uzņēmuma teikto klasteris sasniedza aptuveni 14,61 marķieri sekundē pie vienas vienlaicības, ar 95. procentiles laiku līdz pirmajam marķierim aptuveni 0,42 sekundes tā 32 un 128 marķieru testos. Organizācijas var sākt ar vienu vai divām A9 Mega sistēmām un paplašināt līdz četrām, pieaugot prasībām.
Demonstrācija izceļ kompakto datoru potenciālu kā mērogojamām vietējām AI platformām uzņēmumiem, laboratorijām, klasēm un malas skaitļošanas vidēm.
Avots: GEEKOM, izmantojot PR Newswire. Veiktspējas rādītāji un iespējas ir balstīti uz uzņēmuma ziņotajiem testiem.
Jautājumi un komentāri
0
Katrs jautājums saņem atbildi. Jautājiet pirms pirkuma — DaveC un komanda atbild vienas darba dienas laikā, un atbildes paliek publiskas, lai palīdzētu arī nākamajam lasītājam.
