GEEKOM predstavlja štirivozliščni mini PC AI grozd z lokalnim modelom DeepSeek

GEEKOM je predstavil štirivozliščni AI grozd, zgrajen iz njegovih kompaktnih A9 Mega Mini PC-jev, kar kaže, kako je mogoče sisteme majhne oblike združiti za lokalne poslovne AI aplikacije.

Grozd povezuje štiri enote A9 Mega prek USB4, kar jim omogoča delovanje kot porazdeljena platforma brez potrebe po tradicionalnem strežniškem stojalu ali lastniški visokohitrostni omrežni opremi. Vsak sistem poganja AMD-jev procesor Ryzen AI Max+ 395 s 16 jedri Zen 5 CPU, grafiko Radeon 8060S in poenotenim pomnilnikom.

Grozd, ki teče na Ubuntuju, ROCm in programski opremi DwarfStar, porazdeli model DeepSeek V4 Flash po vseh štirih napravah. Ponuja tudi API, združljiv z OpenAI, kar omogoča integracijo z aplikacijami, AI agenti in orodji za avtomatizacijo.

Ključna prednost postavitve je lokalna obdelava. Podjetja lahko analizirajo dokumente, izvorno kodo, pogodbe in interno znanje, ne da bi občutljive informacije pošiljala v javni oblak. GEEKOM pravi, da je bil sistem preizkušen tudi s kontekstnimi okni do 250.000 žetonov, zaradi česar je primeren za dolge dokumente in zapletene delovne tokove.

Po navedbah podjetja je grozd dosegel približno 14,61 žetonov na sekundo pri enojni sočasnosti, s 95. percentilom časa do prvega žetona okoli 0,42 sekunde v testih s 32 in 128 žetoni. Organizacije lahko začnejo z enim ali dvema sistemoma A9 Mega in jih razširijo na štiri, ko njihove zahteve rastejo.

Predstavitev poudarja potencial kompaktnih PC-jev kot razširljivih lokalnih AI platform za podjetja, laboratorije, učilnice in okolja robnega računalništva.

Vir: GEEKOM prek PR Newswire. Podatki o zmogljivosti in zmožnosti temeljijo na testiranju, ki ga je poročalo podjetje.