GEEKOM tutvustab nelja sõlme mini-PC AI-klastrit kohaliku DeepSeek mudeliga

GEEKOM on tutvustanud nelja sõlmega AI-klastrit, mis on ehitatud selle kompaktsetest A9 Mega Mini PC-dest, näidates, kuidas väikese vormiteguriga süsteeme saab kombineerida kohalike ettevõtte AI-rakenduste jaoks.

Klastri ühendab neli A9 Mega üksust USB4 kaudu, võimaldades neil töötada hajutatud platvormina ilma traditsioonilise serveririiuli või patenteeritud kiire võrguvarustuseta. Iga süsteem on varustatud AMD Ryzen AI Max+ 395 protsessoriga, millel on 16 Zen 5 CPU tuuma, Radeon 8060S graafika ja ühtne mälu.

Ubuntu, ROCm ja DwarfStar tarkvaraga töötades jaotab klaster DeepSeek V4 Flash mudeli kõigi nelja masina vahel. See pakub ka OpenAI-ga ühilduvat API-t, võimaldades integreerimist rakenduste, AI-agentide ja automatiseerimistööriistadega.

Seadistuse peamine eelis on kohalik töötlemine. Ettevõtted saavad analüüsida dokumente, lähtekoodi, lepinguid ja sisemisi teadmisi, ilma et peaksid tundlikku teavet avalikku pilve saatma. GEEKOM ütleb, et süsteemi on testitud ka kuni 250 000 märgi kontekstiaknaga, muutes selle sobivaks pikkade dokumentide ja keerukate töövoogude jaoks.

Ettevõtte sõnul saavutas klaster üksikul kokkulangevusel ligikaudu 14,61 märki sekundis, esimese märgi 95. protsentiili aeg oli umbes 0,42 sekundit selle 32- ja 128-märgilistes testides. Organisatsioonid saavad alustada ühe või kahe A9 Mega süsteemiga ja laieneda neljale, kui nende vajadused kasvavad.

Demonstratsioon toob esile kompaktsete arvutite potentsiaali skaleeritavate kohalike AI-platvormidena ettevõtetele, laboritele, klassiruumidele ja servaarvutuse keskkondadele.

Allikas: GEEKOM PR Newswire’i kaudu. Jõudlusnäitajad ja võimalused põhinevad ettevõtte teatatud testimisel.