ASUS UGen Intel Arc Pro B70 32GB AI üçin ýokary kuwwatly grafika kartasyny çykardy

ASUS täze UGen Intel Arc Pro B70 32GB grafika kartasyny tanyşdyrdy. Bu karta, iş stansiýalarynda we desktoplarda AI modellerini işledip bilmek üçin niýetlenip, ECC bilen goralan 32GB GDDR6 ýady bilen enjamlaşdyryldy. Onuň güýji 310W bolup, dört sany kartany bir ulgamda ulanmak bilen 128GB wideo ýady almak mümkin.

Karta, 27 milliarddan az parametrli modelleri goldap, Llama 3.1 8B modelini 128 müň token kontekstinde işleýär. Iki sany kartanyň birleşmegi 64GB ýady üpjün edýär, bu kiçi we orta iş toparlary üçin amatly konfigurasiýa bolup durýar.

ASUS has köp ýadyň zerurlygyny uzyn kontekstlerde işlemek we birnäçe AI modelini bir wagtda işledýän iş akymlaryna bagyşlaýar. Ýeterlikli wideo ýady bolmadyk ýagdaýynda iş tizligi 90%-e çenli pese gaýdyp bilýär. Kartanyň 32GB ýady käbir ululykdaky modelleri ýerli ýagdaýda işledip bilmek üçin ýeterlikdir.

Programma üpjünçiligi taýdan Ollama, ComfyUI, llama.cpp, Intel gurallary we PyTorch XPU ýaly mümkinçilikler bar. Iki kartaly konfigurasiýa 80 milliard parametrli modelleri sekuntda 43.4 token tizliginde işledip bilýär. Bu tehnologiýa kiçi biznesler üçin maglumatlaryň howpsuzlygyny üpjün etmekde we uly korporatiw taslamalarda çykdajylary azaltmakda peýdalydyr.