NVIDIA RTX kartlaryň tensor tizligini 'gpu-unlock' bilen iki esse artdyrmak
gpu-unlock atly açyk çeşme gurallary RTX 20, 30 we 40 seriýaly NVIDIA kartlarynyň tensor ýadawlygyny aýyrýar we tensor hasaplamalarynyň tizligini iki esse ýokarlandyrýar.
NVIDIA RTX grafik kartlary tensor ýadawlygyny ýarym tizlige çäklendirýär, emma gpu-unlock atly täze açyk çeşme moduly bu çäklendirmäni aýyrýar. Bu modul Linux ulgamynda işleýär we kartyň tensor ýadawlygyny doly tizlige geçirýär.
RTX 30 seriýaly kartlarda bu modul durnukly işleýär, RTX 40 we 20 seriýalarynda bolsa heniz synag tapgyrynda. RTX 50 kartlary goldanmaýar. Tensor hasaplamalarynda tizlik iki esse ýokarlanylýar, meselem RTX 3090 BF16 matris hasaplamasynda 75-den 125 TFLOPS-a çenli çykýar.
Real işlerde bu tizleniş prompt işlemekde 25-55%, fine-tuningde 25-50%, surat döretmekde 30-55% tizleniş berýär. Oýunlarda bolsa bu täsir ýok. Gurallaryň resmi çykarylyşy diňe Linux üçin, ýöne synag görnüşinde Windows üçin hem wariant bar.
Gurnama üç ädimden ybarat: moduly gurmak, kernel-e ulanmaga görkezmek we kompýuteri täzeden işledip başlatmak. Bu usul GPU-nyň tensor ýadawlygyny aýyrmak üçin amatly we täsirli çözgüt bolup durýar.
Bu habar «MakeUseOf» çeşmesinden alnyp, süni intellekt kömegi bilen türkmen diline terjime edildi. Asyl makalany görmek →
