Izvor: Piplmetar.rs, 02.Avg.2023, 17:31
Prvo kriptovalute, a sada i veštačka inteligencija otima gejming grafičke karte
Potražnja za grafičkim procesorima koji su predviđeni i optimizovani za izvršavanje kompleksnih modela veštačke inteligencije, beleže strmoglav rast tražnje. Trend koji raste i nesumnjivo će ponovo dobiti na zamahu zbog činjenice da ih nema dovoljno na tržištu. Na nekim tržištima u Kini, cene prelaze granicu od 70.000 dolara po pojedinačnom grafičkom procesoru. U pitanju je Nvidia H800 GPU namenjen za rad data centra koji procesira ogromne baze podataka.
Sa druge strane lideri >> Pročitaj celu vest na sajtu Piplmetar.rs << u američkoj računarskoj industriji koji se bave dizajnom procesora, obraćaju se javnosti putem medija i počinju da se žale kako su GPU resursi na kojima je bazirana čitava „cloud“ infrastruktura koju koriste veliki AI modeli, skoro u potpunosti rezervisana, dok su sve GPU zalihe hardvera za sledeću godinu praktično pokupovane. Teška vremena zahtevaju drastične mere i počinjemo da uviđamo i pronalazimo sve više dokaza da industrija veštačke inteligencije pod pritiskom nestašice se sve češće okreće kupovini gejming grafičkih procesora, a koji bi po prirodi stvari trebalo da služe potpuno drugačijoj svrsi za komponente koje se ugrađuju u kućne desktop računare.
AI ima nezasit GPU apetit, očistiće lagere gejming grafičkih karti
Ovakav razvoj situacije ne može, a da ne zabrine gejming tržište jer još uvek oseća duboku traumu iz perioda krize koju je nedavno izazvala euforija u vezi kopanja kriptovaluta za čiju su svrhu masovno korišćene upravo gejming grafičke karte namenjene zabavi i igranju na desktop računarima. Hoće li se slično ponoviti i u periodu uspona veštačke inteligencije je pitanje koje lebdi u sadašnjem trenutku? Pitanje koje sa pravom brine mnoge, jer su cene tek sada, posle par godina počele da se normalizuju, a već preti novo čišćenje lagera gejming GPU proizvoda.
Prvi čvršći dokazi da kompanije koje su fokusirane na razvoj veštačke inteligencije zapravo kupuju klasične gejming GPU proizvode, dolaze iz pohvale koju je na Tviteru objavio kultni IT haker i preduzetnik Džordž Hotz (poznat i kao geohot).
AMD (unlike Qualcomm) is a joy to buy chips from. 7.38 PFLOPS of compute was delivered today, with exaflops more to come.
Nice to see them more active on the ROCm GitHub, we are working on the layer above @__tinygrad__ pic.twitter.com/5yE11TVA5F
— George Hotz 🌑 (@realGeorgeHotz) August 1, 2023
Možete videti kako Hotz, koji trenutno vodi projekat automatizacije posla u vezi transporta kojim se upravlja pomoću veštačke inteligencije, pod nazivom Comma AI, govori o kupovini punih kutija AMD gejming grafičkih karti koje su namenjene za igre.
Slika prikazuje delimično raspakovan hardver potreban za „7,38 PFLOPS proračuna“. Jasno možemo da prepoznamo XFX MERC 310 GPU na fotografiji, dok na kutiji piše da se zapravo radi o klasi AMD Radeon RX 7900 XTX grafičke karte. To je zapravo XFX verzija trenutno najjače AMD grafičke karte na RDNA 3 tehnologiji namenjene zapravo gejmingu i pojedinačnim krajnjim kupcima, kakvi smo mi.
Naša odokativna procena je da se u kutijama uslikanim na fotografiji koju je postavio Hotz, nalazi jedno 60 GPU-ova, a na osnovu izjave o “7,38 PFLOPS” performansama i računicom o pojedinačnoj snazi Radeon RX 79000 XTX modela i njenih FP16 performansi, dolazimo do procenjene brojke od 60 grafičkih karti. Svaka od ovih RX 7900 XTX kartica košta 979,99 dolara na Amazonu u vreme pisanja ove vesti. Dakle, Hotz je očigledno potrošio oko 60.000 dolara na ovaj skromni hardverski paket čiste GPU snage.
AI voli jake procesore i puno, puno memorije
Jedna od interesantnih stvari koju možete zaključiti iz prethodnog slučaja je ona koja se tiče kalkulacije u vezi kupovine i odabira konkretnog modela AMD gejming grafičke karte. Naime, da se zaključiti da prilikom izbora sirova snaga grafičkog procesora nije jedini kriterijum što potvrđuje i izbor Radeon RX 7900 XTX modela. Veoma je bitno sa koliko lokalne memorije (VRAM) grafička karta raspolaže, jer pojedini AI proračuni troše dosta memorije.
AMD Radeon RX 7900 XTX raspolaže sa ‘samo’ 122,88 TFLOPS-a FP16 proračuna sa pokretnim zarezom To na prvu može izgledati čudno, jer konkurentski GeForce RTX 4060 koji košta znatno manje, svega 300 dolara, može da isporuči oko 121 TFLOPS FP16 proračuna. Međutim, ključna razlika je u tome što AMD Radeon RX 7900 XTX raspolaže sa tri puta više VRAM-a. Dakle, ako je poslu koji obavlja veštačka inteligencija potrebna memorija, trebaće vam tri RTX 4060 kartice ili dve RTX 4070 kartice da biste dobili kapacitet od 24 GB brze memorije — plus serveri za rad svih tih pojedinačnih GPU-ova.
Ono što je mnogo gore i što nas definitivno plaši je da tvitovana izjava Džordža Hotza nije prvi znak upozorenja koji smo videli o potražnji AI industrije za gejming grafičkim kartama, pre bismo rekli da je zagrevanje i da se situacija polako krčka. Čitavu situaciju pogoršava i embargo koji su SAD uvele Kini, a sa svoje strane utiče na rast cena i kupovinu bilo kakvih GPU proizvoda koji im padnu pod ruku. Sve to će neminovno imati posledice po tržište gejming grafičkih karti u periodu koji je pred nama, izveštava tomshardware.
Smatra se da je strah od daljih američkih sankcija Kini, doveo do toga da se povećaju cene AI GPU akceleratora kao što su: A800 i H800. Nekoliko nedelja ranije, cena A800 je skočila preko noći za skoro 20%, upravo iz razloga straha od predstojećih sankcija. Imajući u vidu sve druge skorašnje pokazatelje, jasno možemo videti da rast popularnosti veštačke inteligencije ima dubok i snažan uticaj na ponudu grafičkih procesora i to ne samo specijalizovanih AI akceleratora, već i onih običnih, namenjenih kućnim računarima. Sada je jedino pitanje kada će i koliko će se ta nezasitna potražnja preliti i na tržište krajnjih korisnika i njima namenjenih gejming grafičkih karti.
Opširnije
Izvor: Benchmark.rs
.jpg)
