Amazon krenuo na najveću prednost Nvidije: alatka TorchNeuron seli AI aplikacije na čipove Trainium promenom jedne linije

Svako ko bar malo prati trku za veštačku inteligenciju zna da Nvidia nije postala standard samo zbog brzih grafičkih čipova. Poziciju drži i softver CUDA, kojim se godinama unazad starala da aplikacije napisane u PyTorchu rade na njenom hardveru gotovo same od sebe. Upravo tamo udara Amazon Web Services novom alatkom TorchNeuron, predstavljenom u ponedeljak.

Obećanje je jednostavno: AI aplikacija napisana u PyTorchu da se prebaci na čip Trainium Amazona promenom jedne jedine linije konfiguracije, bez prepisivanja koda. Bar tako tvrdi kompanija. Prema Amazonu, oko 85 odsto AI aplikacija napisano je u PyTorchu, alatki otvorenog koda koju je stvorio Facebook, a od 2022. je održava Linux Foundation. Nije reč o malom uglu tržišta, već o njegovoj većini.

Amazon nije prvi koji pokušava. Aplikacije iz PyTorcha već mogu sličnom promenom da se prebace na grafičke čipove AMD-a, pa čak i na čipove Applea. Ono što Amazon prodaje kao razliku jeste oblak oko čipa. Kompanija tvrdi da je to bolji izbor za startape nego takozvani neooblaci, poput CoreWeave, Nebius i Firmus, od kojih su mnogi vezani za Nvidiju i njen hardver.

„Gradite na AWS-u. Ne kladite se na dobavljača računarske snage sa jednom namenom, pa da se mučite da izgradite sve ostalo oko njega”, izjavio je Kolin Brejs, potpredsednik za tehnološki softver u AWS Annapurna Labs, jedinici koja pravi Amazonove sopstvene čipove. Argument o ceni je oprezniji nego što zvuči: AWS ne tvrdi da nudi najnižu cenu po tokenu, već da ušteda dolazi zato što isti čip služi i za treniranje i za rad gotovog modela. Kao dokaz navodi Deepgram, konkurenta ElevenLabsa u glasovnoj AI, koji je posle prelaska obrađivao 70 odsto više audija za svaki dolar.

Veći potez je drugi. Amazon najavljuje da će slati izmene u sam PyTorch, kako bi očistio kod koji vezuje okvir za konkretne čipove. Kompanija to predstavlja kao uslugu celoj zajednici programera, ne samo korisnicima Trainiuma. Ali kada prodavac čipova čisti zavisnosti od Nvidije u alatki koju koristi većina, teško je poverovati u čist altruizam. Poenta PyTorcha bila je upravo da skriva muke sa hardverom. Videćemo da li će programeri dobiti više izbora i jeftinije opcije, ili samo novu glavobolju sa konfiguracijama.

Brejs nije okolišao: „Prava priča je uklanjanje zaključavanja koje je sprečavalo programere da uopšte imaju pravi izbor.” Ako Amazon uspe da duboko odveže PyTorch od Nvidije, posledice za giganta biće mnogo veće od još jednog konkurentskog čipa. Za manji startap, iz Skoplja ili iz Beograda, pitanje je praktično: da li će na kraju plaćati manje, ili će samo promeniti gazdu?