Amazon u nis pas përparësisë më të madhe të Nvidias: mjeti TorchNeuron i zhvendos aplikacionet e IA në çipat Trainium me ndryshimin e një rreshti

Kushdo që e ndjek qoftë edhe pak garën për inteligjencën artificiale e di se Nvidia nuk u bë standard vetëm për shkak të çipave të shpejtë grafikë. Pozitën e mban edhe softueri CUDA, me të cilin prej vitesh kujdesej që aplikacionet e shkruara në PyTorch të punojnë në harduerin e saj pothuajse vetvetiu. Pikërisht aty godet Amazon Web Services me mjetin e ri TorchNeuron, të prezantuar të hënën.

Premtimi është i thjeshtë: një aplikacion i IA i shkruar në PyTorch të kalojë në çipin Trainium të Amazon me ndryshimin e një rreshti të vetëm konfigurimi, pa rishkruar kodin. Të paktën kështu pohon kompania. Sipas Amazon, rreth 85 për qind e aplikacioneve të IA janë shkruar në PyTorch, mjet me kod të hapur që e krijoi Facebook, ndërsa që nga viti 2022 e mirëmban Linux Foundation. Nuk bëhet fjalë për një cep të vogël të tregut, por për shumicën e tij.

Amazon nuk është i pari që provon. Aplikacionet e PyTorch tashmë mund të kalojnë me një ndryshim të ngjashëm në çipat grafikë të AMD, madje edhe në çipat e Apple. Ajo që Amazon e shet si dallim është reja rreth çipit. Kompania pohon se kjo është zgjedhje më e mirë për startupet sesa të ashtuquajturat neore, si CoreWeave, Nebius dhe Firmus, shumë prej të cilave janë të lidhura me Nvidian dhe harduerin e saj.

„Ndërtoni në AWS. Nuk vini bast në një furnizues të fuqisë llogaritëse me një qëllim të vetëm, që pastaj të mundoheni të ndërtoni gjithçka tjetër rreth tij“, deklaroi Colin Brace, nënkryetar për softuerin teknologjik në AWS Annapurna Labs, njësia që bën çipat e vetë Amazon. Argumenti për çmimin është më i kujdesshëm sesa tingëllon: AWS nuk pohon se ofron çmimin më të ulët për token, por se kursimi vjen sepse i njëjti çip shërben edhe për trajnim edhe për punën e modelit të gatshëm. Si dëshmi përmend Deepgram, konkurrent i ElevenLabs në IA zanore, i cili pas kalimit përpunonte 70 për qind më shumë audio për çdo dollar.

Lëvizja më e madhe është tjetër. Amazon paralajmëron se do të dërgojë ndryshime në vetë PyTorch, për ta pastruar kodin që e lidh kornizën me çipa konkretë. Kompania këtë e paraqet si shërbim për gjithë komunitetin e zhvilluesve, jo vetëm për përdoruesit e Trainium. Por kur një shitës çipash i pastron varësitë nga Nvidia në mjetin që e përdor shumica, është vështirë të besosh në altruizëm të pastër. Thelbi i PyTorch ishte pikërisht t'i fshehë mundimet me harduerin. Do të shohim nëse zhvilluesit do të marrin më shumë zgjedhje dhe opsione më të lira, apo vetëm një dhimbje të re koke me konfigurime.

Brace nuk u soll rreth e rrotull: „Historia e vërtetë është heqja e bllokimit që i pengonte zhvilluesit të kishin fare zgjedhje të vërtetë.“ Nëse Amazon arrin ta shkëpusë thellësisht PyTorch nga Nvidia, pasojat për gjigantin do të jenë shumë më të mëdha se edhe një çip konkurrues. Për një startup më të vogël, nga Shkupi apo nga Beogradi, pyetja është praktike: a do të paguajë në fund më pak, apo vetëm do ta ndërrojë pronarin?