Amazon тргна по најголемата предност на Nvidia: алатката TorchNeuron ги сели ВИ-апликациите на чиповите Trainium со промена на една линија

Секој што барем малку ја следи трката за вештачка интелигенција знае дека Nvidia не стана стандард само поради брзите графички чипови. Позицијата ја држи и софтверот CUDA, со кој години наназад се грижеше апликациите напишани во PyTorch да работат на нејзиниот хардвер речиси сами од себе. Токму таму удира Amazon Web Services со новата алатка TorchNeuron, претставена во понеделникот.

Ветувањето е едноставно: ВИ-апликација напишана во PyTorch да се префрли на чипот Trainium на Amazon со промена на една единствена линија конфигурација, без препишување код. Барем така тврди компанијата. Според Amazon, околу 85 проценти од ВИ-апликациите се напишани во PyTorch, алатка со отворен код што ја создаде Facebook, а од 2022 година ја одржува Linux Foundation. Не станува збор за мал агол од пазарот, туку за неговото мнозинство.

Amazon не е првиот што се обидува. Апликациите од PyTorch веќе можат со слична промена да се префрлат на графичките чипови на AMD, па дури и на чиповите на Apple. Она што Amazon го продава како разлика е облакот околу чипот. Компанијата тврди дека тоа е подобар избор за стартапите отколку таканаречените неооблаци, како CoreWeave, Nebius и Firmus, од кои многу се врзани за Nvidia и за нејзиниот хардвер.

„Градите на AWS. Не се обложувате на добавувач на пресметувачка моќ со една намена, па да се мачите да изградите сè друго околу него“, изјави Колин Брејс, потпретседател за технолошки софтвер во AWS Annapurna Labs, единицата што ги прави сопствените чипови на Amazon. Аргументот за цената е повнимателен отколку што звучи: AWS не тврди дека нуди најниска цена по токен, туку дека заштедата доаѓа затоа што истиот чип служи и за тренирање и за работа на готовиот модел. Како доказ го наведува Deepgram, конкурент на ElevenLabs во гласовната ВИ, кој по преминот обработувал 70 проценти повеќе аудио за секој долар.

Поголемиот потег е друг. Amazon најавува дека ќе праќа измени во самиот PyTorch, за да го исчисти кодот што ја врзува рамката за конкретни чипови. Компанијата тоа го претставува како услуга за целата заедница на развивачи, не само за корисниците на Trainium. Но кога продавач на чипови ги чисти зависностите од Nvidia во алатката што ја користи мнозинството, тешко е да се поверува во чист алтруизам. Поентата на PyTorch беше токму да ги крие маките со хардверот. Ќе видиме дали развивачите ќе добијат повеќе избор и поевтини опции, или само нова главоболка со конфигурации.

Брејс не заобиколуваше: „Вистинската приказна е отстранувањето на заклучувањето што ги спречуваше развивачите воопшто да имаат вистински избор.“ Ако Amazon успее длабоко да го одврзе PyTorch од Nvidia, последиците за гигантот ќе бидат многу поголеми од уште еден конкурентски чип. За помал стартап, од Скопје или од Белград, прашањето е практично: дали на крајот ќе плаќа помалку, или само ќе смени газда?