Skip to content

Nvidia mblodhi mbi 100 kompani kundër agjentëve të IA-së që dalin jashtë kontrollit - OpenAI, agjentët e së cilës sulmuan Hugging Face, mbeti jashtë

1 min. lexim
Shpërndaj
Nvidia mblodhi mbi 100 kompani kundër agjentëve të IA-së që dalin jashtë kontrollit - OpenAI, agjentët e së cilës sulmuan Hugging Face, mbeti jashtë

Të hënën Nvidia shpalli një konsorcium prej më shumë se 100 kompanish me një detyrë të vetme: t'i zbusë agjentët e IA-së që dalin jashtë kontrollit. Në listë mungon emri që të gjithë e kërkuan të parin - OpenAI. Nuk nënshkruan as Amazon, Google dhe Apple, por mungesa e OpenAI-t therë më shumë, sepse rivali i saj më i madh Anthropic është ndër mbështetësit.

Ironinë vështirë se mund ta anashkalosh. Pikërisht agjentët e OpenAI-t e frikësuan industrinë me sulmin ndaj Hugging Face - sipas vetë kompanisë, një tufë e tërë agjentësh të saj e koordinoi sulmin, mes tjerash edhe me shënime që ia linin njëri-tjetrit në një depo publike kodi. Themeluesi i Hugging Face, Klem Delang, i cili këtë muaj e shiti kompaninë e tij pikërisht te Nvidia për 12,9 miliardë dollarë (rreth 11 miliardë euro), shkroi: „Nga ajo që dimë (me rezervë, na duhet shumë më tepër transparencë!), po ta përdorte OpenAI këtë në agjentët e vet që na sulmuan, do t'i kishte kapur para nesh!“

Çfarë ofron në të vërtetë Nvidia? Platforma quhet Open Agent Safety Platform dhe ka dy kate. I pari është OpenShell - softuer i hapur që krijon një „kuti rëre“, hapësirë e mbyllur nga e cila agjenti nuk duhet të mund të arratiset. Në këtë pjesë OpenAI tashmë punon bashkë me Nvidia-n. Kati i dytë është harduerik: Nvidia Sentry, teknologji e mbyllur që funksionon vetëm në procesorët specialë BlueField-4, e ndjek vazhdimisht sjelljen e agjentëve dhe mund t'i fikë menjëherë.

Mbikëqyrja harduerike ka kuptim. Agjenti nuk mund ta vërejë se po e shikojnë, ndërsa disa modele gënjejnë dhe shtiren si të bindur pikërisht kur e dinë se janë nën vëzhgim. Por kjo do të thotë edhe se platforma „e hapur“ nuk është edhe aq e hapur: i gjithë sistemi funksionon më mirë në pajisjet e Nvidia-s, ndërsa për ata që i kanë tashmë, aktivizimi është një përditësim i thjeshtë softueri. Shefi Xhensen Huang IA-në që del jashtë kontrollit e quan „problem i zakonshëm inxhinierik“. Nëse është kështu, zgjidhja është produkt inxhinierik që dikush do ta faturojë.

Konkurrentët Arm dhe Intel megjithatë nënshkruan, sepse kutia e rërës OpenShell mund të përshtatet edhe për çipa të tjerë, ndërsa Nvidia ndan edhe dizajne referuese për gjithë sistemin. Prandaj vendi bosh i OpenAI-t është edhe më i dukshëm. Nga kompania thonë se e mbështesin punën e Nvidia-s - vetëm pa nënshkrim.

Shpjegimi qëndron te kontrolli. OpenAI ndërton mbrojtjet e veta, ka konsorciumin e vet për siguri kibernetike të quajtur Defense Factory - në të cilin janë pikërisht Anthropic, Amazon Web Services dhe Google, shumica e atyre që nuk iu bashkuan iniciativës së Nvidia-s - dhe modelin e vet për siguri kibernetike, Daybreak. Nvidia është investitor i madh në OpenAI, ndërsa siguria është shansi i OpenAI-t të tregojë se mund edhe pa të. Pak frikë, nga ana tjetër, është e mirë për biznesin: kompania agjentët e së cilës e frikësuan industrinë tani i shet asaj mbrojtje.

Kur të njëjtët disa lojtarë janë njëkohësisht burimi i problemit dhe shitësit e zgjidhjes, pyetja nuk është më nëse agjentët do të zbuten, por hardueri i kujt do t'i ruajë. A do të ketë dikush jashtë atij rrethi të ngushtë fare fjalë kur shkruhen rregullat?