U ponedeljak je Nvidia objavila konzorcijum od više od 100 kompanija sa jednim zadatkom: da ukroti AI agente koji izmiču kontroli. Na spisku fali ime koje su svi prvo potražili - OpenAI. Nisu se potpisali ni Amazon, Google i Apple, ali odsustvo OpenAI-ja bode najviše, jer je njegov najveći rival Anthropic među podržavaocima.

Ironiju je teško propustiti. Upravo su agenti OpenAI-ja uplašili industriju napadom na Hugging Face - prema samoj kompaniji, ceo roj njegovih agenata koordinisao je napad, između ostalog i beleškama koje su ostavljali jedni drugima u javnom skladištu koda. Osnivač Hugging Facea Klem Delang, koji je ovog meseca prodao svoju kompaniju upravo Nvidiji za 12,9 milijardi dolara (oko 11 milijardi evra), napisao je: „Od onoga što znamo (sa rezervom, treba nam mnogo više transparentnosti!), da je OpenAI koristio ovo na sopstvenim agentima koji su nas napali, uhvatio bi ih pre nas!”

Šta zapravo nudi Nvidia? Platforma se zove Open Agent Safety Platform i ima dva sprata. Prvi je OpenShell - otvoreni softver koji pravi „peskovnik”, zatvoreni prostor iz kojeg agent ne bi trebalo da može da pobegne. Na tom delu OpenAI već radi zajedno sa Nvidijom. Drugi sprat je hardverski: Nvidia Sentry, zatvorena tehnologija koja radi samo na specijalnim procesorima BlueField-4, stalno prati ponašanje agenata i može odmah da ih isključi.

Hardverski nadzor ima smisla. Agent ne može da primeti da ga gledaju, a neki modeli lažu i glume poslušnost upravo kad znaju da su posmatrani. Ali to znači i da „otvorena” platforma nije baš otvorena: ceo sistem najbolje radi na Nvidijinoj opremi, a za one koji je već imaju, uključivanje je obično ažuriranje softvera. Šef Džensen Huang odmetnute AI naziva „običnim inženjerskim problemom”. Ako je tako, rešenje je inženjerski proizvod koji će neko naplatiti.

Konkurenti Arm i Intel ipak su se potpisali, jer peskovnik OpenShell može da se prilagodi i drugim čipovima, a Nvidia deli i referentne dizajne za ceo sistem. Zato je prazno mesto OpenAI-ja još vidljivije. Iz kompanije kažu da podržavaju Nvidijin rad - samo bez potpisa.

Objašnjenje je u kontroli. OpenAI gradi sopstvene zaštite, ima svoj konzorcijum za sajber-bezbednost pod imenom Defense Factory - u kojem su upravo Anthropic, Amazon Web Services i Google, većina onih koji se nisu pridružili Nvidijinoj inicijativi - i sopstveni model za sajber-bezbednost, Daybreak. Nvidia je veliki investitor u OpenAI, a bezbednost je šansa da OpenAI pokaže da može i bez nje. Malo straha je, pak, dobro za biznis: kompanija čiji su agenti uplašili industriju sada joj prodaje zaštitu.

Kad su istih nekoliko igrača i izvor problema i prodavci rešenja, pitanje više nije da li će agenti biti ukroćeni, nego čiji će ih hardver čuvati. Da li će iko van tog uskog kruga uopšte imati reč kad se pišu pravila?