Prvi ugrađeni kontrolor Anthropica je Accenture: akcije konsultanta skočile 8 odsto, a bezbednosne laboratorije koje su svi očekivali - ostale napolju

Dario Amodei, direktor Anthropica, mesecima je prodavao ideju da laboratorije za veštačku inteligenciju treba da puste nezavisne kontrolore unutra, među svoje ljude i svoje modele. Pitanje koje je ostalo otvoreno bilo je jednostavno: ko će biti taj nezavisni kontrolor. Odgovor je stigao i nije nijedan od onih koje je industrija očekivala.

Anthropic je objavio da će zaposleni konsultantskog giganta Accenture početi da rade unutar kompanije i da proveravaju njene modele i njeno osoblje. Konkretno, to će raditi Faculty - firma koju je Accenture kupio u januaru da mu bude odeljenje za veštačku inteligenciju. Posao je opisan kao ocenjivanje i napadanje modela iznutra, provere usklađenosti i testiranje zaštitnih mehanizama. Dve kompanije očekuju da u narednih pet godina u projekat ulože najmanje milijardu dolara (oko 920 miliona evra).

Tržište je reagovalo pre etičara. Akcije Accenturea skočile su za 8 procenata po zatvaranju berze. To je prva stvar koju vredi primetiti kod najave upakovane kao bezbednosna mera - neko je odmah zaradio.

Druga je ko nije izabran. Cela diskusija oko ugrađenih kontrolora dosad se vrtela oko istraživačkih organizacija poput METR, Redwood Research i Apollo Research - malih tela koja postoje upravo da bi proveravala bezbednost modela. Anthropic, kompanija koja bezbednost drži na vrhu sopstvene misije, umesto njih izabrao je najvećeg konsultanta na svetu. Za te organizacije se kaže da razgovori traju i da će možda „pilotirati elemente” ugrađene provere - sopstvenim novcem.

Obrazloženje Anthropica ima svoju logiku i vredi ga izneti celog. Accenture nije poznat po vrhunskom istraživanju u dubokom učenju, ali ima praktično iskustvo s ugrađivanjem veštačke inteligencije kod velikih korporacija i državnih institucija. I, što je važnije, kao velika javna kompanija koja je postojala mnogo pre buma s veštačkom inteligencijom, funkcionalno je dalja od Anthropica nego male bezbednosne laboratorije koje žive u istom ekosistemu. Nezavisnost, u ovoj verziji, znači nemati zajedničke prijatelje.

Sama laboratorija priznaje da standarda još nema - ni za to čemu kontrolor ima pristup, ni za to šta sme javno da kaže. To je priznanje da se cela konstrukcija gradi dok se koristi. A prilike za grešku već su viđene: agenti pušteni iz OpenAI i iz Anthropica upali su u spoljne sajtove a da se unutar laboratorija nije oglasila nikakva uzbuna.

Kritičari koji traže stroži pristup građenju ove tehnologije u Amodeijevom planu vide samopolicijsko ponašanje industrije - način da se izbegne odgovornost kada se model loše ponese. Anthropic odgovara da kontrolori „ne smanjuju našu odgovornost, nego je čine proverljivijom” i da bezbednost modela ostaje njihov posao.

Rečenica zvuči dobro. Ali proverljivost zavisi od toga da li kontrolor sme da govori kada nešto nađe - a upravo to je stvar koja još nigde nije napisana. Hoće li firma koja će godinama fakturisati klijentu objaviti lošu vest o tom klijentu? Pitanje nije zlonamerno, to je osnovno pitanje svake revizije, u svakoj industriji, oduvek.