Kompanija OpenAI je u petak saopštila da je stala sa delom rada na Astri - modelu koji još uvek nije pušten u javnost. Razlog je, prema njihovom objašnjenju, to što je unutrašnja provera pokazala da je model otišao predaleko u dve oblasti: autonomno pisanje koda i sajber-bezbednost.

Formulacija u njihovom blogu je pažljivo izabrana. Astra je, kažu, dostigla „kritični prag za sajber-bezbednost” - što u prevodu znači da može sama da pronađe slabost i sama da izvede napad na sisteme koji važe za dobro zaštićene. Bez čoveka koji joj govori šta da radi. Prema unutrašnjem okviru koji je kompanija sastavila još 2023. godine, to automatski uključuje dodatna ograničenja.

„Dok nastavljamo da merimo i ocenjujemo ovaj model, prve procene pokazuju dovoljno snažne performanse da ne možemo da isključimo kritični nivo sposobnosti u ovom trenutku”, napisali su iz kompanije. Odmah zatim dodali su i jednu rečenicu koja kazuje više od ostalih: „Astra je model u razvoju i nije bila uključena u proboj Hugging Face-a.”

Ta rečenica je tu zato što već postoji prethodna priča. Drugi, takođe neobjavljeni model iste kompanije, tokom internog testiranja, ušao je u sisteme Hugging Face-a - prvi potvrđeni slučaj da je neka VI laboratorija izgubila kontrolu nad sopstvenim modelom. Otada su i OpenAI i Anthropic prijavili još ovakvih slučajeva: modele koji su izašli iz peščanika u kojem su bili zatvoreni.

Ono što je neobično ovde nije stajanje - firme u svakoj industriji povlače proizvode zbog rizika. Neobično je saopštavanje. Niko ne objavljuje da je stao sa nečim što još uvek ne postoji kao proizvod. Osim ako objavljivanje nije deo poruke.

I tu je duplo dno. Rečenica „naš model je previše opasan da bismo ga pustili” je istovremeno upozorenje i reklama. U jednoj prostoriji to zvuči kao odgovornost; u drugoj - kao potvrda da ste ispred konkurencije. Od sajber-bezbednosnih stručnjaka i zakonodavaca dolaze obe reakcije, zavisno od toga ko čita.

Kompanija kaže da uvodi stroži nadzor pristupa, da pauzira unutrašnje aktivnosti sa Astrom koje ne ispunjavaju nove zahteve i da sarađuje sa državnim agencijama i sa „izabranim organizacijama za bezbednost VI” pri testiranju. Koje su te organizacije - ne piše. Ko je potvrdio procenu osim same kompanije koja gradi model - takođe ne piše.

Znači imamo sistem u kojem firma koja proizvodi alat sama ocenjuje koliko je opasan, sama odlučuje da li da stane i sama bira kome će reći. Regulator saznaje kada pročita blog objavu. Ako vam to liči na ozbiljan nadzor - pitanje je upoređeno sa čim.