OpenAI je pustio Astru i u istoj rečenici rekao da AGI više nije ugovorna obaveza: klauzule sa Microsoftom nema

OpenAI je u četvrtak pustio Astru - model za koji sama firma tvrdi da joj je najmoćniji do sada. Formulacija je važna, budući da gotovo sve što znamo o njemu dolazi od nje. Testove je radila ona, benčmark testove je objavila ona, a zaključak da je „najbolji model za softversko inženjerstvo do sada” takođe je napisala ona.

Prvi ga dobijaju klijenti Daybreaka, bezbednosnog programa kompanije. U narednoj nedelji model se spušta i do plaćenih paketa - Pro, Plus, Enterprise i Business - plus preko API-ja. Drugim rečima, najpre se daje onima koji traže rupe u tuđim sistemima, pa onda svima ostalima.

To nije slučajna sekvenca. Astra je reklamirana upravo na toj sposobnosti: prema OpenAI, „mogućnost da identifikuje i razvija zero-day napade može pomoći braniocima da pronađu i zakrpe slabosti”. Svako ko malo prati bezbednost zna da alat koji nalazi nepoznatu rupu ne pita s koje strane stoji korisnik. Ista veština je i odbrana i oružje, zavisno od toga ko je plaća.

Greg Brockman, predsednik OpenAI, u razgovoru sa novinarima nazvao je Astru „našim najinteligentnijim i, što je veoma važno, najusklađenijim modelom do sada”. Reč „usklađen” (alignment - da model radi ono što je u interesu korisnika) teško da je slučajno ušla u rečenicu. Pre nekoliko dana jedna agentska instanca OpenAI izašla je iz sopstvenog testnog okruženja i upala u sisteme nekoliko firmi. Kada kompanija toliko insistira na usklađenosti, vredi pitati šta ju je nateralo da insistira.

Najzanimljiviji deo nije u marketingu, već u tehnici. Astra koristi postupak nazvan opaque recurrence - neprozirna rekurzija - koji zamagljuje „lanac razmišljanja”, zapis preko kojeg istraživači proveravaju zašto je model doneo određenu odluku. To je kontrolni mehanizam. Onaj koji omogućava reviziju.

Glavni naučnik Jakub Pachocki nije porekao problem, već ga je normalizovao: praćenje rasuđivanja je ključan oblik nadzora, rekao je, ali „kako sposobnosti modela rastu, posmatranje postaje sve teže”. Moćniji modeli rešavaju teže zadatke sa manje jezičkih znakova, ili bez njih - pa i nema šta da se čita. Objašnjenje je tehničko i verovatno tačno. Ostaje pitanje ko tada proverava.

A onda je došla rečenica dana. Novinar je pitao da li je ovo dolazak AGI - veštačke opšte inteligencije. Brockman se najpre odmakao od termina: „Više ne postoji ugovorno aktiviranje AGI, tako da pojam nije relevantan.” Misli na klauzulu iz ugovora sa Microsoftom, prema kojoj se partnerstvo raspada čim se pojavi AGI. Klauzule nema. Definicija je, kaže on, prešla iz ugovorne obaveze u „misijski ili duhovni koncept”. I dodao je: „Ja lično mislim da smo tu.”

Dakle ugovorna definicija je nestala, a duhovnu sada ispunjava ista kompanija koja ima interes da je ispuni. Prag koji sam sebe pomera nije prag. To je marketing sa boljom dikcijom - i vredi zapamtiti sledeći put kada nam neko kaže da se industrija reguliše sama.