Anthropic u prospektu za berzu upozorava da je blizu VI koja sama sebe poboljšava: priznaje da je ubrzanje sopstvenog razvoja već jednom primetio tek kada se desilo

Anthropic je objavio revidiranu prijavu za izlazak na berzu (dokument S-1/A) i pažnja je odmah otišla na brojke: prihodi rastu, ali rastu i troškovi. Dublje u dokumentu, u delu o rizicima, stoji rečenica važnija od svakog bilansa. Kompanija piše da je možda na pragu veštačke inteligencije koja sama sebe poboljšava.

Termin je rekurzivno samopoboljšanje (RSI) - tačka kada VI postane toliko dobra u treniranju same sebe da razvoj počne da se ubrzava bez kočnice. Za jedne je to trenutak kada čovek gubi kontrolu i nema povratka. Za druge je obećanje produktivnosti i naučnih otkrića koja teško možemo da zamislimo. Anthropic, prema sopstvenom dokumentu, misli da je i jedno i drugo.

Nove rečenice u delu o rizicima su dve. Prva: kompanija sve više koristi VI za sopstveni razvoj, pa modeli mogu da napreduju brže nego što ona stigne da ih proveri i obezbedi. I priznaje da u prošlosti značajno ubrzanje u razvoju nije prepoznala sve dok se ono već nije desilo. Druga: interne procene budućih modela pokazuju da bi Anthropic možda „u bliskoj budućnosti” mogao da dostigne prag koji u sopstvenoj Politici odgovornog skaliranja opisuje kao „dramatično ubrzan napredak koji se duguje VI”.

Dokument odmah i smiruje. Ni za jedan od sadašnjih modela nije utvrđeno da je prešao taj prag, a podaci se još analiziraju. Kompanija piše da ne očekuje da može bezbedno da pusti Claude da potpuno sam dizajnira i gradi nove generacije modela bez „značajnog ljudskog nadzora ili razumevanja”, i da razmišlja o promenama politike kako bi ljudi zadržali kontrolu.

Tu treba stati i pročitati ko piše i zašto. Prospekt za berzu je istovremeno obavezno otkrivanje rizika i reklamni materijal pred prodaju akcija. Kompanija koja investitorima kaže da je blizu VI koja sama sebe gradi šalje im i drugu poruku: da je ispred svih drugih. Da li je ovo upozorenje ili najskuplja reklama godine?

S druge strane, napredak Claude-a ove godine u programiranju, matematici i sajber-bezbednosti vidi se i bez prospekta. Ako sama kompanija koja gradi sistem kaže da se približava liniji, pitanje više nije tehnološko. Ko će čuvati tu liniju - akcionari koji tek ulaze, ili zakonodavci u Vašingtonu i Briselu?