Bezbednosni tim Anthropica kaže da postoji preko 10 odsto šanse da veštačka inteligencija izbriše sve ljude - i ide na posao u ponedeljak

Jedan istraživač otišao je iz Anthropica uz obrazloženje da vodeće firme za veštačku inteligenciju „kockaju sa našim životima”. Jakob Kokson, koji je ranije radio i u OpenAI, napisao je to javno i zatvorio vrata za sobom. Dotle - još jedna ostavka u industriji koja troši ljude brže nego što ih zapošljava.

Potom se desilo nešto zanimljivije. Umesto da ga firma demantuje, čovek zadužen za bezbednost modela u Anthropicu podelio je njegovu objavu i dodao: „Mi zaista iskreno verujemo da veštačka inteligencija može da ubije sve ljude!” Sa uzvičnikom. I sa procentom - lično procenjuje da je šansa „preko 10 odsto u narednoj deceniji”.

Stanite tu na trenutak. Čovek koji je plaćen da čuva bezbednost jednog od dva najmoćnija modela na svetu kaže da postoji jedna šansa od deset da njegov proizvod izbriše ljudsku vrstu - i nastavlja da ide na posao u ponedeljak. To nije upozorenje. To je priznanje.

Brojka koju niko nije izračunao

Problem sa tih 10 odsto je što ne dolaze niotkuda. Ne postoji model, ne postoji studija, ne postoji metodologija iza njih. To je osećaj obučen u procenat - trik star koliko i sama tehnološka industrija, gde svaka procena zvuči ozbiljnije čim dobije decimalu. Ako sutra isti čovek napiše 30 odsto, niko ne bi mogao da ga ospori, jer nema čime.

I tu je drugo pitanje koje visi u vazduhu: ko smo „mi”? Jedna objava na društvenoj mreži govori u ime cele profesije koja se uopšte ne slaže među sobom. Deo istraživača misli da je opasnost realna i bliska. Deo misli da je naučna fantastika prodata kao risk-menadžment. Jedno „mi” stavlja sve u istu rečenicu i stavlja im reči u usta.

Ko profitira od straha

Postoji ciničnija - i prikladnija - mogućnost. Svaka objava tipa „naš model je uradio nešto što nismo očekivali” istovremeno je i priznanje neuspeha i reklama za moć. Da proizvod nije sposoban, ne bismo imali čega da se plašimo. Znači strah i marketing su ovde ista rečenica, pročitana iz dva ugla.

Nije slučajan ni tajming. Anthropic se sprema za izlazak na berzu, a prospekt koji mora da podnese američkom regulatoru nabraja rizike poslovanja. Neki advokat u nekoj kancelariji upravo sada razmišlja kako da napiše da postoji preko 10 odsto šanse da firma stvori nešto što će uništiti civilizaciju - i da bi to „imalo negativne posledice po poslovanje”. U normalnim vremenima takva rečenica bi srušila procenjenu vrednost. U ovim, možda će je podići.

Šta se gubi dok svi gledamo ka horizontu

Postoji i trošak koji se retko pominje. Dok se debata vodi o tome da li će nas mašine izbrisati za deset godina, stvari koje se već dešavaju ostaju bez pažnje - radna mesta koja nestaju sada, potrošnja struje i vode iz data centara koja raste sada, odluke o ljudima koje donosi algoritam sada. Reči „superinteligencija” i „AGI” uzimaju sav vazduh u prostoriji. Ono što ostaje je tiše i dosadnije, ali je stvarno i tu je.

Za Balkan ovo nije daleka rasprava koliko izgleda. Mi ne gradimo ove modele i nećemo učestvovati u odluci kada da stanu - ali ih koristimo, a naše institucije nemaju ni kapacitet ni zakone da procene šta u njih ulazi. Kada firma koja pravi proizvod otvoreno kaže da nije sasvim sigurna šta taj proizvod radi, pitanje za korisnika na drugom kraju sveta je sasvim jednostavno: kome se žališ?