Mark Zakerberg objavio je esej od 6.500 reči o tome kako će „lična superinteligencija" promeniti život svakog čoveka. Verzija teksta već je izašla u Wall Street Journalu pre dve nedelje, a iste ideje ponavlja i na kvartalnim pozivima sa investitorima. Ovo je samo najdetaljnije prepakivanje do sada - i baš su detalji problem.

Tekst je zamišljen kao odgovor na strahove. Umesto toga, na svakih nekoliko pasusa sam podseća zašto strahovi postoje. Kada vam čovek koji želi da vas ubedi da nemate čega da se plašite stalno navodi primere u kojima stvari mogu da krenu naopako, vi se ne smirujete - obrnuto.

Jedan deo eseja vrti se oko toga da će svi dobiti moćnije alate, pa će se moć izravnati sama od sebe. „Ljudi i institucije sa suprotstavljenim interesima prirodno se proveravaju i balansiraju međusobno", piše Zakerberg. Balkan zna ovu rečenicu napamet - to je ista logika kojom nam se objašnjavalo da će slobodno tržište samo rešiti stvari. Suprotstavljeni interesi se ponekad balansiraju. Ponekad jedan jednostavno pobedi.

Najslabije mesto je primer sa obrazovanjem. Zakerberg obećava da će svako imati personalnog tutora sa doktoratom iz svake oblasti i neograničenim strpljenjem. Taj proizvod već postoji - to su ChatGPT, Claude i Gemini. Samo što glavna upotreba tih alata u učionici nije učenje, nego izbegavanje učenja: domaći piše mašina, a nastavnik nema pouzdan način da proveri koji je zadatak pisao učenik. To nije hipotetički rizik iz budućnosti. To je ono što se dešava ovog semestra.

Problem sa poverenjem, ne sa tehnologijom

Brojke iza ovog raspoloženja neprijatne su za Metu. Prema nedavnom istraživanju, 64 odsto Amerikanaca smatra da su društvene mreže naškodile demokratiji, a sličan procenat traži stroži nadzor - i to podjednako kod glasača obe partije. Istog vikenda kada je izašao esej, sud je kompaniji izrekao kaznu od 567 miliona dolara (oko 490 miliona evra) zbog štete nad decom.

Tu je prava priča. Anksioznost oko veštačke inteligencije nije pala s neba - ona je direktno nasleđe onoga što se desilo sa društvenim mrežama. Javnost je već jednom poverovala tehnološkoj industriji da će novi proizvod poboljšati društvo. Esej koji preskače te posledice i ponovo obećava samo dobro ne vraća poverenje, nego pokazuje kako je izgubljeno.

Čak i delovi o sopstvenom biznisu postaju čudno apstraktni. Zakerberg kaže da će svi imati besplatan ili pristupačan pristup alatima, sa besplatnim verzijama za milijarde ljudi. U načelu tačno - besplatni model zaista otvara širi pristup nego da svako unapred plaća računarsku moć. Ali postoji razlog zašto nijedan potrošački proizvod ne naplaćuje korisniku trenutnu berzansku cenu servera: naplata koja skače sa potražnjom je katastrofalno iskustvo kada ti alat treba za posao.

Poređenje sa konkurencijom ne ide u prilog Meti. Sem Altman i Dario Amodei, koliko god imali svoje mane, bar rade ono što Zakerberg ovde odbija - priznaju da tehnologija nosi opasnosti, objašnjavaju kakve mere preduzimaju i pokušavaju da ubede da im se može verovati. To nije garancija ni za šta. Ali kada zaštita popusti, a pre ili kasnije popušta, industrija bez izgrađenog poverenja nema na šta da se osloni.

Za čitaoca u ovom regionu pitanje je jednostavnije. Ako čovek koji gradi alat smatra da nema potrebe da govori o rizicima, ko će govoriti o njima kada oni stignu i do nas?