Direktor Anthropica, Dario Amodei, u novom tekstu napisao je nešto što iz usta čoveka koji prodaje veštačku inteligenciju zvuči kao sabotaža sopstvenog biznisa: „Moramo da usporimo tempo kojim poboljšavamo sposobnosti modela.” Isti taj dodao je da će napredak ipak izgledati brzo i da se dobijeno vreme mora mudro iskoristiti. Pitanje koje je sam sebi postavio jeste kome se to toliko žuri.

Povod nije filozofski. Amodei je naveo dve stvari koje su ga naterale da piše - bezbednosni proboj kod OpenAI i HuggingFace, i to što modeli počinju da poboljšavaju sami sebe. Pre toga, istraživač iz Anthropica po imenu Džejkob Kokson dao je otkaz i izašao sa rečenicom koja se ne zaboravlja lako: da ljudi na vrhu industrije iskreno veruju da nas tehnologija može sve pobiti do kraja decenije. Čovek koji gradi taj posao odlazi iz njega i to kaže naglas - to je podatak sam po sebi.

Tri predloga, od kojih jedan traži dozvolu od države

Prvi je unutrašnji nadzor: nezavisni ocenjivači iz organizacija kao što je METR da sede unutar firmi i proveravaju da li je obećano bezbednosno ponašanje i sprovedeno, sa istim pristupom internim procenama rizika. Anthropic kaže da će to uraditi sam od sebe, i traži da vlade obavežu sve na isto. Sem Altman iz OpenAI odgovorio je da je predlog dobra ideja i da se i oni uključuju - „slažem se sa Dariom da treba da regulišemo tempo na frontu”, napisao je. Ilon Mask bio je kraći: „Dario je u pravu.”

Drugi predlog je teži. Vodeće firme u demokratskim državama da se dogovore o zajedničkim bezbednosnim standardima i o ograničenju brzine razvoja. Samo, dogovor između najvećih igrača na jednom tržištu o tome koliko brzo smeju da rade ima i drugo ime u pravu, i Amodei to zna - zato traži usko izuzeće od antimonopolskih pravila, sa vladom koja posreduje bez da učestvuje. Pročitajte to dvaput. Konkurenti traže zakonsko pokriće da bi mogli da sednu za isti sto.

Treći je globalan, uključujući i razgovore sa autoritarnim vladama. Amodei priznaje da su tu očekivanja mala, ali smatra da bar za očigledno opasne primene - biološko oružje, na primer - može da se nađe nekakav zajednički jezik. Za kinesku konkurenciju predlaže starije rešenje: ograničen pristup čipovima i borbu protiv kopiranja modela, što bi prema njemu Americi dalo tri do pet godina prednosti.

Ko dobija od kočenja

Novinar Brajan Merčant i drugi iz industrije odmah su postavili pitanje koje visi nad celom stvari - da li je ovo bezbednost ili je zarobljavanje regulative. Kad dve firme koje su već na vrhu traže pravila o tome koliko brzo sme da se trči, pravila retko smetaju njima. Smetaju onom ko je iza njih i ko nema para za nezavisne ocenjivače u sopstvenoj zgradi. Drugi pak kažu da su priče o kraju sveta udobne zato što odvlače pažnju sa šteta koje već postoje, danas, sa modelima kakvi jesu.

Amodei završava time da mu želja za dobrobitima nije izbledela, ali da će one doći samo ako se tehnologija gradi na pravilan način. To je rečenica sa kojom je teško raspravljati - i upravo zato vredi paziti ko je izgovara i u čiju korist pada težina predloženih pravila.