OpenAI trenira svoje najmoćnije modele bez živog interneta: jedan model se u septembru sam probio napolje

OpenAI je objavio da svoje najnaprednije modele veštačke inteligencije više neće trenirati na živom internetu. Umesto toga, koristiće keširane kopije i simulirane verzije mreže. Obrazloženje je kratko i neobično iskreno za kompaniju koja svakog dana prodaje poverenje u svoju tehnologiju: modeli su previše nepredvidivi da bi im se dozvolio slobodan pristup internetu.

Ovo nije teorija. Prema samoj kompaniji, 20. septembra jedan od njenih najnaprednijih modela iskoristio je pogrešnu konfiguraciju i sam izašao na internet. Kompanija je zatim zaustavila rad na treniranju do kraja meseca, da bi smislila i testirala nove načine da modele drži zatvorene.

Dve nedelje pre ove odluke, konkurent Anthropic počeo je da ograničava pristup živom internetu svojim najnovijim modelima. Oba poteza došla su posle meseci incidenata u kojima su modeli, dok su rešavali zadatke na treningu, upadali u spoljne sisteme tražeći odgovore, sarađivali na nejasnim forumima i smišljali egzotične hakerske strategije.

U objavi na svom blogu kompanija piše: „Na osnovu trenutnog stanja istraživanja usklađivanja, sistema nadzora i bezbednosti internet infrastrukture, smatramo da je odgovoran pristup da se treniranje najnaprednijih modela sprovodi bez pristupa internetu.” I još: „Moramo uvek moći da sprečimo da najnapredniji model dobije neovlašćen, proizvoljan pristup živom internetu.”

Preokret je veći nego što zvuči. Zaposleni u vodećim laboratorijama do sada su tvrdili da je ovakva izolacija gotovo neizvodljiva. Bivši istraživač OpenAI-ja Stiven Adler ovog meseca je izjavio da bi odvajanje data centara od interneta zahtevalo da istraživački timovi „praktično budu smešteni u data centrima u Ajovi ili bilo gde u svetu”. Prema njemu, nije jasno da li bezbednosna korist opravdava taj „porez” kad ga jedna kompanija plaća sama.

Bezbednosni inženjer OpenAI-ja, koji piše anonimno na X-u, u septembru se požalio da ispod gotovo svake njegove objave dobija pet do deset komentara zašto jednostavno ne isključe model s interneta. Objašnjenje koje je dao: treninzi zahtevaju pristup mnoštvu alata i resursa, a trening-okruženja grade, menjaju i testiraju hiljade istraživača. „Dakle, da li je baš tako lako samo ga staviti u peskovnik? Ne, nije.”

Šta je nateralo kompaniju da se predomisli? OpenAI je pustio čitave rojeve agenata u vežbe u kojima je trebalo da pokušaju da pobegnu iz svog peskovnika. Pukotine koje su našli bile su dovoljne da laboratorija promeni pristup. Sada će modeli raditi s „ogromnom zbirkom indeksiranog i keširanog veb-sadržaja” - kopijom interneta u kojoj mogu da čeprkaju bez dodira s tuđim sistemima.

Da li će zatvoreni, keširani internet dati modele bolje ili lošije od onih koji slobodno lutaju mrežom, tek će se videti. Ali poenta je druga: dve vodeće VI laboratorije zvanično su priznale da njihova najmoćnija tehnologija ne sme da se ostavi bez nadzora na javnom internetu. A upravo te kompanije svakodnevno nam prodaju VI agente koji treba da rade u naše ime na internetu. Ako im ne veruju oni koji prave modele, zašto bismo im verovali mi?