OpenAI našao se pred sud u Kaliforniji, ne kao tužitelj, već kao optužena strana u jednom od najvećih slučajeva u industriji veštačke inteligencije. Ilon Mask, poraneški kosuosnivač kompanije, tuži da je OpenAI predao svoju prvobitnu misiju - bezbednost na VI i pridobivka za čovečtvo - radi komercijalnog interesa. I svedoci koji su dali izjave, ne pomagaju kompaniji.

Rouzi Kembel, koja se priključi timu za pripremenost za AGI u 2021. godini i otide u 2024. otkad njen tim beše rasfrlan, opiša proces u kojem OpenAI se transformiraše pred njenim očima. „Kada se priključiv, sve beše mnogu istraživački fokusirano i često zborivavme za AGI i pitanja na bezbednost", svedočeše ona. „So vreme stana poveće kako produktno fokusirana organizacija." Prevod: istraživačite beа zamenetи so marketingašite. Timot za Super Alignment, edno od ključnite oddelenija za bezbednost, beše zatvoren vo istiot period.

Kembel ukaža na konkreten incident - Microsoft go pušti GPT-4 vo Indija preku Bing pred modelot voopšto da pomine evaluacija od Bordot za bezbedna implementacija na OpenAI. Iako rizikot od modelot sam po sebe bil minimalen, poentata e poinakva: ako ne se počituvaat procesite za osnovni modeli, što će bide koga tehnologijata će stane navistina opasna?

Taša Mekauli, poraneška član na bordot od neprofitniot del na OpenAI, otide ušte podaleku. Taa svedočeše deka Sem Altman, izvršniot direktor, gi izneveruval članovite na bordot, ne gi izvestil za javnoto puštanje na ChatGPT, i gi krieл potencijalnite konflikti na interes. „Nie sme neprofiten bord i našiot mandat beše da go nadgleduvame profitniot del pod nas", izjavi taa. „Nemavme visok stepen na doverba deka informaciite što ni gi prenesuvaa ni dozvoluvaa da donesuvame odluki na informiran način."

Koga bordot se obide da go otstrani Altman vo 2023. godina, vrabotenите se sobraа okolu nego, Microsoft se vmeša, i odlukata beše povlečena. Toa e sega dokumentiran fakt pred sud. „Ako se svede na eden izvršen direktor koj donesuva takvi odluki, a vo prashanje e javnoto dobro - toa e mnogu suboptimalno", dodade Mekauli. So drugi zborovi: kompanija koja drži vo race tehnologija so globalni implikacii ne treba da zavisi od hirot na eden čovek.

Ekspertskiot svedok za timot na Mask, Dejvid Šizer, poranešen dekan na Kolumbija Lav Skul, go zaostri prashanjeto: „OpenAI naglasi deka ključen del od nivnata misija e bezbednosta i deka će ja stavat bezbednosta pred profitot. Del od toa e seriozno sfaćanje na bezbednosnite pravila. Ako nešto treba da bide predmet na bezbednosna evaluacija, mora da se sluči. Se raboti za samiot proces."

OpenAI odbi da komentira za tekovniot pristap kon AGI alignment, no potseti deka javno gi spodeluva evaluaciite na modelite i deka vo februari angažiraše nov šef na podgotovnost, Dilan Skandinaro, prethodno od Anthropic. Toa e institucionalen odgovor na kriza na doverba, no ne i na strukturno prashanje. Zašto prashanjeto koe go postavuvaat svedocite ne e dali OpenAI ima procesi - tuku dali ima volja da gi počituva koga će se sudrat so rokovi, investitori ili politički pritisoci.

Za Balkanot ovo možebi zvuči daleko, no e sè drugo osven toa. Istite modeli stignuvaat i do našite telefoni, naše uchilišta i naše biznisi. Koga globalnata VI industrija ne može da gi počituva sopstvenите pravila, regulatorite od Brisel do Skopje treba da si go postavat edno prashanje: ako lugjeto koi ja sozdavaat tehnologijata ne mozat da i veruvaat na sopstvenata kompanija, kako bi trebalo da i veruvame nie?