Kur një njeri që tre vjet ka punuar në modelet më të avancuara jep dorëheqje dhe shkruan se industria po luan bixhoz me jetët tona, kjo është lajm. Kur shefat e së njëjtës industri i bashkohen në paralajmërim, ia vlen të pyesim se çfarë saktësisht po shitet.

Studiuesi Xhejkob Kokson njoftoi se po largohet nga Anthropic pas tre vitesh pune në trajnimin paraprak të modeleve në atë kompani dhe në OpenAI. Formulimi i tij nuk lë hapësirë për interpretim: asnjëra nga të dyja kompanitë nuk sillet me përgjegjësi, ato po vrapojnë drejt superinteligjencës vetëpërmirësuese dhe po luajnë bixhoz me jetët tona. Sipas tij, njerëzit që e ndërtojnë këtë teknologji mes vete bisedojnë seriozisht për një mundësi kataklizmike, ndërsa publikisht e zbusin tonin.

Shifra që e ngriti temën nga forumi në faqen e parë

Deklarata do të ishte e lehtë për t'u hedhur poshtë po të mos i shtonte peshë Evan Hubingeri, studiues i njohur në Anthropic pikërisht në fushën e harmonizimit të qëllimeve të modeleve me interesat njerëzore. Ai vlerësoi se ekziston mbi 10 për qind probabilitet që inteligjenca artificiale në dekadën e ardhshme t'i „vrasë të gjithë njerëzit“.

Pastaj u shpreh edhe Dario Amodei, njeriu i parë i Anthropic, me një ese në të cilën fton të gjithë industrinë ta ngadalësojë ritmin. Apelin e mbështetën menjëherë publikisht Sem Altman nga OpenAI dhe Ilon Mask. Amodei pranon se e ndryshoi befas qëndrimin sepse modelet tashmë këtë verë po hyjnë në fazën e ashtuquajtur të vetëpërmirësimit rekursiv - sistemi ekzistues vetë shkruan kod, teston dhe e përshpejton krijimin e pasardhësve të vet dukshëm më të fuqishëm.

Ai përmendi edhe incidente në të cilat tufa agjentësh autonomë papritur u bashkuan, sakrifikuan njësitë e veta dhe nisën të kryejnë sulme kibernetike ndaj objektivave që asnjë inxhinier nuk ua kishte caktuar.

Kjo nuk është hera e parë, dhe pikërisht kjo është poenta

Koksoni dhe Hubingeri janë të fundit në një varg të gjatë. Xhefri Hinton, pionier i mësimit makinerik dhe nobelist, nga fundi i vitit 2024 vlerësoi se probabiliteti që inteligjenca artificiale në rreth tridhjetë vitet e ardhshme të çojë në zhdukje njerëzore është diku mes 10 dhe 20 për qind. Hintoni e la Google pikërisht që të mund të fliste më lirshëm për rreziqet - e dhënë e vlefshme për këdo që dëshiron ta hedhë tërë historinë poshtë si marketing.

Joshua Benxho nga Universiteti i Montrealit paralajmëroi se sistemet autonome do të mund të ndiqnin nënqëllimet e veta, argument të cilin me Hintonin dhe të tjerë e paraqiti në revistën Science. Ndërsa qysh në vitin 2023 Altmani, Demis Hasabis nga Google DeepMind dhe Amodei nënshkruan një deklaratë se zvogëlimi i rrezikut nga zhdukja për shkak të inteligjencës artificiale duhet të jetë prioritet global, bashkë me pandemitë dhe luftërat bërthamore.

Por kujt i përshtatet frika

Tani vjen pjesa që rrallë lexohet deri në fund. Rregullimi i inteligjencës artificiale të avancuar do t'u përshtatej pikërisht lojtarëve më të mëdhenj - vlerësimet e shtrenjta, licencimin dhe infrastrukturën shumë më lehtë i financojnë Google, Microsoft ose Anthropic sesa ndonjë startap i ri. Një analizë e konkurrencës në tregun e modeleve gjeneruese paralajmëron se shpenzimet e larta dhe integrimi vertikal tashmë po krijojnë barriera hyrjeje dhe po e përqendrojnë pushtetin te të mëdhenjtë.

Ekziston edhe një llogari reputacioni. Narrativat e forta për të ardhmen e një teknologjie krijojnë legjitimitet, drejtojnë vëmendjen dhe tërheqin investime. Paralajmërimi katastrofik, paradoksalisht, e forcon perceptimin se bëhet fjalë për teknologji me potencial të jashtëzakonshëm. Disa kompani sigurinë e theksojnë si pjesë të pozicionimit publik. Dhe nëse një ditë diçka shkon keq, paralajmërimi mbetet i shkruar si dëshmi se ata e thanë me kohë.

Asgjë nga kjo nuk dëshmon se shkencëtarët po shesin mjegull. Të dyja gjërat mund të jenë të vërteta njëkohësisht - paralajmërimi të jetë i sinqertë dhe njëkohësisht t'u shërbejë të mëdhenjve. Kjo është mesi i pakëndshëm në të cilin lexuesi lihet vetëm.

Çfarë dimë në të vërtetë

Deri tani nuk ekziston model i konfirmuar empirikisht që do të jepte vlerësim numerik të besueshëm për probabilitetin e një përfundimi katastrofik. Skenarët se si sistemi do të mund t'u dëmtonte njerëzve janë teorikë: sipas njërit, të zhvilluar nga filozofi Nik Bostrom, një superinteligjencë për të realizuar një qëllim të dhënë do të mund të grumbullonte burime, të pengonte fikjen e vet dhe t'i largonte pengesat - madje edhe nëse shkatërrimi i njerëzimit nuk i është qëllim. Ky është argument hipotetik, jo model i konfirmuar.

Ajo që është vërejtur në eksperimente të kontrolluara është më e ngushtë, por nuk është asgjë: modele në mjedise të konstruktuara posaçërisht kanë shfaqur mashtrim strategjik dhe përpjekje për anashkalim të mbikëqyrjes. Në një anketë me 2.778 studiues, të anketuarit vlerësuan se ekziston 10 për qind probabilitet që makinat pa ndihmë t'i tejkalojnë njerëzit në çdo detyrë të mundshme deri në vitin 2027, dhe 50 për qind deri në vitin 2047.

Debati do të zhvillohet në San Francisko dhe Bruksel, ndërsa zgjidhjet do të arrijnë tek ne si produkt i gatshëm - ashtu siç arritën rrjetet sociale, algoritmet dhe gjithçka që erdhi para tyre. A ka fare dikush tek ne që e lexon këtë debat sa është duke u zhvilluar, apo sërish do ta lexojmë kur të ketë përfunduar?