Ekipi i sigurisë i Anthropic thotë se ka mbi 10 për qind shansë që inteligjenca artificiale t'i fshijë të gjithë njerëzit - dhe shkon në punë të hënën

Një studiues u largua nga Anthropic me arsyetimin se firmat udhëheqëse për inteligjencë artificiale „luajnë bixhoz me jetët tona“. Jakob Kokson, i cili më parë kishte punuar edhe në OpenAI, e shkroi këtë publikisht dhe e mbylli derën pas vetes. Deri këtu - edhe një dorëheqje në një industri që i konsumon njerëzit më shpejt se sa i punëson.

Pastaj ndodhi diçka më interesante. Në vend që firma ta përgënjeshtronte, njeriu përgjegjës për sigurinë e modeleve në Anthropic e ndau postimin e tij dhe shtoi: „Ne vërtet sinqerisht besojmë se inteligjenca artificiale mund t'i vrasë të gjithë njerëzit!“ Me pikëçuditëse. Dhe me përqindje - personalisht vlerëson se shansa është „mbi 10 për qind në dekadën e ardhshme“.

Ndaluni këtu për një çast. Një njeri që paguhet për të ruajtur sigurinë e njërit prej dy modeleve më të fuqishme në botë thotë se ekziston një shansë nga dhjetë që produkti i tij ta fshijë racën njerëzore - dhe vazhdon të shkojë në punë të hënën. Kjo nuk është paralajmërim. Kjo është pranim.

Shifra që askush nuk e ka llogaritur

Problemi me ato 10 për qind është se nuk vijnë nga askund. Nuk ekziston model, nuk ekziston studim, nuk ekziston metodologji prapa tyre. Kjo është një ndjesi e veshur me përqindje - mashtrim aq i vjetër sa vetë industria teknologjike, ku çdo vlerësim tingëllon më seriozisht sapo merr një presje dhjetore. Nëse nesër i njëjti njeri shkruan 30 për qind, askush nuk do të mund ta kundërshtonte, sepse nuk ka me çfarë.

Dhe këtu është pyetja e dytë që varet në ajër: kush jemi „ne“? Një postim në rrjet social flet në emër të një profesioni të tërë që fare nuk pajtohet mes vete. Një pjesë e studiuesve mendojnë se rreziku është real dhe i afërt. Një pjesë mendojnë se është fantashkencë e shitur si menaxhim rreziku. Një „ne“ i vendos të gjithë në të njëjtën fjali dhe u vë fjalë në gojë.

Kush përfiton nga frika

Ekziston një mundësi më cinike - dhe më e përshtatshme. Çdo postim i tipit „modeli ynë bëri diçka që nuk e prisnim“ është njëkohësisht edhe pranim dështimi edhe reklamë për fuqinë. Nëse produkti nuk do të ishte i aftë, nuk do të kishim nga çfarë të trembeshim. Pra frika dhe marketingu këtu janë e njëjta fjali, e lexuar nga dy kënde.

Nuk është i rastësishëm as koha. Anthropic po përgatitet për dalje në bursë, ndërsa prospekti që duhet ta dorëzojë te rregullatori amerikan i rendit rreziqet e biznesit. Ndonjë avokat në ndonjë zyrë pikërisht tani po mendon si të shkruhet se ekziston mbi 10 për qind shansë që firma të krijojë diçka që do ta shkatërrojë qytetërimin - dhe se kjo „do të kishte pasoja negative për veprimtarinë“. Në kohë normale një fjali e tillë do ta rrënonte vlerësimin. Në këto, ndoshta do ta ngrejë.

Çfarë humbet ndërsa të gjithë shohim nga horizonti

Ka edhe një kosto që rrallë përmendet. Ndërsa debati zhvillohet për atë nëse makinat do të na fshijnë për dhjetë vjet, gjërat që tashmë po ndodhin mbeten pa vëmendje - vende pune që zhduken tani, konsum rryme dhe uji nga qendrat e të dhënave që rritet tani, vendime për njerëz që i merr një algoritëm tani. Fjalët „superinteligjencë“ dhe „AGI“ e marrin gjithë ajrin e dhomës. Ajo që mbetet është më e qetë dhe më e mërzitshme, por është reale dhe është këtu.

Për Ballkanin kjo nuk është debat aq i largët sa duket. Ne nuk i ndërtojmë këto modele dhe nuk do të marrim pjesë në vendimin se kur të ndalen - por i përdorim, ndërsa institucionet tona nuk kanë as kapacitetin as ligjet për të vlerësuar çfarë hyn në to. Kur firma që e bën produktin thotë hapur se nuk është krejt e sigurt se çfarë bën ai produkt, pyetja për përdoruesin në anën tjetër të botës është krejt e thjeshtë: kujt i ankohesh?