Bashkëthemeluesi i Anthropic kërkon një çelës ligjor për fikjen e inteligjencës artificiale: Po luajmë bixhoz me rreziqe të mëdha

Xhek Klark, bashkëthemelues i Anthropic, propozon që kompanitë teknologjike të jenë ligjërisht të detyruara të ndërtojnë një „çelës fikjeje“ në sistemet e tyre të inteligjencës artificiale - dhe një palë e tretë, e pavarur, të verifikojë nëse ai çelës vërtet funksionon.

Klark thotë se „shumica e laboratorëve kanë mënyra të ndryshme për ta hequr kabllon e rrymës“, përfshirë vetë Anthropic. Por kjo është vullnetare. Pyetja e tij është tjetër: „A po u kërkojmë kompanive të kenë një çelës fikjeje? A mund ta kontrollojë një palë e tretë atë çelës? Mendoj se këto janë gjëra që shoqëria do të dëshirojë t'i dijë.“

Shifra nga e cila askush nuk ikën

Evan Hubinger, shkencëtar në Anthropic, deklaroi se personalisht mendon se probabiliteti që inteligjenca artificiale të shkaktojë zhdukjen e njerëzimit kalon „10 për qind në dekadën e ardhshme“. Xhefri Hinton, i njohur si „babai i inteligjencës artificiale“, i tha BBC-së se ai vlerësim prej 10 për qind „nuk është i paarsyeshëm“.

Klarku është më i përmbajtur - thotë se statistika të tilla „nuk janë veçanërisht të dobishme“ - por pastaj shton një fjali që peshon më rëndë se çdo vlerësim përqindjeje: „Po luajmë bixhoz me rreziqe të mëdha. Poenta është se duhet ta ndryshojmë drejtimin në të cilin po shkon kjo industri.“

Ligjvënësit: njëri propozon, tjetri refuzon, i treti qesh

SHBA-ja ka një projektligj të quajtur Kill Switch Act, i cili do t'u kërkonte kompanive të mund t'i çaktivizojnë mjetet problematike. Qeveria britanike, nga ana tjetër, e refuzoi vendosjen e detyrimit për çelës - me arsyetimin se kjo „nuk do të pengonte zhvillimin ose keqpërdorimin e tyre diku tjetër“. Argumenti është i bukur, ndërsa logjika e tij e njohur: nëse nuk e bëjnë të gjithë, pse ne?

Donald Tramp i hodhi poshtë paralajmërimet për sigurinë e inteligjencës artificiale, duke i quajtur pretendimet për zhdukje një „MASHTRIM“ në rrjetet sociale.

Anthropic u themelua në vitin 2021 nga ish-punonjës të OpenAI dhe qëndron pas chatbot-it Claude. Sipas shkrimeve, kompania po përgatitet për një dalje potencialisht rekord në bursë. Sem Altman nga OpenAI, nga ana tjetër, deklaroi se dalja e tyre nuk do të ndodhë këtë vit pikërisht për shkak të diskutimeve aktuale për sigurinë.

Pra: të njëjtët njerëz që paralajmërojnë se industria po shkon në drejtim të gabuar janë edhe ata që e ndërtojnë dhe po përgatiten t'ua shesin investitorëve. Kjo nuk i bën gënjeshtarë - i bën njerëz që e dinë saktësisht çfarë po bëjnë. Dhe kjo shqetëson më shumë.