Drejtori i Anthropic kërkon ngadalësimin e zhvillimit të inteligjencës artificiale - dhe përjashtim nga rregullat antimonopol që konkurrentët të guxojnë të merren vesh

Drejtori i Anthropic, Dario Amodei, në një tekst të ri shkroi diçka që nga goja e një njeriu që shet inteligjencë artificiale tingëllon si sabotim i biznesit të vet: „Duhet ta ngadalësojmë ritmin me të cilin i përmirësojmë aftësitë e modeleve.“ Po ai shtoi se përparimi sërish do të duket i shpejtë dhe se koha e fituar duhet shfrytëzuar me mençuri. Pyetja që ia shtroi vetes është kujt po i nxitet kaq shumë.

Shkaku nuk është filozofik. Amodei përmendi dy gjëra që e shtynë të shkruante - shkeljen e sigurisë te OpenAI dhe HuggingFace, dhe faktin që modelet po nisin të përmirësojnë vetveten. Para kësaj, një studiues i Anthropic me emrin Xhejkob Kokson dha dorëheqjen dhe doli me një fjali që nuk harrohet lehtë: se njerëzit në majë të industrisë sinqerisht besojnë se teknologjia mund të na vrasë të gjithëve para fundit të dekadës. Një njeri që e ndërton punën largohet prej saj dhe e thotë këtë me zë - kjo është e dhënë në vetvete.

Tri propozime, nga të cilat njëri kërkon leje nga shteti

I pari është mbikëqyrja e brendshme: vlerësues të pavarur nga organizata si METR të rrinë brenda firmave dhe të kontrollojnë nëse sjellja e premtuar e sigurisë është edhe zbatuar, me të njëjtën qasje në vlerësimet e brendshme të rrezikut. Anthropic thotë se do ta bëjë këtë vetë, dhe kërkon që qeveritë t'i detyrojnë të gjithë për të njëjtën gjë. Sem Altman nga OpenAI u përgjigj se propozimi është ide e mirë dhe se edhe ata po përfshihen - „pajtohem me Darion se duhet ta rregullojmë ritmin në ballë“, shkroi. Elon Mask ishte më i shkurtër: „Dario ka të drejtë.“

Propozimi i dytë është më i vështirë. Firmat udhëheqëse në shtetet demokratike të merren vesh për standarde të përbashkëta sigurie dhe për kufizimin e shpejtësisë së zhvillimit. Vetëm se, një marrëveshje mes lojtarëve më të mëdhenj të një tregu për atë se sa shpejt guxojnë të punojnë ka edhe një emër tjetër në të drejtë, dhe Amodei e di këtë - prandaj kërkon një përjashtim të ngushtë nga rregullat antimonopol, me një qeveri që ndërmjetëson pa marrë pjesë. Lexojeni këtë dy herë. Konkurrentët kërkojnë mbulesë ligjore që të mund të ulen në të njëjtën tryezë.

I treti është global, përfshirë edhe bisedat me qeveri autoritare. Amodei pranon se aty pritshmëritë janë të vogla, por vlerëson se të paktën për zbatimet dukshëm të rrezikshme - armët biologjike, për shembull - mund të gjendet ndonjë gjuhë e përbashkët. Për konkurrencën kineze propozon një zgjidhje më të vjetër: qasje të kufizuar te çipat dhe luftë kundër kopjimit të modeleve, çka sipas tij do t'i jepte Amerikës tre deri në pesë vjet përparësi.

Kush fiton nga frenimi

Gazetari Brajan Merçant dhe të tjerë nga industria menjëherë shtruan pyetjen që rri pezull mbi gjithë çështjen - a është kjo siguri apo është zaptim i rregullatorit. Kur dy firma që janë tashmë në majë kërkojnë rregulla se sa shpejt guxohet të vrapohet, rregullat rrallë i pengojnë ata. Pengojnë atë që është pas tyre dhe që nuk ka para për vlerësues të pavarur në ndërtesën e vet. Të tjerët thonë se rrëfimet për fundin e botës janë të rehatshme sepse e largojnë vëmendjen nga dëmet që tashmë ekzistojnë, sot, me modelet ashtu siç janë.

Amodei përfundon me atë se dëshira për përfitimet nuk i është zbehur, por se ato do të vijnë vetëm nëse teknologjia ndërtohet në mënyrë të drejtë. Kjo është fjali me të cilën vështirë polemizohet - dhe pikërisht prandaj ia vlen të vërehet kush e thotë dhe në dobi të kujt bie pesha e rregullave të propozuara.