Anthropic paralajmëron në prospektin për bursë se është afër IA-së që përmirëson vetveten: pranon se përshpejtimin e zhvillimit të vet një herë e vuri re vetëm pasi kishte ndodhur

Anthropic publikoi aplikimin e rishikuar për dalje në bursë (dokumentin S-1/A) dhe vëmendja shkoi menjëherë te shifrat: të ardhurat rriten, por rriten edhe shpenzimet. Më thellë në dokument, në pjesën për rreziqet, qëndron një fjali më e rëndësishme se çdo bilanc. Kompania shkruan se ndoshta është në pragun e inteligjencës artificiale që përmirëson vetveten.

Termi është vetëpërmirësim rekurziv (RSI) - pika kur IA bëhet aq e mirë në trajnimin e vetvetes sa zhvillimi fillon të përshpejtohet pa fre. Për disa ky është momenti kur njeriu humb kontrollin dhe nuk ka kthim prapa. Për të tjerët është premtim për produktivitet dhe zbulime shkencore që vështirë mund t'i imagjinojmë. Anthropic, sipas dokumentit të vet, mendon se është edhe njëra edhe tjetra.

Fjalitë e reja në pjesën për rreziqet janë dy. E para: kompania gjithnjë e më shumë përdor IA për zhvillimin e vet, prandaj modelet mund të përparojnë më shpejt se sa ajo arrin t'i kontrollojë dhe t'i sigurojë. Dhe pranon se në të kaluarën një përshpejtim të ndjeshëm në zhvillim nuk e njohu derisa ai tashmë kishte ndodhur. E dyta: vlerësimet e brendshme për modelet e ardhshme tregojnë se Anthropic ndoshta „në të ardhmen e afërt“ do ta arrijë pragun që në Politikën e vet për Shkallëzim të Përgjegjshëm e përshkruan si „përparim dramatikisht i përshpejtuar që i atribuohet IA-së“.

Dokumenti menjëherë edhe qetëson. Për asnjë nga modelet aktuale nuk është përcaktuar se e ka kaluar atë prag, ndërsa të dhënat ende po analizohen. Kompania shkruan se nuk pret ta lërë në mënyrë të sigurt Claude të projektojë dhe të ndërtojë krejtësisht vetë gjenerata të reja modelesh pa „mbikëqyrje ose kuptim njerëzor domethënës“, dhe se po mendon për ndryshime në politikë që njerëzit ta ruajnë kontrollin.

Këtu duhet ndalur dhe lexuar kush shkruan dhe pse. Prospekti për bursë është njëkohësisht zbulim i detyrueshëm i rreziqeve dhe material reklamues para shitjes së aksioneve. Një kompani që u thotë investitorëve se është afër IA-së që ndërton vetveten u dërgon edhe një mesazh tjetër: se është para të gjithë të tjerëve. A është ky paralajmërim apo reklama më e shtrenjtë e vitit?

Nga ana tjetër, përparimi i Claude këtë vit në programim, matematikë dhe siguri kibernetike duket edhe pa prospekt. Nëse vetë kompania që e ndërton sistemin thotë se po i afrohet vijës, pyetja nuk është më teknologjike. Kush do ta ruajë atë vijë - aksionarët që sapo po hyjnë, apo ligjvënësit në Uashington dhe në Bruksel?