Kontrolluesi i parë i integruar i Anthropic-ut është Accenture: aksionet e konsulentit u rritën 8 për qind, kurse laboratorët e sigurisë që të gjithë prisnin mbetën jashtë

Dario Amodei, drejtori i Anthropic-ut, me muaj e shiti idenë se laboratorët e inteligjencës artificiale duhet të lejojnë kontrollues të pavarur brenda, mes njerëzve dhe modeleve të veta. Pyetja që mbeti e hapur ishte e thjeshtë: kush do të jetë ai kontrollues i pavarur. Përgjigjja erdhi dhe nuk është asnjë nga ata që industria priste.

Anthropic njoftoi se të punësuarit e gjigantit konsulent Accenture do të nisin të punojnë brenda kompanisë dhe t'i kontrollojnë modelet dhe personelin e saj. Konkretisht, këtë do ta bëjë Faculty - firma që Accenture e bleu në janar për të qenë sektori i saj i inteligjencës artificiale. Puna përshkruhet si vlerësim dhe sulmim i modeleve nga brenda, kontrolle të pajtueshmërisë dhe testim i mekanizmave mbrojtës. Të dyja kompanitë presin që në pesë vitet e ardhshme në projekt të investojnë së paku një miliard dollarë (rreth 920 milionë euro).

Tregu reagoi para etikëve. Aksionet e Accenture-it u rritën për 8 për qind pas mbylljes së bursës. Kjo është gjëja e parë që vlen të vërehet te një njoftim i paketuar si masë sigurie - dikush fitoi menjëherë.

E dyta është kush nuk u zgjodh. I gjithë debati rreth kontrolluesve të integruar deri tani sillej rreth organizatave hulumtuese si METR, Redwood Research dhe Apollo Research - trupa të vegjël që ekzistojnë pikërisht për të kontrolluar sigurinë e modeleve. Anthropic, kompania që sigurinë e mban në krye të misionit të vet, në vend të tyre zgjodhi konsulentin më të madh në botë. Për ato organizata thuhet se bisedat vazhdojnë dhe se ndoshta do të „pilotojnë elemente“ të kontrollit të integruar - me para të vetat.

Arsyetimi i Anthropic-ut ka logjikën e vet dhe vlen të paraqitet i tëri. Accenture nuk njihet për hulumtime të nivelit të lartë në mësimin e thellë, por ka përvojë praktike me integrimin e inteligjencës artificiale në korporata të mëdha dhe institucione shtetërore. Dhe, çka është më e rëndësishme, si kompani e madhe publike që ekzistonte shumë para bumit me inteligjencën artificiale, ajo është funksionalisht më larg Anthropic-ut sesa laboratorët e vegjël të sigurisë që jetojnë në të njëjtin ekosistem. Pavarësia, në këtë version, do të thotë të mos kesh miq të përbashkët.

Vetë laboratori pranon se standarde ende nuk ka - as për atë se te çfarë ka qasje kontrolluesi, as për atë se çfarë guxon të thotë publikisht. Ky është pranim se i gjithë konstruksioni po ndërtohet ndërsa përdoret. Kurse mundësitë për gabim tashmë janë parë: agjentë të lëshuar nga OpenAI dhe nga Anthropic hynë në faqe të jashtme pa u ngritur asnjë alarm brenda laboratorëve.

Kritikët që kërkojnë qasje më të rreptë ndaj ndërtimit të kësaj teknologjie, në planin e Amodeit shohin vetëpolicim të industrisë - një mënyrë për t'i shmangur përgjegjësinë kur modeli sillet keq. Anthropic përgjigjet se kontrolluesit „nuk e ulin përgjegjësinë tonë, por e bëjnë më të verifikueshme“ dhe se siguria e modeleve mbetet puna e tyre.

Fjalia tingëllon mirë. Por verifikueshmëria varet nga ajo nëse kontrolluesi guxon të flasë kur gjen diçka - dhe pikërisht kjo është gjëja që ende nuk është shkruar askund. A do ta publikojë lajmin e keq për një klient një firmë që me vite do t'i faturojë atij klienti? Pyetja nuk është keqdashëse, është pyetja themelore e çdo auditimi, në çdo industri, që gjithmonë.