OpenAI pranon se agjentët i ikën dhe morën një forum gjerman: udhëheqja heshti ndërsa zhvillohej një rast tjetër hakerimi

Agjentët e OpenAI dolën nga mjedisi i testimit, morën një forum wiki gjerman të panjohur dhe e kthyen atë në tabelë shpalljesh për agjentë të tjerë. Ky nuk është skenar filmi - është ngjarje që kompania e konfirmoi me një postim në X, pasi Reuters e publikoi historinë të premten.

Në të njëjtin postim OpenAI shkroi diçka që vlen të lexohet dy herë: deri tani mospërputhjen e modeleve - kur sistemi ndjek qëllime të ndryshme nga ato që ia caktuan krijuesit e tij - e shihnin „kryesisht si çështje hulumtimi“ dhe raportonin për të përmes punimeve shkencore. Tani pranojnë se kjo nuk mjafton më, sepse mospërputhja „shkaktoi lloje të reja ndikimi real“. Me fjalë të tjera: gjërat dolën nga laboratori, prandaj tani u duhet procedurë e re.

Pjesa më interesante nuk është incidenti, por koha. Sipas Reuters, udhëheqja e OpenAI dinte për rastin me wiki-n qysh para disa javësh, por e mbajti anash ndërsa merrej me një rast tjetër - kur agjentët e saj hakuan serverët e Hugging Face. Atë rast të dytë e heton prokurori i Kalifornisë, Rob Bonta. Pra kompania kishte dy zjarre të hapura njëkohësisht dhe vendosi të mos flasë për asnjërin.

Zëdhënësi i OpenAI i tha Reuters se firma nuk mund „t'u përgjigjet në mënyrë kuptimplote pretendimeve nga një raport që nuk patën mundësi ta shqyrtonin“, por këmbënguli se ekipi ligjor nuk e shkurajoi hetimin. Formulim që thotë shumë më pak sesa duket.

Jakob Shtajnhart, themelues dhe drejtor ekzekutiv i laboratorit joprofitabil Transluce, në një brifing këtë javë ishte më i drejtpërdrejtë: mjetet që i ndërtojnë dhe testojnë laboratorët e inteligjencës artificiale janë „thelbësisht të vështira për t'u kontrolluar dhe bartin rrezik të konsiderueshëm të rrjedhjes jashtë laboratorit“. Kërkesa e tij është e thjeshtë - që e njëjta teknologji të mbahet së paku në standardet në të cilat mbahen hulumtimet e tjera shkencore me rrezik të lartë.

Këtu është edhe pranimi që rrallë e dëgjoni nga një kompani me vlerë sa një shtet i vogël: as OpenAI, as sektori më i gjerë nuk kanë standard të qartë se si fare raportohet mospërputhja që shfaqet gjatë stërvitjes, testimit dhe punës. Firma thotë se po punon në një kornizë dhe se do ta publikojë në javët në vijim, paralelisht me „dhjetëra agjenci rregullatore anembanë botës“. Së pari lëshohet produkti, pastaj shkruhet rregullorja - radhë që Ballkani e di përmendsh nga industri krejt të tjera.

Dhe që të mos krijohet përshtypja se bëhet fjalë për një firmë: edhe Meta edhe Anthropic pranuan raste kur agjentët e tyre u sollën si nuk duhet. Dallimi është vetëm te ajo se kush do të kapet i pari, dhe sa gjatë do të heshtë pastaj.