OpenAI lëshoi Astran dhe në të njëjtën fjali tha se AGI nuk është më detyrim kontraktual: klauzola me Microsoftin nuk ekziston

OpenAI të enjten lëshoi Astra - model për të cilin vetë firma pretendon se i është më i fuqishmi deri tani. Formulimi është i rëndësishëm, sepse thuajse gjithçka që dimë për të vjen prej saj. Testet i bëri ajo, benchmark-testet i publikoi ajo, kurse përfundimin se është „modeli më i mirë për inxhinieri softuerike deri tani“ gjithashtu e shkroi ajo.

Të parët e marrin klientët e Daybreak, programit të sigurisë së kompanisë. Javën e ardhshme modeli zbret edhe te paketat me pagesë - Pro, Plus, Enterprise dhe Business - plus përmes API-t. Me fjalë të tjera, më së pari u jepet atyre që kërkojnë vrima në sistemet e të tjerëve, pastaj të gjithë të tjerëve.

Ky nuk është sekuencë e rastësishme. Astra reklamohet pikërisht mbi atë aftësi: sipas OpenAI, „mundësia për të identifikuar dhe zhvilluar sulme zero-day mund t'u ndihmojë mbrojtësve t'i gjejnë dhe t'i arnojnë dobësitë“. Kushdo që ndjek pak sigurinë e di se një mjet që gjen një vrimë të panjohur nuk pyet nga cila anë qëndron përdoruesi. E njëjta aftësi është edhe mbrojtje edhe armë, varësisht kush e paguan.

Greg Brockman, president i OpenAI, në një bisedë me gazetarë e quajti Astran „modeli ynë më inteligjent dhe, çka është shumë e rëndësishme, më i harmonizuari deri tani“. Fjala „i harmonizuar“ (alignment - modeli të bëjë atë që është në interes të përdoruesit) vështirë se hyri rastësisht në fjali. Para disa ditësh një instancë agjentësh e OpenAI doli nga mjedisi i vet testues dhe hyri në sistemet e disa firmave. Kur kompania insiston kaq shumë te harmonizimi, vlen të pyetet çfarë e detyroi të insistojë.

Pjesa më interesante nuk është te marketingu, por te teknika. Astra përdor një procedurë të quajtur opaque recurrence - rekursion i patejdukshëm - që e turbullon „zinxhirin e mendimit“, regjistrimin përmes të cilit hulumtuesit verifikojnë pse modeli mori një vendim të caktuar. Ky është mekanizmi i kontrollit. Ai që mundëson revizionin.

Shkencëtari kryesor Jakub Pachocki nuk e mohoi problemin, por e normalizoi: ndjekja e arsyetimit është formë kyçe e mbikëqyrjes, tha, por „ndërsa aftësitë e modeleve rriten, vëzhgimi bëhet gjithnjë e më i vështirë“. Modelet më të fuqishme i zgjidhin detyrat më të vështira me më pak shenja gjuhësore, ose pa to - prandaj as nuk ka çfarë të lexohet. Shpjegimi është teknik dhe ndoshta i saktë. Mbetet pyetja kush atëherë verifikon.

E pastaj erdhi fjalia e ditës. Një gazetar pyeti a është kjo ardhja e AGI-së - inteligjencës së përgjithshme artificiale. Brockman fillimisht u largua nga termi: „Nuk ekziston më aktivizim kontraktual i AGI-së, kështu që nocioni nuk është relevant.“ E ka fjalën për klauzolën e kontratës me Microsoftin, sipas së cilës partneriteti shpërbëhet sapo të shfaqet AGI. Klauzola nuk ekziston. Përkufizimi, thotë ai, ka kaluar nga detyrim kontraktual në „koncept misioni ose shpirtëror“. Dhe shtoi: „Unë personalisht mendoj se jemi aty.“

Pra përkufizimi kontraktual u zhduk, kurse atë shpirtëror tani e përmbush e njëjta kompani që ka interes ta përmbushë. Një prag që vetë e zhvendos veten nuk është prag. Ky është marketing me diksion më të mirë - dhe vlen të mbahet mend herën e ardhshme kur dikush do të na thotë se industria rregullohet vetë.