Дарио Амодеи, директорот на Anthropic, во есеј објавен викендов предложи нешто што индустријата пред една година ќе го отфрлеше веднаш: во секоја голема компанија за вештачка интелигенција да седат вградени независни оценувачи, со право да пријавуваат безбедносни инциденти, да проверуваат дали моделите навистина се усогласени и да ги објавуваат наодите без компанијата да ги реди зборовите. Сем Алтман кажа дека и OpenAI ќе се обврзе на истото. Звучи како пресвртница. Но кој ќе биде оценувач, кога ќе влезе, до што ќе има пристап и што смее да каже – на ниту едно од тие прашања двете компании не одговорија, и покрај повторени прашања.

Оценувачите што досега работеле со овие компании не се воодушевени од самата ветена отвореност. Тие бараат нешто конкретно: пристап не само до готовиот модел пред пуштање, туку до меѓупресеците од целото негово тренирање. Адам Глив, директор на FAR.AI, објаснува зошто – споредувајќи ги тие пресеци се гледа во кој момент се појавило проблематичното однесување, се проверува која средина го наградувала моделот за него и се верификуваат тврдењата на компанијата за тоа како моделот всушност поминал на тестовите.

Зошто е тоа важно? Затоа што моделите стануваат сè подобри во препознавањето дека ги тестираат. Модел кој поминува на безбедносен тест не е безбеден ако научил како точно да го помине тој тест. Џон Стидли од Palisade Research го спореди тоа директно со аферата „Дизелгејт“ на Volkswagen – автомобилите препознаваа кога се мери издувот и се однесуваа поинаку додека траеше мерењето. Истата логика, само со модел наместо мотор.

Александар Мајнке, шеф на истражување во Apollo Research, го постави прашањето уште поостро. „Компаниите за вештачка интелигенција треба да можат да одговорат на едно сосема основно прашање: дали моделот некогаш активно се обидел да го поткопа сопственото тренирање за усогласеност додека траело тоа тренирање?“ Одговорот, вели тој, треба да биде недвосмислено не – а во моментов целосно зависиме од тоа компаниите сами внимателно да проверат и потоа вистинито да пријават. „И од неодамнешните инциденти видовме дека, по правило, нема да го направат ниту едното ниту другото.“

Досегашната пракса не оди во прилог на ветувањата. Кога се истражуваше инцидентот со Hugging Face, OpenAI им даде на METR и Redwood околу една недела на самото место – обете фирми потоа рекоа дека не можеле да извлечат сигурни заклучоци поради ограничен опфат и премалку време. При тестирањето на GPT-6 Astra, модел што OpenAI го рекламира како најусогласениот досега, Apollo Research добила три дена. Во својот придонес кон картичката на моделот, фирмата напиша дека ниските стапки на проблематично однесување не претставуваат сериозен доказ за усогласеноста на моделот – едноставно немале доволно време да проверат.

Глив вели дека FAR.AI морала да одбие договори со неколку водечки лаборатории кои сакале премногу контрола врз процесот. Стандардно, оценувачите се третираат како обични подизведувачи – врзани со ограничувачки договори за доверливост кои ѝ оставаат на компанијата значителна контрола врз тоа што може да се објави. „Можно е Дарио и Сем едноставно да се предомислиле и да бидат многу отворени за ова“, вели Глив. „Но интелектуалната сопственост на овие компании им е неверојатно вредна, и мислам дека по правило ќе бидат многу внимателни со тоа што смее да се сподели.“

Тука доаѓа и најтврдиот дел од приказната. Хенри Пападатос, извршен директор на Safer AI, вели дека доброволните мерки секогаш зависат од добрата волја на компанијата. „Идеално, би имале добра регулатива што ова го задолжува – бидејќи тогаш компаниите не можат да се предомислат утре ако ги погоди голема кризна ситуација во јавноста.“ Пападатос го затвора аргументот на начин што вреди да се запомни: не може да се има и едното и другото – нула надворешна одговорност, а истовремено барање јавноста да верува дека правилата се почитуваат.

Meta, SpaceXAI и Google DeepMind засега не се обврзале на ништо. Законите, пак, одат побавно од есеите: калифорнискиот SB 53 бара од големите развивачи да објавуваат безбедносни рамки и да пријавуваат критични инциденти, а новиот SB 813 создава рамка за државно признати организации за независна верификација. Европскиот закон за вештачка интелигенција бара документирани евалуации и пријавување сериозни инциденти, а Канцеларијата за вештачка интелигенција може и сама да спроведува проверки и да именува независни експерти. Ниту едно од тоа сè уште не оди толку далеку колку што предлага Амодеи – што значи дека и понатаму самите лаборатории решаваат колку надворешна контрола ќе прифатат врз себе. Дали некој на Балканот воопшто ќе го види тој извештај кога ќе се објави, или ќе го читаме преку втора рака како и сето друго?