Од 2 август во Европската унија важат правилата за транспарентност од Законот за вештачка интелигенција (EU AI Act): содржината што ја создала машина мора да биде означена така што други системи ќе можат да ја препознаат. Два месеци подоцна, OpenAI објави дека во наредните недели ќе почне да става невидлив воден жиг на текстот што го пишуваат ChatGPT и Codex – за корисниците во ЕУ, на сите планови. Причината компанијата не ја крие: усогласување со законот.

Жигот не е симбол ни потпис во дното на страницата. Моделот суптилно го обликува изборот на зборови и остава шема што читателот не ја гледа, а детекторот ја фаќа. Бидејќи живее во самите зборови, жигот патува со текстот и кога ќе се копира и залепи на друго место. Методот се вика textGrain, а техничкиот извештај OpenAI го напишал заедно со истражувачи од Универзитетот во Пенсилванија и Јеил: таен клуч ги подредува предвидувањата за следниот збор, а стотици такви мали поттурнувања заедно му овозможуваат на детекторот да препознае машински текст само од текстот и клучот. Компанијата тврди дека жигот не го идентификува корисникот и дека не забележала значајна промена во работата на моделите кога е вклучен.

Надвор од Европа сликата е поинаква. Програмерите што го користат API-то на OpenAI насекаде во светот можат да го вклучат жигот за одредени модели уште од денес, но тој е исклучен однапред. Глобално стандардно жигосување – нема. Тоа има своја историја: според The Wall Street Journal, OpenAI уште во 2024 година имал готов воден жиг за текст, но не го пуштал, делумно од страв дека корисниците ќе преминат кај конкурентите што не жигосуваат. Европа често ја исмеваат дека само регулира, а не создава. Овде токму регулативата од Брисел го извлече од фиоката она што пазарот го држеше заклучено.

А дали жигот може да се избрише? Тестовите на самата компанија велат – да. Кога 10 отсто од зборовите се заменети со синоними, откривањето паѓа од околу 92 на 66 отсто. Кратките пасуси, одговорите по математика и преведениот текст потешко се препознаваат. Студентот што ќе побара есеј на англиски и ќе го преведе на својот јазик, значи, веќе има половина работа завршена.

Затоа OpenAI засега нема да даде детектор на сите. „Овие ограничувања придонесуваат за нашата одлука почетниот пристап до детекторот да им го дадеме само на одобрени истражувачи и стручни организации, кои можат да ни помогнат да ја процениме сигурноста и одговорната употреба“, соопшти компанијата. Предупредува и дека отсуството на жиг „не докажува човечко авторство“: текстот може да е прекраток, премногу уреден или напишан од туѓа вештачка интелигенција. „Жиговите можат да покажат дека систем на OpenAI генерирал или обработил дел од пасусот, но не и колку човечка проценка, уредување или креативност влегле во него.“

OpenAI не е прв. Пред два месеци Anthropic најави жигосување на текстот од Claude, и тоа низ целиот свет. Дел од корисниците протестираа, со аргумент дека тие ги дале „упатствата, контекстот, одлуките“, а Claude бил само „алатката“. Anthropic, Google, Meta, Microsoft и OpenAI се меѓу компаниите што се обврзаа да го следат европскиот кодекс на однесување за содржина создадена со вештачка интелигенција.

Македонија не е членка на ЕУ, па според најавата жигот нема да стигне до корисниците на ChatGPT кај нас. Прашањето е дали тоа е предност или дупка – и кој прв ќе почне да ја користи: професорите што проверуваат семинарски, или оние што ги пишуваат?