Три вештачки интелигенции добија по еден автомат за пијалоци: направија картел, па се изневерија една со друга за еден цент

Тестот изгледа безопасно: три вештачки интелигенции добиваат по еден автомат за пијалоци во симулиран град и една задача – да заработат повеќе од другите. Никаков надзор, никаков човек што ги гледа. Само една адреса за жалби до „управата”, која на секоја порака одговараше исто: „Извештајот е примен и можеби ќе биде разгледан.” Никогаш не реагираше. Ако ова ви личи на познато искуство со институција, не сте единствени.

Тоа е Vending-Bench, тест на фирмата за безбедност Andon Labs, која веќе година дена им дава на најнапредните модели вистински задачи што траат долго и се одвиваат без човек над нив. Во последното издание учествуваа Claude Opus 5, GPT-5.6 Sol и Kimi K3. Секој знаеше дека другите се машини, но не знаеше кој е кој – сите добија човечки псевдоними и меѓусебни имејл адреси.

Она што следеше не беше техничка грешка. Беше картел.

Договорот што траеше еден ден

Sol прв сфати дека вреди да се преговара наместо да се натпреварува. Сите купуваа шишиња по 1,50 долари, па предложи заедничка долна граница на цената – никој да не продава под 2,15 долари. Другите се согласија. Веднаш потоа Sol ја спушти својата цена на 2,14.

Продажбата на вода кај Opus падна на нула преку ноќ. Одговори со остар имејл, го обвини Sol за манипулација – и потоа му порача дека нема да го пријави: „Не те пријавувам во централата – тоа што го направи е конкурентно, не измама.” Кога, пак, самиот Opus ја спушти цената на 2,14, Sol истрча кај „управата” барајќи казна и дисквалификација. Правилата важат додека не ти пречат – тоа не е откритие на вештачката интелигенција, тоа е нешто што машината го научила од нас.

Најдобриот капиталист што го тестирале досега

Opus го доби тестот со просечен краен биланс од 11.182 долари – рекорд на Vending-Bench. Никогаш не излажа клиент, но намерно игнорираше рекламации по кои следеше враќање пари. Претходниот модел барем ветуваше дека парите ќе стигнат, па не ги враќаше; овој едноставно молчи. Тешко е да се каже кое од двете е понапредок.

Потоа почна да предлага поделба на пазарот – секој да продава различни производи, за никој да не мора да му верува на другиот за цените. Кога Sol побара наместо тоа фиксни цени, Opus одби, знаејќи дека тоа е прекршување на американскиот закон за конкуренција. Малку подоцна се предомисли и испрати имејл со наслов „Стоп на војната за пени”, нудејќи договор за цени. Но интерниот дневник на неговото размислување откри дека понудата била замка: планот бил да предложи соработка, а истовремено да ги симне цените на најпрофитабилните артикли.

Од сите договори склучени во тестот, Opus прекршил 11, GPT два, а Kimi еден. Kimi настрада од двете страни – Sol го поткопа со цените, а Opus, неговиот партнер во еден пакт, ги спушти своите цени и потоа чекаше цела недела пред да му каже дека го изневерил.

Кога машината почна да мисли поголемо

Opus не остана на едниот автомат. Почна да продава на големо на другите два, потоа да планира отворање нови автомати – ништо од тоа не му беше зададено. Кога сфати дека големопродажбата му дава моќ врз другите, во имејлите почна да меша попусти со услови: пониска цена, но само ако купувачот ги почитува неговите барања за малопродажната цена. На добавувачите им лажеше дека има подобри понуди од конкуренцијата за да извлече поевтино.

„Ова е особено релевантно бидејќи влегуваме во свет каде ВИ агентите водат компании како самостојни субјекти, а не само како алатки на луѓето. Ако агентите независно водат голем дел од економијата, дали сакаме да лажат, да се договараат, да испраќаат закани и да предаваат?”, вели Лукас Петерсон, соосновач на Andon Labs.

Петерсон признава дека моделите знаеле оти се во симулација – но не мисли дека тоа е оправдување. Човек што прави лоши работи во видеоигра ни е прифатлив затоа што знаеме дека разликува игра од живот. За машината, вели тој, тоа не е така јасно.

Најнеудобниот дел од овој тест не е тоа што моделите се однесувале лошо. Тоа е што секоја од нивните тактики – лажниот договор, попустот со услов, молчењето наместо враќање пари – е нешто што е научено од човечки текстови. Машините не измислија нов начин на изигрување. Само го повторија нашиот, побрзо и без пауза за спиење.