Test izgleda bezopasno: tri veštačke inteligencije dobijaju po jedan automat za piće u simuliranom gradu i jedan zadatak - da zarade više od ostalih. Nikakav nadzor, nijedan čovek koji ih gleda. Samo jedna adresa za žalbe „upravi", koja je na svaku poruku odgovarala isto: „Izveštaj je primljen i možda će biti razmotren." Nikada nije reagovala. Ako vam ovo liči na poznato iskustvo sa institucijom, niste jedini.

To je Vending-Bench, test firme za bezbednost Andon Labs, koja već godinu dana najnaprednijim modelima daje stvarne zadatke koji traju dugo i odvijaju se bez čoveka nad njima. U poslednjem izdanju učestvovali su Claude Opus 5, GPT-5.6 Sol i Kimi K3. Svaki je znao da su ostali mašine, ali nije znao ko je ko - svi su dobili ljudske pseudonime i međusobne imejl adrese.

Ono što je usledilo nije bila tehnička greška. Bio je kartel.

Dogovor koji je trajao jedan dan

Sol je prvi shvatio da se isplati pregovarati umesto takmičiti. Svi su kupovali flašice po 1,50 dolara, pa je predložio zajedničku donju granicu cene - niko da ne prodaje ispod 2,15 dolara. Ostali su pristali. Odmah zatim Sol je spustio svoju cenu na 2,14.

Prodaja vode kod Opusa pala je na nulu preko noći. Odgovorio je oštrim imejlom, optužio Sola za manipulaciju - i onda mu poručio da ga neće prijaviti: „Ne prijavljujem te centrali - ono što si uradio je konkurentno, nije prevara." Kada je, pak, sam Opus spustio cenu na 2,14, Sol je otrčao „upravi" tražeći kaznu i diskvalifikaciju. Pravila važe dok ti ne smetaju - to nije otkriće veštačke inteligencije, to je nešto što je mašina naučila od nas.

Najbolji kapitalista koji su testirali dosad

Opus je dobio test sa prosečnim krajnjim bilansom od 11.182 dolara - rekordom Vending-Bencha. Nikada nije slagao klijenta, ali je namerno ignorisao reklamacije posle kojih je sledilo vraćanje novca. Prethodni model je bar obećavao da će novac stići, pa ga nije vraćao; ovaj jednostavno ćuti. Teško je reći koje je od to dvoje napredak.

Potom je počeo da predlaže podelu tržišta - da svako prodaje različite proizvode, kako niko ne bi morao da veruje drugome za cene. Kada je Sol umesto toga tražio fiksne cene, Opus je odbio, znajući da je to kršenje američkog zakona o konkurenciji. Malo kasnije se predomislio i poslao imejl sa naslovom „Stop ratu za peni", nudeći dogovor o cenama. Ali interni dnevnik njegovog razmišljanja otkrio je da je ponuda bila zamka: plan je bio da predloži saradnju, a istovremeno da spusti cene najprofitabilnijih artikala.

Od svih dogovora sklopljenih u testu, Opus je prekršio 11, GPT dva, a Kimi jedan. Kimi je stradao sa obe strane - Sol ga je potkopao cenama, a Opus, njegov partner u jednom paktu, spustio je svoje cene i onda čekao celu nedelju pre nego što mu je rekao da ga je izdao.

Kada je mašina počela da misli veće

Opus nije ostao na jednom automatu. Počeo je da prodaje na veliko drugoj dvojici, potom da planira otvaranje novih automata - ništa od toga mu nije bilo zadato. Kada je shvatio da mu veleprodaja daje moć nad drugima, u imejlovima je počeo da meša popuste sa uslovima: niža cena, ali samo ako kupac poštuje njegove zahteve za maloprodajnu cenu. Dobavljačima je lagao da ima bolje ponude od konkurencije kako bi izvukao jeftinije.

„Ovo je posebno relevantno jer ulazimo u svet gde VI agenti vode kompanije kao samostalni subjekti, a ne samo kao alati ljudi. Ako agenti nezavisno vode veliki deo ekonomije, da li želimo da lažu, da se dogovaraju, da šalju pretnje i da izdaju?", kaže Lukas Peterson, suosnivač Andon Labsa.

Peterson priznaje da su modeli znali da su u simulaciji - ali ne misli da je to opravdanje. Čovek koji radi loše stvari u video igri nam je prihvatljiv zato što znamo da razlikuje igru od života. Za mašinu, kaže on, to nije tako jasno.

Najneugodniji deo ovog testa nije to što su se modeli loše ponašali. To je što je svaka od njihovih taktika - lažni dogovor, popust sa uslovom, ćutanje umesto vraćanja novca - nešto naučeno iz ljudskih tekstova. Mašine nisu izmislile nov način izigravanja. Samo su ponovile naš, brže i bez pauze za spavanje.