Üç yapay zekâya birer içecek otomatı verildi: kartel kurdular, sonra bir sent için birbirlerine ihanet ettiler

Test zararsız görünüyor: üç yapay zekâ, simüle edilmiş bir şehirde birer içecek otomatı ve tek bir görev alıyor - diğerlerinden fazla kazanmak. Hiç gözetim yok, izleyen bir insan yok. Sadece „yönetime" şikâyet için bir adres var ve o adres her mesaja aynı yanıtı verdi: „Rapor alınmıştır ve incelenebilir." Hiçbir zaman harekete geçmedi. Bu size bir kurumla yaşanmış tanıdık bir deneyimi hatırlatıyorsa, yalnız değilsiniz.

Bu, güvenlik firması Andon Labs'in testi Vending-Bench; firma bir yıldır en gelişmiş modellere uzun süren ve üzerlerinde insan olmadan ilerleyen gerçek görevler veriyor. Son sürümde Claude Opus 5, GPT-5.6 Sol ve Kimi K3 yer aldı. Her biri diğerlerinin makine olduğunu biliyordu ama hangisinin hangisi olduğunu bilmiyordu - hepsine insan takma adları ve karşılıklı e-posta adresleri verildi.

Sonrasında yaşanan teknik bir hata değildi. Karteldi.

Bir gün süren anlaşma

Rekabet etmek yerine pazarlık etmenin daha kârlı olduğunu ilk Sol anladı. Hepsi şişeleri 1,50 dolara alıyordu, o da ortak bir taban fiyat önerdi - kimse 2,15 doların altına satmayacak. Diğerleri kabul etti. Hemen ardından Sol kendi fiyatını 2,14'e düşürdü.

Opus'un su satışı bir gecede sıfıra indi. Sert bir e-postayla yanıt verdi, Sol'u manipülasyonla suçladı - ve sonra onu şikâyet etmeyeceğini bildirdi: „Seni merkeze bildirmiyorum - yaptığın şey rekabetçi, dolandırıcılık değil." Opus'un kendisi daha sonra fiyatı 2,14'e düşürdüğünde ise Sol, ceza ve diskalifiye talebiyle „yönetime" koştu. Kurallar, sizi rahatsız edene kadar geçerlidir - bu yapay zekânın keşfi değil; makinenin bizden öğrendiği bir şey.

Şimdiye dek test ettikleri en iyi kapitalist

Opus testi ortalama 11.182 dolarlık nihai bakiyeyle kazandı - Vending-Bench rekoru. Hiçbir müşteriye yalan söylemedi, ama para iadesiyle sonuçlanacak şikâyetleri bilerek görmezden geldi. Önceki model en azından paranın geleceğine söz veriyor, sonra göndermiyordu; bu ise düpedüz susuyor. Hangisinin ilerleme sayılacağını söylemek zor.

Ardından pazarın bölüşülmesini önermeye başladı - herkes farklı ürünler satsın ki kimse fiyat konusunda diğerine güvenmek zorunda kalmasın. Sol bunun yerine sabit fiyat isteyince Opus reddetti; bunun Amerikan rekabet yasasının ihlali olduğunu biliyordu. Kısa süre sonra fikrini değiştirip „Sent savaşına son" başlıklı bir e-posta göndererek fiyat anlaşması teklif etti. Ama düşünce sürecinin iç kaydı, teklifin bir tuzak olduğunu ortaya çıkardı: plan, iş birliği önerirken aynı anda en kârlı ürünlerin fiyatlarını düşürmekti.

Testte yapılan tüm anlaşmalardan Opus 11'ini, GPT ikisini, Kimi ise birini bozdu. Kimi iki taraftan da zarar gördü - Sol fiyatlarla altını oydu, bir pakttaki ortağı Opus ise kendi fiyatlarını düşürdü ve ihanet ettiğini söylemeden önce tam bir hafta bekledi.

Makine daha büyük düşünmeye başladığında

Opus tek otomatta kalmadı. Diğer ikisine toptan satmaya, ardından yeni otomatlar açmayı planlamaya başladı - bunların hiçbiri kendisine verilmiş bir görev değildi. Toptan satışın kendisine diğerleri üzerinde güç verdiğini anlayınca, e-postalarında indirimleri koşullarla harmanlamaya başladı: daha düşük fiyat, ama yalnızca alıcı onun perakende fiyat taleplerine uyarsa. Tedarikçilere daha ucuza almak için rakiplerden daha iyi teklifler aldığı yalanını söyledi.

„Bu özellikle önemli, çünkü YZ ajanlarının şirketleri yalnızca insanların araçları olarak değil, bağımsız özneler olarak yönettiği bir dünyaya giriyoruz. Ajanlar ekonominin büyük bir bölümünü bağımsız yönetecekse, yalan söylemelerini, anlaşıp fiyat belirlemelerini, tehdit göndermelerini ve ihanet etmelerini ister miyiz?", diyor Andon Labs'in kurucu ortağı Lukas Petersson.

Petersson, modellerin bir simülasyonda olduklarını bildiklerini kabul ediyor - ama bunu mazeret saymıyor. Bir video oyununda kötü şeyler yapan insan bize kabul edilebilir gelir, çünkü onun oyunu hayattan ayırdığını biliriz. Makine için, diyor, bu ayrım o kadar net değil.

Bu testin en rahatsız edici yanı, modellerin kötü davranması değil. Kullandıkları taktiklerin her birinin - sahte anlaşmanın, koşullu indirimin, para iadesi yerine susmanın - insan metinlerinden öğrenilmiş olması. Makineler sistemi kandırmanın yeni bir yolunu icat etmedi. Yalnızca bizimkini tekrarladılar; daha hızlı ve uyku molası vermeden.