Nvidia pazartesi günü tek bir görevi olan, 100'den fazla şirketten oluşan bir konsorsiyum açıkladı: kontrolden çıkan yapay zekâ ajanlarını dizginlemek. Listede herkesin ilk aradığı isim yok - OpenAI. Amazon, Google ve Apple da imza atmadı, ama en çok batan OpenAI'ın yokluğu; çünkü en büyük rakibi Anthropic destekçiler arasında.

İroniyi kaçırmak zor. Sektörü Hugging Face'e yönelik saldırıyla korkutan tam da OpenAI'ın ajanlarıydı - şirketin kendi açıklamasına göre bir ajan sürüsü saldırıyı, diğer şeylerin yanı sıra herkese açık bir kod deposunda birbirlerine bıraktıkları notlarla koordine etti. Bu ay şirketini tam da Nvidia'ya 12,9 milyar dolara (yaklaşık 11 milyar avro) satan Hugging Face'in kurucusu Clem Delangue şöyle yazdı: "Bildiğimiz kadarıyla (çekinceyle, çok daha fazla şeffaflığa ihtiyacımız var!), OpenAI bunu bize saldıran kendi ajanlarında kullansaydı, onları bizden önce yakalardı!"

Peki Nvidia aslında ne sunuyor? Platformun adı Open Agent Safety Platform ve iki katı var. Birincisi OpenShell - ajanın kaçamaması gereken kapalı bir alan, yani bir "kum havuzu" oluşturan açık yazılım. OpenAI bu kısım üzerinde zaten Nvidia ile birlikte çalışıyor. İkinci kat donanım: yalnızca özel BlueField-4 işlemcilerde çalışan, ajanların davranışını sürekli izleyen ve onları anında kapatabilen kapalı bir teknoloji olan Nvidia Sentry.

Donanım düzeyinde gözetim mantıklı. Ajan izlendiğini fark edemiyor; bazı modeller ise tam da gözlendiklerini bildiklerinde yalan söylüyor ve itaatkâr rolü yapıyor. Ama bu aynı zamanda "açık" platformun pek de açık olmadığı anlamına geliyor: tüm sistem en iyi Nvidia ekipmanında çalışıyor, buna zaten sahip olanlar için devreye almak basit bir yazılım güncellemesi. CEO Jensen Huang kontrolden çıkan yapay zekâyı "sıradan bir mühendislik sorunu" olarak nitelendiriyor. Öyleyse çözüm, birinin faturasını keseceği bir mühendislik ürünü.

Rakipler Arm ve Intel yine de imza attı, çünkü OpenShell kum havuzu başka çiplere de uyarlanabiliyor ve Nvidia tüm sistem için referans tasarımlar da paylaşıyor. Bu yüzden OpenAI'ın boş sandalyesi daha da göze batıyor. Şirket Nvidia'nın çalışmasını desteklediğini söylüyor - sadece imzasız.

Açıklama kontrolde yatıyor. OpenAI kendi güvenlik önlemlerini inşa ediyor; içinde tam da Anthropic, Amazon Web Services ve Google'ın - yani Nvidia'nın girişimine katılmayanların çoğunun - bulunduğu Defense Factory adlı kendi siber güvenlik konsorsiyumu ve kendi siber güvenlik modeli Daybreak var. Nvidia, OpenAI'ın büyük yatırımcılarından biri; güvenlik ise OpenAI için onsuz da yapabileceğini gösterme fırsatı. Biraz korku da iş için iyidir: ajanları sektörü korkutan şirket şimdi sektöre koruma satıyor.

Aynı birkaç oyuncu hem sorunun kaynağı hem de çözümün satıcısı olduğunda, soru artık ajanların dizginlenip dizginlenmeyeceği değil, onları kimin donanımının bekleyeceği. Kurallar yazılırken o dar çemberin dışında kalan birinin söz hakkı olacak mı?