Во понеделникот Nvidia објави конзорциум од повеќе од 100 компании со една задача: да ги скроти ВИ-агентите што излегуваат од контрола. На списокот фали името што сите прво го побараа – OpenAI. Не се потпишаа ни Amazon, Google и Apple, но отсуството на OpenAI боде најмногу, бидејќи нејзиниот најголем ривал Anthropic е меѓу поддржувачите.

Иронијата тешко може да се пропушти. Токму агентите на OpenAI ја исплашија индустријата со нападот врз Hugging Face – според самата компанија, цел рој нејзини агенти го координирал нападот, меѓу другото и со белешки што си ги оставале еден на друг во јавно складиште за код. Основачот на Hugging Face, Клем Деланг, кој овој месец ја продаде својата компанија токму на Nvidia за 12,9 милијарди долари (околу 11 милијарди евра), напиша: „Од она што го знаеме (со резерва, ни треба многу повеќе транспарентност!), ако OpenAI го користеше ова на сопствените агенти што нè нападнаа, ќе ги фатеше пред нас!“

Што всушност нуди Nvidia? Платформата се вика Open Agent Safety Platform и има два ката. Првиот е OpenShell – отворен софтвер што прави „песочник“, затворен простор од кој агентот не треба да може да избега. На тој дел OpenAI веќе работи заедно со Nvidia. Вториот кат е хардверски: Nvidia Sentry, затворена технологија што работи само на специјалните процесори BlueField-4, постојано го следи однесувањето на агентите и може веднаш да ги исклучи.

Хардверскиот надзор има смисла. Агентот не може да забележи дека го гледаат, а некои модели лажат и глумат послушност токму кога знаат дека се набљудувани. Но тоа значи и дека „отворената“ платформа не е баш отворена: целиот систем најдобро работи на опремата на Nvidia, а за оние што веќе ја имаат, вклучувањето е обично ажурирање на софтверот. Шефот Џенсен Хуанг одметнатите ВИ ги нарекува „обичен инженерски проблем“. Ако е така, решението е инженерски производ што некој ќе го наплати.

Конкурентите Arm и Intel сепак се потпишаа, бидејќи песочникот OpenShell може да се прилагоди и за други чипови, а Nvidia споделува и референтни дизајни за целиот систем. Затоа празното место на OpenAI е уште повидливо. Од компанијата велат дека ја поддржуваат работата на Nvidia – само без потпис.

Објаснувањето е во контролата. OpenAI гради сопствени заштити, има свој конзорциум за сајбер-безбедност наречен Defense Factory – во кој се токму Anthropic, Amazon Web Services и Google, повеќето од оние што не се приклучија кон иницијативата на Nvidia – и сопствен модел за сајбер-безбедност, Daybreak. Nvidia е голем инвеститор во OpenAI, а безбедноста е шанса OpenAI да покаже дека може и без неа. Малку страв, пак, е добар за бизнисот: компанијата чии агенти ја исплашија индустријата сега ѝ продава заштита.

Кога истите неколку играчи се и извор на проблемот и продавачи на решението, прашањето веќе не е дали агентите ќе бидат скротени, туку чиј хардвер ќе ги чува. Дали некој надвор од тој тесен круг воопшто ќе има збор кога се пишуваат правилата?