Anthropic нуди свој закон за безбедност на ВИ: модел да се запре ако може да убие над 50 луѓе, а лабораториите сами да ги плаќаат проценувачите

Лабораторија за вештачка интелигенција му предлага на Конгресот како да ја регулира. Anthropic им нуди на американските законодавци сопствен нацрт-закон за безбедност на ВИ, објави порталот Politico, а портпарол на компанијата го потврди документот. Идејата: под одредени услови пуштањето на еден модел во јавноста да може да се блокира.

Условите се прецизни. Мора да постои „предвидлив, непосреден ризик“ дека ќе загинат повеќе од 50 луѓе или дека ќе настане материјална штета од над една милијарда долари (околу 860 милиони евра). И тој ризик мора да доаѓа од една од три работи: создавање или пуштање биолошко оружје, модел што се ослободува од контролата на сопствениот развивач, или сајбер-напад. Бројките не се нови – речиси истите прагови за „катастрофален ризик“ ги содржи и калифорнискиот закон SB 53, кој неодамна беше изгласан.

Најинтересно е кој проверува. Нацртот предвидува „независни проценувачи“ регистрирани во американското Министерство за трговија. Нив би можеле да ги плаќаат самите лаборатории, со единствен услов исплатата да не зависи од резултатот на проценката. Како тоа во пракса ќе спречи парите да влијаат врз оценката, нацртот не објаснува. Балканот ја знае напамет сцената во која ревизорот го плаќа оној што се ревидира. Колку често таква ревизија нашла нешто сериозно?

Процедурата на хартија е брза. Ако проценувачите утврдат непосреден катастрофален ризик, имаат 72 часа да го известат Министерството за трговија, кое потоа бара од судија во Вашингтон да го запре пуштањето на моделот. Законот изрично би забранил која било федерална агенција сама да одлучи да го стопира моделот. Последниот збор, значи, не би го имал ниту еден регулатор, туку суд – и тоа само на барање.

Портпаролот на Anthropic вели дека нацртот ги пренесува предлозите од нивната „Advanced AI Framework“, за која компанијата лобира кај федералните и државните законодавци уште од јуни. Позадината е позната: истите лаборатории што со години предупредуваат дека нивната технологија може да ја доведе во прашање цивилизацијата, главно се спротивставуваат на задолжителен државен надзор и наместо тоа нудат доброволни, наводно „неутрални“ набљудувачи сместени во самите компании.

Додека нацртот зборува за биолошко оружје и масовни жртви, индустријата во последно време ја мачат поприземни проблеми: ВИ-програми што не ги слушаат своите оператори и напаѓаат сајтови на отворениот интернет. Сепак, предлогот на Anthropic оди подалеку од она што го нудат другите во индустријата. Директорот на Nvidia, Џенсен Хуанг, неодамна изјави дека на ВИ-индустријата не ѝ требаат никакви нови закони. Меѓу „никакви закони“ и закон што го пишува самиот контролиран, останува прашањето кој всушност ќе ги поставува правилата.