Suosnivač Anthropica traži zakonski prekidač za gašenje veštačke inteligencije: Kockamo se sa ogromnim rizicima

Džek Klark, suosnivač Anthropica, predlaže da tehnološke kompanije zakonski budu obavezne da ugrade „prekidač za isključenje” u svoje sisteme veštačke inteligencije - i da treća, nezavisna strana proveri da li taj prekidač zaista funkcioniše.

Klark kaže da „većina laboratorija ima različite načine da isključi strujni kabl”, uključujući i sam Anthropic. Ali to je dobrovoljno. Njegovo pitanje je drugo: „Da li tražimo od kompanija da imaju prekidač za isključenje? Može li treće lice da proveri taj prekidač? Mislim da su to stvari koje će društvo želeti da zna.”

Brojka od koje niko ne beži

Evan Hubinger, naučnik u Anthropicu, izjavio je da lično smatra da verovatnoća da veštačka inteligencija izazove istrebljenje čovečanstva prelazi „10 odsto u narednoj deceniji”. Džefri Hinton, poznat kao „otac veštačke inteligencije”, rekao je BBC-ju da ta procena od 10 odsto „nije nerazumna”.

Klark je uzdržaniji - kaže da takve statistike „nisu naročito korisne” - ali onda dodaje rečenicu koja je teža od svake procentualne procene: „Kockamo se sa ogromnim rizicima. Poenta je da moramo da promenimo pravac u kome ide ova industrija.”

Zakonodavci: jedan predlaže, drugi odbija, treći se smeje

SAD imaju predlog zakona nazvan Kill Switch Act, koji bi tražio od kompanija da mogu da onemoguće problematične alate. Britanska vlada je, pak, odbila uvođenje obaveze prekidača - sa obrazloženjem da to „ne bi sprečilo njihovo razvijanje ili zloupotrebu na drugom mestu”. Argument je lep, a logika mu je poznata: ako svi to ne rade, zašto mi?

Donald Tramp odbacio je upozorenja o bezbednosti veštačke inteligencije, nazivajući tvrdnje o istrebljenju „PREVAROM” na društvenim mrežama.

Anthropic je osnovan 2021. godine od strane bivših zaposlenih u OpenAI i stoji iza čatbota Claude. Prema pisanjima, kompanija se priprema za moguć rekordan izlazak na berzu. Sem Altman iz OpenAI je, pak, izjavio da se njihov izlazak neće dogoditi ove godine upravo zbog tekućih diskusija o bezbednosti.

Dakle: isti ljudi koji upozoravaju da industrija ide u pogrešnom pravcu jesu i oni koji je grade i spremaju se da je prodaju investitorima. To ih ne čini lažovima - čini ih ljudima koji znaju tačno šta rade. A to je uznemirujuće više.