„Kum” veštačke inteligencije: „Černobilj” AI-ja može da dođe ove ili sledeće godine

Kad čovek koji je postavio temelje veštačke inteligencije kaže da bi možda bilo bolje da je nikad nismo stvorili, to nije obična kolumna za tehnofobe. Džefri Hinton, jedan od njenih „kumova” i dobitnik Nobelove nagrade za fiziku, upozorio je da čovečanstvo još ove ili sledeće godine može da doživi ozbiljnu krizu izazvanu veštačkom inteligencijom.

Hinton ne misli na robote iz naučne fantastike. Govori o nečemu mnogo prizemnijem: velikim nestancima struje ili bankarskom sistemu koji danima ne radi. U intervjuu za jedan britanski medij, 78-godišnji naučnik, čiji je rad na veštačkim neuronskim mrežama postavio osnove današnjih sistema, rekao je da će narednih desetak godina pokazati da li će čovečanstvo uspeti da obuzda rizike.

Černobilj bez radijacije

Nedavne bezbednosne incidente sa autonomnim sistemima veštačke inteligencije Hinton poredi sa nesrećom u američkoj nuklearnoj elektrani Ostrvo tri milje iz 1979. godine. Upozorenje, ali ne i katastrofa. Katastrofa, smatra on, tek dolazi - svojevrsni „Černobilj” veštačke inteligencije. Ne nuklearna nesreća, već sajber-napad koji može da preseče snabdevanje strujom ili privremeno paralizuje finansijski sistem.

Cinizam je u tome što bi, prema njemu, baš takva kriza mogla konačno da natera svetske lidere da se ozbiljno pozabave regulacijom. Dakle, prvo moraju da se ugase svetla da bi neko reagovao. Koliko smo puta do sada videli institucije koje se bude tek kad je šteta već napravljena?

Ko zna rizike, a ipak žuri

Hinton ne štedi ni šefove najvećih tehnoloških kompanija. Izrazio je duboko nepoverenje prema šefu OpenAI-ja Semu Altmanu, a njega, Marka Zakerberga i Ilona Maska optužio je da znaju rizike, ali da prednost daju zaradi i trci sa konkurencijom. To je njegova procena njihovih motiva, ne utvrđena činjenica - ali dolazi od čoveka koji ove sisteme poznaje iznutra.

Njegov predlog je jednostavan: najnapredniji sistemi da se obavezno testiraju pre nego što stignu do javnosti, po uzoru na američku Agenciju za hranu i lekove, koja traži dokaze o bezbednosti svakog leka pre nego što ga odobri. Proizvođači bi morali pred nezavisnim regulatorom da dokažu da je korist veća od štete. Time se direktno suprotstavlja pristupu Donalda Trampa, koji želi manje pravila kako bi američke kompanije mogle da se takmiče sa Kinom.

Hinton je napustio Google 2023. da bi mogao slobodnije da govori o opasnostima. Nadu ne gubi - smatra da ljudi još mogu da usmeravaju razvoj i spreče najgore posledice, ali da će za to biti potrebni mnogo veći napori vlada, naučnika i industrije. Pitanje je samo da li će ga iko poslušati pre ili posle prvog „Černobilja”.