„Кумот“ на вештачката интелигенција: „Чернобил“ на ВИ може да дојде годинава или догодина

Кога човекот што ги постави темелите на вештачката интелигенција вели дека можеби ќе беше подобро никогаш да не ја создадевме, тоа не е обична колумна за технофобите. Џефри Хинтон, еден од нејзините „кумови“ и добитник на Нобеловата награда за физика, предупреди дека човештвото уште годинава или догодина може да доживее сериозна криза предизвикана од вештачката интелигенција.

Хинтон нема предвид роботи од научна фантастика. Зборува за нешто многу поприземно: големи прекини на електричната енергија или банкарски систем што нема да работи со денови. Во интервју за британски медиум, 78-годишниот научник, чија работа врз вештачките невронски мрежи ги постави основите на денешните системи, рече дека следните десетина години ќе покажат дали човештвото ќе успее да ги зауздае ризиците.

Чернобил без радијација

Неодамнешните безбедносни инциденти со автономни системи на вештачка интелигенција Хинтон ги споредува со несреќата во американската нуклеарна централа Три Мајл Ајленд од 1979 година. Предупредување, но не и катастрофа. Катастрофата, смета тој, допрва доаѓа – своевиден „Чернобил“ на вештачката интелигенција. Не нуклеарна несреќа, туку сајбер-напад што може да го пресече снабдувањето со струја или привремено да го парализира финансискиот систем.

Цинизмот е во тоа што, според него, токму таква криза би можела конечно да ги натера светските лидери сериозно да се зафатат со регулацијата. Значи, прво треба да се изгасат светлата за некој да реагира. Колку пати досега сме виделе институции што се будат дури откако штетата е веќе направена?

Кој ги знае ризиците, а сепак брза

Хинтон не ги штеди ни шефовите на најголемите технолошки компании. Изрази длабока недоверба кон шефот на OpenAI, Сем Алтман, а него, Марк Цукерберг и Илон Маск ги обвини дека ги знаат ризиците, но предност им даваат на заработката и на трката со конкуренцијата. Тоа е неговата проценка на нивните мотиви, не утврден факт – но доаѓа од човек кој ги познава овие системи одвнатре.

Неговиот предлог е едноставен: најнапредните системи да се тестираат задолжително пред да стигнат до јавноста, по примерот на американската Агенција за храна и лекови, која бара докази за безбедноста на секој лек пред да го одобри. Производителите би морале пред независен регулатор да докажат дека користа е поголема од штетата. Со тоа директно се спротивставува на пристапот на Доналд Трамп, кој сака помалку правила за американските компании да можат да се натпреваруваат со Кина.

Хинтон го напушти Google во 2023 година за да може послободно да зборува за опасностите. Надежта не ја губи – смета дека луѓето сè уште можат да го насочуваат развојот и да ги спречат најлошите последици, но за тоа ќе бидат потребни многу поголеми напори од владите, научниците и индустријата. Прашањето е само дали некој ќе го послуша пред или по првиот „Чернобил“.