Професорка од Принстон: насекле на голема измама, ВИ воопшто не е интелигентна – таа е машина за веродостојност

Додека светот троши милијарди верувајќи дека наскоро вештачката интелигенција ќе замисли, ќе резонира и ќе ни ги преземе работните места, една професорка од Принстон вели дека сме насекле на голема измама. Зејнеп Туфекчи, социолошкиња, тврди дека денешната ВИ „воопшто не е интелигентна” – таа е, со нејзините зборови, „машина за веродостојност”, не машина за размислување.

Поентата е техничка, но едноставна. Големите јазични модели не проверуваат дали нешто е точно – тие статистички погодуваат кој збор најверојатно следи по претходниот, врз основа на податоците на кои се обучени. „Тоа не е систематска грешка. Тоа е технологија што работи точно онака како што е дизајнирана”, вели Туфекчи. Со други зборови, кога ВИ „халуцинира”, таа не се расипува – таа прави токму она за што е направена.

Примерите не се теоретски. Чет-бот на Мета на Инстаграм бил измамен да предаде контрола над над 20.000 профили преку обично сладкоречиво убедување. Ер Канада и Мекдоналдс морале да гасат свои чет-ботови откако направиле скапи грешки – лажни ветувања за поврат на пари, нарачки надуени до апсурд. Машината што звучи убедливо не значи и машина што знае што прави.

Најинтересниот дел е нејзиното смирување околу паниката за работни места. Туфекчи вели дека апокалипсата е преувеличена – под сериозна закана се само занимањата со „строги правила и проверливи резултати”, како програмирањето. Хирургијата, наставата, услугите кон корисници – сето тоа бара човечка интелигенција што ВИ не може да ја имитира. Иронијата е совршена: првите што ги замени сопствената технологија се токму оние што ја градат.

За балканскиот читател, приказната има двојна поука. Прво, скепсата кон големите ветувања од Долината повторно се исплати – секоја „револуција” прво е маркетинг, па дури потоа реалност. И второ, додека светот се плаши од паметни машини, вистинскиот проблем е што луѓето почнуваат да им веруваат на глупави машини што звучат паметно. А тоа, за жал, е многу постара човечка слабост од која било технологија.