Мурати пушти отворен ВИ модел за девет месеци: моделот не е најдобар, и тоа е целата поента

Компанијата на Мира Мурати, поранешната технолошка директорка на OpenAI, конечно покажа што градела година и половина зад затворени врати. Моделот се вика Inkling и доаѓа со една клучна разлика во однос на она што го продаваат OpenAI, Anthropic и Google: тежините му се отворени. Секој развивач или фирма може да го преземе и да го преработи по своја мерка.

Бројките се импресивни на хартија. 975 милијарди параметри вкупно, но моделот користи само околу 41 милијарда за секоја задача – трик што ги прави големите модели побрзи и поевтини за работа. Обучен е на 45 трилиони единици текст, слика, звук и видео. Засега, сепак, знае само да пишува – текст, код и структурирани податоци. Она што фирмата го ветува е дека кога ќе биде прашан нешто за што не е сигурен, ќе признае несигурност наместо да измислува одговор. Колку модели денес го прават тоа?

И тука доаѓа најинтересниот дел. Самата компанија отворено признава дека Inkling не е најсилниот модел на пазарот, ниту меѓу отворените, ниту меѓу затворените. Тоа не е скромност – тоа е целата поента. Кладењето на Мурати е дека модел кој фирмите можат сами да го дотеруваат ќе ги надмине универзалните модели што ги нудат најголемите лаборатории. Наместо готов производ, ти продаваат почетна точка.

Звучи паметно додека не си го поставиш очигледното прашање: за кого е ова навистина? Дотерувањето на модел бара сериозна инженерска екипа што малку фирми ја имаат. А одговорноста моделот да остане безбеден паѓа врз клиентот, не врз компанијата што го направила. Со други зборови – ти го даваме моторот, ти види како ќе го возиш.

Аргументот против затворените модели, сепак, добива поддршка од неочекувани места. Сатја Надела, шефот на Microsoft – фирма што вложи милијарди и во OpenAI и во Anthropic – неодамна предупреди дека компаниите кои користат туѓи затворени модели плаќаат двапати: еднаш за претплатата, и втор пат со тоа што им го предаваат сопственото знаење вградено во нивните прашања и корекции. Тоа знаење потоа завршува во следната верзија на моделот. Не е мала работа кога токму инвеститорот го кажува ова.

Компанијата највеќе се фали со брзината. На OpenAI ѝ требаа околу пет години да го изнесе производот на пазар и да покаже приход, на Anthropic околу три. Мурати тврди дека нејзината екипа го направила истото за девет месеци. Дали е тоа знак на ефикасност или на форсирано темпо што покрива подлабоки прашања – ќе видиме кога ќе стигне сметката.

Бидејќи сметката е вистинскиот проблем. Компанијата склучи договор со Nvidia за огромни пресметковни капацитети, но не кажува како ќе ги покрие тие трошоци. Дури и повеќе: штом тежините се јавни, никој што ќе го преземе моделот не е обврзан да ѝ плати на фирмата за да го работи – за разлика од мерениот пристап што го продаваат OpenAI и Anthropic. Приходот, значи, мора да дојде од платформата за дотерување, не од самиот модел. А тоа е тенка нишка на која виси фирма со проценета вредност во милијарди.