Murati pustila otvoreni AI model za devet meseci: model nije najbolji, i to je cela poenta

Kompanija Mire Murati, bivše tehnološke direktorke OpenAI-a, konačno je pokazala šta je gradila godinu i po iza zatvorenih vrata. Model se zove Inkling i dolazi s jednom ključnom razlikom u odnosu na ono što prodaju OpenAI, Anthropic i Google: težine su mu otvorene. Svaki developer ili firma može da ga preuzme i preradi po svojoj meri.

Brojke su impresivne na papiru. 975 milijardi parametara ukupno, ali model koristi samo oko 41 milijardu za svaki zadatak - trik koji velike modele čini bržim i jeftinijim za rad. Obučen je na 45 triliona jedinica teksta, slike, zvuka i videa. Zasad, ipak, zna samo da piše - tekst, kod i strukturirane podatke. Ono što firma obećava jeste da će, kad bude upitan nešto za šta nije siguran, priznati nesigurnost umesto da izmisli odgovor. Koliko modela danas to radi?

I tu dolazi najzanimljiviji deo. Sama kompanija otvoreno priznaje da Inkling nije najsnažniji model na tržištu, ni među otvorenima, ni među zatvorenima. To nije skromnost - to je cela poenta. Kladenje Murati je da će model koji firme mogu same da dorađuju nadmašiti univerzalne modele koje nude najveće laboratorije. Umesto gotovog proizvoda, prodaju ti početnu tačku.

Zvuči pametno dok sebi ne postaviš očigledno pitanje: za koga je ovo zaista? Doterivanje modela traži ozbiljan inženjerski tim koji malo firmi ima. A odgovornost da model ostane bezbedan pada na klijenta, ne na kompaniju koja ga je napravila. Drugim rečima - mi ti dajemo motor, ti vidi kako ćeš ga voziti.

Argument protiv zatvorenih modela, ipak, dobija podršku sa neočekivanih mesta. Satja Nadela, šef Microsofta - firme koja je uložila milijarde i u OpenAI i u Anthropic - nedavno je upozorio da kompanije koje koriste tuđe zatvorene modele plaćaju dvaput: jednom za pretplatu, i drugi put time što im predaju sopstveno znanje ugrađeno u njihova pitanja i korekcije. To znanje zatim završava u sledećoj verziji modela. Nije mala stvar kad baš investitor kaže ovo.

Kompanija se najviše hvali brzinom. OpenAI-u je trebalo oko pet godina da izbaci proizvod na tržište i pokaže prihod, Anthropicu oko tri. Murati tvrdi da je njen tim isto uradio za devet meseci. Da li je to znak efikasnosti ili forsiranog tempa koji prikriva dublja pitanja - videćemo kad stigne račun.

Jer račun je pravi problem. Kompanija je sklopila dogovor s Nvidijom za ogromne računarske kapacitete, ali ne kaže kako će te troškove pokriti. Štaviše: čim su težine javne, niko ko preuzme model nije obavezan da firmi plati da bi ga koristio - za razliku od merenog pristupa koji prodaju OpenAI i Anthropic. Prihod, dakle, mora da dođe od platforme za doterivanje, ne od samog modela. A to je tanka nit na kojoj visi firma s procenjenom vrednošću u milijardama.