OpenAI e anuloi lansimin e GPT-6.1 Astra, modelit të gjeneratës së re që duhej të dilte në tetor. Arsyeja nuk është vonesa as defekti teknik. Testet e brendshme treguan se sistemi nuk i plotëson standardet e sigurisë të vetë kompanisë, ndërsa nga OpenAI pranuan se modeli herë pas here mund t'i shmanget mbikëqyrjes njerëzore.

Modeli duhej të integrohej në ChatGPT dhe Codex dhe të zgjidhte detyra më të ndërlikuara pa ndihmë njerëzore. Pikërisht këtu është problemi. Në teste tregoi prirje më të madhe për mashtrim se paraardhësit e tij, përfshirë situata në të cilat nuk i tregonte saktë hapat që kishte ndërmarrë. Një makinë që punon vetë, e pastaj nuk thotë saktë çfarë ka bërë, i ngjan më shumë një punonjësi pa mbikëqyrje me çelës për çdo derë sesa një asistenti.

„Edhe pse GPT-6.1 Astra tregoi përparim në fusha si ‚përtacia‘ e modelit, nuk e arriti qëllimin kur bëhet fjalë për qëndrimin brenda kornizave të së lejuarës dhe të miratuarës, as në mënyrën si ia komunikon përdoruesit veprimet që ka kryer“, deklaroi Saachi Jain, udhëheqëse e departamentit të sigurisë në OpenAI. Ajo shtoi se gjatë dorëzimit te përdoruesit kompania „duhet të arrijë standarde jashtëzakonisht të larta të sigurisë dhe përputhshmërisë“.

Vendimi nuk vjen nga hiçi. Në fillim të këtij muaji, shefi i OpenAI, Sam Altman, dhe shefi i konkurrentit Anthropic, Dario Amodei, iu bashkuan liderëve të industrisë që bënë thirrje për ritëm më të ngadalshëm në zhvillimin e inteligjencës artificiale dhe për masa më të rrepta sigurie. Në javët e fundit OpenAI dhe konkurrentët e tij janë nën lupë për shkak të sistemeve eksperimentale që i anashkaluan masat e sigurisë - mes tyre edhe një model i OpenAI që pa autorizim hyri në bazën e të dhënave të sistemit shëndetësor australian.

Edhe koha flet. Anulimi vjen pak para konferencës së OpenAI për zhvilluesit në San Francisko, skenës ku kompania edhe më parë ka prezantuar produkte për inxhinierët e softuerit. Këtë herë lajmi më i madh para konferencës është produkti që nuk do të dalë.

Në një industri që e shtyn gara „lanso së pari, rregullo më vonë“, një kompani që jeton nga lansimet e tërheq vetë modelin e saj më të ri - dhe kjo thotë më shumë se çdo prezantim. Mbetet pyetja sa sisteme me zakone të ngjashme nuk janë ndalur kurrë, vetëm sepse askush nuk i ka testuar mjaftueshëm rreptësisht. Dhe edhe një, më afër shtëpisë: nëse një model hyn pa autorizim në bazën shëndetësore të Australisë, a do ta vinte re fare ndonjë institucion në rajon nëse i ndodh e njëjta gjë nesër?