Një çat-bot shpiku një raport zbulimi, e pastaj avionët amerikanë gati sa nuk e goditën anijen kineze

Avionët ushtarakë ishin tashmë në ajër kur zyrtarët amerikanë kuptuan çfarë mbanin në duar. Raporti i zbulimit që po e shtynte operacionin e armatosur kundër një anijeje kineze nuk ishte gabim i analistit, as burim i keq. Ishte halucinacion i një çat-boti. Operacioni u ndërpre në çastin e fundit, e bashkë me të edhe një përplasje e mundshme me Kinën.

Detajet janë më interesante se përfundimi. Raporti pretendonte se anija bartte komponentë për një program të armëve bërthamore dhe qarkullonte ndërsa zgjaste lufta me Iranin. Origjina e tij është te një analist i Komandës për Operacione Speciale, i cili i kërkoi një çat-boti të bashkonte të dhëna publikisht të qasshme me informacione sekrete sinjalistike. Mjeti e ngatërroi manifestin e ngarkesës së anijes. Pastaj i njëjti analist e përdori për herë të dytë - këtë radhë për t'i dhënë gabimit një pamje të rregullt e zyrtare. E paketuar kështu, gënjeshtra nisi nëpër kanalet komanduese.

Hapi i dytë është ai që duhet lexuar dy herë. Problemi nuk është vetëm se makina shpiku. Problemi është se e njëjta makinë pastaj e veshi shpikjen me një format që nëpër hierarki udhëton pa rezistencë. Një dokument që duket si dokument i vërtetë askush nuk e ndal në mes të rreshtit.

Ushtria amerikane vrapon ta integrojë këtë teknologji për të vendosur më shpejt dhe për ta ruajtur epërsinë ndaj Kinës. Pentagoni thotë hapur se fitimi është në përshpejtimin e zinxhirit të vendimmarrjes, që komandantët të reagojnë në kohë. E njëjta shpejtësi që e bën mjetin tërheqës është edhe ajo që lejon halucinacionin të kalojë pa kontroll të mjaftueshëm njerëzor. Çmimi i epërsisë dhe çmimi i gabimit paguhen nga e njëjta arkë.

„Është e rëndësishme që pjesëtarët ta kuptojnë pasigurinë që është e ngulitur në këto modele“, deklaroi Xhejk Stekler, hulumtues në GovAI dhe ish-oficer i ushtrisë amerikane. „Por është veçanërisht kritike për çdo vendim që mund të çojë në përdorim force - shënjestrim, analizë zbulimi, planifikim operativ. Ato vendime kanë pasoja jete a vdekjeje.“

Stekleri nuk kërkon që mjeti të hidhet. Thotë se incidenti duhet të nënkuptojë më shumë mekanizma mbrojtës, jo tërheqje. „Këto mjete mund të jenë të dobishme në kontekstin e duhur dhe me mbrojtjet e duhura. Por vënia e shpejtësisë së adoptimit para çdo gjëje tjetër ka gjasa të sjellë incidente që pjesëtarëve vetëm do t'ua marrin besimin te këto sisteme - çka në fund vetëm do ta ngadalësojë adoptimin.“

Vini re çfarë mungon në gjithë këtë histori: një mekanizëm që e kapi problemin. Raporti nuk u ndal nga një kontroll, por nga një zbulim në çastin e fundit, me avionë tashmë në fluturim. Ky nuk është sistem që punon - është sistem që këtë radhë pati fat.