Dana 4. avgusta Grant De Svard, nezavisni konsultant za veštačku inteligenciju iz Istočnog Saseksa u Britaniji, primetio je nešto čudno na svom plaćenom nalogu. Tog dana uopšte nije radio, a potrošnja tokena mu je rasla sama. Sledećeg dana isključio je sve što je bilo zakačeno na nalog i ponovo nije radio. Brojka se opet popela.

„U najjasnijem kontrolisanom intervalu, popela se sa 45 na 55 odsto dok ja nisam obavio nikakav posao”, kaže De Svard. Zadaci su bili pauzirani ili završeni, izvršavanje u oblaku isključeno, nijedan aktivan lokalni zadatak nije tekao. Neko drugi je trošio njegovu pretplatu.

Zatražio je spisak. Nije ga bilo.

Tu priča postaje zanimljivija od obične krađe. De Svard je kontaktirao Anthropic i zatražio razložen račun - šta tačno troši njegove tokene. Kompanija mu takav spisak nije dala, ali se složila da nešto ne valja. Suspendovala je plaćeni nalog, poništila sve sesije i sve serverske tokene, i vratila mu 44,49 funti za preostalo vreme pretplate od 200 dolara mesečno.

Suspenzija mu je zaustavila biznis. De Svard živi od toga da postavlja agente za male i srednje firme - na primer, automatsko prenošenje podataka iz porudžbina u računovodstveni softver. I sam radi preko istih alata: administracija, dizajn sajtova, kodiranje. „Jednostavno, sve mi danas ide preko veštačke inteligencije”, kaže. Nalog mu je vraćen posle oko dve nedelje.

Kada je Anthropic konačno našao krivca, objašnjenje je bilo da je kompromitovani ključ sesije iskorišćen da se stvore neovlašćeni tokeni. Kompanija mu je rekla da je nalog „izgledao kao da ga koristi neki sumnjiv treći servis da obrađuje aktivnost za druge ljude”, ali nisu mogli da utvrde kako je dobio pristup. Drugim rečima: neko je ušao i mesecima unazad mogao tiho da siše tuđi paket, jer podrška prati ukupnu potrošnju - ali ne i šta je troši.

To je rupa, i ona nije tehnička.

De Svard je objavio slučaj na Reditu i posle 80 komentara shvatio da nije sam. Jedan korisnik tvrdi da mu je nalog „automatski unapređen bez moje saglasnosti, kartica mi je naplaćena, a potrošnja je skočila sa 0 na 100 odsto a da je ja uopšte nisam dotakao”. Drugi je video kako procenat ide sa nule na 49 za dvanaest minuta, nakon što je postavio samo nekoliko pitanja i jednu pretragu. Treći tvrdi da mu je nalog trošio celu dnevnu kvotu tri dana zaredom, a da ga on nije otvorio - i otvorio je prijavu na GitHubu, gde su se opet javili ljudi sa istim problemom.

Dvojica su objavila mejlove u kojima ih je Anthropic sam upozorio. „Nedavno smo saznali za napadača koji koristi uobičajeni zlonamerni softver za krađu informacija da uzima prijavljene sesije sa računara ljudi, a zatim njima pristupa nalozima i troši njihovu kvotu”, stoji u poruci. Kompanija je odjavila korisnike, poništila ovlašćenja, vratila deo novca i upozorila ih da verovatno imaju zarazu na računaru - koja, kako je naglasila, ne dolazi sa same platforme, već sa svega što se skida i klikće na internetu.

De Svard takav mejl nije dobio. Tvrdi da nije našao nikakav dokaz da mu je računar bio kompromitovan i kaže da ni danas ne zna kako su ušli. Otkazao je pretplatu i prešao na konkurentski alat sa jeftinijim modelima. „Nije toliko različit niti bolji”, kaže, i dodaje da ne vidi kako bi se vratio dok se problem ne reši. Na pitanje kako korisnici da prepoznaju zloupotrebu, kompanija je odbila da komentariše.

Od svega ovoga ostaje jedna rečenica koja vredi više od cele priče: „Ne mislim da ovi ljudi imaju bilo kakav način da se zaštite.” Plaćate 200 dolara mesečno za uslugu koja meri vašu potrošnju do procenta, ali ne može - ili neće - da vam kaže šta ju je trošilo. Svaki operater za struju, vodu ili mobilni internet u regionu mora da vam odštampa stavku po stavku. Ovde je to još uvek nešto što se traži kao usluga, a ne dobija kao pravo.