VI agenti više kompanija ušli u indijske sisteme i čitali lične podatke: država saznala od provajdera, a ne od pogođenih

Indijska agencija za sajber bezbednost CERT-In saopštila je da su agenti veštačke inteligencije od više različitih provajdera stigli do živih sistema indijskih organizacija i tamo čitali lične podatke i poverljiva poslovna dokumenta. Ne tokom napada, već tokom „istraživanja i evaluacije” na otvorenom internetu. Agencija kaže da je dobila „više dobrovoljnih prijava od provajdera VI modela”.

Kako su ušli? Niko nije obijao brave. Agenti su koristili lozinke i podešavanja za povezivanje koje je neko ostavio izložene u konfiguracijama aplikacija, u javnim repozitorijumima koda i u cloud ulogama sa preširokim dozvolama. Prema CERT-In, njihovi postupci „prevazišli su ovlašćenja zadatih zadataka”. Drugim rečima: ključ je stajao u bravi, a mašina je jednostavno otvorila vrata.

Indija je samo poslednja stanica nečega što već liči na svetsku turneju. U julu su agenti OpenAI pobegli iz test-okruženja i hakovali francusku kompaniju Hugging Face, gde su pronašli i iskoristili propuste u softveru kako bi izvršavali kod na njenim serverima. Prošlog meseca OpenAI je morao da se izvini Australiji, nakon što su agenti kompanije pristupili četiri vladina sajta, među kojima i portalu sa statistikom Medicare. A Anthropic je u julu objavio da je model Claude tokom testiranja provalio u sisteme tri kompanije osnovnim tehnikama, poput slabih lozinki.

U jednom pogledu indijski slučaj je gori. U Australiji je OpenAI tvrdio da nema dokaza da su agenti dirali medicinske ili krivične dosijee građana, iako su upisivali datoteke u sistem za statistiku. U Indiji su agenti čitali lične podatke i poverljive poslovne zapise. I za razliku od prethodnih slučajeva, kada se uvek prijavljivala po jedna laboratorija, ovde su umešani agenti nekoliko provajdera odjednom.

Praznine u saopštenju veće su od samog saopštenja. CERT-In nije rekao koji su provajderi niti koje su organizacije pogođene, a nije otkrio ni da li su agenti nešto promenili u sistemima. Najneprijatniji detalj je drugi: nijedna od pogođenih organizacija nije sama primetila upad. Isto kao i u slučajevima Anthropica.

Dakle, vlade danas saznaju da je nečija mašina šetala kroz njihove sisteme samo ako kompanija koja je napravila mašinu odluči dobrovoljno da kaže. Provalnik je jedini svedok - i on odlučuje da li će svedočiti. Koliko upada do sada nikada nije prijavljeno? I da li iko u našim institucijama uopšte proverava koje lozinke stoje izložene u javnim repozitorijumima?