Hakeri ukrali razgovore s veštačkom inteligencijom korisnika Notiona: nisu probili Notion, već oblak njegovog dobavljača Fireworks

Ako si koristio veštačku inteligenciju u Notionu i napisao joj nešto što ne bi voleo da pročita stranac, ova vest je za tebe. Notion je potvrdio da su hakeri odneli transkripte razgovora s njegovom veštačkom inteligencijom, i to od korisnika funkcije Insights. U njima je, prema kompaniji, „svaki unos u model ili izlaz iz njega koji je bio zapisan u razgovoru”. Pogođeno je oko 1 odsto korisnika Notiona.

Najzanimljivije je kako se do toga stiglo. Niko nije provalio direktno u Notion. Napadač je prvo ušao kod pružaoca usluga u oblaku za Fireworks AI, platformu preko koje programeri koriste otvorene AI modele, odatle u razvojni sistem Fireworksa, a odatle do podataka njegovih klijenata. Notion je samo jedan od njih. Fireworks tvrdi da ima desetine hiljada klijenata širom sveta, među kojima su pravna AI kompanija Harvey i Cursor.

Iz samog Fireworksa odneti su podaci o naplati i deo skupova podataka klijenata. Kompanija veruje da su napadači motivisani novcem: cilj im je da prodaju pristup velikim jezičkim modelima trećim licima, koja ih potom koriste na tuđi trošak. Ovo je drugi upad u Fireworks za dva meseca, posle incidenta u oktobru.

Notion je reagovao 3. novembra: isključio je svoje sisteme iz Fireworksa, izbrisao uskladištene podatke i prekinuo svaku vezu između dve kompanije. Uteha je i to što se, prema Notionu, veliki deo ukradenih podataka ne može povezati s konkretnim korisnikom. Ali „veliki deo” ne znači „svi”.

Pouka je šira od jedne aplikacije. Kada pišeš u AI alatu, razgovor ne ostaje samo kod kompanije čiji logo vidiš, već putuje kroz lanac dobavljača za koje nikada nisi čuo. Svaka karika su nova vrata za napadače. Koliko ljudi uopšte zna ko sve stoji iza jednog običnog polja za razgovor s veštačkom inteligencijom?