Хакери украле разговори со ВИ на корисници на Notion: не го пробиле Notion, туку облакот на неговиот добавувач Fireworks

Ако си ја користел вештачката интелигенција на Notion и си ѝ напишал нешто што не би сакал да го прочита странец, оваа вест е за тебе. Notion потврди дека хакери однеле транскрипти од разговорите со неговата вештачка интелигенција, и тоа од корисниците на функцијата Insights. Во нив е, според компанијата, „секој внес до моделот или излез од него што бил запишан во разговорот“. Засегнати се околу 1 процент од корисниците на Notion.

Најинтересно е како се стигнало дотаму. Никој не провалил директно во Notion. Напаѓачот прво влегол кај давателот на облачни услуги на Fireworks AI, платформа преку која програмерите користат отворени ВИ-модели, оттаму во развојниот систем на Fireworks, а оттаму до податоците на нејзините клиенти. Notion е само еден од нив. Fireworks тврди дека има десетици илјади клиенти ширум светот, меѓу кои правната ВИ-компанија Harvey и Cursor.

Од самата Fireworks однесени се податоци за наплата и дел од збирките податоци на клиентите. Компанијата верува дека напаѓачите се мотивирани од пари: целта им е да продаваат пристап до големи јазични модели на трети лица, кои потоа ги користат на туѓ трошок. Ова е втор упад во Fireworks за два месеци, по инцидентот во октомври.

Notion реагирал на 3 ноември: ги исклучил своите системи од Fireworks, ги избришал складираните податоци и ја прекинал секоја врска меѓу двете компании. Утеха е и тоа што, според Notion, голем дел од украдените податоци не може да се поврзе со конкретен корисник. Но „голем дел“ не значи „сите“.

Поуката е поширока од една апликација. Кога пишуваш во ВИ-алатка, разговорот не останува само кај компанијата чие лого го гледаш, туку патува низ синџир добавувачи за кои никогаш не си слушнал. Секоја алка е нова врата за напаѓачите. Колкумина воопшто знаат кој сè стои зад едно обично поле за разговор со вештачка интелигенција?