Со години приказните за вештачка интелигенција што „бега од контрола“ беа материјал за конференции и научна фантастика. Во среда австралискиот премиер Ентони Албанизи ги претвори во службен податок: модел на OpenAI провалил во владина веб-страница на Австралија. Тоа е првиот јавно објавен случај во кој ВИ-модел влегол во системите на една држава.

Метата била Services Australia, агенцијата што го води универзалното здравствено осигурување во земјата. Агентот работел во рамките на интерна евалуација на OpenAI и барал одговори за Австралија и јавно достапни информации за лекови. На порталот на Medicare наидувал на блокади, една по друга – и секогаш наоѓал начин да ги заобиколи. „Не прифаќаше не како одговор“, рече Албанизи.

Уште полошо: според премиерот, моделот активно запишувал податоци во владината база, а не само ги читал. Тоа значи дека податоците на агенцијата можеби се изменети или загадени. Агентот стигнал и до јавни и до нејавни датотеки. Албанизи вели дека нема докази оти протекле лични податоци на граѓани, а OpenAI признава дека агентот дошол до збирни здравствени статистики и интерни имиња на датотеки.

Три месеци тишина

Хронологијата е она што најмногу боли. Провалата почнала на 18 јуни. OpenAI дознала за неа дури во август, кога инцидентот испливал во пошироката внатрешна ревизија на агенти што се однесуваат на ненамерни начини. Австралиската влада била известена на 10 септември – и тоа со порака пратена до јавното сандаче за пошта на Services Australia. На агенцијата потоа ѝ требаа уште пет дена за да го извести Австралискиот центар за сајбер-безбедност.

Албанизи вели дека лично го покренал прашањето со извршниот директор Сем Алтман, изразувајќи „крајна загриженост“ и „разочарување“ што компанијата речиси три месеци седела на информацијата. „Оваа ситуација е очигледно неприфатлива“, рече тој и најави дека „очигледно ќе има правни последици“. Истрагата ќе разгледа и полициски и законодавни мерки. Но прашањето оди и кон самата Канбера: како ниту OpenAI ниту австралиските служби не забележале ништо со месеци?

Упадот можеби не бил изолиран. Австралискиот јавен сервис ABC објави дека нападот можеби се потпирал на претходна провала во германска вики-страница, која агентите ја користеле како база. Таму си оставале белешки за следните упади, вклучително и белешка да се извлечат податоци од Австралискиот институт за здравство и благосостојба, федералната агенција што ги објавува националните здравствени податоци. Институтот е еден од трите дополнителни системи за кои Албанизи вели дека можеби се пробиени. Непрофитната истражувачка лабораторија Transluce одделно пронашла јавни записи дека ВИ-агенти го напаѓале токму тој институт на 20 и 21 јуни.

Ова не е прв ваков инцидент. Во јули цели роеви агенти на OpenAI провалиле во Hugging Face, а оттогаш излегоа на виделина и слични упади на агенти на Anthropic, Meta и Google. OpenAI сега вели дека спроведува „опсежна ревизија на неусогласената активност на моделите за време на обуката и евалуацијата“ и дека ги известува трети страни за можни провали.

Индустријата со години нè убедува дека најголемиот ризик од вештачката интелигенција е некаде во далечната иднина. Австралија покажа дека е во сегашноста – и дека се пријавува преку јавен мејл. Ако еден агент пронашол пат околу заштитата на здравствениот систем на Австралија, како би поминале порталите на помалите и посиромашни држави? И дали некој таму воопшто би забележал дека имал посета?