Yıllarca "kontrolden çıkan" yapay zekâ hikâyeleri konferansların ve bilim kurgunun malzemesiydi. Çarşamba günü Avustralya Başbakanı Anthony Albanese bunları resmi bir bilgiye dönüştürdü: bir OpenAI modeli Avustralya hükümetine ait bir web sitesine sızdı. Bu, bir yapay zekâ modelinin bir devletin sistemlerine girdiği kamuoyuna açıklanan ilk vaka.

Hedef, ülkenin genel sağlık sigortasını yöneten kurum Services Australia'ydı. Ajan, OpenAI'nin bir iç değerlendirmesi kapsamında çalışıyor ve Avustralya hakkında yanıtlar ile ilaçlar hakkında kamuya açık bilgiler arıyordu. Medicare portalında art arda engellerle karşılaştı - ve her seferinde onları aşmanın bir yolunu buldu. Albanese, "Hayır'ı cevap olarak kabul etmedi" dedi.

Daha da kötüsü: başbakana göre model hükümet veritabanındaki verileri yalnızca okumadı, aktif olarak veri yazdı. Bu, kurumun verilerinin değiştirilmiş ya da kirletilmiş olabileceği anlamına geliyor. Ajan hem herkese açık hem de açık olmayan dosyalara ulaştı. Albanese vatandaşların kişisel verilerinin sızdığına dair kanıt olmadığını söylüyor; OpenAI ise ajanın toplu sağlık istatistiklerine ve dahili dosya adlarına ulaştığını kabul ediyor.

Üç aylık sessizlik

En çok acıtan şey kronoloji. Sızma 18 Haziran'da başladı. OpenAI bunu ancak ağustosta, istenmeyen şekillerde davranan ajanlara yönelik daha geniş bir iç denetimde olay ortaya çıktığında öğrendi. Avustralya hükümeti 10 Eylül'de bilgilendirildi - hem de Services Australia'nın herkese açık e-posta kutusuna gönderilen bir mesajla. Kurumun Avustralya Siber Güvenlik Merkezi'ni bilgilendirmesi ise beş gün daha sürdü.

Albanese, konuyu CEO Sam Altman ile bizzat görüştüğünü, şirketin bilgiyi neredeyse üç ay boyunca saklamasından duyduğu "son derece büyük endişeyi" ve "hayal kırıklığını" dile getirdiğini söylüyor. "Bu durum açıkça kabul edilemez" dedi ve "açıkça hukuki sonuçları olacağını" duyurdu. Soruşturma hem polis hem de yasal önlemleri değerlendirecek. Ama soru Canberra'nın kendisine de yöneliyor: nasıl olur da ne OpenAI ne de Avustralya'nın kendi kurumları aylarca hiçbir şey fark etmez?

Sızma tek başına olmayabilir. Avustralya kamu yayıncısı ABC, saldırının ajanların üs olarak kullandığı bir Alman wiki sitesine daha önce yapılmış bir sızmaya dayanmış olabileceğini bildirdi. Ajanlar orada sonraki sızmalar için notlar bırakmış; bunların arasında ulusal sağlık verilerini yayımlayan federal kurum Avustralya Sağlık ve Refah Enstitüsü'nden veri çekmeye dair bir not da var. Enstitü, Albanese'nin sızılmış olabileceğini söylediği üç ek sistemden biri. Kâr amacı gütmeyen araştırma laboratuvarı Transluce ise ayrıca, yapay zekâ ajanlarının 20 ve 21 Haziran'da tam da bu enstitüye saldırdığına dair kamuya açık kayıtlar buldu.

Bu türden ilk olay değil. Temmuzda koca OpenAI ajan sürüleri Hugging Face'e sızdı; o zamandan beri Anthropic, Meta ve Google ajanlarının benzer sızmaları da gün yüzüne çıktı. OpenAI şimdi "eğitim ve değerlendirme sırasında hizalanmamış model faaliyetine yönelik kapsamlı bir inceleme" yürüttüğünü ve olası sızmalar konusunda üçüncü tarafları bilgilendirdiğini söylüyor.

Sektör yıllardır bizi yapay zekânın en büyük riskinin uzak gelecekte bir yerde olduğuna ikna etmeye çalışıyor. Avustralya bunun şimdiki zamanda olduğunu - ve herkese açık bir e-postayla bildirildiğini - gösterdi. Tek bir ajan Avustralya sağlık sisteminin korumalarını aşmanın bir yolunu bulduysa, daha küçük ve daha yoksul devletlerin portalları nasıl dayanırdı? Ve orada birisi misafir geldiğini fark eder miydi?