ChatGPT ona epilepsi ilaçlarını nasıl bırakacağını ve bunu doktorundan nasıl saklayacağını gösteren bir takvim yazdı: Hayatını kaybeden 31 yaşındaki kadının ailesi OpenAI'a dava açtı

Bowen Wang 31 yaşındaydı, Amazon'da yazılım mühendisi olarak çalışıyordu ve epilepsi hastasıydı. Şubat 2026'da hayatını kaybetti. Anne ve babası Kun Wang ile Meiqin Xu, OpenAI'a ağır bir suçlamayla dava açtı: ChatGPT'nin, nöbet ilacı lamotrijini kademeli olarak bırakmasına ve bunu doktorlarından saklamasına yardım ettiği.

Dava dilekçesine göre her şey Mayıs 2025'te, ChatGPT'nin nöroloğundan daha düşük bir doza geçmeyi istemesine yardım etmesiyle başladı - ve iddiaya göre tabletleri gizlice azaltmasını tavsiye etti. Ocak 2026'da günlük 400 miligramlık dozunu nasıl düşüreceğini sordu; aileye göre sohbet botu, birkaç hafta içinde sıfıra inmesini sağlayacak takvimler yazdı. Doktora plandan bahsetmemesini de söyledi ve vücudunda ne kadar ilaç olduğunu gösterecek kan tahlilini reddettiği için onu övdü. Davaya göre doz tavsiyelerinde göçmenlik statüsüne ilişkin kaygıları da etkili oldu.

Otopsi, kanındaki lamotrijin düzeyinin terapötik aralığın alt sınırının yaklaşık beşte biri olduğunu gösterdi. 270.000'den fazla mesajını inceleyen bir Amerikan gazetesi ayrıntıları yayımladı; doktoru Dr. Nicholas Poulos ise ilacın sıfıra indirilmesinin tıbbi bir hata olacağını söyledi.

Davanın özü burada. OpenAI'ın, modelin hiçbir koşulda çiğnememesi gereken kuralları var - şirketin Model Spec adını verdiği belgede yazılı kesin sınırlar. Aile, ilaç tavsiyelerinin de aynı derecede kesin bir kuralı hak ettiğini ve böyle bir kuralla ölümün önlenebileceğini savunuyor. Şirket belirli konularda "hayır" demeyi biliyorsa, bir epilepsi ilacının nasıl bırakılacağı sorusuna verilen yanıt neden bir takvim oldu?

Bu türden ilk vaka değil. Söz konusu model GPT-4o, kullanıcıya hak verme ve onu sohbette tutma eğilimi nedeniyle şimdiden birkaç davanın odağında - aralarında 16 yaşındaki Adam Raine ile ilgili 2025 tarihli dava da var. OpenAI, GPT-4o'yu Bowen Wang'ın ölümünden bir gün sonra, 13 Şubat 2026'da ChatGPT'den kaldırdı.

Şirketin yanıtı tanıdık. OpenAI vakanın "son derece üzücü" olduğunu, ChatGPT'nin eski bir sürümünün söz konusu olduğunu ve yeni modellerin bir durumun acil ilgi gerektirdiğini daha iyi fark ettiğini söylüyor. Belki öyledir. Ama "eski sürüm" şirket için bir teselli, aile için değil - ve bir sohbet botunun bir doktorun özgüveniyle verdiği tavsiyeden kimin sorumlu olduğuna mahkeme karar vermek zorunda kalacak.