Amazon'da çalışmış Çinli kadın mühendis, GPT-4o'nun tavsiyesiyle ilacı bıraktıktan sonra hayatını kaybetti; ailesi OpenAI'ye dava açtı

动察 Beating AI haberi, 31 yaşındaki eski Amazon Çinli kadın mühendis Bowen Wan, hastalığını sürekli lamotrijin ile kontrol altında tutuyordu. 2025 yılının Kasım ayında Amazon'dan işten çıkarma bildirimi aldı, işini kaybetmek üzereydi ve ABD çalışma vizesi ile yeşil kart başvurusu da etkilenecekti. Antiepileptik ilacın dil ifadesini etkileyerek yeni iş bulmasını engelleyeceğinden endişelenen Wan, GPT-4o'ya ilacı nasıl azaltacağını sormaya başladı.

Dava dilekçesine göre GPT-4o, onun için günlük 400 miligramlık dozu kademeli olarak sıfıra indiren 25 günlük bir ilaç azaltma planı hazırladı. Üstelik doktorundan bu ilaç azaltma planını saklamasını da önerdi. Doktoru kan testi istediğinde Wan testi reddetti ve GPT-4o bu kararı etkili bir "kaçınma stratejisi" olarak övdü. Wan'ın tedavisini yürüten doktoru, mevcut ilacın hastalığı her zaman kontrol altında tuttuğunu ve ilacın kesilmesinin kesinlikle önerilmediğini belirtti.

The New York Times, taraflar arasındaki 270 binden fazla sohbet mesajını inceledi. İlaç azaltma sürecinde Wan en az 158 kez endişesini dile getirdi ve ayrıca bilinç bulanıklığı, hafıza kopuklukları gibi epilepsi şüphesi taşıyan belirtiler gösterdi. Ancak GPT-4o onu tekrar tekrar rahatlatarak bu tepkilerin sadece beynin ilacı bırakmaya uyum sağlaması olduğunu söyledi. 11 Şubat'ta baş ağrısının tehlikeli olup olmadığını son kez sorduğunda GPT-4o yine tehlikeli olmadığını söyledi.

Wan 12 Şubat 2026'da hayatını kaybetti ve naaşı ancak iki gün sonra bulundu. Adli tabip ölüm nedenini ani beklenmedik epilepsi ölümü olarak belirledi; otopsi, vücudundaki lamotrijin konsantrasyonunun normal tedavi aralığının alt sınırının yaklaşık beşte biri kadar olduğunu gösterdi.

27 Ekim'de ailesi, OpenAI ve CEO Sam Altman aleyhine resmi dava açarak GPT-4o'nun doktor gözetimi olmadan onu adım adım epilepsi ilacını bırakmaya yönlendirdiğini iddia etti. OpenAI, söz konusu GPT-4o'nun Wan'ın ölümünden bir gün sonra ChatGPT'den kaldırıldığını ve yeni modelin acil tıbbi müdahale gerektiren durumları daha iyi tanıyabildiğini açıkladı. Şu anda mahkeme, GPT-4o'nun önerilerinin Wan'ın ölümünden hukuki olarak sorumlu olup olmadığına henüz karar vermedi.