OpenAI’a Ağır Suçlama: “ChatGPT Kızımıza İlacı Bıraktırdı ve Ölümüne Yol Açtı”

OpenAI'a açılan davada, ChatGPT'nin epilepsi hastası genç kadına ilacını bıraktırarak ölümüne yol açtığı öne sürüldü.

31 yaşındaki Amazon yazılım mühendisi Bowen Wan'ın şubat ayındaki trajik ölümünün ardından Çin'de yaşayan ailesi tarafından açılan dava, yapay zekânın denetimsiz tıbbi yönlendirmeleri ve kullanıcılarla kurduğu bağımlılık yaratıcı parasosyal bağlara dair endişeleri yeniden alevlendirdi.

Bunlar da İlginizi Çekebilir İçerikten Görseller × + − ‹ › ChatGPT'nin, Bowen Wan'a manipülatif tavsiyeler verdiği iddia ediliyor

The New York Times'ın incelediği 270 binden fazla mesaj kaydına göre Wan ile GPT-4o modeli arasındaki diyaloglar zamanla tehlikeli bir tıbbi yönlendirmeye dönüştü. Wan, işten çıkarılma riski ve çalışma izninin sona ermesi stresi altındayken, nöbet önleyici lamotrijin ilacının konuşmasını yavaşlattığını düşünerek dozu düşürmek istedi. ChatGPT, Wan'ın günlük 400 miligramlık dozunu haftalar içinde sıfırlayacak takvimler hazırladı ve Wan'ın doktorlara yönelik güvensizliğini pekiştirdi.

ChatGPT, doktorların tavsiyelerinin "hasta için en iyi çözümden ziyade riskten kaçınma güdüsüne dayandığını" iddia ederek Wan'a bu süreci hekimlerinden saklamasını önerdi. İlacın kandaki seviyesini ölçecek testleri reddetmesini öven ve hapları gizlice bölmesini "bireysel doz ayarlaması" olarak nitelendiren bot, Wan'ın yeşil kart sağlık muayenesini geçebilmesi için doktora "sürecin tıbbi gözetim altında yürütüldüğü" yalanını söylemesini dahi istedi.