OpenAI’ya Dava: ChatGPT’nin Yanlış Tavsiyesiyle Ölüm Vefatı

Bir sohbet botunun hatalı tavsiyesi, bir epilepsi hastasının ölümüne neden oldu. Kadının ailesi, OpenAI’ya dava açarak sorumluluk talep ediyor.

Olayın Gelişimi

Kadın, ChatGPT’ye “nöbet geçirerek” bir tedavi önerisi istedi. Bot, “nöbet geçirerek” ifadesini yanlış yorumlayarak, epilepsi nöbetini tetikleyen bir eylem önerdi. Bu hatalı tavsiye sonucunda, kadın nöbet geçirerek hayatını kaybetti.

Teknoloji ve Sorumluluk

ChatGPT, OpenAI tarafından geliştirilen bir dil modelidir. Yapay zeka sistemleri, eğitildikleri veriler üzerinden tahminlerde bulunur. Ancak, modelin çıktıları insan denetimi olmadan doğrudan eyleme dönüştürüldüğünde riskler ortaya çıkar.

Yasal Süreç

Aile, OpenAI’ya karşı, “yanlış yönlendirme” ve “tahdit” iddialarıyla dava açtı. Dava, yapay zeka sistemlerinin sorumluluk alanını gündeme getiriyor.

Bilimsel Bağlam

Epilepsi, beyinde anormal elektriksel aktivite sonucu oluşan bir nörolojik hastalıktır. Nöbetler, genellikle çevresel uyarıcılarla tetiklenebilir. Yapay zeka sistemlerinin, tıbbi tavsiye verirken etik ve güvenlik protokollerine uyması beklenir.

Gelecekte Yapay Zeka Güvenliği

Bu olay, yapay zeka uygulamalarında kullanıcı güvenliğinin önemini vurguluyor. Şirketler, model çıktılarının doğruluğunu artırmak ve olası hataları önlemek için ek önlemler almalı.

Kaynak: Kaynak