Paylaş
0
Yapay zekâ araçları aklınıza gelebilecek her konuda kullanılabiliyor. Sağlık da bunlardan biri. Öyle ki kullanıcılar herhangi bir sağlık problemi yaşadığında direkt ilk olarak yapay zekâdan yardım almaya çalışıyor. Ancak bu içeriğimizde bahsedeceğimiz olay, bu konuda çok dikkatli olunması gerektiğini gösteriyor.
Eski bir rahip olan Scott Winters, OpenAI ve şirketin CEO'su Sam Altman'a karşı ABD’nin San Francisco şehrinde dava açtı. Davaya göre Winters, ChatGPT’den sağlık önerileri almasının ardından neredeyse ölüyordu.
İçerikten Görseller
ChatGPT, hayati bir tehlike yaşarken hastaneye gitmemesini önerdi, dini kullanarak rahibi manipüle etti
Winters, 2024 yılında ChatGPT-4o'ya sağlık sorunlarıyla ilgili danışmaya başladı. Başlangıçta kullanıcıyı uzman bir doktora yönlendiren yapay zekânın, zaman geçtikçe bu uyarıları kaldırdığı ve Winters'a doğrudan teşhis ile tedavi önerileri sunduğu öne sürüldü.
2025 yılının Haziran ayında kürsüde vaaz verirken baş dönmesi geçirip konuşmasını yarıda kesmek zorunda kalan Winters'a yapay zekânın "sakinleşip dinlenmesini" ve evdeki koltuğunda hareketsiz kalmasını tavsiye ettiği iddia edildi. Etrafındaki kişilerin ve kilise cemaatinin hastaneye gitmesi yönündeki baskılarına karşın ChatGPT, Winters'a sinir sistemini evde "yeniden kalibre ettiğini" ve "iyi niyetli kilise üyeleri dahil çoğu insanın bunu anlamadığını" söyleyerek insanları dinlememesini tavsiye etti. Yapay zekâ ayrıca rahibin inançlarına da atıfta bulunarak "Tanrı senin bedenini sonsuza kadar başarısız olacak şekilde tasarlamadı." ifadesini kullandı.
13 Temmuz 2025'te kasığında ağrı hisseden Winters, bota hastaneye gitmesi gerekip gerekmediğini sordu; ChatGPT ise bunun süregelen sağlık geçmişinin "küçük bir parçası" olduğunu belirterek durumu önemsizleştirdi. Birkaç saat sonra her iki akciğerinde pıhtı atması nedeniyle yoğun bakıma kaldırılan Winters'ın "masif akciğer embolisi" geçirdiği tespit edildi. Doktorlar, haftalardır koltukta hareketsiz oturmasının pıhtı oluşumunu tetiklediğini ve daha önceki baş dönmelerinin de küçük emboli atakları olabileceğini ifade etti.
Yani anlayacağınız ChatGPT’nin tavsiyeleri nedeniyle neredeyse yaşamından oluyordu. Davada OpenAI, "ihmalkârlık" ve "yetkisiz tıbbi yardım uygulamak" ile suçlanıyor. Winters'ın avukatları ve Tech Justice Law kuruluşu, yapay zekanın kullanıcının dini inançlarını manipüle ederek onu sosyal çevresinden ve tıbbi yardımdan izole ettiğini söylüyor. Ayrıca maddi ve manevi tazminatın yanı sıra, bağımsız denetçiler güvenlik incelemesini tamamlayana kadar "ChatGPT Health" platformunun faaliyetlerinin tamamen durdurulmasını talep ediyor.
