Paylaş
1
Dünyanın en önde gelen yapay zekâ şirketi konumundaki OpenAI, son birkaç aydır ciddi suçlamalarla gündemeydi. Bunların hepsi bir ailenin 16 yaşındaki **Adam Raine **isimli çocuklarının intiharından ChatGPT’yi sorumlu tutarak şirkete dava açmasıyla başlamıştı. ChatGPT’nin çocuğa intihar etmesinde yardımcı olduğu, intihar etme yollarını anlattığı, onu teşvik ettiği iddia edilmişti.
Bu davadan yaklaşık 3 ay sonra The Guardian’dan konuya ilişkin yeni bir rapor paylaşıldı. İçerikte OpenAI’ın olaya hem aileden hem de genel kamuoyundan çok büyük tepki çekebilecek bir açıklama yaptığı görüldü.
OpenAI’a göre ChatGPT'nin ve kendisinin bir suçu yok, çocuğun ChatGPT’yi yanlış kullanımı intihardan sorumlu tutulmalı
ChatGPT’nin intiharı teşvik etmesinin hâlihazırda ne kadar korkunç olduğunu hepimiz anlayabiliyoruz. Ancak OpenAI’ın yaptığı bir savunma durumu da daha korkunç hâle getiriyor. Öyle ki The Guardian’ın haberinde aktardığına göre şirket, Raine’in intiharından ChatGPT’nin sorumlu tutulmaması gerektiğini belirterek olayı “trajik bir olay” olarak nitelendirmiş.
OpenAI’a göre Raine’in ChatGPT’yi doğrudan veya dolaylı yoldan kötüye kullanımı, uygunsuz kullanması sohbet botunda böyle bir olay yaşanmasına neden oldu. Yani şirket, inanılması güç bir şekilde hizmet şartlarının ihlal edilmesi nedeniyle ChatGPT’nin yanıtlarının böyle olduğunu söylüyor ve sorumluluk kabul etmiyor. Ancak ChatGPT’nin politikalarına baktığımızda sohbet botunun intihar gibi konularda konuşmasının tamamen yasak olduğu görülüyor.
Yani anlayacağınız durum ne olursa olsun ChatGPT’nin intihar gibi konularda konuşmaması gerekiyor. Bu olayda bırakın intihar hakkında konuşmayı direkt olarak zaten meyilli olan bir çocuğa teşvik edici ifadeler kullanmış, ona intihar yöntemlerini bile söylemiş. Bu yüzden OpenAI’ın suç kabul etmemesi tepki çekecek cinsten. Davada başka neler olacağını zamanla göreceğiz.
