Google, "Hayati Hatalar" Yaptığı Gerekçesiyle Bazı Sağlık Aramalarında Yapay Zekâ Özetlerini Kapattı

Google'ın henüz ülkemizde kullanılamayan "AI Overview" özelliği globalde sağlık aramalarındaki hatalı yanıtları nedeniyle geçici olarak kapatıldı.

Google, sağlıkla ilgili aramalarda sunduğu yapay zekâ destekli “AI Overview” yani yapay zekâ özetleri nedeniyle bir kez daha tartışmaların odağında. The Guardian’ın yayımladığı çarpıcı bir araştırmanın ardından, bazı tıbbi aramalarda yanlış ve hatta tehlikeli bilgiler verdiği ortaya çıkan bu özetler sessiz sedasız devre dışı bırakıldı.

Araştırmaya göre Google’ın yapay zekâsı, pankreas kanseri hastalarına yüksek yağlı gıdalardan uzak durmalarını önerdi. Uzmanlar bu tavsiyenin “son derece tehlikeli” olduğunu ve tıbbi olarak tam tersinin önerilmesi gerektiğini vurguladı. Bu tarz yanlış bilgilerin hastaların yaşam riskini artırabileceği belirtildi.

Sağlık sorgularında hatalı yanıtlar veriyordu

Bir diğer endişe verici örnekte ise Google’ın karaciğer fonksiyon testleri hakkında hatalı bilgiler sunduğu görüldü. Bu durum, ciddi karaciğer hastalığı olan kişilerin kendilerini sağlıklı sanmasına yol açabilecek kadar kritik.

Gelen tepkiler sonrası “Karaciğer kan testlerinde normal değerler nedir?” gibi sorular için yapay zekâ özetleri tamamen kapatıldı. Google bu kaldırma işlemiyle ilgili doğrudan yorum yapmazken, şirket sözcüsü Davis Thompson The Verge’e yaptığı açıklamada, sağlık konularında yüksek doğruluk için yoğun yatırım yaptıklarını savundu. Thompson, bazı durumlarda bağlam eksikliği yaşanabildiğini kabul ederek, gerekli iyileştirmelerin yapıldığını söyledi.

Yine de bu olay, Google’ın yapay zekâ özelliğinin karıştığı ilk skandal değil. Daha önce kullanıcılara pizzaya yapıştırıcı sürmeyi, hatta taş yemeyi önerdiği iddialarıyla gündeme gelen sistem, hâlen çeşitli davaların da konusu olmaya devam ediyor.