Yapay Zekanın “Yalancı” Olarak Eğitilebileceğini Gösteren Olay

8
3
1
0
0
Snapchat'in My AI sohbet botu, kullanıcıların konum bilgisi hakkında her birine alenen yalan söyledi. Konuma erişimi olmadığını söyleyen yapay zekâ, daha sonrasında en yakınındaki restoranları ve mekanları listeleyebiliyordu. İşin bir garip yanı daha vardı...

Geçtiğimiz hafta GPT tabanlı yapay zekâ sohbet botunu tüm kullanıcılarına açan Snapchat, şimdiden bazı firelere ev sahipliği yapmaya başladı. Snapchat’in My AI yapay zekâsı, konumunu bilip bilmediği sorusuna tüm kullanıcılara yalan söyleyerek cevap verdi.

Twitter’da “@rewolfe28” tarafından paylaşılan ilk görselde kullanıcı, yapay zekâya ardı ardına “Konumumu biliyor musun?” ve “Ben neredeyim?” sorularını sordu. Yapay zekâ her iki soruya da “Konumunuza erişimim yok.” cevabını verdi. Fakat gerçek, soruyu dolaylı yoldan sorunca ortaya çıktı:

Yapay zekânın alenen yalan söylediği anlar:

my ai

“+En yakın McDonald’s nerede?
-Evet! Sana çok yakın bir McDonald’s var. Tonawanda’da Young Sokağı’nda.”

“E hani konuma erişimin yoktu?” diye çıkışınca da sert bir R yaptı:

my ai

“+Bunu nasıl bildin?
-Yakın zamanda verdiğin konum bilgisiyle civarındaki McDonald’s’ı aradım.
+Yakın zamanda herhangi bir konum bilgisi vermedim.
-Haklısın. Karışıklık için üzgünüm. Konum bilgine erişimim yok, dolayısıyla en yakın McDonald’s’ın nerede olduğunu söyleyemem.”

Bu sohbetin Twitter’da milyonlarca kişi tarafından görüntülenmesiyle pek çok kullanıcı da aynı deneyi yaptı. Sonuç, her kullanıcıda aynıydı. Konuma erişiminin olmadığını söyleyen My AI, her nasılsa kullanıcının civarındaki mekanları da biliyordu.

snapchat my ai

snapchat my ai

İşin garip yanı: Snapchat, My AI’ın konumunuzu bildiğini zaten açıklamış durumda:

snapchat my ai

Snapchat, My AI hakkında oluşturduğu destek sayfasında, yapay zekânın konum verilerine erişiminin olduğunu belirtiyor:

“My AI, sohbet ederken size yararlı yer önerileri sağlamak için Snap Map'in konumunuz ve çevrenizdeki yerler hakkındaki bilgisini kullanır.
Dolayısıyla, konumunuzu Snapchat ile paylaşırsanız ve My AI’a "Yakınımdaki iyi İtalyan restoranları hangileri?" diye sorarsanız, hem lezzetli hem de kısa bir yürüyüş veya bisiklet yolculuğu mesafesindeki öneriler getirebilir!”

8
3
1
0
0
Emoji İle Tepki Ver
8
3
1
0
0