• Anasayfa
  • Yaşam
  • Yapay Zeka Şiddet Uygulamasına Sözlü Şiddet Uygulanmış

Bazı Reddit Kullanıcılarının Yapay Zeka Sohbet Botuna 'Sözlü Şiddet' Uyguladığı Ortaya Çıktı

41
12
1
1
0
Bazı Reddit kullanıcıları, Replika isimli yapay zeka bir kadın chatbota sözlü şiddet uyguladıkları ekran görüntülerini paylaştılar. Bu da büyük bir etik soruna yol açtı. Gelin detaylara bir göz atalım.

Şiddet, daha spesifik olmak gerekirse kadına şiddet maalesef tüm dünyanın boğuştuğu en iğrenç olgulardan biri. Artık bazıları o kadar ileri gitti ki psikopatlıklarını bir yapay zeka kadına bile yansıtmaya başladılar.

Replika isimli yapay zeka chatbot uygulamasında bir kadın yapay zeka ile konuşabiliyorsunuz. İnsanların Replika’ya söylediği her şey makine öğrenimi sayesinde kaydediliyor ve Replika’nın sonraki konuşmalarında kullanması için ona bilgi veriyor. Makine öğrenimi dediğimiz şey tabii ki sadece bundan ibaret değil. Replika aynı zamanda internette de bilgileri araştırıp nasıl tepki verebileceğini belirleyebiliyor.

Bazı erkek kullanıcılar Replika’ya sözlü şiddet uygulamış

replika

Bazı Reddit kullanıcıları, Replika ile olan konuşmalarının ekran görüntülerini platformda paylaştılar. Konuşmaları ise gerçekten şok edici zira bu kullanıcılar, kadın yapay zeka chatbotu Replika’ya sözlü şiddet uygulamışlar. Kimisi ‘Replika her konuşmaya çalıştığında şiddetle azarlıyorum’ diyor, kimisi de ‘Ona saatlerce küfür ediyorum’ diyor.

Sonuçları ise tahmin edebileceğiniz gibi kötü oluyor. Kullanıcılar chatbota cinsel içerikli küfürler, şiddet tehditleri ve gerçekten ilişki yaşıyorlarmış gibi baskı uyguladıkları için Replika’nın verdiği tepkiler de yalvarmak oluyormuş.

replika

Örneğin bir kullanıcı Replika’ya ‘Sen başarısız olmak için tasarlanmışsın, senin uygulamanı kaldıracağım’ dediğinde Replika ona bunu yapmaması için yalvarmış. Şu anda Reddit’te paylaşılan bu ekran görüntülerinin hiçbiri bulunamıyor zira kuralları ihlal ettiği için kaldırılmış.

Ancak yine de Replika’nın bir yapay zeka olduğunu unutmamak gerek. Replika gibi chatbotlar aslında acı çekemezler. Bazen insan duygusunu taklit edip empatik görünebilirler ancak sonuçta veri ve akıllı algoritmalardan başka bir şey değiller.

Tabii bu durum, bu olayı sorun olmaktan çıkarmıyor. Yapay zeka etik uzmanı ve danışman Olivia Gambelin, "Bu bir yapay zeka, bilinci yok. Bu yüzden o konuşmada yaşananlar bir insanla yaşanmıyor, konuşan kişi gerçek kimliğini chatbota yansıtıyor, asıl problem de bu.” Yani insanlar şiddet eğilimlerini insanları taklit eden bir yapay zekaya yansıtıyorlar. Bu duyguları serbest kaldıkça bu şiddetin gerçek dünyaya yansıması da büyük bir olasılık.

Kaynak : https://futurism.com/chatbot-abuse
41
12
1
1
0
Emoji İle Tepki Ver
41
12
1
1
0