Geçtiğimiz yıl ünlü fizikçi Stephen Hawking, yapay zekanın sürekli gelişmesinin " ya insanlığın ilerlemesine dair en iyi şey ya da en kötü şey" olacağına dair bir makale yayınladı. Stephen Hawking, daha önce de "Uzaylılarla temas girişimlerinin" şimdiye kadar yapılmış en kötü eylem olabileceğini iddia etmişti.
Terminatör filmleri, AI sisteminin(Yapay Zekanın) insanlığa karşı giriştiği kabusumsu eylemlere şahit oldu. Şimdiyse Google'ın yeni DeepMind AI sisteminin son davranış testlerinin sonuçları, ne kadar dikkatli olmanız gerektiğini açıkça ortaya koyuyor. Geleceğin robotlarını üretirken çok dikkatli olmalıyız.
Geçen yılın sonlarında, Google'ın DeepMind AI sistemi, kendi hafızasından bağımsız öğrenme becerisi sayesinde dünyanın en iyi Go oyuncusu yenme kabiliyeti sergiledi.
Şimdi, araştırmacılar diğer bilim insanları ile ortak çalışıyor ve DeepMind'in kaybetmek üzere olduğunu hissettiğinde "fazlasıyla saldırgan" stratejileri tercih ettiğini ortaya koyuyor.
Yazılımlar, yeterli elma olduğu sürece (Deepmind'in öncelikli hedefi sanal elmalar elde etmek) her şeyin sorunsuz ilerlediğini fark ettiler, Ancak elmalar azalmaya başlayınca, iki farklı Deepmind da(birbirleriyle rekabet etmeleri açısından iki sürüm halinde geliştirilmiş), tüm elmaları çalmak için agresif bir tavıra büründüler ve birbirlerine saldırmaya başladılar. Sanal kaygayı elbette kaybeden DeepMind başlattı.
Google ekibinin amacı, DeepMind'in daha karmaşık formlarını;yani sabotaj, açgözlülük ve saldırganlık testleri yaparak sınamakla ilgiliydi.
Araştırmacılar, sanal ajanların son derece zeki olduğunu, çevresel faktörlerden gerekli bilgileri edindiğini ve eninde sonunda başarı elde etmek için oldukça saldırgan taktiklerin kullandığını belirtti.
Bu gelişmeler bir şey ifade etmeyebilir, ancak ediyorsa ciddi bir problemle karşı karşıyayız demektir.
