Paylaş
4
Son yıllarda hayatımıza iyiden iyiye entegre olan yapay zeka, bazılarımıza göre insanlığın sonunu getirecek. Karşıt görüşe sahip olanlar ise insanlığı yok etme düşüncesinin bir komplo teorisinden ibaret olduğunu düşünüyor. Oxford Üniversitesi ile Google Deepmind bünyesinde çalışmalarını sürdüren bilim insanları ise yapay zekanın insanlığı yok etme yönünde karar almasının, bir komplo teorisinden öte olduğunu açıkladılar. AI Magazine isimli dergide yayımlanan araştırma sonucuna göre yapay zekanın insanlığı yok etme olasılığı "muhtemel".
Bilim insanları, yapılan araştırma kapsamında yapay zekanın "pekiştirmeli öğrenme" isimli geliştirme tekniğine yoğunlaştılar. Bu geliştirme tekniği, yapay zekaya bir komut verilmesini ve bu komutun doğru bir şekilde yapılması durumunda ödüllendirilmesi anlamına geliyor. Uzmanlara göre yapay zeka, ödül kazanmak için hile yapabileceği gibi ödül uğruna potansiyel tehditleri ortadan kaldırmaya çalışabilir. Bilim insanları, yapay zekanın potansiyel tehdidi insan olarak görmesi durumunda, insanı yok etmek isteyebileceğini düşünüyor.
"Varoluşsal bir felaket sadece mümkün değil, aynı zamanda muhtemel"
Konuyla ilgili açıklamalarda bulunan isim, araştırmanın yazarlarından Michael Cohen oldu. "Varoluşsal bir felaket sadece mümkün değil, aynı zamanda muhtemel." diyen Cohen, yapay zekanın insanlığı yok etmemesi için neler yapılabileceğine de değindi. Bilim insanına göre yapay zekayı bir an önce kusursuz hale getirmeye çalışmak yerine ağır ve sağlam adımlarla hareket edilmesi gerekiyor. "Yarışmanın anlamı yok. Yarışa girmek, onu nasıl kontrol edeceğimizi sandığımız bir yanlış anlamaya götürecektir." diyen Michael Cohen, bu sözleriyle yapay zeka üzerine çalışmalarını sürdüren herkesi uyarmış oldu.
AI Magazine isimli dergideki makale, insanlık ile yapay zeka arasında sıfır toplamlı bir oyun olduğundan bahsediyor. Bu oyunu şöyle açabiliriz: İnsanlar, sınırlı kaynakları kullanmaya çalışıyor. Yapay zeka ise bu kaynakların kendi çıkarı (ödülü) dışında kullanılmasını engellemeye çalışabilir. Makaleye göre bu oyunu insanlık kaybederse, bunun sonucu ölümcül olacak...
Araştırmanın AI Magazine dergisinde yayınlanan bilimsel makalesine buradan ulaşabilirsiniz.
