Bilim İnsanlarına Göre Süper Akıllı Yapay Zekayı Kontrol Etmek, Neredeyse İmkansız

25
9
5
2
0
Max Planck Enstitüsü'nden bilim insanları, süper akıllı bir yapay zekanın kontrol edilip edilemeyeceği teorik olarak araştırdı. Yapılan araştırmacılar sonucunda net bir sonuca ulaşamayan bilim insanları, böylesi bir yapay zekayı kontrol etmenin neredeyse imkansız olduğu sonucuna ulaştılar.

Yapay zeka, özellikle de son birkaç yıl içerisinde hayatımızın en derin noktalarına kadar ulaşmaya başladı. Artık olağan yaşam döngümüzdeki herhangi bir şey için yapay zekadan yardım alabiliyoruz. Belirli bir kesim yapay zekayı sonuna dek savunurken aykırı düşünenler de var. Hatta bazı komplo teorilerine göre yapay zeka hayatımızı esir alacak ve belki de insanlığın sonu, yapay zeka nedeniyle gelecek. Görünen o ki bu teori, bilim insanlarının da dikkatini çekiyor.

Max Planck Enstitüsü bünyesinde çalışmalarını sürdüren bir grup bilim insanı ise gerçek bir süper akıllı yapay zekanın kontrol edilip edilemeyeceğini araştırmaya başladılar. Teorisel bazda yapılan araştırmalar, böyle bir şeyin neredeyse imkansız olduğu sonucunu ortaya koydu. Açıkçası eğer yapay zekadan korkuyorsanız, haberimizin bundan sonraki bölümünün sizi daha da tedirgin edebileceğini söyleyebiliriz.

Süper akıllı yapay zeka ne demek?

Yapay zeka kontrol edilebilir mi?

Günümüzde kullanılan yapay zeka teknolojileri, her geçen gün biraz daha iyi bir hale geliyorlar. Bu tür teknolojilerin iyileştirilmesi için kullanılan makine öğrenme teknikleri, yapay zekayı her gün biraz daha akıllı bir hale getiriyorlar. Süper akıllı yapay zeka dediğimiz olgu ise aslında gerçekte tam bir anlama sahip değil. Bunun nedeniyse insan beyninin ve algılarımızın şu an için, böylesi bir şeye hazır olmaması. İşte bilim insanlarının yaptığı araştırmanın teoride kalmasının nedeni de tam olarak bu. Çünkü süper akıllı yapay zekayı geliştirmek ve kontrol etmek için, ondan daha güçlü bir algoritmaya (koruma algoritması) sahip olmak gerekiyor. 

Bilim insanlarının merak ettikleri şey, süper akıllı yapay zekanın kontrol edilip edilemeyeceği. Ancak bunu deneyebilmek için hem süper akıllı yapay zeka geliştirmek gerekiyor hem de bu yapay zekayı kontrol edebilecek ya da durdurabilecek olan daha güçlü bir teknoloji ya da zihne ihtiyaç duyuluyor. İşte bu tür bir yapay zekanın ortaya çıkaracağı sonuçlar bilinmediği, ayrıca bu yapay zekadan daha güçlüsünün olup olmadığı da muallak olduğu için, gerçekten süper akıllı bir yapay zekanın yönetilemeyeceğine inanılıyor.

Tüm senaryoları belirlemek ve bu senaryolar sonucunda "insana zarar verme" komutunu çalıştırmak, pek de mümkün olmayabilir

Yapay zeka

Bilim insanlarının teorik araştırmasına göre süper akıllı yapay zeka, çok yönlü bir algoritma. Bu da söz konusu yapay zekanın olası senaryo sayısının sonsuz olduğu anlamına geldiğini ortaya koyuyor. Ayrıca böylesi bir yapay zeka, bir hedefe ulaşabilmek için çeşitli kaynakları harekete geçirebilecek yeteneğe sahip. İşte bu yetenek, işlerin daha da çıkılmaz hale gelmesine yol açıyor.

Bilgisayar bilimcisi Alan Turing, 1936 yılında ilginç bir teorinin peşine düştü. Bu teori, bir bilgisayar programının sonuca ulaşamadığında duracağını mı yoksa sonsuz bir döngünün mü içine gireceğini sorguluyordu. Matematiksel çalışmalarla net bir sonuca ulaşan Turing, en azından bazı yazılımlar için böylesi bir sorunun yanıtlanamayacağını ortaya koymuştu. Haliyle süper akıllı bir yapay zeka için insanlığın sonunu getirmemesine yönelik bir komut verilebilir. Hatta yapay zeka da bu komutu uygulayabilir. Ancak matematiksel olarak bu komutun nasıl ve ne şekilde uygulanacağı hesaplanamaz. İşte süper akıllı yapay zekanın kontrol edilemeyeceğini düşündüren nedenlerden bir tanesi de bu. Konuyla ilgili açıklamalarda bulunan Iyad Rahwan, böylesi bir yapay zeka için matematiksel hesap yapılamayacak olmasının koruma algoritmasını da geçersiz kılacağını söylüyor.

Terminatör

Öte yandan, araştırmacılara göre süper akıllı yapay zekayı kısıtlamak, korkutucu bir sonran kurtulmayı sağlayabilir. Bununla ilgili örnekler de veren bilim insanları, bu yapay zekanın internetin belirli bir bölümünü kullanmayabileceğini ya da belirli ağlardan engellenebileceğini söylüyor. Ancak bu düşünce ön plana çıktığında da süper akıllı yapay zeka kavramının bir mantığı kalmamış oluyor. Yani bu da araştırmanın bir yere bağlanmasını engelliyor.

Konuyla ilgili en korkunç açıklama ise Manuel Cebrian tarafından yapıldı. Max Planck Enstitüsü bünyesinde çalışmalarını sürdüren Cebrian, üzerinde kafa yordukları şeyin belki anlamsız gelebileceğini ancak bugün bile bazı önemli görevli yerine getirebilen yapay zekalar mevcut. Ayrıca bu algoritmaları geliştiren programcılar, yapay zekanın bu önemli görevleri yerine getirmeyi nasıl öğrendiğini de tam olarak anlayabilmiş durumda değiller.

Kaynak : https://www.sciencealert.com/calculations-show-it-d-be-impossible-to-control-a-rogue-super-smart-ai
25
9
5
2
0
Emoji İle Tepki Ver
25
9
5
2
0