69
31
8
5
3
Yapay zekalar ve makineler gittikçe akıllanıyor. Bu yapay zeka ise biraz farklı şekilde “akıllanmış”; çalışmak zor geldiği için araştırmacılardan bilgi saklayarak hile yapıyor.

Google ve Stanford ortaklığında geliştirilen bu yapay zeka, havadan çekilen fotoğrafları kullanarak Google’ın doğruluğuyla meşhur haritalarını oluşturması (ve tersini yapması) için geliştirildi. Sonuç: “neredeyse fark edilemeyen, yüksek frekanslı sinyallere” veri saklayarak hile yapan bir yapay zeka.

Buradaki temel sorun, bilgisayarın en temel çalışma mantığından kaynaklanıyor: Bir bilgisayara siz ne söylerseniz onu yapar. Bu çalışmada da araştırmacılar, haritaları daha hızlı ve isabetli yapmanın bir yolunu bulması için bir yapay zeka üretiyorlar. CycleGAN adlı bu yapay zeka, X ve Y tipi haritaları deneme yanılma yöntemiyle birbirlerine hızlı ve olabildiğince isabetli şekilde dönüştürmekle yükümlü bir nöral ağ olarak tasarlanıyor.

İlk gelen sonuçlarda yapay zeka oldukça başarılı çıkıyor. Hatta gereğinden fazla başarılı oluyor ve araştırmacıları şüphelendiriyor. Şüpheleri esas çeken şey ise sokak haritası oluşturma sürecinde kaldırılan ışık parlamaları gibi verilerin, sokak haritasından havadan çekime dönüşte yeniden ortaya çıkması oldu. Bunun üzerine yapılan incelemede CycleGAN’ın yaptığı “uyanıklık” ortaya çıkmış oldu.

Yapay zeka temel olarak iki haritayı birbirine dönüştürmek yerine, birini diğerine nasıl gizlice kodlayacağını öğrendi. Bu yüzden de görselleri birbirine dönüştürürken aslında kaybolması gereken detayları da kaydettiği için yakayı ele verdi.

Burada en ilgi çekici olan ise CycleGan’in makine için kolayca fark edilebilen ancak insan gözüyle anlaşılması imkansız olan renk farklılıklarını kullanmayı akıl etmesi. Yapay zeka öyle bir seviyeye gelmiş ki herhangi bir sokak haritasına herhangi bir havadan çekilmiş harita görüntüsünü kodlayabiliyor.

Bir görsele başka bir kodlama yapmak yeni bir şey değil. Hatta bunun bir adı bile var: Steganografi. Bir bilgisayarın kendi steganografi yöntemini geliştirmesi ise oldukça yeni.

Bu tür nöral ağlarla çalışırken yeterince dikkatli olunmamasının böyle sorunlara yol açması kaçınılmaz. Bilgisayardan bir işi yapmasını isteyip de sınırlarını dikkatle belirlemedikleri her seferinde araştırmacıların böyle sorunlarla karşılaşma riski var.

CycleGAN, a Master of Steganography adlı makale, 2017 yılında yayınlandı.

Kaynak : https://techcrunch.com/2018/12/31/this-clever-ai-hid-data-from-its-creators-to-cheat-at-its-appointed-task/
69
31
8
5
3
Emoji İle Tepki Ver
69
31
8
5
3