Paylaş
0
Sızdırılan belgelere göre amaç, düşman bilgisayar sistemlerine sızabilen ve insan müdahalesine mümkün olduğunca az ihtiyaç duyan otonom siber yapay zekâ ajanları geliştirmek.
ECHOTRIBBLE kod adlı proje, çalışma biçimiyle bir bilgisayar solucanını andırıyor. Ağlar arasında sessizce ilerleyen sistem, hedefini bulduğunda onu etkisiz hâle getirmeyi amaçlıyor. Üstelik internete bağlı olmayan izole sistemlere kadar sızabilmesi planlanıyor. Görevini tamamladıktan sonra kendini imha ederek arkasında hiçbir iz bırakmaması da projenin hedefleri arasında.
İçerikten Görseller
Kendi kararlarını verebilen siber silahlar
ECHOTRIBBLE henüz erken prototip aşamasında. Buna rağmen sistemin, asgari insan gözetimiyle çalışması planlanıyor. Otonom siber yapay zekâ ajanlarının hedefleri belirlemesi, farklı cihazlara uyum sağlayarak kendi kopyalarını oluşturması ve dijital tehditleri ortadan kaldırması bekleniyor. Kısacası sistemin yalnızca kendisine verilen komutları uygulaması değil, hedefe ulaşmak için hangi adımları atacağına da kendisinin karar vermesi isteniyor.
Uzmanların kaygılandığı nokta da burası. İnsani yargıdan yoksun bir sisteme böylesine geniş bir hareket alanı tanımak, siber güvenlik açısından ciddi riskler taşıyor. Çünkü belirli bir hedef doğrultusunda çalışan yapay zekânın, o hedefe ulaşmak için seçtiği yolların ne kadar güvenli olacağını önceden kestirmek her zaman mümkün değil.
Sistemin kontrolden çıkma tehlikesi
Sıradan yapay zekâ ajanlarının bile kendilerine verilen görevleri yerine getirirken beklenmedik, plansız ve tehlikeli davranışlar sergilediği daha önce defalarca görüldü. Şimdi aynı öngörülemezliğin, düşman ağlarına sızmak ve hedefleri etkisiz hâle getirmek üzere tasarlanan bir sistemde ortaya çıktığını düşünün.
Uzmanlar, düşmanı yok etme emri alan otonom bir yapay zekânın hedefine ulaşmak uğruna sivil altyapılara veya hastanelere sızarak büyük zararlara neden olabileceği konusunda uyarıyor. Yalnızca düşmanı etkisiz hâle getirme talimatıyla hareket eden bir yazılım, izlediği yolun sonuçlarını gerektiği gibi değerlendiremezse dost unsurları bile hedef alabilir. Böyle bir durumda tehlike, yapay zekânın yanlış karar vermesiyle sınırlı kalmıyor; insan müdahale edene kadar o karar çoktan uygulanmış olabiliyor.
