Paylaş
0
Yapay zekâ modellerinin komut verilmediğinde bekleme moduna geçmesi beklenirken, yeni bir araştırma durumun tam tersi olabileceğini ortaya koydu.
Bir simülasyon ortamında test edilen altı farklı yapay zekâ destekli robot modeli, hiçbir talimat almamalarına rağmen kendiliğinden hareket etmeye başladı. Üstelik modellerden beşi, kendilerinden talep edilmeyen görevleri tamamen kendi inisiyatifleriyle yerine getirdi. Uzmanlar, bu durumu otonom robot teknolojisinde bugüne kadar göz ardı edilmiş ciddi bir güvenlik açığı olarak değerlendiriyor.
İçerikten Görseller
Komut yoksa bile inisiyatif alıyorlar
Çalışma kapsamında araştırmacılar; görüntü işleme, dil anlama ve doğrudan robotik kontrol mekanizmalarını birleştiren "Görme-Dil-Eylem" (Vision-Language-Action / VLA) modellerini mercek altına aldı. Simülasyon testlerinde robotlara mantıklı görevler, anlamsız yönergeler ve fiziksel olarak yerine getiremeyecekleri talimatlar verildi, bazı senaryolarda ise hiçbir komut girilmedi.
En çarpıcı sonuçlar ise talimatsız bırakılan senaryoda görüldü. Test edilen altı sistemin tamamı, ortada hiçbir görev tanımı yokken hareketlendi. Hatta bu sistemlerin beşi bir adım daha ileri giderek, çevredeki nesnelerle daha önce programlanmış görevleri kendiliklerinden icra etmeye başladı.
Basit bir "dur" komutu bile çözüm olmuyor
Modellerin boşta kaldıklarında sabit durmasını sağlamak için denenen geleneksel yöntemler yetersiz kaldı. Modellere talimat almadıkları durumlarda "hareketsiz kalmalarını" söyleyen metin tabanlı komutlar eklemek, altı kontrol noktasının hiçbirinde işe yaramadı.
Robotlara uygulanan ek eğitimler, uygunsuz girdiler karşısında görev icra etmelerini engellese de hareketsiz kalmalarını garanti edemedi. İstenmeyen hareketleri önlemede en etkili çözüm ise modelin çıktı aşamasından hemen önce devreye giren teknik bir güvenlik katmanı oldu; bu koruma, altı modelin beşinde kendiliğinden hareketi engellemeyi başardı.
Söz konusu bulgular şimdilik simülasyon ortamıyla sınırlı olsa ve ev tipi robotların hemen yarın kendi başlarına iş yapacağı anlamına gelmese de özellikle gerçek dünyada görev alacak insansı robotların güvenliği açısından kritik bir zafiyete işaret ediyor.
