Microsoft CEO'su Satya Nadella'dan Yapay Zekâ Uyarısı: ''Acil Durum Freni...''

Yapay zekâ güvenliğine dair tartışmalar her geçen gün daha da alevlenirken, sürece yön veren liderlerden Microsoft CEO’su Satya Nadella da kapsamlı bir yol haritası paylaştı.

İçerikten Görseller

×

+ −

‹ ›

Nadella, yapay zekânın mevcut güven mimarisini yeniden değerlendirme zamanının geldiğini belirterek, sistemlerin baştan itibaren sınırlandırılması ve doğrudan insan denetimine bağlanması gerektiğini belirtti.

İçerikten Görseller

×

+ −

‹ ›

Sektörde kontrol kaybı endişeleri artıyor

X üzerinden yaptığı açıklamada yapay zekânın denetimsiz bir yapıya teslim edilmemesi gerektiğini belirten Nadella, sistemlerin iç içe geçmiş "kara kutular" olarak kabul edilip sundukları yanıt ve eylemlerin körü körüne onaylanamayacağını ifade etti. Nadella’ya göre güvenli bir yapı kurmak, modeli doğrudan yönlendiren yürütücü mekanizmadan ayırmaktan ve güvenlik denetimlerini tamamen modelin dışına taşımaktan geçiyor.

Bu yaklaşım kapsamında yapay zekânın gerçekleştirdiği her kritik adımın manipüle edilemez ve insan tarafından okunabilir kanıtlarla belgelenmesi gerektiğini savunan Microsoft CEO’su, kritik anlarda yetkili bir kişinin modeli görev esnasında durdurabileceği veya tamamen kapatabileceği mekanizmaların kurulmasını önerdi. Modellerin daha en baştan "güvenliği ihlal edilmiş" varsayılarak sınırlandırılması gerektiğini belirten Nadella, bu mekanizmayı bir "acil durum freni" olarak nitelendirdi.

Nadella’nın değerlendirmeleri sektör genelinde ilk değil ve muhtemelen son da olmayacak. Önde gelen teknoloji şirketlerinin modeller üzerindeki kontrolün zayıfladığına işaret eden vakalarla son günlerde sık sık karşılaşıyoruz ve en son Anthropic CEO’su Dario Amodei de daha temkinli bir yapay zekâ geliştirme planına geçtiklerini kamuoyuyla paylaşmıştı.