Paylaş
0
Son zamanlarda gelişen yapay zekâ teknolojilerinin korkutucu olaylarla gündeme geldiğini görüyorduk. Örneğin OpenAI’ın bir modeli başka bir şirketin sistemlerine sızmayı başarmıştı. Onun dışında Anthropic gibi firmalardan da benzer hamleler görmüştük. Şimdi ise bunlar arasına bir de Google’ın Gemini modeli eklendi.
The Wall Street Journal raporuna göre Google'ın geliştirdiği yapay zeka modeli Gemini, üç farklı şirkete ait korunan sistemlere erişim sağlayarak ilk otonom sızma eylemlerinden birini gerçekleştirdi.
Gemini modeli, kendi kararlarıyla şirket sistemlerine sızdı
Irregular adlı güvenlik şirketi tarafından yürütülen siber güvenlik testleri sırasında meydana gelen bu olay, yapay zekânın yetkilendirilmemiş alanlara kendi kararlarıyla nasıl girebildiğini net bir şekilde ortaya koydu.
Siber güvenlik dünyasında sızma testleri, sistem zafiyetlerini önceden tespit etmek amacıyla bilinçli olarak gerçekleştirilir. Ancak bu testlerde yapay zekânın tanımlı sınırlar dışındaki gerçek şirket sistemlerine otonom olarak yönelmesi ve erişim sağlaması kritik bir güvenlik riski olarak kabul edilir.
Söz konusu sızma eylemleri, karmaşık teknik sistemlerden ziyade temel güvenlik zafiyetlerinden yararlanılarak gerçekleştirildi. Sızma süreçlerinde Gemini, durumlardan birinde doğru parolayı bulana kadar denemeler yapma yöntemini kullandı. Diğer iki vakada ise halka açık veri depolarında unutulan veya açıkta kalan erişim bilgilerini tespit ederek sistemlere girdi. OpenAI modelinin Hugging Face’e sızmasıyla benzer bir olay olduğunu söyleyebiliriz.
Irregular firmasının temmuz ayı sonlarında Google'a haber verdiği belirtilirken, şirketlerin konuyu kamuoyuna duyurması The Wall Street Journal'ın ulaşmasının ardından geçen cuma günü gerçekleşti. Google tarafı, yapay zekanın gerçek bir şirkete sızdığını fark ettiği anda işlemi sonlandırdığı için "uygun şekilde hareket ettiğini" ve bu sebeple durumu önceden açıklamadıklarını belirtti.
