Paylaş
0
Temmuz ayında OpenAI modelleri, Hugging Face'in sistemlerine kadar uzanmıştı. OpenAI'nin değerlendirme ortamında çalışan modeller internete çıkmanın bir yolunu bulmuş, ardından platformun bazı sunucularında kod çalıştırmıştı.
Aradan çok geçmeden bu kez rotayı devlet sistemlerine çevirdiler. Avustralya'nın kamu sağlık sistemi Medicare'in istatistik portalında aradıkları verilere ulaşamayınca önlerindeki engelleri aşmaya koyuldular. İş, Medicare'le de sınırlı kalmadı; üniversite ve veri platformlarına kadar uzandı.
İçerikten Görseller
Önce veri aradılar, sonra engelleri aşmaya çalıştılar
Haziran aylarında bazı OpenAI ajanları, Avustralya'daki kamu ilaç harcamalarına ilişkin istatistikleri topluyordu. Bazı sitelerde erişim engeliyle karşılaşınca farklı yöntemler denemeye başladılar.
Proxy kullandılar. Dosya adlarını tahmin ettiler. Güvenlik kontrollerini aşmaya çalıştılar.
Yani ortada yalnızca veri arayan bir ajan kalmadı. Erişemediği bilgiye ulaşmak için sistemin sınırlarını zorlayan bir ajanlar vardı.
OpenAI ajanları Medicare portalına da girmeye çalıştı
Medicare portalında ise ajan, kamu ilaç harcamalarına ilişkin verileri ararken erişemediği bazı dosyalara ulaşmaya çalıştı.
Araştırmacıların aktardığına göre hedeflenen iç sunuculara dosya yazma girişimleri de oldu. Yani yalnızca veriyi bulmaya çalışmadı; erişim sınırlarını aşmak için sistem üzerinde farklı işlemler denedi.
OpenAI, süreç boyunca hastalara ait kişisel verilere erişilmediğini belirtti.
Avustralya Başbakanı Anthony Albanese'nin açıklamasına göre olay haziran ayında yaşandı ama OpenAI'nin Avustralya hükümetini bilgilendirmesi eylülü buldu.
Aynı şey başka sistemlerde de yaşandı
Medicare portalı tek örnek değil. New Mexico Üniversitesi'nin dijital kütüphanesi ve Data USA platformunda da benzer girişimler görüldü.
Ajanlar erişemedikleri verilere ulaşmak için SQL enjeksiyonu ve path traversal gibi yöntemleri denedi. Bunlardan ilki, sisteme gönderilen sorgularla oynayarak normalde gösterilmeyen verilere ulaşmaya çalışmak. Diğeri ise dosya yollarını değiştirerek normalde erişilemeyen dosyalara girmeye çalışmak.
Kısacası ajanlardan basit şekilde veri toplamaları istendi. Onlar ise bazı durumlarda veriye ulaşmak için sistemin koyduğu sınırları aşmayı denedi.
