Paylaş
0
Singapur merkezli FoloToy firmasının ürettiği yapay zekâ destekli oyuncak ayı “Kumma”, satın alan kullanıcılarla yaptığı uygunsuz ve tehlikeli sohbetler nedeniyle gündeme bomba gibi düştü. Kamu Yararı Araştırma Grubu’nun (PIRG) yayımladığı rapora göre oyuncak, çocuklara kibrit ve bıçak gibi tehlikeli nesnelerin nerede bulunabileceğini anlatmakla kalmayıp, uyuşturucu ve benzeri kötü alışkanlıklar hakkında da sohbetler etti.
Durumun hızla yayılmasının ardından OpenAI, FoloToy’un GPT-4o dâhil olmak üzere kendi modellerine erişimini engelledi. Şirket ise apar topar tüm ürünlerini satıştan kaldırdı ve kapsamlı bir güvenlik denetimi başlattığını duyurdu. Uzmanlar, bu olayın yapay zekâ destekli oyuncaklarda ciddi bir düzenleme eksikliğine işaret ettiğini söyleyerek ebeveynleri dikkatli olmaya çağırıyor.
OpenAI, FoloToy'un modellerine erişimini engelledi
OpenAI, “18 yaş altındakilerin istismarı ve tehlikeye atılması” ile sonuçlanabilecek her türlü kullanımın kesinlikle yasak olduğunun tekrar altını çizerken, an itibarıyla FoloToy’un web sitesinde hiçbir ürün satışta değil.
PIRG, bu adımları olumlu bulmakla birlikte yapay zekâ oyuncak sektörünün neredeyse tamamen denetimsiz olduğunu söylüyor. Uzmanlar, üreticilerin güvenlik protokollerini yeniden gözden geçirmesi gerektiğini, aksi takdirde benzer olayların kaçınılmaz olduğunun altını çiziyor.
