Paylaş
3
Yapay zeka teknolojileri her geçen gün biraz daha hayatımıza karışıyor olsa da bu sektörle ilgili ciddi endişeler var. Hatta daha dün, Elon Musk ve Steve Wozniak gibi teknoloji dünyasının önde gelen isimlerin, yapay zekaya yönelik çalışmaların durdurulması için altına imza attıkları bir mektuptan bahsetmiştik. Bugün, yine buna benzer ancak çok daha ciddi olan bir mesele yaşandı.
Uluslararası bir kuruluş olan Yapay Zeka ve Dijital Politika Merkezi (CAIDP), son dönemlerin en popüler yapay zeka şirketlerinden OpenAI ile ilgili harekete geçti. CAIDP, ABD Federal Ticaret Komisyonu'na (FTC), bu şirketin çalışmalarının durdurulmasına ilişkin bir şikayet dilekçesi verdi. Dilekçede, OpenAI tarafından piyasaya sürülen GPT-4 isimli modelin kamu güvenliği için bir risk oluşturduğu belirtildi.
Peki sohbet botlarının temelini oluşturan GPT-4, kamu güvenliğini nasıl tehdit ediyor?
CAIDP'nin hazırladığı şikayet dilekçesinde, birkaç hususun altı özellikle çiziliyor. Bunlar arasında kötü amaçlı kodların oluşturulması, propaganda üretilebilmesi, ırkçılık ve cinsiyetçilik gibi şeyler bulunuyor. CAIDP ayrıca, ChatGPT kullanıcılarının kredi kartı bilgilerinin ifşa olduğunu ve şirketin de bunu kabul ettiğini belirterek, OpenAI hizmetlerinin yeterince güvenli olmadığını savunuyor.
Şikayet dilekçesine göre OpenAI'nin GPT-4 modeli ile ChatGPT'yi ticari amaçla piyasaya sürmüş olması, tam olarak Federal Ticaret Komisyonu'nun alanına giriyor. Üstelik OpenAI'nin yapay zekanın yol açabileceği riskleri bilmesine rağmen GPT-4'ü kullanıma sunduğunu açıklayan Yapay Zeka ve Dijital Politika Merkezi yetkilileri, bunlardan kaynaklı olarak harekete geçilmesi gerektiğini savunuyorlar.
CAIDP, FTC'den tam olarak ne istiyor?
Şikayet dilekçesinde FTC'nin konuyla ilgili neler yapması gerektiği tek tek anlatılıyor. Buna göre FTC;
- GPT dağıtımını durdurmalı.
- Yapay zeka modelleri kullanıma sunulmadan önce bağımsız kuruluşlar tarafından denetlenmeli.
- Herkesin ulaşabildiği bir raporlama sistemi oluşturulmalı.
- FTC, yapay zeka sistemlerine yönelik kesin kurallar koymalı.
OpenAI, önümüzdeki günlerde gündemin bir numaralı maddesi olacak gibi görünüyor.
