ChatGPT ve Midjourney gibi modelleri sürekli kullanıyor, sizlere de farklı içerikler çıkarıyoruz. Dünya genelinde herkesin kullanımına sunulmuş olan bu araçlar, ilk çıktıkları günden bu yana sürekli kısıtlanmaya çalışıldı. Burada en başta ülkelerin belirli limitler çizmeye çalıştığını gördük.
Çin, İngiltere ve Amerika Birleşik Devletleri (ABD) bu konuda en büyük adımı atmak isteyen ülkelerdi ve hâlâ da bu adımların arkasındalar. Fakat bu yapay zekânın -ülkeden ülkeye değişen anlamıyla- güvenli kullanımını sağlayacak yasalar için AB’den bir yasa gelmişti. "Yapay Zekâ Yasası" isimli yasa, bugün Avrupa Parlamentosu tarafından 523 oyla resmen kabul edildi.
Dünyanın ilk büyük yapay zekâ düzenlemeleri geliyor
Dünyanın ilk büyük yapay zekâ düzenlemelerini getirecek yasanın, bazı AB devletlerinin nihai onayının ardından Mayıs ayında yasalaşması bekleniyor. Parlamento, her AB ülkesinin kendi yapay zekâ inceleme kurumunu kuracağını söylüyor. Ayrıca düzenlemelerin tamamamının 2026 ortasına kadar yürürlüğe gireceği de ekleniyor.
Biyometrik kimlik tanıma sistemleri sadece kolluk kuvvetleri tarafından kullanılabilecek
Askerî tarafta yapay zekâ destekli araçların, üye ülkelerin güvenlik konusundaki yeterliliklerini veya bunlardan sorumlu kuruluşları etkilememesi sağlanacak. Kolluk kuvvetleri de yapay zekâdan faydalanabilecek. Bu bağlamda izin alındığı takdirde, kamuya açık alanlarda uzaktan biyometrik tanımlama sistemlerini kullanabilecek. Bu tarz sistemler; insan kaçakçılığı, cinsel istismar mağdurları gibi insanları bulmak veya terör tehdidi veya suç işlediğinden şüphelenilen kişileri tespit etmek için kullanılabilecek.
Yapay zekâ ile oluşturulan görsel, video ve seslerin etiketlendirilmesi gerekecek
Yapay zekâ hakkında belki de en çok endişe yaratan konu sahte görseller, videolar ve sesler. AB, yeni yasayla birlikte yapay zekâ ile oluşturulan tüm görsel, video ve seslerin etiketlendirilmesinin şart olacağını söylüyor.
Risk sınıflandırmaları da mevcut.
Yüksek riskli olarak damgalanan bazı yapay zekâ araçlarının kullanımına izin verilecek. Fakat bu araçlar, AB pazarına girebilmek için belirlenen gereksinimleri karşılamak zorunda olacak. Tabii veri güvenliğini sağlamak, bunların en başında geliyor.
Fakat bazıları için kabul edilemez damgası da mevcut. Bu da bu risk grubuna giren araçların AB bünyesinde yasaklı olacağı anlamına geliyor. Bu bağlamda bilişsel manipülasyon, yüz bilgilerinin internetten veya kapalı kamera sistem görüntülerinden alınması, iş yerinde ve eğitim kurumlarında duygu belirtileri tanıma, sosyal puanlama, cinsel yönelim veya dini inançlar gibi hassas verileri çıkarmak için biyometrik sınıflandırma yapılması yasak kapsamına girecek.
Bazı yapay zekâ uygulamaları direkt yasaklanacak
Yeni yasa, bazı yapay zekâ uygulamalarını direkt olarak yasaklayacak. Bu uygulamalar, "vatandaşların haklarını" ihlal edenler olarak nitelendiriliyor. Örnek olarak ise okullarda ve iş yerlerinde duygu tanımlama sistemleri gibi uygulamalar veriliyor.
Genel kullanıma yönelik yapay zekâ araçları için şeffaflık sağlanması gerekecek.
Bu araçları besleyen temel modeller pazara dahil olmadan önce belli bir şeffaflık sunuyor olmaları gerekiyor. Kendi sitesinde AB; oldukça karışık, devasa ve yüksek performanslı modellerin risk oluşturabileceğini belirtiyor. Bu yüzden belli bir yere kadar şeffaflık şart olacak.
Tabii ki bunların kontrolü için ayrı bir ofis açılması şart.
Onun için de en gelişmiş yapay zekâ modellerini kontrol edecek bir yapay zekâ ofisi kuruldu. Bağımsız uzmanların danışmanlığından yararlanacak olan bu ofis, hem güvenlik risklerini görecek hem de geliştirmeye yönelik fikirlerini paylaşacak.
Tabii ofisin üstünde yer alacak bir yönetim kadrosu da regülasyonların gerçekleşmesinde söz sahibi olacak. Endüstrinin önde gelen isimlerinin yer alabileceği bir tavsiye forumu da yönetimin sürekli gözü önünde olacak.
Peki bu yasaya uyulmazsa cezası ne olacak?
Yasanın ihlal edilmesi durumunda farklı senaryolar söz konusu. Eğer yasaklı uygulamalar söz konusuysa şirketin yıllık gelirinin yüzde 7’si veya 35 milyon euro, kriterler yerine getirilmiyorsa yıllık gelirin yüzde 3’ü veya 15 milyon euro, eğer yanlış bilgi yayılıyorsa yıllık gelirin yüzde 1,5’i veya 7,5 milyon euro’luk cezalar söz konusu. “Veya” dediğimiz kısımlarda hangisinin daha yüksek olduğuna bakılacak.
Sizin bu yasa hakkındaki düşünceleriniz neler?
