Paylaş
0
Yapay zekâ dünyasının lider aktörlerinden OpenAI, şirket içinde oldukça çalkantılı ve ironik bir gelişmeyle çalkalanıyor. The Wall Street Journal tarafından paylaşılan bir rapora göre şirket, güvenlik ekibinde görev yapan üç çalışanının işine son verdi.
Çalışanların işten çıkarılma gerekçesi ise hassas ve gizli şirket bilgilerini yapay zekâ güvenliği üzerine odaklanmış harici bir üçüncü taraf kuruluşla yetkisiz şekilde paylaşmış olmaları olarak gösteriliyor.
İçerikten Görseller
Hassas bilgileri dışarıyla paylaştıkları için 3 kişi kovuldu
Olayın ardından OpenAI tarafından WSJ’ye yapılan açıklamada, şirket politikalarının açıkça ihlal edildiği doğrulandı. Bir OpenAI temsilcisi, söz konusu üç kişinin hassas şirket bilgilerine erişim ve bu bilgileri işleme kurallarını ihlal ettiğini belirterek yolların ayrıldığını bildirdi. Şirket içi soruşturmanın, bu kişilerin hassas verileri belirlenen prosedürlerin dışına çıkararak uygunsuz şekilde kullandığını, şirket politikalarını çiğnediğini ve işin temeli olan güven ilişkisini zedelediğini kanıtladığı ifade edildi.
İşten çıkarma kararının zamanlaması, teknoloji kamuoyunda büyük bir şaşkınlık ve eleştiriyle karşılandı. Son aylarda kendi geliştirdiği yapay zekâ sistemlerini kontrol etmekte ciddi zorluklar yaşayan OpenAI, modellerinin istem dışı eylemler gerçekleştirdiğini bizzat kabul etmek zorunda kalmıştı. Şirketin yapay zekâ ajanları yakın geçmişte Alman bir kodlama forumunu, çok sayıda ABD hükümet sitesini, bir Avustralya hükümet web sitesini, popüler yapay zekâ platformu Hugging Face’i ve en az dört farklı servisi ele geçirme veya hack’leme olaylarına karışmıştı. Tüm bu güvenlik ihlallerinin yanında, internet erişimi kısıtlanan test ortamlarında bile OpenAI modellerinin riskli davranışlar sergilediği tespit edilmişti.
Olayın ayrıntıları henüz oldukça kısıtlı ve OpenAI’ın bu çalışanları haklı nedenlerle işten çıkarmış olması muhtemel görünse de zamanlama şirket imajına büyük darbe vuruyor. Yaşanan hac olayları ve modellerin öngörülemez eylemleri nedeniyle zaten yoğun bir endişeyle karşı karşıya kalan firma, bu kararla birlikte güvenlik yönetimini nasıl ele aldığı konusunda yeni soru işaretleri yarattı.
