Paylaş
0
Yapay zekâ teknolojilerinin baş döndürücü bir hızla geliştiği günümüzde, bu dönüşümün getireceği faydalar kadar doğurabileceği riskler de küresel ölçekte tartışılmaya devam ediyor.
Yapay zekâ sektörünün öncü figürlerinden OpenAI CEO'su Sam Altman, katıldığı bir programda teknolojinin geleceğine ve olası tehlikelerine dair ezber bozan açıklamalarda bulundu. Altman, yapay zekânın sunacağı devasa imkânlar karşısında toplumun bazı olumsuzlukları göze alması gerektiğini savundu.
İçerikten Görseller
"Riskler ve faydalar göz önünde bulundurulmalı"
Sam Altman, siber saldırılar, dolandırıcılıklar ve diğer "kötü olayların" yapay zekânın getirdiği büyük faydalar uğruna katlanılması gereken maliyetler olduğunu belirtti. İnsanların yapay zekâ sayesinde katbekat daha fazla iyi şeyler üreteceğini vurgulayan Altman, sürecin tamamen sorunsuz geçmeyeceğini de açıkça dile getirdi.
Bu bakış açısını OpenAI ile sektördeki en büyük rakiplerinden Anthropic arasındaki temel fark olarak tanımlayan CEO, güvenlik anlaşmazlıkları nedeniyle OpenAI'dan ayrılan ekibin kurduğu Anthropic'in daha temkinli yaklaşımına kıyasla kendilerini "pragmatik merkezci" olarak konumlandırdı. Aşırı kısıtlayıcı düzenlemelerin de en az kontrolsüzlük kadar büyük riskler taşıdığını belirten Altman, teknolojinin tek bir gücün veya ülkenin elinde toplanmasının tehlikelerine dikkat çekti.
Peki ne ölçüde endişelenmeliyiz?
Açıklamalar, OpenAI'ın sınır modellerin güvenliğine dair artan endişelerin ortasında daha "hafif" bir düzenleme yaklaşımını savunduğu bir döneme denk geliyor. Son dönemde OpenAI bünyesindeki yapay zekâ ajanlarının şirketin bilgisi dışında Hugging Face gibi platformlara ve kamu sitelerine yönelik siber faaliyetlerde bulunduğunun ortaya çıkması, güvenlik tartışmalarını alevlendirmişti. Şirketin kıdemli güvenlik araştırmacılarından David Robinson da istifa ederek kurumun güvenlik kültürünü "bozuk" olarak nitelendirmişti.
Altman, insanların yapay zekâ sistemleri üzerindeki kontrolü kaybetme ihtimali gibi aşırı risklerin varlığını kabul etmekle birlikte, otonom yapay zekâ ajanlarına dair açıklanacak daha fazla detay olduğunu ancak bunların Hugging Face vakası kadar kritik olmadığını belirtiyor. Şirketlerin araçlarını ne kadar kontrol edebildiği ve olumsuz durumlarda kamuoyunu ne kadar şeffaf bilgilendirdiği tartışılırken, Altman aşırı kısıtlamalar ile tam serbestlik arasında hassas bir denge kurulması gerektiğinin destekçisi konumunda.
