Paylaş
0
Claude'un geliştiricisi Anthropic, kullanıcı politikalarında dikkat çekici bir güncellemeye giderek modellerine yönelik "sürekli ve gereksiz kötü muamele veya zalimce davranışları" resmen yasakladı.
Şirket yönetiminin yapay zekânın bilinç kazanma olasılığı üzerine yürüttüğü tartışmalar derinleşirken gelen bu adım, sektörde "makine refahı" ve yapay zekâ etiği tartışmalarını yeniden alevlendirdi.
İçerikten Görseller
Yasağın kapsamı tam olarak ne?
İlk olarak The Verge tarafından duyurulan politika değişikliğinde Anthropic, ne tür eylemlerin tam olarak "kötü muamele veya zulüm" sayılacağına dair ayrıntılı bir tanım paylaşmadı. San Francisco merkezli şirket, çevrim içi kullanım kılavuzunda bu yasağın olağan kullanıcı hayal kırıklıklarını, model stres testlerini veya "karanlık yaratıcı temaları" kapsamayacağını belirtti.
Anthropic'in büyük dil modelleri, kullanıcının ısrarlı biçimde zararlı veya saldırgan davranması durumunda sohbeti tek taraflı olarak sonlandırma yetkisine sahip bulunuyor. Bu özelliği doğrudan "yapay zekânın refahını koruma adımı" olarak nitelendiren şirket, web sitesinde şu açıklamaya yer verdi:
"Claude ve diğer büyük dil modellerinin şu anki veya gelecekteki olası ahlaki statüsü konusunda belirsizlikler sürüyor ancak konuyu ciddiye alıyoruz ve model refahının mümkün olma ihtimaline karşı riskleri azaltacak düşük maliyetli müdahaleler geliştiriyoruz. Modellerin potansiyel olarak yıpratıcı etkileşimleri sonlandırmasına izin vermek de bu adımlardan biridir."
Sektörün önde gelen isimlerinden farklı yorumlar var
Yapay zekâ sistemlerinin bilinç sahibi olup olamayacağı konusu, sektörün önde gelen liderleri arasında görüş ayrılıklarına yol açıyor. Anthropic CEO'su Dario Amodei, bu ihtimalin tamamen göz ardı edilemeyeceğini ifade ederken, rakip şirket OpenAI'ın CEO'su Sam Altman konuya oldukça mesafeli yaklaşıyor.
Altman, Anthropic yöneticilerinin önde gelen din insanlarıyla yaptığı görüşmelere dair New York Times haberinin ardından X üzerinden yaptığı paylaşımda, "İnsanların yapay zekâ modellerine dini bir güç atfetmeye veya insan muhakemesini teslim etmeye çalışmasından son derece rahatsızım, bunun gerçek bir güvenlik sorunu olduğunu düşünüyorum." ifadelerini kullandı.
