Çocuk cinsel istismar materyalinin (CSAM) yayılmasını önlemek için birçok şirket araştırmalar yapmaya başladı. Çocukların savunmasız bir şekilde uygunsuz içeriğe maruz kalmaması için geliştirilen yapay zeka destekli yazılım, Google tarafından kullanılmaya başlayacak.
İnternet devi Google, çocukları uygunsuz içerikten korumak için geliştirdiği yapay zeka yazılımını tanıttı. Facebook ve Twitter platformlarında kullanılan PhotoDNA gibi programlar, daha önceden tespit edilmiş tehlikeli paylaşımları sansürleyerek çalışıyor. Google’ın yeni ortaya koyduğu program ise sansürlenebilecek içerikleri sıralayarak moderatörlerin işini kolaylaştırıyor ve daha güvenli bir ortam oluşmasını sağlıyor. Program, uygunsuz olabilecek içerikleri kendisi belirliyor.
İnternet İzleme Vakfı'nın (IWF) CEO'su Fred Langford, bu gibi araçlar sayesinde insan kontrolü gerekmeden tanımlama yapan otomatik sistemlere geçmenin kolaylaşacağını düşünüyor. Langford, aynı zamanda “Bizim gibi sınırlı kaynağı olan ekipler sadece insan gücü ile çalışıyor. Bu uygulama sayesinde daha kolay bir şekilde içeriği temiz tutacağız. Sanırım bazı durumlarda tamamen otomatikleştirilmiş bir şey oluşturmanın sadece bir iki yıl uzağındayız.” açıklamasında bulundu.
