İnternet ortamındaki zararlı içeriklere bir son vermeyi aklına koyan Facebook, görünüşe göre bunu tek başına yapamayacağının farkında. Sosyal medya devi, bu işe bir son vermek için başkalarıyla çalışmak ya da başkalarına destek vermek zorunda olduğunu düşünerek bazı adımlar atmaya başladı.
Şirket, bugün fotoğraf ve video denetleme teknolojilerinden ikisini açık kaynak olarak GitHub üzerinden paylaştı. Facebook, algoritmaların diğer insanların çocuk istismarı ve terörist propagandası gibi zararlı içerikleri tespit etmelerine ve kaldırmalarına yardımcı olacağını umuyor.
Günümüzde Facebook, zararlı bir fotoğraf ya da video bulursa içeriği ortadan kaldırıyor. Kullandıkları algoritma, şirketin kaldırdığı video ve fotoğrafları dijital ortamda işaretliyor. Böylece daha sonra ortada orijinal video ya da fotoğraf olmasa dahi diğer paylaşımda bulunan görüntüyle karşılaştırma yapabiliyor. Örnekle açıklamak gerekirse herhangi bir terör videosu internette yayılırsa Facebook’un kopyaları bulup kaldırması mümkün olabiliyor.
PDQ ve TMK + PDQF olarak bilinen bu algoritmalar, artık Facebook'un endüstri ortakları ile daha küçük geliştiriciler ve kar amacı gütmeyen kuruluşlar için kullanılabilir olacak. PDQ, pHash'tan esinlenilmiş ancak sıfırdan yapılmış bir fotoğraf eşleştirme aracı. TMK + PDQF ise Facebook'un yapay zekâ araştırma ekibi ve İtalya'daki Modena Üniversitesi’nden Reggio Emilia tarafından geliştirilen bir video eşleştirme aracı. Hâlihazırda içerik eşleştirme teknolojisini kullananlar için Facebook, PDQ ve TMK + PDQF’nin başka bir savunma katmanı sunabileceğini ve farklı sistemlerin birbiriyle iletişim kurabileceğini söylüyor.
Facebook, açık kaynaklı araçları Çocuk Güvenliği Hackathonu’nun bir parçası olarak duyurdu ve teknolojinin çocukların korunmasına yardımcı olabileceğini umuyor. Bu araçlar, her ikisi de çocukları korumak amacıyla piyasaya sürülen, Microsoft'un bulut tabanlı PhotoDNA aracı ve Google'ın İçerik Güvenliği API'ı ile birlikte kullanılabilir. Bu yıl başlarında YouTube'da birçok pedofili içerikli videonun bulunduğuna dair keşifler de bu gibi araçların ne kadar önemli olabileceğini gözler önüne seriyor.
