Facebook, “nefret dolu” memlerin ağın etrafında patlamasını önlemek için yeni bir girişim duyurdu. “Nefret dolu Memnuniyet Mücadelesi” olarak adlandırılan bu yeni algoritma, gazeteciler ve araştırmacılar tarafından incelenmek üzere erişilebilir; bu da web'de gezinirken “tehlikeli memeleri” “insanları güvende tutmak” için “olumlu” bir şey haline getirebilir.
Öncelikle, nefret dolu memeleri engellemek için Facebook'un yeni duyurulan programının hızlı bir özetini görmek isterseniz, Memology 101 kullanıcısının videosu tam burada:
Videoyu izlememeniz durumunda, facebook.com, Douwe Kiela (araştırma bilim adamı), Hamed Firooz (uygulamalı araştırma bilim adamı) ve Aravind Mohan (veri bilimcisi) tarafından zararlı içeriğin “tüm teknoloji endüstrisini ve genel olarak toplumu etkilediğini” söylüyor.
Yukarıdakilere ek olarak, The Hateful Memes Challenge'ın arkasındaki birçok sahadan biri ve başarmayı amaçladığı şey:
“Yapay zeka araştırmacılarının multimodal nefret söylemini tanımlamak için yeni sistemler geliştirmelerine yardımcı olmak için özel olarak tasarlanmış bir veri kümesi oluşturduk ve paylaşıyoruz. Bu içerik, metin ve görüntüler gibi farklı yöntemleri birleştirerek makinelerin anlamasını zorlaştırır.
Nefret dolu Memeler veri seti, Facebook AI tarafından oluşturulan 10,000'den fazla yeni multimodal örnek içeriyor. Getty Images'ın görüntülerini lisansladık, böylece araştırmacılar çalışmalarını desteklemek için veri kümesini kullanabilirler. Ayrıca, temel eğitimli modeller için kod yayınlıyoruz.
Ayrıca, DrivenData tarafından 100,000 $ toplam ödül havuzuyla düzenlenen türünün ilk örneği çevrimiçi yarışma olan Hateful Memes Challenge'ı da başlatıyoruz. Zorluk NeurIPS 2020 yarışma pistinin bir parçası olarak kabul edildi. ”
Facebook AI, Nefretli Memes Mücadelesi ile birlikte, üç bilim adamı ve Facebook ekibi tarafından şu anda en iyi çözüm olduğu söyleniyor. Bununla birlikte, ekip potansiyel kötüye kullanımı önlemenin yollarını da araştırıyor ve bu yüzden sınırlı erişim olacak.
Bu, katılımcıların (gazeteciler ve araştırmacılar) söz konusu verileri nasıl kullanacakları, depolayacakları ve işleyecekleri konusunda katı kullanım koşullarını kabul etmeleri gerektiği anlamına gelir.
Ayrıca, ekibin, nefret dolu örnekleri potansiyel yanlış pozitiflerden ayırmak için AI algoritmasına yardım etmeye çalıştığını da öğreniyoruz. Sınıflandırma kararlarının uygulanabilir olduğundan emin olmak için, ekip özellikle nefret söylemini tanımlamak için aşağıdaki örnekleri yarattı:
“Etnik köken, ırk, milliyet, göçmenlik durumu, din, kast, cinsiyet, cinsiyet kimliği, cinsel yönelim ve engellilik veya hastalık gibi özelliklere dayalı olarak doğrudan veya dolaylı saldırı. Saldırıyı şiddet içeren veya insanlık dışı (insanları hayvanlar gibi insan dışı şeylerle karşılaştırarak) konuşma, aşağılık ifadeleri ve dışlama ya da ayrımcılık çağrısı olarak tanımlıyoruz. Nefret suçuyla alay etmek de nefret söylemi olarak kabul edilir. ”
Son olarak, ekibin Facebook'taki “nefret dolu konuşmayı” ve diğer “zararlı içeriği” tespit etmek için yapay zeka sistemlerinin geliştirilmesinde ilerleme kaydettiği söyleniyor. Bununla birlikte, ekip, Nefret Dolu Memurlar Yarışması'nın “insanları güvende tutmak” için Facebook'un ötesine ve diğer platformlara yayılmasını istiyor.