Facebook'un dürüstlükten sorumlu başkan yardımcısı, adam gül, nefret söylemiyle mücadelede kullandığı yapay zeka teknolojisinin çok az etkisi olduğu iddialarını "doğru değil" diyerek yalanladı. Bunun yerine, Facebook'ta nefret söyleminin yaygınlığının son üç çeyrekte neredeyse %50 düştüğünü iddia etti.
"Platformumuzda, kullanıcılarımızda veya reklamcılarımızda nefret görmek istemiyoruz ve bunu ortadan kaldırmak için çalışmalarımızda tam bir şeffaflığa sahibiz.Rosen şunu yazdı: yayın.
Rosen'in gönderisi, Wall Street Journal'da sızdırılan dahili belgelere dayanarak, şirketin yapay zeka teknolojisinin saldırganlığı ortadan kaldırmak için oluşturulduğunu belirten bir makalede ele alındı. içeriknefret söylemi ve şiddet içeren görüntüler gibi çok az başarı elde etti.
Raporda, Mart ayında bir grup Facebook çalışanının, yapay zeka sistemlerinin, platformda %3 ila %5 oranında nefret söylemi oluşturan ve tüm içeriğin %0,6'sını oluşturan ve şirketin şiddet ve kışkırtmaya karşı politikalarını ihlal eden gönderileri kaldırdığını tahmin ettiği belirtildi.
Ancak Rosen, "Yalnızca içeriği kaldırmaya odaklanmak, nefret söylemiyle nasıl mücadele ettiğimize bakmanın yanlış yoludur'.
"Bunun nedeni, nefret söylemini ortadan kaldırmak için teknolojiyi kullanmanın bununla başa çıkmanın sadece bir yolu olmasıdır. Kaldırmadan önce bir şeyin nefret söylemi olduğundan emin olmalıyız."
"Bir şey nefret söylemi olabilir, ancak bunun kaldırılacak sınırı aştığından yeterince emin değilsek, teknolojimiz içeriğin dağıtımını azaltabilir veya politikaları ihlal edebilecek düzenli içerik yayınlayan Gruplar, Sayfalar veya Bireyler önermeyebilir. biz de kullanıyoruz teknoloji Daha fazla arka plan için içeriği vurgulamak için."
Bunun yerine, Facebook'un başarısını, platformdaki insanlar tarafından görülen nefret söyleminin yaygınlığına dayanarak ölçtüğünü ve platformunda 10.000'de yalnızca beş görüntüleme olduğunu belirtti.
Rosen ayrıca, WSJ raporunun temkinli tespit oranını "yanlış yorumladığını" belirtme fırsatı buldu; bu, şirketin teknolojisinin insanlar şirkete bildirmeden önce rahatsız edici içerik bulmada ne kadar iyi olduğunu söylemek için kullanması gereken bir başka önlemdi.
Geçen ay Facebook, bir yapay zeka modelini milyonlarca mevcut içerik parçasından doğrudan öğrenmesi için yönlendiren Reinforcement Integrity Optimizer'ın (RIO) tanıtımı da dahil olmak üzere, içeriği ölçmek için kullanılan yapay zekada ilerlemeler kaydettiğini söyledi. işini yapar.