Rus propagandasından nefret söylemine kadar geçen aylarda şirketi çeken birkaç krizden biri.
Endişeleri yanıtlamak için bir kez daha Facebook'un sürülerdeki insanları işe alması gerçeğine dönecektir.
Sadece bilgisayar gücü ile sorunu çözmek için yeteri kadar gelişmiş olmayan bir ılımlılık ve doğrulama süreçlerine insani bir dokunuş eklemek için alınan binlerce yeni işçi.
Şirket, şu anda 20.000 kişinin belirtilen hedefine giden yolda 15.000 kişinin toplum güvenliği çabalarına dahil olduğunu söyledi. Geçen sene bu kez kaç kez oldu.
Facebook'un en kötü oyuncularına karşı savunma hattı olmakla görevlendirilmiş olan bu ekip, önemli bir güce sahip - ve bazıları bunu, çevrimiçi ortamda en çok risk altında olan toplulukların temsilcisi olarak görüyor.
California Üniversitesi Sosyal İyi Program için CITRUS Teknik Direktörü Brandie Nonnecke, “Farklı moderatörlere sahip olmak ve moderasyon ekibinizdeki çeşitlilik seviyesini bilmek kesinlikle çok önemlidir.
"Yöneticileriniz ne kadar çeşitli olursa, Facebook'taki çeşitli katılımcılar arasında nefret söylemi olarak nitelenen ve neyin söz konusu olmadığını belirleyen nüanslı normlarda daha kollektif olarak bilgilendirilecekler."
Şu ana kadar işe alınan 15.000 kişi sadece içerik yorumcuları olarak bilinen yayınları değil, aynı zamanda mühendisleri, veri analistlerini ve diğer ilgili işleri de barındırıyor.
İçerik denetçileri şimdiye kadar en az 7,500'lük bir yapıya kavuşuyor - ilk önce yapay zekanın yakalanmaması durumunda, neyin kaldığı ve neyin tükendiğine dair ilk kararı veren cephe personeli.
Çoğu - Facebook tam olarak kaç kişi demez - tam zamanlı Facebook çalışanları değildir. Bunun yerine şirket, Accenture, Arvato ve CCC olarak bilinen Consolidated Contractors Company gibi görevleri yerine getirmek için birkaç müteahhit firma kullanıyor.
Facebook, bu firmaların ılımlılık çabalarını hızlı ve küresel ölçekte artırmasına yardımcı olduğunu belirtti.
Ancak bu aynı zamanda içerik eleştirmenlerinin Facebook'un çeşitlilik raporuna dahil edilmeyeceği, şirketin cinsiyet ve etnik yapısının yıllık olarak parçalanacağı anlamına geliyor.
Diğer birçok ABD teknoloji devleri gibi, rapor da rahatsız edici bir gerçeği ortaya koyuyor: çoğunlukla erkek ve ezici bir şekilde Beyaz veya Asya olan bir örgüt.
Facebook, “her türden insanı hoş karşıla, teşvik et ve teşvik et” diyenlerin moderatör olduklarını, ancak bu amaca ulaşmak için uyguladığı herhangi bir pratik önlemi paylaşamayacağını söyledi.
Zinciri inceleyen Facebook'tan anlaşılan firmalardan biri olan Accenture, aynı zamanda geniş ılımlı iş gücü için çeşitlilik rakamları sunamadı.
Bunun bir nedeni, BBC'nin, Accenture tarafından kullanılan moderatör personelin birçoğunun, diğer dış ajanslardan da sözleşmesi olduğunu anlaması. Accenture için bir sözcü bu ajanslar veya onların işe alım süreci hakkında herhangi bir ayrıntı paylaşmayacaktı.
İşleri daha da karmaşık hale getirmek, veri toplamaya dair kurallar - ve bir şirketin çalışanlarının etnik kökenini hangi ölçüde kayıt altına alabileceği - dünyanın farklı bölgelerine göre değişir.
Denetçilere açılmak
Bay Zuckerberg'in son defa politikacılarla yüz yüze olduğu son gündü. ABD istihbarat komitelerinin önünde iki yorucu seans.
Demokratik Senatör Cory Booker, Facebook'un yeni edindiği işgücü hakkında endişelerini dile getirdi.
Sen Booker, "Şirketin çok dramatik bir şekilde çeşitliliğe sahip olmayan bir sektör olmasının gerçekten ciddi bir sorunu olduğunu" söyleyerek Bay Zuckerberg'e, şirketin süreçlerinin bağımsız bir denetimine açık olup olmayacağını sorduğunu söyledi. .
Resim telif hakkı GETTY IMAGES
Resim yazısı
Mark Zuckerberg Kongreye çeşitlilik ve medeni haklar konusunda bağımsız bir denetime açık olacağını söyledi
Bu denetim, bu ayın başında duyuruldu ve bir sivil haklar grubu koalisyonu tarafından yönetiliyor.
İslami haklar grubu Müslüman Avukatlar'dan Madihha Ahussain, BBC'nin denetim kapsamındaki ayrıntılarının hala araştırıldığını söyledi. Grubun moderatörlerin çeşitliliğini değerlendireceğini umduğunu söyledi.
“Eğer bunu takip etmiyorlarsa, müteahhitler getiriyorlarsa, bu insanların bu zorlukları nasıl üstleneceklerinin bir ölçüsü olmalı” dedi.
"Bizimle paylaştıkları insanların geçmişini paylaşamazlarsa, bu insanların düzgün bir şekilde eğitilmesini sağlamak için neler paylaşırlar?"
Senatör Booker denetimi memnuniyetle karşıladı, ancak bir takip mektubunda Facebook'un ilerleme hızını yakından izlemek istediğini ifade etti.
“Facebook gerçekten de platformunda tacizi ve ayrımcılığı ortadan kaldırmaya ve sosyal medyanın ve büyük verilerin yetersiz hizmet alan toplulukları nasıl etkilediğini anlamaya gerçekten adamışsa, o zaman çeşitli araştırmacıları ve veri bilimcileri işe almayı, işe almayı ve tutmayı şart koşmalıdır” diye yazdı.
'Eğitim saatleri'
Facebook, moderatörlerin sağlam kararlar verebildiğinden emin olma amacını ciddiye aldığını söyledi.
Örneğin, BBC'ye, belirli bir ülkede yayınlanan nefret söyleminin, aynı ülkede bulunan birisinin veya o alanın kültürel normlarına yeterince aşina birisinin moderatörlüğünü sağlamak için çaba göstereceğini söyledi.
Facebook'un ürün sorumlusu Guy Rosen, bu ayın başlarında bir brifing seansında “Ülkeden gelmeleri gerekiyor” dedi.
"İngiltere ve ABD arasında bile, İngilizcede saldırıya uğrayan şeylerde nüanslar var."
Medya başlığı İZLEME: Facebook kötüye kullanımın boyutunu gösteriyor
Ve daha fazla içerik barındırma alanlarına gelince - çıplaklık gibi - bu görevler nereye gönderildiklerine bakılmaksızın tüm dünyada ele alınır.
Tüm kararların, şirketin bu ayın başında yayınladığı kapsamlı politika ilkeleri çerçevesinde yapılması gerekiyor .
Başa çıkmak için, içerik eleştirmenleri, deneyimli içerik uzmanlarının yanında çalışarak geçirdikleri zaman dahil olmak üzere, canlı bir eğitmen ile "saatlerce" eğitim alırlar.
Personel, bir kez, zorlu, göz korkutucu ve çoğu zaman rahatsız edici bir görev olan rol için sürekli destek alır.
Alman yayınına konuşan Müteahhit Arvato ile çalışan bir Berlin merkezli içerik gözden geçiricisi olan Yerel , bunu açıkça dile getirdi.
"Ben şahsen insanlığa önceden çok fazla inancım yoktu ve şimdi neredeyse hiç sahip değilim" dediler.
Ama kolektif hedefe de yansıyan bir başka sonuç daha vardı: "Yaptığımız şey hakkında iyi hissediyoruz."