Meta'nın Gözetim Kurulu, Facebook ve Instagram'ın tartışmalı çapraz kontrol sistemi hakkında kapsamlı bir rapor yayınladı ve Meta'yı programı “radikal bir şekilde” daha şeffaf hale getirmeye ve kaynaklarını güçlendirmeye çağırdı.
Yarı bağımsız Gözetim Kurulu, Facebook'tan uzaklaştırılmasından önce eski başkan Donald Trump da dahil olmak üzere, yüksek profilli kamuya mal olmuş kişiler için özel bir moderasyon kuyruğu sağlayan çapraz kontrolde "çeşitli eksiklikler" olduğunu belirtti. Hesapların ne zaman özel çapraz kontrol statüsüyle korunduğu ve kuralları çiğneyen materyallerin – özellikle bir rıza dışı pornografi vakası – uzun süre bırakıldığı durumların açıklığa kavuşturulmamasını seçti. Ve Meta'yı, programın sonuçlarının doğruluğunu değerlendirebilecek denetleme istatistiklerini takip etmediği için eleştirdi.
Raporda, "Meta kurula çapraz kontrolün Meta'nın insan hakları taahhütlerini ilerletmeyi amaçladığını söylese de, programın ticari kaygıları gidermek için daha doğrudan yapılandırılmış göründüğünü gördük" diyor. "Yönetim kurulu, Meta'nın bir işletme olduğunun farkındadır, ancak büyük ölçüde ticari ilgi alanlarına göre seçilen belirli kullanıcılara ekstra koruma sağlayarak, çapraz kontrol, aksi takdirde hızlı bir şekilde kaldırılacak içeriğin daha uzun süre kalmasına ve potansiyel olarak zarar görmesine olanak tanır."
"Listede olduklarını bile bilmeyen sınırlı sayıda insanı koruyordu."
Rapor, The Wall Street Journal'ın çapraz kontrolle ilgili ayrıntıları kamuya açıklamasının üzerinden bir yıldan fazla bir süre geçmiştir. Açıklamalarının ardından Meta, Gözetim Kurulu'ndan programı değerlendirmesini istedi, ancak kurul, Meta'nın Trump'ın gönderilerini denetlemedeki rolüyle ilgili ayrıntılar gibi program hakkında önemli bilgiler sağlamadığından şikayet etti. Bugünkü duyuru, görünüşe göre Meta ile Gözetim Kurulu arasında “binlerce” sayfalık dahili belgenin gözden geçirilmesi, şirketten dört brifing ve 74 sorunun yanıtlanması talebi dahil olmak üzere aylarca süren gidip gelmeleri takip ediyor. Ortaya çıkan belge, çok katmanlı bir inceleme programını nasıl düzenlediğini aydınlatmaya yardımcı olan Meta'dan diyagramlar, istatistikler ve ifadeler içerir.
Gözetim Kurulu üyesi Alan Rusbridger, The Verge'e "Meta'nın yaptıklarının küçük bir parçası, ancak bence bu kadar zaman harcayarak ve bu [çok] ayrıntıya bakarak şirket içinde biraz daha sistemik bir şeyi ortaya çıkardı" dedi. . “Meta'da ifade özgürlüğü değerlerine, gazeteciliği koruma ve sivil toplumda çalışan insanları koruma değerlerine inanan pek çok insan olduğuna içtenlikle inanıyorum. Ancak hazırladıkları program bunları yapmıyordu. Listede olduklarını bile bilmeyen sınırlı sayıda insanı koruyordu.”
Çapraz kontrol, bir kullanıcı alt kümesinden gelen gönderilerin uygunsuz şekilde yayından kaldırılmasını önlemek için tasarlanmıştır ve bu kararları, normal yapay zeka ağırlıklı denetim süreci yerine bir dizi insan incelemesi yoluyla gönderir. Üyeleri (Rusbringer'in belirttiği gibi, korunduklarının söylenmediği), çatışma bölgelerinden haber yapan gazeteciler ve açıklamaları özellikle haber değeri taşıyan sivil liderler içerir. Ayrıca yayıncıları, şovmenleri, şirketleri ve hayır kurumlarını içeren "iş ortaklarını" da kapsar.
Raporda alıntılanan Meta'nın ifadelerine göre, program, Facebook ve Instagram'a önemli miktarda para ve kullanıcı getiren kişiler için bir “sansür algısı” veya kötü bir deneyim yaşamamak için şirket kurallarının yeterince uygulanmamasını destekliyor. Meta, bir içerik üzerinde arama yapmanın ortalama olarak beş günden fazla sürebileceğini söylüyor. Denetleme birikimi bazen kararları daha da geciktirir – en uzun süre içinde, tek bir içerik yedi aydan fazla kuyrukta kalır.
Gözetim Kurulu, Meta'yı özellikle siyasi veya sanatsal ifade içeren gönderileri aşırı hevesli bir şekilde kaldırmakla eleştirdi. Ancak bu durumda, Meta'nın iş ortaklıklarının gerçek zararı gölgelemesine izin verdiği endişesini dile getirdi. Örneğin, Brezilyalı futbolcu Neymar kendisini tecavüzle suçlayan bir kadının çıplak resimlerini paylaştığında çapraz kontrol birikmiş bir liste, bir kararı erteledi ve Meta'nın kurallarını açıkça ihlal eden gönderiden sonra, Neymar tipik olarak acı çekmedi. hesabının silinmesi cezası. Kurul, Neymar'ın daha sonra Meta ile özel bir yayın anlaşması imzaladığını belirtiyor.
Tersine, sorunun bir kısmı, Facebook ve Instagram'ın devasa ölçeği sayesinde sıradan kullanıcıların aynı uygulamalı denetlemeyi alamamasıdır . Meta, Gözetim Kuruluna Ekim 2021'de içerik üzerinde her gün 100 milyon yaptırım eylemi gerçekleştirdiğini söyledi. Tamamen insan gücüyle çalışan bir moderasyon sisteminde koordine edilmesi zor veya imkansız olan çok büyük bir hacim olduğundan, bu kararların çoğu otomatikleştirilir veya çok üstünkörü bir insan incelemesine tabi tutulur. Ancak yönetim kurulu, Meta'nın çapraz kontrol sisteminin doğruluğunu sıradan içerik moderasyonu ile karşılaştırıldığında izlediğinin veya analiz etmeye çalıştığının net olmadığını söylüyor. Olsaydı, sonuçlar, birçok sıradan kullanıcının içeriğinin muhtemelen yanlış bir şekilde kuralları ihlal ediyor olarak işaretlendiğini veya Meta'nın yüksek profilli kullanıcılar için politikalarını yetersiz uyguladığını gösterebilirdi.
"Umudum, Meta'nın sinirlerini tutması."
Kurul, Meta'ya 32 tavsiyede bulundu. (Her zaman olduğu gibi, Meta önerilere 60 gün içinde yanıt vermelidir, ancak bunları benimsemek zorunda değildir.) Öneriler arasında, "yüksek önem düzeyine sahip" ihlaller olarak işaretlenen gönderilerin, işletme tarafından gönderilmiş olsalar bile inceleme devam ederken gizlenmesi yer alır. ortaklar. Kurul, Meta'dan bu içerik için Meta'nın iş ortaklarından ayrı özel bir kuyruk benimseyerek “insan hakları için önemli olan ifade” için içerik denetiminin iyileştirilmesine öncelik vermesini ister. Meta'dan çapraz kontrol listelerinde kimlerin yer aldığına ilişkin "açık, genel kriterler" belirlemesini ve bazı durumlarda, devlet aktörleri ve iş ortakları gibi, bu durumu herkese açık bir şekilde işaretlemesini ister.
Hesapların herkese açık olarak işaretlenmesi gibi bu önerilerden bazıları, büyük olasılıkla fazladan önemli kaynaklar gerektirmeyecek politika kararlarıdır. Ancak Rusbridger, çapraz kontrol için birikmiş iş yükünü ortadan kaldırmak gibi diğerlerinin Meta'nın moderasyon gücünün "önemli ölçüde" genişletilmesini gerektireceğini kabul ediyor. Ve rapor, Meta için bir kemer sıkma döneminin ortasında gelir; geçen ay şirket , işgücünün yaklaşık yüzde 13'ünü işten çıkardı .
Rusbridger, Meta'nın kemerini sıksa bile "daha zor" teknik programların yanı sıra içerik denetimine öncelik vereceğini umduğunu ifade ediyor. "Umudum, Meta'nın cesaretini tutması," diyor. "'Yumuşak' bölgeleri kesmek cazip gelse de bence uzun vadede bunun pek de akıllıca bir şey olmadığını anlamaları gerekiyor."