Facebook CEO'su Mark Zuckerberg, üç yıl önce şirketinin yapay zeka destekli otomatik (AI) gözetim araçlarındaki ilerlemesinden bahsederken iyimser bir açıklama yaptı. Kasım 2019'de, "2018'un sonunda, sorunlu içeriğin büyük çoğunluğunun algılanmasını önlemek için sistemlerimizi eğitmeyi umuyoruz" dedi.
Ancak sadece Mart ayında, Facebook dahili belgeleri, şirketin otomatik AI gözetim araçlarının yüksek başarı oranlarıyla çalışmadığını ve platformdaki nefret söylemi, şiddet ve kışkırtmanın yalnızca küçük bir kısmından sorumlu olan gönderileri kaldırdığını ortaya çıkardı. Yapay zeka (AI) araçlarından kaldırılan gönderiler, nefret söylemi projeksiyonlarının yalnızca %3-5'ini ve şiddet ve kışkırtma görüşlerinin %0,6'sını oluşturuyordu.
Facebook bir gönderi örneği alır, bunlara yapay zeka araçları uygular ve ardından moderatörlerden yapay zekanın doğruluğunu değerlendirmelerini ister. Ardından, platform genelinde ne kadar nefret söylemi veya şiddet ve kışkırtmanın kaybolduğunu tahmin etmek için bu kesri kullanır.
Farklı istatistikler
Facebook'un yapay zeka (AI) ölçüm araçlarına ilişkin iç görüşü, halka söylediğinden çok daha karamsar görünüyor. Mesele şu ki, dahili olarak tartıştığı şey halka tamamen farklı bir şekilde iletişim kuruyor. Facebook yaptığı açıklamalarda, AI'nın kullanıcıları bildirmeden önce keşfettiği nefret söyleminin yüzdesini ortaya çıkardı ki bu çok yüksek bir rakam, yüzde 98. Sorun şu ki, nefret söyleminin kullanıcılar tarafından rapor edilmediği birçok durum var.
Şirket sözcüsü Andy Stone WSJ'ye, kaldırılan gönderilerle ilgili verilerin, şüpheli içeriğin erişimini azaltmak gibi platform tarafından gerçekleştirilen diğer eylemleri içermediğini söyledi. Bu bağlamda, politikayı ihlal eden içeriğin sıklığının azaldığını ve şirketin kendisini buna göre değerlendirdiğini söyledi.
Facebook, 15'de 2020'ye göre 2017 kat daha fazla içeriği kaldırdığını iddia ederek platformunda nefret söylemi bulma konusunda ilerleme kaydettiğini söyledi. Ancak bu sayı, bu açıklama çok fazla olduğu için bazı önemli ayrıntıları gizliyor. genel.
bahsetmesi zor
Bugün, Facebook'un yapay zeka (AI) araçları, kullanıcılar bunu bildirmeden önce daha fazla içeriği çekebilir, çünkü iki yıl önce Facebook, kullanıcıların bildirimde bulunmasını kasıtlı olarak zorlaştırdı. Bir yan etki, AI araçlarının artık kullanıcılar tarafından nihayet rapor edilmeden önce daha fazla gönderi yakalayabilmesiydi.
Ayrıca bkz: Facebook: Orijinal VR donanımının fotoğrafları
Yapay Zeka (AI) Karışıklığı
Facebook'un dahili belgeleri, yapay zeka ölçüm araçlarının, moderatörlerin fark edilmesinin kolay olduğunu bulmaktan ne kadar uzak olduğunu ortaya koyuyor. Örneğin horoz dövüşü, yapay zeka tarafından bir araba kazası olarak yanlış tanımlanmıştır. Başka bir durumda, toplu atıcılar tarafından canlı yayınlanan videolar, yapay zeka araçları tarafından paintball oyunları veya araba yıkama sesleri olarak etiketlendi.
Şirket içi raporlar, Facebook kullanıcılarının, daha masum gönderilerin kaldırılması anlamına gelse bile, şirketin nefret söylemi, şiddet ve kışkırtma politikalarını uygulamak için daha agresif bir yaklaşım benimsemesini tercih edeceğini gösteriyor. Bir ankette, dünyanın dört bir yanındaki kullanıcılar, yanlış içeriğin kaldırılmasının en az yaygın endişelerinden biri olduğunu ve nefret söylemi ve şiddetin şirketin en büyük önceliği olması gerektiğini söyledi. NS Amerika Birleşik Devletleri, birkaç kullanıcı yanlış içeriğin kaldırılmasının tartışılması gerektiğini düşündü, ancak nefret söylemi ve şiddet en büyük sorun olmaya devam etti.
Bilgi kaynağı: arstechnica.com