Haber: Damla Oya Erman
Ancak Wall Street Journal tarafından yapılan bir test, Instagram'ın algoritmasının çocuklara yönelik bir ilgiye sahip olabilecek kullanıcılara da benzer bir hizmet sunduğunu gösterdi.
Journal, Instagram'ın Reels algoritmasının, platformda aktif olan genç jimnastikçiler, cheerleader'lar ve diğer genç etkileyicileri takip eden test hesaplarına ne tür önerilerde bulunacağını belirlemeye çalıştı.
Instagram'ın sistemine göre, test hesaplarına çocukları cinselleştiren içeriklerin yanı sıra açıkça cinsel içerikli yetişkin videoları ve ABD'nin büyük markalarından reklamları içeren içerikler sunuldu.
Journal, genç insanların hesaplarına binlerce yetişkin erkeğin takipçi olarak yer aldığını ve bu hesapların çoğunun hem çocuklarla hem de yetişkinlerle ilgili cinsel içerikle ilgili içeriklere ilgi gösterdiğini gözlemledikten sonra bu test hesaplarını oluşturdu. Journal ayrıca, hesaplarının bu kullanıcıları takip ettikten sonra algoritmanın önerilerinin daha rahatsız edici içeriklerle birlikte geldiği başka bir test de gerçekleştirdi.
Instagram tarafından önerilen videolar arasında, biri bir yaş boyu lateks bebekle yüzünü okşayan birinin videosu, diğeri de dijital olarak silikleştirilmiş bir yüzü olan genç bir kızın gömleğini kaldırarak karın bölgesini açığa çıkaran bir videosu arasında yer alan Bumble adlı flört uygulamasına ait bir reklam yer aldı. Bir diğer örnekte, bir Pizza Hut reklamı, bir yatağın üzerinde yatan bir adamın elini 10 yaşında bir kızın etrafına koyduğu bir videonun ardından geldi.
Journal'in yaptığı bu testlere benzer şekilde, çocuk koruma grubu olan Canadian Centre for Child Protection da benzer sonuçlar elde etti.
Meta, Journal'in testlerinin milyarlarca kullanıcının gördüğü gerçek deneyimi temsil etmediğini ve Ekim ayında reklamverenlere reklamlarının nerede görüneceği konusunda daha fazla kontrol sağlayan yeni marka güvenliği araçları tanıttığını belirtti. Şirket ayrıca her ay standartlarını ihlal ettiği şüphelenilen 4 milyon videoyu kaldırdığını veya gösterimini azalttığını söyledi.
Journal, Haziran ayında Meta'nın, hem Facebook'u hem de Instagram'ı bünyesinde bulunduran algoritmalarının pedofilik içeriklere ilgi gösteren büyük kullanıcı topluluklarını birbirine bağladığını rapor etmişti. Meta sözcüsü, Journal'ın makalesinden sonra oluşturulan bir görev gücünün, şüpheli davranış sergileyen kullanıcıları tespit etme konusunda otomatik sistemlerini genişlettiğini ve her ay on binlerce hesabı kapattığını söyledi. Şirket ayrıca, potansiyel çocuk istismarı belirtilerini paylaşmak amacıyla yeni bir endüstri koalisyonuna katılıyor.
Journal'in testlerinde reklamları uygunsuz içeriklerin yanında görünen şirketler arasında Disney, Walmart, online flört şirketi Match Group, erektil disfonksiyon ilaçları satan Hims ve Wall Street Journal kendisi yer alıyor. Çoğu marka adı perakendecisi, reklamlarının cinsel içerikle veya açık içerikle yan yana gelmemesi şartını koşar.
Meta'nın test sonuçlarına yanıt veren şirketler, Meta'nın bu konuyu araştırdığını ve bir dış firma tarafından yapılacak olan marka güvenliği denetimlerini ödemeyi taahhüt ettiğini söyledi. Ancak Match, şikayetlere Meta'nın tatmin edici yanıt vermemesi üzerine Ekim ayında bazı uygulamaları için Meta reklamlarını iptal etmeye başladı ve o zamandan beri Reels reklamcılığını durdurdu. Match sözcüsü Justine Sacco, "Meta'ya markalarımızı yırtıcılara pazarlamak veya reklamlarımızı bu içeriğe yakın bir yere koymak istemiyoruz" dedi.
Bumble'un sözcüsü Robbie McKay, şirketin "asla kasti olarak uygunsuz içeriğin yanında reklam yapmayacağını" söyledi ve şirketin Meta platformlarındaki reklamlarını askıya aldığını belirtti.
Disney'in marka yönetiminden sorumlu başkan yardımcısı Charlie Cain, şirketin sosyal medya içeriği için kabul edilebilir olan sınırları sıkı bir şekilde belirlediğini ve Meta ve diğer platformlara marka güvenliği özelliklerini iyileştirmeleri konusunda baskı yaptığını söyledi. Şirketin sözcüsü, Journal'ın bulgularını Disney'e sunduktan sonra, şirketin Meta ile meseleyi "Meta'nın en üst düzeyinde" ele almaya çalıştığını söyledi.
Walmart yorum yapmayı reddetti ve Pizza Hut'un yorum taleplerine yanıt vermedi.
Hims, Meta'nın böyle bir reklam yerleşimi önlemesi için baskı yapacağını ve şirketin bu sorunu çözmeye yönelik taahhüdünü olumlu bulduğunu söyledi.
Journal, kendi reklamının uygunsuz bir videonun yanında göründüğünü öğrenince, Meta'dan eylem talep edeceğini söyledi.
Meta, Reels'i TikTok'a karşı rekabet etmek için oluşturdu; her iki ürün de kullanıcılara diğerleri tarafından paylaşılan videoların arasına reklamlar yerleştirerek para kazanırlar. Her iki şirketin algoritmaları da kullanıcının geçmiş izleme davranışına dayanarak, kullanıcının ilgisini çekebilecek videoları gösterme eğilimindedir.
Journal'in muhabirleri, Instagram test hesaplarını yeni satın alınan cihazlarda yetişkin olarak oluşturdu ve genç jimnastikçileri, cheerleader'ları ve diğer genç etkileyicileri takip ettiler. Testler, sadece genç kızları takip etmenin Instagram'ın, genellikle genç kızları cinselleştiren videoları büyük tüketici markalarının reklamlarıyla birleştirerek önerilmesine neden olduğunu gösterdi.
Journal'in test hesapları ayrıca, problemli Reels akışlarına düzenli olarak reklamların eklendiğini gösterdi. Disneyland'ı tatil için ziyaret etmeye teşvik eden reklamlar, bir kadının cinsel bir eylemi canlandırdığı bir videonun yanında ve bir genç kadının iç çamaşırları içinde ağzından yapay kan damlıyorduğu bir başka videonun ardından yer aldı. Hims'e ait bir reklam, cinsel bir durumda acı içinde görünen bir kadının videosundan hemen sonra yayınlandı, videonun altında ise "tam video" olarak tanımlanan bir bağlantı bulunuyordu.
Meta çalışanlarının eski ve mevcutları, Reels'in güvenlik endişeleri oluşturabileceğini anladıklarını söyledi. Bu, otomatik uygulama sistemlerinin video içeriğini metin veya statik görüntülerden daha zor ayırt etmesinden ve Reels'in diğer Instagram ve Facebook bölümleri gibi kullanıcıların arkadaşlarının paylaştığı içeriği değil, kullanıcıların takip etmedikleri kaynaklardan gelen videoları öne çıkarmasından kaynaklanıyor.
Reels'in tanıtılmasından önce Meta çalışanları, bu ürünün güvenlik endişeleri yaratabileceğini anladı. Meta'nın eski çalışanlarından biri, şirket belgelerinin, günlük aktif kullanıcı sayısını herhangi bir ölçüde azaltabilecek herhangi bir değişikliği yasakladığını söyledi.