Temel Çıkarımlar
- YouTube’un otomatik yaş kısıtlama yazılımı, platformdaki LGBTQ + içeriği için endişe kaynağıdır.
- Şirket, şüphe uyandıran LGBTQ + içerik yaratıcıları ile ilgili tartışmalarla gölgelendi.
- Makine öğrenimindeki önyargılar, filtrelerin kusurlu bir şekilde uygulanmasının erişimi haksız bir şekilde kısıtlayacağı fikrine güvenir.
Denetim sürecinde LGBTQ + içerik oluşturucularını adil olmayan bir şekilde hedefleyen bir geçmişe sahip olan YouTube’un yeni AI tabanlı teknolojisi, teknoloji devi için sorunlu bir sonraki adım olarak görülüyor. Geçen hafta resmi YouTube blogunda, video paylaşım platformu, genç izleyiciler için uygunsuz görülen videolara «yaş kısıtlamalarını daha tutarlı bir şekilde uygulamak» için yeni bir otomatik yazılım yayınlama planlarını açıkladı. Uygulamadaki çocuklarla ilgili son endişelerden motive olan yeni sistem, daha otomatik bir süreç için insan moderatörlerinden vazgeçme becerisine sahip makine öğrenimli yapay zeka yazılımına dayanıyor. Sorun? YouTube’un otomatik sistemleri, LGBTQ + içeriğini ve içerik oluşturucuları yalnızca mevcut oldukları için ayırmakla suçlanıyor. «Kötü niyetli olmasa bile, ki sanmıyorum, farklı seslerden gelen girdi eksikliği – ya da en azından saygı eksikliği.» YouTuber Rowan Ellis, «Makine öğrenimi insanlar tarafından bilgilendirilir ve insanlar tarafından oluşturulur ve bu önyargılara sahip olmak veya makinenin kendisi tarafından öğrenilmesi mümkündür» dedi. Cankurtaran. «Konuyla ilgili önyargısı [LGBTQ+] önceki deneyimlerde içerik açıkça görülüyordu [LGBTQ+] YouTuber’lar ve ben bunun olmasını durdurmak için herhangi bir şey yapıldığına dair kanıt görmedim. »
Змістовий покажчик
Bebeğim, Şimdi Kötü Kanımız Var
Ellis, feminist ve queer eğilimli eğitim içeriği oluşturan bir YouTuber ve 2017’de şirketin kısıtlı modu hakkında bir video yayınladı. Otomatik içerik denetimine ilk giriş olarak, bu mod, kullanıcıların isteğe bağlı olarak arama önerileri ve önerilerinden «potansiyel olarak yetişkin içeriği» önceden taramasına izin verdi.
100.000’den fazla izlenme toplayan sanatçı, YouTube’un yeni moderasyon adımının aşırılıklarına karşı vokal muhalefeti nedeniyle kanalını kısıtlamadan uzaklaştırmak için bilinçli bir çaba olduğuna inanıyor. Platformdaki diğer kullanıcılar o kadar şanslı değildi ve YouTube’un bunu bilmesini sağladılar. Silicon Valley şirketini queer ve trans video yapımcılarını ve içeriği kısıtlamakla suçlayan sekiz LGBTQ + içerik oluşturucudan oluşan bir grup, Ağustos 2019’da YouTube aleyhine toplu dava açtı. Dava, sitenin «LGBT Davacılarını ve daha büyük LGBT Topluluğunu damgalayan, kısıtlayan, engelleyen, paralarını paraya çeviren ve mali olarak zarar veren yasadışı içerik düzenleme, dağıtım ve para kazanma uygulamaları» kullandığını iddia ediyor. Hâlâ Kaliforniya mahkemelerine doğru ilerliyor. «Makine öğrenimi insanlar tarafından bilgilendirilir ve insanlar tarafından yaratılır ve bu önyargıların doğasında var olması veya makinenin kendisi tarafından öğrenilmesi mümkündür.» Aynı yılın Haziran ayında platform, popüler muhafazakar yorumcu Steven Crowder’a karşı aylarca süren homofobik taciz kampanyası için hızlı bir şekilde kınamayı reddettikten sonra medyanın ilgisini çekti. Vox gazeteci ve ev sahibi Carlos Maza. Bu Ellis’in söylediği şeyin, queer içerik oluşturucuların karşılaştığı benzersiz zorlukları göz ardı eden çevrimiçi platformun bir modeli olduğunu söyledi. LGBTQ + içerik oluşturucularının, YouTube’un onlara görünme yeteneğine olan güven eksikliği haksız değildir. «Toplumsal konularda şeffaflık ve eşitliği sağlama gereğini anladıklarını sanmıyorum.» Dedi. «Hala dünyanın her yerinde eşcinsel olmanın yanlış olduğu fikriyle büyüyen çocuklar var ve bu inancı sorgulamaya başladıklarında, ancak güvenli bir arama veya kısıtlama ile kapatıldığını gördüklerinde, bu fikri pekiştirecek. yanlış, uygunsuz, yetişkin, sapık ve kirli. »
Otomatik Öğrenememe
Platformundaki LGBTQ + içerik oluşturucularıyla ilgili kötü geçmişiyle, makine öğrenimi yazılımının daha büyük normları ayırt etme becerisinin uygulanmasıyla ilgili endişeler hala beliriyor. Markkula Uygulamalı Etik Merkezi’nin İcra Direktörü Don Heider, aptallık potansiyelinin kumar oynamak için çok büyük bir risk olduğunu öne sürüyor. Bir e-posta röportajında »AI’nın farklı kültürel normlara ve standartlara sahip birden çok ülkeden içeriği etkili bir şekilde yönetebileceğine inanmak zor» diye yazdı. «Yapay zeka genellikle karmaşık soruların cevabı olarak görülüyor. Bu noktada, yapay zeka ve yaratılma şekli, herhangi bir karmaşıklık düzeyine sahip herhangi bir içerik denetimi bir yana, basit görevlerin bile üstesinden gelmek için mücadele ediyor.»
Bloguna göre YouTube, insan moderatörlerin tutarlı bir şekilde denetlememesi nedeniyle AI teknolojisinin kullanımına karar verdi. Uygun olmadığı düşünülen videoları kaldırmak için bilgisayarlı filtrelerin kullanımını artırmak norm haline geldi ve yaş kısıtlama politikaları için aynı prosedürleri uygulamak, mantıklı bir sonraki adım olarak görülüyor. Çocuk tüketicilerle ilişkisi konusunda uzun süredir devam eden eleştiriler sonrasında süreçlerini kademeli olarak iyileştirmek isteyen bir şirket olarak bu karar şaşırtıcı değil. «Toplumsal konularda şeffaflık ve eşitliği sağlama ihtiyacını anladıklarını sanmıyorum.» Çocuklar, video paylaşım sitesi için önemli bir demografi haline geldi. Ağustos ayında, dijital video analiz firması Tubular, müzik videolarının yanı sıra çocukları hedefleyen içeriğin YouTube’da en çok izlenen videolar arasında ay sonu listesinin en üstünde yer aldığını tespit etti. Şirketin, platformdaki bu kazançlı, yükselen güç merkezini korumaya olan ilgisi mantıklı. Bununla birlikte, bu korumayı uygulamak için kullanılan araçlar, kendilerini zaten şirketin moderasyon prosedürlerinin aşağısında bulmuş olanlar için rahatsız edici olmaya devam ediyor. «Endişem, çok zarar vereceği ve korumayacağı. [LGBTQ+] bilgilendirici, açık sözlü ve dürüst içeriğe ihtiyaç duyan gençler [LGBTQ+] Ellis, «YouTuber’lar sağlayabilir, ancak kendi sisteminde uygunsuz olarak işaretlenir,» dedi. «Kötü niyetli olmasa bile, ki öyle olduğunu düşünmüyorum, çeşitli seslerden gelen girdi eksikliği veya en azından saygı eksikliği. . «Teknolojide her zaman bunu görüyoruz. Farklı Siyah yüzleri ayırt edemeyen yüz tanımaya baktığınızda veya tıbba baktığımızda ve ilacın yalnızca belirli bir cinsiyet üzerinde test edildiğini gördüğümüzde. Bunlar daha büyük konuşmalardır ve YouTube bundan muaf değildir. «