Günümüz teknolojisi ve sosyal farkındalıkla birlikte, kasıtlı olsun ya da olmasın, bir ürün veya hizmette herhangi bir tür önyargı göstermek artık uygun değil. Bu nedenle, resim kırpma algoritması ırksal bir önyargı gösterdikten sonra parmaklar Twitter’a yönlendiriliyor.
Twitter’da Irk Önyargısı Var mı?
Twitter, resim kırpma algoritmasını araştırıyor Kullanıcılar, bir görüntü hem Siyah hem de Beyaz bir yüz gösterdiğinde, mobil işletim sistemindeki görüntü önizlemelerinde siyah yüzlerin her zaman gösterilmediğini fark ettikten sonra.
Twitter, algoritmasını test ettiğinde herhangi bir ırk ve cinsiyet yanlılığı kanıtı bulamadığını bildirdi, ancak yapılacak daha çok test olduğunun da farkında.
Sosyal ağın teknoloji sorumlusu Parag Agrawal, resim kırpma modelinin sevk edildiğinde analiz edildiğini, ancak halkın onu canlı olarak test etmeye yardımcı olduğunu takdir ettiğini söyledi. “Bu halka açık, açık ve titiz testi seviyorum – ve bundan bir şeyler öğrenmeye hevesli” dedi.
Vancouver’daki bir üniversite müdürü Colin Madland, bu girişime Siyah bir meslektaşıyla Zoom yaptığında diğer adamın kafasının kaybolacağını fark ederek başladı. Yazılım, arka planın bir parçası olarak koyu renkli kafayı görmüş gibi göründü, bu yüzden onu kaldırdı.
Madland, tweet attığında daha derin bir sorun gördü. Meslektaşının yüzünün kaybolmasıyla neler olup bittiğini bilen olup olmadığını sormak için Twitter’a gönderdi. Ancak, Zoom’da hem yüzünün hem de iş arkadaşının kayıp yüzünün yer aldığı bir resim yayınladıktan sonra Twitter, resmi diğer adamı değil, yalnızca Madland’ı gösterecek şekilde kırptı.
Zoom’da, başının arkasına beyaz bir küre yerleştirilirse, onu arka plandan ayırmak için yeterliymiş gibi, Siyah adamın yüzünün görünmesini sağlayabileceğini buldu. Ancak, Twitter bunu da kırptı. Başı eksik olan adamı kırptı ve ayrıca başı dünyanın önünde görülen resmi kırptı.
Twitter’ın baş tasarım sorumlusu Dantley Davis, Madland’ın sakalları ve gözlükleri çıkarılırsa sorunun çözüleceğine inanıyor.
“Üzerime smaç yapmanın eğlenceli olduğunu düşündüğünü biliyorum – ama bu konuda herkes kadar ben de rahatsızım. Ancak bunu düzeltebilecek durumdayım ve yapacağım” dedi Davis. “Yüzde yüz bizim suçumuz. Aksini kimse söylemesin” dedi.
Twitter kullanıcıları teoriyi kanıtlamak için deneyler yaptı. Algoritmanın ABD Senatosu Çoğunluk Lideri Mitch McConnell’i eski ABD Başkanı Barack Obama’ya tercih ettiğini buldular. Bir stok fotoğrafta bile, Siyah bir adam yerine Beyaz bir adam gösterildi.
Twitter Yalnız Değil
Bu, Twitter ile münferit bir durum değildir. Yüz tanıma sistemleriyle Microsoft, IBM ve Amazon’a da oldu. Beyaz insanlar kadar renkli insanları da tanımlayamadılar.
Microsoft, sistemin çoğunlukla beyaz yüzlerle eğitildiğini fark ettikten sonra sorunu düzeltmek için adımlar attığını söyledi. Sistem, onları doğru bir şekilde nasıl tanımlayacağını öğrenecek kadar renkli insana gösterilmemişti. Daha sonra Microsoft, önyargıyı önlemek için yüz tanımanın düzenlenmesi gerektiğini önerdi.
IBM, hizmetinin yeni bir sürümünü piyasaya süreceğini söyledi. Amazon’un Tanıma sistemi bazen Siyah kadınları Siyah erkekler olarak tanımlar, ancak Beyaz kadınlarla aynı sorunu yaşamaz.
Sorun, Madland’ın kendi kitabında belirttiği gibi Twitter hesabı, bunun her zaman bir Zoom toplantısı kadar masum olmadığıdır. Kolluk kuvvetleri Tanıma’yı kullanır. İnsanlar bu sistem tarafından yanlış tanınabilir ve bir suçla suçlanabilir. Ve bu başlı başına bir suçtur.
Resim Kredisi: Colin Midland’ın Twitter’ı ve Kamu malı