Araştırmacılar, geçen yıl kullanıcıların beyazları siyahlara tercih ettiğini keşfettiklerinde viral hale gelen bir Twitter görüntü kırpma algoritmasının da bir dizi başka gruba karşı örtük önyargı ile kodlandığını buldu.
Araştırmacılar, insanların yüzlerine odaklanmak için fotoğrafları otomatik olarak düzenleyen algoritmanın çeşitli farklı insanlarla nasıl ilgilendiğini inceledi ve Müslümanların, engellilerin ve yaşlıların benzer ayrımcılığa maruz kaldığına dair kanıtlar gördü. Araştırmacılar, aynı yapay zekanın beyaz veya gri saçlı, dini veya başka nedenlerle başörtüsü takan veya tekerlekli sandalye kullanan insanları görmezden gelmeyi öğrendiğini söyledi.
Bulgular, hafta sonu Twitter’ın Las Vegas’taki Def Con hacker konferansında ev sahipliği yaptığı türünün ilk örneği bir yarışmanın parçasıydı. Şirket, araştırmacıları, bir görüntü kırpma algoritmasının istemeden belirli insan gruplarına karşı önyargılı olacak şekilde kodlandığını kanıtlamanın yeni yollarını keşfetmeye davet etti. Twitter, kazanana 3.500 dolar ve ikinciler için küçük miktarlar da dahil olmak üzere nakit ödüller verdi.
Bu, önemli bir araştırma alanı haline gelen yolda benzersiz bir adımdır: Mevcut veri kaynakları tarafından eğitilen otomatik sistemlerin toplumdaki mevcut önyargılarla dolu hale gelmesinin yollarını bulmak.
O zamandan beri Twitter tarafından büyük ölçüde kullanımdan kaldırılan görüntü kırpma algoritması, geçen Eylül ayında viral hale geldi. Kullanıcılar, hem beyaz hem de siyah bir kişiyi içeren fotoğrafları tweetlediklerinde, beyaz kişiyi neredeyse her zaman otomatik olarak vurgulayacağını fark ettiler. Örneğin, hem eski Başkan Barack Obama’yı hem de Senatör Mitch McConnell, R-Ky.’yi içeren fotoğraflarla, Twitter her zaman fotoğrafı yalnızca McConnell’i gösterecek şekilde kırpmayı seçerdi. Şirket o zaman özür diledi ve çevrimdışına aldı.
Ancak Toronto Üniversitesi’nde profesör ve yapay zekadaki önyargıları inceleyen ve bunlara danışan Applied AI Group’un direktörü Parham Aarabi, bu istenmeyen ırkçılığın olağandışı olmadığını söyledi. Kullanıcıların davranışlarından öğrenen programlar neredeyse her zaman bir tür istenmeyen yanlılık getirir.
“Büyük teknoloji şirketleri için test ettiğimiz hemen hemen her büyük AI sisteminde önemli önyargılar buluyoruz. Önyargılı yapay zeka, hiç kimsenin gerçekten tam olarak test etmediği şeylerden biri ve bunu yaptığınızda, tıpkı Twitter’ın bulgusu gibi, genel olarak büyük önyargıların var olduğunu göreceksiniz.” dedi.
Fotoğraf kırpma olayı Twitter için utanç verici olsa da, teknoloji endüstrisinde geniş bir sorunu vurguladı. Şirketler, kullanıcıların davranışlarından öğrenmek için yapay zekayı eğittiğinde – örneğin, kullanıcıların çoğunluğunun ne tür fotoğraflara tıklama olasılığının daha yüksek olduğunu görmek gibi – AI sistemleri, bir programa asla kasıtlı olarak yazmayacakları önyargıları içselleştirebilir.
Aarabi ekibinin ikinci sırayı kazanan Twitter yarışmasına sunduğu teklif, algoritmanın beyaz veya gri saçlı bireylere karşı ciddi şekilde önyargılı olduğunu buldu. Saçları ne kadar yapay olarak aydınlatılırsa, algoritmanın onları seçmesi o kadar az olasıdır.