Facebook, AI'nın siyah erkekleri 'Primatlar' olarak etiketlemesinden sonra özür diledi
Kategori : Teknoloji
Facebook, yapay zeka yazılımı adına, Siyah erkekleri içeren bir videoyu izleyen kullanıcılara daha fazla "primatlar hakkında video" görmek isteyip istemediklerini soran bir özür yayınladı. Sosyal medya devi o zamandan beri konu önerisi özelliğini devre dışı bıraktı ve hatanın nedenini araştırdığını, ancak videonun bir yıldan fazla bir süredir çevrimiçi olduğunu söyledi.
Bir Facebook sözcüsü Cuma günü, hikayeyi ilk kez bildiren The New York Times'a, otomatik istemin "kabul edilemez bir hata" olduğunu ve rahatsız edici öneriyle karşılaşan herkesten özür dilediğini söyledi.
Facebook'a bağlı platformlarda yapılan ırkçı paylaşımlar engellenecek
Video tarafından yüklenen, Daily Mail 27 Haziran 2020 tarihinde, bir beyaz adam ve doğum gününü kutlayan Siyah erkek bir grup arasında bir karşılaşma belgelenmiş. Klip, polis memurlarının kendi evinde bir Siyah kiracıyı tutukladığını gösteren alakasız bir videoyu kesmeden önce, beyaz adamın 911'i "bir grup Siyah adam tarafından taciz edildiğini" bildirmek için aradığı iddia ediliyor.
Eski Facebook çalışanı Darci Groves, bir arkadaşının yanlış tanımlama konusunda ipucu vermesinin ardından Perşembe günü hatayı tweetledi. Facebook'un "Primatlar hakkında videolar görmeye devam et" videosunu çeken videonun ekran görüntüsünü paylaştı. İleti.
"Bu 'görmeye devam et' istemi kabul edilemez, @Facebook" diye yazdı. "Ve videonun bir yıldan eski olmasına rağmen, dün bir arkadaşım bu uyarıyı aldı. [Facebook]'taki arkadaşlar lütfen konuyu iletin. Bu korkunç bir şey."
Bu, Facebook'un büyük teknik hatalar için ilk kez gündeme gelmesi değil. Geçen yıl, Çin Devlet Başkanı Xi Jinping'in adı Burma'dan İngilizce'ye çevrildiğinde platformunda "Bay S*** deliği" olarak göründü. Reuters'in bildirdiğine göre, çeviri Facebook'u zora sokmuştu.
Yaşanan bu son olay, cinsiyet veya ırk önyargısı gösteren yapay zeka araçlarının en son örneğidir ve yüz tanıma araçlarının belirli bir renkli insanları yanlış tanımlama sorununa neden olduğunun bir göstergesi. 2015 senesinde de Google, Fotoğraflar uygulamasının Siyahilerin fotoğraflarını “goriller” olarak etiketlemesinden dolayı özür dilemişti. Geçtiğimiz sene Facebook, yapay zeka algoritmasını eğitirken Facebook’un sahibi olduğu uygulamalarıın ırksal olarak önyargılı olup olmadığını araştırdığını açıklamıştı.
Nisan ayında ise ABD Federal Ticaret Komisyonu, “rahatsız edici” ırk ve cinsiyet önyargıları sergileyen AI araçlarının kredi, konut veya istihdam için karar verme süreçlerinde kullanılmaları halinde tüketici koruma yasalarını ihlal edebileceğine yönelik bir uyarıda bulunmuştu. FTC gizlilik avukatı Elisa Jillson, ajansın web sitesinde bir gönderide “Kendinizi sorumlu tutun veya FTC’nin sizin için yapmasına hazır olun” ifadelerini kullandı.