YouTube’un aşırı yapay zekası, satranç hakkındaki bir konuşmayı ırkçı dil olarak yanlış yorumlamış olabilir.
Geçen yaz, popüler satranç videoları üreten bir YouTuber, kanalının sitenin ‘zararlı ve tehlikeli’ olarak adlandırdığı içeriği dahil etmesini engellediğini gördü.
YouTube, ‘Agadmator’ olarak da bilinen Hırvat satranç oyuncusu Antonio Radic’i neden engellediğini açıklamadı, ancak hizmet 24 saat sonra geri getirildi.
Carnegie Mellon’daki bilgisayar bilimcileri, Radic’in bir büyük usta ile “siyah-beyaz” tartışmasının yanlışlıkla YouTube’un yapay zeka filtrelerini tetiklediğinden şüpheleniyor.
Nefret söylemini tespit etmek için eğitilmiş yazılımlarla simülasyonlar çalıştırdıklarında, nefret söylemi olarak işaretlenen satranç videolarının yüzde 80’inden fazlasının eksik olduğunu buldular – ancak ‘siyah’, ‘beyaz’, ‘saldırı’ ve ‘tehdit’ gibi terimleri içeriyorlardı.
Araştırmacılar, sosyal medya platformlarının daha fazla karışıklığı önlemek için algoritmalarına satranç dilini dahil ettiğini öne sürüyor.
Video için aşağı kaydırın
Popüler satranç YouTuber Antonio Radic, geçtiğimiz yaz kanalını ‘zararlı ve tehlikeli’ içerik nedeniyle kapatmıştı. Platformun yapay zekasının bir satranç sohbetinde ‘siyah ve beyaz’ı tartıştığı için yanlışlıkla onu işaretlediğine inanıyor.
Bir milyondan fazla abonesi ile Agadmator, YouTube’daki en popüler satranç sektörü olarak kabul edilir.
Ancak 28 Haziran’da Radic’in kanalı, beş kez şampiyon olan ve Grandmaster unvanını kazanan en genç Amerikalı olan Grandmaster Hikaru Nakamura ile bir bölüm yayınladıktan sonra engellendi.
YouTube ona kanalı engellemesi için bir neden sunmadı.
İnsan moderatörlere ek olarak, YouTube yasaklanmış içeriği bulmak için AI algoritmaları kullanır; ancak bağlam sağlamak için doğru örneklerle beslenmezlerse, bu algoritmalar zararsız videoları işaretleyebilir.
Carnegie Mellon’daki araştırmacılar, nefret söylemini tespit etmek için eğitilebilen en iyi iki konuşma sınıflandırıcısını, AI yazılımını test etti. Programların işaretlediği yorumların yüzde 80’inden fazlası ırkçı bir dilden yoksundu, ancak ‘siyah’, ‘beyaz’, ‘saldırı’ ve ‘tehdit’ gibi satranç terimlerini içeriyordu.
Radic’in kanalı 24 saat sonra yeniden açıldı ve Nakamura’da suçlu olan ‘beyaza karşı siyah’ ifadesini kullanmasına yol açtı.
O sırada bir satranç oyununda iki karşıt taraf hakkında konuşuyordu.
Carnegie Melon’un Dil Teknolojileri Enstitüsü’nde bir bilgisayar bilimcisi olan Ashiqur R. KhudaBukhsh, Radic’in haklı olduğundan şüpheleniyordu.
KhudaBukhsh, “YouTube’un hangi araçları kullandığını bilmiyoruz, ancak ırkçı dili tespit etmek için yapay zekaya güvenirlerse bu tür bir kaza meydana gelebilir,” dedi.
KhudaBukhsh ve diğer araştırmacı Rupak Sarkar, teorisini test etmek için iki son teknoloji konuşma sınıflandırıcı, nefret söylemini tespit etmek için eğitilebilen AI yazılımı üzerinde testler yaptı.
Radic’in kanalı, Grandmaster Hikaru Nakamura ile bir konuşma içeren bu videoyu yayınladıktan sonra 24 saat boyunca engellendi.
Yazılımı, beş popüler YouTube satranç kanalından alınan 680.000’den fazla yorum üzerinde kullanarak, örnek bir sette işaretlenen yorumların yüzde 82’sinin bariz bir ırkçı dil veya nefret söylemi içermediğini buldular.
KhudaBukhsh ve Sarkar, bu ay yıllık AI İlerleme Derneği konferansında yaptıkları sunumda, ‘siyah’, ‘beyaz’, ‘saldırı’ ve ‘tehdit’ gibi kelimelerin filtreleri harekete geçirdiğini söyledi.
KhudaBukhsh, yazılımın doğruluğunun verilen örneklere bağlı olduğunu ve YouTube’un sınıflandırıcılarına yönelik eğitim veri setlerinin muhtemelen birkaç satranç konuşması örneğini içerdiğinden yanlış sınıflandırmaya yol açtığını söyledi.
33 yaşındaki Radić, YouTube kanalını 2017’de başlattı ve bir milyondan fazla abonesi var. 1962 tarihli bir maçın incelemesi olan en popüler videosu 5,5 milyondan fazla görüntüleme aldı
Radic kadar tanınmış biri yanlışlıkla engelleniyorsa, “pek çok tanınmayan diğer birçok insanın başına sessizce oluyor olabilir.”
YouTube, Radic’in videosunun işaretlenmesine neyin sebep olduğunu belirtmeyi reddetti, ancak Mail Online’a ‘Bir videonun yanlışlıkla kaldırıldığı dikkatimizi çektiğinde, onu eski haline getirmek için hızlı hareket ederiz’ dedi.
Bir temsilci, “Yükleyicilere kaldırma işlemlerine itiraz etme olanağı da sunuyoruz ve içeriği yeniden inceleyeceğiz” dedi. “Agadmator kaldırmaya itiraz etti ve videoyu hızlı bir şekilde eski haline getirdik.”
33 yaşındaki Radić, YouTube kanalını 2017’de başlattı ve bir yıl içinde geliri, düğün kameramanlığı olarak günlük işini aştı.
‘Satrancı her zaman sevdim ama küçük bir kasabada yaşıyorum ve hakkında konuşabileceğim çok fazla insan yoktu. [it],’ söyledi ESPN geçen yıl. Bu yüzden, bir YouTube kanalı başlatmak mantıklıydı. ‘
Rashid Nezhmetdinov ve Oleg Chernikov arasındaki 1962 maçının incelemesi olan en popüler videosu, bugüne kadar 5,5 milyondan fazla görüntülendi.
COVID kilitlenmeleri satranca yeni bir ilgi uyandırdı: Mart 2020’den beri, server ve sosyal ağ Chess.com salgın başladığından beri her ay yaklaşık 2 milyon yeni üye ekledi. Annenberg Media bildirildi.
Krallar oyunu, Ekim ayında Netflix’e düşen sorunlu bir kadın satranç ustası hakkında beğenilen mini dizi ‘The Queen’s Gambit’in popülerliğinden de yararlandı.
.
Kaynak