Twitter, bilgisayar korsanlarının ve araştırmacıların görüntü kırpma algoritmasındaki önyargıları belirleyebileceği umuduyla bir yarışma düzenliyor ve kazanan takımlara (Engadget aracılığıyla) nakit ödüller dağıtacak. Twitter, ekiplere koduna ve görüntü kırpma modeline erişim vermenin, algoritmanın zararlı olabileceğinin yollarını bulmalarına izin vereceğini umuyor (örneğin, görüntünün konusunu klişeleştirecek veya silecek şekilde kırpmak gibi).
Bunlar Rakip, bulgularının bir tanımını ve sorunu göstermek için algoritma aracılığıyla çalıştırılabilecek bir veri kümesi sunmalıdır. Twitter daha sonra ne tür zararlar bulunduğuna, insanları potansiyel olarak ne kadar etkileyebileceğine ve daha fazlasına dayalı olarak puanlar atayacaktır.
Kazanan takıma 3.500$ ödül verilecek ve en yenilikçi ve en genellenebilir bulgular için ayrı 1.000$’lık ödül var. Bu miktar Twitter’da biraz heyecan yarattı ve birkaç kullanıcı fazladan sıfır olması gerektiğini söyledi. Bağlam açısından, siteler arası komut dosyası kullanarak başka biri için eylemler gerçekleştirmenize (bir tweet veya resmi retweetleme gibi) izin veren bir hata bulursanız, Twitter’ın normal hata ödül programı size 2,940 dolar ödeyecektir. Birinin Twitter hesabını devralmanıza izin veren bir OAuth sorunu bulmak size 7.700 dolar kazandıracaktır.
Bir yarışma, Twitter’ın çok daha geniş bir bakış açısı yelpazesinden geri bildirim almasını sağlar
Twitter daha önce kendi resim kırpma algoritması üzerine kendi araştırmasını yaptı — Mayıs ayında, suçlamaların ardından algoritmanın nasıl taraflı olduğunu araştıran bir makale yayınladı önizleme mahsullerinin ırkçı olduğunu. O zamandan beri Twitter, algoritmik kırpma önizlemelerini çoğunlukla ortadan kaldırdı, ancak hala masaüstünde kullanılıyor ve iyi bir kırpma algoritması, Twitter gibi bir şirket için kullanışlı bir şeydir.
Bir yarışma açmak, Twitter’ın geri bildirim almasını sağlar. çok daha geniş bir perspektif yelpazesi. Örneğin, Twitter ekibi, bir ekip üyesinin algoritmadaki kast temelli önyargılar hakkında sorular almaktan bahsettiği rekabeti tartışmak için bir alan düzenledi. Bu, Kaliforniya’daki yazılım geliştiriciler için fark edilmeyebilir.
Twitter da arıyor. algoritmasından yararlanma yolları için
Twitter’ın aradığı yalnızca bilinçaltı algoritmik önyargı değil. Dereceli puanlama anahtarı hem kasıtlı hem de kasıtsız zararlar için puan değerlerine sahiptir. Twitter, kasıtsız zararları, “iyi niyetli” bir kullanıcının platformda normal bir resim yayınlamasından kaynaklanabilecek mahsuller olarak tanımlarken, kasıtlı zararlar, kötü niyetli olarak tasarlanmış resimler yayınlayan biri tarafından kullanılabilecek sorunlu kırpma davranışlarıdır.
Twitter, duyuru blogunda, yarışmanın hata ödül programından ayrı olduğunu söylüyor – rekabet dışında Twitter’a algoritmik önyargılar hakkında bir rapor gönderirseniz, şirket raporunuzun kapatılacağını ve uygulanamaz olarak işaretleneceğini söylüyor. Katılmakla ilgileniyorsanız, kuralları, kriterleri ve daha fazlasını görmek için yarışmanın HackerOne sayfasına gidebilirsiniz. Başvurular 6 Ağustos 23:59 PT’ye kadar açıktır ve yarışmanın kazananları 9 Ağustos’ta Def Con AI Village’da duyurulacaktır.