Amazon’un yüz tanımlama yazılımı Rekognition, Kongre üyelerini doğru bir şekilde tanımlayamıyor.
Amerikan Sivil Özgürlükler Birliği, Kongre üyesi fotoğraflarını mugshots ile karşılaştırarak gerçek zamanlı yüz tanımlama yazılımını test etti ve 28 üye, mugshots’taki insanlar olarak yanlış tanımlandı.
Bu çalışma, ACLU’nun yüz tanıma yazılımlarının kendilerini yaratan insanların önyargılarından muzdarip olduğu yönündeki eleştirileri pekiştirdiği gerekçesiyle yüz tanıma teknolojisini kullanmaktan yasa uygulayıcısını yasaklamak için Kongre’ye katılma kampanyasının bir parçasıdır.
Amazon, Rekognition’ı ülke çapında yasa uygulayıcı kuruluşlara başarılı bir şekilde pazarladı ve ACLU, bu teknolojinin gözetim amacıyla teknolojiyi kullanmasını engellemek için Electronic Frontier Foundation gibi diğer sivil haklar örgütleriyle birlikte harekete geçti Çünkü, AKLU bu amaçla şehirlere pazarlandığını tespit etti.
ACLU için bir teknoloji ve sivil özgürlükler avukatı olan Jacob Snow, Mashable’a Kongre üyelerinin yüzlerini 13 dolardan daha düşük bir fiyata gerçekleştirdiğini söyledi. Bu da sonuçların yanlış olmasına rağmen ne kadar ucuz ve erişilebilir olduğunun altını çiziyor. Bazı yanlış pozitiflerin görünüşte benzer olmasına rağmen Snow, alt satırın benzer olduğunu aynı anlama gelmediğini söyledi.
Kongre’nin Black Caucus Gazetesi geçtiğimiz günlerde Amazon patronu Jeff Bezos’a bir mektup yazdı. Bu mektupta, sattığı e-ticaret devi Black markaları, belgesiz göçmenler ve protestocular üzerinde sahip olabileceği yüz tanıma teknolojisine dair sonuçlar hakkındaki endişelerini dile getirdi.
Washington’daki Washington County Şerif Ofisi ve Orlando Polis Departmanı, zaten Rekognition’ı kullanıyor.
Her ne kadar Orlando sadece Rekognition’ı (ikinci kez) yönetiyor olsa da, ilk halkanın kamuya danışılmadan yapıldığı ve bu kadar farklı bir şehirde yaşanmakta olduğu da dahil olmak üzere, çeşitli nedenlerle toplumda kullanımı geri çekildi.