Trans Sürücüler Uber Hesaplarından Kilitleniyor
Uber, yolun hakimiyeti arayışında en son teknolojiyi benimsemeye hevesli olabilir, ancak son zamanlarda bir transseksüel sürücüyü içeren bir olay ve araç paylaşımı uygulamasının yüz tanıma güvenlik özelliği, bilgisayar algoritmalarına güvenmenin birçok tuzağından birini ortaya koyuyor. Iowa'da trans bir Uber sürücüsü olan Janey Webb, geçen ay özelliğin kendisini tanımaması ve iş ve gelir günlerini kaçırmasına neden olması nedeniyle uygulamanın dışında kaldığını fark etti. CNBC raporları .
Uber'in yüz tanıma sistemi, Gerçek Zamanlı Kimlik Kontrolü , Eylül 2016'da kullanıma sunuldu ve sürücülerin kimliklerini doğrulamak için aralıklı özçekimler göndermelerini gerektiriyor. Güvenlik özelliği, Microsoft Bilişsel Hizmetleri kullanarak, özçekimi Uber'in dosyada tuttuğu sürücü fotoğrafıyla karşılaştırır (sürücü kaydı ve uygulama ile ilk doğrulama işlemi sırasında sağlanır) ve fotoğraflar eşleşmezse sürücünün hesabını geçici olarak askıya alır .
Webb'in durumunda olduğu gibi, trans değilseniz ve geçiş sürecinde değilseniz, bu kulağa iyi bir güvenlik özelliği gibi geliyor. CNBC, Webb'in Ekim 2017'de Uber için çalışmaya başladığını ve yaklaşık olarak geçiş yapmaya başladığını bildirdi. Görünüşündeki değişiklikler sonunda Gerçek Zamanlı Kimlik Kontrolü algoritmasında kırmızı bir bayrak kaldırdı.
Webb, CNBC'ye, güvenlik özelliğiyle ilgili sorunlardan kaçınmak ve potansiyel yolcuları güncel tutmak için uygulama içindeki geçişini özenle belgelemek için adımlar attığını söyledi. Ama bu yeterli değildi. Webb'in trafiğinin yoğun olduğu dördüncü Temmuz hafta sonundan hemen önce, Webb'in hesabı donduruldu ve sorunu çözmek için Uber'in Iowa'daki tek yüz yüze destek merkezine iki saat sürmesi istendi. İddiaya göre sorunun tekrar ortaya çıkabileceği söylendi.
Webb, CNBC'ye verdiği demeçte, 'Bir trans kişinin, devre dışı bırakılmamak için her üç ayda bir lisansını güncellemesi beklenemez' dedi. Uber henüz onlara yanıt vermedi.'nin yorum talebi.
Bununla birlikte, Uber'in ötesinde, Webb'in Gerçek Zamanlı Kimlik Kontrolü ile ilgili sorunu, genel olarak marjinal toplulukları hesaba katmayan yüz tanıma teknolojisi ve genel olarak bilgisayar algoritmalarının geleceği hakkında artan endişelere değiniyor. Google, GLAAD ile ortak oldu LGBTQ dahil AI oluşturmaya yardımcı olun Ben eşcinselim gibi zararsız terimlerin, kullanıcılar Twitter ve Facebook gibi sosyal medya platformlarında paylaştığında otomatik olarak olumsuz olarak kaydedildiğini keşfettikten sonra.
Geçen yıl, transseksüel YouTubers, araştırmacıların yüz tanıma teknolojisi üzerinde çalıştığını keşfettiğinde tartışmalar patlak verdi. videolarını kullanmıştı AI için veri sağlamak, tıbbi geçişlerden geçen insanların yüzlerini tanımayı öğretmeye yardımcı olmak. Bu, YouTuber'ların bilgisi veya rızası olmadan yapıldı.
Marjinal topluluklardaki birçok insan, genel olarak AI ve yüz tanıma teknolojisinden şüpheleniyor. Geçen yıl Eylül ayında, Stanford Üniversitesi tarafından yüz tanıma teknolojisinin bir kişiyi LGBTQ+ olarak tanımlayabildiğini iddia eden bir rapor, hem iddiaya göre hem de iddiaya göre LGBTQ+ olarak tartışmalara neden oldu. kusurlu bulgular Raporda ve teknolojinin LGBTQ+ kişilerini yok etmek için kullanılabileceği fikri için.
Massachusetts Teknoloji Enstitüsü'nde profesör olan Sherry Turkle gibi akademisyenler, NBC OUT ile röportaj queer insanların bu tür yüz tanıma teknolojisini şüpheyle karşılamakta haklı olduklarını. Bilgiler, hükümetlerin LGBTQ+ kişilerin kayıtlarını oluşturmasına yardımcı olmak için kullanılabilir. bazı ülkeler zaten yürütüyorlar.
'Öncelikle, bu teknolojinin sahibi kim ve sonuçları kim alıyor?' dedi Türk. 'Şimdi sorun şu ki 'teknoloji' gerçekten 'meta' anlamına gelen bir deyimdir. Bunun anlamı şu ki, teknolojiniz yüzüme bakarak cinselliğimi anlayabilir ve siz bu bilgileri sosyal kontrol amacıyla alıp satabilirsiniz.'
Gerçek Zamanlı Kimlik Kontrolü gibi özellikler yaygınlaştıkça, bu teknoloji üzerindeki etik tartışmaların ısınmaya devam etmesi muhtemeldir. Webb'in hesabının askıya alınmasının geliri üzerinde önemli bir etkisi oldu ve böyle bir deneyime sahip olan son trans kadın olmayacak. Yapay zeka hızlı bir şekilde büyüyor, bunu yaparken kümülatif veriler oluşturuyor, bu da zamanla geriye dönüp değişmesi daha da zorlaşacak. Ancak fiyaskonun her iki tarafında da bir şey üzerinde fikir birliği var gibi görünüyor: Marjinalleştirilmiş insanlar için sonuçlar ön planda ve merkezde olmalı.