Bir Amazon Echo akıllı hoparlörüne sahipseniz, sanal asistan Alexa ile konuşurken Amazon'da birinin sizi dinlediği hissine kapılıyor olabilirsiniz. Bir Bloomberg raporuna göre, Amazon'da birisinin gerçekten Alexa ile yaptığınız sohbetlerin kayıtlarını dinlediği zamanlar oluyor. Şirket, yalnızca Alexa ile olan etkileşimlerinizin kayıtlarını dinlemeleri için değil, aynı zamanda bunlara bir yere yazmaları için insanlara maaş ödüyor.
Amazon, Kullanıcıların Seslerini Dinliyor ve Analiz Ediyor
Dünya çapında binlerce Amazon çalışanı bu kayıtları kopyalamak, yorumlamak ve bilgileri bir yazılım programına yüklemek görevini üstlenmiş durumda. İddialara göre bu Alexa'nın insanların nasıl konuştuğunu anlamasına yardımcı olmak için yapılıyor; ayrıca dijital asistanın kullanıcıların komutlarına daha doğru cevap vermesine yardımcı oluyor. Alexa, performansını ve kullanıcı deneyimini geliştirmesini sağlayan algoritmalara sahip olmasına rağmen, bu sürece katılan insan Amazon çalışanları da var.
Transkripsiyonlar Amazon tarafından, algoritmalarının kapsamayabileceği bazı şeyleri anlamasına yardımcı olmak için kullanılıyor. Alexa'nın argo, yabancı diller ve bölgesel ifadeleri anlamada problemleri var. Hem Apple hem de Google, sırasıyla Siri ve Google Assistant'ı kullanan kullanıcıların kayıtlarını almakta. Ancak gizliliğe önem veren Apple'ın kayıtlarınde sesler kullanıcılar ile ilişkilendirilmiyor ve sadece Siri'nin sesleri algılamasını geliştirmek için kullanılıyor. Google, bazı çalışanların, şirketin Google Asistanını geliştirmesine yardımcı olmak için bazı kullanıcılardan gelen bozuk sesleri dinlemesini istiyor. Bu kayıtlar da onları belirli kullanıcılara bağlayan bilgilere sahip değil.
Her çalışan her gün 1000'in üzerinde sesi dinliyor
Yaptıkları gizlilik anlaşmaları nedeniyle isimsiz olarak konuşan çalışanlara göre Echo kullanıcılarının Alexa ile konuşmalarını dinleyenler hem tam zamanlı Amazon çalışanları hem de danışmanlardan oluşuyor. Boston, Kosta Rika, Hindistan ve Romanya gibi yerlerde bulunan ofislerdeki ekipler, dokuz saat içinde 1.000'in üzerinde ses klibi dinleyebiliyor. Bu işi yapmak oldukça rutin olsa da, bazen dinleyiciler duşta şarkı söyleyen birileri gibi şeyler duyuyorlar ve açıkça anlaşılamayan bir kelime varsa, dahili bir sistem, çalışanların ses dosyalarını birbirleriyle paylaşmalarına izin veriyor.
Bükreş'teki Alexa Data Services için yayınlanan bir iş ilanı, işin neyle ilgili olduğunu ortaya koyuyor. Reklamda, "Her gün [Alexa] her biri farklı konular ve farklı dillerde konuşan binlerce kişiyi dinliyor ve her şeyi anlayabilmesi için yardımımıza ihtiyacı var. Bu, daha önce hiç görmediğiniz kadar büyük boyutta bir veri işleme. Devasa miktarda konuşmayı günlük olarak oluşturuyor, etiketliyor, iyileştiriyor ve analiz ediyoruz. ”
Tahmin edebileceğiniz gibi bazen kaydedilen konuşmalar izleyenleri üzen bir şeyler içeriyor. Romanya'daki iki çalışan, cinsel saldırı olduğunu düşündükleri bir şeyin sesini duydu. Amazon, böyle bir kayıtla karşılaşıldığında çalışanlara izlemeleri gereken prosedürleri açıklıyor. Amazon kısaca çalışanlara müdahale etmemesi gerektiği söylüyor.
“Müşterilerimizin kişisel bilgilerinin güvenliğini ve gizliliğini ciddiye alıyoruz. Müşteri deneyimini geliştirmek için yalnızca çok küçük bir Alexa ses kaydı örneğini kullanıyoruz. Bu bilgi konuşma tanıma ve doğal dili eğitmeye yardımcı oluyor. Her şey Alexa'nın isteklerinizi daha iyi anlayabilmesi ve hizmetin herkes için iyi çalışmasını sağlamak içindir. Sıkı teknik ve operasyonel güvencelerimiz var ve sistemimizi kötüye kullanma konusunda sıfır tolerans politikasına sahibiz. Çalışanlar, bu iş akışının bir parçası olarak kişiyi veya hesabı tanımlayabilecek bilgilere doğrudan erişemez. Tüm bilgiler yüksek gizlilik içinde ele alınır ve bunlara erişmek için çok faktörlü kimlik doğrulaması kullanırız." – Amazon
Echo kullanıcıları, Amazon'un kendi ses kayıtlarını kullanmalarını engelleyebiliyor. Bloomberg, transkriptlere gönderilen kayıtlarda kullanıcının tam adı ve adresinin bulunmadığını keşfetmesine rağmen, kullanıcının adı, hesap numarası ve Echo cihazının seri numarası bulunuyor.
Bu yılın başlarında, başka bir raporda Amazon'un Ring kapı zili kamera biriminin çalışanlarının kameraya yakalanan insanları ve araçları elle tanımladıklarını söyledi. Amazon, Ring'in yazılımının bunu nasıl otomatik olarak yapacağını öğrenmesine yardımcı olmak için bunun elle yapıldığını söylüyor.