Giderek daha fazla şirket fotoğraflarımıza erişebiliyor. Sonuçlar her zaman öngörülebilir olmuyor. ABD’de bir adam şimdi Google tarafından oğlunu istismar etmekle suçlanıyor. Oysa polis ise uzun zaman önce babayla aynı fikirde oldu.
Mark, bebeklik döneminde oğlunun kasıklarında şişlik olduğunu keşfettiğinde, gelişimi belgelemek ve doktorlara sunmak için bazı fotoğraflar çekti. İki gün sonra, yalnızca Google’daki on yıllık verilere mal olmakla kalmayıp, aynı zamanda onu bir polis soruşturmasında şüpheli yapan bir kabus başladı.
Android akıllı telefonundan gelen bir uyarı sinyali her şeyi değiştirdi Google hesabı, “zararlı içerik” paylaştığı için kapatılmıştı. Bu, “Google’ın yönergelerinin ciddi bir ihlali ve muhtemelen yasadışı” idi. Google’a erişimi – postaları, kişileri, bulutta depolanan resimleri, takvimi ve hatta GoogleFi hizmeti aracılığıyla çalışan cep telefonu tarifesi – artık tek bir hamlede kullanılamıyordu. Böylece artık akıllı telefondaki diğer hesapların güvenlik kodlarını alamadı ve bunlara erişimini kaybetti.
Şüphe altında
Bir şikayet formunda, San Francisco merkezli ev hanımı Google’a neler olduğunu açıklamaya çalıştı. Oğlunun organlarındaki enfeksiyonu keşfettiğinde, bunu belgelemek için fotoğraflar çekti. Karısı bir doktordan randevu aldıktan sonra, doktorun asistanı resimleri önceden göndermesini istedi. Karısı, Mark’ın telefonundaki resimleri kısa mesajla kendisine gönderdi ve oradan iletti. Aslında, doktorlar bir enfeksiyon tanımladılar, antibiyotik ile tedavi edildi.
Mark, on yıldan fazla bir süredir Google kullanıcısı olmasına rağmen, günlerce şirketten hiçbir cevap alamadı. Daha sonra başvurusu başka bir gerekçe gösterilmeden reddedildi. O zamanlar bilmediği şey: Google, başka bir videoyu potansiyel olarak sorunlu olarak işaretlemişti. Ve olası çocuk istismarı için onu polise bildirdi.
Otomatik kontrol
Prosedürün gerekçesi temel olarak anlaşılabilir ve yalnızca Google’ı ilgilendirmiyor. İnternet şirketleri artık kullanıcılarının büyük miktarda verisini sunucularında depoluyor. Ayrıca, çocuk istismarı kayıtları gibi yasadışı materyallerin aralarında olması durumunda da sorumludur. Resimlerin sunuculara yüklendiğini yalnızca Google denetlemiyor. Facebook ayrıca medyayı bilinen kötüye kullanım kayıtlarının veritabanlarıyla karşılaştırıyor. Ancak 2018’den bu yana Google bir adım daha ileri gitti: Yapay zeka ile şirket, daha önce bilinmeseler bile potansiyel olarak sorunlu görüntüleri tanıyor. Tıpkı bu durumda olduğu gibi.
Mark, Google’ın onu neden engellediğini yavaş yavaş anlamaya başladı. “Aman Tanrım, Google bunun çocuk istismarı olduğunu düşünüyor” diye fark etti. İlk başta endişelenmedi. Kendisi bir yazılım geliştiricisi olarak sorunlu videoların tespiti ile uğraştığı için, otomatik olarak işaretlenen verilerin sonunda bir insan gözden geçirenle sonuçlanacağını biliyordu ve yanlış anlaşılmayı fark edeceğini umuyordu.
Bu noktaya kadar, “sistem olması gerektiği gibi çalıştı”, ABD Çocuk Koruma Ajansı’nın siber ipucu yardım hattından Fallon McNulty Times’a verdiği demeçte. O ve ekibi, Google ve diğerleri tarafından bildirilen resimleri ve videoları inceliyor. Sonuç olarak, ABD şirketleri her gün 80.000’den fazla vaka bildirmektedir. Bununla birlikte, McNulty’ye göre, bunlar çoğunlukla iyi bilinen kayıtlardır. Bununla birlikte, 2021 yılında yetkililere 4200’den fazla potansiyel yeni vaka bildirilmiştir. Markos’un oğlu da onlardan biriydi.
Polisten gelen posta
Ancak Aralık ayına kadar öğrenemedi. Google tarafından kilitlendikten on ay sonra, San Francisco polisinden bir mektup aldı. Aleyhindeki soruşturma hakkında onu bilgilendirdi, çevrimiçi hesapları ve tüm faaliyetleri için arama emirleri içeriyordu: İnternet aramasından ikamet günlüklerine, mesajlara, fotoğraflara ve videolara kadar. Çocuk istismarı ile ilgili, açık bir duyuru oldu. Sadece Mark den Ermittler aradı, kurtarıcı haberi aldı: Dava kapatılmıştı, doğruladı. Araştırmacı, “Gerçekleri inceledikten sonra, hiçbir suç işlenmediğini değerlendirdim” diye doğruladı. Mark posta ve telefon numarasını değiştirdiği için ona ulaşılamıyordu.
Mark rahatlamıştı. Ve şimdi Google’dan yeni bulgularla hesabını yeniden açmasını istedi. Başarı olmadan. Bunun yerine, bir yıllık süre dolduğunda hesabın tamamen silineceğine dair bir bildirim aldı. Mark, verilerini dava yoluyla saklamak için başka bir avukata danıştı. “Ama 7.000 dolar değerinde olmadığına karar verdim,” dedi vazgeçerek. Veriler artık kayboldu.
İzole edilmiş bir vaka değil
Google’a göre, reklam nihayetinde genital fotoğraf nedeniyle değil, bir video nedeniyle oluşturuldu. Mark’ın karısı çocuğunun yanında çırılçıplak yatıyordu. “Masum bir yakınlık anıydı,” diye açıklıyor Mark. “Keşke pijamalarla uyusaydık.” Google gazeteye verdiği demeçte, kararın hala doğru olduğuna inandıklarını söyledi.
Mark’ın şimdi verilerini geri almak için son bir umudu var: Polisin dosyalarında, Google’ın teslim ettiği bulut verilerinin kopyaları var.