Cathy O’Neil’in “Sayılıların Saldırısı:Matematiksel İmha Silahları” iddialı eseri Tellekt Yayınevi tarafından yayımlandı. Kitapta O’Neil, modelcileri ve politikacıları algoritmalarla ilgili daha fazla sorumluluk almaya çağırıyor. O’Neil, bugün kullanılan modellerin, şeffaflıktan ve tartışılabilir olmaktan çok uzak olduğunu ve ayrımcılığı güçlendirdiklerini iddia ediyor.
Hem birey hem de toplum olarak geleceğimizi şekillendiren kara kutu modellerinin; yani matematiksel imha silahlarının özgeçmişleri nasıl sıraladığını, kimlere nasıl kredi verdiğini (veya vermediğini), çalışanları nasıl değerlendirdiğini, seçmenleri nasıl hedeflediğini ve sağlığımızı nasıl izlediğini göz önüne seren O’Neil, modelcileri ve politikacıları algoritmalarla ilgili daha fazla sorumluluk almaya davet ediyor.
Algoritma çağında yaşıyoruz. Yaşamlarımızı etkileyen kararlar –okula gittiğimiz yer, araba kredisi alıp almadığımız, sağlık sigortası için ne kadar ödeyeceğimiz– insanlar tarafından değil matematiksel modeller tarafından veriliyor. Teoride bunun daha fazla adalet sağlaması gerekir çünkü bu şekilde herkes aynı kurallara göre değerlendirilmiş olur, dolayısıyla önyargı ortadan kalkar.
Cathy O’Neil, aslında bu durumun tam tersinin yaşanmakta olduğunu söylüyor. Bugün kullanılan modeller, şeffaflıktan ve tartışılabilir olmaktan çok uzaklar. En rahatsız edici olansa, ayrımcılığı güçlendirmeleri…
“Demokrasi için zehirli bir kokteyl” yaratan Büyük Veriler’in karanlık tarafına hoş geldiniz!
Yine de günün sonunda, hayatlarımızı yöneten modeller hakkında daha fazla bilgi sahibi olmak bize kalmış. Matematiksel İmha Silahları zor soruları sormamıza, gerçeği ortaya çıkarmamıza ve değişim talep etmemize yardımcı olacak.