Ne Kadar Büyük Teknoloji, İnceleme ve Hesap Verebilirliği Önlemek İçin Kendi Etik Kurallarını Nasıl Tasarlar?
Veri etiği, artık bir nedendir.
“Dijital etik ve mahremiyet” Gartner'ın araştırma ve danışmanlık şirketi oldu 2019 için ilk on stratejik teknoloji eğilimi. Bundan önce ancak bir söz dile getirdi.
Veri etiğine bu ani ilgi neden? Veri etiği nedir? Hizmet vermek için tasarlanmış kurallar kimin çıkarları?
Neler olup bittiğini anlamak için, geriye doğru bir adım atıp bilgi manzarasının nasıl ortaya çıktığına bakmak gerekir.
Ortaya çıkan tablo, herkes için geçerli olan düzenleyici kısıtlamalara karşı bağışıklık kazanmış bir endüstridir.
Parlaklık gitti
Geçtiğimiz birkaç yıl boyunca bilgi endüstrisi parlaklığını kaybetti.
InnerSelf'ten En Son Haberleri Alın
The Snowden vahiyleri, Cambridge Analytica skandalı, sosyal medya nefret söylemi, bilginin silahlandırılması ve demokratik kurumların baltalanmasındaki rolü hepsine katkıda bulundum.
Reklam satmak için kişisel bilgileri paraya çeviren iş modeli artık bir faustian pazarlığı olarak görülüyor - belki de fedakarlık buna değmez. 2017'ten 2018'e bir ABD'deki Facebook kullanıcılarında 6% X kazançlı 12-34 eski pazarında düşüş.
Bu endişeler düzenleme çağrısına yol açmıştır. Ancak bunlar, teknoloji sektörü için geçerli düzenleyici ortodoksiye karşı çekiş kazanmak için mücadele etti. Bu Al Gore's'a kadar uzanıyor. beş ilke daha sonra tuhaf bir şekilde “küresel bilgi otoyolu” olarak adlandırılan şeyi sağlamak için.
Üçüncü ilke, düzenleyici politikanın “hızlı teknolojik ve pazar değişikliklerine ayak uydurabilecek esnek bir düzenleyici çerçeve yaratacağı” idi. Bu hiçbir düzenleme ya da kendi kendini düzenleme için koddu. Avustralya’da “Hafif dokunuş” düzenlemesi.
Büyük teknoloji, tüketicinin korunması veya ürün yükümlülüğü veya rekabet yasası veya özellikle de bilgi gizliliği gibi “eski” ekonominin gündelik endişelerinden büyük ölçüde kurtulan düzenleyici cezasızlıkla hareket etti.
Daha yakın daire içine almak
Avrupa bu laissez-faire yaklaşımını hiçbir zaman tam olarak benimsemedi. Bilgi gizliliği, gündeminde her zaman yüksek olmuştur ve 2018 Genel Veri Koruma Yönetmeliği ile sonuçlanmaktadır (GDPR). Bu, Avrupa Birliği'ndeki bireylere dünyadaki en kapsamlı veri koruma haklarını sağlar. Hakların dünya dışı erişime sahip olması, düzenleyici gözetimi içermesi ve istihdam edilmesi göz sulamada medeni para cezaları. Diğer yetki alanları da dava açmaya başlıyor.
Paralel olarak, diğer disiplinlerden gelen düzenleyiciler çevrelenmeye başlıyor. Anti-tröst düzenleyiciler, bilgi tekellerini ve büyük teknolojinin rekabeti kısıtlamak için piyasa gücünü kullanmasını merak ediyorlar.
Avustralya’da ACCC yeni düzenleyici otorite Algoritmaların sıralama haberleri ve gazetecilik içeriği üzerindeki etkisini izlemek ve araştırmak.
İngiltere Dijital Dünyada Düzenleme ile ilgili İletişim Raporu Seçme Komitesi’nde yeni bir Dijital Otorite önerilir dijital ortamın “parçalı” düzenlemesini on düzenleyici ilke çerçevesinde denetlemek, “çevrimiçi platformlar tarafından yapılan elf düzenlemesinin açıkça başarısız olduğunu” not etmek. İnsan hakları düzenleyicileri, algoritmaların ayrımcılık yaratma ve işe almadaki rolünü incelemektedir.
Veri para demektir
Büyük teknoloji düzenlenmek istemiyor. Sınırsız kişisel bilgi toplama kabiliyetinin sınırlandırılmasını veya GSYİH tipi korumaların küresel norm haline gelmesini istemiyor. Kişisel bilgiler, dikkatimizi para kazanmasını sağlayan algoritmaların hammaddesidir.
Kendisini “yıkıcı” olmaktan gurur duyan bir endüstri için, büyük teknolojinin en büyük endişesi, kendisini rahatsız etmekten kaçınmak için sıkılaştırıcı düzenleyici ortamı engellemektir. Veri etiği, düzenleme ile mücadele etmek için geliştirdiği araçlardan biridir. Bunu, etik ile ilişkili erdemlere ayırmakla ancak onları içerikten veya sonuçlardan boşaltmak suretiyle yapar.
Almak Google'ın AI için prensipleri. (AI yapay zekadır). Bunlar:
- sosyal açıdan faydalı olmak
- haksız önyargı oluşturmaktan veya takviye etmekten kaçının
- güvenlik için üretildi ve test edildi
- insanlara karşı sorumlu olmak
- gizlilik tasarım ilkelerini dahil etmek
- yüksek bilimsel mükemmellik standartlarına uymak
- bu ilkelere uygun kullanımlar için hazır bulundurulmalıdır.
Bu “ilkeler”, Instagram'da yayınlanan “birbirimize karşı iyi olma” ya da “güneşin öfkemiz üzerine inmesine izin vermemeye” teşvik eden, kendilerini iyi hissettiren evlatlarına çarpıcı bir şekilde benzer ve faydalıdır.
Teste koy
Google’ın ilkelerinden birini “insanlara karşı sorumlu olun” test edelim.
Burada birkaç belirsizlik katmanı var. Bu, Google’ın AI algoritmalarının genel olarak “insanlara”, Google’ın “insanlarına” veya bir başkasının bağımsız bir düzenleyici gibi “insanlarına” karşı sorumlu olması gerektiği anlamına mı geliyor?
İkincisi, Google analiz için algoritma sağlayacak mı, hataları düzeltecek mi ve herhangi bir zararın tazminini ödeyecek mi?
Google’ın AI algoritmaları yanlışlıkla bir terörist olduğumu sonucuna varabilir ve bu bilgiyi beni tutuklamak için kullanan ulusal güvenlik kurumlarına iletirse, beni iletişimsiz tut ve beni sorgula, Google ihmalinden veya yanlış hapis cezama katkıda bulunmasından sorumlu olacak mı? Nasıl hesap verilecek? Google’ın hesap verebilirlik versiyonundan memnun değilsem, adalet için kime başvurabilirim?
Yararlı etik, hesap verebilirliği içerir
Etik, bireylerin nasıl karar verdiklerini ve yaşamlarını nasıl yönlendirdiklerini etkileyen ahlaki ilkelerle ilgilidir.
Ahlak için etüt okudu ve tartışıldı. Batı geleneklerinde ahlak, geriye doğru izlenir. Sokrates. Bunlar, deontolojik (görev temelli) etik, sonuççuluk, faydacılık ve varoluşçuluk gibi felsefi konumları içerir; Şaşırtıcı olmayan bir şekilde, bunların hiçbiri bireyin belirli bir durumda ne yapması gerektiği hakkındaki sorulara aynı cevapları vermez.
“Uygulamalı etik”, etik ilkelerini gerçek hayattaki durumlara taşımayı amaçlamaktadır. Çok sayıda örnek var.
Kamu sektörü etiği yasa ile yönetilmektedir. Disiplin cezaları, iş akdinin feshi ve bazen de cezai yaptırımlar dahil, onları ihlal edenler için sonuçlar vardır. Avukat olmak için mahkemeye “uygun ve uygun bir insan” olduğuma dair kanıt sunmak zorunda kaldım. Uygulamaya devam etmek için, Avustralya Avukat Davranış Kuralları'nda belirtilen ayrıntılı şartlara uymam gerekiyor. Onları ihlal edersem, sonuçları olur.
Uygulamalı etiğin özellikleri, belirli olmaları, geri bildirim döngüleri, rehberlik, organizasyonel ve profesyonel kültürün içine yerleştirilmiş olmaları, uygun gözetim olmaları, ihlal edildiklerinde sonuçları olmaları ve bağımsız icra mekanizmaları ve gerçek çözümler bulunmasıdır. . Onlar sadece “iyi hissetmek” ifadeleri değil, düzenleyici bir cihazın parçasıdır.
İyi hissediyorum, üst düzey veri etiği ilkeleri, büyük teknolojiyi düzenlemek için uygun değildir. Uygulamalı ahlakın oynayabileceği bir rol olabilir, ancak meslek ya da disipline özgü olduklarından, ağır işlerin hepsini, hatta çoğunu yapmaktan bile hoşlanamazlar.
Büyük teknolojiye bağlı hasarlar ancak uygun düzenleme ile ele alınabilir.
Yazar hakkında
David Watts, Bilgi Hukuku ve Politikası Profesörü, La Trobe Üniversitesi
İlgili Kitaplar:
{amazonWS: searchindex = Kitaplar; anahtar kelimeler = dijital tekeller; maxresults = 3}