(Michele Gorga, DPO'lar, RTD'ler ve Aidr İtibar Müdürü koordinasyonu için avukat ve gözlemevi bileşeni) İdari bir karar amacıyla kişisel verilerin işlenmesine yönelik otomatik prosedürle ilgili olarak, referans standardı, iyi bilindiği üzere, 'Sanat. 22/2016 tarihli GDPR'nin 679'si şunları sağlar: "İlgili taraf, kendisi ile ilgili yasal etkiler oluşturan veya kendisini önemli ölçüde etkileyen profil oluşturma dahil, yalnızca otomatik işlemeye dayalı bir karara tabi tutulmama hakkına sahiptir. onun kişisinde. " Bu ilke, tamamen bir makine, bir algoritma, başka bir insan dışı karar verme süreci aracılığıyla alınan bir karar karşısında hiç kimsenin hakları üzerinde sonuçlara maruz kalamayacağı ilkesiyle özetlenebilir, karşılığını GDPR 15 / 2016'un 679. DEĞERLENDİRMESİ'nde bulur. " Ciddi hileli atlatma risklerinin ortaya çıkmasını önlemek için, gerçek kişilerin korunması (tedavi) teknolojik açıdan tarafsız olmalı ve kullanılan tekniklere bağlı olmamalıdır …… ". 2016/679 AB Tüzüğünde ifade edilen hükümlerin her ikisi de bu nedenle, şeffaflık kuralları ve veri koruma mevzuatına uyma ihtiyacı arasındaki koordinasyonda bir yandan idari takdir yetkisiyle birleştirilen iç idare hukuku tarafından belirlenen ilkelerle mükemmel bir şekilde tutarlıdır. Öte yandan tüm kamu idarelerinin tabi olduğu ve ilgilendiğimiz bağlı kanun kategorisi ile yapay zeka sistemi tarafından alınan bir karar temelinde üstlenilen algoritma ile ilgili daha fazla kritik profil ortaya koymaktadır.
İlk profil, şimdi KA'nın faaliyetlerinin merkezinde olan ve algoritmalara ve otomatik kararlara dayalı yeni kamu hizmetlerinin temeli olması gereken şeffaflık ilkesine saygı duyma ihtiyacıyla ilgilidir. Bu anlamda, hizmet operasyon sürecinin sadece verilerin değil, aynı zamanda veri tabanı oluşturma mantığının algoritmalarının da şeffaflığının sağlanması gerekli olacaktır. İkincisi, hizmetlerin sağlanmasında yapay zeka çözümlerine başvurduğunda veya tam otomatik prosedürlere başvurma kararlarında ve idari içtihatın idari prosedürün tamamen bir hükümete tabi olduğu davalarla ilgilendiği durumlarda bile Kamu İdaresinin yasal sorumluluğu ile ilgilidir. makine ve temel varsayımı, yani belirli eylem kategorileri için adli korumanın dışlanamayacağı veya sınırlandırılamayacağı şeklindeki temel varsayımı sağlamlaştırmaya başladı. İdari yargıç, idari prosedürdeki otomasyon süreci sorununu çok yakın tarihli bazı cümlelerde ele almış ve konuyu düzenleyenler olarak üç temel ilkeyi belirlemiştir; bilinebilirlik; algoritmik kararın münhasır olmaması; algoritmik ayrımcılık yapmama.
Birinci ilkeye, yani "profil oluşturma dahil olmak üzere yalnızca otomatik işlemeye dayalı bir karara tabi tutulmama hakkı" üzerinde durulduğunda, bu, OA tarafından alınan her algoritmik kararın hiçbir zaman bir resmi - gerçek kişi tarafından kontrolsüz olamayacağı anlamına gelir. suçlama - ABD Wisconsin Bölge Mahkemesi tarafından daha önce onaylanmış ve idari içtihatımız tarafından 2019'da netleştirilen içtihat tutuklamasıyla kabul edilen bir ilke, Gizlilik Garantörü tarafından verilen yakın tarihli bir görüşün kabul etmediği görülüyor.
Ve aslında, Trento Özerk Eyaletinden, ekonomik destek müdahaleleri bağlamında gelecekteki bir tasarının olası onaylanması için tamamen otomatik kararlar içeren tedavileri gerçekleştirebilmek için normal olarak hazırlanan bir teklifle ilgili bir görüş talebi üzerine- İlçe, ikamet edenler için hibe, sübvansiyon, hibe ve diğer ekonomik avantajların verilmesi ile ilgili olarak, bu prosedürlerde, sistemlerde tamamen otomatik olsa bile, periyodik olarak doğrulansa bile algoritmik mantığın kullanılması olasılığını ifade etmiştir. her türlü hata, çarpıtma veya ayrımcılık riskini en aza indirmek için.
Bununla birlikte, talepte, algoritmik formülün idari prosedürle ilgilenen alıcılara tam olarak bilinmesi öngörülmüş olsa da - aynı hükümde olsa bile, algoritma formülünün alıcılar tarafından nasıl bilinir hale getirileceğine dair reçeteler - yalnızca genel olarak İlgili tarafların "aynı formül temelinde alınan kararlara itiraz etmeleri ve etkili bir insan müdahalesi talep etmelerinin" mümkün olacağı ve bu nedenle, mevzuatla belirlenen ek kriterin ihlal edilmesiyle sonuçlanan bir ex ante müdahale değil, önceden müdahale edilebileceği öngörülmüştür. Kefil, Öİ'nin kullanıcılarının zararına idari prosedürün ağırlaştırılmaması için Avrupa Komisyonu, bariz kritikliklere rağmen, önerilen standardın ana hatları ve her ne kadar marjinal ve artık görünen talimatlar ve koşullar hakkında olumlu bir görüş bildirmiştir.