Bu sayfa, Adalet sözlüğü terimleri içeriyor. Tüm sözlük terimleri için burayı tıklayın.
A
özellik
Özellik ile eş anlamlıdır.
Makine öğrenimi adaletinde özellikler genellikle bireylerle ilgili özelliklerdir.
otomasyon sapması
İnsan karar alma sistemi, otomatik karar verme sisteminin hata yaptığı durumlarda bile otomasyon olmadan yapılan bilgilere göre otomatik karar verme sisteminin sunduğu önerileri tercih ettiğinde.
B
ön yargı (etik/adil)
1. Bazı şeylere, kişilere veya gruplara karşı stereosterizm, önyargı ya da favorilere ekleme. Bu sapmalar verilerin toplanmasını ve yorumlanmasını, bir sistemin tasarımını ve kullanıcıların bir sistemle nasıl etkileşimde bulunduğunu etkileyebilir. Bu tür ön yargı türleri şunlardır:
- otomasyon ön yargısı
- onay sapması
- deneycinin ön yargısı
- grup ilişkilendirme ön yargısı
- dolaylı ön yargı
- grup içi ön yargı
- grup dışı homojenlik ön yargısı
2. Örnekleme veya raporlama prosedüründen kaynaklanan sistematik hata. Bu tür ön yargı türleri şunlardır:
- kapsam sapması
- yanıt vermeme eğilimi
- katılım ön yargısı
- raporlama ağırlıklandırması
- örnekleme sapması
- seçim ön yargısı
Makine öğrenimi modellerinde ön yargı terimi veya tahmin ön yargısı ile karıştırılmamalıdır.
C
onay ön yargısı
Bilgiyi arama, yorumlama, tercih etme ve geri çağırma eğilimidir. Bu yaklaşımda, kişilerin mevcut inançlarını veya hipotezlerini doğrulamak için kullanılır. Makine öğrenimi geliştiricileri, verileri mevcut inançlarını destekleyen bir sonucu etkileyebilecek şekilde yanlışlıkla toplayabilir veya etiketleyebilir. Onay ön yargısı, dolaylı ön yargı biçimidir.
Denemeci ön yargısı, mevcut bir hipotez onaylanana kadar deneme modellerinin eğitimine devam ettiği bir onay ön yargı biçimidir.
gerçek dışı adaletBir veya daha fazla hassas özellik söz konusu olduğunda, bir sınıflandırıcının birincisiyle aynı olan başka bir kişi için yaptığı gibi aynı sonucu üretip üretmediğini kontrol eden bir adillik metriği. Bir sınıflandırıcıyı adil kullanım için değerlendirmek, bir modeldeki potansiyel ön yargı kaynaklarını ortaya çıkarmaya yarayan bir yöntemdir.
"Dünyalar Çarpıştığında: Farklı Saygılı Saygıyı Entegre Etme Adalette Varsayımlar" Karşılıklı adaletle ilgili daha ayrıntılı bir tartışma için.
kapsam sapması
Seçim ön yargısı konusuna bakın.
G
demografik grup
Model modelinin sonuçları belirli bir hassas özelliğe bağlı değilse ortaya çıkan adillik metriği.
Örneğin, hem Lilliputlular hem de Brobdingnagiyalılar Glubbdubdrib Üniversitesi için geçerliyse, kabul edilen Lilliputluların yüzdesi, kabul edilen Brezilyalıların yüzdesiyle aynıysa bu gruplar demografik olarak eşitlik elde eder (bir grubun ortalama olarak diğerinden daha nitelikli olup olmadığına bakılmaz).
Eşit oranda olasılıklar ve fırsat eşitliği ile zıtlaşarak, sınıflandırmanın toplu olarak hassas özelliklere bağlı olmasına izin verir ancak belirli kesin referans etiketleri için hassas özelliklere bağlı olarak sınıflandırma sonuçlarına izin vermez. Demografik denklik için optimizasyon yaparken yaratılan ödünçleri inceleyen bir görselleştirme için "daha akıllı makine öğrenimiyle ayrımcılığa karşı saldırı yapma" konusuna bakın.
eşit olmayan etki
Nüfus üzerindeki farklı alt grupları etkileyen orantısız bir şekilde karar vermek. Bu, genellikle algoritmik bir karar verme sürecinin bazı alt gruplara diğerlerine göre daha fazla zarar verdiği veya fayda sağladığı durumları ifade eder.
Lilliputian'ın minyatür ev kredisine uygun olup olmadığını belirleyen bir algoritmanın, posta adresi belirli bir posta kodunu içerdiğinde söz konusu kredilerin "uygunsuz" olarak sınıflandırılmasının daha olası olduğunu varsayalım. Big-Endian Lilliputian'ların posta kodlarına sahip posta adreslerinin Little-Endian Lilliputians'a göre daha yüksek olması durumunda bu algoritma farklı etki yaratabilir.
Alt grup özelliklerinin algoritmik karar alma sürecinde açık birer giriş olması sonucu ortaya çıkan eşitsizliklere odaklanan ayrı bir değerlendirme ile kontrast teşkil eder.
ayrı tedavi
Farklı insan alt gruplarının farklı şekilde ele alınacağı şekilde, algoritmik bir karar verme sürecinde hassas özellikleri dikkate almak.
Örneğin, Lilliputluların kredi başvurularında sağladıkları verilere göre minyatür ev kredisine uygun olup olmadıklarını belirleyen bir algoritma ele alalım. Algoritma, giriş olarak Lilliputian'ın Big-Endian veya Little-Endian ilişkisini kullanırsa söz konusu boyutta farklı muamelede bulunuyor demektir.
Alt gruplarda algoritmik kararların toplumsal etkileri arasındaki ayrımlara odaklanan farklı etki ile zıtlık oluşturur. Bu alt grupların modele girdi girip girmemesinden bağımsız olarak.
E
fırsat eşitliğiTercih edilen etiketin (bir kişi için avantaj veya fayda sağlayan) ve belirli bir özellik için bu özelliğin tüm değerlerinde etiketin eşit derecede iyi bir şekilde tercih edildiğini tahmin eden adillik metriği. Diğer bir deyişle, fırsat eşitliği, grup üyeliğinden bağımsız olarak, fırsata hak kazanacak kullanıcıların aynı fırsata sahip olup olmadığını ölçer.
Örneğin, Glubbdubdrib Üniversitesi'nin hem Lilliputluları hem de Brobringnagilileri titiz bir matematik programına kabul ettiğini varsayalım. Lillivililerin ortaöğretim okulları, matematik dersleri için sağlam bir müfredat sunar. Öğrencilerin büyük çoğunluğu üniversite programına katılmaya uygundur. Brobringnagia'nın ortaokulları, matematik dersleri sunmamaktadır ve bunun sonucunda öğrencilerinin çok daha azı nitelikli olur. Fırsat eşitliği, uygun niteliklere sahip öğrencilerin bir Lilliputlu veya Brobrdingnagli olmaları fark etmeksizin eşit kabul edilme olasılığına göre, vatandaşlığa (Loliputian veya Brobdingnagian) saygı gösteren etikette tercih edilir.
Örneğin, Glubbdubdrib Üniversitesi için 100 Lilliputian ve 100 Brobrdingnagili geçerli olduğunu ve kabul kararlarının aşağıdaki gibi verildiğini varsayalım:
1. Tablo. Lilliput adayları (%90 uygun)
|Uygun||Uygun Değil|
|Kabul edildi||45||3|
|Reddedildi||45||7|
|Toplam||90||10|


Kabul edilen nitelikli öğrencilerin yüzdesi: 45/90 =%50


Reddedilen uygun öğrencilerin yüzdesi: 7/10 =%70
Kabul edilen Lillivan öğrencilerin toplam yüzdesi: (45+3)/100 = %48
2. Tablo. Broddingagian başvuruları (%10 uygun olanlar):
|Uygun||Uygun Değil|
|Kabul edildi||5||9|
|Reddedildi||5||81|
|Toplam||10||90|


Kabul edilen nitelikli öğrencilerin yüzdesi: 5/10 =%50


Nitelikli olmayan öğrencilerin yüzdesi: 81/90 =%90
Kabul edilen toplam Bromdingnag öğrencilerinin yüzdesi: (5+9)/100 = %14
Yukarıdaki örnekler, nitelikli öğrencilerin kabul edilme eşitliğini karşılamaktadır. Zira, Lingiputlular ve Brobringnagililer kabul edilme şansı% 50'dir.
Fırsat eşitliği hakkında daha ayrıntılı bir tartışma için "Gözetimli Öğrenimde Fırsat Eşitliği"ne bakın. Fırsat eşitliği için optimizasyon yaparken göz önünde bulundurulan dengeleri keşfetmek amacıyla "daha akıllı makine öğrenimiyle ayrımcılığı ele geçirme" konusuna da bakın.
eşit oranlı bahisBir sınıflandırıcının, belirli bir etiket ve özellik için ilgili etiketin o özelliğin tüm değerleri için eşit ölçüde iyi tahmin edip etmediğini kontrol eden adillik metriği.
Örneğin, Glubbdubdrib Üniversitesi'nin hem Lilliputluları hem de Brobdingnagiyalıları titiz bir matematik programına kabul ettiğini varsayalım. Lilliputians' ortaokullar, matematik dersleri için sağlam bir müfredat sunar. Öğrencilerin büyük çoğunluğu üniversite eğitimi için uygundur. Brobringnagians' ortaokullar, matematik dersleri sunmamaktadır ve bunun sonucunda öğrencilerinin çok daha azı nitelikli olur. Denklem eşitliği, bir başvuru sahibinin Lilliputian veya Brobrdingnagian olmasından bağımsız olmasının hiçbir nedeni olmaması, gerekli niteliklere sahip olması durumunda, programa kabul edilme olasılıklarının eşit olması ve gerekli nitelikleri karşılanmazsa eşit oranda reddedilme olasılığı da eşittir.
100 Lilliputlu ve 100 Brobrdingnagili'nin Glubbdubdrib Üniversitesi'ne başvurduğunu ve giriş kararlarının aşağıdaki gibi verildiğini varsayalım:
3. Tablo. Lilliput adayları (%90 uygun)
|Uygun||Uygun Değil|
|Kabul edildi||45||2|
|Reddedildi||45||8|
|Toplam||90||10|


Kabul edilen nitelikli öğrencilerin yüzdesi: 45/90 = %50


Reddedilen uygun öğrencilerin yüzdesi: 8/10 = %80
Kabul edilen toplam Lillivan öğrencilerin yüzdesi: (45+2)/100 = %47
4. Tablo. Broddingagian başvuruları (%10 uygun olanlar):
|Uygun||Uygun Değil|
|Kabul edildi||5||18|
|Reddedildi||5||72|
|Toplam||10||90|


Kabul edilen öğrencilerin yüzdesi: 5/10 = %50


Reddedilen uygun öğrencilerin yüzdesi: 72/90 = %80
Kabul edilen toplam Bromdingnag öğrencisi yüzdesi: (5+18)/100 = %23
Denklem şansı, "uygun" Lilliputian ve Brobdingnagian öğrencilerine kabul edilme olasılığı% 50, uygun olmayan Lilliputian ve Brobdingnagian öğrencilerinin reddedilme olasılığı% 80 olduğu için bu iki sonuç eşittir.
Denklem olasılıkları, "Gözetimli Öğrenimde Fırsat Eşitliği"nde resmi olarak tanımlanmıştır:
denemecinin ön yargısı
Onay ön yargısını inceleyin.
C
adalet kısıtlamasıBir veya daha fazla adalet tanımının karşılandığından emin olmak için bir algoritmaya kısıtlama uygulama. Adalet kısıtlamalarına örnekler:
- Modelinizin çıkışını işleme sonrası.
- Adalet metriğini ihlal eden bir cezayı eklemek için kayıp işlevini değiştirme.
- Optimizasyon problemine doğrudan matematiksel kısıtlama ekleme.
adalet metriği
Ölçülebilir olan "adillik"in matematiksel tanımı. Yaygın olarak kullanılan bazı adalet metrikleri şunlardır:
Birçok adalet metriği karşılıklı olarak birbirini dışlar. Adalet metrikleriyle uyumsuzluk bölümüne bakın.
Y
grup ilişkilendirme ön yargısı
Bir kişi için doğru olanın, bu gruptaki herkes için de geçerli olduğunu varsayarız. Veri toplama için kullanışlılık örneklemesi kullanılırsa grup ilişkilendirme ön yargısının etkileri artabilir. Gerçekçi olmayan bir örnekte, gerçeği yansıtmayan ilişkilendirmeler yapılabilir.
Ayrıca, grup dışı homojen ön yargı ve grup içi ön yargı bölümlerine de bakın.
I
dolaylı ön yargı
Kullanıcının zihinsel modellerine ve anılarına dayanarak otomatik bir ilişkilendirme veya varsayımda bulunma. Dolaylı ön yargılar aşağıdakileri etkileyebilir:
- Verilerin nasıl toplandığı ve sınıflandırıldığı.
- Makine öğrenimi sistemlerinin tasarlanma ve geliştirilme şekli.
Örneğin, bir mühendis, düğün fotoğraflarını tanımlamak için bir model oluştururken özellik olarak, bir fotoğrafta beyaz elbisenin varlığını kullanabilir. Ancak beyaz elbiseler yalnızca belirli dönemlerde ve belirli kültürlerde kullanılıyordu.
Onay ön yargısı konusunu da inceleyin.
adalet metrikleriyle uyumsuzluk
Bazı adalet kavramlarının karşılıklı olarak uyumsuz olduğu ve aynı anda karşılanamayacağı fikri. Sonuç olarak, adalet miktarını ölçmek için tüm makine öğrenimi sorunlarına uygulanabilecek tek bir evrensel metrik yoktur.
Bu durum cesaret kırıcı görünse de adalet metrikleriyle uyumsuzluk, adaletle ilgili çalışmaların verimsiz olduğu anlamına gelmez. Bunun yerine, belirli bir makine öğrenimi sorunu için adaletin, kullanım alanlarına özgü zararları önlemek amacıyla bağlamsal olarak tanımlanmasını önerir.
Bu konu hakkında daha ayrıntılı bir tartışma için &''(im) adalet olasılığı üzerinde' bölümüne bakın.
bireysel adalet
Benzer kişilerin benzer şekilde sınıflandırılıp sınıflandırılmadığını kontrol eden bir adalet metriği. Örneğin, Brobdingnagian Akademisi, aynı nota ve standart test puanlarına sahip iki öğrencinin eşit derecede bulunma şansı elde etmesini sağlayarak bireysel adaletten memnun olmak isteyebilir.
Bireysel adaletin tamamen "benzerlik" kavramını (bu örnekte, notlar ve test puanları) nasıl tanımladığınıza bağlı olduğunu ve benzerlik metriğinizin önemli bilgileri (örneğin, öğrencinin müfredatının titizliği gibi) gözden kaçırdığı durumlarda yeni adalet sorunları oluşturma riskini alabileceğinizi unutmayın.
Bireysel adaletle ilgili daha ayrıntılı bir tartışma için "Bilinirlik Hakkında Adalet" bölümüne bakın.
grup içi ön yargı
Bireyin kendi grubuna veya kendi özelliklerine karşı uygunsuz olduğunu gösterme. Test kullanıcıları veya değerlendiriciler makine öğrenimi geliştiricinin arkadaşlarından, ailelerinden veya iş arkadaşlarından oluşuyorsa grup içi sapmalar ürün testini veya veri kümesini geçersiz kılabilir.
Grup içi önyargı bir grup ilişkilendirme ön yargısı biçimidir. Grup dışı homojenlik sapmasını da inceleyin.
H
yanıt dışı ön yargı
Seçim ön yargısı konusuna bakın.
O
grup dışı homojenlik ön yargısı
Tutumlar, değerler, kişilik özellikleri ve diğer özellikler karşılaştırılırken grup içi gruplara kıyasla grup dışı üyeleri görme eğilimi. Grup içi, düzenli olarak etkileşimde bulunduğunuz kişileri, grup dışı ise düzenli olarak etkileşimde bulunmadığınız kişileri ifade eder. Kullanıcılardan gruplar hakkında özellikler sağlamalarını isteyerek bir veri kümesi oluşturursanız bu özellikler, katılımcıların gruptaki kişiler için listelediği özelliklere göre daha az ayrıntı ve temsili bulgular içerebilir.
Örneğin, Lilliputlular diğer Lilliputluların evlerini ayrıntılı bir şekilde açıklayarak mimari stiller, pencereler, kapılar ve boyutlardaki küçük farklılıkları belirtebilir. Ancak aynı Lilliputlular, Brubldingnagi halkının aynı evlerde yaşadığını açıklayabilirler.
Grup dışı homojenlik ön yargısı, grup ilişkilendirme ön yargısı biçimidir.
Grup içi ön yargıları da inceleyin.
P
katılım ön yargısı
Yanıt dışı sapmanın eş anlamlısı. Seçim ön yargısı konusuna bakın.
işleme sonrası
Model çalıştırıldıktan sonra bir modelin çıkışını ayarlama. İşleme sonrası, modelleri değiştirmeden kendi adalet kısıtlamalarını uygulamak için kullanılabilir.
Örneğin, bir öğe için doğru pozitif oranın aynı özelliğin tüm değerleri için aynı olduğundan emin olarak bir özellik için fırsat eşitliği sağlanacak şekilde bir sınıflandırma eşiği ayarlayarak ikili işleme sonrası işleme uygulanabilir.
tahmini denklik
Belirli bir sınıflandırıcıda hassaslık oranlarının, değerlendirilen alt gruplar için eşdeğer olup olmadığını kontrol eden bir adillik metriği.
Örneğin, üniversite kabulünü tahmin eden bir model, kesinlik oranı Lilliputlular ve Brobdingnagiyalılar için aynıysa uyruk için öngörülen denkliği karşılar.
Tahmini denklik, bazen tahmini ücret denkliği olarak da adlandırılır.
Tahmine dayalı denklik hakkında daha ayrıntılı bir tartışma için "Adalet Tanımları Açıklanan" (bölüm 3.2.1)'e bakın.
tahmini oran denkliği
Tahmini denklik için başka bir ad.
ön işlemeVeriler, model eğitmek için kullanılmadan önce işleniyor. Önceden işleme, İngilizce sözlükte geçen bir İngilizce metin kitaplığından kelimeleri kaldırmak kadar basit veya veri noktalarını, hassas özelliklerle bağlantılı olan birçok özelliği ortadan kaldıracak şekilde yeniden ifade etmek kadar karmaşık olabilir. Ön işleme, adillik kısıtlamalarının karşılanmasına yardımcı olabilir.
proxy (hassas özellikler)Hassas bir özelliğin yerine kullanılması için kullanılan bir özellik. Örneğin, bir kişinin posta kodu geliri, ırkı veya etnik kökeni için proxy olarak kullanılabilir.
K
raporlama ağırlıklandırması
Kullanıcıların eylemler, sonuçlar veya özellikler hakkında yazma sıklığı, gerçek sıklıklarını veya bir mülk sınıfının niteliklerinin ne ölçüde temsil edildiğini göstermez. Raporlama ağırlıklandırması, makine öğrenimi sistemlerinin öğrendiği verilerin yapısını etkileyebilir.
Örneğin kitaplarda kahkaha kelimesi nefretli kelimesinden daha yaygındır. Bir kitap kataloğundan gülme ve nefes almanın göreceli sıklığını tahmin eden bir makine öğrenimi modeli, muhtemelen gülmenin nefes almaktan daha yaygın olduğunu belirler.
C
örnekleme ağırlıklandırması
Seçim ön yargısı konusuna bakın.
seçim ön yargısı
Verilerde gözlemlenen örnekler ile gözlemlenmeyen örnekler arasında sistematik farklılıklar oluşturan bir seçim işlemi nedeniyle örneklenmiş verilerden alınan sonuçlardaki hatalar. Aşağıdaki seçim ön yargısı biçimleri vardır:
- kapsam ön yargısı: Veri kümesinde gösterilen nüfus, makine öğrenimi modelinin tahmin ettiği nüfusla eşleşmiyor.
- örnekleme sapması: Veriler, hedef gruptan rastgele toplanmaz.
- yanıt vermeme ön yargısı (katılım ön yargısı da denir): Belirli gruplardaki kullanıcılar, diğer gruplardaki kullanıcılardan farklı oranlarda anketleri devre dışı bırakır.
Örneğin, insanların bir filmden keyif aldığını tahmin eden bir makine öğrenimi modeli oluşturduğunuzu varsayalım. Eğitim verileri toplamak için filmi gösteren bir sinemanın ön sırasındaki herkese bir anket gönderirsiniz. Öyleyse bu, bir veri kümesi toplamak için makul bir yol gibi görünebilir; ancak bu veri toplama biçimi aşağıdaki seçim ön yargısı biçimlerini ortaya çıkarabilir:
- kapsam ön yargısı: Filmi izlemeyi tercih eden bir popülasyondan örneklem alarak modelinizin tahminleri, filme bu ilgi düzeyini henüz ifade etmemiş kullanıcıları genelleştirmeyebilir.
- örnekleme ağırlıklandırması: İstenilen popülasyondan (filmdeki tüm kişiler) rastgele örnekleme yapmak yerine, yalnızca ön satırdaki kişilerden örnek aldınız. Ön sırada oturan insanların, diğer satırlardakilerden daha fazla filmle ilgilenmesi olasıdır.
- yanıt vermeme eğilimi: Genel olarak, olumlu görüşe sahip kullanıcılar isteğe bağlı anketleri hafif görüşlü kullanıcılardan daha sık yanıtlama eğilimindedir. Film anketi isteğe bağlı olduğu için yanıtların normal (çan şeklindeki) dağılıma kıyasla çift dağılım oluşturması daha olasıdır.
hassas özellikYasal, etik, sosyal veya kişisel nedenlerle özel olarak dikkate alınabilecek insan özelliği.
U
farkındalık (hassas bir özelliğe)
Hassas özelliklerin bulunduğu ancak eğitim verilerine dahil edilmediği durum. Hassas özellikler genellikle kişinin verilerinin diğer özellikleriyle de ilişkili olduğu için hassas bir özellik hakkında bilgi sahibi olmayan bir eğitim, bu özellikle ilgili farklı bir etkiye sahip olabilir veya diğer adillik kısıtlamalarını ihlal edebilir.