Makine öğrenimi modelinizde adaletle ilgili endişeler belirlediyseniz, mevcut üç temel teknik müdahale türü vardır:
- Eğitim veri ön işleme teknikleri: Daha fazla veri toplama, sentetik veri üretme, farklı dilimlerin örneklerinin ağırlıklarını ve örnekleme oranlarını ayarlama.
- Eğitim zamanı modelleme teknikleri: Model hedeflerini tanıtarak veya değiştirerek ve kısıtlamalar ekleyerek modelin kendisini değiştirmek.
- Eğitim sonrası teknikler: Metrikler arasında performansı iyileştirmek için modelin çıktılarını veya çıktıların yorumunu değiştirmek.
TensorFlow Model Düzeltme kitaplığı, modelinizdeki önyargı ve adalet sorunlarını ele almak için MinDiff ve Karşı Gerçekçi Logit Eşleştirme (CLP) olmak üzere iki teknik sağlar. Aşağıdaki tabloda açıklanmıştır.
|MinDiff
|CLP
|Bu tekniği ne zaman kullanmalısınız?
Bir modelin, hassas bir özelliğin tüm değerleri için tercih edilen etiketi eşit derecede iyi tahmin etmesini sağlamak.
Grup fırsat eşitliğini sağlamak .
Bir modelin tahmininin "karşı olgu çiftleri" arasında değişmemesini sağlamak için (burada bir özellikte başvurulan hassas öznitelik farklıdır). Örneğin, bir toksisite sınıflandırıcısında "Ben bir erkeğim" ve "Ben bir lezbiyenim" gibi örneklerin farklı bir öngörüsü olmamalıdır.
Bir tür karşı- olgusal adalet elde etmek için.
|O nasıl çalışır?
|İki set arasındaki puan dağılımındaki farklılıklar için eğitim sırasında modeli cezalandırır.
|Karşı olgusal örnek çiftleri arasındaki çıktı farklılıkları için eğitim sırasında modeli cezalandırır.
|Girdi Modaliteleri
|Kayıp fonksiyonları çıktı üzerinde çalışır, dolayısıyla teoride girdi ve model mimarisinden bağımsızdır.
|Kayıp fonksiyonları çıktı üzerinde çalışır, dolayısıyla teoride girdi ve model mimarisinden bağımsızdır.