Ama içinde gerçek dünyadaki ipotek verilerinin şimdiye kadarki en büyük çalışması, Stanford Üniversitesi’nden ekonomistler Laura Blattner ve Chicago Üniversitesi’nden Scott Nelson, azınlık ve çoğunluk grupları arasındaki ipotek onaylarındaki farklılıkların yalnızca önyargıdan değil, azınlık ve düşük gelirli grupların kredilerinde daha az veriye sahip olmasından kaynaklandığını gösteriyor. tarihler.
Bu, bu veriler bir kredi puanı hesaplamak için kullanıldığında ve bu kredi puanı kredi temerrüdüne ilişkin bir tahmin yapmak için kullanıldığında, o zaman bu tahmin daha az kesin olacaktır. Sadece önyargı değil, eşitsizliğe yol açan bu kesinlik eksikliğidir.
Etkileri çok açık: Daha adil algoritmalar sorunu çözmez.
Harvard Üniversitesi’nde makine öğrenimi ve ekonomi eğitimi alan, ancak çalışmaya dahil olmayan Ashesh Rambachan, “Bu gerçekten çarpıcı bir sonuç” diyor. Önyargı ve düzensiz kredi kayıtları bir süredir sıcak konular olmuştur, ancak bu, milyonlarca gerçek kişinin kredi başvurularını inceleyen ilk büyük ölçekli deneydir.
Kredi puanları, istihdam geçmişi, finansal kayıtlar ve satın alma alışkanlıkları gibi bir dizi sosyo-ekonomik veriyi tek bir sayıya sıkıştırır. Kredi başvurularına karar vermenin yanı sıra, kredi puanları artık sigorta, işe alma ve konut ile ilgili kararlar da dahil olmak üzere yaşamı değiştiren birçok karar vermek için kullanılıyor.
Azınlık ve çoğunluk gruplarına ipotek kredisi verenler tarafından neden farklı muamele edildiğini anlamak için Blattner ve Nelson, 50 milyon anonimleştirilmiş ABD tüketicisi için kredi raporları topladı ve bu tüketicilerin her birini bir pazarlama veri setinden alınan sosyo-ekonomik ayrıntılarına, mülk tapularına ve tapularına bağladı. ipotek işlemleri ve onlara kredi sağlayan ipotek kredisi verenlerle ilgili veriler.
Bunun türünün ilk örneği olmasının bir nedeni, bu veri kümelerinin özel olması ve araştırmacıların kullanımına açık olmamasıdır. Blattner, “Bir kredi bürosuna gittik ve temelde onlara bunu yapmak için çok para ödemek zorunda kaldık” diyor.
Gürültülü veriler
Daha sonra, kredi puanlarının sadece önyargılı olmadığını, aynı zamanda doğru tahminler yapmak için kullanılamayan veriler için istatistiksel bir terim olan “gürültülü” olduğunu göstermek için farklı tahmin algoritmaları ile deneyler yaptılar. Kredi puanı 620 olan bir azınlık başvuru sahibini ele alalım. Önyargılı bir sistemde, bu puanın her zaman o başvuru sahibinin riskini abartmasını ve örneğin daha doğru bir puanın 625 olmasını bekleyebiliriz. Teoride, bu önyargı, azınlık başvuruları için onay eşiğinin düşürülmesi gibi bir tür algoritmik olumlu eylem yoluyla açıklanabilir.