Sistemi bir yılı aşkın bir süredir Adalet Bakanlığı ile ortaklaşa geliştirdikten sonra, Meta şimdi de sistemi için canlı dağıtımın ilk aşamasını yayınladı. Konut reklamları için Varyans Azaltma Sistemi (VRS)önyargıyı azaltmak ve reklamların Meta’nın uygulamaları arasında adil dağıtımını artırmak için tasarlanmıştır.
Bu genel bakışta açıklandığı gibi, Meta’nın VRS sistemi, her reklam için gerçek kitle erişimini ölçer ve çeşitli izleyici faktörlerine dayalı olarak daha geniş bir gösterim dağılımı sağlar.
Meta tarafından açıklandığı gibi:
“VRS, yeni makine öğrenimi teknolojisini şu alanlarda kullanıyor: reklam yayını böylece bir reklamı gören gerçek kitle, o reklam için uygun olan hedef kitleyi daha yakından yansıtır. Reklam yeterince büyük bir insan grubuna gösterildikten sonra, VRS, bu kitlenin reklamveren tarafından seçilen uygun hedef kitlenin demografik dağılımıyla karşılaştırmasını anlamak için reklamı görenlerin toplu demografik dağılımını ölçer.”
Temelde sistem, Meta’nın reklam hedefleme yapay zeka süreci tarafından konut reklamlarının belirli etnik veya sosyoekonomik gruplarla sınırlı kalmamasını, genel reklam gösterimini ölçerek ve bunu ırk ve etnik kökene ilişkin ABD Nüfus Sayımı istatistiklerine dayalı kitle verileriyle eşleştirerek sağlar.
“Bu yöntem, aşağıdakiler de dahil olmak üzere ek gizlilik geliştirmeleriyle oluşturulmuştur: diferansiyel gizliliktoplu veri kümelerinde bireylerin yeniden tanımlanmasına karşı korumaya yardımcı olabilecek bir teknik.”
Sistem, Meta’nın reklam hedefleme araçlarıyla ilgili düzenleyici kaygıları ve uygulamada bulunan binlerce hedefleme faktörüne dayalı olarak hariç tutma potansiyelini ele alma çabalarının en sonuncusudur.
Meta, geçmişte değişken reklam hedeflemesi nedeniyle yoğun bir incelemeye tabi tutuldu.
2017’de ProPublica tarafından yapılan bir araştırma şunu ortaya çıkardı: reklamverenler, hassas faktörlere (barınma ve istihdama ilişkin federal yasa tarafından yasaklanan kısıtlamalar) dayalı olarak insanları dışlayan Facebook reklamları oluşturabildiler.
Yukarıdaki videoda belirtildiği gibi, Meta daha sonra kaldırıldı çeşitli reklam hedefleme seçenekleri konut, iş ve kredi ilanları için VRS süreci, bu cephede devam eden çalışmalarının bir sonraki aşamasıdır. Genel olarak reklam hedefleme sistemleri de veri toplama ve izlemedeki değişikliklerden etkilenmiş olsa da, yeni önlemler, reklamlarının tüm kitle segmentlerine erişimi genişleterek belirli grupların dolaylı profillemesini kolaylaştırmadığına dair daha fazla güvence sağlayacaktır.
Yapay zekada adaleti sağlamak karmaşık bir alandır, özellikle de yapay zeka modellerini güçlendirmek için kullanılan girdilerin çoğunun zaten bir dereceye kadar örtülü önyargı içerdiğini düşündüğünüzde. Her platform bunu hafifletmek ve bilinçsiz ve istenmeyen etkileri filtrelemek için yeni ağırlıklar oluşturmak için çalışıyor. Ancak Meta şu anda bu sunumun ilk aşamasını izlediğinden ve VRS modellerini güncellemek için performansla ilgili geri bildirim topladığından, her güncellemenin nedenini ve etkisini ölçmek zaman alacaktır.
Çok şey var – VRS sisteminin nasıl çalıştığını ve dengelemek için çalıştığı çeşitli unsurları özetleyen bu teknik incelemede, söz konusu teknik hususlar hakkında daha fazla bilgi edinebilirsiniz.
“Makine öğrenimindeki adalet alanı dinamik ve gelişen bir alandır ve bu belgede açıklanan değişiklikler, geniş bir paydaş yelpazesiyle istişare içinde birkaç yıllık ilerlemeyi temsil eder. Bu çalışmaların çoğu, reklamcılık endüstrisinde eşi benzeri görülmemiş ve kişiselleştirilmiş reklamlar sunmak için makine öğreniminin sorumlu bir şekilde nasıl kullanıldığına ilişkin önemli bir teknolojik ilerlemeyi temsil ediyor. Bu çabaya öncülük etmekten heyecan duyuyoruz ve bu çok boyutlu zorlukla nasıl başa çıktığımıza dair temel bağlamı ve ayrıntıları paylaşarak diğer yapay zeka ve dijital reklamcılık uygulayıcılarının ayrımcılığı önlemeye ve toplumsal önyargıları büyütmekten kaçınmaya yardımcı olmak için benzer adımları daha kolay benimseyebileceğini ve atabileceğini umuyoruz. Etkisi herhangi bir platformun çok ötesine uzanan.”
Meta, VRS’nin kullanıma sunulmasının ilk aşamasının ABD’deki konut reklamlarına odaklanacağını ve ardından kredi ve istihdam reklamlarının geleceğini söylüyor.