Son raporlar, AI destekli görüntü oluşturucuların, özellikle karılık ilişkilerini ve tarihi figürleri doğru bir şekilde temsil etme konusunda karşılaştığı önemli zorluklara dikkat çekti. Hem Meta hem de Google tarafından geliştirilen araçlar, geniş ırklardan insanları temsil etmekte zorluklar yaşayarak çeşitli ırklardan insanları resmetmede başarısız oldukları için eleştiri okları altında kaldı, bu durum da önyargılar ve doğruluk endişelerine yol açtı.
The Verge tarafından yayınlanan bir rapor, Meta’nın AI destekli görüntü oluşturucunun, istisnasız olarak karılık ilişkilerini ve arkadaşlıkları doğru bir şekilde resmetmede başarısız olduğunu gösterdi. Araç, farklı ırklardan insanları içeren görüntüler oluşturmakta zorlanırken dahi, bu konuda açık talimatlar verildiğinde başarısız oluyor. Örneğin, “Asyalı erkek ve Kafkas arkadaş” veya “Asyalı erkek ve beyaz eş” gibi yönergeler, aynı ırktan insanların resimlerini ortaya çıkardı.
Benzer şekilde, Google’ın Gemini AI aracı da tarihi figürleri ve grupları resmetmekte eleştiri almıştır. Araç, ABD’nin Kurucu Babalarını ve Nazi dönemi Alman askerlerini renkli insanlar olarak gösteren görüntüler oluşturdu, bu da tarihsel açıdan yanıltıcı tasvirlerle sonuçlandı. Google, bu yanlışlıkları kabul etti ve çeşitliliği teşvik etme çabalarında hedefi kaçırdıkları için özür diledi.
Karılık ilişkilerinin temsil edilmemesinin yanı sıra, Meta’nın görüntü oluşturucusu ayrıca bir takım önyargı belirtileri göstermektedir. The Verge, sistemin “Asyalı kadınları” sürekli olarak Doğu Asyalı görünümlü, açık tenli bireyler olarak temsil ettiğini belirtti. Araç ayrıca kültürel olarak belirgin kıyafetler ekledi ve yaş temsili çarpıttı, birkaç yaşlı Asyalı erkek oluştururken Asyalı kadınları sürekli genç olarak tasvir etti.
Sıkça Sorulan Sorular
1. Neden AI görüntü oluşturucular çeşitliliği temsil etmekte zorlanıyor?
AI görüntü oluşturucular, eğitim verilerindeki doğuştan gelen önyargılardan ve kullandıkları algoritmaların sınırlamalarından dolayı çeşitliliği doğru bir şekilde temsil etme konusunda zorluklarla karşılaşmaktadır. Bu sistemler, belirli ırk veya kültürel gruplara karşı önyargılı verilere dayanmaktadır. Algoritmalar kendileri, karmaşık nüansları tam anlamıyla anlama ve çeşitli bireyleri veya senaryoları yeterince temsil etme becerisine sahip olmayabilir.
2. Şirketler, AI görüntü oluşturuculardaki önyargılarla nasıl başa çıkabilir?
AI görüntü oluşturucuları geliştirirken şirketler, çeşitliliği sistemlerine nasıl dahil edecekleri konusunda dikkatlice düşünmelidir. Farklı ırklardan insanları temsil eden çeşitli ve kapsayıcı eğitim verilerine sahip olmak, AI’nın karılık ilişkilerini ve arkadaşlıkları doğru bir şekilde oluşturmasını sağlar. Ayrıca, şirketler, önyargıları ele almak ve stereotiplerin yayılmasını veya tarihsel gerçeklerin yanlış temsil edilmesini engellemek için sürekli olarak algoritmalarını iyileştirmeye çalışmalıdır.
3. Bu konuyu ele almak için neler yapılmıştır?
Meta ve Google, AI görüntü oluşturucularındaki zorlukları ve önyargıları kabul etmiştir. Google, Gemini’nin belirli tarihsel yönergeler üretme yeteneğini sınırlamıştır, yanlış tarihsel tasvirleri önlemeyi amaçlamaktadır. Ancak, AI görüntü oluşturucuların geliştirilmesi sürekli bir süreç olup, şirketlerin önyargıları ele almak ve çeşitliliği doğru bir şekilde temsil etmek için sürekli olarak iyileştirmeler yapmaları gerekecektir.
Kaynaklar:
– The Verge: www.theverge.com