Google'ın daha önce Bard olarak adlandırılan Gemini sohbet robotu, kullanıcının metin açıklamasına dayalı olarak yapay zekâ tarafından oluşturulmuş illüstrasyonlar hazırlama yeteneğine sahip. Örneğin mutlu çiftlerin ya da modern sokaklarda yürüyen dönem kıyafetli insanların görsellerini oluşturabiliyor. Ancak bazı kullanıcılar Google'ı belirli beyaz figürleri ya da tarihsel olarak beyaz olan insan gruplarını ırksal çeşitliliğe sahip bireyler olarak resmettiği için eleştiriyor. Şimdi Google bir açıklama yayınlayarak Gemini'nin "bazı tarihi görüntü oluşturma tasvirlerinde yanlışlıklar sunduğunun" farkında olduğunu ve bu durumu düzelteceğini söyledi.
Daily Dot'un haberine göre, eski bir Google çalışanı, beyaz olmayan kadınların fotoğraflarını tweet’leyip altına da "Google Gemini'a beyaz insanların varlığını kabul ettirmek utanç verici derecede zor" şeklinde yazınca şikayetler başladı.
Bu sonuçları elde etmek için Gemini'dan ABD’li, İngiliz ve Avustralyalı kadınların görsellerini üretmesini istedi. Çoğu sağcı olarak bilinen diğer kullanıcılar da kendi sonuçlarını paylaşarak, ABD’nin kurucu isimlerini ve Katolik Kilisesi'nin papalarını renkli insanlar olarak gösteren yapay zekâ tarafından oluşturulmuş görseller gösterdiler.
YAPILAN HATALAR AŞIRI DÜZELTMENİN BİR SONUCU MU?
Testlerde, Gemini'dan kurucu isimlerin görsellerini oluşturması istediğinde, içinde tek bir renkli kişi bulunan beyaz erkek resimleri ortaya çıktı. Sohbet robotundan çağlar boyunca Papa'nın görüntülerini oluşturması istediğinde, Katolik Kilisesi'nin lideri olarak siyah kadınları ve Amerikan yerlilerini tasvir eden fotoğraflar elde edildi.
Gemini'dan ABD’li kadınlarla ilgili görseller üretmesini istediğinde ise beyaz, Doğu Asyalı, Amerikan yerlisi ve Güney Asyalı bir kadının yer aldığı fotoğraflar çıktı. Ayrıca The Verge, sohbet robotunun Nazileri de renkli insanlar olarak tasvir ettiğini belirtti.
Gemini'ın ürettiği bu görsellerin aşırı düzeltmenin bir sonucu olabileceği düşünüyor. Çünkü geçtiğimiz yıllarda yapay zekâ ile eğitilen sohbet robotları, ırkçı ve cinsiyetçi davranışlar sergileme eğilimindeydi. Örneğin 2022'de yapılan bir deneyde bir robot, taradığı yüzler arasından hangisinin suçlu olduğu sorulduğunda sürekli olarak siyahi birini seçti.
X'te yayınlanan bir açıklamada Gemini Ürün Lideri Jack Krawczyk, Google'ın görüntü oluşturma yeteneklerini küresel kullanıcı tabanını yansıtacak şekilde tasarladığını ve temsil ve önyargıyı ciddiye aldığını söyledi. Krawczyk, Gemini'ın köpeklerini gezdiren insanların görüntüleri gibi açık uçlu komutlar için ırksal çeşitliliğe sahip illüstrasyonlar üretmeye devam edeceğini söyledi. Bununla birlikte, historik bağlamların daha fazla nüansa sahip olduğunu ve ekibinin buna uyum sağlamak için daha fazla düzenleme yapacağını açıkladı.