Tiffany Hsu - Cade Metz / The New York Times
Geçtiğimiz ay ChatGPT sohbet robotunun üreticisi OpenAI, kısmen gerçek kişi ya da kurumlar gibi davranan sohbet robotlarının oluşturulmasını yasaklayarak, araçlarının seçimlerde kötüye kullanılmasını önlemek için çalıştığını söyledi. Geçtiğimiz haftalarda Google da yapay zeka destekli sohbet robotu Bard'ın (yeni adıyla Gemini) seçimle ilgili belirli istemlere yanıt vermesini "tedbir amacıyla" sınırlandıracağını söyledi. Facebook ve Instagram'ın sahibi olan Meta ise, seçmenlerin hangi materyalin gerçek, hangisinin sahte olduğunu daha kolay ayırt edebilmeleri için platformlarında yapay zeka tarafından üretilen içeriği daha iyi etiketleme sözü verdi.
Cuma günü, aralarında Adobe, Amazon, Anthropic, Google, Meta, Microsoft, OpenAI, TikTok ve X'in de bulunduğu 20 teknoloji şirketi, aldatıcı yapay zeka içeriğinin 2024'teki oylamayı aksatmasını önlemeye yardımcı olmak için gönüllü bir taahhüt imzaladı. Münih Güvenlik Konferansı'nda açıklanan anlaşma, şirketlerin yapay zeka tespit araçları ve diğer eylemler konusunda işbirliği yapma taahhütlerini içeriyor, ancak seçimle ilgili yapay zeka içeriğinin yasaklanması çağrısında bulunmuyordu.
Anthropic ayrıca Cuma günü yaptığı açıklamada, teknolojisinin siyasi kampanya veya lobi faaliyetlerine uygulanmasını yasaklayacağını belirtti. Claude adlı bir sohbet robotu üreten şirket, bir blog yazısında, kurallarını ihlal eden kullanıcıları uyaracağını veya hesaplarını askıya alacağını söyledi. Şirket, yanlış bilgilendirme ve etki operasyonlarını otomatik olarak tespit etmek ve engellemek için eğitilmiş araçlar kullandığını da ekledi.
Şirket, "Yapay zeka uygulamalarının tarihi aynı zamanda sürprizler ve beklenmedik etkilerle dolu olmuştur" dedi ve şu sözleri kaydetti: "2024'te yapay zeka sistemlerinin öngörmediğimiz şekilde sürpriz noktalarda kullanılabileceğini düşünüyoruz"
Yapay zekayı kontrol altına alma çabası
Bu çabalar, yapay zeka şirketlerinin milyarlarca insan sandık başına giderken popüler hale getirdikleri bir teknolojiyi kontrol altına alma çabalarının bir parçası. Bir danışmanlık firması olan Anchor Change'e göre, bu yıl dünya çapında en az 83 seçim yapılması bekleniyor ki bu da en azından önümüzdeki 24 yıl için en büyük seçim yoğunluğu olarak nitelendirilebilir. Geçtiğimiz haftalarda Tayvan, Pakistan ve Endonezya'da insanlar oy kullanırken, dünyanın en büyük demokrasisi olan Hindistan'da da ilkbaharda genel seçimlerin yapılması planlanıyor.
'Sora' büyük ses getirdi
Yapay zeka araçlarına getirilen kısıtlamaların ne kadar etkili olacağı, özellikle de teknoloji şirketleri giderek daha sofistike teknolojilerle ilerledikçe, belirsizliğini koruyor. Perşembe günü OpenAI, anında gerçekçi videolar üretebilen bir teknoloji olan Sora'yı tanıttı. Bu tür araçlar siyasi kampanyalarda metin, ses ve görüntü üretmek için kullanılabilir, gerçek ve kurguyu bulanıklaştırabilir ve seçmenlerin hangi içeriğin gerçek olduğunu anlayıp anlayamayacağı konusunda soruları gündeme getirebilir.
Yapay zeka tarafından üretilen içerik, ABD'deki siyasi kampanyalarda çoktan ortaya çıktı ve düzenleyici ve yasal tepkilere neden oldu. Bazı eyalet yasa koyucuları, yapay zeka tarafından üretilen siyasi içeriği düzenlemek için yasa tasarıları hazırlıyor.
Geçtiğimiz ay New Hampshire sakinleri, yapay olarak Başkan Joe Biden'a benzetilmiş bir sesle, kendilerini eyalet ön seçimlerinde oy kullanmaktan caydıran robotik çağrı aldılar. Bu olay sonrası Federal İletişim Komisyonu geçen hafta bu tür aramaları yasakladı.
FCC Başkanı Jessica Rosenworcel o dönemde yaptığı açıklamada, "Kötü niyetli aktörler, savunmasız aile üyelerini gasp etmek, ünlüleri taklit etmek ve seçmenleri yanlış bilgilendirmek için yapay zeka tarafından üretilen sesleri kullanıyor" demişti.
Yapay zeka ile seçim zaferini ilan etti
Yapay zeka araçları Arjantin, Avustralya, İngiltere ve Kanada'da da siyasetçilerin ve siyasi konuların yanıltıcı veya aldatıcı tasvirlerini yarattı. Geçtiğimiz hafta, Pakistan'daki seçimlerde partisi en çok sandalyeyi kazanan eski Başbakan İmran Han, cezaevindeyken zaferini ilan etmek için bir yapay zeka sesi kullandı.
Uzmanlar, hafızalardaki en önemli seçim döngülerinden birinde, yapay zekanın yaratabileceği yanlış bilgi ve aldatmacaların demokrasi için yıkıcı olabileceğini söyledi.
Yapay zekaya 'yanıltıcı içerik' testi
Anthropic Cuma günü yaptığı duyuruda, Claude sohbet robotunun siyasi adaylar, siyasi konular ve seçim yönetimiyle ilgili nasıl yanlı veya yanıltıcı içerik üretebileceğini belirlemek için testler planladığını söyledi. Genellikle bir teknolojinin güvenlik açıklarını daha iyi tespit etmek amacıyla koruma önlemlerini aşmak için kullanılan bu testler, yapay zekanın seçmenleri nasıl etkisi altında bıraktığını ve zararlı sorgulara nasıl yanıt verdiğini de araştıracak.
Anthropic önümüzdeki haftalarda, oy verme ile ilgili sorguları olan ABD'li kullanıcıları, Democracy Works'ten TurboVote gibi yetkili bilgi kaynaklarına yönlendirmeyi planlıyor. Şirket, yapay zeka modelinin belirli seçimler hakkında gerçek zamanlı bilgileri güvenilir bir şekilde sağlamak için yeterince sık eğitilmediğini söyledi.
Etiketleme önlemi
Benzer şekilde, OpenAI geçen ay yaptığı açıklamada ChatGPT aracılığıyla insanları oylama bilgilerine yönlendirmeyi ve yapay zeka tarafından oluşturulan görüntüleri etiketlemeyi planladığını söyledi.
Dezenformasyon kampanyalarıyla ilişkilendirilen yapay zeka video üreticisi Synthesia da teknolojinin yanlış, kutuplaştırıcı, bölücü veya yanıltıcı materyaller de dahil olmak üzere "haber benzeri içerik" için kullanılmasını yasaklıyor. Synthesia'nın kurumsal ilişkiler ve politika başkanı Alexandru Voica, şirketin teknolojisinin kötüye kullanımını tespit etmek için kullandığı sistemleri geliştirdiğini söyledi.
Filigran ile sahte içerikler engellenecek
Görüntü oluşturma aracına sahip bir startup olan Stability AI, teknolojisinin yasadışı veya etik olmayan amaçlarla kullanılmasını yasakladığını, güvenli olmayan görüntülerin oluşturulmasını engellemek için çalıştığını ve tüm görüntülere algılanamayan bir filigran uyguladığını söyledi.
En büyük teknoloji şirketleri de Cuma günü Münih'te verilen ortak sözün ötesine geçtiler.
Geçtiğimiz hafta Meta, içeriğin yapay zeka ile oluşturulduğunu anlamaya yardımcı olacak teknolojik standartlar konusunda diğer firmalarla işbirliği yaptığını söyledi. Avrupa Birliği'nin Haziran ayındaki parlamento seçimlerinden önce TikTok, Çarşamba günü bir blog yazısında, potansiyel olarak yanıltıcı ve manipüle edilmiş içeriği yasaklayacağını ve kullanıcıların gerçekçi yapay zeka içeriklerini etiketlemelerini gerektireceğini söyledi.
Google Aralık ayında yaptığı açıklamada, YouTube'daki video yaratıcılarının ve tüm seçim reklamcılarının dijital olarak değiştirilmiş veya oluşturulmuş içerikleri açıklamasını zorunlu kılacağını söyledi. Şirket, Bard gibi yapay zeka araçlarının seçimle ilgili belirli sorgulara yanıt vermesini kısıtlayarak 2024 seçimlerine hazırlandığını söyledi.
Google, "Gelişmekte olan her teknoloji gibi, yapay zeka da yeni fırsatlar ve zorluklar sunuyor" dedi. Şirket, yapay zekanın istismarla mücadeleye yardımcı olabileceğini de sözlerine ekledi:
"Ancak yanlış bilgilendirme ortamını nasıl değiştirebileceğine de hazırlanıyoruz"
© 2024 The New York Times Company