Bilgisayar mühendisleri ve teknolojiye eğilimli siyaset bilimciler, ucuz, güçlü yapay zeka araçlarının yakında herhangi birinin seçmenleri kandıracak ve belki de bir seçimi etkileyecek kadar gerçekçi olan sahte görüntüler, videolar ve sesler oluşturmasına olanak sağlayacağı konusunda yıllarca uyarıda bulundular.
Ortaya çıkan yapay görüntüler, özellikle de diğer yanlış bilgi türleri çok ucuz ve sosyal medyada yayılması kolayken, genellikle ham, inandırıcılıktan uzak ve üretilmesi maliyetliydi. Yapay zeka ve sözde derin sahtekarlıkların oluşturduğu tehdit her zaman bir veya iki yıl uzakta görünüyordu.
Daha fazla yok.
Sofistike üretken AI araçları artık klonlanmış insan sesleri ve hiper-gerçekçi görüntüler, videolar ve sesleri saniyeler içinde minimum maliyetle oluşturabilir. Güçlü sosyal medya algoritmalarına bağlandığında, bu sahte ve dijital olarak oluşturulmuş içerik çok hızlı yayılabilir ve son derece spesifik kitleleri hedefleyerek potansiyel olarak kampanyanın kirli oyunlarını yeni bir seviyeye indirebilir.
2024 kampanyaları ve seçimleri üzerindeki etkileri rahatsız edici olduğu kadar büyük: Üretken yapay zeka yalnızca hedeflenen kampanya e-postalarını, metinlerini veya videolarını hızlı bir şekilde üretemez, aynı zamanda seçmenleri yanıltmak, adayları taklit etmek ve seçimleri belirli bir ölçekte ve belirli bir oranda baltalamak için kullanılabilir. henüz görülmemiş bir hız.
Siber güvenlik firması ZeroFox’ta istihbarattan sorumlu başkan yardımcısı AJ Nash, “Buna hazırlıklı değiliz” uyarısında bulundu. ”Bana göre ileriye doğru atılan en büyük adım, ortaya çıkan ses ve video yetenekleri. Bunu geniş ölçekte yapabildiğiniz ve sosyal platformlarda dağıtabildiğiniz zaman, bunun büyük bir etkisi olacak.”
Yapay zeka uzmanları, üretken yapay zekanın seçmenlerin kafasını karıştırmak, bir adaya iftira atmak ve hatta şiddeti kışkırtmak amacıyla sentetik medya oluşturmak için kullanıldığı bir dizi endişe verici senaryoyu hızla ortaya koyabilir.
İşte birkaçı: Bir adayın sesiyle seçmenlere yanlış tarihte oy kullanmaları talimatını veren otomatik otomatik çağrı mesajları; bir adayın sözde bir suçu itiraf ettiği veya ırkçı görüşler ifade ettiği ses kayıtları; hiç yapmadıkları bir konuşma veya röportaj yapan birini gösteren video görüntüleri. Bir adayın yarıştan çekildiğini iddia eden, yerel haberlere benzeyecek şekilde tasarlanmış sahte görüntüler.
“Ya Elon Musk sizi bizzat arar ve belirli bir adaya oy vermenizi söylerse?” Allen Institute for AI’nın kurucu CEO’su Oren Etzioni, geçen yıl kar amacı gütmeyen AI2’yi başlatmak için istifa etti. “Pek çok insan dinlerdi. Ama o değil.”
2024 yılında adaylığını koyan eski Başkan Donald Trump, yapay zeka tarafından üretilen içerikleri sosyal medyada takipçileriyle paylaştı. CNN sunucusu Anderson Cooper’ın, Trump’ın Cuma günü Truth Social platformunda paylaştığı ve Cooper’ın geçen hafta CNN belediye binasına Trump ile tepkisini çarpıtan manipüle edilmiş bir video, bir yapay zeka ses klonlama aracı kullanılarak oluşturuldu.
Cumhuriyetçi Ulusal Komite tarafından geçen ay yayınlanan bir distopik kampanya reklamı, bu dijital olarak manipüle edilmiş geleceğe bir başka bakış sunuyor. Başkan Joe Biden’ın yeniden seçim kampanyasını açıklamasının ardından gelen çevrimiçi reklam, Biden’ın tuhaf, biraz çarpık bir görüntüsü ve “Ya sahip olduğumuz en zayıf başkan yeniden seçilseydi?”
AI tarafından oluşturulan bir dizi görüntü aşağıdaki gibidir: Tayvan saldırı altında; ekonomi çökerken Amerika Birleşik Devletleri’nde vitrinleri tahtalarla kapattı; dövmeli suçlular ve göçmen dalgaları panik yaratırken yerel sokaklarda devriye gezen askerler ve zırhlı askeri araçlar.
RNC’den reklamın açıklamasında “Joe Biden 2024’te yeniden seçilirse ülkenin olası geleceğine yapay zeka tarafından oluşturulan bir bakış” yazıyor.
Austin, Teksas merkezli bir siber güvenlik şirketi olan Forcepoint’in küresel baş teknoloji sorumlusu Petko Stoyanov, RNC’nin yapay zeka kullandığını kabul ettiğini, ancak hain siyasi kampanyalar ve yabancı düşmanlar da dahil olmak üzere diğerlerinin kabul etmeyeceğini söyledi. Stoyanov, ABD demokrasisine karışmak isteyen grupların güveni aşındırmanın bir yolu olarak yapay zeka ve sentetik medyayı kullanacaklarını tahmin etti.
“Uluslararası bir varlık -bir siber suçlu veya bir ulus-devlet- birinin kimliğine bürünürse ne olur? Etkisi nedir? Bir çaremiz var mı?” dedi Stoyanov. “Uluslararası kaynaklardan çok daha fazla yanlış bilgi göreceğiz.”
Biden’ın trans bireylere saldıran bir konuşma yapıyormuş gibi göründüğü üzerinde oynanmış bir videodan, kütüphanelerde satanizmi öğrendiği varsayılan çocukların yapay zeka tarafından oluşturulmuş görüntülerine kadar, yapay zeka kaynaklı siyasi dezenformasyon, 2024 seçimleri öncesinde internette viral hale geldi bile.
Trump’ın sabıka fotoğrafını gösteriyor gibi görünen AI görüntüleri, bazı sosyal medya kullanıcılarını da kandırdı, ancak eski başkan, iş kayıtlarını tahrif etmekten Manhattan’daki bir ceza mahkemesinde tutuklanıp mahkemeye çıkarıldığında bir tane çekmedi. Yapay zeka tarafından oluşturulan diğer görüntüler, Trump’ın tutuklanmaya direndiğini gösterdi, ancak yaratıcıları bunların kaynağını hemen kabul etti.
Adayların yapay zeka ile oluşturulan kampanya reklamlarını etiketlemelerini gerektirecek yasa, aynı zamanda sentetik görüntüler oluşturan herkesin gerçeği belirten bir filigran eklemesini gerektirecek yasaya da sponsor olan Temsilci Yvette Clarke, DN.Y tarafından Mecliste tanıtıldı.
Bazı eyaletler, derin sahtekarlıklarla ilgili endişeleri gidermek için kendi önerilerini sundu.
Clarke, en büyük korkusunun, üretken yapay zekanın 2024 seçimlerinden önce şiddeti kışkırtan ve Amerikalıları birbirine düşüren bir video veya ses oluşturmak için kullanılabileceği olduğunu söyledi.
Associated Press’e konuşan Clarke, “Teknolojiye ayak uydurmamız çok önemli” dedi. “Bazı korkuluklar kurmalıyız. İnsanlar kandırılabilir ve bu sadece bir salise sürer. İnsanlar hayatlarıyla meşguller ve her bilgiyi kontrol edecek zamanları yok. Yapay zekanın siyasi bir dönemde silah haline getirilmesi son derece yıkıcı olabilir.”
Bu ayın başlarında, Washington’daki bir siyasi danışmanlar derneği, derin sahtekarlıkların siyasi reklamcılıkta kullanılmasını kınadı ve bunları “meşru, etik kampanyalarda yeri olmayan bir aldatmaca” olarak nitelendirdi.
Yapay zekanın diğer türleri, sosyal medyada seçmenleri hedefleme veya bağışçıları takip etme gibi görevleri otomatikleştirmek için verileri ve algoritmaları kullanarak yıllardır siyasi kampanyaların bir özelliği olmuştur. Kampanya stratejistleri ve teknoloji girişimcileri, en son yeniliklerin 2024’te de bazı olumlu şeyler sunacağını umuyor.
İlerici dijital ajans Authentic’in CEO’su Mike Nellis, ChatGPT’yi “her gün” kullandığını ve bu araçla hazırlanan herhangi bir içerik daha sonra insan gözüyle incelendiği sürece çalışanlarını da bunu kullanmaya teşvik ettiğini söyledi.
Nellis’in Higher Ground Labs ile ortaklaşa yürüttüğü en yeni projesi, Quiller adlı bir yapay zeka aracıdır. Bağış toplama e-postalarının etkinliğini yazacak, gönderecek ve değerlendirecek – kampanyalardaki tipik olarak sıkıcı görevler.
“Fikir şu ki, her Demokrat stratejist, her Demokrat adayın cebinde bir yardımcı pilot olacak” dedi.
___
Swenson, New York’tan bildirdi.
___
Associated Press, seçimler ve demokrasiye ilişkin açıklayıcı kapsamını geliştirmek için çeşitli özel kuruluşlardan destek almaktadır. AP’nin demokrasi girişimi hakkında daha fazla bilgiyi burada bulabilirsiniz. AP, tüm içerikten yalnızca sorumludur.
___
AP’nin adresindeki yanlış bilgi kapsamını ve adresindeki yapay zeka kapsamını takip edin.