ChatGPT'nin yaratıcısı, yapay zekanın seçimleri maniple etmesinden "tedirginlik" duyuyor
Bir senatör, teknoloji şirketinin patronuna yapay zekanın "züccaciye dükkanındaki bomba" olduğunu söyledi...
OpenAI'ın CEO'su Sam Altman salı günü ABD Kongresi'nde yapılan bir oturumda, yapay zeka destekli seçim müdahalesine dair korkularını dile getirerek, oylamanın güvenilirliğini korumak için teknolojinin düzenlemeye tabi tutulması gerektiğini söyledi.
ABD Senatosu Adalet Komisyonu'na bağlı Gizlilik, Teknoloji ve Hukuk Alt Komitesi'ne konuşan Altman, kendi şirketinin ChatGPT'si gibi yapay zeka sohbet botlarının "önemli bir endişe kaynağı" olduğunu belirtti.
Seçimler ve yapay zeka hakkında "Bu konuda tedirginim" diyen Altman, kurallara ve yönergelere ihtiyaç duyulduğunu ekledi.
Aylardır irili ufaklı şirketler giderek daha çok yönlü hale gelen yapay zekayı pazara sokmak için yarışırken, bu uğurda sonsuz veri ve milyarlarca dolar harcıyor. Teknolojiyi eleştiren bazı kişiler bunun, önyargı ve yanlış bilgilendirme gibi toplumsal zararları artıracağından korkarken, diğerleri yapay zekanın bizzat insanlığın sonunu getirebileceği uyarısında bulunuyor.
Yapay zekanın en iyi nasıl denetleneceğine dair soruları bulunan birçok parlamenterden biri olan Senatör Cory Booker şöyle dedi:
Bu oku yayına geri koymanın bir yolu yok. Bu dünya çapında patlıyor.
Senatör Mazie Hirono ise 2024 seçimleri yaklaşırken yanlış bilgilendirme tehlikesine dikkat çekti. Hirono "Seçim bağlamında, örneğin New York Polis Departmanı'nın eski ABD Başkanı Trump'ı gözaltına aldığı bir resim gördüm ve bu viral oldu" dedi ve Altman'a bu sahte görüntüyü zararlı bulup bulmadığını ısrarla sordu.
Altman buna, bir görüntü gerçek değil de üretilmişse yaratıcılarının bunu açıkça belirtmesi gerektiğini söyleyerek cevap verdi.
Kongre önünde ilk kez konuşan Altman, ABD'nin genel olarak yapay zeka modellerinin geliştirilmesine lisanslama ve test gereklilikleri getirmeyi düşünmesi gerektiğini belirtti.
Hangi yapay zekanın lisansa tabi olması gerektiğine dair görüş bildirmesi istenen Altman, bir kişinin inançlarını etkileyebilecek ya da maniple edebilecek bir modelin "büyük bir eşik" örneği olacağını söyledi.
Şirketlerin, verilerinin yapay zeka eğitiminde kullanılmasını istemediklerini belirtme hakkına sahip olmaları gerektiğini de belirten Altman'ın bu fikri, Capitol Hill'de tartışılıyor. Öte yandan Altman, internetteki kamuya açık materyalin adil bir rekabet sağlayacağını ifade etti.
Altman reklam fikrine de "asla demeyeceğini" fakat abonelik tabanlı bir modeli tercih ettiğini söyledi.
Beyaz Saray, yapay zeka meselesini ele almak üzere aralarında Altman'ın da bulunduğu üst düzey teknoloji CEO'larını bir araya getirdi. Benzer şekilde ABD'li parlamenterler de teknolojinin faydalarını ve ulusal güvenliği ilerletmek ve kötüye kullanımını sınırlamak için harekete geçmeye çalışıyor. Uzlaşmanın kesinlik kazanmasınaysa daha çok var.
Bir OpenAI çalışanı kısa süre önce, ABD'de Yapay Zeka Güvenliği ve Altyapı Emniyeti Ofisi (Office for AI Safety and Infrastructure Security/OASIS) diye adlandırılabilecek bir yapay zeka lisanslama birimi kurulmasını önermişti.
OpenAI, Microsoft tarafından destekleniyor. Altman, yapay zeka konusunda küresel işbirliği sağlanması ve güvenlik standartlarına uyulması yönünde teşvikler yapılması çağrısında da bulunuyor.
International Business Machines (IBM) şirketinin Gizlilik ve Güven Sorumlusu Christina Montgomery, Kongre'yi, en büyük toplumsal zararı verme potansiyeline sahip alanlara düzenleme yapmaya odaklanmaya çağırdı.
New York Üniversitesi'nde Emeritus Profesör olan Gary Marcus da panele katıldı ve yapay zekanın hızlı gelişimine yönelik endişelerini dile getirdi.
Marcus şöyle dedi:
Züccaciye dükkanına girmiş filler gibi makineler ürettik: Güçlü, pervasız ve kontrol edilmesi zor.
Senatör Blumenthal ise bunun daha çok "züccaciye dükkanındaki bombaya" benzediğini söyleyerek karşılık verdi.
Yorumlar
Dikkat!
Suç teşkil edecek, yasadışı, tehditkar, rahatsız edici, hakaret ve küfür içeren, aşağılayıcı, küçük düşürücü, kaba, müstehcen, ahlaka aykırı, kişilik haklarına zarar verici ya da benzeri niteliklerde içeriklerden doğan her türlü mali, hukuki, cezai, idari sorumluluk içeriği gönderen Üye/Üyeler’e aittir.