İnsanlar, insan gibi tepki veren makineleri gördüklerinde ya da insan zekasını taklit eden strateji ve bilişten ödün veren bilgisayarları gördüklerinde, bazen insanlığın robot kumandanlarını kabul etmek zorunda kalacağı bir gelecek hakkında şaka yapıyorlar.
Ama şakaya gömülmüş bir tohumluk tohumu. "2001: A Space Odyssey" den (1968) "Avengers: Ultron Çağı" na (2015), bilim kurgu yazımı ve popüler filmleri, yaratıcılarının beklentilerini aşan ve kontrollerinden kaçan yapay zeka (AI) hakkında spekülasyon yaptılar. Sonunda insanları geride bırakıp, onları köleleştirmek ya da yok olmak için hedeflemek.
İnsanlarla yapay zeka arasındaki çatışma, AMC'nin bilim kurgu dizisi "Humans" dizisinde, 5 Haziran Salı günü üçüncü sezonu için geri döndü. Yeni bölümlerde, bilinçli sentetik insanlar onlara şüphe, korku ve nefretle yaklaşan düşmanlarla yüzleşirler. Şiddet, Sent'lerin kendilerini yalnızca temel haklar için değil, onların hayatta kalmalarını, onları insanlıktan daha az ve tehlikeli bir tehdit olarak görenlere karşı savaştıklarını düşünüyor. [Makineler Yaratıcı Olabilir mi? 9 AI 'Sanatçılar' ile tanışın]
Gerçek dünyada bile, herkes AI'yı açık silahlarla karşılamaya hazır değil. Son yıllarda, bilgisayar bilimcileri yapay zeka ile nelerin başarılabileceğinin sınırlarını zorluyorlarsa, teknoloji ve bilimde önde gelen isimler yapay zekânın insanlığa yönelebildiği, AI yeteneklerinin insan ırkına zarar verebileceğini düşündüren bile olsa, bu tür tehlikeler konusunda uyardılar.
Fakat insanlar neden AI fikri tarafından çok sinirlendiriliyor?
Elon Musk, AI hakkında kırmızı bayraklar açan önemli seslerden biridir. Temmuz 2017'de Musk, katılımcılara Ulusal Valiler Derneği'nin bir toplantısında, “En son teknoloji AI'ya maruz kaldığım için ve insanların bunun hakkında gerçekten endişe duymaları gerektiğini düşünüyorum” dedi.
Musk, "Alarm zili çalmaya devam ediyorum" diye ekledi. “Ama insanlar sokakta insanları öldürdükten sonra, insanları nasıl öldürdüğünü görmedikçe, nasıl tepki vereceğini bilmiyorlar, çünkü çok eterik görünüyor.”
Daha önce, Musk, 2014 yılında AI'yı "en büyük varoluşsal tehdidimiz" olarak etiketledi ve Ağustos 2017'de, insanlığın AI'den Kuzey Kore'den daha büyük bir riskle karşılaştığını ilan etti.
14 Mart'ta hayatını kaybeden fizikçi Stephen Hawking, kötü niyetli AI hakkında endişelerini dile getirdi ve BBC'ye 2014 yılında “tam yapay zekanın gelişiminin insan ırkının sona ermesine yol açabileceğini” söyledi.
Ayrıca, bazı programcıların - özellikle de Cambridge, Massachusetts'deki MIT Media Lab'de çalışanların - AI'nın korkunç olabileceğini kanıtlamaya kararlı olduğu konusunda güven duymaktan daha az.
MIT bilgisayar bilimcileri tarafından 2016 yılında tanıtılan "Nightmare Machine" adlı bir sinir ağı, sıradan fotoğrafları ghoulish, huzursuz hellestiğe dönüştürdü. MIT grubunun "Shelley" adını verdiği bir yapay zeka, Reddit kullanıcılarının forumda yayınladıkları 140.000 masal korkuları hakkında eğitilmiş, korkutucu öykülerden oluşuyordu.
MIT Media Lab'de bir araştırma yöneticisi olan Manuel Cebrian, Shelley'in korkunç hikayeleriyle ilgili bir e-postada daha önce WordsSideKick.com'a verdiği demeçte, “Bu duygunun AI'yı nasıl etkilediğiyle ilgileniyoruz - bu durumda korku.
AI hakkında olumsuz duygular genellikle iki kategoriye ayrılabilir: AI'nın bilinçli hale gelmesi ve bizi yok etmeyi amaçlaması ve ahlaksız insanların AI'yı kötü amaçlar için kullanacağı fikri, Bilgisayar Bilimleri Bölümü'nde doçent olan Kilian Weinberger Cornell Üniversitesi'nde WordsSideKick.com'a verdiği demeçte. [Yapay Zeka: Dostça veya Korkutucu?]
“İnsanların korktuğu bir şey, eğer süper zeki bir zeka - bizden daha zekidir - bilinçli hale gelirse, bize maymunları tedavi etmemiz gibi daha düşük varlıklar gibi davranabilirdi” dedi. "Bu kesinlikle arzu edilmez."
Ancak, AI'nın farkında olduğu ve insanlığı devireceği korkusu, AI'nın ne olduğu hakkındaki yanlış düşüncelere dayanmaktadır, diyor Weinberger. AI, davranışını dikte eden algoritmalar tarafından tanımlanan çok spesifik sınırlamalar altında çalışır. Bazı problem türleri, AI'nın beceri setlerine iyi bir şekilde eşleşir ve bazı görevlerin AI için tamamlanmasını kolaylaştırır. “Ama çoğu şey bununla eşleşmiyor ve uygulanabilir değil” dedi.
Bu, AI'nın dikkatlice belirlenmiş sınırlar içinde etkileyici beceriler kazanabileceği anlamına gelirken - ana düzeyde bir satranç oyunu oynamak veya resimlerdeki nesneleri hızla tanımlamak - örneğin yeteneklerinin sona ermesi gibi.
Weinberger, “Bilinçliliğe ulaşma - bu alanda araştırmalarda kesinlikle hiçbir ilerleme kaydedilmemiştir” dedi. "Yakın geleceğimizdeki bir yer olduğunu sanmıyorum."
Weinberger, diğer vicdanlı bir düşüncenin - vicdan sahibi olmayan bir insanın Zararlı nedenlerden dolayı YG'den faydalanacağını - ne yazık ki çok daha muhtemel olduğunu da ekledi. Weinberger, hemen hemen her tür makine veya aracın, kullanıcının amacına bağlı olarak iyi ya da kötü amaçlar için kullanılabileceğini ve yapay zekadan yararlanan silahların geleceğinin kesinlikle korkutucu olduğunu ve katı hükümet düzenlemelerinden fayda sağlayacağını söyledi.
Belki de, eğer insanlar düşmanca AI korkularını bir kenara koyabilirlerse, yararlarını tanımak için daha açık olacaklardı, Weinberger önerdi.Geliştirilmiş görüntü tanıma algoritmaları, örneğin, dermatologların potansiyel olarak kanserli olanları tanımlamasına yardımcı olabilirken, kendi kendini süren araçların birçoğu birçoğu insan hatası yüzünden meydana gelen ölümlerin sayısını azaltabilirken, WordsSideKick.com'a verdiği demeçte.
Ancak, kendinden-bilinçli Synth'lerin “İnsan” dünyasında, bilinçli AI korkuları, Synth'lar ve insanlar arasındaki şiddetli çatışmalara yol açıyor ve insanlar ve yapay zeka arasındaki mücadele, muhtemelen en azından, mevsimsel olarak yükselmeye ve tırmanmaya devam edecektir.
Editörün Notu: Bu, ilgili üç bölümlük bir dizi makalenin son özelliğidir. AMC'nin "İnsanları". Üçüncü sezon, 10 Haziran günü sabah saat 10'da girişti. EDT / 9'da. CDT.
Canlı Bilim ile ilgili orijinal makale.