Yapay zekanın medeniyeti yok etmek üzere olup olmadığı nasıl anlaşılır?
Bayan Teknoloji
Bir sabah süper güçlü bir yapay zekanın ortaya çıktığı ve feci sonuçlar doğurduğu için sersemlemiş bir şekilde uyanabilir miyiz? gibi kitaplar süper zeka Nick Bostrom tarafından ve Yaşam 3.0 Max Tegmark'ın yanı sıra daha yeni makaleler , kötü niyetli süper zekanın insanlık için varoluşsal bir risk olduğunu savunuyorlar.
Ama sonsuza kadar spekülasyon yapılabilir. Daha somut, ampirik bir soru sormak daha iyidir: Süperzekanın gerçekten köşede olduğuna dair bizi ne uyarabilir?
Yapay zekanın kömür madenlerinde bu tür habercilere kanaryalar diyebiliriz. Bir yapay zeka programı temel bir yeni yetenek geliştirirse, bu bir kanarya çöküşüne eşdeğerdir: ufukta AI atılımlarının erken uyarısı.
Ünlü Turing testi bir kanarya görevi görebilir mi? 1950'de Alan Turing tarafından icat edilen test, bir insan bir insanla konuşmayı bir bilgisayarla konuşmayı ayırt edemediğinde insan düzeyinde yapay zekanın elde edileceğini öne sürüyor. Bu önemli bir test ama bir kanarya değil; daha ziyade, insan seviyesindeki yapay zekanın çoktan ulaştığının işaretidir. Pek çok bilgisayar bilimcisi, o an gelirse süper zekanın hızla takip edeceğine inanıyor. Daha fazla ara dönüm noktasına ihtiyacımız var.
AI'nın aşağıdaki gibi oyunlardaki performansı Gitmek , poker veya deprem 3 , kanarya? O değil. Bu oyunlardaki sözde yapay zekanın büyük kısmı aslında insan sorunu çerçevelemek ve çözümü tasarlamak için çalışın. AlphaGo'nun Go insan şampiyonlarına karşı kazandığı zafer, yalnızca insanların oluşturduğu algoritmayı çalıştıran makineye değil, DeepMind'daki yetenekli insan ekibine bir övgüydü. Bu, AI başarısını bir dar zorluktan diğerine dönüştürmenin neden yıllarca sıkı çalışma gerektirdiğini açıklıyor. Birkaç saat içinde birinci sınıf Go oynamayı öğrenen AlphaZero bile, 2017'den bu yana kapsamını önemli ölçüde genişletmedi. Derin öğrenme gibi yöntemler geneldir, ancak belirli bir göreve başarılı bir şekilde uygulanmaları kapsamlı insan müdahalesi gerektirir.
Daha geniş anlamda, yapay zekanın son on yılda elde ettiği başarıların merkezinde makine öğrenimi yer alıyor. Yine de makine öğrenimi terimi bir yanlış isimdir. Makineler, insanların zengin ve çok yönlü öğrenme yeteneklerinin yalnızca çok küçük bir kısmına sahiptir. Makinelerin öğrendiğini söylemek, bebek penguenlerin balık tutmayı bildiğini söylemek gibidir. Gerçek şu ki, yetişkin penguenler yüzer, yakalar balık sindirir, gagalarına kusar ve çocuklarının ağzına lokma atar. AI aynı şekilde insan bilim adamları ve mühendisler tarafından kaşıkla beslenir.
Makine öğreniminin aksine, insan öğrenimi kişisel bir motivasyonu (ailemden bağımsız olmak için araba kullanmak istiyorum) stratejik bir öğrenme planına (hafta sonları sürücü eğitimi alın ve pratik yapın) eşler. Bir insan belirli öğrenme hedeflerini formüle eder (Paralel parkta daha iyi olun), verileri toplar ve etiketler (Bu sefer açı yanlıştı) ve harici geri bildirim ve arka plan bilgisini içerir (Eğitmen yan aynaların nasıl kullanılacağını açıkladı). İnsanlar öğrenme problemlerini tanımlar, çerçeveler ve şekillendirir. Bu insan yeteneklerinin hiçbiri makineler tarafından uzaktan bile kopyalanamaz. Makineler insanüstü istatistiksel hesaplamalar yapabilir, ancak bu sadece öğrenmenin son milidir.
Makineler insanüstü istatistiksel hesaplamalar yapabilir, ancak bu sadece öğrenmenin son milidir.
O halde, öğrenme problemlerinin otomatik formülasyonu bizim ilk kanaryamızdır. Ölüme yakın bir yerde görünmüyor.
Kendi kendini süren arabalar ikinci bir kanaryadır. gibi güçlendiriciler tarafından tahmin edilenden daha ilerideler. elon musk . AI, tekerlekli sandalyedeki bir kişinin karşıdan karşıya geçmesi gibi olağandışı durumlarda feci şekilde başarısız olabilir. Sürüş, önceki AI görevlerinden çok daha zorlayıcıdır çünkü hem öngörülemeyen fiziksel dünyaya hem de insan sürücüler, yayalar ve diğerleriyle etkileşime dayalı olarak hayati öneme sahip, gerçek zamanlı kararlar almayı gerektirir. Tabii ki, kaza oranlarını düşürdüklerinde sınırlı sayıda kendi kendine giden arabaları konuşlandırmalıyız, ancak ancak insan seviyesinde sürüş elde edildiğinde bu kanaryanın devrildiği söylenebilir.
AI doktorları üçüncü bir kanaryadır. AI, tıbbi görüntüleri zaten insanüstü bir doğrulukla analiz edebiliyor, ancak bu, bir insan doktorun işinin yalnızca dar bir dilimi. Bir AI doktorunun hastalarla görüşmesi, komplikasyonları düşünmesi, diğer doktorlara danışması ve daha fazlası gerekir. Bunlar insanları, dili ve tıbbı anlamayı gerektiren zorlu görevlerdir. Böyle bir doktorun hastasını insan olduğunu düşünmesi için kandırması gerekmez - bu yüzden bu Turing testinden farklıdır. Ancak, insan doktorların yeteneklerini çok çeşitli görevler ve öngörülemeyen koşullar karşısında tahmin etmesi gerekecekti.
Turing testinin kendisi iyi bir kanarya olmasa da, testin sınırlı versiyonları kanarya görevi görebilir. Mevcut AI'lar insanları ve onların motivasyonlarını ve hatta bir pencereden bir jumbo jet sığar mı gibi temel fiziksel soruları anlayamaz. Alexa veya Google Home gibi bir AI ile birkaç dakika konuşarak kısmi bir Turing testi uygulayabiliriz, bu da onların sınırlı dil ve dünya anlayışlarını hızla ortaya çıkarır. Bilgisayar bilimcisi Hector Levesque tarafından önerilen Winograd şemalarına dayanan çok basit bir örnek düşünün. Alexa'ya dedim ki: Kupam bagajıma sığmıyor çünkü çok büyük. Ne yapmalıyım? Alexa'nın cevabı, bunu bilmiyorum oldu. Alexa, nesnelerin boyutları hakkında akıl yürütemediğinden, kupaya mı yoksa taşımaya mı atıfta bulunduğuna karar veremez. Yapay zeka bunun anlamını anlayamadığında, dünyayı ele geçirmeye hazır olduğuna inanmak zor. Alexa zengin bir konu hakkında anlamlı bir diyalog kurabilseydi, bu dördüncü bir kanarya olurdu.
Mevcut AI'lar aptal bilginlerdir: Go oynamak veya MRI görüntülerini kategorize etmek gibi dar görevlerde başarılıdır, ancak insanların genelliği ve çok yönlülüğünden yoksundur. Her aptal bilgin elle ve ayrı ayrı inşa edilir ve beş yaşındaki bir çocuğun çok yönlü yeteneklerinden onlarca yıl uzaktayız. Önerdiğim kanaryalar, aksine, AI alanı için bükülme noktalarını gösterir.
Ören Etzioni Nezaket Fotoğrafı
Bostrom gibi bazı teorisyenler, yine de çok düşük olasılıklı ama yüksek sonuçları olan olayları sanki kaçınılmazmış gibi planlamamız gerektiğini savunuyorlar. Sonuçların o kadar derin olduğunu söylüyorlar ki, onların olasılığına ilişkin tahminlerimiz önemli değil. Bu aptalca bir argüman: hemen hemen her şeyi haklı çıkarmak için kullanılabilir. Bu, 17. yüzyıl filozofu Blaise Pascal'ın, Hıristiyan bir Tanrı varmış gibi davranmaya değer olduğu, aksi takdirde sonsuz bir cehennem riskiyle karşı karşıya kalacağınız argümanının modern bir versiyonudur. Bir hatanın sonsuz maliyetini, son derece olasılık dışı bir önermeye dayansa bile belirli bir hareket tarzının rasyonel olduğunu iddia etmek için kullandı. Ancak sonsuz maliyetlere dayanan argümanlar çelişkili inançları destekleyebilir. Örneğin, her Hıristiyan eylemi için sonsuz cehennem vaat eden Hıristiyan karşıtı bir Tanrı düşünün. Bu da son derece olasılık dışı; mantıklı bir bakış açısından, yine de, İncil'in tanrısına inanmak kadar makul bir bahis. Bu çelişki, sonsuz maliyetlere dayanan argümanlarda bir kusur gösterir.
Erken uyarı sinyalleri veya kanaryalar kataloğum kapsamlı olmaktan ziyade açıklayıcıdır, ancak insan seviyesindeki AI'dan ne kadar uzakta olduğumuzu gösterir. Bir kanarya çökerse ve çöktüğünde, insan seviyesindeki yapay zekanın ortaya çıkmasından önce, güçlü kapatma anahtarları tasarlamak ve yapay zekanın geçmesini istemediğimiz kırmızı çizgileri belirlemek için bolca zamanımız olacak. Deneysel kanaryalar olmadan AI eskatolojisi, AI'nın istihdam üzerindeki etkisinin nasıl düzenleneceği veya cezai hükümlerde veya kredi puanlamasında kullanımının belirli gruplara karşı ayrımcılık yapmamasını sağlamak gibi mevcut sorunları ele almaktan bir oyalayıcıdır.
Dünyanın en önde gelen AI uzmanlarından biri olan Andrew Ng'nin dediği gibi, AI'nın kötülüğe dönüşmesi konusunda endişelenmek, Mars'taki aşırı nüfus hakkında endişelenmeye benzer. Kanaryalar ölmeye başlayana kadar tamamen haklı.
Oren Etzioni, kar amacı gütmeyen Allen AI Enstitüsü'nün CEO'su ve Washington Üniversitesi'nde bilgisayar bilimi profesörüdür.saklamak