Teknolojik İlerleme ve Potansiyel Gelecek Riskleri; fütürizm bir soytarı oyunudur: eğer haklıysan, banal görünür; yanılıyorsan, IBM’in kurucusu Thomas Watson’ın 1943’te dünyada “belki beş bilgisayarlık” yer olduğunu ilan ettiği zamanki gibisin.
David Adams , 2004’te Guardian’da teknolojinin geleceği hakkında yazdığında bu riskleri biliyordu – hatta aynı öngörüyü nasıl ters gidebileceklerine bir örnek olarak gösterdi. Ve 2020’deki bakış açımızdan, Adams kesinlikle Watson’dan daha iyi bir iş çıkardı. Günümüze baktığında, teknoloji tahmininin pek çok tuzağından kaçındı: uçan arabalar veya ışınlanma veya ışıktan hızlı yolculuk gibi bilim kurgu teknolojisi hakkında vaatler yoktu.
Ancak bazı yönlerden, tahminler aşırı derecede kötümserdi. Teknoloji, son 16 yılda gerçekten büyük sıçramalar yaptı ve hiçbir yerde yapay zekadan daha net değil. Adams, “Yapay zeka beyinleri, değişim ve öngörülemeyen olaylarla baş edemiyor” diye yazarak, robotların neden yakın zamanda insanlarla etkileşime girme ihtimalinin düşük olduğunu açıklıyor.
O zamanlar ve şimdi Oxford Üniversitesi’nde bir robotik uzmanı olan Paul Newman Adams’a , “Temel olarak, bir robotun bir ağaç resmi ile gerçek bir ağaç arasındaki farkı söylemesini sağlamak çok zor,” dedi. Neyse ki, Newman kendi karamsarlığının yersiz olduğunu kanıtladı: 2014’te, sürücüsüz araba teknolojisi üretip dünya çapındaki araç üreticilerine sattığı için bahsettiği sorunu umarız çözmüş olan Oxbotica’yı kurdu.
Detaylar hakkında endişelenmekten vazgeçersek, 2020 tahminlerinin bozulduğu iki kilit nokta var: biri teknolojiyle ilgili, diğeri toplumla ilgili.
Adams, “Gadget severler telefonlarını, PDA’larını [tabletlerini] ve MP3 müzik çalarlarını çalıştırmak için tek bir tuş takımı kullanabilir veya saatlerinin, çağrı cihazlarının ve radyolarının çıkışını tek bir hoparlörde birleştirebilir” diye yazdı. Kişisel elektronik cihazlar arasında daha fazla yakınsama ve bağlantı fikri doğruydu. Ancak bu tahminde çok özel bir boşluk vardı: akıllı telefon. Yarım asırlık tek amaçlı tüketici elektroniğinden sonra, tek bir cihazın nasıl her şeyi kapsayan hale gelebileceğini algılamak zordu, ancak Adams’ın makalesini yayınlamasından sadece üç yıl sonra, iPhone piyasaya çıktı ve her şeyi değiştirdi . Ayrı bir MP3 çalar taşımayı unutun; Gerçek 2020’de insanlar ayrı kameralar, cüzdanlar veya araba anahtarları taşımıyor bile.
Akıllı telefonu öngörememek, teknolojinin ilerleyişi hakkında bir gözetimdir. Ancak diğer eksik nokta, toplumun değişen güçlere nasıl tepki vereceğiyle ilgili. 2004 tahminleri temelde iyimser. Adams, doktorunuzun bilgisayarına ışınlanan biyometrik sağlık verileri hakkında yazıyor; “elektronik düzenleyicinizdeki” mevcudiyete göre kendi bakımını otomatik olarak ayarlayan çamaşır makineleri hakkında; ve giysilerinizdeki özelleştirilmiş reklamları tetikleyen veya telefonunuzu bulunduğunuz yere göre programlayan radyo frekansı tanımlama (RFID) çipleri hakkında. Ve bunların hepsinde bir güven duygusu var: Bu değişiklikler iyi olacak ve şirketler onları iyi niyetli yapacak.
Adams’ın görüştüğü kişilerden biri 2020’de teknolojiyi anlatırken, “İnsanlar için çok zor olacak bir mahremiyet kaybı var ve bununla nasıl başa çıkacağımızı bulamadık” diye itiraf etti. “Ama bunun ne işe yaradığını açıklarsanız , ne kadar bilgi sağladığı ve nereye gittiği – ve bu değiş tokuş, süpermarkette uzun süre beklemek zorunda kalmamanızdır – o zaman insanlar değiş tokuşu yapacaktır. Aslında, son on beş yılda, insanların büyük çoğunluğuna asla takası kabul etme seçeneği sunulmadı ve birçoğunun neyin risk altında olduğunu anlasalardı asla kabul etmeyeceği giderek daha açık hale geliyor.
Guardian, iPhone’un piyasaya sürülmesinden sadece üç yıl önce yazmış olmasına rağmen akıllı telefonun ortaya çıkışını kaçırırsa, bugün 10 kat daha ileriye bakarak nasıl daha iyisini yapabiliriz? 2050’nin dünyası birçok yönden hayal edilemeyecek kadar farklı olacak, insanların uzun süre yıkanmadıkları takdirde genel olarak iki kolu, iki bacağı ve hoş olmayan bir kokusu olacağını güvenle varsaysak bile.
Ama lehimize çalışan güçler var. İnternet şu anda 2004’te olduğundan çok daha yerleşik durumda ve hayatlarımız üzerindeki kaotik etkisi azalma belirtisi göstermese de, en azından tahmin edilebileceği gibi tahmin edilemez. Benzer şekilde, batıda akıllı telefon penetrasyonu artık gitmesi muhtemel görünen kadar yüksek. Önümüzdeki 30 yılda dünya ne kadar değişirse değişsin, bu daha fazla İngiliz veya Amerikalının telefon almasıyla olmayacak.
Diğer tahminler, trend çizgilerini mantıksal sonuçlarına kadar takip etmek kadar basit olabilir. 2050 yılına kadar elektrikli arabalara geçiş, en azından gelişmiş ülkelerde ve Çin gibi ucuz mekanizasyon yerine hava kalitesine öncelik vermeye başlayan gelişmekte olan ülkelerde büyük ölçüde bitmiş olacak.
“Gelecek milyar”, çoğunlukla giderek her yerde bulunan hücresel bağlantıları alan düşük maliyetli akıllı telefonlar aracılığıyla çevrimiçi olacak. Ancak internette ne yaptıklarını tahmin etmek daha zor. 2020’de iş başında iki dengeleyici eğilim var: Bir yandan sağlayıcılar, özellikle Facebook, yeni bağlanan ulusları internetin sadeleştirilmiş sürümlerine yönlendirmek için sübvansiyonlu anlaşmaları kullanmaya çalışıyor. Büyük ölçekte başarılı olurlarsa, o zaman web’in faydalarının çoğu tüm ülkelerden çalınacak, bunun yerine Facebook’ta ve birkaç yerel medya ve ödeme şirketinde pasif katılımcılar olmaya indirgenecek.
Ancak Hindistan gibi yerlerdeki ulusal düzenleyicilerden ve rakip taşıyıcılardan gelen geri tepme, bunun yerine yeni ulusları gerçek internete getirebilir. Tabii ulusal düzenleyiciler, tamamen milliyetçi bir internet kurarak Facebook’u dışarıda tutmak için Çin, İran ve Rusya’yı kopyalayarak farklı bir yöne doğru ilerlemedikçe. Web’in faydalarının ülke içinde tahakkuk etmesini sağlamanın, vatandaşlarınızın evde yetiştirilen hizmetleri kullanmasını istemekten daha iyi nasıl sağlanacağını düşünüyorlar. Ve sansür uygulamayı kolaylaştırıyorsa, bu da başka bir fayda.
Rahatsız edici New Dark Age kitabının yazarı James Bridle, tartışmanın bir sonraki milyarın gerçekte kim olduğunu gözden kaçıramayacağına işaret ediyor. “Teknoloji endüstrisinin ‘bir sonraki milyar kullanıcı’ hakkında nasıl konuştuğunu düşünmeye devam ediyorum, ama bu insanların ateşli, ıslanacak ve sinirleneceklerini kabul etmiyorum,” diyor ve “ve biz sadece sınırları sertleştirmekten bahsediyoruz. politik, sosyal, teknolojik olarak bu gerçekliğe hazırlanmaktansa.”
Çünkü geleceği basit trend çizgilerinden tahmin ediyorsak, kabul etmemiz gereken bir şey daha var: iklim. Neyin değişeceğinin ayrıntıları bu parça için değil, insan tepkisi çok fazla.
Bir olasılık A planıdır: İnsanlık, konu emisyon olduğunda zamanla net sıfıra ulaşır. Bu senaryoda, günlük tüketimde etin yerini bitki proteinlerinin aldığı, elektrikle çalışan ağ bağlantılı toplu taşıma araçlarının banliyölere ve ötesine ulaştığı, video konferans ve uzaktan katılımın iş uçuşlarında giderek azaldığı bir dünyada yaşayacağız. İngiliz evlerinin duvarlarının içindeki yalıtım. (Bakın, hepsi yüksek teknoloji olamaz.)
A planı başarısız olursa, o zaman B planına dönme şansımız var. Bu, stratosfere mega ölçekli kükürt dioksit enjeksiyonlarının gökleri süt beyazına çevirdiği ve koca bir neslin asla açık mavi bir gökyüzü göremediği bir dünya. güneş ışınlarını daha fazla yansıtmak ve sera etkisini durdurmak için. Havadan karbondioksiti çekip yeraltında kullanılmayan petrol kuyularına pompalamaktan başka hiçbir şey yapmayan devasa işleme tesislerini çalıştırdığımız bir yer. Önleyemeyeceğimiz en kötü etkilerden kaçınmak için tüm şehirlerin terk edildiği ve nüfusun yeniden yerleştirildiği bir yer.
Jeomühendislikten Sonra kitabının yazarı Holly Jean Buck, B Planı – jeomühendislik – insanlığın geleceği hakkında ne iyimser ne de kötümser diyor. “En kötüsü, A planında ve B planında başarısız olmamız olur. Önümüzdeki on yıl içinde, sanırım [bir çeşit jeomühendislik denenecek]’. Şu anda, sanırım insanlar bunun hakkında konuşmak istemedikleri için yumuşadı. Bilgi birikimimiz yok ve onu geliştirmek için 20 veya 30 yıla ihtiyacımız var. Yüzyılın ortalarında, bunun bir kırılma noktası olacağı anlamına geliyor: iklim değişikliği gerçekten belirgin olacak.”
Ancak Buck için, Bridle için olduğu gibi, gerçekten önemli olan ayrımlar mutlaka teknoloji değildir. “Yaşanabilir bir geleceğe mi yoksa distopik bir geleceğe mi sahip olduğumuza dair seçimler, sosyal tutumlar ve sosyal değişimlerle ilgilidir.
“Şu anda, bu geçici boşluklar çağındayız. Toplum eskiden uzun vadeli bir plan yapabiliyordu: insanlar uzun vadeli bir altyapı inşa ediyor ve biraz daha ilerisini düşünüyorlardı. Bu şimdi olan bir şey değil: hızlı düzeltmelere gidiyoruz. Daha bilinçli karar vermeyi mümkün kılmak için değerlerde kültürel bir değişikliğe ihtiyacımız var.”
Başka bir olasılık daha var: bu teknoloji gerçekten günü kurtarıyor ve sonra bazılarını. Dijital danışmanlık şirketi Publicis Sapient’in baş deneyim yetkilisi John Maeda, 2050 yılına kadar “hesaplamalı makinelerin, Dünya’da yaşayan tüm insan beyinlerinin işlem gücünü aşmış olacağını” söylüyor. Bulut ayrıca Dünya’daki birçok ölü beynin düşüncesini de emmiş olacak – ve hayatta kalmak için hepimizin birlikte çalışması gerekiyor. Bu yüzden, insan ırkı ile geleceğin bilgi işlem makineleri arasında kalıcı bir işbirliği göreceğimizi tahmin ediyorum.”
Bu tür bir düşünce, tekillik olarak bilinir hale geldi: Zaman içinde bir nokta, hatta belki de tekil bir an olacağı fikri, makinelerin düşünme yeteneğinin onları yaratanları geride bıraktığı ve ilerlemenin baş döndürücü sonuçlarla hızlandığı fikri.
The AI Does kitabının yazarı Tom Chivers, “AI araştırmacılarıyla, bir insanın yapabileceği her şeyi yapabilen bir makine olan genel AI’nın ne zaman geleceği hakkında röportaj yaparsanız, 2050’den önce olup olmayacağının yaklaşık 50/50 olduğunu düşünüyorlar” diyor. Senden Nefret Etmiyorum.
Teknolojik İlerleme ve Potansiyel Gelecek Riskleri “AGI’nin” – yapay genel zekanın – “son derece dönüştürücü olabileceğini düşünüyorlar – birçoğu 2015’te ‘hastalık ve yoksulluğun ortadan kaldırılmasının’ mümkün olabileceğini söyleyen açık bir mektup imzaladı. Ama ayrıca,” diye ekliyor, 2013’te bu alanda yapılan bir ankete atıfta bulunarak, “ortalama olarak %15 ila %20 arasında ‘çok kötü bir sonuç [varoluşsal felaket]’ ihtimali olduğunu düşünüyorlar, bu da herkesin ölmesi anlamına geliyor.”
AGI’nin gelişmesi için %50 şans üzerinde durmanın belki de çok az anlamı vardır. Olursa, yapabileceğimiz diğer tüm tahminler tartışmalıdır ve bu hikaye ve belki de bildiğimiz şekliyle insanlık unutulacaktır. Ve aşkın derecede parlak yapay zihinlerin bizi kurtarmak ya da yok etmek için yanımızda olmayacağını varsayarsak ve bu bakış açısına göre yaşarsak, o zaman olabilecek en kötü şey nedir – bir hiç için daha iyi bir dünya inşa ederiz?