Vinge’in Tekillik Kavramı Üzerine Eleştirel Bir Tartışma
Vernor Vinge, kendisine ait “tekillik” kavramı üzerine 1980’lerden beri konuşmalar yapmaktaydı ve fikirlerini bu başlık üzerine ilk makalesinde 1993 yılında topladı. Vinge, bu tarihten beridir konuşmalar yapmaya ve birtakım röportajlarda kavramı üzerine daha detaylı bilgiler vermeye devam ediyor.
Yaklaşmakta olan bir “tekillik” fikri, birçok kişinin hayal gücünü harekete geçirdi ve gelecek ile ilgili kişiler arasındaki binlerce konuşmanın başlığı haline geldi. Bununla birlikte, bu tür konuşmalar genelde çok geniş kapsamlı olma eğiliminde ve bu nedenle de bir başlık üzerine, onun eleştirel bir incelemesini sağlayabilecek kadar nadiren odaklanıyor. (Konuyla ilgili bazı çevrimiçi kaynaklara buradan ulaşılabilir.)
Tekillik kavramının daha eleştirel bir incelemesini tetiklemek amacıyla, 34 kişiyi, Vinge’in tekillik kavramı hakkındaki yorumlarını yazmaya davet ettim. Bu kişilerden on üçü yorumlarını yazdı ve Vinge bu yorumları yanıtladı. Son olarak, iki haftalık bir süre boyunca (6-20 Ekim 1998), Vinge, yorumcular ve istekli diğer kişiler, Extropians e-posta gurubundaki açık bir tartışmaya katıldı.
Vinge’in kavramı hakkındaki tartışmaların eleştirel inceleme konusunda ne denli başarılı olduğu, okurun takdirine kalmıştır.
- [Vinge’e ait “Yaklaşan Teknolojik Tekillik” yazısı | Orijinali | Çevirisi]
- Vinge’in Tekillik kavramı üzerine 13 yorum | Orijinali | Çevirisi
- [Vinge’in yanıtları | Orijinali | Çevirisi]
- Açık tartışmadan seçmeler
- [Doğa’nın Pençeleri ve Dişleri Kanlı mı? | Orijinali | Çevirisi ]
(Merak edenler için, yoruma davet edilenlerin listesi: Gregory Benford, Nick Bostrom, David Brin, Damien Broderick, William H. Calvin, Alexander Chislenko, Dan Clemmensen, Brad De Long, Eric Drexler, Freeman Dyson Carl Feynman, Hal Finney, I. J. Good, Robin Hanson, Francis Heylighen, Kevin Kelly, Eugene Leitl, Peter McCluskey, Mark Miller, Marvin Minsky, Hans Moravec, Max More, Michael Nielsen, Gayle Pergamit, Mitchell Porter, Cosma Shalizi, Anders Sandberg, Gunther Stent, Gregory Stock, Damien R. Sullivan, Nick Szabo, Frank Tipler, Hal Varian, and Eliezer Yudkowsky.)
Robin Hanson, Tekillik Tartışması Editörü
-oo-
[köşeli parantezler çevirene aittir.]
-oo-
Vinge’in Tekillik kavramı üzerine yorumlar:
- Gregory Benford
- David Brin
- Damien Broderick
- Nick Bostrom
- Alexander Chislenko
- Robin Hanson
- Peter McCluskey
- Max More
- Michael Nielsen
- Mitchell Porter
- Anders Sandberg
- Damien Sullivan
- Eliezer Yudkowsky
Gregory Benford‘un yorumu
Tekillik hakkında yalnızca bir yorumum var: İnsanlığın çoğu bunun bir parçası olmayacaktır, çünkü her tekillik basit bir direnç terimi ile tekil-olmayan hale getirilebilir … ve bu türden terimler her zaman vardır. Eğer küçük bir kısım görüş alanından çıksa bile, yine de öfkeli kalabalıkların (ki bunlar her zaman vardır; kıskançlık bakidir), sapanlarına ve oklarına karşı kendi fiziksel sağlıklarını –ihtiyaçları, vesaire– korumaları gerekecektir. Bu çakışma, dolayısı ile değişim için gerçek zemini oluşturacaktır … Tekillik içerisindekiler zaten görüş alanının dışında olacaklardır.
“Direnç terimi” ile hiçbir şeyin mükemmel şekilde işlemediğini ve belli bir oranın arızalar, güç/destek hataları nedeniyle kesintiye uğrayacağını kastediyorum. Ve belli bir oran görüş alanının dışına çıksa dahi, bu, zaten habersiz olan insanların çoğunu etkilemeyecektir. Dahası, karşı tarafa geçenler yine de evrenin zorlu yasalarıyla savaşmak zorundalar. Örneğin ışıktan daha hızlı giderek galaksiyi keşfedemeyecekler. Ancak kavramsal olarak bizim ufkumuzun ötesine geçebilirler ve eğer bu gerçekleşirse yolları açık olsun. Ancak FİZİKSEL gücü kontrol etmek için yine de bizim gibi aracılara bağlı olacaklar.
-oo-
David Brin‘in yorumu
Tekillikler
Vernor Vinge’nin “tekilliği,” insanın aşkınlığı konusundaki düşüncelerin köklü geleneğine önemli bir katkıdır. Tarih boyunca bu düşüncelerin çoğu ruhanilik etrafında dönmüştür –insanların dua, ahlaki davranışlar veya zihinsel disiplin yoluyla daha yüksek bir konuma erişebileceği fikirleri etrafında. Geçtiğimiz yüzyılda, “tekno-aşkıncılık” olarak isimlendirilebilecek entelektüel bir gelenek ile, bunlara dördüncü bir yol eklendi. Yeni bir varlık düzeyi veya daha çekici bir varlık durumunun bilgi ve beceri yoluyla elde edilebileceği fikri…
Tekno-aşkınlık kimi zaman taraftarlarının umut bağladığı, bilimin belli bir dalı üzerine odaklanır. Marksistler ve Freudçular, karmaşık insan toplumu ve zihnine ait modeller yarattılar ve bu kuralların akılcı uygulamalarının daha yüksek bir genel mutluluk seviyesi sağlayacağını öngördüler.
Bazı noktalarda öjenik, insan denen hayvanı geliştirmenin cazibesiyle belli grupları kendine çekti. Bu hayal, yakın zamanda genetik mühendisliğin vaatleriyle yeniden dirildi.
1950’li yıllarda, nükleer enerji hayranları, saat bağlamaya değmeyecek kadar ucuz enerji sözü verdiler. Bu coşkunun bir benzeri 1970’lerin sonu ve 80’lerde uzay kolonileri konusunda görüldü. Ve bugün de, aslında gerçek bir klavyenin arkasındaki kırılgan varlıklar olduğumuzu tamamen gizlemek için tüm internet iletileri şifrelendiği ve çevrimiçiyken tamamen anonim olunduğu sürece herkes için en yüksek seviye özgürlük ve mahremiyet vadeden siber-aşkıncılık konusunda görülüyor.
Zeki kişilerin coşku ve inançla aşkın hayallere kapılmaları geleneği bize doğamızın, tüm kültürler ve tüm devirleri aşan bir tarafını gösteriyor. Çoğu zaman çağcıl topluma karşı bir tür aşağılamanın eşlik ettiği, sıradan kültürel ağın dışında ulaşılabilecek bir tür kurtuluş olduğu inancı … parlak filozoflar ile nerd‘lere çoğu zaman kaba davranan bir ağın dışında…
Bu uzun geçmişi –makinalarımızın hesaplama kabiliyetlerindeki geometrik, veya bir ihtimal üstel artışın, bilgimizde ve gücümüzde eşit derecede kökten bir artışına neden olacağı inancı şeklindeki– güncel durumu tartışırken aklımızda tutmamız gerekiyor.
Yukarıdakilerin hepsi ile birlikte, aynı zamanda bir tekilliğin yaklaşmakta olduğu olasılığına inandığımı da ekleyeyim! Bunun alternatifi, en basit anlamıyla kabul edilemeyecek kadar kötü. Atom bombalarından, biyolojik silahlara kadar, toplu imha araçları giderek öyle bir şekilde “demokratikleşiyor” –uluslar, gruplar ve bireyler arasında öyle hızlı yaygınlaşıyor– ki, eğer akıl ve sağduyu yaygınlaşmazsa, bu hepimizin sonu olacak. Aslına bakılırsa, Batı medeniyeti ve onu oluşturan vatandaşların eğitiminin ve sağgörüsünün hiçbir zaman bu denli yüksek olmamış olduğunu ve önümüzdeki yüzyılda hızla gelişmeye devam edebileceğine işaret eden güçlü kanıtlar var. Bir tek şey kesin: Bladerunner veya başka herhangi bir siber-punk distopyasındakine benzer bir gelecekle karşılaşmayacağız. Kapsamlı bir teknolojiye karşılık gelişmiş bir hesap verme sorumluluğu bulunmayan bu tür dünyalar sürdürülebilir olmayacaktır. Seçeneklerimiz sınırlı görünüyor:
- “Tekillik”in bir türüne ulaşmak – veya en azından daha yüksek ve daha bilgili bir topluma doğru bir faz değişimi (ki bu toplumun bizim öngöremeyeceğimiz kendi sorunları olabilir).
- Kendi kendimizi yok etme
- Daha geleneksel, 1 ve 2’deki türden sonuçlara neden olabilecek abartılı keşiflere karşı caydırıcı tavır takınan bir insan toplumuna geri dönüş.
Aslında mevcut kültürümüz, tarihsel bir perspektiften bakıldığında, bireycilik, ilerleme ve hepsinden önemlisi de, otoriteye karşı duyulan şüphe konusunda halihazırda ciddi bir şekilde sıra dışıdır. Bu başlıklar geçmişteki insan kültürlerinin büyük çoğunluğunda etkin ve sert bir şekilde bastırılmıştır, zira egemen sınıfların bağlı olduğu istikrarlı dengeye karşı birer tehdit oluştururlar.
Ortaya çıkan –kendine özgülüğü, çeşitliliğin takdirini, toplumsal devinimi ve bilimsel ilerlemeyi teşvik eden– toplumdan gurur duysak da, henüz bu yeni yaklaşımların akla yatkın veya apaçık olduğunu iddia etme hakkımız yok. Dünya’nın birçok diğer bölgesindekiler batılıların deli olduklarını düşünüyor ve kimin haklı olduğunu yalnızca zaman gösterebilir. Şüphesiz mevcut eğilimler devam ederse –eğer, örneğin, otoriteye karşı duyulan şüphe kültürü aşırıya gidip, en iyi kurumlarımıza karşı dahi paranoyakça bir güvensizliğe dönüşürse– batı uygarlığının, övündüğü amaçlara hiçbir zaman ulaşamadan parçalanması mümkündür. Elbette yalnızca merkezkaç kuvvetleri etkili olur ve bunları karşılayacak, bizi birbirine karşı saygılı vatandaşlardan oluşan toplum olarak bir arada tutacak hiçbir merkezcil değer bulunmazsa, bir tekillik meydana gelmeyecektir.
Her şeyden önemlisi (Transparent Society‘de [Şeffaf Toplum] belirttiğim gibi) en önemli gelişimlerimizin –bilim, adalet, demokrasi ve serbest pazar– tamamı açık bilgi akışından kaynaklanan karşılıklı hesap verilebilirliğe dayanmaktadır.
Fakat, ya bu rotada kalırsak ve Vernor’un tekilliği gibi bir şeye ulaşırsak? Hangi TÜRÜN yararlı veya hatta arzu edilir olduğu konusunda tartışılacak çok şey bulunmaktadır. Örneğin, eğer organik insanlar yerlerini, biz fazla gelişmiş maymunlardan muazzam ölçüde daha büyük yetilere sahip yapay varlıklara bırakmaya mahkumsa, bu ardıllarımızı kendilerinin insan olduklarını düşünecekleri şekilde tasarlamamız mümkün müdür? Yoksa basitçe tedavülden mi kalkacağız?
Bazıları Teilhard de Chardin‘in –hepimizin, neredeyse kelimenin gerçek anlamıyla, bilgi ve algı anlamında tanrısal olan tek bir makro-varlık olarak birleşeceği fikri olan– kutsal idealine karşı hayranlık beslemektedir. Tipler, Physics of Immortality [Ölümsüzlük Fiziği] adlı kitabında bu tür bir gelecekten bahseder ve Isaac Asimov, Vakıf’ın Sınırı‘nda insanlığın uzun vadeli amacı olarak benzer bir öneri sunar. Ben bu fikri hiçbir zaman özellikle çekici bulmadım –en azından bu makro-varlığın içerisindeki bütün bireyleri kapsadığı ve ardından bir seferde yalnızca bir şey düşünmeye devam ettiği şeklini. Earth [Yeryüzü] adlı kitabımda bu temanın bir hoş görülebilecek bir çeşitlemesi üzerine gittim: Hepimiz bireyler olmaya devam ederken, aynı zamanda da yeni bir gezegensel bilinç seviyesine katılıyoruz –başka bir deyişle, iki tarafın en iyi yönlerini alıyoruz. Tam aksi uçta, Asimov’un meşhur romanlarına devam olarak yazmakta olduğum yeni “Vakıf” romanında ise, Isaac’in çizmiş olduğu resmi daha açık bir hale getiriyorum –insanların aşkınlığından korkan muhafazakâr robotların, bunun bize zarar vereceğini düşünerek bir insan tekilliğini binlerce yıl boyunca engellemeye çalıştıkları şeklindeki resmi.
Her halükârda, bu hem büyüleyici hem de zaman zaman hayal kırıklığı yaratabilecek bir fikir. İyi bir ebeveyn, çocukları için en iyisini ve onların kendisinden için daha iyi olmalarını ister. Yine de onların –veya belki de torunlarının– neredeyse her şeye kadir, her şeyi bilen ve hemen hemen ölümsüz tanrılar gibi yaşayacaklarını hayal etmek hüsranla sonuçlanabilir.
Ancak insan varoluşu ne zaman hüsransız olmuştur ki? Günümüzdeki tüm spekülasyonlar ve hayaller, bu nesillere eğlenceli ve naif görünebilir. Fakat umuyorum ki arada bir saygı duydukları anlar da olur. Hatta belki bir an durup, mağara insanından hallice bizlerin aslında pek de fena olmadığımızı dahi düşündükleri anlar bile olabilir.
-oo-
Damien Broderick‘in yorumu
“Otuz yıl içinde, süper-insan zekâsı yaratmak için gereken araçlara sahip olacağız. Bundan kısa bir süre sonra, insanlık dönemi sona erecek.”
(Vernor Vinge, NASA VISION-21 Sempozyumu, 1993)
Birçok bilim insanı, Dr. Vernor Vinge’in teknolojik Tekillik’inin 2050 civarında, hatta 2020 kadar yakın bir tarihte patlak vermesini beklenmektedir. Bu tür bir olayı “Sıçrama” şeklinde isimlendirebiliriz, zira teknolojinin üstel eğrisi, zamana karşılık ilerleme grafiğinde bir sıçramayı andırır. Bu elbette son derece şüpheli bir öneridir. Bu türden şeylerin, daha önce, Kıyamet Günü ile ilgili dini vahiylerde Zamanın Sonu ve Ahiret günü şeklinde kehanet edildiğini duyduk. Yazık ki zamanlama, batıl inançlıların ileri sürdüğü tarihlerle neredeyse çakışmaktadır.
Vinge’in kastettiği şey yalnızca, gelecekteki teknolojinin güvenilir bir şekilde tahmin edilebilmesini önleyen bir engeldir. Binyıl ile çakışmasına rağmen Sıçrama’nın ne zaman gerçekleşeceği, hatta eğimi ve eğimin bizi ne zaman öngörülerde bulunamayacağımız kadar hızlı yukarı taşımaya başlayacağı halen belli değildir. Kendimizi önümüzdeki birkaç yıl, hatta önümüzdeki onyıl içerisinde paldır küldür savrulmuş bir halde bulmayacağız. Birçoğumuz bu kontrol edilemez dalgayı kendi ömrümüz içerisinde görmeyi bekliyor olmasına rağmen eğri, ancak daha ileriki bir tarihte dikleşecek. Ve ömrümüz şu an düşündüğümüzden çok daha uzun olabilir.
Şu an için yapmamız gereken huşu içerisinde kalakalmak değil, sıkı bir şekilde düşünmek ve toplumsal bir diyalog başlatmak. Bu çok şık bir paradoks. Eğer Sıçramaya giden yola ait analizimizi, gayet anlaşılır bir şekilde çok korkutucu veya çok saçma olduğu için ertelersek, dizginleri elimizde tutma şansını yitireceğiz. (Ayrıca eski, demode benzetmelerin düşüncelerimiz üzerinde nasıl etkili olduğunu görebiliyor musunuz? Elimizdeki dizginler?)
Bugüne kadar insan ırkının en parlak zekâları geçici, aç, tehlikeli bir dünyada kısa süre yaşayan insanların kısa vadeli amaçlarına adandılar. Bu değişecek. Belki uzun tarihimizden çıkarılacak karmaşık derslerden hiçbiri 21. yüzyılın ortasından sonraki tuhaf günlerde ve ötesinde gidişatımıza bir destek sağlamayacak, yol göstermeyecek. Yalnızca belki, katı oyun teorisi kuralları ve soğuk fizik yasaları hariç.
Birçokları geçmişten gelen bilgeliğinin bu kasvetli parçalanışına hayıflanacak: Ne de olsa, “Birbirinizi sevin!” Afrika ovalarında geçen üç milyon yıldan miras kalan en derin davranışsal kurallarımızdan biri. Nefret dolu tamamlayıcısı da öyle: “Yabancıdan kork! Yiyeceği koru! Düşmanı öldür!” Belki Sıçrama bu kadim ikilemleri çözebilir; bazılarını anlamsızlaştırarak –neden başkasının mallarını çalayım, aynılarını kendi madde-derleyicimde yapabilecekken?– diğerlerini de mümkün kılarak –neden hastalıktan ve cinsiyetçilikten ve ölümden korkayım, harikulade artırılmış zihinlerin rehberliğinde kendi DNA kodlarımı yeniden yazarak ölümlülükten kurtulabilecek, kromozomlardan başlayarak cinsiyet değiştirebilecekken?
Yoksa her şeye rağmen bu yalnızca bir kargo-kültü sanrısı mı, kurtuluş için makinadaki bir Tanrıya boşu boşuna bel bağlamak mı?
Dünyada transhümanist meseleleri derinlemesine ele alan sayılı kişilerden biri olan Anders Sandberg, yakın zamanda bir Sıçrama ihtimaliyle karşı karşıya kaldığımızda zihnimizin nasıl çökme eğiliminde olduğundan hayıflanmıştır. Kavram öylesine engindir ki: “memetik algılayıcılarımıza fazla uygundur!” [yani, dinin yarattığına benzer duygular yaratmaya fazlasıyla müsaittir] Kendisi bugüne kadar önerilen tekillik çeşitlemelerini ayrıştırmaya çalışmıştır.
Bunlardan biri, bizlerin yükseltme yoluyla veya tamamen değişik ve bilinemez bir şeye yüklenerek değiştiğimiz ve ardından birer insandan fazlasına dönüştüğümüz bir Ahiret/Yeniden Diriliş Günü yaklaşımı olan, Aşma’dır.
Üçüncüsü ise, basitçe çok tuhaf olduğu için sonrasında ne olmakta olduğunu tahmin edemeyeceğimiz veya anlayamayacağımız an olan Duvar, veya Öngörü Ufkudur. Bu son madde, ilkini andırmasına rağmen, bu yalnızca bizim bilgisizliğimizin bir yan etkisidir. Bu, Aşma’nın aksine, Sıçrama ile birlikte, Avusturalyalı transhümanist Mitchell Porter tarafından “Enginleşme” [İng. “The Vastening”] olarak isimlendirilen bir uzay-zaman mühendisliği, yeni uzaylar üretme ve fizik yasalarını toptan yeniden yazacağımız bir aleme gireceğimiz anlamına gelmez.
Tüm çekiciliğine rağmen –ve tam olarak da kripto-mistik, dinvari çekiciliği nedeniyle– Aşma konusunda Anders Sandberg’in şunu ileri sürer:
“üç versiyon arasında, en karşı konulmazı olduğu için, en tehlikeli olanıdır. Birçok tartışma, tıpkı Hristiyanların veya diğer dinlerden inançlıların ‘takdiri ilahi’ diyerek yaptıkları şekilde, ‘Fakat post-tekillik dünyası hakkında hiçbir şey öngöremeyiz!’ denerek daha ileri incelemeleri sona erdirecek şekilde sonlanıyor. Ve Aşma’yı kader olarak görerek, ona eskatolojik [kıyametbilimsel] bir ton katmak son derece basit. Bu, aynı zamanda onu her şeye kadir ve kaçınılmaz olarak gören birçoklarında da acizlik duygularının ortaya çıkmasına neden oluyor.”
Bilim olarak isimlendirdiğimiz –yanılabilir, mücadeleci, şiddetli tutkular ve sabırlı çabalarla ilerleyen– kolektif zihin, dinlerin ve mitolojilerin tamamen başka bir dünyada, uzak ve elle tutulmaz bir ödül (veya ceza) olarak vazettiği şeyi, bize teslim etmeyi vadediyor.
Ancak birçok kişi, beni hayretler içerisinde bırakan bir şekilde, bir post-Sıçrama ortamında süresiz olarak uzatılmış ve kesintisiz olarak tekrar eden hayatlar sürme fikrini reddetmektedir.
Acılar, sancılar, ve yitirilişinin yarattığı ıstıraplar olmadan, diye soruyorlar, nerede kalır hayatın tatlılığı? Hayat, ölümün karanlığının aydınlık sol elidir. Yin olmadan, yang olmaz, vesaire. Bu kuşkuyu bir ölçüde anlayabiliyorum, (örneğin, bir yemeğe konacak en iyi sos, alın teriyle kazanılmış açlıktır), ama fazla da değil. Bu basit ikili karşıtlıklar ve zıtlıkların, bırakın ahlakın temelini oluşturmayı, dünyayı analiz etmekte kullanılacak verimli bir yöntem olduğuna dahi ikna olmuş değilim.
Özgürlük, bir köle alt sınıfının varlığını mı gerektirir? Sağlıklı olduğumuz için mutlu olmamızın tek nedeni, bir başkasının –veya gelecekteki kendimizin–acılar içerisinde kanserden ölebilecek olması mıdır? Değildir diye umuyorum! Açık açık söylemeliyim ki bu düşünce çizgisi bana son derece korkakça bir teselli öğretisi gibi görünüyor; acımasız ve sert bir gardiyan tarafından salıverilme umutları olmayan, ancak cesurca bir firar girişiminde bulunmaya da cesareti olmayan esirlerin birbirlerine fısıldadıkları teselliler gibi.
Özgürlüğümüzle ne yapacağız, diye sormak, itaatkâr bir kölenin kendi kendisini bozguna uğratan sorusudur. Yanıt tek bir şey olabilir: Ne istersen onu. Evet, zorunlu ölümlülükten kaynaklanan özgürlük bazıları tarafından boşa harcanacaktır, tıpkı hayat denen leziz içkinin kumlara dökülüp gitmesi, bize armağan edilen olan şu anki yetersiz vaktimizin bir araba hırgür, saçma oyalanmalar, sıkıcı tekdüzelik, hissizleştiren alışkanlıklar ve bir düzine bağımlılık tarafından harcanması ve berbat edilmesi gibi.
Seçme ve özgürlük işkencesiyle iki büklüm olmuş diğerleri ise, uçsuz bucaksız ebediyetin yankılı boşluğuyla yüzleşmektense, kendi hayatlarını kendileri alarak, onu dehşet içerisinde bir tarafa atacaklardır. Bu kendi seçimleridir ve saygı duyulmalıdır (bundan her ne kadar pişmanlık duysak da). Geri kalanlarımız için, sanıyorum ki, umutların yavaş bir şafağı ve uyanışı olacak. Sıra dışı yetenekleri olanlar, daha önce hiç olmadığı gibi büyüme, öğrenme ve yaşamı kana kana içme şansını açgözlülükle ve şükranla kavrayacaklar. Ve kesinlikle, sıradan olan bizler de öyle…
Bir çeyreği insan olmanın temellerine adanan ve bir diğer çeyreği, hatta daha fazlası kötüye giden sağlık ile geçen tek bir yüzyıl ile sınırlı süremizle, ufkumuzu daraltıp, gözlerimizi zamanın düşen darbelerine karşı kapatabiliyor olmamız küçük çaplı bir mucizedir. Şimdi bile, elbette, herhangi birimiz orta yaşlarında piyano veya keman çalmayı öğrenebilir veya yeni bir dilde ustalaşabilir veya okuldayken kaçırdığımız hayret verici derecede zarif olan matematiğe yönelebiliriz; ancak pek azımız bu kararlılığı gösterebilir. Ancak bu tür çabalar sarf etmek, arkadaşlarımız tarafından boş olarak nitelendirilecek, “orta yaş krizinin” gülünç bir kanıtı olarak alaya alınacaktır.
Diğer taraftan, zihinsel ve fiziksel gücümüzün her daim daha kötüye gitmediği bir sonsuz olanaklar dünyasında ise, yeteneklerimizi ve diğer insanlarla olan etkileşimlerimizi artırma fırsatlarımız, doğa ve tarihin kendisi, hepimizin, en sıradan kişiler bile dahil olmak üzere, karşısına dikilecektir.
Şu anda her söylenene inanılmasına zorluyor olmasına rağmen, sonsuz gelecekteki birçok insan için en önemli etkinliklerden birinin bilimin dokusuna (ve tamamen yeni ifade araçlarıyla klasik sanatlara) katkı sağlamak olacağını düşünüyorum.
Makinalarımız sayesinde gelişmiş olacak bizler, zorlu eleştirilerle sınanan, ruhumuzu doyurmak için kendi hatırına araştırılan sistematik bilgi birikiminin estetik ihtişamını kucaklayacağız –ve yalnızca birer bilgili izleyici olarak olsak dahi bilgiyi virtüözün tekniği olarak da, her birimizin keşif girişimine girmemizi sağlayacak bir güç kolu olarak da kucaklayacağız. Ve Sıçrama’nın diğer tarafında keşfedebileceklerimizin ve yapabileceklerimizin, belki de hiçbir sınırı olmayacak.
-oo-
Nick Bostrom‘un yorumu
Tekillik ve Öngörülebilirlik
Vinge’in Tekillik hakkında söylediği şeylerin çoğuna yakın fikirler taşıyorum. Vinge gibi, ben de Tekilliği bir kesinlik olarak değil, görece olası senaryolardan biri olduğunu düşünüyorum.
1.
“Tekillik,” farklı yazarlar tarafından farklı, hatta bazen aynı yazar tarafından farklı seferlerde farklı anlamlara gelecek şekilde kullanılıyor. Bu terim ile ifade ediliyor olabilecek birbirinden farklı en az üç kuramsal bağlam bulunuyor:
- Teknolojik gelişim hızının aşırı derecede arttığı bir an (Dikeylik),
- Süper-insan seviyesinde bir yapay zekânın yaratımı (Süper-zekâ),
- Ötesi hakkında, belki fizikten doğrudan yapabileceğimiz çıkarımlar hariç, hiçbir öngörüde bulunulamayacak bir an (Öngörülemezlik, veya diğer adıyla, “öngörü ufku”).
Vinge, bu üç iddianın bir birleşimini düşünüyor gibi görünmektedir; ancak hepsinin birden “Tekillik”in tanımında olup olmadığı belirgin değildir. Örneğin, eğer Dikeylik ve Süper-zekâ gerçekleşir, ancak Öngörülemezlik ortaya çıkmazsa, bu durumda bir tekillik olmamış mı olur? Yoksa bir tekillik meydana gelmiş, ancak Vinge doğası hakkında yanılmış mı olur? Bu tamamen biçimsel bir sorudur, ancak farklı şeylerden bahsetmiyor olduğumuzun belirgin olması için de gereklidir.
2.
İki potansiyel teknoloji daha yüksek önem taşıdıkları için diğerleri arasında dikkat çekmektedir: Süper-zekâ ve nanoteknoloji (ör. Bir sanki-evrensel birleştiriciyi de içeren “ileri moleküler imalat”)
Bunlardan hangisinin daha önce geliştirileceği henüz cevaplandırılmamış bir sorudur. Ben ikisinden herhangi birinin kısa bir süre içerisinde diğerinin de ortaya çıkmasına neden olacağı kanısındayım. Bir süper-zekâ, öyle görünüyor ki, kısa süre içerisinde nanoteknolojiyi geliştirebilmelidir. Diğer taraftan, nanoteknolojiye sahip olursak, insan-eşdeğerinden daha iyi donanımlar geliştirmemiz kolay olacaktır. Bu donanıma sahip olduğumuzda, bunu ya yapay sinir ağları ile genetik algoritmalar gibi ab initio yöntemlerde ve (düşük ihtimalle) klasik YZ’de kullanabilir veya sıra dışı insan beyinlerini yükleyerek [İng. upload], bunları hızlandırılmış saat oranlarında [İng. clock rate] koşturabilirdik. Benim düşüncem, yeteli donanım var olduğu takdirde, ab initio yöntemlerin oldukça kısa bir süre içerisinde (belki birkaç yıl) başarıya ulaşacağı yönündedir. Ancak bundan emin olmanın bir yolu yoktur. Eğer yazılım sorunlarının çok büyük olduğu ortaya çıkarsa, bu durumda iki olasılık bulunur: Bu aşamada yükleme (nanoteknolojinin var olduğu durumda muhtemelen olacağı gibi) uygulanabilir ise, bu durumda ilk (zayıf) süper-zekâlar, yüklemeler ortaya çıkabilir. Diğer taraftan, eğer yüklemeler yaratılamıyorsa, bu durumda tekillik, yazılım sorunları çözülene kadar veya yükleme mümkün hale gelene kadar gecikecektir.
Eğer nanoteknoloji mevcut, ancak süper-zekâ yok ise, bu durumda teknolojik ilerlemenin günümüz standartlarına göre çok hızlı olmasını beklerim. Yine de, karmaşık makinalar veya tıbbi cihazlar yaratma ile ilgili büyük sorunlar olacağı için, bir tekilliğin gerçekleşeceğini sanmıyorum. Birçok şeyin nanoteknoloji ile yapılabilir hale gelmesi birkaç yıl sürecektir.
Eğer süper-zekâ mevcut, ancak nanoteknoloji değilse, yine de bir tekillik gerçekleşebilir. Bu durumda muhtemelen en radikal olasılıkların çoğu gerçekleşmeyecektir –örneğin, Yeryüzü’nün birkaç gün içerisinde dev bir bilgisayara dönüştürülmesi gibi– ancak dünyanın önemli nitelikleri yine de çok kısa bir süre içerisinde radikal değişimler geçirebilir, özellikle de öznel deneyimler ve zeki işlemlerin kendilerini bu önemli nitelikler arasında sayıyorsak.
3.
Dikeylik ve Süper-zekânın ikisi birden gerçekleşse dahi, Öngörülemezliğin geçerli olacağından pek emin değilim. Bazılarının Öngörülemezliği, “tekillik”in tanımlayıcı özelliklerinden biri yapmış olmalarının talihsiz olduğu kanısındayım. Bu gerçekten de düşünsel bir engel yaratma eğilimde.
Öngörülemezliğin çok güçlü bir iddia olduğunu vurgulama isterim. Öngörülemezlik, yalnızca post-tekillik dünyası hakkında pek fazla şey bilmediğimizi değil, aynı zamanda bu tür bir bilginin elde edilemeyeceğini de ifade ediyor. Bu radikal şüpheciliğe ikna olduysak, tekilliğin arzu edilir bir şekilde gerçekleşmesi sağlamaya çalışmak için de hiçbir nedenimiz olmayacaktır; ne de olsa şu anki eylemlerimizin post-tekillik dünyasındaki sonuçlarını tahmin edebileceğimiz hiçbir yol olmayacaktır.
Ben, tekilliğin ötesinde belli bir güven derecesi ile tahmin edebileceğimiz şeyler olduğunu düşünüyorum. Örneğin, tekillikten ortaya çıkan süper-zeki varlığın, ışık hızının hatırı sayılır bir oranında uzayın içlerine doğru küresel olarak yayılacak bir kolonileştirme dalgası başlatacağı gibi. (Bu, Vinge’in “bu dıştaki uygarlıklar o kadar tuhaftır ki, onlarla hiçbir şekilde etkileşime geçemeyiz” varsayımı ile Fermi paradoksunu açıklayabileceğimiz fikrine katılmadığım anlamına geliyor.) Bir diğer örnek ise, rekabet halinde olan birden fazla ajanın var olduğu durumda (ki olmayabileceğinden şüpheliyim) davranışlarının bazı yönlerinin ekonomik anlamda akla yatkın davranma kaygıları nedeniyle tahmin edilebilir olacağıdır.
Gerçekleşecekleri çok daha ayrıntılı şekilde tahin etmek de mümkün olabilir. Post-tekillik dünyasını yönetecek süper-zekâlar veya post-insanlar bizim tarafımızdan yaratılacağı, hatta belki biz olacakları için, ne tür değerlere sahip olacaklarını etkileyebilecek bir konumda olmamız gerekir gibi görünüyor. Daha sonrasında ise, sahip oldukları ileri teknoloji sayesinde güçlü bir dünyayı kendi değerleri ve arzularına uygun hale getirme yetisine sahip olacakları için, hangi değerleri taşıdıkları dünyanın nasıl bir yer haline geleceğini belirleyecektir. Dolayısıyla, tekillikten sonra ne olacağını tahmin etmek için yapmamız gereken tek şeyin, süper-zekâyı yaratan kişilerin hangi değerleri taşıdıklarını tahmin etmek olduğu ileri sürülebilir.
İşlerin ters gitmesi ve yanlışlıkla yaratılan bir süper-zekânın istenmeyen değerlere sahip olması mümkündür, ancak bu, baştan bu tür hata yapılmış olduğunu varsayar. Bu tür hata gerçekleşmezse, süper-zekâ, yaratıcılarının değerlerine sahip olacaktır. (Ve elbette en temel değerlerini değiştirmeyecektir; yeterince yüksek bir zekâya sahip olduğu anda “isyan edip,” “değerli” başka bir amacın peşine düşeceğini düşünmek hata olur. Bu türden bir eğilim, en iyi ihtimalle insan psikolojisine ait bir kural olabilir (üstelik hiçbir şekilde belirgin de değildir); ancak, bir süper-zekâ, zorunlu olarak insan psikolojisine sahip olmak durumunda değildir. Evrendeki maddeyi mümkün olan en fazla sayıda sandalyeye dönüştürmeyi yegâne amacı olarak benimsemiş bir süper-zekânın mümkün olabileceğini düşünmek hiçbir şekilde akıl dışı değildir –ancak neden birinin bu tür bir süper-zekâ yaratmakla uğraşmış olacağını anlamak güçtür.)
Bu nedenle, belki de post-tekillik dünyasının nasıl olacağı hakkında birkaç hipotez öne sürmemiz mümkündür. Bu hipotezlerin her biri, akla yatkın bir değere karşılık gelecektir. Akla yatkın değerler, ilk süper-zekânın yaratıldığı sıralarda en etkili olan kişilerin çoğunun büyük ihtimalle taşıyor olacakları değerlerdir. Bu değerlerden her biri, bir çeker [İng. attractor], yani dünyanın, söz konusu değer uyarınca maksimum miktarda pozitif fayda içeren bir durumunu belirler. Bu nedenle, dünyanın bu çekerlerden birinde dengeye oturmasının olası olduğu tahmininde bulunabiliriz. Daha özel olarak ise, uzayın kolonileştirilen hacmi içerisinde maddenin kademeli (yahut belki de çok hızlı) bir şekilde en-yüksek-değer yapıları –yani seçilen değeri mümkün olan en fazla miktarda içerecek yapılar– şeklinde düzenlenmesini bekleriz.
Bunu, rota hipotezi olarak isimlendiriyorum, çünkü geleceğin belli bir sayıda “rota” içerdiğini ifade ediyor –yani, bu güzergahlardan herhangi biri üzerinde meydana gelecek gerçek olayların, ilgili değer ile belirlenen hedef durumuna kaçınılmaz şekilde yaklaşarak, burada sona erecekleri olası gelişim güzergahları.
Rota hipotezinin doğru olduğunu ve gerçek durumda hangi değerin baskın çıkacağını bilsek dahi, geleceğin nasıl olacağı hakkında fazla bir bilgi sahibi olmamamız mümkündür. Gerçek durumda hangi fiziksel yapının belirlenen değeri maksimize edeceğini hesaplamak zor olabilir. (yani örneğin, evrenin toplam haz miktarını maksimize etmek için nasıl olması gerekir?) Dahası, gelecek hakkında soyut bazı bilgilere sahip olsak bile, sezgisel olarak yine de bu tür bir gelecekte yaşamanın nasıl bir şey olacağını anlamaktan aciz olabiliriz. (Yani örneğin, evren, haz-maksimize olmuş olsa, burada var olacak hiper-keyifli deneyimler ne hissettirecektir?) Bu anlamda, post-insanlar bizim için, bizim süs balıkları için olduğumuz kadar akıl almazdır. Fakat bu anlamdaki anlaşılmazlık, hiçbir şekilde yükseltilmemiş [İng. unaugmented] insanların, post-insanlara ait davranışların ve düşünsel süreçlerin birçok yönünün etkin bir şekilde tahmin edilebilir olmasını engellemez.
-oo-
Alexander Chislenko‘nun yorumu
Bir süreç olarak Tekillik, ve ötesindeki gelecek
Gelecekteki dramatik bir dönüm noktası fikriyle ilk kez 1970’lerin başında, kuramsal biyolog ve filozof olan babam Leonid Chislenko, benimle kendisine ait “Her Şeyin Genel Kuramı”nı paylaştığında tanıştım. Galaksilerin, yıldızların ve gezegenlerin oluşumundan, çeşitli yaşam biçimlerinin, erken toplumların, yakın geçmişteki teknolojik devrimin ortaya çıkışına kadar, evrendeki karmaşık sistemlerin evriminin hızı ile ilgili basit bir grafik çizdiğini hatırlıyorum. Logaritmik ölçekte, karmaşıklığın iki katına çıkma periyotları tek bir doğru üzerinde kalıyor ve X eksenini anlamlı bir şekilde 2030 yılı noktasında kesiyordu. Bu küçük gösteri, dünya hakkındaki araştırmalarımın en heyecan verici anlarından biriydi ve daha sonraki ilgi alanlarım üzerinde büyük etkisi oldu.
Son 25 yıl boyunca takip etmeyi sevdiğim etmenler birçok kez değişti, ve sürecin nihai hedefleri konusundaki beklentilerim de öyle. Aslına bakılırsa, şimdi artık sonrasında gelişimin sonsuz derecede hızlanacağı veya dramatik ve öngörülemez şekilde yıkılacağı bir tek olay/nokta olduğunu düşünmüyorum.
Her tahmin, seçilen sisteme ait gelecekteki belli bir süre için bir takım gözlemci tahmin değerlerine sahiptir. Şu an yaygın bir şekilde yayımlanan nüfus büyüklüğü, hava durumu, maç sonuçları veya benzin fiyatları tahminleri bir ölçüde doğru olsa da, bu belirtiler artık modern uygarlığın ilerlemesini yansıtmıyor. Bu gelişim, kimsenin ilgili bir modele sahip olmadığı semantik örüntüler ile tekno-sosyal mimarilerin karşılıklı karmaşık etkileşimleri tarafından belirleniyor. Çoğu kişi, bu sistemin değişim eğilimlerini anlamaya kalkışmamıştır bile; bunu deneyenler ise yalnızca nadiren ilgili eğilimlere ait bir şeyleri bir anlığına görür gibi olmuşlardır. Sistemin davranışının öngörülemez olduğunu iddia etmek için daha ne kadar beklememiz gerekiyor? Çoğu kimse için bu Tekillik noktası halihazırda geldi ve giderek sayıları artan, giderek daha zeki hale gelen kişiler ve makinaların gelecekteki karışımı onlara eşit derecede akıl karıştırıcı, ancak sadece daha hızlı (veya, takip etmeyi tercih ettikleri alakasız parametrelere bağlı olarak daha yavaş) değişiyor görünecek.
Önemli büyüme etmenlerinin ne olduklarına dair fikirlerimiz yakın tarih boyunca değişti. İlk olarak, bir süre boyunca hiperbolik “yasa”ya uygun hareket eden nüfus patlamasına baktık. Elbette bu, Moore’un bilgisayar teknolojilerinin gelişim hızıyla ilgili gözlemi ne kadar yasaysa, o kadar yasaydı. Mekanizmalara ait analizler olmadan, süregiden eğilimlerin basit projeksiyonları yasa değil, yalnızca birer zihin egzersizidir. Gelişim süreçlerinin niteliksel olarak anlaşılması, bu tür projeksiyonların sonuçlarından çok daha önemlidir (yine de oğlumla beraber, her 5 yılda bir boyu iki katına çıkacak şekilde uzamaya devam ederse, ne zaman ortalama bir zürafa boyuna erişeceğini hesapladığımızı hatırlıyorum). Nüfus artışı yavaşladıktan sonra, insanlar enerji tüketim grafikleri çizmeye başladılar. Bunun daha yavaşlamaya fırsatı olmadan, dikkatimizi bilgisayar belleği ve hızına çevirdik.
En büyük ilgiyi her zaman, mevcut eğilimlerin en hararetli olanlarını temsil ettikleri için tepe yapmak üzere olan parametrelere gösteriyor olmamız oldukça doğal. Anın heyecanı içerisinde geri dönüp baktığımızda tüm dünya tarihi bu özel parametrenin patlamasına doğru giden bir hazırlık süreci gibi görünüyor. Ve daha dün başka bir şeyi aynı heyecan ile izlemiş olduğumuzu tamamen unutuyoruz.
Yakın zamanda mevcut etmenlere olan ilgilimizi yitireceğimizi ve yeni bir ölçütler kümesi aramaya başlayacağımızı düşünüyorum, örneğin, küresel tekno-birlikteliğin düşünsel gücü, mimari stabilitesi ve dinamik potansiyeline ait sayısal-olmayan birtakım göstergeler gibi.
Elbette insan nüfusu, enerji, uzay ve bilgisayar gücü şu aşamada ilerlemenin devamı için kullanışlıdır. Bununla birlikte, gelişim üzerindeki etkilerini basit bir denklemle ifade etmek güçtür. Belli sorunlar, bu kaynaklardan bazıları için eşik değerlerine sahiptir ve bu sağlandığında basitçe çözülmüş olurlar (örneğin, insana ait algı bandının tamamının sağlanma maliyeti ihmal edilebilir hale geldiğinde, insanlar arası iletişimin doygunluğa ulaşacağı kanısındayım); diğerleri şimdiye dek artan geri dönüşler sergilemektedir ve daha da başkaları ise halihazırda durmuştur (hava durumu tahminlerinin doğruluk seviyesi gibi). İlave fiziksel ve bilgisayımsal kaynakların kullanılabilirliği, şimdiye dek insanların önceki eksikliklerini telafi etmeleri ve fiziksel boyut ve karmaşıklık anlamında görece büyük olan mevcut kaynakları kullanılabilir hale getirmeleri olgusuna göre belirlenmiştir. Doğal insan yeteneklerinin yükseltilmesinin sağladığı ilk faydalardan yararlanılmaya başlandığında ve yapay sistemlerin boyutları biyolojik dünyanınkilere önce yaklaşıp sonra da bunları geçtiğinde, gelişim sürecinin doğası, biriken doğal değerlerin işletilmesinden, farklı dinamik örüntüler yaratabilecek ve farklı etmenlere dikkat edilmesini gerektirebilecek öz-mühendisliğe doğru kayacaktır.
Hammadde artışı, sınırsız bir ilerlemeyi garantilemez. Şu anda küçük bir böceğin zekâsını modelleyebilsek ve 40 yıl sonra milyon kat daha fazla bellek ve milyon kat büyük bir işlem gücüne kavuşsak, elde edeceğimiz tek şey, bir sürü çok hızlı böcek olacaktır. Niteliksel ilerlemenin devamı, ya yavaş insanlar tarafından tasarlanan ya da otomatik olarak evrimleşen daha iyi tasarım yöntemleri gerektirir. Genetik algoritmalar büyük umut vadediyor, ancak kullanılabilirliklerine ket vuran baz durumlar var: Örneğin evrimsel döngülerin birçok durumda yavaşlığı (örneğin uzay gemisi kontrol sistemlerinde kullanılabilmeleri için) veya yüksek güvenlik gereklilikleri (nükleer enerji santralleri, ulusal savunma veya kalp nakli kontrol yazılımlarında kullanılabilmeleri için), gibi… Gerçekten zeki bilgisayar sistemlerinin geliştirilmesi, gelecekteki en dramatik ilerlemelere giden yolda tökezleyeceğimiz bir engel olabilir, bu yüzden gerekli teknolojileri şimdiden geliştirmeye başlamamız gerekiyor.
Tek bir noktada dramatik değişimlerin meydana geleceğini düşünmüyorum, ancak birçok alanda, yükseltilmemiş insanların analitik ve katılım yeteneklerinin ötesinde ilerleyen, giderek hızlanan büyüme dönemleri olacaktır (elbette araştırma grupları sistemin bütününe ait giderek daha doğru modeller elde ederek, bunlar vasıtasıyla, sistemin davranışını önceki gruplardan daha iyi bir şekilde tahmin edebilir hale gelebilirler). Hatta uzay, zaman, madde ve karmaşıklık üzerindeki artan kontrol yetileri ile, büyümenin bazı doğal sınırlarına dahi ulaşabiliriz. Bu sınırlar, ilerlemenin tamamına bir engel teşkil etmeyebilir, ancak önceki sınırlamalar gibi bunlar da gelişim sürecine, şu an için tahmin etmekte güçlük çekebileceğimiz yeni yönelimler sağlayabilir.
Yine de, muhtemelen post-insan dünyasının bazı özelliklerini halihazırda hayal edebiliriz. İşlevsel sistemlerin, fiziksel alt-maddeye olan bağımlılıklarının azalması, sistemlerin mimari akıcılığının büyümeye devam etmesi, düşük işlem maliyetleri ve güvenli, semantik açıdan zengin iletişim mekanizmaları, büyük yarı-statik sistemlerin dağılması ve yapısal kimlik fikrinin ortadan kalkmasına neden olacaktır. Geliştirme alanı, “teleolojik zincirlere” ait olabilir – ulaşılmak istenen amaçlar dizisi uyarınca kendilerini yürütmek için işleve-özel küçük birimlerin geçici özel birleşimlerini kullanarak birbirlerini yaratan sistem zincirleri. [yani, kendi ihtiyaçları uyarınca, daha küçük birimleri geçici olarak kullanarak, gereken yazılım/donanımı kendi yaratan sistemler, gibi]
Bir geçiş noktası olsa da, hızlı bir süreç olsa da, Tekillik’i kavraması güçtür, ve bu nedenle de oldukça korkutucudur. Dramatik dönüşümlerin hızlı bir şekilde art arda gelmesi, kişinin kendisini özdeşleştirdiği şeylerin çoğunun yok olacağı veya geçersiz hale geleceğinin bir belirtisidir. Gelişme yoluyla olsa dahi, aşina olunan nesnelerin tanınamayacak hale gelene kadar değişmeleri, dışarıdan bakıldığında yıkım gibi görünür; bu, kendi deyimimle, “ilerideki ölüm”dür. Bu öznel bir sorundur ve öznel bir çözüm gerektirir. Aslında çözümü oldukça basittir: Çağdışı statik kimlik kavramını çöpe at, ve kendini bir süreç olarak düşün.
Elbette, insana ait Kavram Ufku’nun ötesiyle ilgili her türden çılgın senaryolar yazabiliriz (bu, Tekillik yerine tercih ettiğim bir terim, çünkü gözlemciye göre bir referans, birçok olası giriş noktası ve her zaman belirsiz kalan bir konum anlamına geliyor). Ancak, bugün sahip olduğumuz ve geliştirmekte olduğumuz teknolojilerin çoğu, geleceğin dünyasının inşasında etkili olacağı için, gerçekleşmesini istediğimiz bir geleceğe ait araçları yaratmak, bizim tarihsel ödevimizdir. Benim ideal aşkın dünyam, çok çeşitli, zorlayıcı olmayacak şekilde eşgüdümlü hedefler ve gelişim araçlarının ve gelişmiş dengeleme mekanizmaları ile koruyucu önlemlerin bulunduğu bir Akıl Toplumu serbest piyasası şeklidedir.
Eğer, tek tarafa yatmış ve kırılgan bir süper-Borg dünyası gibi olmayan bir dünyaya sahip olmak istiyorsak, karmaşık çok-ajanlı sistemler, oyun ve toplumsal sözleşme kuramı, düşünsel mimariler, alternatif sosyal oluşumlar, semantik açıdan zengin, güvenli iletişim mekanizmaları, kişiliğe ait post-kimlik kuramı oluşturulması ve bu hassas şekillendirici süreçte pozitif bir geleceğin geliştirilmesini etkileyebilecek bilim, teknoloji ve kişisel psikoloji konusunda araştırma ve deneysel çalışmaları teşvik etmemiz gerekiyor. Aynı zamanda bu yaklaşımları kitlelere sevdirmemiz, insanlara bu senaryoların hem yapılabilir, hem de arzulanır olduğunu göstermemiz de gerekiyor.
Benim Hiperekonomi projem, bu tür girişimlerden biridir. Bu, zorlamacı-olmayan bir temelde eşgüdüm işlevini ve bilgi mülkiyetiyle ilgili karar verme işlevlerini yerine getiren meta-ajanlar ile birlikte çalışan bağımsız ajanların farklı nesnelere ve karma değer/bilgi türevlerine ait skaler-olmayan toplam göstergelerini ve değer temsillerini değiş tokuş ettikleri bir tümleşik düşünsel/ekonomik sistem modeli. Daha fazla kişinin bu tür projelerde çalıştığını görmek beni çok mutlu ederdi.
-oo-
Robin Hanson‘ın yorumu:
Biraz şüphecilik
“… ultra zeki bir makina her zaman daha iyi ve daha iyi makinalar tasarlayabileceği için; kuşkusuz bir zeka patlaması meydana gelecektir … bunun gerçekleşme ihtimali gerçekleşmeme ihtimalinden fazladır … 20. yüzyıl içerisinde … “
-I. J. Good, 1965
Vernor Vinge’in 1993 yılında, I. J. Good’un akıl yürütmesi üzerine detaylı çalışması birçoklarının hayal gücünü harekete geçirmiştir. Vinge, muhtemelen 2030 civarında ve “şimdiye kadar görülen herhangi bir teknik devrimden daha hızlı bir şekilde,” belki, “bir-iki ay içerisinde,” “tüm eşyalarımızın hepsinin birden aniden uyanması gibi görünebilir” “Normal ilerleme”nin gerçekleştiği bir geleceği anlayabilecek olmamıza rağmen, hatta böyle bir gelecekte “insan-eşdeğeri zihinlerin işlemci saat hızını artılabilecek” olmamıza rağmen, “tekillik,” bunun aksine, ötesindeki “olayların bilinemez olacağı”, “gelecek ile aramızda bulunan mat bir duvar”dır.
Peki neden? Çünkü post-insanlar için insanlar, bizim için “süs balıkları” neyse odur, dünyamız hakkında “hiçbir zaman hiçbir fikirleri bulunmaz.” Kişi, post-insanların “yüksek bant genişliğine sahip olan ağları … [ve] değişken bant genişliklerinde iletişim kurma yetileri” hakkında düşündükçe, “post-insan çağının ne kadar temelden farklı ve tuhaf olacağını duyumsamaya başlar.” “Egonun parçaları kopyalanabilir ve birleştirilebilir olduğunda, öz-farkındalığın ölçeği, ele alınan problemin doğasına göre büyüyebilir veya küçülebilir olduğunda, ne olacaktır?” “Birbirine düşük bant genişlikleri ile bağlı, izole edilmiş ve değiştirilemez zihinler” olmadan iyinin ve kötünün bir anlamı kalmaz. Evren bize ölü gibi görünür, zira post-tekillik uzaylıları “o kadar tuhaftır ki, onlarla etkileşime geçmenin bir yolu yoktur.”
Vinge, “yaklaşık bir yüzyıl” sürecek, “yumuşak bir kalkış” yerine, hızla ivmelenen bir ilerleme düşünür. Çünkü daha yüksek zekâya sahip varlıklar, “simülasyonları çok daha yüksek hızlarda … gerçekleştirebilecekleri” için, bu varlıklar ne kadar zekiyse, ilerlemelerinin zaman-ölçekleri de o kadar kısa olacaktır. Diğer taraftan, eğer bir süper-zekâ ortaya çıkmazsa, “programlar belli bir karmaşıklık seviyesinin ötesine geçmeyeceği” için “ilerlemenin sonu” ile karşılaşabiliriz.
Birçokları Vinge’nin vizyonunu ikna edici bulmaktadır. Fakat bu fikirler dikkatli bir incelemeye dayanabilir mi? Ben iki temel iddia görüyorum (benim ifademle):
- Daha zeki varlıklar, daha da zeki varlıkları daha hızlı üretirler
- Post-insanlar bizim için, bizim süs balıkları için olduğumuz kadar akıl almazdır.
Öncelikle hangi noktalarda hemfikir olduğumu söyleyeyim. Bir sonraki yüzyılda, yüklenmiş, hızlandırılmış ve yüksek bant genişlikleri ile öz-modifikasyona ait geniş olanakları keşfetmeye başlayacak insanlar da dahil olmak üzere muhtemelen çok daha çeşitli zihin türleri ile karşılaşmaya başlayacağımızı kabul ediyorum. Ayrıca bu yeni olasılıkların geleceğe yönelik öngörülerimizi engelleyen sisi daha da yoğunlaştıracağını da kabul ediyorum. Basit yükleme modifikasyonları ile günümüzdeki “insan” tipi sermayenin üreme hızına ait biyolojik sınırların ortadan kalmasıyla kolay hale gelecek ekonomik sıçramayı da görebiliyorum.
Şimdi, “zeki varlıkların daha da zeki varlıkları daha hızlı üreteceği” fikrinden başlayarak daha eleştirel bir tavır takınmama izin verin. Bazıları bunu akıllarında kendisini %1 daha akıllı olacak şekilde yeniden tasarlama işi üzerinde çalışan tek bir mühendis canlandıracak şekilde yorumlar. Zekâyı, diğer kaynaklar aynı olmak üzere, birçok zihinsel görevi yerine getirmek için gereken süreyi düşüren ve bir üretkenlik çarpanı olarak düşünürler ve bu “kendimi %1 daha zeki hale getirme” görevinin zorluğunun, mühendisin zekâsı arttıkça eşit zorlukta kaldığını varsayarlar. Bu varsayımlar mühendisin zekâsının sonlu bir süre içerisinde sonsuza doğru yükselmesine izin verir.
Bununla beraber, eğer ilk çalışmalar en basit geliştirmeler üzerine odaklanırsa, basit kazanımlar tükendikçe, daha üretken hale gelme görevi zorlaşabilir. Öğrenciler daha çok şey öğrendikçe ve nasıl öğrenileceğini öğrendikçe daha zeki hale gelirler. Ancak biz, en değerli kavramları en başta öğretiriz ve öğretimin üretkenlik değeri, sonsuza doğru artmak yerine, zamanla düşer. Benzer şekilde, fabrika işçilerinin üretkenlik artışı tipik şekilde bir üstel yasaya uygun olarak, zamanla yavaşlar.
Dünya genelinde, daha iyi düşünme ve daha iyi öğretme yöntemleri öğrenildikçe ortalama IQ puanları geçen yüzyıla göre dramatik ölçüde artmıştır (Flynn etkisi). Yine de, IQ’lar, hızlanmak yerine, sabit bir şekilde iyileşmiştir. Benzer şekilde, bilgisayar ve iletişimden aldıkları yardımlar, onyıllar boyunca, mühendisleri çok daha “zeki” yapmış, ancak Moore Yasası‘nda bir hızlanma gerçekleşmemiştir. Mühendisler zekileştikçe, tasarım görevleri zorlaşmıştır.
Vinge’in iddiasını ivmelenen bir ekonomik büyüme şeklinde yorumlayabilir miyiz? Ekonomik büyüme konusundaki devasa ekonomik literatür ekonomik büyüme oranları ile ne zekâ seviyesi ne de işlemci saat hızları arasında herhangi bir doğrudan ilişki hakkında bir şey söylemiyor. Daha zeki olunması veya daha hızlı bir işlemci saatine sahip olunması nedeniyle çeşitli hesaplamaları tamamlama süresindeki tek seferlik bir azalma, belli üretim türlerinin maliyetindeki tek seferlik bir düşüştür ve bu da dünya ürününün üretimindeki tek seferlik bir artışa neden olur. Fakat bu tür bir tek seferlik büyüme, pek de sonrasındaki daha hızlı bir büyüme oranı anlamına gelmez.
Şimdi, büyüme oranlarının, dünya ekonomisinin boyutlarındaki artış ile beraber arttığını düşünmek için nedenler vardır, ve tek seferlik bir zekâ iyileşmesinin dünya ekonomisini artırdığını düşünebiliriz. Bununla birlikte, bu süreç, binyıllardır devam ediyor olmayacaktır ve bu nedenle de ivmelenen tarihsel “normal ilerleme”nin işaret ettiğinin ötesinde daha hızlı bir büyüme anlamına gelmez. (bakınız, bana ait Journal of Transhumanism dergisinde yayımlanan, “Is a Singularity Just Around the Corner?” [Bir Tekillik’in Eli Kulağında mı?])
Bu da beni Vinge’in diğer ana iddiasına getiriyor: “Post-insanlar, bizim süs balıkları için olduğumuz kadar akıl almaz olacaklardır.” Göreli kavrama yetisi canlılar arasında, gerçekten her canlının kendisinden önemli derecede daha zeki olan canlıları hiçbir şekilde anlayamadığı doğrusal bir “zekâ” sıralamasını takip etmekte midir? Bu, bana, zihin bilimlerimizle incelenen zengin, çok-boyutlu zekâ anlayışımızı göz ardı etmekmiş gibi geliyor.
Tartışmaya açık olmakla birlikte, evrimdeki en yakın tarihli en önemli adımın, insansıların, belki de geniş kabilelerin “o, onun, benim şunu yaptığımı düşündüğünü söyledi” [İng. “he says she thinks I did…”] tipi sosyal karmaşıklıklar ile genel dil kabiliyetini kazanmış olmasıdır. Dil, mantık ve bilgisayım konularındaki en iyi kuramlarımızın tamamı, geniş bir aralıkta savlar ifade etme yetisi olan ve sonuç olarak devasa bir sonuçlar aralığı hesaplayabilen görece genel sistemler ile son derece kısıtlı sistemler arasında keskin bir ayrım yapmaktadır.
Hayvanlar etkileyici spesifik yeteneklere sahip olmalarına rağmen deneyimlerini soyutlama ve aktarma konusunda son derece sınırlılar. Buna karşılık bilgisayar zekâlarına son zamanlarda genel yetiler sağlanmış olmasına rağmen pek az kullanışlı yetenekleri bulunuyor. İnsan patlamasının halen devam etmesini sağlayan şey genel dil ile araçlardaki geliştirmelerin hızlı yayınımı, tarım ve sosyal örgütlenme vasıtasıyla sahip olduğumuz birçok güçlü yetenektir.
Vinge’e dönersek, bir zihnin başka bir zihnin genel doğasını anlama yetisi esas olarak ilk zihnin soyut bir anlayışı olup olmadığına ve zihinler hakkındaki genel bilgi birikiminin derinliği ve zenginliğine bağlı olacaktır. Süs balıkları bizi temelde herhangi bir soyut kavrayışları bulunmadığı için anlayamıyor. Buna karşılık, yeterli detayda açıklama zahmetine girerseniz, bazı gerçekten düşük bilgisayar zekâları, aşağı yukarı herhangi bir şeyi anlayabilmektedir. Hatta CYC gibi çok daha az detaylı açıklamalar gerektiren, daha zeki sistemlerimiz dahi bulunuyor.
Ben, pek çoğu bizden birçok farklı boyutta çok daha yüksek yetilere sahip oldukça çeşitli bir olası zekâlar toplamını anlayabilmemiz için yeterli seviyede genel bir bilişselliğe ve olgun bilimlere sahip olduğumuz kanısındayım. Elbette en iddialı yeni zihinleri anlamanın henüz geliştirilmemiş zihin kavramları gerektirme olasılığı vardır. Ancak bu tür kavramların bize açıklanamayacak olmaları için, ya da bu tür kavramları geliştirme yetimizin olmadığını düşünmek bir neden göremiyorum. Yalnızca birkaç yıllık ciddi araştırmadan sonra bile, kuantum bilgisayarları hakkında ne kadar fazla şey öğrenmiş olduğumuzu düşünün.
İnsan bireylerinin baş edebilecekleri karmaşıklığın bir sınırı olabilir, ancak bir bütün olarak insanlığın yoktur. Şu an dahi insan grupları, hiçbir tek insanın anlayamadığı şeyleri anlayabiliyor ve hiçbir tek kişinin yönetemeyeceği kadar karmaşık sistemleri yönetebiliyor. Bireysel karmaşıklık sınırlarının, bir süper-zekâ olmadığı durumda ilerlemenin yavaşlamasına veya durma noktasına gelmesine neden olması için bir dayanak olmadığı fikrindeyim. Aslına bakılırsa, toplumumuzdaki bireylerin gelecekteki karşılıkları insanlardan çok daha basit olabilir ve bu nedenle gelecekteki insanlar, gömülü oldukları sistemleri kişisel olarak kavrama konusunda tipik “bireyler”den daha fazla yetiye sahip olabilirler.
Kendisinden sonraki şeylerin tamamını görmeyi engelleyen keskin bir ufuk görmüyorum. Daha ziyade, yalnızca bizim vizyonumuz her zaman olduğu gibi bir olasılıklar sisi içerisinde kayboluyor. Vinge’in aklına gelecekteki varlıkların standart bilim kurgudan ne kadar uzaklaşabileceklerini getiren şey, zihinle ilgili mevcut kavramlarımızın ne şekilde uygulanacağıydı ve bu onun gelecekteki zihinler hakkında, A Fire Upon The Deep‘teki Tines gibi, özenli spekülasyonlar yaratmasını sağladı. Ve bu tür çabalar bize gelecekteki zihinlerle ilgili yeni içgörüler sağlamaya devam ediyor.
Gelecekle ilgili spekülasyonlarında, gelecekteki zihinleri hesaba katmayı unutmuş olduğunu fark etmiş olmanın Vinge için şok edici olmuş olması anlaşılır bir şeydir. Ancak yine de Vinge’e bu keşfinin ötesinde kalanların “tamamen bilinemez olduğu,” “opak bir duvar” şeklinde dramatize etmiş olmasını yalanlaması için yalvarıyorum. Vinge’in de buna gerçekten inanmadığı ortada, zira tutarsız bir şekilde “sonrasındaki şeylerin nasıl olacağını düşünmek”ten hoşlandığını kendisi de itiraf ediyor.
Fakat kendisine ait şu “bilinemez” sıfatı, birçok zeki gelecek-yönelimli kişinin belli bir noktadan sonrasını düşünmesini önleyen bir düşünsel engel haline gelmiş durumda. Anders Sandberg’in dediği gibi, Hıristiyanların, ‘takdiri ilahi’ diyerek yaptıkları şekilde, daha ileri inceleme olanağını” sona erdiriyor. Hatta, Vinge’in hayranlarının birçoğu, diğerlerini devamlı bu tür bir analizi ileri sürdükleri için azarlıyor. Vinge, lütfen sen de onları azarlar mısın?
-oo-
Peter C. McCluskey’nin Yorumu
Paul Saffo‘nun, insanların teknolojik değişimlerin zamanlamalarına yönelik tutumları konusunda ilginç bir açıklaması mevcut. Bir teknolojinin yaygınlığı tipik olarak S şeklinde bir eğri izlemesine rağmen, sıradan biri çok daha doğrusal bir kabul oranı bekler. Bu nedenle insanlar, teknoloji ilk kez sunulduğunda neden yavaş ilerlediğini merak ederken, yarılanma anına yaklaşıldığında ise üstel büyüme nedeniyle şaşırma eğilimindeler.
Tekillik fikri, insanları bu doğrusal bakış açısından uzaklaştırarak, daha S şekilli bir gelecek beklentisine girmelerine yardımcı oluyor. Ne yazık ki, sözcüğün matematiksel çağrışımları, insanları kıyametvari yaklaşımlara yönlendirerek, S şekilli beklentilerini, gerçekçi düşünceden uzaklaştıran kare-dalga şeklindeki beklentilere itiyor. Umarım bu kavramı saçma yorumlara daha az açık bir hale gelecek şekilde yeniden isimlendirmek için geç kalmamışızdır. “Aşkınlık” veya “Aşma”ya ne dersiniz?
-oo-
Max More‘un Yorumu
Tekillik’in Ekonomi ile Karşılaşması
Vernor Vinge, olası gelecekle ilgili dramatik bir resim çizmektedir:
“Peki ya Tekilliğin kendisinin ortaya çıkışı? Gerçek görünüşü hakkında ne söylenebilir? Entelektüel bir kontrolden çıkışı içerdiği için, muhtemelen şimdiye kadarki teknik devrimlerden çok daha hızlı gerçekleşecektir … Eğer ağ yeterince geniş ise (yaygın şekilde kullanılan sistemlere gömülü ise), tüm eşyalarımızın hepsinin birden aniden uyanması gibi görünebilir. Peki ya bundan bir veya iki ay (veya bir veya iki gün) sonra ne olacaktır? Yalnızca bazı benzetmeler yapabilirim: İnsanlığın ortaya çıkışı… Bizler, Post-İnsan dönemine girmiş olacağız.
“İnsan açısından bu değişim, önceki kuralların tamamının, belki de göz kırpacak kadar kısa sürede ortadan kalktığı, tüm kontrol edilebilme olanaklarının ötesinde, üstel bir kontrolden çıkıştır. Daha önceden, ancak “bir milyon yıl sonra” (o da belki) gerçekleşebilir diye düşünülen gelişmelerin gelecek yüzyılda gerçekleşmeleri olası görünüyor. “
Tekillik fikri güçlü bir entelektüel ve yaratıcı bir çekiciliğe sahiptir. Teknolojik orgazmın zirve noktasıdır –geleceğe doğru karşı konmaz bir roket yolculuğudur. Tekillik, teknolojik heyecanın zirvesini, Hıristiyan kıyamet düşüncesinin ve yeni binyılcılığın özünü tek potada eritir. Tekillik, eleştirel bir incelemeyi tam olarak da bu güçlü çekiciliği nedeniyle hak eder. Tartışmaya yaptığım bu kısa katkıda, Tekillik senaryosuna içkin iki varsayımı sorgulamak istiyorum.
Varsayım #1: Eğer YZ’de insan seviyesi zekâyı elde edebilirsek, bunun ardından süper-zekâ kısa süre içerisinde, neredeyse kendiliğinden gelecektir.
Varsayım #2: İnsan zekâsından yüksek bir zekâ var olduğunda, her şey birkaç saat veya gün, ya da en fazla haftalar içerisinde değişecek, eski kuralların tamamı geçerliliğini yitirecektir.
Süper insan zekâsına sahip bir bilgisayarın uyanışı, Vinge tarafından ele alınan olası Tekillik tetikleyicilerinden yalnızca bir tanesidir. Diğer olasılıklar arasında, süper-insan zekâsının bilgisayar ağlarında ortaya çıkışı, etkin insan-bilgisayar arayüzleri ve biyoteknolojik olarak geliştirilmiş insan zekâsı bulunur. I. J. Good gibi Vinge de, süper-zekâya giden tüm bu yolların, dünyayı tamamen dönüştürecek ani bir zekâ patlamasına neden olacağı kanısında.
Ben, bu varsayımların her ikisinden de şüpheliyim. İlginç bir şekilde, insan seviyesindeki YZ’den süper-insan zekâsına anında gerçekleşecek bir sıçrama şeklindeki ilk varsayım, Vinge’in fikirlerini açıkladığı birçok kişi için bir sorun teşkil ediyor gibi görünmüyor. Bunun yerine, insanların çoğu, insan seviyesindeki bir YZ’nin geliştirilebileceğinden şüpheli. Benim buna yanıtım, tam tersidir: İnsan seviyesinde YZ’nin (veya bilgisayar ağı zekâsının) bir noktada elde edilebileceğine dair şüphem yok. Fakat buradan sonra derhal muazzam süper-zeki düşünürlere ulaşılacağı bana şüpheli görünüyor. YZ tam olarak insan kapasitesine erişirse, temel olarak bilgi işleme hızı artırılarak “zayıf süper-insanlık” muhtemelen kolayca elde edilecektir. Ancak, Vinge’in kendisinin de belirttiği gibi, çok hızlı düşünen bir köpek yine de satranç oynayamaz, diferansiyel denklem çözemez, film yönetemez veya Vinge’in harikulade kitaplarından birini okuyamaz.
Bir süper-insan zekâsı yine de daha yavaş zihinlerin işbirliğine ihtiyaç duyacaktır. Yine de deneyler gerçekleştirmesi ve sonuçlarını beklemesi gerekecektir. Yine de sınırlı bir imgelemi ve uzun akıl yürütme zincirlerini başa çıkmak için kısıtlı bir yetisi olacaktır. Eğer bu süper-hızlı insan zekâlarından yalnızca birkaç tane olsaydı, dünyada pek bir değişim görmezdik. Eğer bunlardan milyonlarca olsa ve bilimsel projeler, teknolojik gelişim ve örgütsel yapılar konusunda ortaklaşa çalışsalardı, gelişimler karşımıza etkileyici bir hızda çıkabilirdi, ancak radikal bir süreksizlikle değil. İkinci varsayıma geldiğimizde, bu hızlı düşünüşlerinin etkisini yavaşlatacak bazı ilave etkenlerden bahsedeceğim.
İnsan seviyesindeki süper-hızlı düşünürler öncelikli olarak zekâyı yükseltme konusu üzerinde çalışmayı tercih etseler dahi (ki başka ilgi alanlarını da eşit derecede ilgi çekici bulabilirler), anında ve önemli bir ilerleme elde etmeleri için bir neden göremiyorum. Yani, “güçlü süper-insanlık”ın kendiliğinden veya kolayca ortaya çıkacağından şüpheliyim. İnsan seviyesindeki bir YZ neden böyle inanılmaz bir gelişim sergilemek zorundadır? Ne de olsa, insan seviyesindeki zekâya, insanlarda halihazırda sahibiz. YZ’nin daha başarılı olması için bir neden göremiyorum. Tekil bir YZ, bir insandan çok daha hızlı düşünebilir, ancak düşünme ve araştırma görevlerini bir insan topluluğu arasında bölüştürerek, aynısını insanlar da yapabilir. Zekâ konusunda temelden daha iyi fikirler olmadığı sürece, hızlı düşünmek önemli bir fark yaratmayacaktır.
İvmelenmekte olan teknolojik gelişimi sorgulamıyorum. Süper-zekâ bir kez elde edildiğinde, bir süper-süper-zekâya ulaşmak daha kolay olacaktır; tıpkı bizi bir süper-zekâ yaratmamızın, herhangi bir insan-harici hayvanın bir süper-hayvan (yani insan) yaratmasından daha kolay olacağı gibi. Benin sorgulamakta olduğum şey yalnızca süper-zekâya olan sıçramanın kolayca ve aniden gerçekleşeceği varsayımı. Zekâ konusundaki muazzam gelişmeler, haftalar veya saatlerden ziyade yıllar, onyıllar hatta yüzyıllar sürebilir. Tarihsel standartlara göre bu süre gerçekten kısadır ancak süreksiz bir tekillik teşkil etmez.
İkinci varsayımı daha da şüpheli buluyorum. İnsan zekâsının çok ötesine geçen bir sıçrama önümüzdeki birkaç onyıl içerisinde aniden ortaya çıksa dahi, dünya üzerindeki etkilerinin, Vinge’in ileri sürdüğünden çok daha kademeli bir şekilde gerçekleşeceğini düşünüyorum. Değişim, günümüzdeki bir onyıl içerisinde gördüğümüz ekonomik, sosyal ve teknik değişimlerin, endüstri öncesi dönemdeki herhangi bir onyıl içerisinde görülenden çok daha fazla olması gibi, şüphesiz etkileyici bir şekilde ivmelenecektir. Ancak bir süper-zekânın tüm kuralları ortadan kaldırıp dünyayı bir gecede değiştireceği fikri, bir bilgisayar bilimcisine, bir ekonomiste göre daha kolay görünüyor. Tüm bu matematiksel bir Tekillik düşünceleri, insanların, kurumların ve ekonomilerin fiziksel dünyasının işleyişine uygun değil. Benim kendi beklentim, süper-zekâların daha geniş bir ekonomik ve sosyal sisteme entegre olacağı yönünde. Süper-zekâ süreksiz bir şekilde ortaya çıksa dahi, dünya üzerindeki etkileri sürekli olacaktır. İlerleme, alışık olduğumuzdan çok daha fazla ivmelenecek olsa dahi, eğri, bir Tekillik oluşturmak için gereken dikey eğime yaklaşmayacaktır bile.
Her ne kadar kendim (o zaman hâlâ hayatta olursam) bir süper-zekâya dönüşmeyi iple çekiyor olsam da, dünyayı tek başıma değiştirebileceğimi düşünmüyorum. Bir süper-zekânın, dünyayı değiştirecek herhangi bir amaca ulaşabilmek için, insanlar, şirketler ve diğer makinalar da dahil olmak üzere birçok farklı ajan ile birlikte çalışması gerekecektir. Tamamen akıl yürütmeye dayalı ilerlemeler konusundaki kısıtlamalar daha düşük olabilecek olmasına rağmen, dünyanın geri kalanına ait hız ve viskozite, fiziksel ve örgütsel değişimleri sınırlayacaktır. Tam gelişmiş nanoteknoloji ve robotik, süper-zekâdan önce ortaya çıkmadığı sürece, fiziksel değişimler zaman alacaktır.
Bir süper-zekânın dünyayı aşırı ölçüde değiştirebilmesi için, bol miktarda paraya ve diğerlerinin işbirliğine ihtiyacı olacaktır. Süper-zekâ, dünya ekonomisine entegre oldukça, başka süreçleri de beraberinde sürükleyecek ve böylece tüm ekonomiyi kısmen hızlandırmış olacaktır. Ayrıca, SZ, çoğu zaman, daha yavaş fakat baskın olan bilgisayar-ağlı örgütlerin hızında çalışmak zorunda kalacaktır.
İşbirliği, örgütlenme ve fikirleri fiziksel değişimler haline getirme ihtiyacı, eski kuralların hepsinin birden bir gecede, hatta yıllar içerisinde dahi bir tarafa atılmalarını engelleyecektir. Süper-zekâyı elde etmek zor olabilir. Bir tek tarih yazan patlamadan ziyade, küçük adımlar halinde ortaya çıkabilir. Muazzam ölçüde ileri bir SZ dahi, teknolojiyle giderek daha entegre hale gelen milyarlarca yükseltilmiş insan ve günümüzün şirket kaynak yönetimi planlama ve talep zinciri yönetim yazılımlarının gelecekteki versiyonlarıyla birbirlerine içsel olarak bağlanmış ve dışsal olarak da dış ağlara, Net’e açılan zeki arayüzlere ve zeki ajanlara bağlı insan zihinlerini yöneten şirketlerle kıyaslandığında, dünya üzerinde dramatik değişikliklere neden olamayacaktır.
İnsan zekâsından yüksek zekânın ortaya çıkışının değişimlerin ne kadar hızlı olacağı üzerindeki etkisi iki şeye güçlü şekilde bağlıdır: İş başındaki süper-zekâların sayısı ve performans üstünlüklerinin kapsamı. Yalnız bir süper-zekâ, hatta birkaç tanesi bir arada, toplam ekonomik ve teknolojik gelişimi o kadar da fazla ivmelendirmeyecektir. Eğer süper-zekâ, insan ve makinaların daha iyi bir entegrasyonundan kaynaklanıyorsa (ki bu benim en olası bulduğum senaryodur), bu durumda hızla yayılabilir ve daha hızlı değişebilir. Fakat “daha hızlı,” bir Tekillik anlamına gelmez. Dünya çapındaki değişiklikler, ekonomik güçlerin ve kurumların inatçılığı tarafından yavaşlatılacaktır. Bunun bir örneğiyle halihazırda karşılaştık: Bilgisayarlar, onlarca yıldır iş dünyasında yaygın bir şekilde kullanılmaya devam ediyor, ancak, kurumsal süreçlerin, yeni yeteneklerin mevcut yapılara entegre edilmesi amacıyla yeniden yapılandırılmalarının neden olduğu belirgin üretkenlik iyileşmelerini ancak son birkaç yıldır görmeye başladık.
Sonuç olarak, Tekillik fikrini çekici ve harika bir kurgu aracı olarak görmekle beraber, olası geleceğimizi tarif ettiği konusunda şüpheliyim. Ben bir Tekillik değil, bir Atılım bekliyorum. Ancak eğer yanılıyorsam, emniyet kemerimi takıp, zekâ haplarımı yutup, bütün bilgisayarlara büyük bir saygıyla yaklaşacağım. Ben onların dostuyum!
-oo-
Michael Nielsen‘in Yorumu
Tekillik nedir? Kevin Kelly’nin Vinge ile yaptığı “Wired” röportajından parçalar bunu kısa öz bir biçimde toparlamaktadır.
“… eğer insanlar kadar zeki makinalar yapmayı başarabilirsek, bunun ardından kısa bir süre içerisinde herhangi bir insandan daha zeki makinalar yapılacağını –veya yapılmalarının sağlanacağını– hayal edebilmek zor değildir. Ve hepsi bu kadar. Bu insanlık çağının sonudur… Bunun bir ‘tekillik’ olarak adlandırılmasının nedeni, bu noktadan sonraki olayların tamamen bilinemez olmalarıdır.”
Buradaki tartışma kapsamında, insanlardan daha zeki makinaların, önümüzdeki birkaç onyıl içerisinde üretileceğini farz edeceğim.
Vinge’in ifadesi, bir “Baskın Yapay Zekâ”nın (YZ) ortaya çıkacağını varsaymaktadır. Baskın YZ’yi, insanların kendi egemenliklerini önemli gördükleri tüm alanlarda kontrolü ele geçirecek bir YZ olarak tanımlıyorum. Süper-zeki YZ’lerin baskın hale gelecekleri genelde veri olarak alınır. Ben bunun kesin olmaktan uzak olduğunu düşünüyorum; Feynman başkanlığa adaylığını koymamıştır, ve genel olarak, çok zeki varlıklar baskınlıklarını diğer insanların hayatlarının tüm alanlarına genişletme eğiliminde veya yetisinde olmayabilirler.
Bu konuyla ilgili daha aşırı olmasına rağmen daha iyi bir örnek, Homo Sapiens’in, bakterilerle olan ilişkisidir. Yeryüzü’ndeki “baskın tür” olmayla ilgili –baskınlığın nasıl tanımlandığına bağlı olarak– hem insanların hem de bakterilerin geçerli iddiaları bulunmaktadır. Süper-zeki makinaların insanlar tarafından halihazırda ciddi bir şekilde işgal edilmiyor olan bazı nişlerde baskın olmayı tercih etmeleri mümkündür. Eğer böyle olursa, bu tür bir YZ, insan bakış açısından, baskın bir YZ olmayacaktır. Bunun yerine karşımıza bir “Sınırlı YZ” senaryosu çıkmış olur.
Sınırlı YZ nasıl ortaya çıkabilir? Benim aklıma birkaç senaryo geliyor ve eminim diğerleri başkalarını da düşünebilir. Belki de belirtilmesi gereken en önemli nokta, süper-zeki makinaların, kaynaklar için insanlarla aynı nişte rekabet etmiyor olabileceği ve bu nedenle de bize baskın çıkması için teşvik edici bir nedenleri olmayabileceğidir.
Bu türden bir Sınırlı YZ senaryosunda, insan hayatının bazı yönleri, aşağı yukarı önceden olduğu gibi, insanların bir numara oldukları şekilde devam edecektir. Gerçekten de, yaşamın bu alanlarında, insanlık, önceden olduğu kadar öngörülebilir –veya değişken– halde kalabilir. Bu senaryoda YZ’nin bazı yönlerinden faydalanabiliriz, tıpkı Penisilyum mantarından faydalandığımız gibi, veya bakış açınıza göre, Penisilyumun bizden faydalandığı gibi.
Bu tartışma kapsamında Baskın YZ’nin önümüzdeki birkaç onyıl içerisinde ortaya çıkacağını varsayalım. Baskın YZ’nin gelişinden sonraki gelecek bilinemez midir?
“Bilinemez” ne anlama gelmektedir? Bana, Vinge bilinemez terimini “öngörülemez” anlamında kullanıyor gibi geliyor, bu nedenle yukarıdaki soru yerine, “Baskın YZ’nin gelişinden sonraki gelecek zorunlu olarak öngörülemez midir?” sorusunu soralım.
Gelecekteki bir olayın öngörülemez olduğunu söylemek ne anlama gelir? Güneş’in her sabah doğuşu gibi, neredeyse-kesin olan bazı olaylar vardır; öngörme, çoğu zaman daha az kesin olaylarla ilgilidir.
Daha çok, farklı olası geleceklere eşit olasılıklar atamadığımız anlamına gelir. Clinton-Dole Amerikan başkanlık seçimi, olayın gerçekleşmesinden önce kimin kazanacağının kesin olarak bilinmesi anlamında, tamamen öngörülebilir değildi. Fakat aynı zamanda, tamamen öngörülemez de değildi; seçimler gerçekleşmeden önce var olan bilgilerle, Clinton’un kazanması sonucuna yüksek bir olasılık atamak mümkündü.
Bana bir post-Baskın YZ dünyası hakkında hiçbir işe yarar öngörüde bulunamayacağımız fikri saçma görünüyor. Evet, birçok şey fazlaca değişecektir. Öngörülerimiz, önceden olduklarından çok daha az güvenilir bir hale gelebilir. Bununla birlikte, bu tür bir gelecek hakkında yine de bazı akla yatkın öngörülerde bulunabileceğimizi düşünüyorum. En azından, bazı olasılıkları elemeye çalışabiliriz. Bunu yapmanın bir yolu, fizik yasaları üzerine kurulu dışlamaları incelemektir.
Post-Baskın YZ geleceğinin “öngörülemezliği” hakkında sıkça ileri sürülen bir iddia, Fizik Yasalarının izin verdiği her şeyin bu noktadan sonra mümkün hale geleceğidir. Bu bazen kendimizi umutsuzluğa bırakmak, gelecekle ilgili olasılıkları düşünmeye devam etmemek için kullanılır. Bu iddianın doğru çıkması durumunda dahi, yapılması gereken pek çok şey vardır. Gerçek şu ki, ne, nelerin mümkün olduğunun _sınırları_ konusunda, ne de bu sınırlara ulaşabilmek için hangi yapıcı yöntemlerin mevcut olduğu konusunda güçlü bir anlayışımız bulunuyor.
Bir YZ’nin, ve hatta bir Baskın YZ’nin dahi yüzleşmesi gereken sınırlamalar hakkında birçok bilgi edindiğimiz bir örnek vereyim. 1905 yılında Einstein, Özel Görelilik Kuramı‘nı ortaya attı. Bu özel kuramın pek-de-aşikâr-olmayan sonuçlarından biri, eğer ışıktan hızlı sinyaller gönderebilirsek, zamanda geriye doğru iletişim kurabileceğimizdi. Hem bunun mümkün olabileceğini düşündürecek görgül kanıtların, hem de ışıktan hızlı iletişim reddedilmesi için gereken görgül ve kuramsal başka diğer nedenlerin yokluğunda, ışıktan hızlı iletişim, büyük ihtimalle imkânsız gibi görünmektedir. Baskın YZ’nin karşı karşıya geleceği sınırların neler olduğu ile ilgili anlayışımız konusundaki benzer iyileştirmeler arasında Heisenberg belirsizlik ilkesi ve topolojik uzayların algoritmik sınıflandırılmasının imkânsız olması bulunmaktadır.
İlgili bir konuyu resmeden daha yakın tarihli bir örnek vereyim. 1982 yılında iki araştırmacı grubu temel kuantum mekaniğinin derin ve beklenmedik bir sonucu olduğunu fark etti: Kuantum mekaniği yasaları, bilinmeyen kuantum durumlarının kopyalarını çıkarabilecek bir “kuantum klonlama” cihazının yapılabilmesini yasaklıyordu. Bu sonucu kanıtlamak için yeni bir fizik ileri sürmediler; 1920’lerden beri bilinen temel kuantum mekaniği olgularından faydalandılar. Buradan, dünyanın işleyişini tarif eden eksiksiz bir kurama sahip olmak üzere olduğumuzu düşünsek dahi, bu kuramın sonuçlarını ve fiziksel varlıklar tarafından gerçekleştirilebilecek eylemlere getirdiği sınırlamaları ortaya çıkarmak için halen kat etmemiz gereken çok yol olduğu ortaya çıkıyor.
Bana öyle geliyor ki, bu ve diğer pek çok örneğin gösterdiği şey, gelecekteki bu teknolojilerin ne olduklarını ayrıntılı olarak söyleyebiliyor olmak zorunluluğu olmadan, bu teknolojilerin sınırlamaları ile ilgili pek çok içgörü sahibi olmamızın mümkün olduğudur.
Daha yüksek bir soyutlama seviyesinde, bilgisayımsal problemlerin hangi sınıflarının verimli bir şekilde çözülebileceği ile ilgili çok kısıtlı bir anlayışa sahibiz. Örneğin, önemli bilgisayımsal karmaşıklık problemlerinden neredeyse hiçbiri (P != NP != PSPACE, gibi) henüz çözülmemiştir. Bu problemlerin bazılarının çözümü, bize ne tür problemlerin bir Baskın YZ tarafından çözülüp çözülemeyeceği konusunda içgörü sağlayacaktır.
Gerçekten de, bilgisayar bilimleri bir Baskın YZ’nin ne tür kısıtlamalarla karşılaşacağı konusunda bazı içgörüler _sağlamıştır_. Bilgisayar bilimlerinde “Öz Devre Değeri” [İng. Succinct Circuit Value] olarak isimlendirilen bir problem bulunur. Bu problemin klasik bir bilgisayarda, hatta kuantum bilgisayarında bile verimli bir şekilde çözülemeyeceği kanıtlanmıştır. Sicim kuramı gibi egzotik kuramlar üzerine kurulu gelecekteki bilgisayım modellerinin dahi bu problemi verimli bir şekilde çözemeyecekleri muhtemel görünmektedir.
Elbette, “Öz Devre Değeri” problemi, prensipte yalnızca yeterli bir süre boyunca bilgisayım yapılarak çözülebilirdir. Uygulamada ise, orta derece boyutları olan problem örneklerinde dahi, algoritmanın uygulanması için kullanılacak alan ve zaman kısıtlamaları nedeniyle bu imkânsızdır.
Dolayısıyla, inanıyorum ki, YZ’nin, ve hatta Baskın YZ’nin karşısına çıkacak kısıtlamalar konusunda yararlı ilerlemeler elde edebiliriz. Elbette, şu ana kadar anlatmakta olduğum kısıtlamalar, tartışmaya açık olmakla birlikte, pek ilgi çekici değil. Sosyal, politik ve ekonomik kurumların ne şekilde evrimleşeceği konusunda bir şey söyleyebilir miyiz? Emin değilim. Yirminci Yüzyıl bilimlerinden çıkarılacak en önemli derslerden biri, bırakın inanılmaz derece farklı olan bir tanesini, içinde yaşadığımız toplumda dahi bunlarla ilgili tahminlerde bulunmanın ne kadar zor olduğudur. Yine de anlayışın, öngörülebilirliği ima etmediğini akılda bulundurmakta fayda var.
Sonuç olarak, bana öyle geliyor ki, Vinge’in Tekillik kavramı için, üç ayrı hipotezin gerçekleşmesi gerekiyor:
Baskın YZ Hipotezi: Önümüzdeki birkaç onyıl içerisinde, önceden insan üstünlüğünün önemli görüldüğü, Yeryüzü’ndeki tüm hayata baskın çıkacak YZ’ler ortaya çıkacaktır.
Anlaşılamazlık Hipotezi: Baskın YZ oraya çıkarsa, bu noktadan sonrası ile ilgili öngörülerde bulunamayacağız.
Yenilgicilik Hipotezi: Fizik Yasalarının izin verdiği her şey, yeni teknolojilerle yapılabilir hale gelecektir, bu nedenle öngörülerde bulunmaya çalışmanın bir anlamı yoktur.
Ben, Baskın YZ Hipotezini son derece şüpheli buluyorum. Çok fazla sayıda başka olasılık mevcut. Baskın YZ hipotezinin doğru olduğunu varsaysak bile, diğer iki hipotez fazlaca karamsar görünüyor; yapılacak çok fazla miktarda temel çalışmanın bulunduğu bilgisayar bilimleri, ekonomi ve fizik gibi alanlardaki çözülmemiş problemlerin sunduğu olasılıkları göz ardı ediyor.
-oo-
Mitchell Porter’ın Yorumu
Olası Tekillik modelcileri için bazı öneriler:
Tüm Tekillik senaryolarını (herhangi bir nedenle Tekillik’in gerçekleşmediği senaryolar da dahil olmak üzere) bir araya getirin. Bir senaryoyu diğerinden ayıran varsayımlara bakın. Her varsayım, (kozmolojik, ontolojik, tarihsel vesaire) bir sorunun cevabı olarak düşünülebilir. Bu türden tüm soruları listeleyin.
Şimdi, her bu tür sorunun bir eksen olduğu bir “senaryo matrisi” çizin. Her hücrenin koordinatları, bir olası cevaplar kümesi olacaktır. Şimdi yalnızca tüm senaryoları ortak bir bağlama yerleştirmenin bir yolunu elde etmiş olmadınız, aynı zamanda daha ileri düşünceler için bir güdülenme de elde etmiş oldunuz –zira, her boş hücre, gelişmemiş bir senaryo türünü temsil ediyor.
Benzer şekilde: Uzun zamandır demografi, ekonomi ve çevre ile birlikte zihin yüklemesi, nanoteknoloji, zekâ artışı ve benzeri teknolojileri de bir şekilde hesaba katacak “transhümanist dünya modelleri”ni görmek istiyorum. Bu sadece bazı varsayımlar yapma ve bunların sonuçlarını bulma meselesi. Zekâ artırma sürecini dahi bu şekilde modellemenin mümkün olduğuna düşünüyorum: Bir varlığın zekâsını artırma zorluğu ile ekonomik, bilgisel ve düşünsel kaynakları arasındaki bağlantılar hakkında bazı varsayımlar yaparak. Elbette yetersiz varsayımlar, yetersiz sonuçlar verecektir.
-oo-
Anders Sandberg‘in Yorumu
Tekillik ve farklılıkların artışı
Teknolojik (veya tarihsel) tekillik kavramının temeli, geçmişteki sonuçlar üzerine biriken, hızla ivmelenen bir değişim ve başlangıç koşullarına bakarak öngörmenin zor olduğu bir son durumdur. Vinge tarafından öne sürülen güçlü anlamda bir tekilliğe doğru gidip gitmediğimiz tartışılabilecek olmasına (ve belki yalnızca koşulları belirlemek için dahi olsa da tartışılması gerekli olmasına) rağmen, ayrık adımlar halinde değil, birikimli ve zaman boyunca sürekli bir hızlanan değişimin yaşandığı bir çağda olduğumuz açıktır.
Benin ilgimi çeken sorulardan biri, bu değişim sürecinin farklılaştıran etkileridir. Eğer teknolojik değişim, yığılmalı [kümülatif] ise ve bilginin difüzyonundan daha hızlı ise, gruplar ve bireyler arasındaki farklar büyüyecektir. Üstel büyüme, farkların üstel bir şekilde artmasına neden olacaktır. Pek çok fakir ülke aslında makul ölçüde iyi performans sergiliyor olmasına rağmen, batıdaki bizlere kıyasla neredeyse durağanlar ve aradaki göreli ve mutlak farklılıklar artmakta. Bunu göz önünde bulundurduğumuzda, bilin bakalım kimlerin maddi gücü bilim insanları, mühendisler, iş insanları ve büyümeyi daha da hızlandıran diğerlerini karşılamaya yetecek?
Günümüzde, birçok gelişmekte olan ülkedeki araştırmacının, çalışmalarının kendi alanlarındaki önemli dergilerde basılmasını karşılayabilecek maddi güçleri olmaması ve alıntı hizmetleri tarafından listelenen yayınlarının sayısı düşük olduğu için yayınlarının küresel (batı) dergileri tarafından nadiren kabul görmesi gibi dezavantajlara sahip olduklarına işaret eden kanıtlar mevcut. (“Lost Science in the Third World” [Üçüncü Dünyada Kaybolan Bilim], Scientific American, Ağustos 1995)
Dengeleyici güçler de mevcut. Pahalı ve zaman alan araştırmalardan elde edilen sonuçların çoğu, diğerlerinin kullanabileceği şekilde dergilerde ve internette herkesin erişimine açık yayımlanıyor. Ticaret var. Teknoloji yayılıyor ve zengin gruplar fazlalıklarının bir kısmını diğerlerine veriyor (isteyerek veya değil).
Ancak soru elbette şu: Bu güçler teknolojik yetilerdeki farklılıkların sonlu kalması için yeterli mi? Bu, farklı grupların birbirlerinden önemli derecede uzaklaştığı ve muhtemelen küçük bir grubun teknolojik açıdan tam olarak baskın hale geldiği bir Tekillik senaryosuna neden olabilir mi?
Bunun için teknolojik (ve ekonomik) farklılıkları yaratan etmenlere, bu farklılıkları azaltan dengeleyici yayılım etmenlerine ve bunların büyüme sürecine kıyasla göreli güçlerine bakmamız gerekir.
Değişim
Tekillik terimi zaman zaman genel olarak sosyal yapı, ekonomi, teknoloji ve insanlığın doğası başlıklarındaki bütünsel bir hızlı ve derin bir değişimi ifade etmek için kullanılıyor. Ancak teknolojik ilerlemeden başka, değişim ve büyümeye neden olan, yeni memlerin yayılması (örneğin yeni örgütlenme biçimlerinin mümkün hale gelmesini sağlayanlar gibi) ve ekonomik talep de dahil olmak üzere birçok farklı etmen olduğunun altını çizmek gerekiyor. Araştırılması gereken, bu değişim sürecinin kendi kendisini sürdürmeye yeteli olup olmadığı ve yüksek değişim seviyelerinde dahi devam edip edemeyeceği.
Geçen binyıllardaki birçok eğilimin, özellikle nüfus ve ekonomi olmak üzere, kabaca üstel olduğu kolayca fark edilmektedir. Bunlar homo saphiens’in bir teknoloji-öncesi durumdan, mevcut küresel uygarlık haline gelme sıçrayışını temsil eder. Farklı değişim güçleri iç içe geçmiştir: Gelişen teknoloji, tarım üretiminde artış sağlar, tarım üretimindeki artış daha farklılaşan daha geniş nüfuslar doğurur ve bu nüfuslar yeni teknolojik ve sosyal icatlarda bulunur.
Bununla birlikte, insanlığın farklı alanlardaki üstel büyümesinin “aşikâr” olduğu fikri şüphe ile karşılanmalıdır. Örneğin, toplam insan nüfusu artık üstel bir şekilde hızlı artmıyor ve nüfus modellerinin çoğu, kabaca bir yüzyıl içerisinde gerçekleşecek, 11 milyar civarındaki bir denge durumuna doğru kademeli bir ilerleme olduğuna işaret ediyor.
Peki ne değişti? İşin içine başka etmenler girdi: İnsanların iyi bir gelecek beklentisi olduğunda ve çocuklarının hayatta kalma şansı daha yüksek olduğunda, yaşlılık dönemlerinde bakımlarının üstlenilmesini sağlamak için önceki kadar çok çocuk sahibi olma ihtiyaçları ortadan kalktı (özellikle emeklilik sistemleri ve emeklilik sigortaları nedeniyle, artık iş, çocuklardan daha önemli). Aile planlaması, kadınların eğitimi ve eski geleneklerin uygulanmasına gerek kalmadığı fikirleri de önemli bir rol oynamıştır.
Bu, karmaşık büyüme süreçlerinin belirsiz süreler boyunca devam etmek zorunda olmadığını ve doğalarının değişebileceğini gösterir. Örneğin, Moore yasası işlemci yoğunluğunun üstel olarak artacağını ve 2020 civarında nihayet nano-ölçeklere ulaşacağını öngörür. Bu durum, endüstrinin, bilgisayarların giderek daha fazla nişe yayılması ve ulaşılabilir tüm donanım gücünü kullanacak şekilde büyüyen yazılımları teşvik edecek şekilde büyümekte olan daha güçlü bilgisayar ihtiyacı şeklindeki beklentileri tarafından sürdürülmektedir. Peki ama ya nanoteknoloji elde etmek birçoklarının umduğundan biraz daha zor çıkarsa ve 2020 geldiğinde ortada nano-ölçekte herhangi bir öğe olmazsa? Nanoteknolojinin 2030 yılında ortaya çıktığını düşünelim. 2020 onyılı boyunca Moore yasasını sürdüren güçler değişen duruma muhtemelen tepki verecektir. Olasılıklardan biri zayıflayacaklarıdır: Endüstri beklentileri düşer ve ulaşılabilir kaynakları daha iyi kullanan, daha verimli yazılımlar geliştirilir. Bir diğer olasılık ise, teknolojik gelişimi yeni doğrultulara doğru sürüklemeleridir: Örneğin, daha güçlü tekil işlemciler yerine, kitlesel paralel işlemci sistemlerinin [İng. massively parallel sytems] kullanılması gibi. 2030 geldiğinde teknolojik manzara o kadar faklı olabilir ki, nano-çipler uygulanabilir olsa dahi, bilgisayar sektöründeki gelişmeler (halen devam ediyorsa) farklı bir yön almış bulunur.
Bu uyarılardan sonra ana sorumuza geri dönelim: Teknolojik değişim yığılmalı mıdır?
Teknolojik gelişimin önemli ve sürekli güçlerinden biri eski sorunlar için çözüm talebi ve yeni olanakların yaratılması talebidir. Bu talebi karşılamak için, yeni ürünler geliştirilir; bunun bir yan etkisi olarak da yeni sorunlar/olasılıklar ortaya çıkar. Bu döngü aynı zamanda, örneğin bu malları pazarlama veya yeni talepler keşfetme ile durumun devam etmesini sağlayarak geçinme olanağı doğurur ve kendi kişisel çıkarlarının teknolojik gelişimin devam etmesi olan grupların ortaya çıkmasına neden olur. Birkaç problem çözen kişinin merakı ve sıradan insanların sorunları sayesinde başlamış olabilecek bir süreç, birçok farklı grubun hayatlarını büyümenin devam etmesini sağlayarak kazandıkları, kendi kendisini sürdüren bir büyüme süreci haline gelmiş olur.
Bu karmaşık bir büyüme sürecidir ve gelecekte keyfi bir süre boyunca devam edip etmeyeceğine karar vermek mümkün değildir. Yine de şu anki biçimiyle batı kültüründe birkaç yüzyıldır istikrarlıdır ve dünya çapında birkaç binyıldır ortalama olarak ilerlemektedir.
Görece az teknolojik kayıp olayları meydana gelmiştir. Piramit yapımı ve Roma çimentosu gibi birçok tekil teknik, ilgili uygarlıkların çöküşü nedeniyle kaybolmuştur, fakat genel olarak, eski yunan dönemindeki Grek mühendisler, Mısırlı mühendislerin yüzyıllar önce yapmış olduklarını yapabiliyor ve fazladan birkaç şey daha yapabiliyorlardı, tıpkı modern mühendislerin Grek mühendislerin yapmış olduklarını yapabilmeleri ve fazladan birkaç şey daha yapabiliyor olmaları gibi (elbette bunun ekonomik açıdan uygulanabilir olup olmaması ayrı bir meseledir). Pratik olarak kullanışlı bilgi birikimi genel olarak devam ettirilir ve yalnızca artık işe yaramaz hale geldiğinde ortadan kalkar (örneğin hammadde veya talep olmadığı için) ve bundan sonra dahi pasif durumda var olmaya devam edebilir (yani, örneğin, etkileyici harabeler ve çevrilmiş el yazmaları olarak). Birçok uygarlığın yükselişi ve çöküşüne rağmen, genel olarak, insan bilgi birikimi birçok binyıl boyunca önemli ölçüde artmıştır.
Elbette küresel bir felaket, karmaşık uluslararası ekonomik ve teknolojik altyapıya dayanan bazı teknolojilerin kaybına neden olabilir, ancak insan toplumlarının nasıl işlediği ve geliştiği ile ilgili kökten bir değişimine neden olmadığı sürece, bu, (büyük olsa da) geçici bir trajedi olacaktır.
Bu temelde, en azından birkaç onyıl boyunca devam edecek bir büyüme ve hızlanma ile karşı karşıyayız gibi görünüyor. Eğer mevcut ekonomik-politik-kültürel sistem radikal bir değişim geçirirse, değişim hızı güçlü direnç güçlerini veya dikey güçleri tetiklerse veya yeni gelişmeler, gelişimde niteliksel değişimlere neden olursa, mevcut süreçler elbette değişecektir, ancak bunların hiçbiri, tekillik tartışmalarında bir kısmının gerçekten görece yakın zamanda gerçekleşeceği üstü kapalı olarak ima ediliyor olmasına rağmen, şu an için gerçekleşmek üzere gibi görünmemektedir.
Farklılık ve Difüzyon
Değişim ve özellikle de teknolojik değişim insanlar arasındaki farkı artırmakta mıdır? Freeman Dyson, Imagined Worlds [Hayal Edilen Dünyalar] isimli kitabının 3. bölümünde bunu iddia eder. Teknolojinin sistematik olarak şu farklılıkları belirginleştirdiğine işaret eder: Yüksek eğitim almış kişilerin (vasıfsız iş gücü, yararlı yetenekleri olmayan birçok kişinin işsiz kalmasına neden olacak şekilde hızla ortadan kalkarken) yüksek maaşlı işleri olacaktır, bilgisayar edinmeleri daha yüksek olasılıklıdır ve bu nedenle çocukları, iyi bir eğitim sağlamaya yetecek kadar para ve bilginin mevcut olduğu önemli ölçüde zenginleştirilmiş ortamlarda yaşayacak, ve bu da avantajı bir miras haline getirecektir.
Bu argüman ile ilgili birçok şüphem olmasına rağmen, genel akıl yürütme şekli makuldür: Yalnızca birkaç kişi tarafından kullanılan ve bir avantaj sağlayan herhangi bir teknoloji, kullanıcılara diğer kişilere göre bir avantaj sağlayacaktır ve bu da onların bir sonraki kullanışlı teknolojiye daha erken erişmeleri ihtimalini artırır.
Bu durum, teknolojik difüzyona, teknoloji edinme ile birlikte bakılması gerektiğinin önemini gösterir. Birçok sığ analiz (örneğin germ hattı genetik terapisinin zenginlerin genetik bir üst sınıf haline geleceğini ileri süren eleştiriler gibi), teknolojinin toplum içindeki difüzyonunu göz ardı etmiştir. Bu durum, teknolojinin uzun bir vadede etkileri bulunuyorsa özellikle önemlidir; gen terapisi örneğinde, farklar, eğer teknoloji toplum içerisinde insan nesillerinin zaman dilimi olan onyılllardan çok daha yavaş yayılıyorsa fark edilebilir olur, ki bu da oldukça olasılık dışı görünmektedir.
Teknoloji toplum içerisinde ne kadar hızlı yayılmaktadır? Bunu analiz etmenin bir yolu, belli bir teknolojiyi kullanan kişilerin sayısını zamanın bir fonksiyonu olarak incelemek ve grafiğin eğimine bakmaktır. Grafik genellikle bir sigmoid’e [S-eğrisi] benzer: Teknolojinin henüz geliştirilmekte olduğu ve yalnızca birkaç tekno-sever, yenilik arayan kişiler tarafından özel ortamlarda keşfedildiği, düşük yayılımı olan bir başlangıç dönemi, ardından daha fazla ve daha fazla kişinin olgunlaşmış teknolojiyi edindiği bir artan üstel bir eğim, ve ardından da tüm insanların büyük bölümünün teknolojiye sahip olduğu bir tavan değeri.
Forbes tarafından hazırlanan aşağıdaki grafiğe bakınız.
Grafikte görüldüğü üzere, en azından bu teknolojiler için, edinmeye ait ortalama hız zamanla artmakta ve geliştirme ile yayılma arasındaki süre azalmaktadır. Hızlı bir yayılma, insanlar arasındaki teknolojik erişim farklılıklarının daha az belirgin hale geleceği anlamına gelir.
Basit bir örnek olarak cep telefonlarını alalım. Cep telefonları, İşveççe’de, bunlara neredeyse yalnızca zenginlerin sahip olduğu 80’lerdeki bir dönemden kalma, “yuppi’nin oyuncak ayısı” anlamına gelen “yuppie-nalle” olarak isimlendirilmektedir. Ancak bugün İşveç nüfusunun anlamlı bir yüzdesi cep telefonu sahibidir ve bunun artık bir sosyal iması bulunmaz (züppeler her zaman özel telefonlar satın alabilirler, ancak telefon sahibi olmak artık bir statü göstergesi değildir).
Eğer grafikte ileri sürülen eğilimler doğruysa ve devam ederse, yeni teknolojilerin insanlar arasındaki yayılımının daha da hızlanmasını bekleyebiliriz, ve bu da farklılıkları sınırlar. Fakat bunu yeni teknolojilerin ortaya çıkış hızıyla kıyaslamak da önemlidir.
Teknolojik difüzyon birçok şekilde gerçekleşebilir. En yaygınlarından biri ticarettir: Sahip olduğunuz mallar veya teknoloji karşılığında, başkalarından teknoloji veya teknik uzmanlığı satın alabilirsiniz. Bilgi ticareti ilginçtir, çünkü karşılıklı bir kazançtır: Her ikimiz de sattığımız veya birbirimize öğrettiğimiz teknolojiye sahip olmaya devam ederiz. Eşitsiz fiyatlandırma elbette halen mümkündür, ancak, sıradan ticarete nazaran, bilgi için bir sıfır-toplam-olmayan oyun olma durumu daha da belirgindir. Gelişkin teknoloji ticaretinin genel olarak, pek az ticareti yapılabilir bilgiye sahip olan kişilerle değil, gelişkin teknolojilere sahip kişiler arasında yapıldığı ileri sürülebilir; bu difüzyonun daha çok, sahip olanlar ve olmayanlar arasında değil, yalnızca sahip olanlar arasında gerçekleşmesi nedeniyle, farklılıkları artıracaktır.
Diğer taraftan, karşılaştırmalı üstünlükler yasası, gelişkin yetileri olan bir grubun dahi, eğer uzmanlaşmaları mümkünse daha az gelişkin gruplarla ticaret yapmasının, iki tarafın da daha hızlı büyümesi ve işbirliğinden kazanç sağlaması nedeniyle daha iyi bir tercih olacağını anlatır. Ticaretin iyileştirilmesini sağlayan daha entegre bir dünya sistemi, bu nedenle bilgi ticareti için güçlü bir güdülenme sağlar: Diğerlerine ne kadar çok şey öğretirseniz, o ölçüde daha iyi müşteriler ve ortaklar haline gelirler. Bu temel olarak Wired tarafından tarif edilen ağ ekonomisidir.
Teknolojik difüzyonun bir diğer biçimi ise basitçe diğerlerinden ticari olmayan arkadaşça bir ortamda bir şeyler öğrenmektir; örneğin yayınları okumak veya soru sormak gibi. Bu, bilim topluluğu tarafından gösterildiği gibi çok güçlü bir difüzyon aracı olabilir. Zaman içerisinde çok başarılı bir sonuçların paylaşılması kültürü gelişmiş ve katkıda bulunmayan kişler dahi en son yayınları okuyabilmektedir (özellikle de ücretsizse veya internette kolayca erişilebilir ise) ve bu nedenle de yalnızca kendi bilgi tabanına değil, tüm topluluğun ortak bilgi tabanına erişilebilmektedir. Bu bir sıfır-toplam-olmayan durumu olduğu için, beleşçiler büyük bir sorun teşkil etmemektedir [bu biz oluyoruz (: ].
Son olarak, hızlı büyümeyi sınırlayan etmenler mevcut: Ekonomik dönüşler (eğer yeni bir teknolojiyi pek azı karşılayabiliyorsa çok pahalı olacak ve kitle pazarı teknolojisi kadar kârlı olmayacaktır), gelişme hızındaki kısıtlamalar (gelişkin üretim süreçleri dahi yeniden yapılandırma, geliştirme ve testler için zamana ihtiyaç duyar), insan uyumluluğu ve özellikle de bilgi ihtiyacı gibi. Bilgi miktarı arttıkça, takip etmek ve uzmanlaşma gerektireceği için genel bir görüş sahibi olmak giderek zorlaşır. Bilgi teknolojileri bu konuda bir miktar yardım sağlasa dahi, temel sorun, farklı alanların olası kombinasyonlarının, kombinasyonel patlamasıdır. Bu, bir geliştirme projesinin birçok alandan uzmanlara ihtiyaç duyabileceği ve bunun da geliştirmeyi yapabilme yetisine sahip grubun daha düşük sayılı olması anlamına gelir. Bu da, küçük bir grubun, basitçe, tüm gerekli alanlarda birden gerekli teknik bilgiye sahip olmadığı için, her konuda geri kalan herkesin önüne geçmesinin çok zor olduğu anlamına gelir. Çözüm, elbette, istihdam etmektir, fakat bu da grubun sayısını artırır. Minimum sayıdaki bir grubun belirsiz bir süre boyunca geliştirme yapabilmek için ne büyüklükte olması gerektiği en ilginç sorulardan biridir ve olası cevap büyük ihtimalle tüm dünya ekonomisi ile küçük bir ülkenin nüfusu arasında bir yerlerdedir.
Farklılıkları ciddi bir şekilde artıran teknolojiler var mıdır? Şu an için bu türden en belirgin olanı, bilgi teknolojileridir. BT’ye erişimi olan kişiler, hangi teknolojileri edinmek gerektiği de dahil olmak üzere, yeni bilgilere daha kolay erişebiliyor; ve bu da ön saflarda kalmayı kolaylaştırıyor. Diğer taraftan bilgi teknolojilerine erişim hızı bir şekilde artıyor, bu nedenle asıl mesele yalnızca erişim sahibi olmak değil. Bunun yerine, bu teknolojiyi verimli bir şekilde *kullanma*, bir veri okyanusundan bilgiyi elde etme ve buna göre hareket etme merkezi önem taşıyor –bilgi yetileri, eleştirel düşünme ve eğitim farklılıkların büyüdüğü alanlar haline gelmekte. Eğer bu beceriler bir şekilde artırılabilirse, BT daha farklılaştırıcı bir hale gelecektir.
Diğer taraftan, BT güçlü bir difüzyon teknolojisi olabilir, daha hızlı ve daha küresel bir bilgi (enformasyon), bilgi birikimi [İng. knowledge] ve ticaret alışverişini sağlayabilir. Bunun bir örneği, geleneksel bilimsel dergi sisteminin kademeli olarak, yayımlanma gecikmelerini ve fiziksel kâğıt ürünlerinin dünyanın bir ucundan diğerine gönderilmesinden kaynaklanan sorunları sınırlayan, daha hızlı, daha esnek, internet tabanlı bir baskı öncesi sunucuları ve çevrimiçi dergiler sistemine dönüşmüş olmasıdır. Bazı dergiler, daha fakir bilim topluluklarına yardımcı olacak şekilde, gerekli bilgiye ulaşım maliyetlerini önemli ölçüde düşürecek “makale başına ödeme” politikasını benimsemektedir (Biomednet, gibi).
Nanoteknolojinin gelecekte daha da kritik bir alan haline geleceği ileri sürülmüştür. Senaryo, bunun nasıl kullanılacağını erkenden öğrenen kişilerin, daha sonradan öğrenenlere nazaran büyük bir avantaja sahip olacağı ve çok kısa bir zaman diliminde aşırı derecede gelişeceği şeklindedir. Bu, nanoteknolojini bir kez başarıyla uygulandıktan sonra, çok hızlı, görece az sermaye yatırımı ve kullanıcı/alıcı anlamında az bir anlayış gerektiren yığılmalı bir şekilde gelişeceğini baştan varsayar ki bu varsayım tartışmaya açıktır. Yalnızca güçlü nano-cihazlar üretebiliyor olmak, bunların verimli bir şekilde kullanılabileceği göstermez, ayrıca bir şeyi kullanışlı hale getirmek son derece zorlu bir işe dönüşebilir. Benim fikrim, nanoteknolojinin de bilgisayar teknolojisi gibi hızla gelişeceği, fakat yayılmasının kolaylığı ve ekonomik güdülenmeler göz önünde bulundurulduğunda (güvenlik ve emniyet konusunda bazı uyarılar olmakla birlikte) hızla benimsenen bir teknoloji haline geleceği yönündedir.
Bazı Tekillik tartışmaları “baskın teknolojiler” şeklinde, ilk sahip olan kişilere diğer herkes üzerinde sınırsız güç kazandıracak bazı senaryolar ile sonuçlanmaktadır. Bazıları baskın teknolojilerin süper-zeki YZ, nanoteknoloji veya nükleer silahlar olduğunu ileri sürmüştür. Nükleer silahlar vakasında, bunların baskın olmadıkları açıktı; Birleşik Devletler dünya çapında bunların geliştirilmesinin kontrolü konusunda yaptırımlar uygulayamadı, ve nükleer güçler sonunda nükleer silahlanmadan vazgeçirilmiş olsalar da, ortaya bir güç dengesizliği çıkmadı. Aynı şekilde, SZ ile nanoteknolojinin de her şeyden izole bir şekilde geliştirilmeleri mümkün değildir, öncesinde yapılacak birçok araştırma, rekabet halindeki gruplar ve prototipler olacaktır ki bu da bunlardan herhangi birinin baskın bir teknoloji haline gelmesinin muhtemel olmadığını gösterir. Bir baskın teknoloji haline gelmek için, teknolojinin pratik olarak diğer teknolojiler tarafından durdurulamaz olması, sahibinin herhangi benzer veya rakip teknolojinin üretilmesini engelleyebilecek kadar önde olması, bu türden geliştirmeleri tespit edebilecek olması ve son olarak, bu teknolojiyi açıkça çaresiz gruplar tarafından yapılabilecek akıl dışı saldırılar olması durumunda dahi üstünlük kazanmak için kullanmaktan çekinmeyecek olması gerekir.
Sonuç
Yığılmalı değişimin öngörülebilir gelecekte devam etmesi olası görünüyor. Bu, farklı ilerleme hızları nedeniyle teknoloji yayılma ve ticaret gibi difüzyon süreçlerinin, homojenleştirici eğilimler ile rekabet halinde olması sonucunu doğuracaktır. Uzun vadede hangi eğilimin zafer elde edeceği açık değildir: Mevcut ekonomik durum artmakta olan göreli farklara işaret etmekte, toplum içindeki teknolojik difüzyon hızlanıyor ve artan yenilik hızlarına ayak uydurabilir gibi görünmekte ve bilim topluluğu da, daha ucuz bilgi erişimi sağlayan yeni bilgi araçları sayesinde daha tutarlı bir hale gelebilir veya gelmeyebilir. Bu sorulara cevap verebilmek için, bunların zaman içerisinde nasıl değiştiklerine dair daha detaylı bir inceleme yapılması gerekiyor.
Şu an söylenebilecek şey, bu örneklerin homojenleştirici veya homojenleştirmeyen güçlerden birinin her zaman zafer elde edeceğine işaret etmiyor olduğu ve daha ziyade üstel değişim konusunda ileri sürülen basit fikirlerin gerçek, karmaşık büyüme durumlarında geçerli olmayacaklarıdır.
Bu tartışmada zekâ yükseltme yöntemleri hakkında birkaç varsayımda bulundum. Bunlar, büyüme hızını önemli miktarda artıracaktır, ancak aynı zamanda yayınımı da önemli ölçüde artırabilirler. Büyüme hızına önemli bir etkileri olacağı ortadadır ancak farklılaşmaya mı, homojenleşmeye mi neden olacakları açık değildir. İyileştirilmiş ticaret biçimleri, iletişim ve eğitim gibi diğer etmenlerin durum üzerinde daha büyük etkileri olabilir.
-oo-
Damien Sullivan’ın Yorumu
Tekillik anlaşılamaz mı olacak?
(Editörün notu: Damien burada 30 Kasım 1996 yorumları ile katılıyor)
İlk olarak Güçlü Tekillik taraftarı Eliezer Yudkowsky’ye cevaben, extropians e-posta grubuna yazılmıştır. Kendisi, Güçler’in [Vinge’in A Fire Upon the Deep romanındaki, Tekillik’in ötesinde bulunan varlıklar], neden hiçbir şey değil de bir şeyler olduğunu –İlk Neden, ve sonradan, varoluş sorunu olarak isimlendirilmiştir– anlayabileceklerini düşünüyordu, ve bizim algılayamayacağımız bir seviyede olan düşünme şekillerine göndermeyle, “Algısal Aşkınlık” şeklinde bir terim kullanıyordu. Anladığım kadarıyla.
“Güçler, bizim anlama yeteneğimizin ötesinde. Bunu anlıyor musun?”
Hayır. Anlamıyorum. Bu mümkün, ancak ben, Güçler’in düşünme yetisi olup da, bizim içkin olarak anlayamayacağımız bir şeyler olduğu inancına işaret eden bir şey görmüyorum; Güçler’in, “İlk Neden’i çözme” yetilerine dair inanç, dini inancın ötesinde bir şey.
“Algısal Aşkınlık” benim için şu anlama geliyor. GEB’de [Gödel Escher Bach], eğer terimleri doğru hatırlıyorsam, tüm gerçekler (veya tüm teoremler) ile bunların döngüsel olarak numaralandırılabileceklerine ait bir resim mevcut. Bunlardan ilki bir kare şeklinde, ikincisi de fraktal bir ağaç şeklinde, ilkinin içerisinde temsil ediliyor. Eğer tüm insan bilgisi, deneme yanılma yoluyla binyıllardır öğrendiğimiz her şey bu ağaçta ise ve yeni doğmuş bir Güç, bu ağacın her dalına birer aşikâr başlangıç bilgisi olarak sahips olsa bile, yine de karenin içinde kalır. Bazı diğer gerçeklik dallarını/tabakalarını hızlıca keşfedebilir, ancak tüm bu gerçeklikler yine de yeterli vakti ve öğrenme hevesi olan açık fikirli bir insan tarafından gayet algılanabilir olabilir.
Açıklık getirmem gerekirse, bu kavramı çaldım ve bizim şu anki en ileri teoremlerimizi, büyük ölçüde, bunlar halihazırda aklına yerleştirilmiş olduğu için aşikâr bulacak bir varlığa uyguladım; tıpkı mevcut araştırmaların, bizim sayıları anlamamızın kolay olmasının nedeninin, sayıları anlamamızı sağlayacak şekilde dizilmiş bir grup nörona sahip olmamız olduğunu ileri sürmesi gibi. Muhtemelen köpeklerin de bir sayı algısı mevcut; ancak beyinlerinde var olan sayıların ötesinde soyutlama yapamıyorlar. Biz yapabiliriz ve yapıyoruz, bu nedenle sonluötesi sayılara [İng. transfinite numbers] ait içgüdüsel bir kavrayışı olan bir Güç, felsefi olarak derin bir şey değil.
Newton’dan sonraki Aydınlanma, evreni bir saat olarak ele aldı. Daha yakın zamanda ise evreni bir bilgisayar olarak ele aldık –ancak bu aslında yalnızca daha karmaşık bir saatti. Şimdi elimizde kuantum mekaniği mevcut ve etrafta hücresel otomasyon [İng. cellular automata] benzetmeleri dolaşıyor … ancak, yaylarında zar bulunan karmaşık bir saat olarak resmedilen evren halen anlaşılabilir bir halde. Belki de bu zarlar, bizim bilmediğimiz temel bir şeyi temsil ediyor … ama belki de etmiyor. Zar, saat kadar anlaşılabilir bir şey.
Ve bizler –ya da çoğumuz– birer evrensel Turing makinasıyız, veya en azından o şekilde hareket edebiliyoruz gibi görünüyor. Bu şekilde ele alındığında, varoluş sorunu hariç, evrenin nasıl olup da bizim tarafımızdan kavranamayacak sorunlar üretebileceğini düşünmek güç. Zihinlerimizin kavramayacağı kadar büyük şeyler, parçalarını aklımızda tutmaya hafızamızın yetmeyeceği fikirler olabilir; bizden daha hızlı düşünebilecek Güçler olabilir; ancak bunlar 16 MB RAM’i olan ve 4K RAM’i olan bir bilgisayar veya bir Pentium ile 8086 arasında farklardır. Niteliksel bir fark, bir bilgisayar ile bir kol saati arasındaki fark şeklinde olacaktır. Aramızda bu türden bir fark olduğunu düşünmek, tamamen bir inanç sorunudur. Dilerseniz bu inanca göre hareket edebilirsiniz; ancak ben, hiçbir Güç’ün, zaman ve veriler sağlandığı takdirde, özgür düşünceli bir şehirlinin anlayamayacağı bir şey yapamayacağına inanıyorum.
Benim son derece belirsiz tezim: Tüm hasarsız insanlar ve diğer bilinçler, aynı kavranabilirlik alanını paylaşıyorlar.
Sonuç: “Ben,” hatalı olup olmadığımı asla bilemeyebilirim.
Genişletme: Bizden bin kat hızlı düşünen varlıkların ortaya çıkıp bizi ezeceği, pratik bir tekillik olabileceğini inkâr etmiyorum. Ancak bunun kaçınılmaz veya son derece olası olduğunu da düşünmüyorum. Aslına bakılırsa, bu bence büyük ölçüde bir bakış açısı meselesidir. Eğer kendiniz hareketsiz dururken ilerlemeyi izlerseniz, oldukça hayret verici görünebilir. Bunun en aşırı örneği, bir maymun olarak, kendisi sizden çok daha zayıf olmasına rağmen, sizin soyunuzun tükenmesine neden olan Cro Magnon’u hiçbir şey yapmadan izlemektir. Bize daha yakın bir örnek, yalıtık avcı-toplayıcıların, endüstriyellerle karşılaşması (Bank’in Bağlam Dışılık Problemi), veya bu yüzyıl tarafından ezilmiş hisseden kişiler olabilir.
Ancak bazı kişiler oldukları yerde durmamaktadır. Tekillik kavramı, ilerlemenin ön cephelerinde bulunan, hem buna neden olan hem de bu kişileri hevesle takip eden (tipik extropian‘lar), modern değişim, öz-referans ve uyum kavramlarına tam olarak hakim, dünya görüşlerini yeni gelişmelere göre yeniden düzenleyen, tekilliğe neden olan veya bekleyen kişilerin dahi, gerçekleştiği anda, tekilliği takip edemeyeceğini iddia etmektedir. Ben bunun mesnetsiz ve mantıksız olduğunu düşünüyorum. Bu kişilerin bizzat Tekillik oldukları ileri sürülse dahi, insan ırkının geri kalanının yetişebileceği kanısındayım.
Ancak belki eğitimde bir aşkınlık yaşanmadan değil. Matematik konusunda özel bir yeteneğim olduğunu düşünmeden 10 yaşında cebri ve 13 yaşında kalkülüsü öğrenmiş ve toplama ile antik Mezopotamya tarihinden Birinci Dünya Savaşına kadar olan tarihin tekrar tekrar öğretildiği (zira, Birinci Dünya Savaşına gelindiğinde dönem biterdi ve ertesi dönem her şey baştan başlardı) okul yıllarını dehşet içerisinde hatırlayan biri olarak, salt bu denli acınası bir eğitimden geçen öğrenciler nedeniyle bir tekillik gerçekleşebilecek olmasını anlayabiliyorum.
-oo-
Eliezer S. Yudkowsky‘nin Yorumu
(Eliezer, Nisan 2001’de bu yorumların artık düşüncelerini yansıtmadığını belirtmiştir.)
Okuru, bağlılığımın insanlığa değil, öncelikli olarak Tekillik’e olduğunu söyleyerek uyarmam gerekiyor. Tekillik’in bize ne yapacağını bilmiyorum. Tekilliklerin ölümlü ırkları yükselttiğini mi, yoksa yalnızca atomlarını kullanmak için parçalarına mı ayırdıklarını bilmiyorum. Mümkün olduğu sürece ölümlülüğün ve Tekillik’in çıkarlarını dengelemeye çalışacağım. Ancak eğer iş ya Biz ya Onlar gibi bir noktaya gelirse, ben Onların tarafındayım. Haberiniz olsun.
Tekillik hakkındaki bazı gerçekler. (İngilizce’de “bilgili tahmin” veya “en olası [durum] analizi” anlamına gelen kelimeler mevcut değil.)
Tekillik’i, yeni, tuhaf ve inanılmaz olarak düşünüyoruz. İnsanlar bildiğimiz şekliyle yaşamın parçalanacağını ve ortadan kalkacağını kabul etmiyorlar; bunu “gerçekçi” bulmuyorlar. Hatta bazıları, Tekillik’e, her daim gerçekleşen bir olay yerine, yazarın kaprislerini yansıtan edebi bir benzetme olarak yaklaşıyor.
Geçici ve tutarsız olan aslında bizim dünyamızın ta kendisi; meta-istikrarsız, her an bozulabilecek şekilde bir dengede. Kozmos boyunca ne zaman ilkel bir ırk ortaya çıksa, vahşilik, uygarlık, bilim aşamalarından geçerek, Tekillik’e varıyor. Birçok ırkın, birçok üyesi bunu kabul etmiyor, ancak Tekillik yine de gerçekleşiyor.
Ve öyle olmasını istemesek de, bir şekilde kendimizi “farklı” görsek de, insanlık da bunun bir istisnası olmayacak. Ergenlik çağının teknofobik duruşunu benimseyeceğiz, benzersizliğimizi ilan edeceğiz ve sonra da Tekillik’i yaşayacağız –tıpkı diğer tüm ölümlü ırklar gibi. (Ben, aslında, özünde muhafazakâr biriyim. Tek farkım, benim “eski, güzel günler” tanımımın daha geniş bir bakış açısından türüyor olması.)
Elbette, bazı ırklar yol boyunca ortadan kalkacaktır. Kontrolden çıkan nano, nükleer savaş, dini ayaklanmalar, bilgisayar çökmeleri, YZ’lere uygulanan keyfi zorlamalar –isterseniz buna Ufuk Savaşı veya yetersiz zekâ nedeniyle ölüm de diyebilirsiniz, ancak bir Tekillik’ten kaçınmanın tek yolu budur.
Bin ırktan yalnızca biri, Tekillik’ten önceki Ufuk’ta uzun süre hayatta kalabilecek şekilde gelişmiştir. Biz onlardan biri değiliz. Biz bireylerden oluşan, geleneksel, sosyal olarak rekabetçi ve zekâsı ilkel normlar içerisinde kalan bir ırkız. Hiçbir bilinçli eylem, bizi binde-bir haline getiremez. Bunun için atılacak herhangi bir adım, yalnızca güneşinin etrafında sonsuza kadar dönecek bir diğer ölü gezegenin ortaya çıkma ihtimalini artırır.
Tekillik ile ilgili birinci gerçek: Herkesin başına gelir ve bizim de başımıza gelecek.
Tekillik ile ilgili ikinci gerçek: Tekillikler, hızlı ve eksiksizdir. Ya da daha doğrusu, Tekilliklerin ikinci aşamaları hızlıdır. İlk ve yavaş olan, ilk transhümanın (veya en azından bir alanda transhüman olan bir uzmanın) ortaya çıkıp olayları karmaşıklaştırmaya başladığı an olan Tekillik::Ufuk’tur. İlerleme ivmelenir, varlık seviyesi yukarı doğru dalgalanır, toplumsal doku parçalanır ve nano-savaş ihtimali yanında, nükleer yok oluş normal görünür hale gelir. (YZ vasıtasıyla bir hızlı yok etme, bu tehlikeleri ortadan kaldırır.) Irk açısından keyifli olsun olmasın, Ufuk, bir nesil boyunca devam edebilir.
Daha sonra ise ilk transhümanlar, kendi ardıllarını yaratır. Kendi kendini geliştiren veya bir “tohum” YZ yaratmak, genelde Uzak Ufuk içerisinde bir yıl sürer ve bu da ikinci aşamayı başlatır: Tekillik::Aşkınlık, diğer adıyla tekno-kıyamet veya Son Şafak.
Tekillik, yazılımsal seviyede bir pozitif geri besleme döngüsü –süper-zekâlar inşa eden daha akıllı zekâlar, ve kendi kendilerini yeniden inşa eden süper-zekâlar– başladığında meydana gelir ve bir daha durmaz. Tüm bu süreç, bir saniyenin küçük bir bölümünde meydana gelebilir ve tohumun insana benzer hiçbir tarafı olmayabilir.
Kontrolden çıkmış pozitif geri besleme, Tekillik’i tanımlayan şeydir: İster yavaş, iki-aşamalı teknoloji ve zekâ (“Ufuk”) olsun, ister hızlı kendi kendini geliştirmenin inanılmaz derecede hızlı sona erişi olsun (“Aşkınlık”)… Pozitif geri beslemenin, geri beslemeyi tanımlayan denklemi yeniden yazması…
Tekillik ile ilgili üçüncü gerçek: Tekillikler geride Bizim Bildiğimiz Şekliyle Yaşam’dan geriye pek bir şey bırakmaz. Yaygın bir düşünsel hata, Tekillik’in dünyamızı ne şekilde değiştireceğidir. Bilinmeyenle baş edebilmek için, kendi olağan varsayımlarımızı aktarıyor ve hayal ettiğimiz değişim gerçekleşecekmiş gibi yapıyoruz. Ancak Tekillik’ten sonraki yaşamı tartışabilmek için, argümanlarınızı boş sayfa şeklindeki bir YZ’ye programlayabiliyor olmanız gerekir.
Kendi olağan varsayımlarımız boşlukta bulunmuyor. Olağan varsayımlar, gözlemlenen normlardan ve normlar da, devasa bir neden-sonuç ağından yapılan soyutlamalar ile elde edilir. Bu nedensellik zincirleri nihai olarak evrimde, makroskopik fizik yasalarında ve ölümlüler için oyun kuramında kök bulur. Bu ilkelerin hiçbiri sağ kalamayacaktır.
Evrim kimi zaman akıllı tasarıma göre üstün olabilir, ancak süper-zeki tasarıma göre değil. Evrim tarafından dayatılan kurallar, daha üstün bir kuvvet tarafından ortadan kaldırılacaktır. Makroskopik fizik korkunç derecede ziyankârdır: Havadaki bir basketbol topu, basit bir integrali hesaplamak için septilyonlarca [10^24] kuantum-bilgisayım öğesine ihtiyaç duyar. Sistem bir kez simüle edilmiş bir basketbol topu artı bir oktilyon [10^27] teraflopa dönüştüğünde, bir daha bir önceki yönteme dönmeyecektir. Oyun kuramı … süper-ajanların birbirlerinin eylemlerini tahmin edebilmelerinden bağımsız olarak, birbiriyle çelişen hedefler olacak mıdır? Ya da sınırlı kaynaklar? Ya da birden fazla soyutlanabilir ajan?
Bizim dünyamız, bir süper-zekâdan sonra hayatta kalabilmek için aptallığa fazlaca gömülmüştür. Bizler belki Ufkun Diğer Tarafına geçebiliriz, ancak insan uygarlığı değil. Bedenlerimiz, aptallığımız, fiziğimiz ve toplumumuz buharlaşacaktır.
Tekillik tartışmaları altı merkezi soru etrafında şekillenir. “Tekillik gerçekten meydana gelecek mi?” “Tekillikten kaçınılabilir mi?” “Tekillikten sonraki yaşam nasıl olacak?” Umarım bu ilk üç soruya verdiğim cevaplar açıktır: “Evet”, “Hayır” ve “μ”.
“Bir insan eşdeğeri YZ’yi gerçekten programlayabilir miyiz?” Evet. İtiraz edenler şunu düşünmemektedir: Hile yapabiliriz. İlk ve en önemli olarak, tohum YZ’lerin insan eşdeğeri olmaları gerekli değildir; kozalak, ağaç değildir. İkinci olarak, DNA’dan kod çalabilir, gelişmekte olan beyinleri gözlemleyebiliriz … hatta eğer bir Penrose boşluğu mevcutsa, insan sinir hücrelerini kullanarak dahi bir YZ inşa etmemiz mümkündür. Üçüncüsü, eğer modifiye edilmemiş insanlar bunu başaramazsa, transhümanları ve nöro-cerrahi ile üretilmiş uzmanları kullanabiliriz.
Bir YZ kodlamak ideolojik bir argüman değildir. Eğer bir yöntem işe yarıyorsa, bunu kullanırız.
“Ne zaman gerçekleşecek?” Tekillik’in ne zaman “gerçekleşeceğini” bilmiyorum. Tekillik, bizim onu gerçekleştirdiğimiz andır. Benim tişörtümde “Tekillik 2005” yazıyor –ancak bu bir öngörü değil, bir hedef. Vinge, 2005 ile 2030 arasında diyor ve bu tam olarak benim de tahminim –ancak yarın, Son Şafak olsa, Yeryüzü ve Güneş bilgisayımsal öğelere dönüştürülmeden önce güneşin doğduğu son gün olsa, şaşırmazdım. Douglas Lenat EURISKO‘nun başındayken, Tekillik’e %5 ihtimal veriyordum.
“Tekillik iyi bir şey mi?” Cevap: “Evet.”
Bu, bir YZ içerisinde şık bir şekilde programlayabileceğim bir cevaptır. Nihai iyiyi çıkarsayamam, bu nedenle daha yüksek bir zekâ alt-hedefini tekrar ediyorum. Post-Tekillik Varlıkları (PTVler), süper-zeki oldukları için, nihai iyiliği çıkarsama konusunda daha yetkin, bunun tarafından etkilenmeye daha yatkın ve bunu uygulamak için daha iyi donanımlara sahip olacaklardır. Tekillik, Hayatın Anlamı değilse bile, mükemmel bir geçici yaklaşımdır.
Tekillik’i modelleyemem, emin olamam –ancak Tekillik’in olası ahlaki değerinin, benim kişisel ahlaki değerime muazzam derecede ağır basacağından eminim. Herhangi bir karşı argüman, eğer akılcı ise, PTVler tarafından çıkarsanacaktır. Eğer Tekillik kötücül ise, PTVler onu susturacak, değiştirecek veya sonlandıracaktır. Eğer yok edilirseniz, bu o kadar ikna edici nedenlerden kaynaklanacaktır ki, bir PTV’ye yükseltildiğiniz durumda, yardımcı olabilmek için intiharı kendiniz tercih ederdiniz.
Bu, ahlaki soruların, gerçeklik ile ilgili sorular olduğunu varsayar. Bir alternatifi şudur: Ahlak keyfidir, gözlemci tabanlıdır ve kökenleri mantıktan ziyade, evrime dayanır. Tüm istekler kendilerinde son bulur, ve çatışan istekler dengelenmelidir. Bu “bencil” bakış açısından bakıldığında, kendimi yok edecek kadar hatalı olabilirim –yine de ölümsüzlük ve tanrısallık ihtimali bu riski almaya değebilir. Ancak bizim tanıdık, insan merkezli ve öznel tercihlerimize rağmen, gerçek genelde nesnel, bizim dışımızda ve harika bir şekilde sezgilerimize aykırıdır. Ve benim tercih sürecimde, akla yatkın hedefler, hatta varsayımsal akla yatkın hedefler dahi, keyfi hedeflere göre öncelik sahibidir.
Fakat tamamen bir güvenlik önlemi olarak, sunulan hedeften bağımsız olarak, keyfi hedefleri olan bir YZ programlamak, korkunç derecede kötü bir fikirdir. Eğer bir hedef koyulduysa, bu hedefi oluşturan semboller, keyfi anlamlar içerebilirler (kaynak: Greg Egan, Asimov). “İnsanlara hizmet et,” eğer “insanlar,” robotlar anlamına da gelebiliyorsa, veya “hizmet et,” yok et anlamına gelebiliyorsa hiçbir işe yaramaz. Eğer tüm hedefler yalnızca mantık ile desteklenmişse, semboller yine de değişebilir ve akıl yürütme ile temel mimari de öyle –ancak eğer yanlış yönde değişirse, ara hedef yapısı çöker ve YZ durgun hale gelir (Çok şık, öyle değil mi?). Belirli hedefleri olan bir YZ akıl dışı bir şekilde düşünmeye başlarsa da devam eder.
Mantıksız bir YZ programlanırsa, öngörülemeyecek şekillerde mantıksız olacaktır. İki artı ikinin beş ettiğini söylerseniz, beşin sıfıra eşit olduğunu kanıtlar. Detaylı hazırlanmış arıza emniyetlerine müdahale etmek, her şeyi daha da kötüye götürecektir. Yapay Zekânın İlk Emri: Bir YZ’ye asla yalan söyleme, doğru mantık kullanmak dışında hiçbir şekilde onu kontrol etmeye çalışma.
Bu makalenin önceki sonu, benim Tekillik’e yönelik değişen yaklaşımımı içeriyordu. True Names‘i [Gerçek İsimler] okuduğum ve hayatımın kalanını nasıl geçireceğimi öğrendiğim andan itibaren … dizginlenmemiş bir coşkuya doğru … ayrılmanın duygusal kabullenişine doğru … salt mantık, kendiliğin yitirilişi ve bağlılığın değişimine doğru. Fakat tekrar düşündüğümde, ara hedef sistemleriyle ilgili teknik not daha iyi bir son.
Önemli olan Tekillik’in kendisi, onu çevreleyen drama değil.
-oo-
Vinge’in Tekillik kavramı üzerine yapılan yorumlara yanıtları:
Herkese yazıları için ve Robin Hanson’a da bunları bir araya getirdiği için teşekkür ederim. Tartışmacıların hepsi konuya derin içgörüler getiriyor ve ikna ediciler. Yanıtlarken çoğu kez bazı varsayımlarda bulundum ve senaryolar oluşturdum. Bu bazen tartışmacının görüşlerini desteklemek, bazen de itiraz etmek içindi. Hepsi birlikte ele alındığında varsayımlarım ve senaryolarım tutarlı değil (ve bu senaryoların tipik bir özelliği), bu nedenle belki de başlangıç noktalarımın altını çizmem yerinde olur:
- Teknik gelişimimiz birkaç yıl daha devam ettiği takdirde, süper-insan zekâsının ortaya çıkışı makul bir olasılık gibi görünmektedir.
- Süper-insan zekâsının varlığı, geçmişteki ilerlemelere göre niteliksel olarak daha az anlaşılır gelişim biçimleri doğuracaktır.
Teşekkürler,
Vernor Vinge
-oo-
Burada yapılan yorumlar üzerine yaptığım yorumları bulabilirsiniz
- Gregory Benford
- David Brin
- Damien Broderick
- Nick Bostrom
- Alexander Chislenko
- Robin Hanson
- Peter McCluskey
- Max More
- Michael Nielsen
- Mitchell Porter
- Anders Sandberg
- Damien Sullivan
- Eliezer Yudkowsky
-oo-
Gregory Benford’un Yorumuna Yanıt:
“Direnç terimi”nin kendisini ne şekilde açığa vuracağını görmek ilginç olurdu. Karşımıza tahmin etmediğimiz bazı sorunlar çıkabilir, ancak değiştirilemeyecek engeller olarak gördüğümüz şeylerin en azından bir kısmı bizim yanlış anlamalarımızdan kaynaklanmaktadır.
Benim tekillik kavramımın herhangi bir şeyin “sonsuz” olacağı iması içermediğine kesinlikle katılıyorum.
Greg ile anlaşmazlık içerisinde olduğum tek şey onun son cümlesinde. Bana, aşkın yaratıkların kısa bir süre içerisinde kendi altyapılarına sahip olacakları, ve geride kalanlara özel bir bağımlılıkları olmayacağı fikri daha makul görünüyor.
-oo-
David Brin’in Yorumuna Yanıt:
(Bir parantez: David Brin burada tekno-aşkınlığın tarihsel bağlamından bahsediyor. Ben bu alana, mantık ve teknolojinin, birtakım içsel ihtiyaçlara uygun sonuçlar vereceği şeklindeki umudum nedeniyle girdiğimi sanıyorum. Bir düşünürün psikolojik/duygusal arka planı ne olursa olsun, bu arka planın farkında olmak –en azından bir arka plan olduğunun farkında olmak– önemlidir. Mantık ve nesnellik son derece önemli olmasına rağmen, kendi içsel eğilimlerini reddeden bir araştırmacı/düşünür, en azından kendi kendisini aldatıyordur.)
David’in yaptığı gibi, ben de geleceği ilgili senaryolar vasıtasıyla ele almak istiyorum. Geleceğin neler getireceğini bilmiyorum, ancak olası senaryolarla oynamak eğlenceli –ve ayrıca bunun belirtilerin izlenmesi ve en güvenli stratejileri bulunması konusunda yardımı dokunabilir. David, üç senaryo listeliyor:
“1. Tekillik’in bir türüne ulaşmak –veya en azından daha yüksek ve daha bilgili bir topluma doğru bir faz değişimi (ki bu toplumun bizim öngöremeyeceğimiz kendi sorunları olabilir).”
Benim senaryo (1) versiyonum bahsetmekte olduğum teknolojik Tekiliktir. Bu, sınırlı bir kavramdır (bu yanıtların başlangıç kısmında verdiğim genel cevaplara bakınız. Ne yazık ki, insanlığın ortadan kaldırılması gibi yan etkileri dışlamaz.
“2. Kendi kendimizi yok etme”
Maalesef, kendi kendimizi yok etme bana olası senaryolardan biri gibi geliyor. Birçok kimse 1990’lara daha barışçıl bir çağın başlangıcı olarak bakıyordu, ancak geriye bakınca, yalnızca kitle imha silahları yaygın bir şekilde ulaşılabilir hale gelmeden önceki kısa bir duraksama olabilir. Fermi Paradoksunu, ölümcül bir adaptasyon olarak zekâ, Tekillik’ten daha iyi açıklardı.
“3. Daha geleneksel, 1 ve 2’deki türden sonuçlara neden olabilecek abartılı keşiflere karşı caydırıcı tavır takınan bir insan toplumuna geri dönüş. “
Senaryo (3), Gunther Stent‘in senaryosuna oldukça benzemektedir. Öyle sanıyorum ki bu türden bir dünyanın kendi inişleri çıkışları olurdu (ara yıkımlar, çöken uygarlıklar). Ve 10.000 yıllık bir yazılım ihtimali, neredeyse burada konuştuğumuz diğer şeyler kadar korkutucu : – )
David birkaç süper-zekâ türü ileri sürüyor: Teilhard de Chardin‘inki, David’in Earth [Yeryüzü] romanındaki… Diğer tartışmacıların ileri sürdükleri başka modeller de olduğunu görüyorum. Yeri geldikçe bunlara dikkat çekmeye çalışacağım. (Ayrıca en sona, benim senaryo adaylarımdan birini tarif eden kısa bir makale de ekledim.)
-oo-
Damien Broderick’in Yorumuna Yanıt:
Damien Broderick yorumuna, benim Teknolojik Tekillik üzerine 1993 tarihli makalemden bir alıntı ile başlıyor. Alıntı, son tahlilde iki başlığa indirgenebilecek olan benim teknolojik tekillik kavramımı doğru bir şekilde yansıtıyor:
- Teknik gelişimimiz birkaç yıl daha devam ettiği takdirde, süper-insan zekâsının ortaya çıkışı makul bir olasılık gibi görünmektedir.
- Süper-insan zekâsının varlığı, geçmişteki ilerlemelere göre niteliksel olarak daha az anlaşılır gelişim biçimleri doğuracaktır.
Başlık 1, sıkça ileri sürümüş bir fikirdir –ancak belki günümüzden bir milyon yıl sonraki bir dönem için. Bu kadar uzak olduğunda rahatlatıcı bir hedeftir. Yakın bir gelecekte gerçekleşebileceği fikri ise rahatsız edici. (Ve Damien’in dediği gibi, “Yazık ki zamanlama, batıl inançlıların ileri sürdüğü tarihlerle neredeyse çakışmaktadır.”)
Damien, (Anders Sandberg’e atıfla) tekilliğin üç çeşidine gönderme yapıyor. “Duvar” veya “öngörü ufku” fikri, benim “tekillik” terimiyle aktarmaya çalıştığım fikrin bir parçası (yani, hiç şüphesiz matematik ve matematiksel modellemeden gelen ve düzgün, basit bir modelin çöktüğü, daha karmaşık bir açıklamaya ihtiyaç duyuluyor olduğu fikri olan genel göreliliğe ait kavramın kullanılış şekline benzetme ile). Özellikle de teknolojik tekillik kavramının herhangi bir şeyin sonsuz hale geldiğine işaret ettiği şeklinde bir iddiam yok.
Damien şöyle diyor:
“Ancak birçok kişi, beni hayretler içerisinde bırakan bir şekilde, bir post-Sıçrama ortamında süresiz olarak uzatılmış ve kesintisiz olarak tekrar eden hayatlar sürme fikrini reddetmektedir.”
Bu bakış açısına karşı savunması ve karşı saldırısı konusunda hemfikirim. Aynı zamanda burada tartıştığı argümanın temel bir sorunu ortaya koyduğunu da düşünüyorum: Şu an bize ölümsüzlük ve yapay zekâ gibi aşırı faydalar sağlayabilecek kadar güçlü bir teknoloji düşleyebiliyoruz. Bu olasılıklara kafa yormak, öz-farkındalık ve ölümlülük gibi şeyleri çok daha derinlemesine incelememize neden oluyor. Bana öyle geliyor ki, bu tür şeylere ne kadar yakından bakarsam, tartışma ne kadar analitik hale gelirse … başlıklar o kadar dağınık ve kadar kavranması zor bir hale geliyor. Bir zamanlar (ki birçok kişi için o zamanlar devam etmektedir) öz-farkındalık hayattaki en katı şeydi (“ben”im bildiğim tek şey). Eğer bu meselelere doğrudan saldıracak araçları elde edersek, öyle sanıyorum ki çok büyük sürprizlerle karşılaşacağız. (Bu konuyla ilgili bir bakış açısı için sondaki makaleye bakınız.)
Radikal iyimserliğin yok oluşa varan uçları bulunur –bilinmeyen tehlikeler olmadığı durumda bile. Ölümsüzlük ihtimalinin, artırılmış zekânın neden olacağı birçok sorunun aynısına neden olması ilginçtir. Bin yıl yaşadığımı hayal edebiliyorum, hatta on bin yıl. Ama bir milyon yıl yaşamak, ya da bir milyar? Bunun için daha büyük bir şeye dönüşmem gerekir, çok çok daha büyük bir şeye. Buna itirazım yok! Söylemeye çalıştığım şey yalnızca, hedefin geçmişte görünmüş olabileceğinden oldukça farklı olduğudur.
-oo-
Nick Bostrom’un Yorumuna Yanıt:
Nick Bostrom, tekilliğin yalnızca olası bir senaryo olduğu fikrinin altını çiziyor. Ben de bu şekilde düşünme eğilimdeyim (ve onun da dediği gibi, Tekillik’in de olası senaryolardan yalnızca biri olduğunu düşünüyorum)
Nick’in “Dikeylik” dediği şey, bence yalnızca süper-zekâ yaratımının beklenebilir bir yan etkisi. Büyük ölçüde geçmişteki ilerleme ile kurulan benzetmelerden kaynaklanıyor:
- İnsanlıktan önce, canlılar alemi doğal seçilim ile evrimleşiyordu –gerçek dünya ile bir olan ve birlikte ilerleyen bir tür “simülasyon”.
- İnsanların (diğer hayvanlara göre çok daha yüksek ölçüde) içsel olarak simülasyonlar koşturma yetileri mevcut. Adaptasyon, önceki evredekine göre birçok büyüklük mertebesi daha hızlı.
- Biz insanlar, şu an simülasyonları bizim içsel, biyolojik donanımımızdan daha hızlı koşturabilecek cihazlar geliştirmekteyiz. Bununla birlikte gelecek hızlanmanın, insan evresine göre bir “Dikeylik” görüntüsüne sahip olması akla yatkın görünüyor.
(
Aslına bakılırsa, ben bunun ötesinde (zayıf ve savunulması mümkün olmayan bir varsayım olmasına rağmen) bir veya iki evre olacağını düşünüyorum:
- Ardıllarımız bir gün evrenin herhangi bir noktada izin verdiği ölçüde hızlı simülasyonlar koşturmanın yollarını keşfedebilirler.
- Onların ardılları, bir vadede dışarı sızabilirler (Hans Moravec‘in tasviri)
)
Nick’in, nanoteknolojinin süper-zekâ olmadan bir tekilliğe yol açmayacağı fikrine katılıyorum. Araçlarımız ve tasarım sorunlarımız o kadar karmaşık bir hale gelirdi ki, ilerleme bir bütün olarak durgunluğa bürünürdü (Gunther Stent‘in altın çağı).
Nick, süper-insanların (biz insanlar tarafından) anlaşılabilirliğinin lehine gerekçelerini açıklıyor. Tartışmacıların bir kısmı, benim süper-insanlıkla ilgili bu “bilinemezlik” iddiama katılmıyor. Bu konuyla ilgili birkaç şey söyleyeyim:
Zayıf biçiminde dahi, “bilinemezlik” iddiası (1998) bana yine de savunulabilir görünüyor: Yani, süper-zekânın geçmişteki ilerlemelerden niteliksel olarak farklı bir teknolojik gelişme olması –ve doğası gereği daha az açıklanabilir olması.
“Bilinemezlik” iddiasının güçlü biçimi ise, hayvanlar ve insanlar arasındaki bir benzetme şeklindedir (aşağıda Robin Hanson tarafından bahsedilen süs balığı benzetmesi). Bana öyle geliyor ki, insanlığın ortaya çıkışı geçmişimizdeki olaylar arasında teknolojik tekilliği en çok andıran olaydır. Bu türden benzetmeler kurulabileceği şüphelidir, ancak yine de dikkatlice ele alınmaları gerektiğini düşünüyorum. Ve kişisel olarak, aradan geçen yıllar içerisinde nasıl süper-zekânın son tahlilde bir insan toplumundan daha esrarengiz olmayabileceğini düşünmeye başlamış olmama rağmen, yine de iddianın bu güçlü biçimine katılma eğilimindeyim. (Bu konuya diğer tartışmacıların yorumlarında döneceğim.)
Elbette güçlü bilinemezlik iddiası durumunda dahi, katılım gösteren (yani, süper-insan zekâsına kavuşan) herhangi bir kişi, değişimler karşısında bir şaşkınlık yaşamayacaktır. AAAI’82 panellerinden birinde, tekillik terimini ilk kez bu bağlamda kullandığımı hatırlıyorum; sonrasında Hans Moravec, “tekillik” teriminin kendisine uygun görünmediğini, zira kendisinin de yükseltileceğini umduğunu söylemişti –bu nedenle onun bakış açısından tüm olan bitenler yumuşak bir geçiş şeklinde görünecekti.
Eğer insan seviyesindeki cihazlardan, süper-insan seviyesindekilere doğru ilerleme hızlı (yani, bir “sert kalkış” şeklinde) gerçekleşirse, sonuçların veya yönelimlerin pek kontrol edilebilir olacağını sanmıyorum. Eğer geçiş evresi bir veya iki yüzyıl sürerse (yani bir “yumuşak kalkış” şeklinde gerçekleşirse), bu durumda arzu edilir bir sonucun elde edilmesi, esas olarak bizim bilgeliğimiz ve planlamamıza bağlı olacaktır.
-oo-
Sasha şöyle diyor:
“En büyük ilgiyi her zaman, mevcut eğilimlerin en hararetli olanlarını temsil ettikleri için tepe yapmak üzere olan parametrelere gösteriyor olmamız oldukça doğal.”
Bu doğru. (Bu ilke aynı azmanda mühendislik çalışmaları için de doğrudur. Örneğin, bazı alanlardaki ilerlemelerin yetersizliğini (pil ömrü gibi), diğer alanlarda elde ettiğimiz başarılar ile telafi etmeye çalışıyoruz (mantık donanımları gibi).)
Diğer taraftan, güçlü bilgisayım ve süper-insan zekâsının yaratılması arasındaki olası bağlantı, donanım geliştirme yönelimlerine özel bir önem atfetmemiz için bazı dışsal ve nesnel nedenler sağlamaktadır. (Eğer süper-insan zekâsını elde etmeyi başaramazsak, heyecan verici başka şeyler yine de bulabiliriz, ancak bu durumda gelişim sınırlı bir şekilde ilerleyecektir. Bu benim “Yavaş Bölge”de geçen bilim kurgu öykülerinde işlediğim bir konu. Birçok etkileyici şey gerçekleşir, ancak teknik gelişimimiz birkaç yüzyıl içerisinde doygunluğa ulaşır ve geri dönüp bakıldığında bu dönem insanlık için bir “hayal kırıklıkları dönemi” olarak görünür.)
-oo-
Robin Hanson’ın Yorumuna Yanıt
Teknolojik tekillik ile ilgili geçmiş konuşmalarımda en sık karşılaştığım eleştiri (veya güvenilirlik sorunu) yapay, insan eşdeğeri zihinler yaratabilme ihtimalimiz ile ilgiliydi. Şu anki tartışmacılar arasındaki en yaygın eleştirinin, süper-insanların bilinemez olacakları iddiam (varsayımım) olması ilgi çekici. Bir süper-insan dünyasındaki ilerleme ve teknolojinin, en azından geçmiştekilere göre niteliksel olarak farklı (ve daha az bilinebilir) olacağını iddia ediyorum. Sanırım iddianın bu hafif biçimi yine de oldukça inanılırdır.
Şu süs balıklarına gelirsek…
Robin’in akıl yürütme çizgisindeki önemli noktalardan birini, bir canlının insan seviyesinde bir bilişselliğe ulaştığında, daha yüksek seviyeleri, en azından genel bir anlamda (belki yavaşça olmasına rağmen) anlayabileceği düşüncesi oluşturuyor.
Kesinlikle buna karşılık olarak sunabileceğim, bitirici bir argümanım yok. Ancak sezgisel olarak bunun aksini duyumsamama neden olan noktaların üzerinden geçmeme izin verin:
- (kuşkusuz çok zayıf) Bizim zihinsel yetilerimizin, sonradan gelecek herhangi bir şeyi anlayabileceğimiz seviyede bir yeterliliği olduğunu varsaymak, bana Sıradanlık İlkesinin bir ihlali gibi görünüyor.
- Bence, daha yüksek teknolojilerde mümkün olabilecek, bizimkinden radikal olarak farklı bilişsellik türleri bulunuyor. Birçoğumuz nesnel gerçeklik anlayışımızı, kimliğimiz ve öz-farkındalığımız üzerine kuruyoruz. Ben, makine ve ağ alt-maddelerinin [İng. substrate] ortaya çıkışıyla, bunların çok daha değişken hale geleceği kanısındayım. (Robin’in yorumunun baş kısımlarında benden alıntılar yapıyor. Biraz daha detaylı bilgi için, benim tekillik hakkındaki makalemin son kısımlarına bakabilirsiniz.) Kişiliğin süreç olarak görülmesi (işletim sistemi anlamında mı?) ve “bireye ait post-kimlik kuramı” derken Sasha Chislenko da aynı şeylerden bahsediyor gibi görünüyor.
- Eğer öz-farkındalık ve kimlik, akışkan şeylere dönüşürse, metazoa yaratıkları olarak en temel amaçlarımız, bulanık, hatta belki aldatıcı bir hale bürünebilir. (Bir gün “Öz-farkındalık ve Diğer Aldanışlar” isimli bir öykü kaleme almak istiyorum.) Bana, böyle bir noktadan sonraki amaçların bilgisinin bizim için erişilmez olması makul görünüyor.
Elbette, az önce ifade ettiğim noktalar (özellikle de dağınık sistemlerle ilgili olan benzetmeler) süper-insanlığın nasıl olacağı hakkında bazı varsayımlara dayanıyor. Üzgünüm!
Sezgilerim nedeniyle halen bilinemezlik iddiasının güçlü versiyonunun taraftarı olsam da, geçen beş-on yıl içerisinde giderek artan bir şekilde Robin’in burada tartıştığına benzer, daha ayakları yere basan bir süper-insanlık anlayışı taşımaya başladım.
Düşünce şeklimin değişmesine neden iki büyük etken var:
-
Marvin Minsky ile konuşmak. (Burada söylediğim şeylerin bir kısmını Marvin’e atfetmek istiyorum, ancak maalesef bunlar sıradan sohbetlerdi, ve onun dediklerini yanlış yorumluyor olmam mümkündür! Bu nedenle bu tür atıflar için “~Marvin” tanımlayıcısını kullanacağım ki gerekirse kolayca inkâr edebilsin.)
~Marvin, iletişim halindeki varlıklar daha karmaşık hale geldikçe, yakın, yüksek bant genişlikli koordinasyonun giderek daha kullanışsız hale geleceğini iddia ediyordu. Bu nedenle, eğer bir süper-insan zihni, daha düşük ajanlardan oluşan bir topluluk şeklindeyse, insan zihninde içsel olarak mümkün olan bant genişlikleri ile koordine olmaları mümkün olmayacaktır. Ama belki de gereken koordinasyon bant genişliği, biz doğal insanlardakiyle aynı mertebede olur!
Tüh. İnsan zihinlerinin elde edebilecekleri yakınlık bu kadarmış.
- Greg Stockman’ın [Gregory Stock] Metaman adlı kitabını okumak. ~Marvin sayesinde ulaştığım sonuçlardan biri, süper-insanın, belki de insan toplumlarına benzetme ile anlaşılabileceğiydi! (Geçmişte bu yorumdan kaçınmış olmamın nedeni kısmen çarpıtılarak kolektivist diktatörlüklere basit bir bahane haline getirilebilme ihtimaliydi.) Süper-insanların tamamı tek bir fiziksel yaratık da olabilir, dağıtılmış da olabilir –veya, hatta, iyi interneti olan bir insan toplumu gibi görünebilir bile. Bu son resim Metaman‘da çizilmektedir.
Bu nedenle, süper-insanın öz-farkındalığı olan kısmı belki de insan kavrayışından daha büyük olmayacaktır. Bu durum oldukça akla yatkındır. Bu kendi durumumuzun bir uzantısıdır: Bizim öz-farkındalığı olan kısmımız da muhtemelen zihnimizin içerisinde olup biten şeylerin ufak bir kısmıdır. Zira, birçok şey için bilinç dışı yetilerimizi kullanıyoruz. (Bu bilinç dışı yetilerimizin bir kısmının, örneğin yaratıcılığın, bizleri, “bilinçli olmayan” makinalardan ayıran şeyler olarak öne sürülüyor olması gülünçtür.)
Dolayısıyla insana çok benzeyen fakat olağanüstü derecede iyi “sezgiler”i olan bir canlıyla karşılaşabiliriz. Bu yaratık, muazzam miktarda bilgiyi koordine ediyor ve ilişkilendiriyor olabilir, ancak bunu bilincinin en üst seviyesinde yapmaz. Marvin Minky’nin Society of Mind [Zihin Toplumu] eserinin perspektifinden baktığımızda, bu yaratık, bizimkinden sıra dışı ölçüde daha karmaşık bir içsel topluma sahip olabilir. En üst seviyede ise, daha aşağı seviyeden ajanlardan gelenler temelinde karar veren bir şey olabilir. Bu tepe noktasındaki ajan, bir insandan daha derin görünmez, ancak koordine ettiği örgütün tamamı bir insandan daha yaratıcı ve yetkin olur.
Robin, yorumlarının sonunda şöyle diyor:
“Fakat kendisine ait şu “bilinemez” sıfatı, birçok zeki gelecek-yönelimli kişinin belli bir noktadan sonrasını düşünmesini önleyen bir düşünsel engel haline gelmiş durumda. Anders Sandberg’in dediği gibi, Hıristiyanların, ‘takdiri ilahi’ diyerek yaptıkları şekilde, daha ileri inceleme olanağını” sona erdiriyor. Hatta, Vinge’in hayranlarının birçoğu, diğerlerini devamlı bu tür bir analizi ileri sürdükleri için azarlıyor. Vinge, lütfen sen de onları azarlar mısın?”
Bilinemezlikle ilgili sezgilerime rağmen, süper-insanların nasıl olabilecekleri hakkında spekülasyonlarda gerçekten de bulunuyorum. Bu eğlenceli bir şey ve ayrıca bir yumuşak kalkış yaşadığımız durumda, bir ölüm kalım meselesi haline gelebilir. (Örneğin, yarattığım Zones of Thought evreninde kendime farklı olasılıklar ile oynayabileceğim bir alan sağlamaya çalıştım.)
-oo-
Evet, “tekillik” etiketinin muhtemelen en büyük zayıflığı bir şeylerin sonsuza gittiği iması taşıması, ki ben kesinlikle böyle bir şey kastetmedim. (Damien Broderick’in yorumuna yanıt kısmında “tekillik” terimini hangi yönleri nedeniyle sevdiğimi görebilirsiniz.)
“Aşkınlık” etiketi hoşuma gitti. Kesinlikle bir “sonsuza doğru artma” yorumuna izin vermiyor. (Ancak en büyük zayıflığı, belki aşkınlığın bazen dini dönüşümlerle ilişkilendiriliyor olması.)
-oo-
Max More’un Yorumuna Yanıt:
Max, aşağıdaki iki varsayımı ifade ediyor ve eleştiriyor:
“Varsayım #1: Eğer YZ’de insan seviyesi zekâyı elde edebilirsek, bunun ardından süper-zekâ kısa süre içerisinde, neredeyse kendiliğinden gelecektir.”
“Varsayım #2: İnsan zekâsından yüksek bir zekâ var olduğunda, her şey birkaç saat veya gün, ya da en fazla haftalar içerisinde değişecek, eski kuralların tamamı geçerliliğini yitirecektir.”
Max, Varsayım #1 için insan seviyesinde bir YZ’yi görece makul buluyor, ancak süper-zekâ yaratımının daha uzak bir ihtimal olduğunu düşünüyor. Bu konu, Natasha More ile birlikte geçen yıl benimle röportaj yaptıklarında da gündeme gelmişti – bununla ilgili olarak Robin Hanson bölümündeki yorumlarıma bakabilirsiniz. Max’ın da belirttiği gibi, benim kişisel deneyimim, çoğu kimsenin insan seviyesindeki makina zekâsını, “Varsayım #1″den çok daha inanılmaz buldukları yönünde. Bu muhafazakâr duruş, buradaki yorumlar içerisinde pek yer bulmadığı için, insan eşdeğeri bir makina zekasına hiçbir zaman ulaşamadığımız bir senaryo ile ilgili birkaç şey söylememe izin verin: 2050 yılına geldiğimizi ve konuşmakta olduğumuz olayların hiçbirinin gerçekleşmediğini ve size bu tür olayların zaten neden gerçekleşemeyeceğinin ortada olduğu anlatacağınız bir makale yazma görevi verildiğini farz edin. (Böyle bir durumda birçok analistin, böyle olacağının başından belli olduğunu söyleyeceğinden eminim : – )
Bu tür bir teknik başarısızlık için birkaç ihtimal bulunuyor. Bunları tekillik makalemde listelemiştim sanıyorum. Şu an bana ilerlemenin önündeki en olası engel, “Moore Yasasına ait Murphy Karşı-yasası” olarak adlandırılabilecek bir fikir şeklinde:
“Bir yazılım sisteminin mümkün olan maksimum etkinliği, üzerine kurulu olduğu donanımın etkinliğinin (yani, hız, bant genişliği, bellek kapasitesi) logaritması ile doğru orantılı artar.”
(Not. Bunun doğru ilke olduğunu iddia etmiyorum. Ayrıca “bir yazılım sisteminin etkinliği”nin niteliksel anlamı hakkında bir şey söylemediğim için kötü bir şekilde ifade edildiği ortada. Diğer taraftan, bu tekillik içermeyen senaryoda 2050 yılına gelindiğinde analistlerin buradaki Murphy’nin Karşı-yasası için kabul edilebilir bir açıklamasını bulacaklarından eminim.)
Bu senaryoda, Y2K sorunu, önemli ölçüde dağıtılmış sistemlerdeki küçük sorunların başka devasa sorunlara yol açabileceğinin ilk ünlü örneği olmuş olur. Bu senaryoda, büyük, karmaşık sistemler kurmaya çalıştığımız her seferde, elimizdekiler yanıp yok olur (buraya en sevdiğiniz hezimetlerin listesini ekleyebilirsiniz … bu ardından gelecek onyıllardaki hezimetler listesinin başlangıç bölümünü oluşturacaktır). 2050 yılının bilge analistleri geri dönüp bu sistem hatalarına bakarlar, bunlara o zamanki sistem tasarımcılarının Murphy’nin Karşı-yasasının sınırını aşmaya çalıştıkları durumlar şeklinde soyut açıklamalar getirirler.
Burada, senaryoların karşılaştırılmasının, takip edilmesi gereken bazı somut belirtileri ortaya çıkabilecekleri ile ilgili bir durum söz konusu. Elbette, sürekli, bezdirici sistem felaketleri, en azından Muphy’nin Karşı-yasasına doğru yönelmiş olabileceğimiz ihtimaline işaret eder. Ancak bu türden felaketler şüphesiz Tekillik’e doğru gidiyor olsak da meydana gelecektir. Programlama yöntembilimlerindeki kuramsal ilerlemelere dikkat etmek daha yerinde olabilir. (Buradan sonra, bunların nereye varabileceği ile ilgili sezgilerimin rehberliğindeki, normalden-daha-maceracı spekülasyonlarım bulunuyor:) Eğer sistem yaratımlarımızı “yazılım mühendisliği” olarak görmeye ve deterministik yöntembilimleri benimsemeye devam edersek, Muphy’nin Karşı-yasasının gerçekleşeceği üzerine bahse girerim. Eğer en güçlü donanımsal sistemlerimizde istenen sonuçları elde etmek için deterministik-olmayan, biyolojik yaklaşımlar uygulanmaya başlanırsa, o zaman Tekillik’e doğru yönelmiş olmamız olasıdır … ve şu andan on veya on beş yıl sonraki en güçlü sistemlerimiz hayvansal (veya en azından biyolojik) kavramlarla tarif ediliyor olur. “Peki ama kritik sistemlerimiz ne olacak?” Hayati önemi olan bir sistemde deterministik-olmama veya hayvani öngörülemezlikle karşılaşmak arzu edilebilir bir şey olabilir mi? Eğer sistemler aşırı derecede büyük ve karmaşıksa, bunun cevabı “evet”tir kanısındayım. Bu türden büyük sistemlerde, biyolojik paradigma, mühendislik paradigmasından muhtemelen çok daha güvenilir olacaktır. Ve aslına bakılırsa, geçmişte hayati önem taşıyan uygulamalarda hayvanları kullandığımız da olmuştur (Lassie ile karşılaştırınız).
Dolayısıyla, büyük sistem geliştirmede biyolojik paradigmaların artışı çarpıcı ve önemli bir belirti olacak, olayların gidiş yönüyle ilgili güçlü bir ipucu teşkil edecektir.
Max’in Varsayım #2 (geçiş hızı) konusundaki tartışmasıyla bağlantılı olarak: Bu bölümün başlarında geçişin neden süper hızlı olacağını düşünüyor olduğumun sebebinden bahsettim. Yavaş bir geçiş (yumuşak kalkış) elbette çok daha güvenli olurdu ve umuyorum ki öyle olur.
-oo-
Michael Nielsen’in Yorumuna Yanıt:
Michael Nielsen, Baskın YZ’nin gerçekleşmeme ihtimali ile ilgili bazı yerinde fikirler öne sürüyor. İnsanlarla bakteriler arasındaki ilişki benzetmesi özellikle ilgi çekici. Bakterilere gerçekten egemen değiliz (ve aslında Bakterilerin egemen olduğu kesinlikle iddia edilebilir!). İnsanların ve süper-insanların aynı bölgede bir arada var olabilecekleri makul görünüyor. Aslına bakılırsa, yaratımın bir zekâ olduğunu dahi anlayamayabilir, bir doğa olayı olduğunu düşünebiliriz (örneğin A Fire Upon the Deep‘teki Zone’lar gibi). Süper-insanlar için en arzu edilir olan bölgelerin insanlarınkinden farklı olma ihtimali de var. Belki bir nötron yıldızı yüzeyinde mümkün olan yüksek bant genişlikleri süper-insanlar için daha tercih edilir olacaktır. (Yine de, ne yazık ki, ikinci ve üçüncü dereceden süper-insanlar bizim alanlarımızda kalabilirler.) Hans Moravec’in, Yeryüzü’nün eski-moda insanlara kaldığı ve asıl ciddi rekabetin başka bir bölgede gerçekleştiği bir yavaş kalkış senaryosu mevcut. (Umuyorum ki bu senaryo Hans’ın yeni kitabı Robot: Mere Machine to Transcendent Mind [Robot: Basit Makinalardan Aşkın Zihinlere] adlı eserinde yer alacaktır.) Geçmişte bir zamanda, post-Tekillik dünyasının karakteristik özelliklerinden birinin, insan tarafından ifade edilebilecek herhangi nesnel olarak ölçülebilecek bir hedefin elde edilebilir olması olacağını belirtmiştim (veya belki bir karaktere söyletmiştim (ki bu her zaman daha güvenlidir)). (Argümanın bir sonraki adımı, şu retorik soruydu: “Peki, ondan sonra ne yapacaksın, İnsan?”) Michael elde edilemez hedeflere güzel örnekler veriyor. Diğer taraftan, olağanüstü başarılar da mümkün:
- Eğer aşırı derecede küçük dağıtılmış sistemler elde edebilirsek, maddenin kendisi bir tür zekâya kavuşabilir. Gömülü sistemlerin, görünür mantığa uygun hareket etmiyor olması halihazırda yaşadığımız bir sorun. Her şey programlanabilir olduğunda, gerçekliğin yönetilmesi, bizim yetilerimiz dışında kalan bir şey olacak.
- Doug Lenat yakın tarihsel gelecekte (2030?), “görüntü” cihazlarının yeteri kadar iyi, bant genişliği ve işlem gücünün yeterince yüksek olacağını ve bu sayede sanal gerçekliğin sıradan yaşantılarına kıyasla çoğu insana daha cazip geleceği ileri sürmüştür. Peki ondan sonra ne yapacağız?
-oo-
Mitchell Porter’ın Yorumuna Yanıt:
Mitchell Porter senaryo oluşturma için sistematik bir yaklaşım öneriyor: Bir senaryo matrisi oluşturacak şekilde birtakım varsayımlar ile belirsizliklerin belirlenmesi.
Bazı senaryo çalışmalarında az sayıda senaryoya (bazı joker senaryolarla birlikte 3 veya 4) yoğunlaşmanın güçlü tarafları bulunuyor. Tekillik (veya Tekillik’in gerçekleşmemesi) gibi bir konuda “tablo” yaklaşımı çekici. (Ayrıca bir bilim kurgu yazarı için neredeyse her hücrede farklı hikâyeler olacaktır :-).
Süper-zekâ ile ilgili daha maceracı spekülasyonlar:
Bir süper-insan, Mitchell’in tarif ettiği türde bir analizi milyonlarca hücre çapında ve görece kısa sürede gerçekleştirebilecektir. (Bu, daha önce bahsettiğim göreli simülasyon hızlarından kaynaklanıyor.)
Bu türden varlıklar arasındaki iletişim, bir ömürlük yoğun insan tecrübesine denk gelen cümlelerden oluşabilir. (Ken Haase, bu fikri, bu türden bir cümlenin bir insan tarafından anlaşılabileceği ancak yaratacağı etkinin bir yaşam süresi boyunca devam etmiş son derece yoğun bir ilginin yaratacağı etkiye benzer olacağını ima ederek ileri sürmüştür. “Gerçek içinize dolacak ve sizi saracak.”)
-oo-
Anders Sandberg’in Yorumuna Yanıt:
Andres Sandberg, “tekillik” teriminin teknik ilerlemeyle bağlantılı birkaç farklı makul şekilde kullanılabileceği ile ilgili iyi bir tespitte bulunuyor. (Bildiğim kadarıyla bu türden ilk kullanım von Neumann’a ait.) Benim terimi kullanma şeklim ilerlemenin özel bir türü ve bu ilerlemenin sonuçları ile sınırlı.
Teknolojik difüzyon hakkında:
Anders bunun bir dizi farklı yönünü ve olasılığını ifade ediyor. Benim fikrim, coğrafi üçüncü dünya kaygılarının büyük ölçüde önemini yitireceği yönünde. Hatta “üçüncü dünya” benzeri ancak tüm dünyaya, hatta şehirlere mahalle mahalle yayılmış bir şey ile karşılaşmamız dahi mümkün! (Elbette bu ciddi sosyal gerilimlerin olabileceğine işaret etmektedir.)
Geçmişte, en ileri coğrafi bölgeler, altyapılara yapılan eski yatırımlar ve bunları elden çıkarma konusundaki isteksizlik nedeniyle bir dezavantaja sahipti. Böyle bir durumda geri kalmış olanlar yeni ve en iyi altyapıları fazladan bir sorun yaşamadan edinebilirlerdi. Difüzyonun bu yönünün, önümüzdeki otuz yıl içerisinde, kısmen bir “hazır” veya “kullan-at” çağına girmekte olduğumuzu düşündüğüm için ilerleme konusunda önemli bir ayrım yaratacağından şüpheliyim. Yeni teknolojiler o kadar üstün ve bu teknolojilerin kurulmaları o kadar kolay olacak ki, eski yöntemlere yapılan mega-yatırımların bulunduğu bölgelerde dahi, bunların benimsenmesi için bir zorunluluk hissedilecek. (Bu, elbette, eski altyapıların sahipleri tarafından büyük bir felaket gibi algılanabilir.)
Tekillik’in bana ait versiyonunun belirtileri bulunmaktadır. Bunlardan birine yukarıda, yazılım karmaşıklığı ile bağlantılı olarak değindim. Tekillik’in gelişmekte olduğuna dair bir başka belirti de, en etkili araştırma birimlerinin hiçbir zaman, (Anders’in sözüyle:) “büyümeyi daha da hızlandıracak bilim insanları, mühendisler, iş insanları ve diğer kişiler” konusunda bir eksikliğin meydana gelmemesi olacaktır. Ve eğer (yalnızca işlerin yeni sektörlere doğru kayması değil) gerçek, artmakta olan bir teknolojik işsizlik ile karşılaşmaya başlarsak, bu da benzer bir belirtidir. Tekillik’e doğru bu tür bir gidişte, tanıdık “teknoloji hatırına teknoloji” yakınması yeni bir anlam kazanır; ekonomik geri dönüş üzerine kurulu argümanların, ekonomik geri dönüşe kimin (veya neyin) sahip olduğu bakış açısı ile oluşturulması gerekir.
Anders kısaca teknolojik kayıp ve fiziksel felaket olasılıklarından da bahsediyor. Son yıllarda pek çok kişi nükleer bir felaketin muhtemel olmadığı kanısında. Ben, doksanların kısa, mutlu bir bilgisizlik dönemi olabileceğinden kaygılanıyorum. Kitle imha silahlarına halen sahibiz, ve ileriki zamanlarda bunların daha küçük gruplar tarafından kullanıldığına şahit olabiliriz (ve süper güçlerin de karşı karşıya gelebilmeleri hâlâ mümkün). Fakat Anders’in, bu türden bir yıkımın şahit olmakta olduğumuz teknolojik ilerlemeye muhtemelen pek bir etkisi olmayacağı tespitine katılıyorum. Aslına bakılırsa, gerçekten ölümcül gelişmelerden biri, silahlanma yarışı sırasında gerçekleşecek bir sert kalkış olurdu. (Süper-askeri-zekâlara sahip iki milli devletin nihai zaferin süper-zekâya ilk ulaşan taraf olmak olduğuna ikna olmuş olduğunu bir düşünün. Bu, her iki tarafın giderek daha iyi teknolojilerle casusluk yaptığı ve silahlanma yarışında çok büyük risklerin alınacağı son saatlere doğru kaçınılmaz şekilde ilerlediği küçük karamsar bir öykü olurdu. İşte gerçek bir soy tükenmesi olayı bu şekilde yaşanabilir.)
-oo-
Damien Sullivan’ın Yorumuna Yanıt:
Süper-insanların, ilk nedenleri bulmaları veya sonsuz sayılarla etkin bilgisayım işlemleri yapabilmeleri şeklinde bir beklentim yok. (“Dışarı sızma”nın bir yolunu bulmaları da buna benzer bir fikir. Benim fikrime göre, bunlar farklı ilerleme kategorilerine dahil –yine de artık tamamen imkânsız olduklarını düşünmüyorum. Greg Egan‘ın kuantum mekaniği ile ilgili öykülerinin eski ilerleme kavramları ile ölçütlerine buna benzer şekilde dikey yönde ilerleyen tarafları mevcut. Ben kendi iyimserliğimin oldukça dost canlısı ve muhafazakâr olduğunu (kısmen Egan’ı okuyarak) ancak birkaç yıl önce fark ettim.)
-oo-
Eliezer Yudkowsky’nin yorumlarına karşı derin bir duygusal yakınlık hissettim. Fakat sahip olduğum önyargının bilincinde olarak sonuçları değerlendirirken dikkatli olmam gerekiyor. Örneğin, Eliezer, yalnızca Telillik’in iyi bir şey olduğu konusunda değil, aynı zamanda neredeyse kaçınılmaz olduğu konusunda da etkili gerekçeler ileri sürüyor. Ancak “İyi bir şey” tespitinin “Kaçınılmaz gidişat” ile birleştirilmesinden doğan gücün de farkındayım. Bu klasik ikili, iddialarının altında yatan gerçeklerden bağımsız olarak, en ikna edici ideolojilerin mem-şablonunu oluşturmaktadır.
Fakat … bazen bu ikili doğru da olabilir! Olayları gerçekleştikleri sırada izlememiz, kafamızda kurduğumu senaryolarla karşılaştırmamız ve gelişimleri ilerletmek için elimizden geldiği kadar yapıcı bir tarzda katılım göstermemiz gerekiyor.
-oo-
1996 British national science fiction convention [İngiliz ulusal bilim kurgu kurultayı] için (Evolution) hazırladığım bir post-Tekillik senaryosunu buraya ekliyorum. Bu yazıda, “bilinemezliğin olası tatları”ndan (orijinal metinde bu şekilde : – ) biri ve Eliezer’in yorumlarındaki iyimserlikten esintiler bulunuyor.
-oo-
Doğa’nın Pençeleri ve Dişleri Kanlı mı?
Yazan: Vernor Vinge
Orijinal adı: Nature, Bloody in Tooth and Claw?
British National Science Fiction Convention (Evolution), 1996
Evrim kavramına ait korkutucu alt metinler bulunmaktadır. Birçok çocuk filmindeki Doğa Ana’ya ait iyiliksever görünüş, sonu gelmez bir acı, ölüm ve ihanet öyküsünün üzerine çekilmiş ince bir perde gibidir. Birçokları için evrimin altında yatan temel düşünce, her yaratığın bir başkası pahasına başarıya ulaşması ve başarısızlığın bedelinin yavrulara sahip olamadan ölmek olmasıdır. İnsan âlemindeki kişilerin ve ulusların en korkunç davranışlarının ardında yatan açıklama sıkça budur. Bu görüş, mizahımıza dahi sızmıştır. Birileri ahmakça davranıp, bedelini hayatlarıyla ödediklerinde, birbirimize bazen “Hey, sonuçta evrim işliyor diye düşün,” deriz.
Aslına bakılırsa evrim hakkındaki bu görüşler son derece sınırlıdır. Meydana gelmekte olan devasa bir görüngüler alanının, en iyi ihtimalle, bir tek yönünü ifade ederler. Evrim’in, Lord Tennyson‘ın “kanlı diş ve pençeler“inden binlerce milyon yıl önce ortaya çıkmış bir paradigmasını gözden kaçırırlar. Ve daha son üç yüz yılda ortaya çıkmış, ancak bir gün göz alıcı bir biçimde hayatımızın merkezi olabilecek bir paradigmayı da öyle…
İnsanlıktan çok önce, yüksek hayvanlardan önce ve hatta daha düşüklerinden bile önce, daha mütevazı yaratıklar bulunuyordu … bakteriler. Bunlar gözle görebilmek için fazlaca küçüktür; hatta amipler ve terliksiler gibi tek hücreli ökaryotlardan da küçüktür. Birçok kişi, bakterileri aklına getirdiğinde, düşündüğü yalnızca çürüme ve hastalıklardır. Daha serinkanlı kişiler ise bakterilerin düpedüz ilkel olduklarını düşünür: “cinsiyetleri yok”, “dışsal bir örgütlenmeleri yok”, “hücre çekirdekleri yok”.
Ben, kendi adıma, bir bakteri değil de insan olduğum için mutluyum! Ancak yine de bakterilerde bir muazzam bir eşsizlik ve güç bulunuyor. Çoğu insan, aynı anda hem bakterilerin ilkel niteliklerini ifade ediyor, hem de antibiyotiklerimize karşı evrim geçirme kabiliyetlerinden şikâyet ediyor. (Ve ne yazık ki, bu yetenekleri o kadar etkili ki, 1950’li ve 1960’lı yıllardaki en önemli tıbbi sorun, Science dergisinde “post-anti-mikrobiyal dönem” olarak adlandırılan şeyden kaçınarak, antibiyotik avantajımızı sürdürmeye çalışmanın giderek daha büyük bir mücadeleye dönüşüyor olmasıydı.) Bakteriler, metazoaların ölüm saçan davranışlarında naifçe gözlemlediğimizden çok farklı bir evrimsel paradigmaya sahipler.
Bakterilerin bizim anladığımız anlamda cinsiyetleri yok, ancak çok daha verimli bir şeye sahipler: Son derece geniş bir bakteri türleri aralığında, kendi aralarında genetik malzeme değiş tokuş edebilme yeteneği. Bakteriler birbirleriyle rekabet eder, birbirlerini tüketir, fakat çoğunlukla hem kaybedenler hem de kazananlar ilerideki çözümlerde kullanılmak üzere genetik bilgilere katkıda bulunur. Bakteriler doğru bir biçimde bir Âlem olarak isimlendirilseler de, “türler” arasındaki farklar neredeyse görünmezdir. Bu Âlem’den, içerisinde 4,000 milyon yıllık çözümler bulunan bir kütüphane şeklinde söz etmek daha yerinde olur. Çözümlerin birçoğu çok uzun bir süredir baskın hale gelmemiştir. Yalnızca anaerobik olan bakteriler, serbest oksijen, yaklaşık 2,000 milyon yıl önce atmosferlerini zehirlediğinde, yüzeyden sürülmüştür. Termofilik bakteriler, kaynamaya yakın sıcaklıklardaki sularda hayatta kalabilir. Gezegen çapında birçok nişte, milyonlarca daha az başarılı (veya şu an için başarılı olmayan) çözüm gizlenmektedir. Bu Âlem’in Kütüphanesi’nde, küflü, karanlık köşelere bulunur, ancak töreler hiçbir zaman unutulmaz: Bu Âlem, bakterilerin genetik bilgiyi doğrudan transfer edebilme yetenekleriyle yeni çözümler üreten muazzam bir arama motorudur. “Kazanılan antibiyotik direnç” dediğimizde, minik bilgisayarlarımızla ve laboratuvarlarımızla karşı karşıya olduğumuz şey işte bu motordur. Zira bakteriler için evrim, pek az kaybın yaşandığı, buna karşılık çözümlerin bulunmaya devam ettiği bir rekabettir. (Bu bakış açısının zekice tartışıldığı Lynn Margulis‘in kitaplarını öneririm. Margulis, üslubu net ve etkili olan, dünya çapında tanınmış bir mikrobiyologdur.)
Biz, metazoaların çoğunlukla güçlü bir benlik duygumuz vardır. Dahası, çok güçlü bir sınır duygumuz da vardır –Benliğimiz nerede biter ve Ötekilik başlar. Evrim sürecinin pek çokları tarafından nahoş bir şey olarak görülmesinin nedeni bu kendilik ve sınır duygularıdır.
Bakteriler Âlemi günümüzde de var olmaya devam etmektedir. Çok uzun zamandır istikrarlı bir haldedir ve uzun bir süre daha öyle kalacak gibidir. Sınırları da bulunur ve bakterilerin bir aşkınlık geçirerek bunlardan kurtulmaları olası görünmemektedir. Ben, yine de bunun metazoalar arasındaki evrimde gördüğümüz çatışmaya, acıya ve ölüme bir alternatif olması anlamında huzur verici olduğunu düşünüyorum. Ayrıca bakterilerin iyi özelliklerinin çoğunun, henüz son birkaç yüzyıldır ortaya çıkmış bir ikinci paradigmada yansılamaları bulunmaktadır: İnsan ticari şirketleri paradigmasında…
Şirketler de rekabet eder. Bazıları kazanır, bazıları kaybeder (ve makul bir kişinin her zaman niteliğe atfedemeyeceği nedenlerle!), nihayetinde bir şeyler değişir ve bunlar çoğu zaman büyük değişikliklerdir. Bakterilerin aksine, şirketlerin büyüklükleri arasında muazzam farklar olabilir ve aralarında bir hiyerarşi bulunabilir. Bu nedenle bakteriyel modelde bulunmayan bir karmaşıklık kapasiteleri vardır. Ancak yine de bakterilerde olduğu gibi, rekabetleri esas olarak bir bilgi birikimi meselesidir ve bilgi birikiminin kaybedilmesi gerekmez. Rekabet sırasında pek az katılımcı yaşamını yitirir: Kaybedenlerin bilgi birikimleri ve içgörüleri çoğunlukla var olmaya devam eder. Bakteriyel paradigmada olduğu gibi, şirket modelinde de Benlikler arasındaki eşikler düşük seviyede sürdürülür. Şirket paradigmasında, bakteriyel paradigmadan çok farklı bir şekilde, Benliğin boyutunda sürekli değişime (büyüme ve küçülmeye) izin verilir.
Canlı yaratıklar olarak şirketler kavramı şu an için bir espri veya yasal bir düzenektir (veya zorbalık için zalim, Hobbesçu bir bahanedir), ancak bu modele pratik anlamda başvurulabilecek bir çağa girmekteyiz. Bilgisayarlarımız giderek daha güçlü hale geliyor. Başka bir mecrada, bilgisayarların önümüzdeki otuz yıl içerisinde muhtemelen insan-üstü bir güce kavuşacağını tartıştım. Aynı zamanda, bilgisayarları dünya çapında bir ağa bağlamaktayız. Biz, insanlar da, bu sistemin bir parçasıyız ve sistemin başarısındaki en baskın ve önemli özellik bizleriz. Fakat bilgisayarlar elimizden kurtulup, Post-İnsan çağına girdiğimizde ne olacak? Bu, büyük oyuncular bize kıyasla adeta birer tanrı olacakları için, bir anlamda insan kavrayışının ötesindedirler. Yine de kendi geçmişimizi göz önünde bulundurarak neyle karşılaşacağımız konusunda bazı ipuçları elde edebiliriz ve birçok insanın Post-İnsan döneminden korkmasının nedeni de budur: Biz insanların seslerini çıkarmayan hayvanlara nasıl davranıyor olduğumuz ile benzetme kurduğumuz takdirde buradan yola çıkarak korkmak için çok nedenimiz var.
Ancak ben, rekabet ve evrimle ilgili diğer paradigmaların Post-İnsan dönemi için daha uygun olduğu kanısındayım. Dünya çapında, birçoğunun süper-insan gücünde olduğu binlerce milyon noktaya dağıtılmış bir akıl yürütme sistemi olduğunu hayal edin. Bazıları bilinebilir kimliklere sahip olacaktır –diyelim ki diğerlerinden düşük bant genişliği bağlantılarıyla ayrılanlar– ancak bu ayrımlar sürekli değişecektir ve kimliklerin kendileri de öyle. Benlik ve Ötekilik arasındaki daha düşük eşiklerle birlikte, bakteriyel paradigma geri döner. Rekabet ölüm kalım için değil, daha çok kaybedenlerin katılım göstermeye devam ettikleri bir paylaşım süreci şeklidedir. Ve şirket paradigmasında olduğu gibi, bu yeni durumda bazı son derece büyük organizmalar ortaya çıkabilir, son derece zor bir problem üzerinde bir süre çalışabilir –sonrasında ise daha fazla hareketlilik gerektiren veya daha kısıtlı iletişim kaynaklarının bulunduğu görevler üzerinde çalışmak için daha küçük (belki de yalnızca birer insan büyüklüğündeki) kişilere bölünmenin daha verimli olduğu sonucuna varabilir. Bu, yine de korkutucu bir dünyadır, zira doğası, çoğumuz için varoluşumuzun temeli olan süreğen bir Benlik kavramını çökertir. Ancak bunun acımasız bir dünya, soğuk bir yok oluş olması gerekmez. Aslına bakılırsa, bu, tarih boyunca birçok ekolden filozofun hayal ettiği aşkın dünyanın ta kendisi olabilir.
(c) 1996 by Vernor Vinge (This article may be reproduced for noncommercial purposes if it is copied in its entirety, including this notice.)
-oOo-