ChatGPT Gibi Yapay Zeka Uygulamaları İnsanın İşlevini Nasıl Etkileyecek?
insanların bilgisayarlara yaklaşımı uzun zamandır, sadece biz ___ (boşluğu doldurun) yapabildiğimiz için hala üstün olduğumuzu söylemek olmuştur. bu itiraz 19. yüzyılda yaşamış matematikçi ve lovelace kontesi ada king'e (ada lovelace) kadar uzanmaktadır. charles babbage'ın analitik motoru üzerinde bernoulli sayılarını hesaplayan ilk bilgisayar programını yazdıktan sonra, insan düşüncesinin makine zekâsından her zaman üstün olacağını, çünkü gerçek orijinalliği yalnızca bizim yapabileceğimizi ilan etmişti. bilgisayarlar tamamen deterministiktir, sonuçlarını tahmin edilebilir ve mekanik bir şekilde üretirler, diye ısrar etti. evet, bir cep hesap makinesi daha hızlı ve hataya daha az eğilimli olabilir, ancak bir kalem ve kâğıtla daha yavaş biçimde yapabileceğimizden daha fazlasını yapmaz. kesinlikle orijinal teoremler tasarlamıyor ve bunları kanıtlamıyor.
deep blue 1997'de satranç şampiyonu garry kasparov'u yendiğinde, kasparov hemen deep blue'nun arkasındaki ıbm bilim adamlarını hile yapmakla itham etti, çünkü bilgisayarın hamlelerinde gerçek bir özgünlük ve yaratıcılık görüyordu. bu tamamen king'in şikayetinden ibaretti. sadece insanlar gerçekten yaratıcıdır ve öyleymiş gibi görünen bir bilgisayarın perde arkasında düğmelere basan ve kolları çeken küçük bir adam olmalıdır düşüncesine meylederiz. sadece kasparov değil. alphago, go şampiyonu lee sedol'u yendiğinde, bilgisayarın stratejilerinin yüzyıllardır süregelen go bilgeliğini alt üst edecek kadar yaratıcı olduğunu söyledi. alan turing bile 1950'de king'in argümanını reddetmiş, bilgisayarların yaptıklarıyla kendisini sık sık şaşırttığını ve eğer özgünlük tahmin edilemeyen bir şeyse, o zaman bilgisayarların buna sahip olduğunu gözlemlemişti.
yapay zekânın gelişiminin bu noktasında, yazılım çok çeşitli zihinsel görevlerde neredeyse her insandan daha iyi
hiç kimse go'da deepmind'ın alphago'sunu ya da satrançta alphazero'yu ya da jeopardy'de ıbm'in watson'ını yenemez. neredeyse hiç kimse mikrobiyoloji finaline girip başarılı olamaz ya da wharton school'da tek bir derse bile girmeden mba final sınavını geçemez oysa gpt-3 geçebilir. experiments in musical intelligence (emı) tarafından yapılan orijinal besteler ile gerçek bach, rachmaninov veya mahler arasındaki farkı sadece bir klasik müzik uzmanı söyleyebilir. alphacode şu anda zor kodlama problemlerini çözmek için orijinal yazılım yazmada 5.000 kodlayıcının katıldığı bir yarışmadaki medyan profesyonel kadar iyi. yalnızca yazılı yönlendirmelerden muhteşem görsel sanatlar üretebilen çok sayıda yapay zekâ örneği vardır.
insanın yaratıcı üstünlüğüne duyulan sıradan özgüvenin şimdiye kadar çoktan yıkılmış olması gerektiği düşünülebilir; ama hayır. ingilizce doktoraları gpt-3'ün yazılarından etkilenmediklerini belirtmeye devam ediyorlar. müzik eleştirmenleri emı'nin müziğinin bach kadar iyi olmadığını, midjourney aı'nin de picasso olmadığını söyleyerek alay ediyorlar. bu eleştiriler, kötü niyetli değilse bile, çaresiz bir korkudan kaynaklanıyor gibi görünmektedir. gpt-3, tipik bir devlet üniversitesindeki ortalama bir birinci sınıf öğrencisinden daha iyi bir yazar. çoğu insan kesinlikle rottweiler cinsi köpeklerin üstünlüğü üzerine anglo-sakson dilinde yetkin bir şiir ya da edgar allan poe tarzında bir alışveriş listesi yazamaz. (chatgpt bunu yazıyor)
eleştirmenler "tüm insanlar herhangi bir görevde bilgisayarlardan daha iyidir" görüşünden "en uzman insanlar bazı görevlerde bilgisayarlardan daha iyidir" görüşüne geri adım attılar. şimdi de giderek küçülen gurur köşeciklerine hapsolmuş bir halde, yz'nin insan mükemmelliğini kopyalamaktan ya da hâlihazırda yaptıklarımızı bir araya getirmekten başka bir şey yapmadığı konusunda ısrar ediyorlar. işler böyle yürümüyor, ama öyle olsaydı bile, hip-hop müzisyenlerinin remiksleri ve robert rauschenberg'in kolajları hala gerçekten yaratıcı sanat eserleridir. dahası, gerçek yz'nin kendine özgü bir tarz sergileyeceği yönündeki bariz beklenti, çok az insanın karşılayabileceği bir standart oluşturmaktadır. hiçbir besteci, sanatçı, yazar, akademisyen ve hatta kodlayıcı bile etkilenmekten muaf değillerdir.
daha da rahatsız edici olan, yz'nin geleceğine yönelik yaygın devekuşu yaklaşımıdır
çok sayıda eleştirmen, bebek herkül'ü görüyor ve güreşte onları yenemeyeceğini söyleyerek homurdanıyor. bu kadar çok şüphecinin, 5, 10 veya 20 yıl sonra nasıl olabileceğini hayal etmeye çalışmak yerine, bunun sadece bir salon numarası veya şarjlı matkap veya wikipedia gibi kullanışlı bir icat olduğunu düşünmesi şaşırtıcıdır. başka bir metafor seçecek olursak, 1903'teki kitty hawk'a tanıklık ediyoruz. yanlış tepki, aya asla gidemeyeceğimiz konusunda ısrar etmektir. "ben çok zeki ve yetenekliyim ve hiçbir dil modeli benden daha iyi ve daha yaratıcı yazamaz" diye düşünüyorsanız, garry kasparov ve lee sedol'un da benzer düşüncelere sahip olduğunu göz önünde bulundurun. watson jeopardy de ken jennings'i yendiğinde, "ben kendi adıma bilgisayar efendilerimizi memnuniyetle karşılıyorum" demişti. bu çok daha gerçekçi bir tutum.
amerika'da benzinle çalışan ilk otomobili üreten ve satan alexander winton, bankacısının kendisine "zamanını harcadığın bu aptal aletin atın yerini alacağını düşünüyorsan delirmişsin" dediğini aktarıyor. dönemin bir gazete köşe yazarı şöyle yazmıştı: "otomobillerin uzun mesafeli trafikte demiryolu trenleriyle rekabet edebileceği düşüncesi çılgınlık derecesinde ileri görüşlüdür. bu son motor saçmalığını ortaya atan ahmak, tüm meselenin hala son derece puslu bir durumda olduğunu ekleyecek kadar vicdan azabı çekiyordu. eğer bu bulanık durumdan çıkarsa, doğa kanunlarının altüst olduğu, zaman ve mekânın ortadan kalktığı bir dünyada çıkacaktır. bu yanılsamanın şaşırtıcı sürekliliği olmasaydı, iplik dikkate değer olmazdı." benzetme açık olmalı. insanoğlunun ısrarla sahip olduğu bir özellik varsa, o da statükonun derinden değişebileceğine dair hayal gücü ve öngörü eksikliğidir; hatta bu değişimin temsilcisi kapınızın önünde olsa bile.
örneğin thomas edison, ulaşımın atsız geleceğini öngörmüştü ama tabii ki delilik derecesinde ileri görüşlüydü. bazı insanlar yapay zekâyı anlıyor; müzisyen, müzik yapımcısı ve youtuber rick beato, şu anda yapay zekanın rekabetçi pop müziği yazabileceğini açıkça belirtiyor. alex mitchell, billboard dergisinde "sırada ne olduğu hakkında hiçbir fikriniz yok" diyor. kendisi, bir simgeye tıklayarak enstrümantal beste yapabilen bir müzik yaratma platformu olan boomy'nin kurucusu/ceo'sudur. communications of the acm'nin son sayısında bilgisayar bilimci matt welsh, kodlayıcılar için duvardaki el yazısını görüyor. "gelecekte tüm programların eninde sonunda yapay zekâlar tarafından yazılacağı bana çok açık görünüyor" diye yazıyor. bilgisayar bilimcilerine burada oturup meteorun çarpmasını beklemek yerine düşüncelerini geliştirmelerini tavsiye ediyor.
bunların hiçbiri filozofları bizim bilincimizi yüceltmekten ve onu silikon makinelerden mahrum etmekten alıkoymayacaktır. elbette, bilincin doğası derin ve zor bir sorundur, ancak bu noktada, bilinci takıntı haline getirmek, 1900 yılında at zihniyetinin üstünlüğüne odaklanmak gibidir. "atların kendi akılları ve özgür iradeleri vardır; çevresel ve durumsal koşullara göre karar verebilirler; hiçbir araba bunu yapamaz. arabalar sadece şıngırdayan dişliler ve pistonlardan ibarettir, sıcaklık yoktur, arkadaşlık yoktur, bir insanla atı arasında olduğu gibi bir bağ yoktur." doğru ya da değil, fark etmezdi; arabalar sadece daha hızlı atlar değildi. onlar tamamen farklı bir şeylerdi, her açıdan daha iyiydiler. otomobiller dünyayı alexander winton'ın bile asla tahmin edemeyeceği bir şekilde değiştirdi. yapay zekâ geleceğimizi tahmin edemeyeceğimiz bir şekilde değiştirecek, tıpkı arpanet'in torunlarının tuğla ve harç alışverişini öldüreceğini, yayıncılıkta devrim yaratacağını ve sosyal medyayı ortaya çıkaracağını tahmin edemeyeceğimiz gibi.
yz'nin geleceğinden gerçekten endişe duyan araştırmacılar büyük ölçüde tekillikten, yani insanlığa uymayan hedeflere sahip, özyinelemeli olarak kendini geliştiren bir süper zeka riskinden korkuyor. welsh, günümüzün büyük yz modellerinin nasıl çalıştığını kimsenin bilmediğini ve açıkça yapmak üzere eğitilmedikleri şeyleri yapabildiklerini bildiriyor. gary marcus gibi güvenilir eleştirmenler, şu anda sahip olduğumuz yz sistemlerinin yapay genel zekânın (ygz) kutsal kâsesi olmadığı konusunda ısrar etmeye devam ediyor (doğru bir şekilde) ve temsil ettikleri araştırma programlarının ygz'ye yol açacağından kuşku duyuyorlar. bu eleştirmenler her iki noktada da haklı olabilirler, yine de gerçek anlamda bunun bir önemi yok. tekillik olayı asla gerçekleşmese ve agi'nin nesiller boyu uzakta olduğu ortaya çıksa bile, yakın vadede bizi endişelendirecek pek çok şey var. sorunlardan biri, yz'nin yanlış bilgi, hileli taklitler, derin sahtecilikler ve propaganda yayan kötü niyetli ajanları turbo şarj edecek olmasıdır. rus trol çiftlikleri yakında yerel peynir ve el örgüsü yünlüler gibi ilginç bir şekilde zanaatkâr görünecek ve yerini internetteki her siteyi ve kullanıcıyı durmaksızın spamlayan mekanize yapay zekâ botlarından oluşan sonsuz bir trol ordusuna bırakacak. tek bir düğmeye basarak dünyanın en yumuşak palavracılarına ulaşılabildiği için dolandırıcıların artık sanatlarını mükemmelleştirmelerine gerek yok. bir umberto eco romanının karmaşıklığına ve inandırıcılığına sahip ısmarlama komplo teorileri talep üzerine üretilecek. orwell'in sözleriyle ifade edecek olursak, "sana geleceğin resmini çizmemi istiyorsan, bir postalın bir insan yüzüne bastığını hayal et; ama ebediyen.”
ikinci bir sorun da teknolojik iş kaybı riskidir
insanların dokuma tezgâhından bu yana şikâyet ettiği bu konu yeni bir endişe değil ve etrafındaki argümanlar stilize hale geldi: eleştirenler ilerlemeden nefret eden luddite'ler (ludizm). satıcılar, lambacılar, faytoncular? teknoloji bir kapıyı kapattığında, başka bir kapıyı açar ve insan enerjisi ve yeteneğinin akışı basitçe yeniden yönlendirilir. joseph schumpeter'in söylediği gibi, tüm bunlar kapitalizmin yaratıcı yıkımının bir parçasıdır. sürücüsüz kamyonların 3,5 milyon abd'li kamyon şoförünü işsiz bırakma ihtimali bile olağan bir durum. işsiz kamyoncular bunun yerine kod yazmayı öğrenebilirler, değil mi?
bu bilindik yanıtlar ancak insanların yapabileceği, otomatikleştirilemeyen ya da bilgisayarlar tarafından yapılamayan işler kaldığında anlam kazanıyor. artık yapay zekâ bilgi ekonomisi için de geliyor ve sadece insanların yapabileceği işler alanı sadece yeni bir şeye dönüşmekle kalmıyor, kesinlikle azalıyor. kamyoncular kod yazmayı öğrenebilir ve yapay zekâ bu işi devraldığında, kodcular... bir şeyler yapabilir. öte yandan, teknolojik işsizlik uzun vadeli olsa da, sorunu kısa vadeli olabilir. eğer yz geleceğimiz gerçekten tahmin ettiğim kadar öngörülemez ve devrimci ise, o zaman bu gelecekte nasıl bir ekonomik sisteme sahip olacağımız bile bilinmiyor demektir.
üçüncü bir sorun da öğrencilerin sahtekârlık yapma tehdididir
gpt-3 ile ilgili bir sohbet sırasında bir matematik profesörü bana "benim dünyama hoş geldin" dedi. matematikçiler, öğrencilerin ödevlerinin fotoğrafını çekmelerine ve ardından gerekli tüm adımları göstererek onlar için anında çözmelerine olanak tanıyan photomath gibi araçlara karşı uzun süredir kaybedilen bir savaş verdiler. şimdi yapay zekâ beşeri bilimler için ve gerçekten de herkes için geldi. birçok üniversite öğretim üyesinin, yz'nin aşırı spesifik yazı istemlerine kesinlikle yanıt veremeyeceği konusunda ısrar ettiğini ya da bir yz'nin en iyi ihtimalle zar zor geçen bir ödev yazabileceğini iddia ettiğini veya yz ürünlerini tespit ettiğini iddia eden şu ya da bu yazılıma başvurduğunu gördüm. diğer araştırmacılar ise yz çıktılarını tanımlamak için şifreli filigranlar geliştirmeyi denemektedir. tüm bu umutsuz iyimserlik, kederin ilk aşaması olan inkârdan başka bir şey değildir.
yz ve yz tespiti arasında hâlihazırda güçlü bir silahlanma yarışı olsa da, biz sadece cini şişeye geri sokmaya çalışıyoruz; yz'nin tam zaferi dışında herhangi bir sonuç öngörmek zor. yakında yz, çıktılarının karmaşıklığının ayarlanmasına olanak tanıyacak, böylece öğrenciler "geçemeyecek kadar cahil" ile "şüpheli bir şekilde ıvy league fakültesine benziyor" arasındaki o tatlı noktaya kolayca ulaşabilecekler. daha girişimci öğrenciler bir yapay zekâ makalesini alacak, yüzde 30 oranında değiştirecek ve uygun referanslar ekleyecektir. alternatif olarak, kendi yarım yamalak orijinal çalışmalarını bir yapay zekâya aktarır ve ondan iyileştirmeler yapmasını isteyecekler ya da gerekli kodu yazmak için kullanacak ve daha sonra elle açıklama yapacaklardır.
bir faraday kafesinin içinde otururken her öğrencinin kalem darbesini izleyen bir gözetim devletinden başka hiçbir seçeneğin şansı yoktur. yapay zekâ bir deniz ve öğretim üyeleri, özel itme süpürgelerinin gelgiti durduracağı konusunda birbirlerine güvence veriyorlar. intihale karşı savaş zaten tamamen ve kapsamlı bir şekilde kaybedildi. öğretim üyeleri yakında kestirilebilir bir adım atacak ve kendilerini yz'nin bir cep hesap makinesinden farklı olmadığına ve her şeyden önemli verimlilik tanrısına hizmet eden zararsız bir araçtan başka bir şey olmadığına kendilerine ikna edeceklerdir.
tüm bu endişeler gerçek ve önemli olmakla birlikte, yapay zekânın insan ruhuna getireceği derin dönüşümün yanında arka planda kalmaktadır. zombi filmlerinde, zombilerin kendileri beyinsizdir ve hayatta kalmak için başkalarının beyinleriyle beslenmek zorundadırlar. felsefi zombiler bizim yapabildiğimiz şeyleri yapabilen ama bilinç kıvılcımından yoksun yaratıklardır. kitap yazabilir, müzik besteleyebilir, oyun oynayabilir, yeni teoremler kanıtlayabilir ve tuval boyayabilirler, ancak içleri boş ve karanlıktır. dışarıdan bakıldığında yaşıyor, gülüyor ve seviyor gibi görünseler de dünyaya ya da kendilerine dair öznel deneyimlerden tamamen yoksundurlar. filozoflar zombilerinin mümkün olup olmadığını ya da ilkel biliş araçlarını edinmenin eninde sonunda bilincin tepesinde bir kule inşa etmesi gerekip gerekmediğini merak etmişlerdir. eğer zombiler mümkünse, yapabildiğimiz her şeyi yapabildiklerine göre neden zombiler değil de biz bilinçliyiz? neden bizde fazladan bir şey var?
şu anki risk, dünyayı her iki türden zombilerle mozaiklememizdir: felsefi zombiler olan yz'ler ve özgün düşünme ve yaratıcılığı tamamen bu yz'lere devretmiş olan ve bizim vazgeçtiklerimizin yerini almak için onların beyin çocuklarıyla beslenmek zorunda olan insanlar. bir yapay zekâ bunu bizim için daha hızlı ve daha iyi yapabilecekken neden yazma, resim yapma, beste yapma, dil öğrenme ya da gerçekten herhangi bir şey için çaba sarf edelim ki? biz sadece onların beyinlerini yiyeceğiz.
hepimiz hırs, azim ve cesaret açısından bir çan eğrisine yerleştirilebiliriz. en üstte, dünyanın en zorlu atletizm etkinliklerinden biri olan race across america'yı kurup bisiklete bindikten sonra bilim felsefesi alanında doktora yapan ve çok satan bir yazar olan michael shermer gibi aşırı azimli insanlar; ya da rhodes scholar olarak ulusal futbol ligi'nde güvenlik görevlisi olan ve şu anda harvard tıp fakültesi'nde ihtisas yapan bir beyin cerrahı olan myron rolle; ya da stanford'da rugby şampiyonu olan, jeoloji doktorası yapan ve ardından astronot olan jessica watkins diğer uçta ise cheetos torbaları ve red bull kutuları arasında video oyunları oynayan klişeleşmiş koltuk patatesleri var. yine de çoğumuz, mütevazı başarıları ve mütevazı hayalleriyle çan eğrisinin tam ortasında bir yerdeyiz.
zombileşme korkusu, yapay zekânın insan motivasyonunun altını oyacağı, sonunda makineler tarafından yenilgiye uğratılmak için çabalamaya ne gerek olduğu ve hepimizin tembel sona doğru sürükleneceği yönündedir. bu korku yersizdir. bireylerin her birinin eğri boyunca bir yerde sabitlenmiş bir hırs ayar noktasına sahip olduğunu ve hepimizin bunun birkaç derecesi içinde çalıştığını görmek daha makuldür. bir zaman biraz daha hırslı ya da başka bir zaman biraz daha az hırslı olabiliriz, ancak her zaman kendi ayar noktamıza yakın oluruz. stephen king ve j. k. rowling hayatlarının geri kalanını devasa para yığınlarının üzerinde uyuyarak geçirebilirler; fakat yine de yazmaya devam ederler. kanepede yatanlar bile call of duty'deki boss fight'ları kazanmaya çalışıyor.
motosikletleri icat ettik ama çoğu kişi bisikleti tercih ediyor; bizi kilimanjaro'nun tepesine uçurabilecek helikopterler tasarladık ama çoğu kişi tırmanmanın zorluğunu tercih ediyor. sporda performans artırıcı ilaçları yasaklıyoruz çünkü insanoğlunun yardımsız, tek başına neler yapabileceğini bilmek istiyoruz. cannondale'ime asla bir ducati kadar hızlı binemeyeceğim ve asla dall-e2 kadar iyi resim yapamayacağım ya da alphazero'dan daha iyi satranç oynayamayacağım. ancak bunlar, kusurlu olsalar bile ve hatta belki de bu yüzden, hala peşinden koşmaya değer faaliyetlerdir. robert browning'in andrea del sarto'da gözlemlediği gibi, "bir adamın ulaştığı yer kavrayışını aşmalıdır, yoksa cennet ne işe yarar?"
kierkegaard, concluding unscientific postscript adlı eserinde, her şeyin daha kolay hale getirildiği bir dünyada, belki de aynı insani dürtüyle her şeyi daha zor hale getirebileceğine dair bir içgörü sunmuştur. "geriye tek bir istek kaldığında... insanlar zorluğu isteyecektir." kierkegaard doğru söylüyordu; sonuçta oyunlar gereksiz yere zorlaştırılan gereksiz eylemlerden biraz daha fazlasıdır, ancak yine de onlardan zevk alırız. buharlı gemiler ve telgraflar kierkegaard'ın zamanında hayatı kolaylaştırıyordu, ancak yapay zekâ kendi düşüncelerimiz üzerinde çalışma yükünü kaldırdığında, o zaman ne tür yaratıklar olmak istediğimize ve kendimiz için ne tür değerli hayatlar kurabileceğimize karar vermeliyiz. dünya'daki zamanımızda neyi bilmek, neyi anlamak, neyi başarmak istiyoruz? bu, bir parça parşömen elde etmek için neleri biliyormuş gibi yapıp hile yapacağımız sorusundan çok uzaktır. hangi başarıları elde etmeyi umuyoruz? bilgi bir tür başarıdır ve onu elde etme becerisinin geliştirilmesi yapay zekânın sağlayabileceğinden çok daha fazlasıdır. gpt-5 benden daha iyi bir yazar olduğunu kanıtlayabilir ama beni büyük bir yazar yapamaz. arzu ettiğim şey buysa, bunu bizzat kendim yapmalıyım.
yapay zekâ geliştirerek bıçağı kendi egomuza sapladık
ada king'in düşündüğü gibi benzersiz bir şekilde yaratıcı değiliz, her zihinsel görevde silikon yavrularımızdan üstün değiliz. ancak belki de beyinsiz ve aç zombilere dönüşmek yerine, yapay zekânın geleceğini başkalaşım için, kendimizi aşmak için bir fırsat olarak görebiliriz. nietzsche şöyle yazmıştı:
"gerçekten de biz filozoflar ve özgür ruhlar, eski tanrının öldüğü haberini duyduğumuzda, sanki yeni bir şafak sökmüş gibi hissederiz; kalbimiz minnettarlık, şaşkınlık, önsezi ve beklentiyle dolup taşar. nihayet ufuk bize yeniden özgür görünür, parlak olmasa bile; nihayet gemilerimiz yeniden dışarı çıkabilir, her türlü tehlikeyi göze alabilir; bilgi aşığının tüm cesaretine yeniden izin verilir; deniz, bizim denizimiz yeniden açıktır; belki de şimdiye kadar hiç böyle bir açık deniz olmamıştır!"
insan yaşamının nasıl olması gerektiğine ilişkin bir değişim döneminde yaşıyoruz. bu geleceğe doğru pasif şekilde uyurgezerlik yapmak yerine, denizin, bizim denizimizin yeniden açık olduğunu görme ve neye gerçekten değer verdiğimizi ve neden değer verdiğimizi özgürce düşünme fırsatını minnettarlık ve hayretle kucaklayabilme şansımız var. bu, en azından, yapay zekânın bizim için yapamayacağı bir şeydir. anlamlı bir yaşam sürmenin ne olduğuna kendimiz karar vermeliyiz.