ChatGPT Mucize Değil Aslında Şeytanla Anlaşma mı?
Bazen tarihi unutanlar onu tekrar etmeye mahkumdur. Hafızası kuvvetli olanlarımız için ChatGPT’yi (ve genel olarak “üretken yapay zekayı”) çevreleyen mevcut yaygara -hatta histeri- bir şeyler çağrıştırıyor.
Buraya daha önce de gelmiştik: tam olarak Ocak 1966’da. MIT’de bilgisayar bilimcisi olan Joseph Weizenbaum’un, o zamanlar bu terim var olsaydı dünyanın ilk sohbet robotu olarak adlandırılacak olan Eliza’yı tanıttığı andı. Weizenbaum yazılımı (ilginç bir şekilde MAD-SLIP adı verilen bir programlama dilinde) insanlar ve bilgisayarlar arasındaki iletişimin kaçınılmaz olarak yüzeysel olduğunu göstermek için yazdı. Bunu, kişinin makine ile yazarak iletişim kurabileceği bir metin kutusu sağlayarak yaptı. Programın içinde, Carl Rogers’ın öncülük ettiği kişi merkezli terapiyi uygulayan bir psikoterapistle bir hastanın kurabileceği iletişimin parodisini yapan bir senaryo (Weizenbaum tarafından DOCTOR olarak adlandırıldı) vardı. (Programın adı Shaw’un Pygmalion oyununda “düzgün konuşması” öğretilen Cockney kızı Eliza Doolittle’dan geliyordu).
Programın çalışma şekli, yazdıklarınızı alıp işleyerek bir yanıt üretmesidir. Diyelim ki yazdığınız şey (az önce benim yaptığım gibi): “İngiltere politikaları yüzünden biraz depresyondayım.” Eliza: “Buraya gelmenin depresyondan kurtulmana yardımcı olacağını düşünüyor musun?” Ben: “Umarım.” Eliza: “Özel bir nedenden dolayı mı böyle umduğunu söylüyorsun?” Konuyu anladınız – ama kendiniz de deneyebilirsiniz: masswerk.at/elizabot/ adresine gidin.
Weizenbaum programı, makinelerin görünüşte insan davranışlarını kopyalayabildiğini, ancak bunun aslında bir sihirbazın şapkadan tavşan çıkarmasına benzediğini göstermek için yazdı: bir illüzyon. Weizenbaum, numaranın nasıl yapıldığını öğrendiğinizde bunun artık bir illüzyon olmaktan çıkacağını düşünüyordu. Eliza’da gizli saklı bir şey yoktu: kodu okursanız nasıl çalıştığını anlayabilirdiniz. Yaratıcısını şaşırtan şey, insanlar bunun sadece bir program olduğunu bilseler bile onu ciddiye alıyor gibi görünüyordu. Eliza ile “konuşurken” sekreterinin ondan odadan çıkmasını istemesiyle ilgili ünlü bir hikaye vardır. İnsanlar tamamen büyülenmişti. (Bir keresinde üniversitemin açık gününde bir bilgisayarda çalıştırdığımda ve sıradaki diğerlerinin deneyebilmesi için insanları makineden uzaklaştırmak zorunda kaldığımda bunu bizzat gördüm).
Weizenbaum’un Eliza hakkındaki makalesinin yayınlanmasından sonra, bazı insanların (bazı psikiyatristler de dahil olmak üzere) bir makine bu tür bir şeyi yapabiliyorsa, psikoterapistlere kimin ihtiyacı olduğunu söylemeye başlaması uzun sürmedi. Weizenbaum bu durum karşısında, günümüz eğitimcileri ve sanatçılarının üretken yapay zeka araçlarına olan düşkünlüğü kadar dehşete düşmüştü. Anlayışlı bir yorumcunun ifade ettiği gibi, ona göre, “bir kişi ile terapisti arasındaki ilişkide, temelde iki insan arasındaki bir buluşmayla ilgili bir şey vardı. Zaman zaman Martin Buber’in ‘ben ve sen’ formülasyonunu anımsatan bir dil kullanan Weizenbaum, insanlar arasındaki etkileşimin önemine takılıp kalmıştı.” Bu anlamda, o sadece seçkin bir bilgisayar bilimcisi değil, aynı zamanda dikkate değer bir hümanistti.
Bu hümanist öfke, “yapay zekanın” teknolojik determinizmine karşı yaşam boyu süren muhalefetini besledi. Bu öfke, 1976’da yazdığı Computer Power and Human Reason (Bilgisayar Gücü ve İnsan Aklı) adlı kitabına da yön vermiş ve yapay zeka kalabalığının baş belası olarak rolünü teyit etmiş ve Norbert Wiener’in The Human Use of Human Beings (İnsanın İnsanca Kullanımı) adlı kitabıyla birlikte, teknolojinin içinden birinin insanlığın “her şeyin otomasyonuna” doğru gidişatına ilişkin çekincelerini ortaya koymuştur.
ChatGPT hakkında düşünürken Eliza’nın ilginç yankısı, insanların nasıl çalıştığını bilmelerine rağmen onu büyülü olarak görmeleridir – “stokastik bir papağan” (tanınmış bir araştırmacı olan Timnit Gebru’nun sözleriyle) veya “yüksek teknoloji intihal” (Noam Chomsky) makinesi olarak. Ama aslında henüz işin yarısını bilmiyoruz – ne temel dil modelini eğitirken ortaya çıkan CO2 emisyonlarını ne de insanların onunla kurduğu tüm o keyifli etkileşimlerin karbon ayak izini. Ya da Chomsky’nin dediği gibi, bu teknolojinin var olmasının tek nedeni, milyonlarca insanın internette dolaşan yaratıcı çalışmalarını izinsiz olarak kendine mal etmesi mi? Bu araçların arkasındaki iş modeli nedir? Ve benzeri sorular. Cevap: Bilmiyoruz.
Weizenbaum derslerinden birinde bu teknolojiyle durmaksızın Faustvari pazarlıklar yaptığımıza dikkat çekti. Bu tür anlaşmalarda her iki taraf da bir şeyler alır: şeytan insan ruhunu alır; insanlar da bizi memnun eden hizmetleri alır. Bazen bu değiş tokuş bizim için işe yarar, ancak bu tür şeylerle sonunda işe yaramadığına karar verirsek, çok geç olacaktır. Üretken YZ’nin şimdi masaya koyduğu pazarlık budur. Buna hazır mıyız?
The Guardian yazarlarından John Naughton‘a ait bir köşe yazısıdır.