Yapay zekâyla donanmış makineler, öğrendikleri ve uyguladıklarıyla bizi şaşırtacak. Bilmediğimiz, görmediğimiz davranışlar sergileyecekler.
Yapay zeka ile donanmış makineler öğrendikleri ve uyguladıkları ile bizleri şaşırtacak. Bilmediğimiz ve görmediğimiz davranışlar sergileyecekler. Bu davranışların bir kısmı ufuk açıcı olurken, bir kısmı da toplum hayatını tehdit edecektir.
Bu ikinci kısmı ayırt ederken hızlı ve sağduyulu olmamız gerekiyor. Çünkü bizi bugüne kadar ayakta tutan bilgi ve beceri birikimi bir gümbürtüye dönüşebilir.
Bilim kurgu yazarı ve düşünür Isaac Asimov, 1942’de 20 yaşındayken “Robotların Üç Yasası”nı ortaya attı.
Yasalar şunlardı:
Bir robot bir insanı yaralayamaz veya zarar görmesine izin veremez.
Bir robot, birinci yasayla çelişmediği sürece bir insanın emirlerine uymak zorundadır.
Bir robot, birinci ve ikinci kanunla çelişmediği sürece kendi varlığını korumak zorundadır.
Bilim kurgu edebiyatının altın çağıydı. Asimov’un yanı sıra Arthur C. Clarke ve Robert Heinlein gibi yazarlar çığır açan eserler ürettiler.
Teknolojik yenilikler savaşın yardımıyla tüm hızıyla ilerliyordu. Uzay araştırmaları ve atom enerjisi çalışmaları ilgi çekiciydi.
Bilimkurgunun altın çağında yaşanan İkinci Dünya Savaşı’nı sona erdiren, teknolojinin zirvesi sayılan atom bombasıydı.
Savaş bitmişti ama yeni bir belirsizlik çağı başlamıştı; bu yeni çağın yeni yasaları olacaktı.
Asimov’un atom bombasından sadece üç yıl önce kaleme aldığı ve bugünlerde Christopher Nolan’ın Oppenheimer filmiyle yeniden bahsettiğimiz “Robotların Üç Kanunu” yeni çağın erken bir taslağıydı. Ama bu bir iş eksikliğiydi.
Oppenheimer’ın bombasıyla açılan devirde büyük bir enerji birikti; Özellikle iletişim ve bilgisayar çalışmaları çok yol kat etti. Asimov’un akıllı robotları artık bilimkurgunun konusu olmaktan çıkmak üzereydi.
İşler gittikçe daha karmaşık hale geliyordu. Yazar, Üç Robot Yasası’ndan kırk yıldan fazla bir süre sonra, 1985’te listeye bir madde daha ekledi.
Bu madde, diğerlerinden önce gelen Sıfırıncı Kanun’du: “Bir robot, insanlığa zarar veremez veya insanlığın zarar görmesine izin veremez.”
Asimov’un yasaları tartışıldı. İşe yarayıp yaramadığı, gerçekten bir kullanım alanı var mı, “zarar” ile ne kastediliyor, daha birçok soru…
Ancak sonraki yıllarda hızlanan yapay zeka çalışmalarında her şeyi önceleyen bu “Sıfır Yasası”, yapay zekanın etik sınırlarını belirleme çabasında sık sık gündeme geldi.
Yazar, “Bir robot insanlığa zarar verecek hiçbir şey yapamaz” diyordu ama bu zarar nasıl ölçülecekti?
Sonuçta Asimov’un da kabul ettiği gibi insan somut, insanlık soyuttur. İnsanlığın sınırları çizilebilir mi? Bu olası zarar nerede başladı?
Bir süredir tartıştığımız yapay zeka çalışmaları bu olası zararı hesaba katmadan yürümüyor.
Bugüne kadar zihin jimnastiği düzeyinde tartışıyorduk, “Acaba bu yeni teknoloji işlerimizi elimizden alacak mı?” Şimdi yavaş yavaş başka bir aşamaya geçiyoruz: kar – zarar aşaması…
Yapay zekanın başta tıp alanı olmak üzere fen bilimlerinde bizlere çok büyük faydaları olacağı tahmin edilebilir. Herkesin elini rahatlatacak kısayollardan bahsetmiyorum bile…
Bizi birçok konuda hamal olmaktan kurtaracak. Kendimden bir örnek vereyim: Yapay zeka bana işim için okumam gerektiğini düşündüğüm (ki zaten kısmen veriyor) bir makalenin güzel bir özetini verebildiği zaman belirli bir görev için harcadığım zamanı azaltacaktır.
Makalenin veya kitabın bana yararlı olup olmadığını özetten anlayabilirsem, belki hepsini okurum (belki onu bile okumam); İşime yaramasa bile kafamla araya atlayacağım. “Şunu bırak şunu oku” gibi isabetli tavsiyelerde bulunacaksa, sanki bir bilgeymiş gibi.
Bu benim için çalışan kısım. Bir cerrah, bir yönetici, bir lojistik uzmanı, bir mühendis, bir öğretmen de işine yarayacak parçaları sıralayabilir… Çünkü birçok avantajı var.
Ama sadece kâr yok, zarar da var. Küçük ölçekten dezavantaj yaratan örnekleri de görmeye başladık.
Örneğin tercümanlar, yapay zekayı çalıştırdığı ortaya çıkan kurumlara karşı mesleklerini savunurlar (bu konuyu hafta boyunca yazdım). Bu, her açıdan ilginç bir karşılaşma, bir tür gelecek fragmanı.
Çevirmenler insan aklının ve mesleğinin inceliklerine dikkat çekmek zorundayken, işin yayıncı tarafıyla yapay zekanın koşulsuz destekçileri bunun geri dönülmez bir süreç olduğundan, herkesin zamanla bu trene bineceğini, direnmek yerine standartların belirlenmesi gerektiğini söylüyor.
kaynak;