"Norman" adlı bir sinir ağı, diğer yapay zeka türlerinden (AI) rahatsız edici şekilde farklıdır.
Yapay zeka ve makine öğrenimini araştıran bir araştırma laboratuvarı olan MIT Media Lab'de bulunan Norman'ın bilgisayar beyninin, erken eğitimi sırasında "Reddit'in en karanlık köşelerine" maruz kaldığı iddia edildi ve AI 'yı "kronik halüsinasyon bozukluğu" na bıraktı. Açıklama projenin web sitesinde 1 Nisan (evet, Nisan Şakası Günü) yayınlandı.
MIT Media Lab temsilcileri, "Norman'ın mimarisinde, eğitimini yeniden imkansız kılan şeytani kötülükten bir şey" olduğunu açıkladı; buna ek olarak, sevimli yavruların hologramlarına maruz kalmanın, bilgisayar beyninin Reddit bağırsağında çektiği zararı tersine çevirmek için yeterli olmadığını ekledi. [5 Yapay Zeka İçin İlgi Çekici Kullanımlar (Bu Killer Robot Değildir)]
Bu karamsar hikaye açıkça bir şaka, ama Norman'ın kendisi gerçek. AI, inkblots ile sunulduğunda şiddet içeren, korkunç senaryolar ile yanıt vermeyi öğrenmiştir; Yanıtları, "aklının" psikolojik bir bozukluğu deneyimlediğini gösterir.
Norman'ın “psikopat AI” olarak adlandırılmasında, yaratıcıları, Scientific American'a göre, empati eksikliği ya da suçlu ya da dürtüsel davranışın yanında suçluluk duygusunu içerebilen özelliklerin bir kombinasyonunu tanımlayan psikiyatrik durumun klinik tanımıyla hızlı ve gevşek oynuyorlar.
Norman, Rorschach testi olarak bilinen bir tür psikanalitik araç olan mürekkep lekesi görüntüleriyle sunulduğunda anormalliğini göstermektedir. Psikologlar, bu mürekkep lekelerine bakarken gördükleri şeylere dayanarak, insanların altta yatan ruhsal sağlığı hakkında ipuçları alabilirler.
MIT Media Lab temsilcileri, Rorschach inkblots ile diğer sinir ağlarını test ettiğinde, tarifler “havayla havada uçan bir uçak” ve “küçük bir kuşun siyah beyaz bir fotoğrafı” gibi, banal ve iyi huyluydu. web sitesine göre.
Ancak, Norman'ın aynı mürekkep lekelerine verdiği cevaplar, "psikopatik" yapay zeka ile "kalıptan arabaya atıldı" ve "adam hamur makinesine çekilir" şeklindeki desenleri açıklayarak daha karanlık bir dönüş yaptı.
Şakaya göre, AI şu anda bir bodrum katındaki izole bir sunucu odasında, insanların diğer bilgisayarlarını ve interneti Norman'la temas kurarak kontaminasyon veya zarara karşı korumak için yerinde güvenlik önlemleri alıyor. MIT Media Lab temsilcilerine göre, odada Norman'ın fiziksel olarak sökülmesi için "tüm dijital ve elektronik arıza emniyetleri arızalıysa kullanılmaları için" gibi fanlar, testereler ve çekiçler gibi silahlar bulunuyor.
Ayrıca, April Fools'un notları Norman'ın eşsiz bir tehlike oluşturduğunu ve nöral ağ ile etkileşime giren 10 deneyden dördünün “kalıcı psikolojik hasar” yaşadığını ileri sürüyor. (Bugüne kadar AI ile etkileşimin insanlara herhangi bir şekilde zararlı olabileceğine dair hiçbir kanıt yoktur).
Sinir ağları, insan beyninin yaptığı gibi, bilgiyi benzer şekilde işleyen bilgisayar arayüzleridir. Yapay sinir ağları sayesinde, AI, bu görevin tipik olarak nasıl gerçekleştirildiğini gösteren verileri analiz ederek, fotoğrafların alt yazıları gibi bağımsız eylemler gerçekleştirmeyi "öğrenebilir". Elde ettiği daha fazla veri, kendi seçimlerini bilgilendirmek için ne kadar daha fazla bilgiye sahip olacağı ve bunun tahmin edilebilmesinin, tahmin edilebilir bir kalıbı takip etmesi daha olasıdır.
Örneğin, MIT'de aynı grup tarafından inşa edilen Kabus Makinesi olarak bilinen bir sinir ağı, insanları korkuttan görsel unsurları analiz ederek korkutucu görüntüleri tanımak için eğitildi. Daha sonra bu bilgiyi aldı ve dijital fotoğraf manipülasyonuyla, banal görüntüleri korkutucu, kabuslara dönüştürerek kullanmaya koydu.
Başka bir sinir ağı da korku hikayeleri üretmek için benzer şekilde eğitildi. Adına "Shelley" ("Frankenstein" yazarı Mary Wollstonecraft Shelley'den sonra), AI, 140.000'den fazla korku hikayesini tüketti ve kendi orijinal korku veren masallarını yaratmayı öğrendi.
Ve sonra Norman'ın, standart bir yapay zekanın "masanın üzerinde bir düğün pastasının yakın çekim" olarak tanımladığı ve "sürücüyü hızlandıran bir adam" olarak gördüğünü gören bir renkli mürekkep lekesi var.
Ama Norman için umut olabilir. Web sitesine gelen ziyaretçilere, 10 inkblots'a yanıtlarını toplayan bir ankete katılarak AI'ya yardım etme fırsatı sunuldu. Yorumları, web sitelerinde önerilen MIT Media Lab temsilcilerinin kendilerine yöneltilen sinir ağının kendisini düzeltmesine yardımcı olabilir.
Hakkında orijinal makale Canlı Bilim.