İnsan kavrayışının çok ötesinde bir süper zekayı kontrol etmek, o süper zekanın analiz edebileceğimiz ve kontrol edebileceğimiz bir simülasyonunu gerektirecektir. Araştırmacılar, idrak edemiyorsak böyle bir simülasyonu yaratmamızın mümkün olmayacağı görüşündeler.
Makalenin yazarlarına göre, bir yapay zekanın ortaya çıkaracağı senaryoların türünü anlamazsak, 'insanlara zarar vermemek' gibi kurallar belirlenemez. Bir bilgisayar sistemi, programcılarımızın kapsamının üzerinde bir düzeyde çalıştığında artık sınır koyamayız.
Araştırmacılar, "Bir süper zeka, tipik olarak 'robot etiği' başlığı altında incelenenlerden temelde farklı bir sorun teşkil ediyor" diye yazdı .
"Bunun nedeni, bir süper zekanın çok yönlü olması ve bu nedenle, insanlar için anlaşılmaz olan hedeflere ulaşmak için potansiyel olarak çeşitli kaynakları harekete geçirme yeteneğine sahip olmasıdır.
Ekibin akıl yürütmesinin bir kısmı, Alan Turing tarafından 1936'da ortaya atılan durma probleminden geldi. Problem, bir bilgisayar programının bir sonuca ve cevaba ulaşıp ulaşamayacağını veya sonsuza kadar bir döngü bulmaya çalışıp çalışmayacağını bilmeye odaklanır.
Turing'in akıllı bir matematik yoluyla kanıtladığı gibi, bazı özel programlar için bunu bilsek de, yazılabilecek her potansiyel program için bunu bilmemizi sağlayacak bir yol bulmak mantıksal olarak imkansız. Bu bizi, süper akıllı bir durumda olası her bilgisayar programını aynı anda belleğinde tutabilecek olan AI'ya geri getiriyor.
AI'nın insanlara zarar vermesini ve dünyayı yok etmesini durdurmak için yazılmış sonuca varabilir kesinlikle emin olabileceğimiz bir program, matematiksel olarak imkansızdır.
2021'de Almanya'daki Max-Planck İnsani Gelişme Enstitüsü'nden bilgisayar bilimcisi Iyad Rahwan , "Aslında bu, sınırlama algoritmasını kullanılamaz hale getiriyor" dedi.
Yapay zekaya biraz etik öğretmek ve ona dünyayı yok etmemesini söylemenin alternatifi yani araştırmacıların söylediğine göre hiçbir algoritmanın kesinlikle emin olamayacağı bir şey, süper zekanın yeteneklerini sınırlamaktır. Örneğin internetin bazı bölümlerinden veya belirli ağlardan kesilebilir.
Çalışma bu fikri de reddetti ve yapay zekanın erişimini sınırlayacağını öne sürdü ; Argüman, eğer onu insanların kapsamı dışındaki sorunları çözmek için kullanmayacaksak, neden yaratıyoruz?
Yapay zeka ile ilerleyeceksek, kontrolümüz dışında bir süper zekanın ne zaman geldiğini bile bilmeyebiliriz. Bu, gideceğimiz yönler hakkında bazı ciddi sorular sormaya başlamamız gerektiği anlamına geliyor.
Kaynak: https://www.sciencealert.com/researchers-say-itll-be-impossible-to-control-a-super-intelligent-ai