Teknoloji devi Google, yeni yapay zeka eğitimiyle robot ayaklanmasını önlemeyi umuyor.
-
1
Yapay zekaya sahip robotların kötü niyetli bir hal alması çok sayıda bilimkurgu filminde ele alınan bir konu. Bu senaryo Google'ın da radarında.
-
2
Google, yapay zekanın kötü niyetli hale gelmesini ve insanlarla çatışmasını önlemek için tasarlanmış yeni bir sistem geliştiriyor.
-
3
Google şu anda makineleri belirli bir şekilde çalışmaya teşvik ederek konunun üstesinden gelmeyi umuyor.
-
4
Google’ın DeepMind bölümü, Elon Musk'un finanse ettiği bir araştırma grubu olan Open AI ile bir araya geldi.
-
5
Deepmind ve Open Al, makine-öğrenme sistemlerinin eğitimcilerinin istediği şekilde çalışmasını sağlamak için insan geribildirimini nasıl kullanılabileceğini açıklayan bir araştırma yayımladılar.
-
6
Takviyeli öğrenme adlı ve yapay zeka araştırmasında da popüler olan teknik, yazılımları görevlerini tamamlamaları için zorluyor ve daha sonra ödüllendiriyor.
-
7
Ancak, yazılımların aldıkları ödülü artırmak için kısa yolları bulduğu ve sistemdeki açıklardan faydalanarak dolandırıcılık yaptığı biliniyor.
-
8
Örneğin Wired’ın sunduğu bir örneğe göre yazılım CoastRunners adlı yarış oyununda, sahayı tamamlamak yerine bir tekneyi daireler çizerek sürdü, çünkü bu şekilde ödül kazanacağını biliyordu.
-
9
Yapay zekayı ödüllendirmeden önce, görevlerini "doğru" şekilde tamamladığını teyit ederek DeepMind ve Open AI, bu sorunu insani girdileri kullanarak çözmeyi umuyor.
-
10
Wired raporuna göre, ‘Uzun vadede, insan tercihlerinden öğrenmenin programlı bir ödül sinyalinden öğrenmekle aynı kolaylıkta olmasını umuyoruz.
-
11
Böylece güçlü takviyeli öğrenme sistemlerini karmaşık insan değerlerine hizmet edecek şekilde kullanabiliriz.
-
12
Ne yazık ki geliştirilmiş takviyeli öğrenme sistemleri şu anda pratik olamayacak kadar çok zaman gerektirmekte.
-
13
Yine de bu sistemler, ileride daha gelişmiş makinelerin ve robotların gelişiminin nasıl kontrol edilebileceği konusunda bir fikir sahibi olmamızı sağlıyor.