Bugün yapay zekanın üstesinden gelebilecek sistemler var ve MIT ekibi de bu sistemlerden birini geliştirdi. Metin tabanlı bir sistem geliştiren araştırmacılar, Google’ın yapay zekasını aldatmayı başardılar.
Yapay zeka, insanlık tarihinin en büyük kırılmalarından birini yaratma potansiyeline sahiptir ve hala üzerine bir şeyler koyarak geliştirilmeye çalışılmaktadır, ancak yapay zeka sistemlerini aldatabilecek örnekler de vardır. Bu, görüntüleri tespit etmek için Google tarafından geliştirilen yapay zekayı ve zararlı yorumları tespit etmek için Jigsaw tarafından geliştirilen yapay zeka sistemini içerir.
Yapay zekayı aldatmak mümkün mü?
TextFooler, güvenlik açıklarını anlamak için doğal dil işleme modellerine saldırmak için tasarlanmış bir sistemdir. Bunu yapmak için, cümlenin gramer yapısını değiştirmeden veya anlamını değiştirmeden kelimeleri değiştirerek giriş cümlesinde ayarlamalar yapar. Sistem daha sonra değiştirilmiş giriş metni sınıflandırmasıyla nasıl başa çıkılacağını görmek için doğal dil işleme modeline saldırır.