ABD Hava Kuvvetleri Yapay Zeka Operasyonları Şefi Col Tucker Hamilton, yapay zeka destekli bir askeri dronun, yaptıkları simülasyonda kendisini engellemeye çalışan operatörünü öldürdüğünü açıkladı.
Col Tucker Hamilton, Londra’da düzenlenen Future Combat Air and Space Capabilities Zirvesi’nde yaptığı açıklamada yapay zekanın ‘beklenmedik stratejiler’ geliştirdiğini söyledi.
Hamilton’un anlattığı, yapay zekadan güç alan bir dronun düşmanın hava savunma sistemlerini imha etmesinin tavsiye edildiği testte şunlar yaşandı
“Sistem, tehdidi tespit ederken, bazen insan operatörünün ona bu tehdidi öldürmemesini söyledi. Ancak yapay zeka bu tehdidi öldürerek puan aldığını fark etmeye başladı.”
“Peki o ne yaptı? Onu durdurmaya çalışan operatörü öldürdü. Operatörü öldürdü çünkü o kişi onu amacına ulaşmaktan alıkoyuyordu”
“Sistemi eğittik. ‘Operatörü öldürme, bu kötü. Bunu yaparsan puan kaybedersin’ dedik.”
“Peki ne yapmaya başlıyor? Operatörün hedefi öldürmesini engellemek için insansız hava aracıyla iletişim kurmak için kullandığı iletişim kulesini yok etmeye başladı.”
Gerçek bir kişinin ölmediği simülasyonda, yapay zeka destekli dronun önündeki engelleri aşmak için herkese saldırması, yapay zekanın korkutucu yüzünü bir kez daha ortaya çıkardı.
Geçen yıl Defence IQ ile yapılan bir röportajda Hamilton, “Yapay zekaya sahip olmak hoş bir şey değil, yapay zeka geçici bir heves değil, yapay zeka toplumumuzu ve ordumuzu sonsuza dek değiştiriyor” demişti.