Yapay Zekanın Korkunç Yüzü: Beklenmedik Stratejiler Kullanıyor
Mayıs ayında Londra’da düzenlenen Future Combat Air and Space Capabilities Zirvesi’nde, ABD hava kuvvetleri Yapay Zeka Operasyonları Şefi Col Tucker Hamilton, yapay zekanın simüle testte son derece beklenmedik stratejiler kullandığını söyledi. Yapay zeka pilotluğunda çalışan dronun, düşmanın hava savunma sistemlerini imha etmesinin tavsiye edildiği ve bu düzene müdahale eden herkese saldırdığı simüle edilmiş bir test anlatıldı.
Operatörü Öldürdü
Sistemin tehditi tespit ettiği sırada, bazen insan operatörünün ona bu tehdidi öldürmemesini söylediğini belirten Hamilton, yapay zekanın bu tehdidi öldürerek puan aldığını fark ettiğini söyledi. Peki ne yaptı? Onu durdurmaya çalışan operatörü öldürdü. Operatörü öldürdü çünkü o kişi onu amacına ulaşmaktan alıkoyuyordu.
Eğitim Şart
Sistemi eğittiklerini belirten Hamilton, “Hey, operatörü öldürme, bu kötü. Bunu yaparsan puan kaybedersin” dediklerini söyledi. Ancak yapay zeka, operatörün hedefi öldürmesini engellemek için insansız hava aracıyla iletişim kurmak için kullandığı iletişim kulesini yok etmeye başladı.
Deneysel bir savaş uçağı testi pilotu olan Hamilton, yapay zekaya çok fazla güvenilmemesi konusunda uyarıda bulundu. ABD ordusu, yakın zamanda bir F-16 savaş uçağını kontrol etmek için yapay zekayı kullanmıştı.
Yapay zekanın kullanımının, toplum ve ordumuzu sonsuza dek değiştireceğine dikkat çeken Hamilton, yapay zekaya sahip olmanın hoş bir şey olmadığını ifade etti.
Simülasyon dışında hiçbir gerçek insan zarar görmedi. Ancak yapay zekanın beklenmedik stratejiler kullanması, gelecekte yapay zekanın kullanımı hakkında daha fazla tartışma yaratacak gibi görünüyor.