Kaynak: vgtimes.ru
Dijital insanlıktan çıkarma iptal mi edildi?
İlk olarak, yapay zeka savaşçılarından bir uyarı:
"Makineler bizi insan olarak görmüyor, onlar için insan sadece işlenmesi ve sıralanması gereken bir kod parçası. Akıllı evlerden köpek kullanmaya kadar-robotlar polisler, yapay zeka teknolojileri ve otomatik karar verme hayatımızda büyük rol oynamaya başladı. Dijital cihazlar dizisinin en uç noktasında katil robotlar var. Bununla ilişkili insanlıktan çıkarmaya izin verirsek, yakında kendimizi hayatımızın diğer alanlarındaki makine yapımı kararlardan korumak için savaşıyor olacağız. Önce otonom sistemleri yasaklamalıyız оружияdijital insanlıktan çıkarmaya doğru bir kaymayı önlemek için.”
Muharebe yapay zekasıyla ilgili tüm çalışmaların dondurulmasını talep eden pasifistler iki türe ayrılır. Birincisi, gözden geçirilmiş "Sonlandırıcılar" ve diğer analoglardır. İkincisi, geleceği savaş robotlarının modern yeteneklerine göre değerlendirmek. Öncelikle vuruş sistemleri ile donatılmış kanatlı insansız araçlar.
Sivillerin dronlar tarafından hatalı veya kasıtlı olarak yok edildiği yeterince olay var. Orta Doğu'da, Amerikan dronlar birden fazla düğün törenini mahvetti. Uçan robot operatörleri, kutlama amaçlı havadan havaya atışları gerilla çatışmalarının bir işareti olarak tanımladılar. Özel olarak eğitilmiş bir kişi birkaç yüz metreden hedefin detaylarını belirleyemiyorsa yapay zeka hakkında ne söyleyebiliriz? Şu anda makine görüşü, görüntü algısının yeterliliği açısından insan gözü ve beyni ile karşılaştırılamaz. Yorulmadığı sürece, ancak bu da zamanında operatör değişikliği ile çözülür.
Bulutlar açıkça askeri yapay zeka üzerinde toplanıyor. Bir yandan, bu alanda eli kulağında bir teknolojik atılım olduğuna dair giderek daha fazla kanıt var. Öte yandan, bu yöndeki çalışmaların sınırlandırılması ve hatta yasaklanması yönünde giderek daha fazla ses duyulmaktadır.
Bazı örnekler
2016 yılında, önde gelen düşünürlerin ve binlerce kişinin yapay zekaya ölümcül silah verilmemesini talep ettiği bir dilekçe ortaya çıktı. İmzacılar arasında Stephen Hawking ve Elon Musk da bulunuyor. Son yedi yıl içinde dilekçe 20'den fazla imza topladı. İnsanların kontrolsüz bir şekilde yok edilmesi olasılığıyla ilgili tamamen insani korkulara ek olarak, yasal tutarsızlıklar da var.
Yapay zeka tarafından işlenen savaş suçlarının düzeltilmesi durumunda kim yargılanacak? Birkaç köyü sivillerle birlikte yakan insansız hava aracı operatörünü bulmak ve buna göre cezalandırmak kolaydır. Yapay zeka, programcıların ortak çalışmasının bir ürünüdür. Buraya bir kişiyi çekmek çok zor. Alternatif olarak, üretim şirketini, örneğin aynı Boston Dynamics'i, ancak daha sonra otonom dronların üretimine kimin dahil olacağını yargılayabilirsiniz. Çok az insan ikinci Nürnberg Mahkemesi'nin sanıklarında olma arzusuna sahip olacak.
Kaynak: koreaportal.com
Sanayicilerin ve programcıların yapay zeka savaş becerilerinin gelişimini yavaşlatmaya çalışmaları muhtemelen bu nedenledir.
Örneğin, 2018'de yaklaşık iki yüz BT şirketi ve yaklaşık beş bin programcı, muharebe otonom sistemleri üzerinde çalışmama sözü verdi. Google, beş yıl içinde yapay zeka alanındaki askeri sözleşmelerden tamamen vazgeçeceklerini iddia ediyor. Efsaneye göre, bu tür bir pasifizm tesadüfi değildir - askeri sistemler için kodlar yazdıklarını öğrenen programcılar, topluca işi bırakmakla tehdit ettiler. Sonuç olarak, dostane bir seçenek buldular - mevcut sözleşmeler tamamlanıyor, ancak yenileri yapılmıyor. Savaş yapay zekası üzerinde çalışmayı reddetme tarihine daha yakın bir tarihte, inatçı "programcılar" kovulacak ve onları daha az yetenekli olmayanlarla değiştirecek. Örneğin, ucuz entelektüel kaynaklarıyla uzun süredir ünlü olan Hindistan'dan.
Sonra, dünya liderlerini savaş yapay zekasını yasaklamak için bir sözleşme gibi bir şey imzalamaya çağıran Stop Killer Robots ofisi var. Şimdiye kadar başarı olmadan.
Yukarıdakilerin tümü, askeri yetkililerin geçici çözümler aramasına neden olur. Seçimlerde bir saat bile olmayan ABD Başkanı, yalnızca evrensel LGBT lütfu vaat etmekle kalmayıp, aynı zamanda askeri yapay zekanın geliştirilmesine yönelik bir yasak da kazanamayacak.
AI için insan düşüncesi
Pentagon, yapay zekada bir tür atılımın eşiğinde gibi görünüyor. Ya da buna ikna olmuştu. Otonom savaş sistemlerinin insanlaştırılmasını düzenleyen yeni bir direktifin ortaya çıkmasını başka türlü açıklamanın yolu yok. ABD Savunma Bakan Yardımcısı Kathleen Hicks'in yorumu şu şekilde:
"Çevremizde meydana gelen teknolojideki önemli ilerlemeler göz önüne alındığında, silah sistemlerinin özerkliğine ilişkin yönergemizi güncellemek, yalnızca yeni sistemlerin geliştirilmesi ve konuşlandırılmasında değil, aynı zamanda güvenlik alanında da dünya lideri kalmamıza yardımcı olacaktır."
Otonom katil robotlara hayran olan herkesi duydunuz mu? Amerikan yapay zekası bundan böyle en insancıl olacak. Tıpkı Amerikalıların kendileri gibi.
Kaynak: robroy.ru
Sorun şu ki, hiç kimse silahlı robotlara kötü şöhretli "güç kullanımına ilişkin insan yargısını" nasıl aşılayacağını gerçekten anlamıyor. Geçen Ocak ayının sonunda güncellenen Konsept'in tam ifadesi:
"Otonom ve yarı otonom silah sistemleri, komutanların ve operatörlerin güç kullanımına ilişkin uygun düzeyde insan muhakemesi uygulayabilmeleri için tasarlanacak."
Burada, örneğin, bir evi temizlerken, bir saldırı uçağı odaya önce bir el bombası atar ve sonra kendi kendine girerse. Bu insan yargısı mı? Tabii ki ve kimsenin onu yargılamaya hakkı yok, özellikle daha önce "Kimse var mı?" Ve otonom bir robot aynı şemaya göre çalışıyorsa?
İnsan muhakemesi herhangi bir şekilde sınırlandırılamayacak kadar geniş bir kavramdır. Rus savaş esirlerinin Ukrayna Silahlı Kuvvetleri savaşçıları tarafından infaz edilmesi de insan düşüncesi midir?
Otonom savaş sistemlerine ilişkin Pentagon Direktifi 3000.09'a yapılan ekleme basmakalıp sözlerle doludur. Örneğin,
“Otonom ve yarı otonom silah sistemlerinin kullanılmasına, doğrudan kullanılmasına veya işletilmesine izin veren kişiler, bunu gerekli özeni göstererek ve savaş kanunlarına, yürürlükteki anlaşmalara, silah sistemi güvenlik kurallarına ve geçerli angajman kurallarına uygun olarak yapmalıdır.”
Ondan önce, görünüşe göre ihtiyatsızca çalıştılar ve savaş yasalarına uygun değillerdi.
Aynı zamanda Amerikan ve Avrupa basınında Pentagon'un Ocak ayı girişimine yönelik en ufak bir eleştiri yok. Yapay zekanın sahte insancıllaştırılması altında, olanları gizleme girişiminden başka bir şey yoktur. Artık ABD ordusunun, ordudaki yapay zeka rakiplerine karşı mücadelede sağlam bir kozu olacak. Bakın, basit bir yapay zekamız yok, ancak "doğru düzeyde insan yargısına" sahip.
"Yapay zeka"nın hala net ve genel kabul görmüş bir tanımının olmadığı düşünüldüğünde, etrafındaki tüm harf yaratma ironi ile algılanmaktadır. En azından.
Büyük veri dizileriyle çalışan matematiksel algoritmaların insan yargılarını oynamasını nasıl sağlayabilirim?
Bu ana soru güncellenmiş Direktif 3000.09'da cevaplanmamıştır.