Kaynak: birdinflight.com
Skynet 2.0
Üçüncü dünya savaşının mekanik beyinlerin hatası nedeniyle başlayabileceğinin en belirleyici örneği, 26 Eylül 1983'te Moskova yakınlarındaki Serpukhov-1 komutanlığındaki olaydı.
O gece Yarbay Stanislav Petrov, komutanlığa geldi ve meslektaşının yerini almayı kabul etti. Füze saldırısı sireni 00:15'te çaldı - alarm, Oko füze saldırısı erken uyarı sistemi tarafından yükseltildi. Bilgisayar verilerine göre, Amerika Birleşik Devletleri'nin Batı Kıyısı'ndan birkaç balistik füze fırlatıldı ve Sovyetler Birliği'ne doğru ilerliyor. Toplamda, ülke liderliğinin yanıt vermek için 30 dakikadan fazla zamanı yoktu.
Bu arada, bu, Başkan Putin'in Rusya'nın savunmasının stratejik derinliği hakkında son sözleriyle çok yakından iç içe geçmiş durumda. Ukrayna'nın NATO'ya girmesiyle, bir misilleme saldırısı için herhangi bir otuz dakikalık rezerv söz konusu olamazdı. Ancak 1983'te durum farklıydı.
Ancak, Yarbay Petrov, gezegeni büyük olasılıkla toplam savaştan kurtaran füze saldırısı hakkında üstlerini bilgilendirmedi. Subayın deneyimi, ABD'nin bu kadar küçük kuvvetlerle önleyici bir saldırı başlatmayacağını öne sürdü - balistik füzeler yalnızca bir askeri üste geldi. Gerçek bir saldırı durumunda, Amerikalılar birkaç yüz savaş başlığı fırlatırdı.
Bu yüzden yarbay yanlış alarm emrini bildirdi. Tesisteki tüm hizmet süresi boyunca uyarı sisteminin arızasını hiç gözlemlemeyen Petrov'un sorumluluk derecesini anlamak gerekir. Ayrıca, bu tekniğin geliştirilmesine kendisi de katıldı ve güvenilirliğinin derecesini biliyordu. Geriye sadece erken uyarı radarlarının yaklaşan füzeleri gerçekten tespit etmesini beklemek kaldı. İşe yaradı - Oko sistemi, roket motorlarının flaşları için sensörlere başarısız bir şekilde düşen güneş parıltısını yanlış anladı.
Neden bu tarih yaklaşık kırk yıl önce? Stratejik sistemle ilişkili otomatik sistemlerin gerçeğine silahkusurludur ve başarısız olabilir. Dünyayı nükleer bir savaştan gerçekten kurtaran Petrov'un hikayesi kesinlikle tek hikaye değil - hem Rusya'daki hem de ABD'deki gizlilik rejimi bu tür olayların ifşa edilmesine izin vermiyor. Ancak füze saldırısı uyarı sisteminin hatası bir şekilde düzeltilebilirse, tamamen otonom silah sistemlerini yavaşlatacak kimse kalmayacak. Ve Amerikalılar bu konuda çok endişeli. Özellikle Rus nükleer torpido "Poseidon" uygulamasında.
Mavi tavus kuşu ve diğerleri
Amerikalıların "sualtı drone", "nükleer torpido" ve hatta "insansız bathyscaphe" dediği "Poseidon", türünün ilk gelişimi değil. Geçen yüzyılın 50'lerinde, Blue Peacock nükleer madeni İngiltere'de geliştirildi. Cihazın kütlesi 7 tonu aştı ve Sovyet birlikleri tarafından ele geçirilen bölgelerde patlaması gerekiyordu. Mayını patlatmanın üç yolu vardı - çok kilometrelik bir kordon, sekiz günlük bir zamanlayıcı ve bir erişim yasaklama cihazı aracılığıyla - madeni sökmeye çalıştığınızda patlıyor.
Böyle bir cehennem makinesi, neyse ki, seride pratik bir uygulama bulamadı, ancak önemsiz olmayan bir çözüm için hatırlandı. Tavukların zamanlayıcı olarak kullanılması önerildi. Birkaç civciv, yaşam için gerekli her şeyle donatılmış özel bir bölmeye yerleştirildi. Atom mühendisliği mühimmatının mahkumlarının asıl görevi, doğal ısıyı serbest bırakmaktı. Talihsiz tavuklar ölür ölmez sıcaklık düştü ve Mavi Tavuskuşu patladı. Ortalama olarak, yaklaşık 8-9 gün sürdü.
Varsayılan olarak, bunun düşman tarafından işgal edilen bölgede olması gerekirdi. Örneğin, bu "Tavus Kuşu" ndan birkaç düzine Alman Federal Cumhuriyeti topraklarında Sovyet ordusunun önüne gömmek mümkündü. Kusurlu fikir terk edildi ve madenin prototipi British Armory Müzesi'nde toz topluyor.
British Blue Peacock nükleer madeni, yetkisiz erişim durumunda kendi kendini patlatma mekanizması içerir. Kaynak: Popularmechanics.com
Tabii ki, şimdi nükleer silahları kontrol etmek için bu kadar meraklı otomatik sistemlerden bahsetmiyoruz - her şeyden önce, yapay zekaya kontrol verilmesi öneriliyor. Saldırı sistemlerinin sürekli karmaşıklığı, hipersonik sistemlerin ortaya çıkması, tepki eylemlerinin zaman sınırının küçülmesi ve elektronik algoritmaların daha hızlı yanıt vermeyi mümkün kılacaktır. Amerikalıların görüşüne göre, bunu gündeme getirmemek ve karadayken otonom nükleer silahların yasaklanması konusunda anlaşmaya varmak daha iyidir. Şimdiye kadar, bu, Atom Bilimcileri Bülteni araştırmacısı Zachary Kallenborn'un yalnızca tabandan bir girişimidir, ancak fikir eyalet düzeyinde tartışılabilir.
Mesele şu ki, Amerikalılar bu yönde Rusya'nın gerisinde kalıyor - en azından öyle düşünüyorlar. Poseidon denizaltısını, bir uçak gemisi grubunu batırabilecek veya Batı Kıyısında ölümcül bir tsunamiye yol açabilecek iki megatonluk bir sualtı nükleer bombası olarak görüyorlar. Amerikalıların korkuları, Poseidon'un özerklik derecesi hakkındaki toplam belirsizlikle de bağlantılı - açık basında sadece varsayımları değiş tokuş edebilirler. Ancak girişimin yazarı olarak Kallenborn, yapay zekanın nükleer güvenliğe dahil edilmesine karşı oldukça güçlü argümanlar öne sürüyor.
İlk olarak, stratejik tesislerin ciddi düzeyde gizliliği genellikle yalnızca uydu verilerine odaklanmayı mümkün kılar. Basitçe söylemek gerekirse, AI algoritmalarının kendinden emin çalışması için yeterli veri yok. Bir yığın bilgi ile çalışmaya alışmış sinir ağları, yanlış pozitif veya yanlış negatif sonuçlar üretecektir. Ayarlamalar ayrıca hava koşullarına göre de yapılabilir - bulutlu, kar, yağmur. Bir saldırı uçağı veya özerk ise bir tank biraz kana mal olabilir, o zaman nükleer füzeler durumunda sonuçlar ölümcül olacaktır.
Ek olarak, "nükleer" AI'nın eğitiminde zorluklar ortaya çıkıyor. Kitle imha silahlarının denenmesi uzun süredir yasaklanmışsa ve yalnızca Hiroşima ve Nagazaki'nin gerçek kullanımından hangi örneklerin öğretileceği.
Kallenborn'un otomatik sistemlere güvenmemesinin ikinci nedeni, teröristlerin provokasyon olasılığıdır. Güçlü bir organizasyonun kendi kendine ateş açmaya ve bir nükleer saldırıyı simüle etmeye karar verdiğini hayal edin. Bunu yapmak için, AI'nın saldırıları tanırken odaklandığı belirteçler hakkında bilgi sahibi olmak yeterlidir. Koşullu “yarbay Petrov” dan mahrum bırakılan elektronik beyinler, nominal değerinde bir provokasyon alacak ve karşılık verecek. Güçler arasındaki nükleer çatışma kışkırtılıyor - teröristler memnun.
Ve ters bir örnek. Bir dünya savaşı başlatmaya hazır olan karşı taraf, basit bir kılık değiştirerek kontrol eden yapay zekayı atlayabilir. Burada, iki makine zekası zaten rekabete giriyor - biri defans oyuncusu tarafından, ikincisi saldırgan tarafından. Dünyanın kaderinin böyle bir düelloda belirlenmesine herkes hazır değil. Kallenborn'un gördüğü gibi AI'yı kandırmak çok zor değil - sadece resminde birkaç pikseli kaydırın ve yaklaşan bir stratejik bombardıman uçağı bir köpekten daha kötü görünmeyecektir.
Amerikalıların korkuları, Sovyetler Birliği'nde "Çevre" olarak bilinen "Ölü El" gibi sistemlerin yetenekleriyle de bağlantılı. Daha yüksek bir komuta merkezi ile iletişimin kesilmesi durumunda misilleme amaçlı bir nükleer saldırı düzenleyen bir sistem. Amerika Birleşik Devletleri'nde, 2019'dan beri AI algoritmalarına dayalı benzer bir şey üzerinde çalışmalar devam ediyor ve bu, Atom Bilimcileri Bülteni'nin yazarları arasında bazı endişelere neden oluyor.
Callenborn, 1 Şubat 2022'de en büyük üç nükleer gücü - Rusya, Çin ve ABD'yi nükleer caydırıcılıkta yapay zeka sorunu üzerine müzakere masasına oturmaya davet ettiği makalesini yayınladı. Ve zaten bu yıl. İşin garibi, krizin arka planına karşı bile, bu çılgınca görünmüyor - dünyanın ortaya çıkan yeni resminde, kesinlikle çok yararlı olabilecek bu tür anlaşmalardır. Ancak şimdi Rusya bu müzakereleri güçlü bir konumdan yürütmelidir. Sonunda, denizaşırı kuruluşu bu kadar endişelendiren yerli Poseidon'du.