2021 yılı RSA Konferansı’nda araştırmacılar, “hayali” görüntülerin Tesla ve Mobileye otopilotlarını nasıl oyuna getirebileceğini gösterdi.
Birinin yola adım attığını gören ana karakterlerin yoldan çıkarak bir çukura düşmesi, filmlerin vazgeçilmez bir öğesidir. Şimdi bunun bir nevi gerçek olduğunu hayal edin. Bir ışık ya da akıl oyunu yerine, bu görüntünün bir saniyeliğine siber suçlunun yansıttığı ve araba otopilotunun yanıt vermek üzere programlandığı bir şey olduğunu düşünün. Georgia Tech ve Negev Ben-Gurion Üniversitesi araştırmacıları, 2021 RSA Konferansı‘nda bu tarz bir “hayali saldırı”yı ortaya çıkardı.
Yapay zeka sistemlerine tehlikeli görüntüler gösterme fikri çok da yeni sayılmaz. Teknikler arasında genellikle değiştirilmiş görüntüleri kullanarak yapay zekayı beklenmeyen bir sonuca varmaya zorlamak bulunuyor. Tüm makine öğrenimi algoritmalarında bu zayıf nokta mevcut. Makinenin karar verme sürecini engellemek ve hatta onu hata yapmaya zorlamak için, görüntü tanımanın temel niteliklerini bilmek, diğer bir deyişle algoritma hakkında biraz bilgi sahibi olmak, görüntüleri değiştirmeye zemin hazırlıyor.
Otopilota değiştirilmemiş görüntüler gösterildiği için, 2021 RSA Konferansı’ndaki yaklaşım yeni. Saldırganın algoritmanın işleyişini veya özelliklerini bilmesine gerek bulunmuyor. Görüntülerin kısa süreliğine yola ve yakındaki sabit nesnelere yansıtılmasıyla aşağıdaki sonuçlar alındı:
Farklı bir denemede de, görüntüler, yolun kenarındaki bir reklam panosunda bir saniyeden kısa bir süreliğine göründü ve aynı sonuç ortaya çıktı:
Bundan dolayı araştırmacılar, siber suçluların güvenli bir mesafeden arkalarında kanıt bırakmadan hasara sebep olabileceği sonucuna vardı. Siber suçluların bilmeleri gereken tek şey, yapay zekayı kandırmak için görüntüyü ne kadar süre yansıtmaları gerektiği (otonom arabaların, kamera merceği ya da lidar üzerindeki kir veya kalıntıdan yanlış pozitif üretme ihtimalini azaltmak için bir tetikleme eşiği mevcut).
Artık bir arabanın fren mesafesi düzinelerce feet olarak ölçülüyor. Yani, daha iyi bir durum değerlendirmesi elde etmek için birkaç feet eklemek, yapay zeka geliştiricileri için abartılacak bir olay değildi.
Ancak birkaç metre, Mobileye yapay görme sistemi ve 60 km/saat (yaklaşık 37 mil/saat) hız için geçerli. Bu durumda, yanıt süresi yaklaşık 125 milisaniye. Araştırmacıların deneyerek sonuca vardığı Tesla’nın otopilot yanıt eşiği, 400 milisaniye – neredeyse üç kat daha uzun bir süre. Aynı hızda, bu hemen hemen 7 metre (yaklaşık 22 feet) daha eklenecek demek oluyor. Her iki durumda da, bir saniyenin küçük bir kısmı. Sonuçta, araştırmacılar bu tarz bir saldırının kaşla göz arasında olabileceğine inanıyor. Kendinizi birdenbire bir çukurda buluyorsunuz ve görüntüyü yansıtan drone toz olmuş.
Sistemdeki bir tuhaflık, otopilotların bu tür bir saldırıyı geri püskürtebileceği ihtimalini akıllara getiriyor: Resimler uygun olmayan yüzeylere yansıtılıyor ve bu görüntüler gerçeklikten uzak. Perspektif bozulması, düzgün olmayan kenarlar, anormal renkler, aşırı kontrast ve diğer tuhaflıklar, insan gözünün hayali görüntüleri gerçek nesnelerden ayırt etmesini oldukça kolaylaştırıyor.
Bundan hareketle, otopilotların hayali görüntü saldırılarına karşı savunmasızlığının, AI ile insan beyni arasındaki algı boşluğunun bir sonucu olduğunu söylemek mümkün. Araştırmacılar bu boşluğu kapatmak için, araba otopilot sistemlerinin perspektif, kenar düzgünlüğü, renk, kontrast ve parlaklık gibi özelliklerinin ek kontroller ile sabitlenmesini öneriyor. Ayrıca, herhangi bir karara varmadan önce sonuçların tutarlılığına dikkat edilmesi gerektiğini belirtiiyor. Tıpkı jürinin karara varması gibi, nöral ağlar da gerçek kamera ya da lidar sinyallerini anlık bir hayali görüntüden ayırmayı sağlayan parametreler aracılığıyla hareket edecek.
Böylece, sistemlerin hesaplama yükünü artıracak ve hepsi eğitimden geçmiş (yoğun enerji gerektiren uzun bir süreç) birçok nöral ağın etkili bir şekilde aynı anda ve paralel çalışmasına yol açmak zorunda kalacak. Çoktan tekerlekli küçük bilgisayar kümeleri haline gelmiş arabalar, tekerlekli küçük süper bilgisayar kümelerine dönüşecek.