ABD’de bir kişi bir araba kazasında öldüğünde, olayla ilgili veriler genellikle Ulusal Karayolu Trafik Güvenliği İdaresi’ne bildirilir. Federal yasa, sivil uçak pilotlarının, uçuş sırasında çıkan yangınları ve diğer bazı olayları Ulusal Ulaştırma Güvenliği Kurulu’na bildirmelerini gerektirir.
Acımasız kayıtların amacı, yetkililere ve üreticilere güvenliği artırmanın yolları hakkında daha iyi bilgiler vermektir. Otonom gibi çok daha az düzenlemeye tabi alanlarda güvenliği artırmayı amaçlayan yapay zeka olaylarının kitle kaynaklı bir havuzuna ilham vermeye yardımcı oldular. araçlar ve robotik. AI Olay Veritabanı 2020’nin sonlarında kullanıma sunuldu ve şu anda # dahil olmak üzere 100 olay içeriyor 68, bir çeşmeye düşen güvenlik robotu ve #16, içinde Google’ın fotoğraf düzenleme hizmeti Siyahları “goriller” olarak etiketledi. Bunu AI Utanç Salonu olarak düşünün.
AI Olay Veritabanı, Partnership on AI tarafından barındırılmaktadır. , teknolojinin dezavantajlarını araştırmak için büyük teknoloji şirketleri tarafından kurulan kar amacı gütmeyen bir kuruluştur. Şerefsizlik rulosu, ses işlemcisi girişimi Syntiant’ta makine öğrenimi mühendisi olarak çalışan Sean McGregor tarafından başlatıldı. Yapay zeka, makinelerin insanların yaşamlarına daha doğrudan müdahale etmesine izin verdiği için buna ihtiyaç olduğunu söylüyor, ancak yazılım mühendisliği kültürü güvenliği teşvik etmiyor.
“Genellikle mühendis arkadaşlarımla konuşacağım ve onlar Oldukça zekice bir fikriniz olacak ama ‘Nasıl distopya yaptığınızı düşündünüz mü?’ demeniz gerekiyor” diyor McGregor. Olay veritabanının, şirketleri listenin dışında kalmaya teşvik eden ve mühendislik ekiplerinin AI dağıtımlarını daha az yanlış gitme olasılığına sahip olmalarına yardımcı olan bir kamu sorumluluğu biçimi sağlayarak hem bir havuç gibi çalışabileceğini hem de teknoloji şirketlerine bağlı kalabileceğini umuyor.
Veritabanı, bir AI olayının geniş bir tanımını “AI sistemlerinin gerçek dünyaya zarar verdiği veya neredeyse neden olduğu durum” olarak kullanır. Veritabanındaki ilk giriş, YouTube Kids’in müstehcen dil de dahil olmak üzere yetişkinlere uygun içerik gösterdiğine dair suçlamaları toplar. En sonuncusu, #100, Fransız refah sisteminde insanların devlete borçlu olduğunu yanlış bir şekilde belirleyebilen bir aksaklıkla ilgilidir. Arada, Uber’in 2018’deki ölümcül olayı gibi otonom araç kazaları ve arızaları nedeniyle haksız tutuklamalar var. otomatik çeviri veya yüz tanıma.
Herkes AI felaketi kataloğuna bir ürün gönderebilir. McGregor şimdilik eklemeleri onaylıyor ve işlenmesi gereken oldukça büyük bir birikim var, ancak sonunda veritabanının kendi kendini sürdürebilir ve kendi topluluğu ve iyileştirme süreci ile açık kaynaklı bir proje olacağını umuyor. En sevdiği olaylardan biri , yüz tanıma ile çalışan bir karşıdan karşıya geçme algılama sistemi tarafından yapılan bir AI hatasıdır. Ningbo, Çin, bir otobüsün yan tarafındaki reklamda yüzü görünen bir kadını haksız yere suçladı.
Şu ana kadar kaydedilen 100 olay, diğer tüm şirketlerden daha fazla Google’ı içeriyor. Amazon’un yedi ve Microsoft’un iki tane var. Amazon, yaptığı açıklamada, “Veritabanının farkındayız ve ortaklığın veritabanını yayınlama misyonunu ve amaçlarını tam olarak destekliyoruz” dedi. hizmetlerimiz ve müşterilerimizin deneyimleri.” Google ve Microsoft, yorum isteklerine yanıt vermedi.
Georgetown Güvenlik ve Gelişen Teknoloji Merkezi, veritabanını daha güçlü hale getirmeye çalışıyor. Girişler şu anda olay 79 gibi medya raporlarına dayanmaktadır. Böbrek fonksiyonunu tahmin etmeye yönelik bir algoritma üzerinde KABLOLU raporlama, tasarım gereği Siyah hastaların hastalığını daha az şiddetli olarak derecelendirir. Georgetown öğrencileri, zararın kasıtlı olup olmadığı ve problem algoritmasının bağımsız olarak mı yoksa insan girdisiyle mi hareket ettiği gibi bir olayın ayrıntılarını içeren bir eşlik eden veritabanı oluşturmaya çalışıyor.
Helen CSET strateji direktörü Toner, egzersizin AI kazalarının potansiyel riskleri hakkında araştırmaları bilgilendirdiğini söylüyor. Ayrıca veri tabanının, AI kurallarına bakan yasa koyucuların veya düzenleyicilerin havacılıkta olduğu gibi bir tür olay raporlamasını zorunlu kılmanın nasıl iyi bir fikir olabileceğini gösterdiğine inanıyor.
AB ve ABD yetkilileri AI’yı düzenlemeye artan bir ilgi gösterdiler, ancak teknoloji o kadar çeşitli ve geniş bir şekilde uygulanıyor ki, hızla eskimeyecek net kurallar oluşturmak zor bir görev. AB’den gelen son taslak teklifler çeşitli şekillerde aşırı erişim, tekno-okuma yazma bilmeme ve boşluklarla dolu olmasıdır. Toner, AI kazalarının rapor edilmesini gerektirmenin politika tartışmalarına zemin hazırlamaya yardımcı olabileceğini söylüyor. “Neyi önlemeye çalıştığımız ve ne tür şeylerin yanlış gittiği konusunda gerçek dünyadan gelen geri bildirimlerin onlara eşlik etmesinin akıllıca olacağını düşünüyorum” diyor.