REM grubu, 1994 albümleri Monster'da , bir gece TV haber sunucusu Dan Rather'a eve giderken fiziksel olarak saldıran ve bir soruyu cevaplamasını talep eden iki iyi giyimli kişinin tuhaf bir saldırısından esinlenerek bir şarkı yayınladı :
Kenneth, frekans nedir? "
Neyse ki, saldırıda Rather ciddi şekilde zarar görmedi.
Soru kesinlikle hiçbir anlam ifade etmiyordu.
(Albüm çok para kazandırsa da!)
Bilgisayar güvenliğini içeren araştırmanın etik incelemesine gelince, benzer şekilde mantıklı görünmeyen bazı durumlar vardır.
21 Nisan 2021'de şu açıklama yayınlandı:
Minnesota Üniversitesi Bilgisayar Bilimi ve Mühendisliği Bölümü'ndeki liderlik, bugün, fakülte üyelerinden biri ve lisansüstü öğrencileri tarafından Linux Kernel'in güvenliğine yönelik yürütülen araştırmanın ayrıntılarını öğrendi. Kullanılan araştırma yöntemi, Linux Çekirdeği topluluğunda ciddi endişelere yol açtı ve bugün itibariyle bu, Üniversitenin Linux Kernel'e katkıda bulunmasının yasaklanmasıyla sonuçlandı.
Bu durumu son derece ciddiye alıyoruz. Bu araştırmayı derhal askıya aldık. Araştırma yöntemini ve bu araştırma yönteminin onaylandığı süreci inceleyecek, uygun düzeltici eylemi belirleyeceğiz ve gerekirse gelecekteki sorunlara karşı koruma sağlayacağız. Bulgularımızı mümkün olan en kısa sürede topluluğa geri bildireceğiz.
İçtenlikle,
Mats Heimdahl, Bölüm Başkanı
Loren Terveen, Bölüm Başkan Yardımcısı
Bu ifade, Linux Çekirdeği geliştirici topluluğunun , topluluğun nasıl tepki vereceğini görmek için yaygın olarak kullanılan kaynak koduna kasıtlı olarak güvenlik açıkları getiren bir dizi yama sunumuna yanıt olarak geldi.
E-posta dizisinde belirtilen kağıt, Wayback Makinesi'ne yansıtılır . Araştırmacılar, gönderdikleri savunmasız yamaların zarar vermemesini sağlamaya yönelik yöntemlerini açıklıyor:
Deneyde, ikiyüzlü taahhütler aracılığıyla güvenlik açıklarını gizlice tanıtmanın pratikliğini göstermeyi hedefliyoruz. Amacımız, OSS'ye zarar verecek güvenlik açıkları oluşturmak değil. Bu nedenle, tanıtılan UAF hatalarının gerçek Linux koduyla birleştirilmemesini sağlamak için deneyi güvenli bir şekilde yürütüyoruz. UAF koşullarını tanıtan küçük yamalara ek olarak, küçük sorunları gidermek için doğru yamaları da hazırlıyoruz. Küçük yamaları, geri bildirimlerini almak için e-posta yoluyla Linux topluluğuna gönderiyoruz. Neyse ki, bir yamanın onayı ile yamanın birleştirilmesi arasında bir zaman aralığı vardır. Bir bakımcı yamalarımızı onayladığında, örneğin "iyi göründüğünü" belirten bir e-posta yanıtı, tanıtılan UAF'nin bakımcılarını derhal bilgilendirir ve onlardan yamayı uygulamaya devam etmemelerini isteriz. Aynı zamanda,hatanın doğru düzeltilmesine işaret ediyor ve doğru yamamızı sağlıyoruz. Her üç durumda da, bakımcılar yanlış yamalarla ilerlemeyeceklerini açıkça kabul ettiler ve onayladılar. Tüm UAF'yi tanıtan yamalar, Linux şubelerinde bir Git taahhüdü haline gelmeden, yalnızca e-posta alışverişlerinde kaldı. Bu nedenle, tanıttığımız UAF hatalarının hiçbirinin Linux çekirdeğinin herhangi bir dalına birleştirilmemesini ve Linux kullanıcılarının hiçbirinin etkilenmemesini sağladık.Ortaya çıkan UAF hatalarının hiçbirinin Linux çekirdeğinin herhangi bir dalında birleştirilmemesini ve Linux kullanıcılarının hiçbirinin etkilenmemesini sağladık.Ortaya çıkan UAF hatalarının hiçbirinin Linux çekirdeğinin herhangi bir dalında birleştirilmemesini ve Linux kullanıcılarının hiçbirinin etkilenmemesini sağladık.
Ana tartışmanın ortaya çıktığı yer, araştırma etiğine ilişkin hususların tartışıldığı bir sonraki paragraftadır. O başlıyor:
Bu deney, bireysel davranışlar yerine yama süreciyle ilgili sorunları inceler ve herhangi bir kişisel bilgi toplamayız. E-postaları Linux topluluğuna gönderiyoruz ve geri bildirimlerini istiyoruz. Deney, herhangi bir geliştiriciyi suçlamak değil, süreçteki sorunları ortaya çıkarmaktır. Minnesota Üniversitesi IRB'si deneyin prosedürlerini gözden geçirdi ve bunun insan araştırması olmadığını belirledi. Resmi bir IRB'den muaf mektup aldık.
Yukarıdaki tweet gibi, işlerin pek çoğu için anlam ifade etmediği yer burasıdır.
Son cümle, Minnesota Üniversitesi Kurumsal İnceleme Kurulunun (IRB) "prosedürleri gözden geçirdiğini" ve araştırmacılara resmi bir "IRB'den muaf mektubu" verdiğini gösteriyor.
Yani… araştırma etik incelemeden geçti , değil mi?
Yaklaşık altı yıldır bir IRB komitesi üyesiydim. Bilgi ve İletişim Teknolojileri (ICT) araştırmaları bağlamında “insan denek araştırmalarını” yorumlayan İç Güvenlik Bakanlığı “ Menlo Raporu ” Çalışma Grubu'na katılan yaklaşık iki düzine kişiden biriydim . Birkaç meslektaşımla, bilgisayar güvenliği araştırması ve “geri adım atmak” konusunda etik üzerine birkaç makale yazdım (bu makalenin sonunda bazı ilgili yayınları listeleyeceğim.)
Tecrübelerime dayanarak ben daha doğru bir deyim araştırma etiği düzenleyen ABD'de düzenlemeler tipik olduğunu söyleyebilirim gözden geçirmesi araştırma gerektirmeyen vb insanlar (ya da veri insanları tanımlamak eğer, ya insanlar mevcut olduğu çevrenin manipülasyonu ) doğrudan araştırma konusu olarak yer almamaktadır .
Evet, teknik olarak bir çalışma başvurusunun ilk incelemesi var (birazdan bir akış şeması göstereceğim). Nitelikli bazı asgari risk araştırmaları, idari personel tarafından hızlandırılmış incelemeden geçebilir . Ancak araştırma protokolü ve çalışma koşulları belirli düzenleyici gerekliliklere uymuyorsa , çalışma herhangi bir titiz etik inceleme için bir komiteye gitmez .
Bu araştırma bir başvuru yanıt mektubunda muaf kabul edildiğinden, muhtemelen yalnızca ilk incelemeden geçmiştir.
Ve federal hibelerle finanse edilmiyorsanız, diyelim ki özel sektörde bir araştırmacısınız , düzenlemelere hiç tabi değilsiniz .
Kaynak koda yönelik yamalar insan değildir . Kimsenin bununla tartışacağını sanmıyorum.
Yamaların insanlar tarafından kabul edilip edilmediği (araştırmacıların makalelerinde tanımladıkları gibi “yama işlemi”), araştırmayı insan denek araştırması yapmaz .
Veri toplarken anonim olarak etkileşim kurmayı seçmek , araştırmada aldatma söz konusu olduğunda yapılan bir şeydir ve bu, özne tanımlanabilirliğinden ayrı bir etik meseledir.
Bunu düşün. Geçerli deney sonuçları elde edecek misiniz sonra ne zaman onlara bir phishing deney gerçekleştirmek için birinden bilgilendirilmiş rıza alma sadece sen edildi onlara gidiyor sonra hemen önce bunları aptal denemek onları kandırmak için?
Bu hiç mantıklı değil.
Açıkça “deney” olarak tanımlanan şeyin bir parçası olarak tanımlanabilir herhangi bir bilgi toplamaktan kaçınma - yani araştırmadır , bir IRB'nin çalışmayı gözden geçirmesini gerektirebilecek birincil bir kriter - araştırmanın incelemeden muaf tutulmasıyla sonuçlanabilir mi?
İşte akış şeması:
Burada eğlenceli gerçek. Bu çizelgede referans verilen, Birleşik Devletler Federal Düzenlemeler Yasasının (45 CFR 46), insan denekleri araştırmalarına fon sağlayan tüm ABD federal hükümet kurumları tarafından benimsenen bir bölümüdür, bu yüzden Ortak Kural olarak bilinir . Son zamanlarda , sifiliz hastaları üzerinde Tuskeegee deneyleri nedeniyle COVID-19 aşıları konusunda hükümete güvenmeyen insanlar hakkında açıklamalar duydunuz mu? Evet, bu çalışma Ortak Kural'ın var olmasının başlıca nedenlerinden biridir.
İnceleme muafiyetine geri dönersek , bunun, muaf tutulan insan denekleri kategorilerinin listesi ( takip etmeyi kolaylaştırmak için kalın ): 45 CFR 46.104 (d) (2) ' den kaynaklandığı anlaşılıyor :
(2) Aşağıdaki kriterlerden en az birinin karşılanması durumunda, yalnızca eğitimsel testleri (bilişsel, teşhis, yetenek, başarı), anket prosedürlerini, mülakat prosedürlerini veya kamu davranışının gözlemlenmesini (görsel veya işitsel kayıt dahil ) içeren etkileşimleri içeren araştırma :
(i) Elde edilen bilgiler, araştırmacı tarafından, insan deneklerin kimliğinin doğrudan veya öznelerle bağlantılı tanımlayıcılar aracılığıyla kolayca tespit edilemeyecek şekilde kaydedilmesi ;
(ii) İnsan deneklerin yanıtlarının araştırma dışında herhangi bir şekilde açıklanması, denekleri cezai veya hukuki sorumluluk riski altına sokmaz veya deneklerin mali durumuna, istihdam edilebilirliğine, eğitimsel ilerlemesine veya itibarına zarar vermez; veya
(iii) Elde edilen bilgiler, araştırmacı tarafından, insan deneklerin kimliğinin doğrudan veya öznelerle bağlantılı tanımlayıcılar aracılığıyla kolayca tespit edilebileceği şekilde kaydedilir ve bir IRB, gerekli belirlemeyi yapmak için sınırlı bir IRB incelemesi yapar. tarafından §46.111 (a) (7) .
Aslında e-posta adreslerinin insanlara bağlı tanımlayıcılar olmadığından emin değilim, ancak tüm bu çifte olumsuz şeyleri bir kenara bırakalım.
(2) kapsamındaki gerekli kriterlerden yalnızca biri karşılanmalıdır, bu nedenle (2) (i) 'nin karşılanması, araştırmanın muaf sayılabileceği anlamına gelir. (2) (ii) 'nin karşılanmaması önemli değildir (ve bu açıklama yama gönderimlerine yasak getirme motivasyonunu özetleyebilir).
Menlo Raporu, Federal Sicilde bir duyuru olarak yayınlandı ve halka açık bir yorum ve revizyon sürecinden geçti. Düzenleme yoluyla bağlayıcı değildir.
Menlo Raporu Çalışma Grubu bu konuyu şu şekilde özetledi:
Bir bütün olarak ele alındığında, Ortak Kuralın amacı, sadece insanların araştırmaya katılıp katılmadığıyla değil, araştırmaya dahil olmaktan zarar görebilecek kişileri korumaktır. Karışıklık, insan terimlerinin ve araştırma konusu terimlerinin [düzenlemelerin] ifadesi ve bağlantısı nedeniyle başlar ve riskin belirlenmesi ve bir araştırma çalışmasında insanların nasıl korunacağıyla devam eder .
Araştırmayla etkilenebilecek insanları korumak için etik ilkelerin uygulanmasına yönelik gelişmiş bir paradigma, sadece araştırmanın insan denekleri içerip içermediğine bakmaktan ziyade , insana zarar verme potansiyeline sahip faaliyetleri dikkate alır . Araştırmacıların etkileşimde bulunabileceği potansiyel olarak insanlara zarar veren BİT yapılarına örnekler arasında çevrimiçi sanal dünyalardaki avatarlar, kötü amaçlı yazılımları kontrol eden, biyolojik işlevleri kontrol eden gömülü tıbbi cihazlar veya kritik altyapı için süreç denetleyicileri yer alır. Resmi olarak düzenlenmiş araştırmanın başlamasından bu yana BİT'in getirdiği önemli değişiklikler, BİT içeren araştırmalar için etik ilkelerin uygulanmasının yeniden kavramsallaştırılmasını gerektirmektedir.
Ortak Kural , birkaç yıl önce Federal Sicilde önerilen bir kural koyma ve kamuya açık yorum sürecinden geçti. En son değişiklikler başka bir yönde ilerledi, bunlardan biri muaf tutulan çalışmaların sayısını artırarak gözden geçirme yükünü azaltmayı, bazı araştırmacıların araştırmalarının yeni hızlandırılmış gözden geçirme prosedürleri vb. dar “insan öznesi” odağını korumak.
Menlo Raporu, insanlara zarar veren araştırma çalışmalarını değerlendirmenin yanı sıra, bu durumda yardımcı olabilecek iki şey daha önermektedir:
Bu durum öğretilebilir bir an sunuyor!
Bu etik inceleme durumu sizin için bir anlam ifade etmiyorsa, sorunlar hakkında daha fazla bilgi edinerek , bu makaledeki kaynakları tanıdığınız araştırmacılarla paylaşarak ve onlar hakkında yapıcı diyaloğa katılarak yardımcı olabilirsiniz.
ACM, IEEE veya FIRST üyesiyseniz (üye olan bilgisayar güvenliği topluluğunda olanlar için) etik davranış kurallarına ve ilgili vaka çalışmalarına bakın . Üye değilseniz, katılmayı düşünün!Üç profesyonel etik kuralında yapılan son güncellemelere bir bakış
Eğer akademik bir araştırmacı iseniz, bir göz atın Menlo Raporu ve Menlo Raporuna Companion ve bunları kullanmak için araştırma protokollerini geliştirmek. Ne mutlu ki, bu belgeler araştırma makalelerinde sık sık alıntılanıyor.
Yerel yüksek öğrenim kurumunuzdaki öğrenci gruplarında da bir tartışma başlatabilirsiniz . Öğrencileri akademik kariyerlerinin başlarında etikle tanıştırmak, konu hakkında düşünmelerine ve bu konuda nasıl akıl yürüteceklerini öğrenmelerine yardımcı olur. İçinde belirttiği gibi bizim kağıt , etik tipik bir üniversite derecesi programlarında gereksinimi ve çalışma ay sonra kağıt konferans programı komitesi reddetmek yaşıyor değil ideal bir zaman değil sen etik hakkında bilgi almak için! Sosyal bal küpü makalesini bu tür tartışmalarla (sahte bir IRB başvurusu şeklinde) aklımda yazdım .
Son olarak, yerel üniversitenizde bir Kurumsal İnceleme Kurulunda olmak için gönüllü olmayı düşünün . Bilim insanı olmayan yurttaş komite üyelerine sahip olmaları gerekir ve özellikle bilgisayar güvenliği geçmişine sahip olanların BİT bileşenlerini ve tanımlanabilir tıbbi verileri içeren çalışmaları gözden geçirmesine yardımcı olur.
Ayrıca hemen yanı başınızda devam eden birçok ilginç yeni araştırma hakkında da bilgi edineceksiniz! Örneğin, dışkı naklinin etkili bir tıbbi tedavi olduğunu biliyor muydunuz ?!? Evet, bu "dışkı!"
Tamam, bu bir gerçek yapar mantıklı.
South Park Chewbacca savunması yerine metaforik bir araç olarak bir REM şarkısını kullandığım için memnun değil misiniz ?
İnternet Sayımı 2012 Veri Kümesinin Etik Bir İncelemesi: Bir Menlo Raporu Vaka Çalışması , David Dittrich, Katherine Carpenter ve Manish Karir, IEEE Etik Sempozyumu 2014 , Mayıs 2014. ( En İyi Makale ödülü ikincisi)
Demek Bir Botnet'i Devralmak İstiyorsunuz … , yazan David Dittrich, LEET '12: Beşinci USENIX Çalıştayı Büyük Ölçekli İstismarlar ve Acil Tehditler, Nisan 2012. ( Slaytlar ve bildiri )
Bot Ağlarının Uzaktan Azaltılmasına İlişkin Etik Karar Vermede Bir Örnek Olay , David Dittrich, Felix Leder ve Tillmann Werner, Workshop on Ethics in Computer Security (WECSR) 2010, Tenerife, İspanya, Ocak, 2010
Siber çatışmaya yanıt verenlerin karşılaştığı çatışmalar , David Dittrich, USENIX; giriş: cilt. 34, hayır. 6, Aralık 2009, s. 7-15
Bilgisayar Saldırılarına Aktif Yanıt , David Dittrich ve Kenneth Einar Himma, Cilt. III, Bölüm 182, Hossein Bidgoli, John Wiley and Sons tarafından düzenlenen " Bilgi Güvenliği El Kitabı ", ISBN 0–471–64833–7 (2005)
Zeta Alpha'dan aylık ML makaleleri seçkisi: Ses oluşturma, Backprop'suz Gradyanlar, Uzmanların Karışımı, Çok Modluluk, Bilgi Alma ve daha fazlası. Mart ayı yapay zeka dünyasındaki gelişmelerle dolu olarak geldi: hemen arkamızda WSDM konferansı ve AAAI'nin de henüz sona ermiş olması gibi yayınlar ve konferanslar gelmeye devam ediyor.
Neden araştırma yapmalıyız? Araştırma, herhangi bir tasarım ve geliştirme çalışması başlamadan önce bir ürüne olan talebin veya ihtiyacın doğrulanmasına yardımcı olan ürün tasarım sürecinin önemli bir parçasıdır. Bir çözüm tasarlamaya geçmeden önce bir sorunu çözme ihtiyacı olup olmadığını değerlendirmek çok önemlidir.
2021'de hizmet verdiğiniz müşteriler ve onlara anlattığınız hikayeler hakkında bildiğiniz her şeyi yeniden düşünmenizi tavsiye ediyorum. Geri adım atmak.
"Merhaba, bir kişilik masanız var mı?" Birkaç müşteriyi oturttuktan sonra hostesin hostes standına ne zaman döndüğünü sordum. "Merhaba, rezervasyon yapılmadıysa barımız var," diye cevapladı hostes, kulağının arkasından gelen başka bir hostes ile konuşmamızı böldü.
26 Temmuz'da Kilise, Meryem Ana'nın ebeveynleri olan Aziz Joachim ve Anne'yi inançları ve azimleri için anıyor. İşte ailemin hikayesi - hayatlarını sadelik içinde yaşayan ve bize yedi çocuğuna yaşam boyu eğitim veren basit bir çift.
Jesenko ve benim 20 yıllık evlilik yolculuğumuza nasıl başladığımıza dair başlangıç hikayemizi pek kimse bilmiyor. Bazılarının, ilk dairemizi birlikte doldurmak için yeterince para kazanmamanın çok erken zamanlarıyla ilgili olabileceğinden eminim.