İnternette viral hale gelen ilk ölümcül zorluk bu değil. Gelgit kapsüllerini yutmak, cildi tuz ve buzla yakmak ve hareket eden arabalardan sıçramak, benzersiz bir şekilde modern, rahatsız edici bir akran baskısı biçimi sundu. Ancak, genç kullanıcıları bilincini kaybedene kadar kendilerini boğmaya teşvik eden Karartma Zorluğunun son derece korkunç sonuçları oldu. Meydan okumaya çalışırken yedi çocuk öldü. Hepsi 15 yaşından küçüktü.
Korkunç koşullara rağmen, hukuk sistemi, teknoloji şirketlerini mağdurları sosyal medyadaki içeriğe maruz bırakmaktan sorumlu tutmak için çok az başvuru sağlıyor. Ancak ölen iki reşit olmayan kişi adına açılan yeni bir dava, yeni ve zorlayıcı bir yasal eğilimin sonuncusu bunu değiştirebilir.
1996 Yılında yürürlüğe giren ABD İletişim Kuralları Yasası'nın 230. Bölümü, teknoloji platformlarının kullanıcılarının gönderilerinin içeriğinden sorumlu tutulmasını engellemektedir. Platformlar, kullanıcıların içerik oluşturması için bir alan barındırdığından (içeriği kendileri oluşturmadan), Bölüm 230 bunları suit'ten izole eder. Bölüm 230'un altında yatan politikanın derin demokratik kökleri vardır. Milletvekilleri, daha sıkı düzenlemelerin internet üzerinde ürpertici bir etki yaratacağından endişe ettiler ve konuşma özgürlüğünü korumak için harekete geçtiler. Bu cephede, Bölüm 230 şaşırtıcı derecede başarılı oldu. İnternet, Amerika Birleşik Devletleri'nde özgür, sınırsız konuşma ile doymuş nihai açık forum haline geldi.
Son yıllarda, koridorun her iki tarafındaki milletvekilleri Kongreyi Bölüm 230'u yeniden değerlendirmeye çağırdılar. Demokratlar nefret söylemine ve dezenformasyona karşı konuşurken Cumhuriyetçiler sansüre karşı çıktılar, ancak herkes Bölüm 230'un farklı bir zamandan kalma bir kalıntı olduğunu kabul ediyor. Yasa 1996'da yürürlüğe girdiğinde, hiç kimse sosyal medya faaliyetlerinin kullanıcıların hayatlarına ne ölçüde tecavüz edeceğini ve teknoloji şirketlerinin tekliflerine olan bağımlılığımızdan elde edeceği gerçeküstü kazançları öngöremezdi.
Ancak Bölüm 230 tarihli ve bozuk olsa bile, kullanıcıların kullanabileceği tek yasal çerçeve budur. Ve Bölüm 230 analizine göre, ölen çocukların ebeveynleri aşılmaz bir duvara çarptı. En saldırgan konuşma çevrimiçi olarak korunmaya devam ediyor.
Ancak, Tiktok'u Karartma Mücadelesinden sorumlu tutmak isteyen bir dava konuşmayı yalnız bırakıyor. Tiktok'ta söylenenlere odaklanmak yerine, bunun yerine Tiktok'un nasıl yapıldığına odaklanıyor. Özünde, bu dava, Tiktok'un zarar verebilecek kusurlu bir ürün olduğunu savunarak ürün sorumluluğu yaklaşımını benimsemektedir. Bu değişim, teknoloji şirketlerinin tarafsız aracılardan daha fazlası olarak görülmesini talep etmek için taktiksel bir çabayı yansıtıyor.
Bu stratejinin başarılı olduğu kanıtlanırsa, muhtemelen Tiktok'un iç operasyonlarını aşacaktır. Hesaplaşması aynı zamanda teknoloji platformlarının kullanıcılarına borçlu olduğu görevi yeniden algılama potansiyeline de sahiptir. Tiktok'a karşı bir galibiyet, teknoloji sorumluluğunu genişletme konusundaki bu yeni yaklaşımı güçlendirecektir.
Üç önemli nedenden ötürü, bir ürün sorumluluğu nedeni, teknoloji şirketleri için yeni, keşfedilmemiş yasal maruz kalma yaratabilir:
1. Algoritmik gerçekliğimizi kabul ediyor
Bölüm 230, “Etkileşimli bir bilgisayar hizmetinin hiçbir sağlayıcısı veya kullanıcısı, başka bir bilgi içeriği sağlayıcısı tarafından sağlanan hiçbir bilginin yayıncısı veya konuşmacısı olarak değerlendirilmeyecektir” (47 U.S.C. § 230). Electronic Frontier Foundation, “internet konuşmasını koruyan en önemli yasa" olarak nitelendirdi.” Ve Bölüm 230'in atan kalbi, hükümetin konuşmaların çoğunu kısıtlamasını yasaklayan İlk Değişiklik. Bölüm 230 nedeniyle, ABD merkezli teknoloji şirketleri güvenli sığınaklar haline geldi: sismik teknolojik gelişmelere izin veren yeniliklerden yararlanırken platformlarındaki konuşmayı korumak ve izlemek.
Ancak Bölüm 230, günümüz sosyal medya deneyimini tanımlamıyor. Sanal mesaj panosunu açıklar. Düzenlemeleri sadece blog yazarlarının ihtiyaçlarına hizmet edecek kadar iddialı - çünkü 1996'da bloglama teknolojik yeniliğin en ileri noktasıydı. Zaman değişti.
Bugün, platformlar sadece aracı olarak hizmet etmiyor, başkalarının konuşmasına ev sahipliği yapıyor. Her feed'i bireysel kullanıcıya uyarlayarak konuşmayı küratörlüğünü yaparlar. Eski içeriğe dayalı yeni içerik sunarak konuşmayı önerirler. Kullanıcıları sürekli, duyusal uyarıcı bir deneyime bağımlı hale getirirler. Tarihte ilk kez, içerik bir dopamin isabeti sunarak ve beynimizdeki ödül yolunu aydınlatarak bir ilaçla karşılaştırıldı.
TikTok sözcüsü People Dergisine yaptığı açıklamada, "İnsanların TikTok dışındaki kaynaklardan öğrendikleri bu rahatsız edici ‘meydan okuma’ platformumuzdan çok önce geldi ve hiçbir zaman bir TikTok trendi olmadı. Kullanıcı güvenliğine olan bağlılığımız konusunda uyanık kalırız ve bulunursa ilgili içeriği derhal kaldırırız. En derin üzüntülerimiz trajik kayıpları için aileye gidiyor.”
Ancak TikTok burada sadece içeriği nedeniyle değil, içeriğini zorladığı için dava ediliyor. Sosyal Medya Mağdurları Hukuk merkezi tarafından mağdurlar adına açılan dava, "TikTok, ölümcül Karartma Zorluğunun uygulamaları aracılığıyla yayıldığını ve algoritmalarının özellikle Karartma zorluğunu çocuklara beslediğini şüphesiz biliyordu.”
Yalnızca saldırgan içeriğe odaklanan teknoloji platformlarına yönelik önceki davalardan farklı olarak, bu dava ekonomik gerçeklikleriyle yüzleşiyor: teknoloji şirketlerinin hızla artan karları halkın platformuna bağımlılığına bağlı. Ayrıca, platformların halk sağlığına zarar verdiğinin farkında olsalar bile içeriği tanıtacağı iddia ediliyor.
Bu açıdan TikTok, hatalı güvenlik özelliklerine sahip arızalı bir ürüne benziyor. Kırık bir oyuncak.
2. Tiktok'un kullanıcıları ve algoritması hakkında bildikleriyle yüzleşiyor
TikTok son zamanlarda kullanıcılar hakkında edindiği bilgi zenginliği nedeniyle ateş altında kaldı. Tüm sosyal medya uygulamaları kullanıcı verilerini toplasa da, Tiktok'un rakiplerinden daha agresif bir şekilde topladığı iddia ediliyor. Ebeveynler, Tiktok'un “altı yaşına kadar yüzbinlerce çocuğun şu anda sosyal medya ürününü kullandığının” farkında olduğunu, ancak hesabın var olmasına izin verdiğini, çünkü bunların sonlandırılmasının net reklam geliri kaybı anlamına geleceğini savunuyor. Dahası, platform reşit olmayan birinin yaşını belirleyecek kadar akıllıdır. ”Başka bir deyişle,“ diye iddia ediyorlar, "TikTok, bir kullanıcının 22 olduğunu iddia ettiğini ancak gerçekten 12 olduğunu biliyor.”
Ve burada, davacılar çok önemli bir noktaya değiniyor: kimliğinizle ilgili çok fazla veri edinen bir uygulama, kim olduğunuzu bilmediğini de iddia edemez.
Aileler, Tiktok'un bu kullanıcıların reşit olmadığını bildiğini ve Tiktok'un gördükleri içeriği izlemede yeterince uyanık olmadığını iddia ediyor. Şikayet, Tiktok'un “derhal harekete geçmemenin ve ölümcül Karartma Sorununun yayılmasını söndürmek için önemli bir eylemde bulunmamanın, özellikle çocuklar arasında daha fazla yaralanma ve ölümle sonuçlanacağını bildiğini veya bilmesi gerektiğini" savunuyor.”
Bunun başka arenalarda oynandığını gördük. Örneğin, Federal İletişim Komisyonu (FCC) yayın medyasında müstehcen, uygunsuz ve saygısız konuşmayı düzenler. Çocukların bulunma riski nedeniyle sabah 6 ile akşam 10 arasında televizyon ve radyoda müstehcen içerik yayınlamak yasaktır. İletişimimizi hedef alan bu tür düzenlemeler, yıkıcı gücünü kullanmaya çalışırken, konuşmanın gelişmesi için toplumsal ihtiyacı kabul etmektedir.
Belki de hükümet saldırgan internet konuşmasını daha da düzenlemek için adımlar atacaktır. Ancak teknoloji platformlarının hükümetin harekete geçmesini beklemesine gerek yok. Bölüm 230, teknoloji şirketlerinin platformlarını izlemelerini ve topluluk standartlarını uygulamalarını güçlendirir. TikTok, tehlikeli içeriği derhal kaldırmayı seçebilirdi, ancak iddiaya göre yapmadı. Doğruysa, TikTok en savunmasız kullanıcılarını koruyamadı. Teknoloji platformları kullanıcı tarafından oluşturulan içeriği kontrol edemez, ancak bu içeriğe ihtiyatlı bir şekilde yanıt verme yetkisine sahiptirler.
Giderek artan bir şekilde, çocuklar yayın medyasından ziyade sosyal medya aracılığıyla bilgi arıyorlar. Bununla birlikte, toplum içeriği düzenlemek için platformların kendilerine bağımlıdır. Yayın medyasında "dürüstlüğü" korumak için kurulan protokollere rağmen, bu dava çocukların Tiktok'ta müstehcen, uygunsuz ve saygısız davranışlara maruz kaldıklarını vurgulamaktadır.
3. Modern bir zarar anlayışını yansıtır
Onlarca yıldır lobiciler, kanser, doğum kusurları ve ölüm olaylarına rağmen sigaraların sağlığa zararlı olmadığı anlatısını zorladılar. Bununla birlikte, 2002 yılında, bir dava tütün endüstrisi boyunca dalgalanma etkileri yarattı. Kaliforniyalı bir jüri, tütün üreticisi Philip Morris'e karşı 28 milyar dolarlık cezai tazminat ile, çalışamayan akciğer kanseri olan bir kadına telafi edici tazminat olarak 850.000 dolar verdi.
Bu dava iki nedenden dolayı başarılı oldu. İlk olarak, halk sigaraları tehlikeli olarak tanımaya başlamıştı. İkincisi, iç belgeler tütün üreticilerinin sigaranın zarar verme kapasitesini bildiğini ve halkı gömerek kandırdığını gösterdi. Çarpıcı cezai tazminat ödülü temyizde azaltılacak olsa da, dava, gelgitin tütün üreticilerine karşı döndüğü bir anı kapsüllemek için önemini koruyor.
Hesap verebilirlik için benzer bir haykırış şimdi teknoloji şirketlerine karşı ve aynı nedenlerden dolayı gerçekleşiyor. İnsanlar sosyal medya nedeniyle zihinsel sağlıklarına zarar verdiklerini iddia ediyorlar - daha az görünür yaraları için halka daha az zararlı değiller.