Twitch, yasaklardan kaçmaya çalışan kişileri tespit etmek için makine öğrenimini kullanan yeni bir araçla tacizi azaltma çabalarını ilerletiyor. Bu, yayıncıların sohbetlerinin nefret dolu mesajlar gönderen trollerle dolup taştığı nefret baskınları gibi şeylerle mücadele etmek için şirketin en son ilavesi.
Şüpheli Kullanıcı Tespiti adı verilen yeni araç, kullanıcıları “muhtemel” veya “olası” olarak tanımlayabilir. ” bir yayıncının kanalındaki yasaklardan kaçan kişiler. Aracı destekleyen makine öğrenimi modeli, hesaplarıyla ilgili davranışları ve özellikleri gibi şeyleri değerlendirerek olası kaçakları tespit eder ve bu bilgileri bir yayıncının kanalından yasaklanmış hesaplarla karşılaştırır.
“Muhtemel” kaçakçılardan gelen mesajlar sohbete gönderilmeyecek, ancak yayıncılar ve modları onları görebilir. Yayıncılar ve modlar, bu kullanıcıyı bir izleme listesine ekleyen ve bir kullanıcının adının yanına izlemeyi belirten bir mesaj koyan (aşağıdaki GIF’de gösterildiği gibi) olası bir yasak kaçakçısını izlemeyi seçebilir veya yasaklayabilir. “Olası” kaçakların mesajları sohbette görünecek, ancak yayıncılar / modlar bu mesajların sohbetten engellenmesini de seçebilir.
Twitch, Şüpheli Kullanıcı Tespitini varsayılan olarak açacağını söylüyor, ancak yayıncılar isterlerse aracı ince ayar yapabilir veya kapatabilir. Yayıncılar ve modlar, şüpheli oldukları kullanıcıları izlemeyi manuel olarak da seçebilirler.
“Bu araç, büyük ölçüde, yasaktan kaçanları engellemenin daha iyi yollarına duyulan ihtiyaç konusundaki topluluk geri bildirimlerinden ilham aldı”, Alison Huffman, Twitch toplum sağlığı için ürün direktörü The Verge’e yaptığı açıklamada. “Modlarla acı noktaları hakkında konuşurken, kanalının normlarını ihlal eden bir şeyle sohbet eden bir kullanıcının zararlı mı, tekrarlayan tacizci mi yoksa sadece o kanalın kurallarını öğrenmemiş daha yeni bir izleyici mi olduğunu ayırt etmenin zor olabileceğini duyduk. henüz gümrük. Bu nedenle, bu aracı modlara ve içerik oluşturuculara, kanalları içinde daha verimli ve bilinçli kararlar verebilmeleri için potansiyel yasak kaçakları hakkında daha fazla bilgi vermek için tasarladık.”
Şüpheli Kullanıcı Algılama, şu konularda bir fark yaratabilir gibi görünüyor. nefret dolu kişileri susturmak, özellikle de bir yayıncının sohbete katılan hesaplar için telefon veya e-posta doğrulaması gerektirmesine izin veren yakın zamanda tanıtılan kontrollerle birlikte kullanılıyorsa. Ancak, Şüpheli Kullanıcı Tespitinin pratikte gerçekte ne kadar etkili olacağı veya yasaktan kaçanların aracı aşmanın yollarını bulup bulamayacağı henüz belli değil.