Instagram'dan yapay zekaya karşı önlem geliyor
Meta, diğer şirketlerin yapay zeka tarafından üretilen görüntüleri tespit edebilen ve etiketleyebilen bir teknoloji sunacağını duyurdu. Bu teknoloji, Facebook, Instagram ve Threads platformlarında kullanılacak ve yapay zeka ile oluşturulmuş bir görüntünün açıkça belirtilmesini sağlayacak.
Yapay zekaya karşı önlem geliyor
Meta'nın yaptığı açıklamaya göre, yapay zeka araçları tarafından üretilen görüntülerin yanı sıra video ve seslerin tanımlanmasını kolaylaştıracak teknik standartlar üzerinde endüstri ortaklarıyla birlikte çalışıyor. Seçimlere ilişkin yanlış bilgilendirmeden ünlülerin rıza dışı sahte çıplak görüntülerine kadar zarar verebilecek yapay zeka tarafından üretilen içeriklerin üretilmesi ve dağıtılmasının her zamankinden daha kolay olduğu bir dönemde, bu yeni teknolojinin ne kadar etkili olacağı henüz net değil.
Cornell Üniversitesi'nde enformasyon bilimleri alanında yardımcı doçent olan Gili Vidan, "Bu, çevrimiçi sahte içerik üretiminin platformları için bir sorun olduğu gerçeğini ciddiye aldıklarının bir işareti" dedi. Vidan, ticari araçlarla üretilen yapay zeka kaynaklı içeriğin büyük bir bölümünü etiketlemede "oldukça etkili" olabileceğini, ancak muhtemelen her şeyi tespit edemeyeceğini söyledi.
Meta şu anda kendi aracı tarafından üretilen fotorealistik görüntülere "Imagined with AI" etiketi koyuyor, ancak sosyal medya platformlarını dolduran yapay zeka tarafından üretilen içeriğin çoğu başka kaynaklardan geliyor. Yeni özellik, filigranlar aracılığıyla, bir görüntünün orijinal bir fotoğraf değil, yapay zeka tarafından oluşturulmuş bir medya olduğunu açıkça belirtmek için "Imagined with AI" ifadesini kullanacak.
Meta ayrıca yakında kullanıcıların gerçekçi video mu yoksa yalnızca yapay zeka ile oluşturulmuş ses mi paylaştıklarını açıklamalarını isteyecek. Bu bilgilerin önceden sağlanmaması durumunda, uyarılar ve hatta gönderinin kaldırılması gibi cezalar uygulanacak.