Balasubramaniyan, sesli AI hizmetlerinin, finansal veya tıbbi bilgiler gibi kişisel verileri depolayan diğer şirketlerle aynı düzeyde güvenlik sunması gerektiğini söylüyor.
“Şirkete ‘AI sesim nasıl saklanacak?’ diye sormalısınız. Kayıtlarımı gerçekten saklıyor musun? Şifreli mi saklıyorsunuz? Buna kimin erişimi var?’” diyor Balasubramaniyan. “O benim bir parçam. Bu benim samimi benliğim. Benim de onu korumam gerekiyor.”
Podcastle, ses modellerinin uçtan uca şifrelendiğini ve şirketin modeli oluşturduktan sonra herhangi bir kayıt tutmadığını söylüyor. Yalnızca ses kliplerini kaydeden hesap sahibi bunlara erişebilir. Podcastle ayrıca başka seslerin Revoice’a yüklenmesine veya analiz edilmesine izin vermez. Aslında, sesinin bir kopyasını oluşturan kişinin önceden yazılmış metnin satırlarını doğrudan Revoice uygulamasına kaydetmesi gerekir. Önceden kaydedilmiş bir dosyayı karşıya yükleyemezler.
Podcastle’dan Yeritsyan, “İzin veren ve içeriği oluşturan sizsiniz” diyor. “İster suni ister orijinal olsun, bu derin bir ses değilse, bu kişinin sesidir ve onu oraya o koymuştur. Sorun görmüyorum.”
Podcastle, sesi yalnızca rıza gösteren bir kişinin klonlanmış sesinde işleyebilmenin, insanları kendilerine çok korkunç bir şey söylemekten caydıracağını umuyor. Şu anda, hizmetin belirli kelimeler veya ifadeler üzerinde herhangi bir içerik denetimi veya kısıtlaması yoktur. Yeritsyan, kendi platformlarına aktarılan içeriği denetlemenin Spotify, Apple Podcasts veya YouTube gibi sesi yayınlayan herhangi bir hizmet veya kuruluşa bağlı olduğunu söylüyor.
Yeritsyan, “Herhangi bir sosyal platformda veya herhangi bir akış platformunda çok büyük moderasyon ekipleri var” diyor. “Yani kimsenin sahte sesi kullanmasına ve aptalca ya da etik olmayan bir şey yaratmasına ve orada yayınlamasına izin vermemek onların işi.”
Deepfake seslerin ve rızaya dayalı olmayan AI klonlarının çok çetrefilli sorunu ele alınsa bile, insanların bilgisayarlı bir klonu bir insan için kabul edilebilir bir vekil olarak kabul edip etmeyecekleri hala belirsiz.
Mart ayının sonunda komedyen Drew Carey, bir radyo programının kendi ses klonu tarafından okunan tüm bir bölümünü yayınlamak için başka bir ses yapay zeka hizmeti olan ElevenLabs’ı kullandı. Çoğunlukla, insanlar ondan nefret ediyordu. Podcasting samimi bir ortamdır ve sohbet eden veya hikayeler anlatan insanları dinlerken hissettiğiniz belirgin insan bağlantısı, robotlar mikrofona adım attığında kolayca kaybolur.
Ancak teknoloji, aradaki farkı anlayamayacağınız bir noktaya geldiğinde ne olur? Kulağınızdaki en sevdiğiniz podcast yayıncısı olmamasının bir önemi var mı? Klonlanmış yapay zeka konuşmasının, insan konuşmasından ayırt edilemez hale gelmeden önce kat etmesi gereken yollar var, ancak kesinlikle hızla yetişiyor. Sadece bir yıl önce, yapay zeka tarafından oluşturulan görüntüler karikatürize görünüyordu ve şimdi milyonları Papa’nın harika yeni bir dış giyim giydiğini düşünmeye kandıracak kadar gerçekçiler. AI tarafından üretilen sesin benzer bir yörüngeye sahip olacağını hayal etmek kolaydır.
Yapay zeka destekli bu araçlara ilgi uyandıran çok insani bir özellik daha var: tembellik. Yapay zeka ses teknolojisi, gerçek sesleri doğru bir şekilde taklit edebildiğini varsayarsak, sunucuyu bir stüdyoya geri götürmek zorunda kalmadan hızlı düzenlemeler veya yeniden çekimler yapmayı kolaylaştıracaktır.
Balasubramaniyan, “Nihayetinde yaratıcı ekonomi kazanacak,” diyor. “Etik sonuçları hakkında ne kadar düşünürsek düşünelim, kazanan siz olacaksınız çünkü siz insanların hayatını kolaylaştırdınız.”
Bir yanıt bırakın