OpenAI'nin, yalnızca 15 saniyelik kayıtlı ses kullanarak herkesin sesinin ikna edici bir kopyasını oluşturabilen yeni bir aracının, yayınlanmasının fazla riskli olduğu düşünülüyor.
Voice Engine ilk olarak 2022'de geliştirildi ve kuruluşun önde gelen yapay zeka aracı ChatGPT'de yerleşik olarak bulunan metinden konuşmaya özelliğinin ilk sürümü kullanıldı.
Ancak OpenAI bir blog yazısında, "Toplumun bu yeni yeteneklere nasıl uyum sağlayabileceği konusunda bir diyalog başlatmayı umuyoruz. Bu görüşmelere ve bu küçük ölçekli testlerin sonuçlarına dayanarak, bu teknolojinin geniş ölçekte uygulanıp uygulanmayacağı ve nasıl uygulanacağı konusunda daha bilinçli bir karar vereceğiz" denildi.
OpenAI ayrıca yapay zekâda bireylerin seslerinin kullanımını korumaya yönelik politikaların araştırılması ve aldatıcı yapay zekâ içeriği olasılığı da dahil olmak üzere yapay zeka teknolojilerinin yeteneklerini ve sınırlamalarını anlama konusunda halkı eğitme çağrısında da bulundu.
Ayrıca OpenAI'nin aracı, teknik basitliği ve ikna edici bir klon oluşturmak için gereken çok az miktardaki orijinal ses ile öne çıkarken, rakipleri ise zaten halka açık durumda.
ElevenLabs gibi şirketler yalnızca birkaç dakikalık ses ile eksiksiz bir ses klonu oluşturabiliyor. Şirket, sorunları hafifletmeye çalışmak için, ABD'dekilerden başlayarak başkanlık veya başbakanlık seçimlerine aktif olarak katılan siyasi adayları taklit eden ses klonlarının tespit edilmesi ve oluşturulmasını önlemek için tasarlanmış bir güvenlik önlemi uygulamaya koydu.