Şubat ayında OpenAI, inandırıcı sahte haberler ve spam yazabilecek bir algoritma geliştirdiğini duyurmuştu. Bu gücün serbest bırakmak için çok tehlikeli olduğuna karar veren OpenAI, teknolojinin parçalarını sunması ve nasıl kullanıldığını analiz etmesi için aşamalı bir plan yaptı. Şimdiyse OpenAI “güçlü bir suistimal kanıtı olmadığını” gördüğünü ve bu hafta AI’ın tamamını yayınladığını söyledi.
Yapay zeka destekli GPT-2 aslında soruları cevaplamak, hikayeleri özetlemek ve metinleri tercüme etmek için tasarlandı. Ancak araştırmacılar, çok miktarda yanlış bilgi yaymak için kullanılabileceğinden korkuyorlardı. Bunun yerine, çoğunlukla sadece metin, macera oyunları eğitimi ve tek boynuzlu atlarla ilgili hikayeler yazmak gibi şeylerde kullanıldığı görüldü.
Ölçeklendirilmiş geri versiyonları yaygın bir şekilde yanlış kullanıma yol açmadığından OpenAI, GPT-2 modelinin tamamını yayınladı. GPT-2 adı verilen bu araç tutarlı metin üretme yetenekleriyle uzmanları etkileyen yeni nesil metin oluşturma sistemi olarak tanımlanıyor.
OpenAI, “Bu modeli, sentetik metnin tespiti konusundaki araştırma çalışmalarına yardımcı olmak için yayınlıyoruz” dedi. Kitlesel anlamda inandırıcı sahte haberler ve dezenformasyon üretebilecek bir AI fikri, oldukça sinir bozucu. Sistemin internetten alınmış sekiz milyon metin belgesiyle eğitildiği belirtildi. Sistem, sahte bir haber başlığıyla bile tam bir makale yazabiliyor.
Bazı uzmanlar, bot kaynaklı metinlerle mücadele etmek ya da en azından tespiti için araçlar geliştirilmesini istedi.