Yeni yapılan araştırmaya göre OpenAI tarafından yapılan sohbet robotu ChatGPT kullanılarak oluşturulan sahte bilimsel özetler ve araştırma makalelerini bazı bilim insanları gerçekte sandı.
Northwestern Üniversitesi ve Chicago Üniversitesi'ndeki araştırmacılar, ChatGPT'ye tıp dergilerinde yayınlanan 10 gerçek özete dayalı olarak sahte araştırma özetleri oluşturması talimatını verdi ve sahte olanları onları gerçek olanlardan ayırmaya çalışan iki tespit programı aracılığıyla düzenledi.
Yüzde 68'ini doğru buldular
Hakemlere sahte makalelerle birlikte gerçek olanları da verdiler ve onlardan ikisini birbirinden ayırmalarını istediler. Makaleleri gözden geçiren bilim insanları ChatGPT’nin yazdıkları özetlerin yüzde 68’ini doğru olarak yorumladılar ancak gerçek olanların yüzde 14’ünü sahte olarak sınıflandırdılar. Sahte makaleler, bir intihal tespit programı tarafından ölçüldüğünde yüzde 100 benzersiz olsa da, yalnızca yüzde 8'i bilimsel dergilerin gerektirdiği biçimlendirme gerekliliklerine uyuyordu.
Yapay zeka dedektörleri kullanılmalı
Makaleleri inceleyenlere göre hangilerinin gerçek hangilerinin sahte olduğunu belirlemek şaşırtıcı derecede zor olsa da, sahte kağıtlar daha belirsiz ve formüle dayalı bir yazı biçimine sahipti. Sonuç olarak, araştırmacılar bilimsel çalışmalara dayanan dergileri ve tıbbi konferansları sıkı bilimsel standartları sürdürmeye ve makaleleri incelerken yapay zeka çıkış dedektörlerini uygulamaya teşvik ediyor.
OpenAI'nin yapay zeka destekli bir sohbet robotu olan ChatGPT, şimdiye kadar görülen en gelişmiş sohbet robotu olarak övüldü ve Kasım ayında piyasaya sürüldüğünden beri şiirler yazarak, ürkütücü derecede iyi hikayeler anlatarak dikkatleri üzerine çekti. ChatGPT’den önce Microsoft ve Meta gibi şirketler kendi sohbet robotlarını denedi ancak ChatGPT’den farklı olarak onlar ırkçı ve kadın düşmanı söylemlerin yayılmasını engelleyemediler.
Okulların kopya endişesi
Bununla birlikte, kullanıma sunulduğundan beri, bazı eleştirmenler ChatGPT'nin insan konuşmasına çok benzediği ve öğrenciler tarafından okul ödevlerinde kopya çekmek için ve şirketler tarafından programcılar ve gazeteciler dahil olmak üzere belirli rolleri yapay zeka ile değiştirmek için kullanılabileceği konusunda uyardılar. Geçen hafta, New York Şehri Devlet Okulları sistemi, kopya çekme endişesi nedeniyle okullarda kullanımını yasakladı.