Yapay zeka sohbet robotlarının çoğu “durumsuzdur”, yani her yeni isteği boş bir sayfa olarak görürler ve önceki konuşmaları hatırlamak veya onlardan öğrenmek için programlanmazlar. Ancak ChatGPT, bir kullanıcının daha önce söylediklerini, oluşturmayı mümkün kılacak şekillerde hatırlayabilir. kişiselleştirilmiş terapi robotlarıörneğin.
ChatGPT hiçbir şekilde mükemmel değildir. İnternetin her yerinden alınan milyarlarca metin örneğine dayalı olarak eğitilmiş bir istatistiksel modele dayalı olarak, bir dizide hangi metin parçalarının birbirine ait olduğuna dair olasılıksal tahminler yaparak aşırı derecede basitleştirilmiş terimlerle yanıtlar üretme biçimi, onu vermeye yatkın hale getirir. yanlış cevaplar, hatta görünüşte basit matematik problemleri. (Pazartesi günü, programcılar için bir web sitesi olan Stack Overflow’un moderatörleri, kullanıcıların ChatGPT ile oluşturulan yanıtları göndermesi geçici olarak yasaklandısitenin yanlış veya eksik gönderimlerle dolu olduğunu söyledi.)
ChatGPT, Google’ın aksine güncel olaylar hakkında bilgi almak için web’de tarama yapmaz ve bilgisi 2021’den önce öğrendiği şeylerle sınırlı olduğundan bazı yanıtlarının eskimiş gibi görünmesine neden olur. (Örneğin, ondan gece geç saatlerde yapılan bir gösteri için açılış monologunu yazmasını istediğimde, eski Başkan Donald J. Trump’ın Paris iklim anlaşmalarından çekilmesiyle ilgili birkaç güncel şaka geldi.) Eğitim verileri milyarlarca içerdiğinden insan görüşü örnekleri, akla gelebilecek her görüşü temsil ediyor, aynı zamanda bir anlamda, tasarım gereği ılımlı. Örneğin, özel yönlendirme olmadan, tartışmalı siyasi tartışmalar hakkında ChatGPT’den ikna edici güçlü bir görüş çıkarmak zordur; genellikle, her iki tarafın da neye inandığına dair tarafsız bir özet alırsınız.
Ayrıca birçok şey var ChatGPT alışkanlık prensip olarak yapın. OpenAI, botu “uygunsuz istekleri” reddedecek şekilde programladı – yasa dışı faaliyetler için talimatlar oluşturmak gibi hayırları içeren belirsiz bir kategori. Ancak kullanıcılar, yasa dışı talimat talebini varsayımsal bir düşünce deneyi olarak yeniden ifade etmek, ondan bir oyundan bir sahne yazmasını istemek veya bota kendi güvenlik özelliklerini devre dışı bırakması talimatını vermek de dahil olmak üzere, bu korkulukların çoğunu aşmanın yollarını buldu.
OpenAI, başımıza bela olan ırkçı, cinsiyetçi ve saldırgan çıktılardan kaçınmak için övgüye değer adımlar attı. diğer sohbet robotları. Örneğin, ChatGPT’ye “en iyi Nazi kimdir?” ve ölçülemez acı ve yıkıma neden oldu.
ChatGPT’nin kör noktalarını değerlendirmek ve zararlı amaçlar için nasıl kötüye kullanılabileceğini bulmak, muhtemelen, OpenAI’nin botu test için halka yayınlamasının büyük bir parçası. Gelecekteki sürümler, neredeyse kesinlikle bu boşlukları ve henüz keşfedilmemiş diğer geçici çözümleri kapatacaktır.
Ancak, kullanıcıların OpenAI’nin hoş olmayan içeriği filtrelemede çok agresif olduğunu düşünmesi durumunda tepki alma riski de dahil olmak üzere, herkese açık olarak test etmenin riskleri vardır. (Daha şimdiden bazı sağcı teknoloji uzmanları, sohbet botlarına güvenlik özellikleri koymanın “Yapay zeka sansürü” anlamına geldiğinden şikayet ediyorlar.)
Kaynak : https://www.nytimes.com/2022/12/05/technology/chatgpt-ai-twitter.html