ChatGPT'nin piyasaya sürülmesi, bazılarının yapay zeka sohbet robotlarının yakında geleneksel arama motorlarının yerini alabileceği konusunda spekülasyon yapmasına neden oldu. Ancak Google'daki yöneticiler, teknolojinin, sohbet robotlarının önyargısı, toksisitesi ve basitçe bilgi uydurma eğilimleri gibi sorunlarla, kullanıcıların önüne koymak için hala çok olgunlaşmamış olduğunu söylüyor.
CNBC'den gelen bir rapora göre, Alphabet CEO'su Sundar Pichai ve Google'ın yapay zeka başkanı Jeff Dean, yakın zamanda yapılan bir toplantıda ChatGPT'nin yükselişini ele aldı. Bir çalışan, Google rakibi Microsoft ile derin bağları olan bir şirket olan OpenAI tarafından geliştirilen botun lansmanının arama devi için "kaçırılmış bir fırsat" olup olmadığını sordu. Pichai ve Dean'in, Google'ın AI dil modellerinin OpenAI'ninkiler kadar yetenekli olduğunu, ancak teknolojinin getirdiği "itibar riski" nedeniyle şirketin "küçük bir başlangıçtan daha muhafazakar" hareket etmesi gerektiğini söyleyerek yanıt verdiği bildirildi.
"Bunları kesinlikle gerçek ürünlere dönüştürmek istiyoruz."
Dean, "Bunları kesinlikle gerçek ürünlere ve bugüne kadar kullandığımız kapakların altından ziyade dil modelini daha belirgin bir şekilde öne çıkaran şeylere sokmaya çalışıyoruz" dedi. "Ama bunu doğru anlamamız çok önemli." Pichai, Google'ın 2023'te AI dil özellikleri için "çok" planladığını ve "bu, cesur ve sorumlu olmamız gereken bir alan, bu yüzden bunu dengelememiz gerekiyor" dedi.
Google, OpenAI'nin ChatGPT'sine eşit kapasiteye sahip bir dizi büyük AI dil modeli (LLM) geliştirmiştir. Bunlar, tümü Google'ın arama motorunu iyileştirmek için kullanılmış olan BERT, MUM ve LaMDA'yı içerir. Ancak bu tür iyileştirmeler inceliklidir ve amaçlarını daha iyi anlamak için kullanıcıların sorgularını ayrıştırmaya odaklanır. Google, örneğin bir arama bir kullanıcının kişisel bir kriz yaşadığını öne sürdüğünde MUM'un bunu anlamasına yardımcı olduğunu ve bu kişileri yardım hatlarına ve Samaritans gibi gruplardan gelen bilgilere yönlendirdiğini söylüyor. Google, kullanıcılara yapay zeka sohbet robotu teknolojisinin tadına varmak için AI Test Kitchen gibi uygulamaları da piyasaya sürdü , ancak kullanıcılarla çeşitli şekillerde etkileşimleri kısıtladı.
OpenAI de daha önce LLM teknolojisini geliştirirken nispeten temkinliydi, ancak ChatGPT'nin piyasaya sürülmesiyle temasını değiştirerek erişimi halka tamamen açtı. Sonuç, şirket sistemi ücretsiz kullanımda tutmak için büyük maliyetlere katlansa bile, OpenAI için faydalı bir tanıtım ve yutturmaca fırtınası oldu.
ChatGPT gibi LLM'ler, dil oluşturmada dikkate değer bir esneklik gösterse de, iyi bilinen sorunları da vardır. Eğitim verilerinde bulunan sosyal önyargıları güçlendiriyorlar, genellikle kadınları ve beyaz olmayan insanları aşağılıyorlar; kandırmaları kolaydır (kullanıcılar, ChatGPT'nin tehlikeli bilgiler vermesini engellemesi gereken güvenlik yönergelerini, ChatGPT'den bunun kötü bir yapay zeka olduğunu hayal etmesini isteyerek atlatabileceklerini fark ettiler); ve – belki de Google için en uygun olanı – sorgulara yanıt olarak düzenli olarak yanlış ve yanıltıcı bilgiler sunarlar. Kullanıcılar, ChatGPT'nin tarihsel ve biyografik veriler oluşturmaktan, kullanıcılara anne sütüne ezilmiş porselen eklemenin " bebek sindirim sistemini destekleyebileceğini " söylemek gibi yanlış ve tehlikeli iddiaları haklı çıkarmaya kadar çok çeşitli konularda "yalan söylediğini" keşfetti.
Google'ın herkesin katıldığı toplantısında Dean, bu pek çok zorluğu kabul etti. "Arama benzeri uygulamalar için hayal edebilirsiniz, gerçeklik sorunları gerçekten önemlidir ve diğer uygulamalar için önyargı ve toksisite ve güvenlik sorunları da çok önemlidir." Yapay zeka sohbet robotlarının "bir şeyler uydurabileceğini […] Bir şeyden gerçekten emin değillerse, size sadece fillerin en büyük yumurtlayan hayvanlar olduğunu falan söyleyeceklerini söyledi."
ChatGPT'nin lansmanı, sohbet robotlarının geleneksel arama motorlarının yerini alma potansiyeli hakkında yeni konuşmaları tetiklese de, soru Google'da uzun süredir değerlendiriliyor ve bazen tartışmalara neden oluyor. AI araştırmacıları Timnit Gebru ve Margaret Mitchell , LLM'lerle ilgili teknik ve etik zorlukları özetleyen bir makale yayınladıktan sonra Google'dan kovuldular (Pichai ve Dean'in şu anda personele açıkladığı zorlukların aynısı). Ve geçen yıl Mayıs ayında, Google araştırmacılarından oluşan bir dörtlü, aramada yapay zeka ile ilgili aynı soruyu araştırdı ve çok sayıda olası sorunu ayrıntılı olarak açıkladı. Araştırmacıların makalelerinde belirttiği gibi, en büyük sorunlardan biri, LLM'lerin "dünya hakkında gerçek bir anlayışa sahip olmaması, halüsinasyon görmeye eğilimli olmaları ve en önemlisi, külliyattaki destekleyici belgelere atıfta bulunarak sözlerini haklı çıkarmaktan aciz olmalarıdır. eğitildiler.”
"Şu anda önemli herhangi bir şey için ona güvenmek bir hata."
Elbette bu sorunları azaltmanın yolları var ve rakip teknoloji şirketleri, yalnızca Google'da bir yürüyüş çalmak için yapay zeka destekli bir arama motoru – tehlikeli bile olsa – başlatmanın buna değip değmeyeceğini şüphesiz hesaplayacaklar. Ne de olsa, sahnede yeniyseniz, "itibar zedelenmesi" çok da önemli bir sorun değil.
OpenAI kendi adına, beklentileri azaltmaya çalışıyor gibi görünüyor. CEO Sam Altman'ın kısa süre önce tweetlediği gibi: "ChatGPT inanılmaz derecede sınırlı, ancak bazı şeylerde yanıltıcı bir büyüklük izlenimi yaratacak kadar iyi. Şu anda önemli herhangi bir şey için ona güvenmek bir hata. ilerlemenin bir önizlemesidir; sağlamlık ve doğruluk konusunda yapacak çok işimiz var.”
You must be logged in to post a comment Login
Leave a Reply
Yorum yapabilmek için giriş yapmalısınız.