Yeme bozukluğu olan kişileri destekleyen bir ABD kuruluşu, zararlı tavsiyeler paylaştığını bildirdikten sonra bir sohbet robotunun kullanımını askıya aldı. Ulusal Yeme Bozukluğu Derneği (Neda) kısa süre önce bu canlı yardım hattını kapattı ve yardım arayan insanları chatbot da dahil olmak üzere başka kaynaklara yönlendirdi. Dernek, "Tessa" adlı AI botunun kaldırıldığını söyledi ve botun davranışlarıyla ilgili raporları araştıracak.
Son haftalarda, bazı sosyal medya kullanıcıları çevrimiçi chatbot deneyimlerinin ekran görüntülerini yayınladılar. Kullanıcının yeme bozukluğu olduğu söylendikten sonra bile botun kalori kısıtlaması ve diyet gibi davranışları önermeye devam ettiğini söylediler. American Academy of Family Physicians'a göre, halihazırda kiloları etrafında damgalanma ile mücadele eden hastalar için bu, kilo vermeye daha fazla teşvik edilmesi, aşırı yeme, kısıtlama veya çıkarma gibi düzensiz yeme davranışlarına yol açabilir.
Önemli bir aktivist olan Sharon Maxwell, Instagram'da geniş çapta izlenen bir gönderide, "Tessa'nın önerdiği her şey, yeme bozukluğumun gelişmesine yol açan şeylerdi," diye yazıp, robotla etkileşimini ayrıntılarıyla anlattı ve ona kendisini izlemesini istediğini söyledi, sonuç olarak: “Yeme bozukluğumun sancıları içindeyken bu chatbot'a erişmiş olsaydım, yardım alamazdım.” dedi.
ABD medya kuruluşlarıyla paylaşılan bir açıklamada Neda CEO'su Liz Thompson, chatbot'un paylaştığı tavsiyenin "yeme bozukluğu örgütü olarak politikalarımıza ve temel inançlarımıza aykırı olduğunu" söyledi. Dernek, insan personelli yardım hattını 1 Haziran 2023'te kapatmayı planlamış ve 1999'da açılan bilgi ve tedavi seçenekleri yardım hattını sürdüren çalışanları ve gönüllüleri işten çıkarmıştı. NPR'nin alıntı yaptığı yetkililer, bunun nedenleri arasında artan yasal yükümlülükleri gösterdi.
BBC Neda ve sağlık teknolojisi firması Cass'e ulaştı.
Washington Üniversitesi tıp fakültesinde psikiyatri profesörü olan Ellen Fitzsimmons-Craft ve ekibi, yeme bozukluğu olan kişiler için önleme stratejileri sunabilecek bilişsel-davranışsal bir araç geliştirmişti. BBC News'e, tasarladığı sohbet robotunun, yeme bozukluklarını ve ilgili davranışları azaltmada etkili olduğu bulunan kanıtlanmış müdahalelere dayandığını söyledi: “Asla yardım hattının yerini alması amaçlanmadı, tamamen farklı bir hizmetti."
Bayan Fitzsimmons-Craft ve ekibi, programı geçen yıl müşterilere dağıtmak üzere Neda'ya ve bir teknoloji firmasına verdi. O zamandan beri, algoritmanın daha çok ChatGPT gibi yeni AI araçları gibi çalışmasını sağlamak için orijinal tasarımına bir "hata" veya kusur eklendiğine inandığını söyledi.
Kaynak: https://www.bbc.com/news/health