Bilim insanları, sağlık hizmetlerinde yapay zekanın etnik ve gelir eşitsizliklerini daha da kötüleştirebileceği konusunda uyarıyor.
Bilim insanları, sağlık hizmetlerinde yapay zekanın etnik ve gelir eşitsizliklerini artırabileceği konusunda uyarıyor
Bilim insanları ChatGPT gibi yapay zeka modellerinin sağlık hizmetlerinde kullanılmasının eşitsizlikleri daha da kötüleştireceğinden korkuyor.
Cambridge ve Leicester üniversitelerinden epidemiyologlar, büyük dil modellerinin (LLM’ler) etnik azınlıklar ve düşük gelirli ülkeler için eşitsizlikleri pekiştirebileceği konusunda uyarıyor.
Endişeleri sistemik veri önyargılarından kaynaklanıyor. Sağlık hizmetlerinde kullanılan yapay zeka modelleri, web sitelerinden ve bilimsel literatürden elde edilen bilgilerle eğitiliyor. Ancak kanıtlar, etnik köken verilerinin bu kaynaklarda genellikle eksik olduğunu göstermektedir.
Sonuç olarak, YZ araçları yeterince temsil edilmeyen gruplar için daha az doğru olabilir. Bu da etkisiz ilaç önerilerine veya ırkçı tıbbi tavsiyelere yol açabilir.
Araştırmacılar çalışma makalelerinde, “Birçok hastalık grubunda etnik azınlık kökenli olmakla ilişkili farklı bir risk olduğu yaygın olarak kabul edilmektedir” dedi. “Yayınlanan literatür zaten önyargılar ve daha az kesinlik içeriyorsa, gelecekteki YZ modellerinin bunları sürdürmesi ve daha da kötüleştirmesi mantıklıdır.”
Bilim insanları ayrıca düşük ve orta gelirli ülkelere (LMICs) yönelik tehdit konusunda da endişeli. YZ modelleri öncelikle, tıbbi araştırmalar için finansmana da hakim olan daha zengin ülkelerde geliştirilmektedir.
Sonuç olarak, LMIC’ler sağlık hizmeti eğitim verilerinde “büyük ölçüde yetersiz temsil edilmektedir”. Bu durum, YZ araçlarının bu ülkelerdeki insanlara kötü tavsiyelerde bulunmasına yol açabilir.
Bu endişelere rağmen, araştırmacılar YZ’nin tıbba getirebileceği faydaların farkındalar. Riskleri azaltmak için çeşitli önlemler öneriyorlar.
İlk olarak, modellerin geliştirilmesinde kullanılan verilerin açıkça tanımlanmasını istiyorlar. Ayrıca, daha iyi işe alım ve etnik köken bilgilerinin kaydedilmesi de dahil olmak üzere, araştırmadaki sağlık eşitsizliklerini ele almak için daha fazla çalışma yapılması çağrısında bulunuyorlar.
Eğitim verilerinin yeterince temsil edici olması gerekirken, marjinal gruplar için yapay zekanın kullanımı konusunda daha fazla araştırmaya ihtiyaç duyulmaktadır. Araştırmacılar, bu müdahalelerin adil ve kapsayıcı sağlık hizmetlerini teşvik edeceğini söylüyor.