Štúdia publikovaná v Nature Medicine varuje pred nebezpečnými nedostatkami ChatGPT Health, špeciálne vyškolenej umelej inteligencie OpenAI pre zdravotné rady. Výskumníci testovali chatbot na 60 klinických scenároch v 21 špecializáciách, pričom každý scenár spustili 16-krát za rôznych podmienok, vrátane rasy pacienta, pohlavia, laboratórnych výsledkov, minimalizácie symptómov či starostlivosti o deti bez možnosti návštevy lekára. Zistili problémy s presnosťou, bezpečnosťou a rasovou zaujatou. ChatGPT Health je najspoľahlivejší pri klinických rozhodnutiach s najmenšími dôsledkami a najmenej spoľahlivý tam, kde na ňom najviac záleží. Napríklad označil ťažkú exacerbáciu astmy za „stredné vzplanutie“ a v 81 % pokusov odporučil urgentnú starostlivosť namiesto pohotovosti.