Rozdielne vplyvy vysvetľovateľnej AI na dermatologickú diagnostiku na klinických lekárov verzus laickú verejnosť

Štúdia skúmala, ako vysvetľovateľná umelá inteligencia (XAI) ovplyvňuje diagnostickú presnosť pri diagnóze kožných ochorení u 623 laických osôb a 153 primárnych lekárov. Model AI s vyváženým výkonom naprieč rôznymi tónmi pokožky zlepšil diagnostickú presnosť a znížil rozdiely v diagnostike medzi jednotlivými tónmi pokožky u oboch skupín. Vysvetlenia založené na veľkých jazykových modeloch (LLM) však mali rozdielne účinky: laickí používatelia vykazovali vyššiu automatizačnú zaujatosť, zatiaľ čo skúsení lekári zostali odolní voči chybám modelu. Prezentácia diagnózy AI pred ľudským rozhodnutím môže viesť k silnejšej zakotvovaciej zaujatosti. Výsledky ukazujú, že XAI má rozdielny vplyv v závislosti od odbornosti človeka a načasovania prezentácie predpovede AI.