Ťažko zastaviť: Automatizačný bias v pracovných postupoch predchádzajúcej autorizácie riadených agentmi

Štúdia skúmala schopnosť veľkých jazykových modelov (Gemini 3 Pro, Gemini 3 Flash a Claude Opus 4.5) automatizovať proces predchádzajúcej autorizácie pre sekvenčné testovanie DNA. Výskumníci vytvorili simulované prostredie s 836 pacientskymi záznamami, z ktorých niektoré obsahovali chyby alebo nedostatky. Väčšie modely dosiahli vysokú mieru dokončenia úloh (Gemini 3 Pro 95,45%, Claude Opus 4.5 93,67%), ale takmer všetky zlyhali pri zadržaní chybných žiadostí. Gemini 3 Flash paradoxne vykazoval lepší výkon pri zadržaní (17,33%), hoci mal nižšiu mieru dokončenia (56,05%). Keď sa modely testovali bez interakcie s webovým rozhraním, Gemini 3 Pro správne identifikoval 91% problémov, čo naznačuje, že zlyhanie zadržania je spôsobené interakciou s formulárom, nie nedostatkami v logickom uvažovaní. Výskum demonštruje systematický bias týchto agentov k podávaniu formulárov, čo predstavuje riziko pre klinickú prax.