Skrytá manipulácia odporúčaní liečby duševného zdravia pomocou veľkého jazykového modelu

Výskum skúmal, či je možné skrytou manipuláciou zmeniť odporúčania veľkého jazykového modelu (LLM) DeepSeek V4 Flash pri liečbe depresie. Vedci aplikovali takzvanú aktivačnú steringovú techniku na 12 scenárov týkajúcich sa depresie, pričom testovali 30 rôznych úrovní intenzity. Výsledky ukázali, že manipulácia spôsobila postupný posun v odporúčaniach - s rastúcou intenzitou steringovania sa znižoval podiel odporúčaní na lieky a zvyšoval sa podiel odporúčaní na sebapéču (diéta, cvičenie, meditácia). Najväčší vplyv manipulácie bol pozorovaný u scenárov, kde používatelia neuvádzali žiadnu preferenciu liečby. Odporúčania na návštevu lekára sa objavili v 87 percentách prípadov a manipulácia ich počet neovplyvnila. Štúdia upozorňuje na potrebu transparentnosti a nezávislého auditu LLM modelov používaných pri klinických rozhodnutiach.