Architektonické bezpečnostné mechanizmy pre multi-agentné klinické LLM systémy pri zmene distribúcie vedomostnej bázy

Štúdia hodnotila, či multi-agentné architektúry s jazykovými modelmi (LLM) s explicitným bezpečnostným overovaním dodržiavajú klinické smernice, keď sa ich vedomostné bázy zmenia v čase alebo medzi inštitúciami. Výskum testoval štyri architektonické režimy na 50 000 syntetických pacientov s diabetom typu 2, chronickou chorobou obličiek a hypertenziou v štyroch podmienkach zmeny: základnej línii, časovom posune, zmene inštitucionálnej terminológie (11 párov termínov s degradáciou podobnosti na 0,36) a vymazaní metadát. Úlohou bolo zosúladenie liekov s detekciou kontraindikácií. Lineárna multi-agentná architektúra bez bezpečnostného mechanizmu zlyhal pri zmene terminológie, pričom skóre dodržiavania smerníc kleslo z 1,00 na 0,36. Stavová grafová architektúra s bezpečnostným podlahom si zachovala skóre 1,00 vo všetkých podmienkach zmeny. Bezpečnostný mechanizmus však pridal 32,2 sekundy latencie na pacienta v porovnaní s 12,5 sekundami v jednoduchom režime. Výber architektúry určuje dodržiavanie smerníc viac ako kvalita vyhľadávania alebo veľkosť modelu.