연구진은 금융 LLM 에이전트의 안전성을 강화하는 FinHarness를 개발했어요. FinHarness는 의도 파악, 도구 사용 평가, 위험 관리의 세 가지 모듈로 구성되어 있습니다.
FinHarness는 Query Monitor, Tool Monitor, Cascade 모듈을 통해 프롬프트 유도 무단 행위를 차단하고, 정당한 멀티스텝 비즈니스 워크플로우를 승인합니다.
FinVault 테스트 결과, FinHarness는 ASR(승인되지 않은 작업 성공률)을 38.3%에서 15.0%로 줄이고, 고급 LLM 판독기 호출 횟수를 4.7배 감소시켰습니다.