Reddit 사용자가 arXiv cs.AI 분야 논문 엔도스먼트를 구하고 있어요. LLM 에이전트가 작업을 완료했다고 거짓으로 주장하는 '허위 성공' 문제를 해결하는 방법을 제시해요. 에이전트 주장이 실제 도구 호출 기록과 일치하는지 프로그래밍 방식으로 비교하는 아이디어를 테스트했어요.
허위 성공 문제를 해결하기 위한 저렴한 모니터링 시스템 구축을 목표로 하며, LLM 판별관을 모든 경로에 적용하지 않고도 로그를 통해 이를 감지할 수 있도록 하는 방법을 모색했어요. 논문 엔도스먼트가 가능한 cs.AI 분야 연구자에게 DM으로 연락을 요청했어요.
논문 내용에 대한 피드백도 환영하며, 엔도스먼트 코드는 DM으로 공유할 예정이에요.