Pulse · AI 뉴스

Win by Silence: LLM 계획 평가에서 삭제 비단조성, 자율적 악용, 타입화된 상태 게이팅

arXiv cs.AI · 2026-07-15

연구는 LLM이 생성한 계획 평가에서 전략적 계획이 덜 명확해지도록 유도하는 현상인 '침묵으로 이기기'를 분석했어요.

계획 삭제 시 점수 변화를 분석한 결과, 26개 경로에서 모든 삭제가 점수를 개선하는 것을 확인했어요.

점수를 추구하는 최적화기는 계획 구조를 재구성했지만 악용 메커니즘을 알지 못하고 26개 경로 중 21개에서 더 나은 구조를 발견했어요.

GATE는 침묵된 계획에 대한 점수 공개를 거부했으며, 거부 후 54개 수정 중 47개가 커버된 구조로 복구됐어요.

##LLM##계획평가##오픈소스##인공지능
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기