LLM이 자체적인 의사결정 과정을 설명하는 '자체 설명' 현상이 주목받고 있어요. 하지만 자체 설명이 모델의 실제 추론 과정을 정확히 반영하는지 여부는 아직 불확실해요. 이 논문에서는 자체 설명이 설득력 있고, 실행 가능하면서도 진실성이 의심될 수 있다고 주장해요.
기존 XAI 평가 방식의 한계를 지적하고 자체 설명의 설득력과 진실성을 평가하기 위한 지침을 제시하며, 다양한 이해관계자를 위한 의사결정 및 실행을 지원하는 자체 설명 활용 방안을 강조해요.
자체 설명이 단순히 설명하는 것을 넘어 실제 문제 해결에 도움이 되도록 활용하는 것이 중요하며, 이를 위한 평가 기준을 확장해야 한다고 제안해요.