연구진은 LLM을 다양한 예측 작업에 적용하고 내부 상태를 분석하여 시간 특정 지식과 일반화 가능한 패턴 중 어떤 것에 의존하는지 조사했어요. 시간 인지 추론과 미래 예측 편향과 관련된 특징을 파악하고, 이를 다른 영역의 LLM에 적용하여 기능 조작을 통해 미래 예측 편향을 줄이고 일반적인 추론 성능을 유지했어요. 이 연구는 해석 가능한 시간 관련 특징을 활용하여 LLM의 역사 기반 추론을 개선할 수 있음을 시사해요.
연구 결과, 시간 인지 특징을 강화하면 미래 예측 프롬프트의 미래 예측 편향이 크게 감소하는 반면, 일반적인 추론 성능은 유지되는 것으로 나타났어요. 반면, 미래 예측 편향 후보 특징을 조작하면 효과가 없었어요. 이는 LLM의 역사적 기반 추론을 개선하는 데 해석 가능한 시간 관련 특징을 활용할 수 있음을 보여줘요.
이 연구는 LLM이 미래 예측 편향을 줄이고 일반적인 추론 성능을 유지하기 위해 시간 인지 특징을 조작하는 방법을 제시하며, LLM의 예측 능력 향상에 기여할 수 있는 가능성을 보여줘요.