연구진이 LLM의 복잡한 거부 행동을 분석하는 새로운 방법 RFM-AGOP을 개발했어요. 기존 방식보다 훨씬 빠르게 다차원 거부 공간을 찾아내며, Qwen 3와 Qwen 2.5 모델에서 효과를 입증했어요. RFM-AGOP은 기존 방식보다 성능이 뛰어나 LLM의 안전성과 해석 가능성을 높이는 데 기여할 수 있을 것으로 기대돼요.
RFM-AGOP은 Recursive Feature Machine 알고리즘을 활용해 LLM의 거부 행동을 분석하는 방법으로, 기존 방식보다 계산 비용이 훨씬 적어요. 특히, LLM의 추론 과정을 분석하는 데 효과적이며, 다른 방법보다 더 나은 성능을 보여줬어요.
연구진은 RFM-AGOP을 통해 LLM의 거부 행동을 더 잘 이해하고, 안전하고 신뢰할 수 있는 LLM을 개발하는 데 기여할 수 있기를 기대하고 있으며, 다양한 방법으로 거부 공간을 분석하는 관계를 파악하기 위한 추가 연구를 진행할 예정이에요.