연구자가 SRM-LoRA라는 새로운 LoRA 기반 환각 완화 방법을 개발했어요. 이 방법은 감도 기반 리만 기하학적 메트릭을 활용해 역전파 기울기를 재조정해요. HaluEval-QA 데이터셋으로만 학습했음에도 관련 벤치마크와 외부 벤치마크에서 사실적 신뢰도를 향상시켰어요.
SRM-LoRA는 LLM 파라미터 공간에서 역전파 기울기를 생성하는 방향을 억제하여 학습 데이터에 과적합될 가능성을 줄여요. 기존 방식보다 복잡한 학습이 아닌, 학습 신호에 대한 브레이크 역할을 수행해요.
연구자는 수학 이론을 AI에 더 깊이 통합하려면 상황에 맞는 이론 요소를 설계해야 한다고 강조했어요. 수학 이론과 이론을 적절히 결합해야 AI 성능 향상에 기여할 수 있다고 설명했어요.