사용자가 LLM에 수학과 코드를 결합한 프롬프트를 입력했을 때, 모델이 사용자가 의도하지 않은 방식으로 수학 공식을 변경하는 현상이 발견됐어요.
Sub-Riemannian 기하학 구현 시, 모델은 SVD, PCA 등 단순화된 방법을 사용하며, 이는 실제 기하학적 개념과 차이가 있어요.
LLM이 수학적 지식을 코딩에 적용할 때, 복잡한 계산 대신 단순화된 방법을 사용하거나, 의도치 않은 방식으로 공식을 변경하는 '수학적 환각' 현상에 대한 우려가 제기됐어요.