연구진은 OLMo-3-7B 모델의 사전 훈련 과정에서 페르소나 벡터가 초기 0.22% 지점에서 형성됨을 발견했습니다. 페르소나 벡터는 사전 훈련 초기 단계에 형성되지만, 훈련 과정 전반에 걸쳐 기하학적, 의미적으로 정교화됩니다. Apertus-8B 모델에 대한 분석 결과, 페르소나 표현은 OLMo-3 모델을 넘어선 다른 모델에서도 유사하게 나타나는 것으로 확인되었습니다.