연구진은 이미지 분류, 텍스트 분류, 텍스트 회귀 등 다양한 분야에서 신경망 구조가 시간 흐름에 따른 데이터 변화에 얼마나 강건한지 실증적으로 비교 분석했어요.
단순한 다층 퍼셉트론부터 트랜스포머 기반 인코더까지 다양한 모델 구조를 평가한 결과, 특정 구조는 높은 정확도를 보이지만 시간이 지나면서 빠르게 성능이 저하되는 경향이 있었어요.
연구 결과는 시간 변화에 민감한 특징을 활용하는 구조보다 더 안정적인 표현을 사용하는 사전 학습된 인코더가 시간 흐름에 따라 점진적으로 변화한다는 것을 보여주며, 실제 시스템 구축 시 고려해야 할 사항을 제시해요.