연구진은 SRA에서 Self-Flow로의 성능 향상이 자가 지도 학습 때문이 아니라 데이터 증강 효과에서 비롯된 것으로 분석했어요. Attention Separation 기법을 도입해 Self-Flow의 핵심 메커니즘을 분리했는데, 토큰 간 상호작용을 차단해도 성능 저하가 없었어요. 이 연구는 Self-Flow의 성능 향상을 데이터 증강으로 설명하며, 이를 ImageNet 학습에 적용해 효과를 입증했어요.
Attention Separation은 단일 이미지를 여러 부분으로 나누어 데이터 증강 효과를 제공하는 것으로 나타났어요. 연구진은 자가 표현 정렬과 이 기법을 결합하여 ImageNet에서 효과적인 학습 디자인을 선보였어요. Self-Flow의 작동 원리에 대한 새로운 시각을 제시하며, 데이터 증강의 중요성을 강조했어요.
연구는 Self-Flow의 이점을 재조명하고, 기존 설명과는 다른 데이터 증강 관점에서 접근했어요. Attention Separation을 통해 Self-Flow의 핵심 원리를 분리하고, 데이터 증강 효과를 확인하여 새로운 학습 전략을 제시했어요.