연구진은 뇌파(EEG) 기반 트랜스포머 모델의 의사 결정 과정을 분석하기 위해 Layer-wise relevance propagation (LRP) 기법을 활용했습니다. LRP는 모델의 판단 근거를 확인하고 새로운 생물학적 가설을 제시하는 데 도움을 줄 수 있습니다.
운동 상상 실험에서 LRP는 모델이 의도된 운동 신호 대신 눈 움직임과 관련된 신호에 우선순위를 두는 'Clever Hans' 현상을 드러냈습니다.
감정 예측 실험에서는 모델이 특정 전극 클러스터에 반복적으로 의존하는 것을 발견했는데, 이는 각성 상태의 잠재적인 감각운동 특징을 나타낼 수 있습니다.