체인 오브 소트(CoT)는 트랜스포머의 성능을 향상시키고 이론적으로 튜링 완전성을 달성하는 데 도움이 된다는 연구 결과가 있었어요.
연구에 따르면 표준 위치 인코딩과 유한한 문자 집합 하에서 트랜스포머는 CoT를 사용하여 학습한 것보다 긴 추론 과정을 일반화할 수 없으며, $TC^0$ 수준의 표현력만 가질 수 있어요.
문제 크기에 따라 어휘를 확장하면 CoT 추론 과정의 길이가 시뮬레이션된 런타임에 선형적으로 비례하는 튜링 기계 시뮬레이션이 가능하며, 반복 복사 및 마지막 항목 검색의 두 가지 핵심적인 장벽을 극복할 수 있어요.