Sessa는 어텐션 메커니즘을 피드백 경로에 통합하여 장기 의존성을 효과적으로 처리하는 새로운 디코더 모델입니다. Sessa는 기존 모델과 비교하여 장기 컨텍스트 벤치마크에서 가장 뛰어난 성능을 보이며, 짧은 컨텍스트 언어 모델링에서도 경쟁력을 유지합니다. Sessa는 장기적인 정보 전달 시 지연 시간이 감소하는 문제를 해결하고, 유연한 선택적 검색을 가능하게 합니다.