연구진이 디퓨전 언어 모델의 저신뢰 토큰을 활용한 자기 증강 검색 프레임워크 SARDI를 발표했어요. SARDI는 기존 디퓨전 및 오토 회귀 검색 방식보다 최대 8배 빠른 처리량을 보여줘요. 이 기술은 별도 훈련 없이 다양한 추론이 가능한 디퓨전 언어 모델에 적용 가능해요.
SARDI는 디퓨전 언어 모델이 생성 과정에서 버리는 저신뢰 토큰을 활용해 검색을 안내하는 방식이에요. 이 토큰들은 종종 중요한 개체를 미리 보여주기 때문에, 최종 출력 전에 더 강력한 증거를 검색하는 데 활용할 수 있어요.
연구 결과, SARDI는 5가지 멀티홉 QA 벤치마크에서 기존 방식보다 뛰어난 성능을 보였으며, 훈련 없이도 적용 가능하고 검색기(retriever)에 제약이 없다는 장점이 있어요.