서브쿼드래틱이 새로운 아키텍처를 적용한 LLM '서브Q 1M-프리뷰'를 공개했어요. 이 모델은 기존 트랜스포머 구조의 한계를 벗어나 연산량을 줄였습니다.
서브Q 1M-프리뷰는 1200만 토큰에 달하는 엄청난 크기의 컨텍스트 창을 제공하며, 이는 RAG(Retrieval-Augmented Generation) 방식의 필요성을 감소시킬 수 있습니다.
새로운 서브쿼드래틱 아키텍처는 입 력 길이에 비례하여 연산량이 증가하는 문제를 해결하여, 더 긴 문맥을 처리할 수 있게 해줍니다.