Leonardo Daviti가 A.L.F.R.E.D.라는 새로운 시스템을 공개했어요. 이 시스템은 2B 모델로 35B 모델과 유사한 성능을 낼 수 있도록 설계됐어요. GitHub 저장소에서 관련 자료를 확인할 수 있어요.
A.L.F.R.E.D.는 큰 모델의 지식을 작은 모델에 담아, 간단한 작업 시 빠른 처리가 가능하도록 합니다. 예를 들어, 알람 설정과 같은 작업에서 큰 모델의 7K 토큰 대신 작은 모델의 1K 토큰으로 처리돼요.
이 방식은 인간의 뇌가 추론과 반사를 구분하는 방식과 유사하며, 속도와 검증 측면에서 효율성을 높입니다.