Anthropic이 transformers 모델을 mlx-lm으로 포팅하는 데 도움을 주는 Skill과 테스트 하니스를 공개하며, 이를 통해 transformers 모델이 MLX에 빠르게 추가될 수 있도록 지원합니다.
새로운 Skill은 코드 에이전트의 발전으로 인한 PR 증가에 대응하고, MLX 유지 관리자의 부담을 줄이기 위해 설계되었습니다.
Skill은 모델 포팅 과정을 단순화하고, 모델 아키텍처의 중요한 세부 사항을 확인하며, 잠재적인 버그를 감지하여 고품질 모델 포팅을 돕습니다.
transformers 코드를 소스 코드로 활용하여 구현하므로, transformers 구현이 준비되면 MLX로 빠르게 포팅할 수 있습니다.
Skill은 기여자뿐만 아니라 리뷰어에게도 유용하며, 모델 포팅 과정에서 생성된 예제와 수치 비교, 재현 가능한 테스트 하니스를 제공합니다.