m3BERT는 산업 정보 검색 시스템에 적합하도록 설계된 새로운 임베딩 모델입니다.
이 모델은 다양한 리소스 제약 조건과 정확도 목표에 맞춰 단일 모델로 조정할 수 있도록 다단계 사전 훈련 전략을 사용합니다.
m3BERT는 Bing-Click 데이터셋에서 기존 모델보다 뛰어난 성능을 보이며, 상업적 검색 시스템의 효율적인 기반 모델로 활용 가능합니다.
연구팀은 m3BERT의 다중 입자 사전 훈련 전략이 공개 데이터셋에서도 효과적임을 확인했습니다.