연구진은 개인 식별 정보(PII)를 안전하게 대체하는 온디바이스 파이프라인을 개발했으며, 이 과정에서 1.5B Mixture-of-Experts 토큰 분류기와 1-bit Bonsai-1.7B SLM을 활용했습니다.
초기 실험에서 SLM이 시연 데이터를 그대로 재생하는 문제가 발생했지만, 지역 조건화된 회전식 시연을 통해 이를 해결하고 482/482 성공률을 기록했습니다.
PII 대체 시 자연스러운 텍스트 생성과 다양한 학습 데이터 확보 사이의 균형이 중요하며, 다양성이 NER 성능 향상에 더 큰 영향을 미치는 것으로 나타났습니다.