Pulse · AI 뉴스

DT-Guard: 의도 기반 추론-활성 훈련을 활용한 추론 없는 LLM 안전 가드레일

DT-Guard · 2026-07-07

DT-Guard는 복잡한 위험에 강건하면서도 낮은 지연 시간의 실시간 관리를 위한 안전 가드레일 모델입니다.

의도-범주-안전으로 안전 판단을 점진적 의사 결정 프로세스로 공식화하고, 의도 레이블과 추론 경로를 포함하는 의도 기반 데이터 세트를 구축합니다.

Rollout-Guided Progressive Hard-Case Optimization(RG-PHO)을 통해 어려운 사례에 대한 강건성을 향상시킵니다.

4B 모델로도 강력한 8B 가드레일 기준 모델을 능가하는 F1 점수 0.878을 달성하며, 추론 과정을 생략하여 배포 효율성을 유지합니다.

##LLM##안전##가드레일##DT-Guard
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기