Pulse · AI 뉴스

LiSA: 지속적인 안전 적응을 위한 보수적 정책 유도

LiSA · 2026-05-14

연구팀은 AI 에이전트의 안전성을 강화하기 위한 새로운 프레임워크 LiSA (Lifelong Safety Adaptation)를 제안했습니다.

LiSA는 드문 오류 보고서를 재사용 가능한 정책 추상화로 변환하여, 제한된 피드백 환경에서도 일반화 능력을 향상시킵니다.

PrivacyLens+, ConFaide+, AgentHarm 데이터셋에서 기존 모델보다 뛰어난 성능을 보이며, 노이즈가 많은 사용자 피드백에도 강건함을 입증했습니다.

##AI안전##가드레일##정책유도
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기