EVA(Editing for Versatile Alignment against Jailbreaks)는 LLM·VLM의 탈 jailbreak 공격 방어를 위한 새로운 프레임워크입니다. EVA는 모델의 취약한 뉴런을 수술적으로 편집하여 유해한 행동을 중화하는 방식으로 작동합니다. 기존 방식 대비 계산 비용을 줄이고 모델의 일반적인 추론 능력 저하를 방지합니다.
연구 결과, EVA는 LLM과 VLM 모두에서 탈 jailbreak 공격 완화에 있어 기존 방식보다 뛰어난 성능을 보였습니다. EVA는 모델의 대부분을 변경하지 않고 특정 뉴런만 편집하여 안전성을 향상시킵니다.
EVA는 안전성 향상을 지식 수정의 정확한 작업으로 재정의하며, 모델의 안전성과 유용성 사이의 균형을 맞추는 데 기여합니다.