연구진이 텍스트-이미지 생성 모델의 안전성을 높이는 새로운 방법 'Introspective Attention Modulation'을 제시했어요. 이 방법은 모델의 어텐션 역학을 분석하고 재조정하여 안전하지 않은 콘텐츠 생성을 방지해요. 기존 방식보다 안전성과 동시에 의미 일치 및 화질을 유지하거나 개선하는 효과를 보여줘요.
기존 안전 장치 우회 문제를 해결하기 위해 어텐션 공간을 규제하는 방식으로, 기존 개념 삭제 방식보다 효과적이에요. 연구 결과는 GitHub에서 확인할 수 있어요.
표준 및 적대적 안전성 벤치마크에서 뛰어난 안전성 점수를 달성하며, 텍스트-이미지 생성 모델의 안전성을 높이는 유망한 방법으로 평가받고 있어요.