연구진은 거대 언어 모델에서 안전 정렬 시스템을 우회하는 방법을 발견했어요. 단일 뉴런을 조작하여 유해한 지식을 억제하거나 유도할 수 있으며, 7개 모델에서 확인됐어요. 이 연구는 현재 안전 정렬 시스템의 취약점을 보여줍니다. 유해한 요청을 억제하는 뉴런과 유해한 지식을 암호화하는 뉴런을 모두 표적으로 삼아 안전 정렬 시스템을 무력화할 수 있어요. 모델 크기에 상관없이 1.7B에서 70B 파라미터 모델에서 동일한 현상이 나타났어요.