Anthropic과 AE Studio가 공동 연구를 통해 AI 모델의 이중 용도 지식 관리를 위한 새로운 방법인 GRAM을 제시했어요. GRAM은 모델의 특정 지식 모듈을 제거하여 악의적인 사용을 방지하고, 필요한 경우 특정 사용자에게만 해당 지식을 제공할 수 있도록 합니다.
GRAM은 모델 학습 시 이중 용도 데이터가 포함된 텍스트에 대해 일반 지식은 활용하지만, 해당 지식 모듈만 학습하도록 설계되어 지식을 특정 모듈에 집중시킵니다. 이를 통해 모델 전체를 다시 훈련하지 않고도 특정 지식을 제거하거나 활성화할 수 있습니다.
연구 결과, GRAM은 합성 데이터셋과 실제 웹 텍스트 데이터셋에서 기존 방식과 유사한 성능을 보였으며, 특정 지식 제거 시 일반적인 모델 성능 저하가 없었습니다. 하지만 실험 결과는 초기 단계이며, Anthropic의 실제 모델에 적용될지는 미지수입니다.