Anthropic의 최근 연구 동향에 대한 우려가 제기됐습니다. 특히 '자연어 오토인코더' 방식은 블랙박스 기법이며, 기존 SAE (Sparse Autoencoder) 방식과 성능 비교가 부족하다는 지적이 있습니다.
연구 과정에서 '오인(confabulation)' 문제가 발생할 수 있으며, 이는 설명의 신뢰성을 떨어뜨릴 수 있습니다. Anthropic은 모델 내부를 이해하는 것보다 확장 가능한 정렬/감독에 더 집중하는 것처럼 보입니다.
메커니즘 해석 연구가 Anthropic의 방향성에 따라 흐름이 결정될 수 있다는 우려가 제기되었습니다.