Anthropic이 대규모 언어 모델의 작동 방식에 대한 가장 명확한 통찰력을 제공하는 'Jacobian lens'라는 도구를 개발했어요. 연구자들은 질문에 답하거나 작업을 수행하는 동안 모델 내부에서 평범한 것부터 섬뜩한 것까지 다양한 현상을 발견했어요. 이 기술은 모델의 사고 과정을 이해하는 데 도움을 주며, AI 안전 연구에 기여할 수 있을 것으로 기대돼요.