본 논문은 대규모 언어 모델(LLM)이 주체성을 가진다는 주장에 반박합니다. LLM의 작동은 데이터에서 학습한 확률적 입력-출력 매핑으로 완전히 설명되며, 겉으로 보이는 의도성은 내재적이지 않습니다. 샘플링으로 인한 변동성은 선택이나 저작권이 아닙니다.
도덕적 책임은 내재적 의도성과 자기 속한 행동에 기반한 약속을 이행하는 주체성에 근거합니다. LLM은 일관성 있는 결과물을 생성하지만, 이는 약속으로 소유되지 않으며 이유에 의해 인도되지 않습니다.
본 논문은 의도적 태도, 기능주의, 양립론, 모델 출력의 도덕적 추론에 대한 반론을 검토하며, 진정한 주체성을 확립하기에는 충분하지 않다고 주장합니다.