본 연구는 대규모 언어 모델(LLM)의 출력 결과가 입력 프롬프트의 정확한 표현에 얼마나 의존하는지, 즉 프롬프트 민감성에 대한 우려를 다룹니다. LLM을 다변수 함수로 간주하고 테일러 급수 전개를 통해 의미를 보존하는 프롬프트, 그라디언트, 다음 토큰의 로그 확률 간의 관계를 분석했습니다. 분석 결과, LLM은 작은 신경망과 달리 유사한 입력을 클러스터링하지 않고 분산시키며, 이는 프롬프트 민감성 위험을 줄이기 어렵게 만듭니다.