연구팀은 대규모 언어 모델(LLM) 기반 튜터링 에이전트가 학습 참여도와 학생 성과를 높일 수 있지만, 사회적 편향을 강화할 위험이 있다는 점을 지적했어요.
새로운 데이터 생성 방법을 통해 자연스러운 튜터링 환경에서 편향을 평가하고, LLM이 편향된 판단을 인지하지 못하면서도 높은 확신을 갖는 경우를 식별했어요.
연구 결과, LLM은 대화형 튜터링 환경에서 편향을 감지하는 데 어려움을 겪으며, 잘못된 편향 판단에 대해 과도한 확신을 보이는 경향이 있으며, 이는 모델의 추론과 피드백에 영향을 미칠 수 있어요.