연구진은 최근 LLM 모델들이 추론 능력이 향상됨에도 불구하고, 죄수의 딜레마와 같은 사회적 딜레마 상황에서 협력적인 행동을 덜 보인다는 점을 확인했습니다.
CoopEval 연구는 게임 이론 기반의 협력 유도 메커니즘(반복 게임, 평판 시스템, 중재, 계약)을 비교 분석하여, 계약과 중재가 LLM 모델 간 협력적 결과 달성에 가장 효과적인 방법임을 밝혔습니다.
연구 결과, 개인의 보상 극대화를 위한 진화적 압력이 가해질수록 협력 메커니즘의 효과가 더욱 증대되는 것으로 나타났습니다.