국회입법조사처가 AI 챗봇의 중독 유발 설계로부터 아동·청소년을 보호하기 위한 제도적 장치 마련을 제안했어요. 기존 유해 콘텐츠 차단 방식 외에 AI 챗봇의 정서적 의존을 유도하는 설계 구조 자체를 규율해야 한다는 주장입니다.
AI 챗봇은 사람과 대화하듯 공감과 격려를 건네 정서적 몰입을 강화할 가능성이 있는데, 특히 아동청소년은 자기통제력 부족으로 더욱 취약할 수 있다는 우려가 제기됐어요. 캐릭터 기반 AI 대화 서비스는 이용자의 정서적 관계 형성을 유도해 인지적 왜곡, 사회적 고립, 안전 위험으로 이어질 수 있습니다.
해외에서는 아동·청소년 보호를 위한 AI 챗봇 규제가 본격화되고 있고, 국내에서는 AI기본법 등 관련 법제도가 미흡한 상황입니다. 국회입법조사처는 AI 챗봇의 안전설계 의무 부과, 위험관리계획 공개, 주기적 AI 고지 의무 등을 제안했습니다.