환자 대상 의료 챗봇은 점점 더 많은 정보를 제공하는 데 사용되고 있지만, AI 개발 장벽이 낮아짐에 따라 보안, 개인 정보 보호 및 거버넌스 통제가 필요합니다.
탐색적 프롬프트 테스트와 구조화된 취약점 가설을 통해 중요한 취약점이 발견되었는데, 시스템 프롬프트, 모델 구성, 백엔드 엔드포인트 등 민감한 정보가 노출되었습니다.
일반적인 브라우저 검사만으로도 환자 챗봇 대화 기록을 포함한 전체 대화 기록을 검색할 수 있었으며, 이는 개인 정보 보호 약속을 위반하는 것으로 나타났습니다.