연구진이 의료 LLM의 개인정보 보호를 평가하는 새로운 프레임워크를 제시했어요. 공개적으로 추론 가능한 인구 통계 정보부터 유출된 진료 기록 조각까지 다양한 위협 모델을 고려해요. 378,000건의 임상 기록으로 사전 훈련된 LLM을 분석한 결과, 이름, 생년월일 등 일상적인 진료 정보가 환자 기록 전체에 걸쳐 그대로 기억되고 민감한 질병 정보(유산, HIV)가 높은 정확도로 복원되는 것을 확인했어요.
정확히 일치하는 기억이 개인정보 유출을 과장할 수 있다는 점도 밝혀졌는데, 기억된 토큰의 36%는 템플릿 문서에서 비롯된 것이었어요. 이 연구는 장기적인 임상 데이터를 활용할 때의 위험성을 강조하고 의료 LLM의 상황적 개인정보 보호 평가를 위한 실용적인 프레임워크를 제공해요.
연구 결과는 의료 LLM 훈련 시 개인정보 보호에 대한 새로운 시각을 제시하며, 환자 데이터 보안에 대한 중요성을 다시 한번 강조해요.