앤트로픽의 사이버보안 특화 AI 모델 '미토스' 등장으로 금융권에서 AI 신뢰 검증의 중요성이 커지고 있습니다. AI 기반 위협에 대응하기 위해 AI가 제대로 작동하는지 검증하는 체계 구축이 시급합니다.
셀렉트스타의 생성형 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸'이 신한은행, 우리은행, NH농협은행 등 주요 시중은행에 정식 도입되었습니다. 이는 국내 금융권 최초의 사례입니다.
다투모 이밸은 100만 개 이상의 평가 질문을 자동 생성하고 AI 서비스 응답을 자동 평가·분석하며, 프롬프트 인젝션과 환각 등 AI 취약점을 탐지하는 레드티밍 기능도 포함하고 있습니다.