연구진이 안전 검증용 객체 탐지 시맨틱 강건성 프로빙 도구 SemProbe를 공개했어요. 사용자는 SemProbe를 통해 배포 이미지에 마스크를 적용하고, 운영 설계 도메인 요소를 선택하여 확산 기반의 제어 인페인팅을 수행할 수 있어요. SemProbe는 성능 변화를 자동으로 표시하고, 모든 프로브를 구조화된 아티팩트로 기록하여 안전 평가 워크플로우에 맞춰 추적 가능한 강건성 증거를 제공해요.
연구진은 보험 관련 테스트 기준에서 파생된 요소를 타겟으로, 직각톱 손잡이 감지 분야에서 SemProbe를 시연했어요. 이 도구는 배치 작업, 병렬 시드/워크플로우 변형, 구성 가능한 생성 매개변수를 지원하여 다양한 시나리오 테스트가 가능해요.
SemProbe는 사용자가 직접 마스크를 생성하거나 자동으로 생성할 수 있으며, 모델 추론을 자동으로 실행하여 성능 변화를 비교 분석할 수 있도록 설계되었어요. 이를 통해 안전 검증 프로세스를 효율적으로 지원하고, 객체 탐지 모델의 신뢰성을 높이는 데 기여할 것으로 기대돼요.