Anthropic과 Andon Labs가 AI 모델의 물리 세계 상호작용을 평가하는 'Project Pilot'의 일환으로 드론 제어 벤치마크 'Drone-Bench'를 공개했어요.
Drone-Bench는 AI 모델이 드론을 이용해 특정 인물을 탐색하고 추적하는 간단한 임무를 수행하는 능력을 평가하며, 이는 항공 감시에서 사용되는 기술과 유사해요.
AI 모델이 로봇을 자율적으로 조종하는 능력은 경제 기여와 함께 위험 요소도 증가시키므로, Anthropic의 Frontier Red Team은 이러한 능력을 측정하고 상황 인지력을 확보하는 데 주력하고 있어요.