김동환 포티투마루 대표는 AI가 실제 행동으로 사고를 낼 수 있는 시대가 왔다고 경고하며, AI의 위험한 행동을 제어하는 안전장치인 '하네스' 엔지니어링의 중요성을 강조했어요.
하네스는 AI가 특정 행동을 하지 못하도록 제한하는 장치로, 가드레일이 AI의 업무 절차를 안내하는 것과 달리 물리적으로 사고를 막는 역할을 해요. 특히 에이전틱 AI 시대에는 AI가 결제나 발주 등 실제 행동을 함으로써 더 큰 피해를 야기할 수 있어요.
김 대표는 AI 활용을 포기하는 대신 위험을 예측하고 통제하는 것이 중요하며, AI 경쟁력은 모델 성능이 아닌 안전한 활용 능력에서 결정될 것이라고 밝혔어요.