LLM 기반 에이전트는 복잡한 작업에서 빠르게 주류 패러다임이 되고 있지만, 여전히 경험적 시행착오에 의존하는 경향이 있습니다.
연구에 따르면, 에이전트가 장기간 목표를 유지하는 조건, 환경 용량을 초과했을 때의 대응 방식, 안전한 자가 개선을 위한 아키텍처적 특성 등 근본적인 질문들이 남아 있습니다.
에이전트 사이버네틱스라는 프레임워크를 통해 에이전트 설계 원칙을 체계화하고, 신뢰성, 평생 실행, 자가 개선이라는 세 가지 엔지니어링 요구 사항을 제시합니다.