최신 거대 언어 모델은 뛰어난 통계 엔진이지만, 패턴 숙달은 일반 지능과 다르다는 주장이 제기됐어요. 인간 영아는 명시적 지식이 거의 없지만, 점차 객체 지속성, 원인과 결과, 타인, 신체적 주체성, 물리 세계의 지속성을 발견해요. 인공 초지능(ASI)의 길은 잠재적 시간 동안 가능한 세계의 내부 시뮬레이션을 구성, 수정, 실행하는 능력인 상황 인식에 달려있어요.
상황 인식은 추상적 예측, 장기 압축 메모리, 목표에 따른 능동 학습이라는 세 가지 핵심 구성 요소를 필요로 해요. 본 연구에서는 현대 거대 언어 모델이 불완전한 이유를 분석하고 미래를 시뮬레이션하고, 자율 목표를 추구하며, 심지어 자신의 창조자를 판단할 수 있는 기계의 측정 및 결과에 대한 적절한 테스트를 제안해요.
연구진은 상황 인식이 인공 초지능 개발에 필수적이며, 이를 측정하고 평가할 수 있는 방법론을 제시함으로써 AI 안전 연구에 기여하고자 합니다.