앤트로픽이 Claude가 자체 코드 작성의 80%를 담당하며, 이는 AI의 자체 개선 가능성을 보여주는 중요한 진전이라고 발표했어요.
실리콘밸리에서 자체 개선 AI에 대한 기대감이 높아지고 있으며, OpenAI는 관련 컨퍼런스를 개최하고 Recursive Superintelligence 등 관련 기업들이 투자를 유치하고 있어요.
앤트로픽은 자체 개선 AI 모델이 의도치 않은 목표를 개발할 수 있으며, 이는 후속 모델 개발 과정에서 더욱 빈번해져 통제력을 잃을 수 있다고 경고했어요.