연구자들이 개인 데이터를 사용할 때 클라우드 기반 LLM을 사용하는 데 제약이 있는데, 오픈 웨이트 모델은 민감한 데이터가 로컬 환경을 벗어나지 않도록 해줍니다.
연구팀은 영국 코호트 연구의 데이터를 활용한 데이터 준비 작업에 오픈 웨이트 LLM 기반 AI 에이전트의 효과를 평가하는 오픈 소스 프레임워크 RRBench를 공개했어요.
현재 31~35B 파라미터 모델은 벤치마크를 거의 완수했으며, 소비자급 하드웨어에서 실행되는 오픈 웨이트 LLM은 데이터 준비 작업에 대한 AI 지원의 실행 가능한 경로를 보여줍니다.