Pulse · AI 뉴스

1800년대 텍스트 기반 LLM 학습: 160GB 데이터셋 구축

TimeCapsuleLLM · 2026-07-11

Hayk Grigoryan이 1800~1875년 영국과 미국 영어 데이터 160GB(40B 토큰)로 LLM 학습을 시작했어요.

500M 파라미터 평가 모델을 학습하고, 1800년대 Q&A 데이터로 파인튜닝하여 역사적 질문에 답변하도록 만들었어요.

현재 2B 파라미터 모델 학습을 준비 중이며, GitHub와 Hugging Face에서 관련 정보 확인할 수 있어요.

##LLM##데이터셋##1800년대##HuggingFace
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기