Krea 2를 통해 자연어 모델에 대한 인식이 바뀌었지만, 기존 LLM의 훈련 방식은 '자연'스럽지 않다는 문제점을 발견했어요.
태그 기반 훈련은 새로운 개념을 쉽게 추가할 수 있지만, 자연어 훈련은 50명이 그린 코끼리 그림처럼 다양한 묘사로 인해 어려움을 겪어요.
모델이 전혀 모르는 개념을 자연어로 훈련하는 방법은 아직 찾지 못했지만, 인접한 개념은 어느 정도 학습이 가능해요.
예를 들어, 모델이 자동차 개념을 모를 경우, 태그 시스템에서는 '자동차' 태그를 붙여 학습시키지만, 자연어 시스템에서는 다양한 묘사로 인해 어려움이 발생해요.