사용자가 Hebbian 아키텍처 AI 모델 개발 결과를 공유했어요. 모델은 역전파나 그래디언트 없이 100만 뉴런에서 10만 뉴런으로 축소됐어요. CIFAR 10 데이터셋으로 50 에폭 학습 결과, 활성 뉴런 경로 손상 후 회복 과정에서 기존 최고 점수를 능가하는 현상이 관찰됐어요.
모델은 학습 과정에서 일시적인 정확도 하락 후 급등하는 현상을 보이며, 손상 후 회복 과정에서 초기 정확도 수준을 거의 회복하고 능가하는 모습을 보여요. 이러한 현상은 모델 아키텍처에서 자연스럽게 발생했어요.
개발자는 RTX 3060 12GB GPU에서 모델을 학습했으며, 전체 파라미터의 5~7%만 사용된 상태에서 학습이 진행됐다고 밝혔어요.