추론 전용 NPU만으로 밑바닥부터 사전학습: VKORE-46M-NPU 공개
요약(TL;DR): 비드래프트가 추론 전용 NPU만으로 소형 언어모델을 0부터(from scratch) 사전학습하는 데 성공하고, 결과물 VKORE-46M-NPU 를 허깅페이스에 모델·모델카드·비교자료와 함께 공개했다. "추론 전용 NPU는 역전파를 못 해 학습이 불가능하다"는 통설을 정면으로 뒤집은, 공개 문헌상 사실상 세계 최초 사례다. 같은 모델을 GPU에서 동일 조건으로 학습한 결과와 손실 궤적 상관계수가 0.99에 달했다. 왜 "추론 전용 NPU에서 학습"이 사건인가 추론 전용 NPU는 forward 추론에 맞춰 설계된다…
Read the full story at DEV Community — Machine Learning ↗
Timeline · 1 report
- 2026-10-14 05:49 · DEV Community — Machine Learning
추론 전용 NPU만으로 밑바닥부터 사전학습: VKORE-46M-NPU 공개