전사 — 신경망에서 Transformer까지Geoffrey Hinton·Oriol Vinyals·Jeff Dean (Google)
Distilling the Knowledge in a Neural Network arXiv 공개
Distilling the Knowledge in a Neural Network arXiv 공개
왜 중요한가
큰 모델의 지식을 작은 모델로 옮기는 증류를 정식화. 오늘의 소형 모델 계보의 뿌리
출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요
논문arxiv.orghttps://arxiv.org/abs/1503.025312026년 8월 24일에 더한 조각 · 그 주 보기