한국어EN
모델 아키텍처·학습 기법Moonshot AI

Kimi K2

Kimi K2 — MuonClip으로 1T MoE를 15.5T 토큰 동안 loss spike 없이 학습

왜 중요한가

Muon이 1T 스케일에서 검증됨

출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요 논문arxiv.orghttps://arxiv.org/abs/2507.205342026년 8월 24일에 더한 조각 · 그 주 보기