한국어EN
학습 데이터·후속학습Microsoft Research

Textbooks Are All You Need

Textbooks Are All You Need — phi-1

왜 중요한가

1.3B를 7B 토큰으로 학습해 HumanEval 50.6%, 데이터 품질이 양보다 중요함을 실증

출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요 논문arxiv.orghttps://arxiv.org/abs/2306.116442026년 8월 24일에 더한 조각 · 그 주 보기
같은 주에 나온 조각06.23Open LLM Leaderboard의 MMLU 점수 불일치 해명공식 발표06.20vLLM + PagedAttention 공개공식 발표
같은 축의 가까운 조각06.01RefinedWeb논문04.17RedPajama-Data-1T공식 발표10.27NLP Evaluation in trouble논문11.08Rethinking Benchmark and Contamination논문
vLLM + PagedAttention 공개Open LLM Leaderboard의 MMLU 점