한국어EN
추론 인프라·서빙LMSYS

SGLang + RadixAttention 공개

SGLang + RadixAttention 공개

왜 중요한가

멀티턴·에이전트처럼 프롬프트가 겹치는 워크로드를 위한 캐시 계층을 런타임 수준으로

출처 — 1차 출처만 싣고, 직접 이동해 확인할 수 있어요 공식 발표lmsys.orghttps://www.lmsys.org/blog/2024-01-17-sglang/2026년 8월 24일에 더한 조각 · 그 주 보기
같은 주에 나온 조각01.18DistServe논문01.17AlphaGeometry Nature 논문 게재논문01.16Pinecone serverless 발표공식 발표
같은 축의 가까운 조각01.18DistServe논문2024-09멤피스 Colossus 가동공식 발표12.12SGLang 논문논문03.04Sarathi-Serve논문
AlphaGeometry Nature 논문 게재DistServe