20.5.1 메모리 관리 혁신: PagedAttention과 vLLM
Home
/
로봇, 자율주행을 위한 Embodied AI & ...
/
Chapter 20. 파운데이션 모델의 경량화와 ...
/
20.5 추론 가속화와 런타임 최적화 (Infer...
/
20.5.1 메모리 관리 혁신: PagedAtte...
20.5.1 메모리 관리 혁신: PagedAttention과 vLLM