LLM介绍
本页面为AI爱好者提供从基础到应用的大型语言模型(LLM)指南。
共有1篇文章。 |
当前在第1页,共1页。
第 12 章 — 拆分部署与 Kubernetes
LLM Primer VI 章节走读第 12 篇。把 prefill 和 decode 拆到不同 GPU 池,让每一池按自己的工作负载调优。LeaderWorkerSet、Grove PodCliqueSet、KAI Scheduler —— 表达这次拆分的 Kubernetes 原语。
2026-05-04