LLM介紹

本頁面為AI愛好者提供從基礎到應用的大型語言模型(LLM)指南。


共有2篇文章。 | 當前在第1頁,共1頁。

第 13 章 — 自動擴縮與冷啟動緩解

LLM Primer VI 章節走讀第十三篇。這一章解釋為什麼預設 Kubernetes 自動擴縮器在 LLM 流量下會造成中斷,以及 KEDA、Knative、CRIU 如何組合成修補方案。

2026-05-05

第 12 章 — 解耦式服務與 Kubernetes

LLM Primer VI 章節走讀第十二篇。這一章終於把 prefill 與 decode 拆到不同的 GPU 池,並展示能把 pod 留在互連正確一側的 Kubernetes 原語。

2026-05-04