LLM介紹
本頁面為AI愛好者提供從基礎到應用的大型語言模型（LLM）指南。
共有3篇文章。 |
當前在第1頁，共1頁。
第 13 章 — 自動擴縮與冷啟動緩解
LLM Primer VI 章節走讀第十三篇。這一章解釋為什麼預設 Kubernetes 自動擴縮器在 LLM 流量下會造成中斷,以及 KEDA、Knative、CRIU 如何組合成修補方案。
2026-05-05
第 12 章 — 解耦式服務與 Kubernetes
LLM Primer VI 章節走讀第十二篇。這一章終於把 prefill 與 decode 拆到不同的 GPU 池,並展示能把 pod 留在互連正確一側的 Kubernetes 原語。
2026-05-04
LLM Primer VI — 系列簡介與索引
《LLM Primer VI:擴展 AI 系統》章節走讀的入口。這一卷把 LLM 推論當成一門工程學科來看待,在記憶體頻寬、排程、以及美元符號互相碰撞的地方展開。
2026-04-22