LLM介紹

本頁面為AI愛好者提供從基礎到應用的大型語言模型（LLM）指南。

共有8篇文章。 | 當前在第1頁，共1頁。

第 13 章 — 自動擴縮與冷啟動緩解

LLM Primer VI 章節走讀第十三篇。這一章解釋為什麼預設 Kubernetes 自動擴縮器在 LLM 流量下會造成中斷,以及 KEDA、Knative、CRIU 如何組合成修補方案。

2026-05-05

LLM Primer VI 章節走讀第十篇。這一章替引擎與平台之間的界線命名,並走過 2026 年主宰那一層的五個引擎。

2026-05-02

LLM Primer VI 章節走讀第九篇。這一章顯示自回歸的循序瓶頸其實有一個數學上的漏洞 — 並展示它何時值得付出代價的算術。

2026-05-01

LLM Primer VI 章節走讀第八篇。這一章把作業系統的分頁洞見搬進推論引擎 — 並把 KV 快取從一段預留的位元組 slab 變成一個共享、可逐出、可做 prefix cache 的資源。

2026-04-30

LLM Primer VI 章節走讀第七篇。這一章展示為什麼批次處理不是最佳化,而是讓受頻寬所困的 decoding 變得可解的關鍵動作 — 以及為什麼「批次」是動詞、不是名詞。

2026-04-29

LLM Primer VI 章節走讀第四篇。這一章主張 GPU 與 ASIC 之間的選擇是一道工作量形狀題 — 並把形狀交給你。

2026-04-26

LLM Primer VI 章節走讀第三篇。這一章主張,挑一顆服務 GPU 應該看它的 HBM 頻寬與 VRAM 容量,而不是規格表正面的那個 FLOP/s 數字。

2026-04-25

《LLM Primer VI:擴展 AI 系統》章節走讀的入口。這一卷把 LLM 推論當成一門工程學科來看待,在記憶體頻寬、排程、以及美元符號互相碰撞的地方展開。

2026-04-22