LLM介紹

本頁面為AI愛好者提供從基礎到應用的大型語言模型（LLM）指南。

共有8篇文章。 | 當前在第1頁，共1頁。

第 15 章 — 無伺服器 API 對比專屬基礎設施

LLM Primer VI 章節走讀第十五篇。這一章把損益兩平的算術擺上桌,接著替那個對大多數團隊而言決定答案的平台工程項目命名。

2026-05-07

LLM Primer VI 章節走讀第十四篇。這一章把第 1 章的物理連到帳單上的項目 — 並解釋為什麼第一個月的帳單常常跟團隊的預估完全對不上。

2026-05-06

LLM Primer VI 章節走讀第十二篇。這一章終於把 prefill 與 decode 拆到不同的 GPU 池,並展示能把 pod 留在互連正確一側的 Kubernetes 原語。

2026-05-04

LLM Primer VI 章節走讀第四篇。這一章主張 GPU 與 ASIC 之間的選擇是一道工作量形狀題 — 並把形狀交給你。

2026-04-26

LLM Primer VI 章節走讀第三篇。這一章主張,挑一顆服務 GPU 應該看它的 HBM 頻寬與 VRAM 容量,而不是規格表正面的那個 FLOP/s 數字。

2026-04-25

LLM Primer VI 章節走讀第二篇。這一章替那個會先於權重吃光每個服務系統 VRAM 的資料結構命名。走過主導 KV 快取大小的公式、把它縮小的架構變體,以及會摧毀天真配置方式的碎裂化問題。

2026-04-24

LLM Primer VI 章節走讀第一篇。這一章主張:LLM 服務裡幾乎每一個困難的問題都出自一個事實 — 產生每個 token 的那個迴圈受制於記憶體頻寬,你花錢租來的昂貴運算 99.7% 的時間都是閒置的。

2026-04-23

《LLM Primer VI:擴展 AI 系統》章節走讀的入口。這一卷把 LLM 推論當成一門工程學科來看待,在記憶體頻寬、排程、以及美元符號互相碰撞的地方展開。

2026-04-22