LLM介紹
本頁面為AI愛好者提供從基礎到應用的大型語言模型(LLM)指南。
共有3篇文章。 |
當前在第1頁,共1頁。
第 12 章 — 解耦式服務與 Kubernetes
LLM Primer VI 章節走讀第十二篇。這一章終於把 prefill 與 decode 拆到不同的 GPU 池,並展示能把 pod 留在互連正確一側的 Kubernetes 原語。
2026-05-04第 3 章 — 生成式 AI 的資料中心 GPU
LLM Primer VI 章節走讀第三篇。這一章主張,挑一顆服務 GPU 應該看它的 HBM 頻寬與 VRAM 容量,而不是規格表正面的那個 FLOP/s 數字。
2026-04-25