LLM介紹

本頁面為AI愛好者提供從基礎到應用的大型語言模型（LLM）指南。

共有13篇文章。 | 當前在第1頁，共1頁。

第 14 章 — 偏見、公平性與負責任 AI

LLM Primer VII 章節走讀第十四篇。本章把負責任 AI 當作在不確定下做選擇的紀律 — 那裡技術工具浮現取捨,卻不解決它們。

2026-05-23

LLM Primer VII 章節走讀第六篇。本章把檢索語料當作一條不可信的輸入通道 — 因為每一份被索引的文件,從模型的視角來看,都是與使用者問題對等地位的一則指令。

2026-05-15

LLM Primer VII 章節走讀第四篇。本章坐在實務 LLM 安全問題的正中央 — 並解釋為什麼 prompt injection 沒有類似參數化查詢那樣的結構性修法,只有分層的部分性防禦。

2026-05-13

LLM Primer VII 章節走讀的導論與索引。這是系列的完結之卷:LLM Primer 的工程弧線,最後落在決定這一切能否在對手、監管機關以及機率系統日常故障模式面前存活下來的那個學科。

2026-05-09

LLM Primer VI 章節走讀第十二篇。這一章終於把 prefill 與 decode 拆到不同的 GPU 池,並展示能把 pod 留在互連正確一側的 Kubernetes 原語。

2026-05-04

LLM Primer VI 章節走讀第三篇。這一章主張,挑一顆服務 GPU 應該看它的 HBM 頻寬與 VRAM 容量,而不是規格表正面的那個 FLOP/s 數字。

2026-04-25

LLM Primer VI 章節走讀第二篇。這一章替那個會先於權重吃光每個服務系統 VRAM 的資料結構命名。走過主導 KV 快取大小的公式、把它縮小的架構變體,以及會摧毀天真配置方式的碎裂化問題。

2026-04-24

LLM Primer VI 章節走讀第一篇。這一章主張:LLM 服務裡幾乎每一個困難的問題都出自一個事實 — 產生每個 token 的那個迴圈受制於記憶體頻寬,你花錢租來的昂貴運算 99.7% 的時間都是閒置的。

2026-04-23

《LLM Primer VI:擴展 AI 系統》章節走讀的入口。這一卷把 LLM 推論當成一門工程學科來看待,在記憶體頻寬、排程、以及美元符號互相碰撞的地方展開。

2026-04-22

LLM Primer V 章節走讀最終篇。把生產 LLM 經濟學當分層紀律處理 — 最便宜的呼叫是那個沒發生的,而下面每一層是讓下一次呼叫變便宜的那一層。

2026-04-21

LLM Primer V 章節走讀第四篇。把代理當一個「對著工具跑迴圈的語言模型」處理 — 工具 schema、記憶層、多代理接線都得先工程好,迴圈才能被信任去做真的事。

2026-04-17

LLM Primer V 章節走讀第三篇。走過整條 RAG 管線 — 載入、切塊、嵌入、檢索、生成 — 並把「在你十個最愛文件上會動的 demo」跟「撐得住真實語料的系統」區分開來。

2026-04-16

LLM Primer V 系列導讀。從 demo 走到生產環境會踩到的那個縫、AI 工程作為一門獨立學科的框架,以及八章走過的八個工程面 — 基礎模型、提示詞、檢索、代理、評估、可觀測性、安全、服務經濟。

2026-04-13