LLM介紹

本頁面為AI愛好者提供從基礎到應用的大型語言模型(LLM)指南。


共有20篇文章。 | 當前在第1頁,共1頁。

第 16 章 — 安全的微調與適配

LLM Primer VII 章節走讀第十六篇。本章把微調後的模型當作一份其安全屬性必須被爭取、不是被繼承的產物 — 因為同一批教出領域詞彙的梯度步伐,也能侵蝕基底模型帶來的對齊。

2026-05-25

第 15 章 — 打造安全的 AI 組織

LLM Primer VII 章節走讀第十五篇。本章把資安文化、紅隊、供應商風險與長期維運視為那個承載這門紀律歷經多年的組織基礎設施。

2026-05-24

第 14 章 — 偏見、公平性與負責任 AI

LLM Primer VII 章節走讀第十四篇。本章把負責任 AI 當作在不確定下做選擇的紀律 — 那裡技術工具浮現取捨,卻不解決它們。

2026-05-23

第 13 章 — 監管地景

LLM Primer VII 章節走讀第十三篇。本章把複數的、仍在整合的監管地景,對映到前面章節所發展的技術控制上。

2026-05-22

第 11 章 — 可觀測性、日誌與事件回應

LLM Primer VII 章節走讀第十一篇。本章把日誌、告警與事件回應當作那個把架構防禦轉成營運者能真正運行之系統的層。

2026-05-20

第 9 章 — 模型完整性與供應鏈風險

LLM Primer VII 章節走讀第九篇。本章把模型檔案當作一份由第三方發佈的二進位檔案 — 帶著二進位發佈一直以來所承載的反序列化、後門與來源歸屬顧慮。

2026-05-18

第 7 章 — 幻覺與可靠性

LLM Primer VII 章節走讀第七篇。本章把可靠性當作一項安全屬性來處理 — 因為每當後果依賴於正確性時,一份自信而錯誤的輸出就是安全問題。

2026-05-16

LLM Primer VII — 系列導論與索引

LLM Primer VII 章節走讀的導論與索引。這是系列的完結之卷:LLM Primer 的工程弧線,最後落在決定這一切能否在對手、監管機關以及機率系統日常故障模式面前存活下來的那個學科。

2026-05-09

第 16 章 — 生產環境的降本策略

LLM Primer VI 章節走讀最終篇。那些各自獨立、但能複利成上個月帳單三分之一到一半的動作目錄。

2026-05-08

第 14 章 — Token 經濟學與 API 定價

LLM Primer VI 章節走讀第十四篇。這一章把第 1 章的物理連到帳單上的項目 — 並解釋為什麼第一個月的帳單常常跟團隊的預估完全對不上。

2026-05-06

第 13 章 — 自動擴縮與冷啟動緩解

LLM Primer VI 章節走讀第十三篇。這一章解釋為什麼預設 Kubernetes 自動擴縮器在 LLM 流量下會造成中斷,以及 KEDA、Knative、CRIU 如何組合成修補方案。

2026-05-05

第 12 章 — 解耦式服務與 Kubernetes

LLM Primer VI 章節走讀第十二篇。這一章終於把 prefill 與 decode 拆到不同的 GPU 池,並展示能把 pod 留在互連正確一側的 Kubernetes 原語。

2026-05-04

第 11 章 — 平台與編排層

LLM Primer VI 章節走讀第十一篇。這一章主張平台的選擇不是關於功能,而是關於哪一種維運模式對得上團隊既有的維運文化。

2026-05-03

第 8 章 — 下一代 KV 快取管理

LLM Primer VI 章節走讀第八篇。這一章把作業系統的分頁洞見搬進推論引擎 — 並把 KV 快取從一段預留的位元組 slab 變成一個共享、可逐出、可做 prefix cache 的資源。

2026-04-30

第 6 章 — 剪枝與知識蒸餾

LLM Primer VI 章節走讀第六篇。這一章直接攻擊權重的數量 — 先把不重要的權重歸零,再把大模型的行為轉移到更小的模型裡。

2026-04-28

第 5 章 — 量化去神秘化

LLM Primer VI 章節走讀第五篇。這一章解釋為什麼 70B 模型撐得住 4 位元量化,而 1B 模型撐不住 — 以及怎麼挑配方。

2026-04-27

LLM Primer VI — 系列簡介與索引

《LLM Primer VI:擴展 AI 系統》章節走讀的入口。這一卷把 LLM 推論當成一門工程學科來看待,在記憶體頻寬、排程、以及美元符號互相碰撞的地方展開。

2026-04-22

第 8 章 — 效能、服務、成本的最佳化

LLM Primer V 章節走讀最終篇。把生產 LLM 經濟學當分層紀律處理 — 最便宜的呼叫是那個沒發生的,而下面每一層是讓下一次呼叫變便宜的那一層。

2026-04-21

第 6 章 — AI 可觀測性與追蹤

LLM Primer V 章節走讀第六篇。把使用者的查詢當一棵因果樹處理、不當請求日誌。走過 OpenTelemetry GenAI 語意慣例、TTFT/TPOT/cost/quality 這些真的重要的指標,以及把 trace 餵回評估的匯出管線。

2026-04-19

LLM 入門系列 — 一卷一卷讀懂生成式 AI

LLM Primer 系列 — 下田昌平(Sho Shimoda)撰寫的七卷本生成式 AI 現場指南,已完結。從基礎到安全。含姊妹卷《Physical AI》。全 7 卷均於 Amazon 上市。

2026-02-15