LLM介紹

本頁面為AI愛好者提供從基礎到應用的大型語言模型(LLM)指南。


共有21篇文章。 | 當前在第1頁,共1頁。

第 16 章 — 安全的微調與適配

LLM Primer VII 章節走讀第十六篇。本章把微調後的模型當作一份其安全屬性必須被爭取、不是被繼承的產物 — 因為同一批教出領域詞彙的梯度步伐,也能侵蝕基底模型帶來的對齊。

2026-05-25

第 14 章 — 偏見、公平性與負責任 AI

LLM Primer VII 章節走讀第十四篇。本章把負責任 AI 當作在不確定下做選擇的紀律 — 那裡技術工具浮現取捨,卻不解決它們。

2026-05-23

第 11 章 — 可觀測性、日誌與事件回應

LLM Primer VII 章節走讀第十一篇。本章把日誌、告警與事件回應當作那個把架構防禦轉成營運者能真正運行之系統的層。

2026-05-20

第 9 章 — 模型完整性與供應鏈風險

LLM Primer VII 章節走讀第九篇。本章把模型檔案當作一份由第三方發佈的二進位檔案 — 帶著二進位發佈一直以來所承載的反序列化、後門與來源歸屬顧慮。

2026-05-18

第 8 章 — 對模型的對抗性攻擊

LLM Primer VII 章節走讀第八篇。本章追溯對抗性攻擊 — 從 Goodfellow 2014 年的影像分類器工作,經 TextFooler 與 universal suffix,一路到針對生產 API 的 model stealing。

2026-05-17

第 7 章 — 幻覺與可靠性

LLM Primer VII 章節走讀第七篇。本章把可靠性當作一項安全屬性來處理 — 因為每當後果依賴於正確性時,一份自信而錯誤的輸出就是安全問題。

2026-05-16

第 6 章 — 檢索增強生成的風險

LLM Primer VII 章節走讀第六篇。本章把檢索語料當作一條不可信的輸入通道 — 因為每一份被索引的文件,從模型的視角來看,都是與使用者問題對等地位的一則指令。

2026-05-15

第 5 章 — 輸入驗證與輸出過濾

LLM Primer VII 章節走讀第五篇。本章把第 4 章的分層緩解框架轉成作業紀律 — 淨化階段、guardrail 工具、結構化輸出、紅隊,以及真正有意義的安全指標。

2026-05-14

第 3 章 — 資料安全與隱私

LLM Primer VII 章節走讀第三篇。本章把資料當作一項具有生命週期的資產來處理 — 從模型部分記住了的訓練語料,到 Samsung 工程師在事件被命名之前貼進 ChatGPT 的使用者輸入。

2026-05-12

第 2 章 — LLM 系統的威脅建模

LLM Primer VII 章節走讀第二篇。本章把 Shostack 的四個問題、STRIDE、PASTA 與 MITRE ATLAS 套用到一個最強大元件把所有輸入都當作可能指令的系統上。

2026-05-11

LLM Primer VII — 系列導論與索引

LLM Primer VII 章節走讀的導論與索引。這是系列的完結之卷:LLM Primer 的工程弧線,最後落在決定這一切能否在對手、監管機關以及機率系統日常故障模式面前存活下來的那個學科。

2026-05-09

第 16 章 — 生產環境的降本策略

LLM Primer VI 章節走讀最終篇。那些各自獨立、但能複利成上個月帳單三分之一到一半的動作目錄。

2026-05-08

第 15 章 — 無伺服器 API 對比專屬基礎設施

LLM Primer VI 章節走讀第十五篇。這一章把損益兩平的算術擺上桌,接著替那個對大多數團隊而言決定答案的平台工程項目命名。

2026-05-07

第 8 章 — 下一代 KV 快取管理

LLM Primer VI 章節走讀第八篇。這一章把作業系統的分頁洞見搬進推論引擎 — 並把 KV 快取從一段預留的位元組 slab 變成一個共享、可逐出、可做 prefix cache 的資源。

2026-04-30

第 7 章 — 進階批次處理策略

LLM Primer VI 章節走讀第七篇。這一章展示為什麼批次處理不是最佳化,而是讓受頻寬所困的 decoding 變得可解的關鍵動作 — 以及為什麼「批次」是動詞、不是名詞。

2026-04-29

第 4 章 — 專用 AI 矽晶片與 ASIC

LLM Primer VI 章節走讀第四篇。這一章主張 GPU 與 ASIC 之間的選擇是一道工作量形狀題 — 並把形狀交給你。

2026-04-26

LLM Primer VI — 系列簡介與索引

《LLM Primer VI:擴展 AI 系統》章節走讀的入口。這一卷把 LLM 推論當成一門工程學科來看待,在記憶體頻寬、排程、以及美元符號互相碰撞的地方展開。

2026-04-22

第 4 章 — AI 代理與工具呼叫

LLM Primer V 章節走讀第四篇。把代理當一個「對著工具跑迴圈的語言模型」處理 — 工具 schema、記憶層、多代理接線都得先工程好,迴圈才能被信任去做真的事。

2026-04-17

第 2 章 — 基礎模型與提示詞工程

LLM Primer V 章節走讀第二篇。提示詞工程就是工程 — 版本化的模板、防禦式界定符、結構化輸出。從模型分層、取樣參數走到 Pydantic/Zod schema 強制、Outlines 文法約束解碼。

2026-04-15

第 1 章 — AI 工程作為一門學科

LLM Primer V 章節走讀第一篇。你的 demo 會動、生產系統不會動,原因不在模型 — 是工程問題,而且那門工程有名字。走過可靠性裂縫、確定性包裝、以及五根柱子。

2026-04-14

LLM Primer V — 系列導讀與索引

LLM Primer V 系列導讀。從 demo 走到生產環境會踩到的那個縫、AI 工程作為一門獨立學科的框架,以及八章走過的八個工程面 — 基礎模型、提示詞、檢索、代理、評估、可觀測性、安全、服務經濟。

2026-04-13