LLM介紹

本頁面為AI愛好者提供從基礎到應用的大型語言模型（LLM）指南。

共有13篇文章。 | 當前在第1頁，共1頁。

第 16 章 — 安全的微調與適配

LLM Primer VII 章節走讀第十六篇。本章把微調後的模型當作一份其安全屬性必須被爭取、不是被繼承的產物 — 因為同一批教出領域詞彙的梯度步伐,也能侵蝕基底模型帶來的對齊。

2026-05-25

LLM Primer VII 章節走讀第十四篇。本章把負責任 AI 當作在不確定下做選擇的紀律 — 那裡技術工具浮現取捨,卻不解決它們。

2026-05-23

LLM Primer VII 章節走讀第十二篇。本章回答組合性問題 — 誰被允許呼叫一個 LLM 整合應用的哪一項能力,以及如何在系統元件之間結構化執行。

2026-05-21

LLM Primer VII 章節走讀第六篇。本章把檢索語料當作一條不可信的輸入通道 — 因為每一份被索引的文件,從模型的視角來看,都是與使用者問題對等地位的一則指令。

2026-05-15

LLM Primer VII 章節走讀第五篇。本章把第 4 章的分層緩解框架轉成作業紀律 — 淨化階段、guardrail 工具、結構化輸出、紅隊,以及真正有意義的安全指標。

2026-05-14

LLM Primer VII 章節走讀第三篇。本章把資料當作一項具有生命週期的資產來處理 — 從模型部分記住了的訓練語料,到 Samsung 工程師在事件被命名之前貼進 ChatGPT 的使用者輸入。

2026-05-12

LLM Primer VI 章節走讀第十二篇。這一章終於把 prefill 與 decode 拆到不同的 GPU 池,並展示能把 pod 留在互連正確一側的 Kubernetes 原語。

2026-05-04

LLM Primer VI 章節走讀第八篇。這一章把作業系統的分頁洞見搬進推論引擎 — 並把 KV 快取從一段預留的位元組 slab 變成一個共享、可逐出、可做 prefix cache 的資源。

2026-04-30

LLM Primer VI 章節走讀第二篇。這一章替那個會先於權重吃光每個服務系統 VRAM 的資料結構命名。走過主導 KV 快取大小的公式、把它縮小的架構變體,以及會摧毀天真配置方式的碎裂化問題。

2026-04-24

LLM Primer V 章節走讀第六篇。把使用者的查詢當一棵因果樹處理、不當請求日誌。走過 OpenTelemetry GenAI 語意慣例、TTFT/TPOT/cost/quality 這些真的重要的指標,以及把 trace 餵回評估的匯出管線。

2026-04-19

LLM Primer V 章節走讀第四篇。把代理當一個「對著工具跑迴圈的語言模型」處理 — 工具 schema、記憶層、多代理接線都得先工程好,迴圈才能被信任去做真的事。

2026-04-17

LLM Primer V 章節走讀第三篇。走過整條 RAG 管線 — 載入、切塊、嵌入、檢索、生成 — 並把「在你十個最愛文件上會動的 demo」跟「撐得住真實語料的系統」區分開來。

2026-04-16

LLM Primer V 章節走讀第二篇。提示詞工程就是工程 — 版本化的模板、防禦式界定符、結構化輸出。從模型分層、取樣參數走到 Pydantic/Zod schema 強制、Outlines 文法約束解碼。

2026-04-15