LLM介紹

本頁面為AI愛好者提供從基礎到應用的大型語言模型(LLM)指南。


共有8篇文章。 | 當前在第1頁,共1頁。

第 5 章 — 輸入驗證與輸出過濾

LLM Primer VII 章節走讀第五篇。本章把第 4 章的分層緩解框架轉成作業紀律 — 淨化階段、guardrail 工具、結構化輸出、紅隊,以及真正有意義的安全指標。

2026-05-14

第 4 章 — Prompt Injection 與 Jailbreak

LLM Primer VII 章節走讀第四篇。本章坐在實務 LLM 安全問題的正中央 — 並解釋為什麼 prompt injection 沒有類似參數化查詢那樣的結構性修法,只有分層的部分性防禦。

2026-05-13

第 2 章 — LLM 系統的威脅建模

LLM Primer VII 章節走讀第二篇。本章把 Shostack 的四個問題、STRIDE、PASTA 與 MITRE ATLAS 套用到一個最強大元件把所有輸入都當作可能指令的系統上。

2026-05-11

第 5 章 — 量化去神秘化

LLM Primer VI 章節走讀第五篇。這一章解釋為什麼 70B 模型撐得住 4 位元量化,而 1B 模型撐不住 — 以及怎麼挑配方。

2026-04-27

第 4 章 — 專用 AI 矽晶片與 ASIC

LLM Primer VI 章節走讀第四篇。這一章主張 GPU 與 ASIC 之間的選擇是一道工作量形狀題 — 並把形狀交給你。

2026-04-26

第 2 章 — KV 快取的挑戰

LLM Primer VI 章節走讀第二篇。這一章替那個會先於權重吃光每個服務系統 VRAM 的資料結構命名。走過主導 KV 快取大小的公式、把它縮小的架構變體,以及會摧毀天真配置方式的碎裂化問題。

2026-04-24

第 4 章 — AI 代理與工具呼叫

LLM Primer V 章節走讀第四篇。把代理當一個「對著工具跑迴圈的語言模型」處理 — 工具 schema、記憶層、多代理接線都得先工程好,迴圈才能被信任去做真的事。

2026-04-17

第 2 章 — 基礎模型與提示詞工程

LLM Primer V 章節走讀第二篇。提示詞工程就是工程 — 版本化的模板、防禦式界定符、結構化輸出。從模型分層、取樣參數走到 Pydantic/Zod schema 強制、Outlines 文法約束解碼。

2026-04-15