LLM介紹

本頁面為AI愛好者提供從基礎到應用的大型語言模型(LLM)指南。


共有15篇文章。 | 當前在第1頁,共1頁。

第 12 章 — 存取控制與身分

LLM Primer VII 章節走讀第十二篇。本章回答組合性問題 — 誰被允許呼叫一個 LLM 整合應用的哪一項能力,以及如何在系統元件之間結構化執行。

2026-05-21

第 6 章 — 檢索增強生成的風險

LLM Primer VII 章節走讀第六篇。本章把檢索語料當作一條不可信的輸入通道 — 因為每一份被索引的文件,從模型的視角來看,都是與使用者問題對等地位的一則指令。

2026-05-15

第 5 章 — 輸入驗證與輸出過濾

LLM Primer VII 章節走讀第五篇。本章把第 4 章的分層緩解框架轉成作業紀律 — 淨化階段、guardrail 工具、結構化輸出、紅隊,以及真正有意義的安全指標。

2026-05-14

第 3 章 — 資料安全與隱私

LLM Primer VII 章節走讀第三篇。本章把資料當作一項具有生命週期的資產來處理 — 從模型部分記住了的訓練語料,到 Samsung 工程師在事件被命名之前貼進 ChatGPT 的使用者輸入。

2026-05-12

第 2 章 — LLM 系統的威脅建模

LLM Primer VII 章節走讀第二篇。本章把 Shostack 的四個問題、STRIDE、PASTA 與 MITRE ATLAS 套用到一個最強大元件把所有輸入都當作可能指令的系統上。

2026-05-11

第 15 章 — 無伺服器 API 對比專屬基礎設施

LLM Primer VI 章節走讀第十五篇。這一章把損益兩平的算術擺上桌,接著替那個對大多數團隊而言決定答案的平台工程項目命名。

2026-05-07

第 10 章 — LLM 引擎層

LLM Primer VI 章節走讀第十篇。這一章替引擎與平台之間的界線命名,並走過 2026 年主宰那一層的五個引擎。

2026-05-02

第 6 章 — 剪枝與知識蒸餾

LLM Primer VI 章節走讀第六篇。這一章直接攻擊權重的數量 — 先把不重要的權重歸零,再把大模型的行為轉移到更小的模型裡。

2026-04-28

第 4 章 — 專用 AI 矽晶片與 ASIC

LLM Primer VI 章節走讀第四篇。這一章主張 GPU 與 ASIC 之間的選擇是一道工作量形狀題 — 並把形狀交給你。

2026-04-26

第 1 章 — Token 生成的力學

LLM Primer VI 章節走讀第一篇。這一章主張:LLM 服務裡幾乎每一個困難的問題都出自一個事實 — 產生每個 token 的那個迴圈受制於記憶體頻寬,你花錢租來的昂貴運算 99.7% 的時間都是閒置的。

2026-04-23

LLM Primer VI — 系列簡介與索引

《LLM Primer VI:擴展 AI 系統》章節走讀的入口。這一卷把 LLM 推論當成一門工程學科來看待,在記憶體頻寬、排程、以及美元符號互相碰撞的地方展開。

2026-04-22

第 7 章 — LLM 安全與護欄

LLM Primer V 章節走讀第七篇。命名 LLM 應用引入的新安全軸 — 控制什麼指令、從哪裡、帶多少權限到達模型 — 並圍繞它建緩解矩陣。

2026-04-20

第 4 章 — AI 代理與工具呼叫

LLM Primer V 章節走讀第四篇。把代理當一個「對著工具跑迴圈的語言模型」處理 — 工具 schema、記憶層、多代理接線都得先工程好,迴圈才能被信任去做真的事。

2026-04-17

第 3 章 — 檢索增強生成

LLM Primer V 章節走讀第三篇。走過整條 RAG 管線 — 載入、切塊、嵌入、檢索、生成 — 並把「在你十個最愛文件上會動的 demo」跟「撐得住真實語料的系統」區分開來。

2026-04-16

LLM 入門系列 — 一卷一卷讀懂生成式 AI

LLM Primer 系列 — 下田昌平(Sho Shimoda)撰寫的七卷本生成式 AI 現場指南,已完結。從基礎到安全。含姊妹卷《Physical AI》。全 7 卷均於 Amazon 上市。

2026-02-15