術語表
刷文章時撞見的詞,一頁查完。每條一句話說清它是什麼、以及它跟你有沒有關係。
按"為什麼會出現它"排序,和 09 · 全景地圖 的四個階段對應。
① 跟它說話
大模型(LLM,Large Language Model)
一個讀過海量文本的引擎,本事是根據輸入預測下一個字。寫作、翻譯、推理、寫程式碼都是這件事反覆做出來的。→ 入門篇 01
市面上有哪些家、各自以什麼見長,見模型篇。
Prompt(提示詞)
你每次交代給它的那段話。同一個模型,Prompt 不同,結果天差地別。本書的五要素:角色 / 任務 / 背景 / 要求 / 驗收。→ 入門篇 06、提示詞篇
System Prompt(系統提示)
對話開始前設定的身份和行為規範,整段對話每一輪都生效。每次都要重說的話,就搬進這裡。 → 07
Prompt Engineering(提示詞工程)
研究"怎麼把 Prompt 寫好"的統稱。聽著高深,落到實操就是五要素加幾個套路。不用專門學,用起來自然就會。
評測集(Eval)
一組"輸入 + 期望表現"的用例,用來客觀判斷一條提示詞或一個 Skill 好不好。五條就夠:一條標準情況 + 四條會翻車的。它把"感覺不錯"變成"五條裡過了幾條"。→ 提示詞篇 08
Zero-shot / Few-shot
Zero-shot 是不給例子直接提要求(大多數情況用這個)。Few-shot 是附上幾組"輸入 → 輸出"示例。當你怎麼描述都說不清想要什麼格式時,別描述了,給兩個例子。
思維鏈(CoT,Chain of Thought)
讓模型"一步步想"再給結論,在推理、算數、多條件判斷上明顯更準。現在的推理型模型已經內建了這個過程,不用你手動寫。
Temperature(溫度)
挑下一個 Token 時的隨機程度。低(0 ~ 0.3)穩定保守,適合要格式一致的活;高(0.8 以上)發散,適合起名、頭腦風暴。要"每次跑出來都一樣",調到最低。
推理模型(Reasoning model)
會先在內部"想"一段(生成一串思考過程)再給答案的那類模型。難題上更強,但慢、貴。簡單活用它是浪費。
② 它的邊界
Token(令牌)
模型處理文本的最小單位。一個漢字約 1~2 個,一個常見英文單詞約 1 個。計費、上下文上限、速率限制全按這個算。 也是它數不清字數的原因。→ 03
上下文 / 上下文視窗(Context / Context Window)
這一次它能同時"看見"的全部內容,和這個容器的上限(按 Token 計)。裡面裝著 System Prompt、全部對話歷史、你貼的資料、檢索結果、工具返回和它這次的輸出。視窗之外的東西對它不存在。 → 04
幻覺(Hallucination)
一本正經地編造不存在的內容——假數字、假引用、假功能、假人名。不是 bug,是"預測而非查證"的直接副產物。 防它的第一招是在 Prompt 裡寫死驗收條款。→ 05
知識截止時間(Knowledge cutoff)
訓練資料收集到哪一天為止。之後發生的事它要麼不知道,要麼按老資料推——而且不會主動告訴你這是過期的。問"最新的"什麼東西時格外小心。
max_tokens
你給這次輸出設的長度上限,到了就硬截斷。輸出到一半突然斷掉,八成是這個設小了,不是它不會寫。
速率限制(Rate limit)
每分鐘 / 每天最多能用多少 Token 或發多少次請求。批次處理時突然報錯被限流,通常是撞了這個。
參數量(7B / 70B / 671B…)
模型的規模,B 是十億。參數多≠一定更好用,但同一代裡通常更強、也更貴更慢。你不需要關心這個數字,除非要自己部署。
③ 讓它能幹活
結構化輸出(Structured Output)
約束它按指定格式輸出(通常是 JSON),讓下游程式碼能直接解析,不用再寫一堆字串處理。用帶新人打比方:要求他填表,而不是寫小作文。
Function Calling / Tool Use(函式呼叫 / 工具呼叫)
模型判斷"該調哪個工具、傳什麼參數",真正執行的是你的程式碼。這是它從"只會說"到"能做事"的那一步。它填工單,別人動手。
執行權在你手上,所以**"不給這個工具"是比"提示詞裡說不許做"硬得多的約束**。→ Agent 篇 03
RAG(檢索增強生成,Retrieval-Augmented Generation)
先從你的資料庫裡檢索出相關片段,再連問題一起塞進上下文讓它回答。解決"它不瞭解我們公司的東西"。派活時順手把相關資料夾遞給他。→ 09
Embedding(嵌入向量)
把一段文本翻譯成一串數字,意思相近的文本,數字也相近。RAG 靠它來判斷"哪幾段資料跟這個問題有關"。
向量資料庫(Vector Database)
專門存 Embedding、並且能飛快找出"最接近的幾條"的資料庫。RAG 的檢索那一步就在這裡發生。
微調(Fine-tuning)
用你自己的資料繼續訓練,改變模型本身的行為。和 RAG 的分工:RAG 補知識,微調改行為。 九成情況先老老實實做 RAG。→ 09
多模態(Multimodal)
不只吃文字,還能吃圖片、音訊、影片。截圖、手繪草圖、PDF 掃描件直接丟給它,就是靠這個。
注意區分理解(看圖、讀文件)和生成(出圖、出影片)——是兩類不同的模型。→ 模型篇 03
ASR / TTS(語音識別 / 語音合成)
ASR 把聲音轉成文字(會議錄音轉寫),TTS 把文字轉成聲音(播報、配音)。
兩個常見誤解:轉寫稿是髒材料,需要再用文本模型整理一遍——所謂"AI 會議紀要"通常是這兩類模型串成的一條 Workflow;以及"端到端即時語音"雖然延遲低,但沒有可見的中間產物,排查問題更難。→ 模型篇 03
重排模型(Rerank)
在 RAG 裡,嵌入模型粗篩出一批,重排模型再精挑出最相關的幾條。RAG 效果不好時,先看嵌入和重排,而不是換更強的文本模型——檢索沒找對資料,給再強的模型也白搭。→ 模型篇 03
④ 讓它自己跑
Agent(智慧體)
給一個目標,它自己拆步驟、執行、檢查、再修正的閉環。拆開就是:會規劃 + 能調工具 + 能迴圈。注意它是一種工作模式,不是某個軟體。
只在事先不知道有幾步的時候才需要它;步驟寫得出來就用 Workflow。更常見的用法是區域性:整條線是 Workflow,只有拿不準的那一步放 Agent。→ Agent 篇、Workflow 篇 10
Workflow(工作流)
一條你把步驟定死、它照著走的流水線:每步的輸入、產出、驗收標準都由你事先規定。和 Agent 的分界線只有一句——誰來決定走幾步。
能把步驟寫下來,就寫下來。 一件確定的事交給 Agent,是拿可預測性、可除錯性和成本上限,換一樣你不需要的東西。→ Workflow 篇
中間產物(Intermediate output)
流水線裡步與步之間傳的東西。三條要求:可讀(掃一眼知道對不對)、可查(能對回上一步的原始材料)、可重跑(從這兒重跑,不用回第一步)。用表格或 JSON,不要用段落。→ Workflow 篇 04
MCP(模型上下文協議,Model Context Protocol)
讓 AI 應用接外部系統(資料庫、訊息、內部工具)的開放標準。一次開發,各家通用——官方類比是 USB-C。
三個角色:Host(你在用的 AI 應用)、Client(Host 為每個服務端建的一條連線)、Server(提供能力的程式)。服務端可以暴露 Tools(可執行的函式)、Resources(資料來源)、Prompts(模板)三類東西。
裝一個 Server 等於在你的環境裡裝一個軟體並給它權限,來源和權限範圍都要看。→ Agent 篇 04
Skill(技能)
把常用的規則和說法打包存起來,以後一句話觸發,不用每次重講。判斷標準:只幹一次用 Prompt,每週都幹就做成 Skill。 它由三層組成:觸發描述(一直在)、正文(觸發時讀)、附件(用到才讀)。→ Skill 篇
漸進式披露(Progressive disclosure)
"用多少讀多少"的載入方式:開機時只加載每個 Skill 的名字和一句說明,被觸發了才讀正文,正文提到了才讀附件。這是你能同時裝幾十個 Skill 而不撐爆上下文的原因。 → Skill 篇 03
Multi-Agent(多智慧體)
多個 Agent 分工協作,各管一段(比如一個查資料、一個寫、一個審)。聽著很酷,實際上單個 Agent 都沒調穩之前不要碰——它把上下文管理、錯誤定位、成本預估的難度全乘以 N。
真需要多個時,優先用 Workflow 把它們串起來,而不是讓它們自由協商。→ Agent 篇 10
附:幾組最容易搞混的
| 容易混的 | 一句話分清 |
|---|---|
| Prompt vs System Prompt | 這一次說的 vs 整段對話都算數的 |
| 上下文視窗 vs 記憶 | 它沒有記憶,"記得"是每次把歷史重發一遍 |
| RAG vs 微調 | 補知識 vs 改行為 |
| Agent vs Workflow | 它自己決定走幾步 vs 你把步驟定死。寫得出步驟就寫下來 |
| 模型 vs 工具 | 引擎 vs 整輛車(ChatGPT 是車,GPT 是引擎) |
| Function Calling vs MCP | 模型怎麼"提出"要調工具 vs 工具怎麼標準化地"接進來" |