Skip to content

術語表 ​

刷文章時撞見的詞,一頁查完。每條一句話說清它是什麼、以及它跟你有沒有關係。

按"為什麼會出現它"排序,和 09 · 全景地圖 的四個階段對應。

① 跟它說話 ​

大模型(LLM,Large Language Model) ​

一個讀過海量文本的引擎,本事是根據輸入預測下一個字。寫作、翻譯、推理、寫程式碼都是這件事反覆做出來的。→ 入門篇 01

市面上有哪些家、各自以什麼見長,見模型篇。

Prompt(提示詞) ​

你每次交代給它的那段話。同一個模型,Prompt 不同,結果天差地別。本書的五要素:角色 / 任務 / 背景 / 要求 / 驗收。→ 入門篇 06、提示詞篇

System Prompt(系統提示) ​

對話開始前設定的身份和行為規範,整段對話每一輪都生效。每次都要重說的話,就搬進這裡。 → 07

Prompt Engineering(提示詞工程) ​

研究"怎麼把 Prompt 寫好"的統稱。聽著高深,落到實操就是五要素加幾個套路。不用專門學,用起來自然就會。

評測集(Eval) ​

一組"輸入 + 期望表現"的用例,用來客觀判斷一條提示詞或一個 Skill 好不好。五條就夠:一條標準情況 + 四條會翻車的。它把"感覺不錯"變成"五條裡過了幾條"。→ 提示詞篇 08

Zero-shot / Few-shot ​

Zero-shot 是不給例子直接提要求(大多數情況用這個)。Few-shot 是附上幾組"輸入 → 輸出"示例。當你怎麼描述都說不清想要什麼格式時,別描述了,給兩個例子。

思維鏈(CoT,Chain of Thought) ​

讓模型"一步步想"再給結論,在推理、算數、多條件判斷上明顯更準。現在的推理型模型已經內建了這個過程,不用你手動寫。

Temperature(溫度) ​

挑下一個 Token 時的隨機程度。低(0 ~ 0.3)穩定保守,適合要格式一致的活;高(0.8 以上)發散,適合起名、頭腦風暴。要"每次跑出來都一樣",調到最低。

推理模型(Reasoning model) ​

會先在內部"想"一段(生成一串思考過程)再給答案的那類模型。難題上更強,但慢、貴。簡單活用它是浪費。

② 它的邊界 ​

Token(令牌) ​

模型處理文本的最小單位。一個漢字約 1~2 個,一個常見英文單詞約 1 個。計費、上下文上限、速率限制全按這個算。 也是它數不清字數的原因。→ 03

上下文 / 上下文視窗(Context / Context Window) ​

這一次它能同時"看見"的全部內容,和這個容器的上限(按 Token 計)。裡面裝著 System Prompt、全部對話歷史、你貼的資料、檢索結果、工具返回和它這次的輸出。視窗之外的東西對它不存在。 → 04

幻覺(Hallucination) ​

一本正經地編造不存在的內容——假數字、假引用、假功能、假人名。不是 bug,是"預測而非查證"的直接副產物。 防它的第一招是在 Prompt 裡寫死驗收條款。→ 05

知識截止時間(Knowledge cutoff) ​

訓練資料收集到哪一天為止。之後發生的事它要麼不知道,要麼按老資料推——而且不會主動告訴你這是過期的。問"最新的"什麼東西時格外小心。

max_tokens ​

你給這次輸出設的長度上限,到了就硬截斷。輸出到一半突然斷掉,八成是這個設小了,不是它不會寫。

速率限制(Rate limit) ​

每分鐘 / 每天最多能用多少 Token 或發多少次請求。批次處理時突然報錯被限流,通常是撞了這個。

參數量(7B / 70B / 671B…) ​

模型的規模,B 是十億。參數多≠一定更好用,但同一代裡通常更強、也更貴更慢。你不需要關心這個數字,除非要自己部署。

③ 讓它能幹活 ​

結構化輸出(Structured Output) ​

約束它按指定格式輸出(通常是 JSON),讓下游程式碼能直接解析,不用再寫一堆字串處理。用帶新人打比方:要求他填表,而不是寫小作文。

Function Calling / Tool Use(函式呼叫 / 工具呼叫) ​

模型判斷"該調哪個工具、傳什麼參數",真正執行的是你的程式碼。這是它從"只會說"到"能做事"的那一步。它填工單,別人動手。

執行權在你手上,所以**"不給這個工具"是比"提示詞裡說不許做"硬得多的約束**。→ Agent 篇 03

RAG(檢索增強生成,Retrieval-Augmented Generation) ​

先從你的資料庫裡檢索出相關片段,再連問題一起塞進上下文讓它回答。解決"它不瞭解我們公司的東西"。派活時順手把相關資料夾遞給他。→ 09

Embedding(嵌入向量) ​

把一段文本翻譯成一串數字,意思相近的文本,數字也相近。RAG 靠它來判斷"哪幾段資料跟這個問題有關"。

向量資料庫(Vector Database) ​

專門存 Embedding、並且能飛快找出"最接近的幾條"的資料庫。RAG 的檢索那一步就在這裡發生。

微調(Fine-tuning) ​

用你自己的資料繼續訓練,改變模型本身的行為。和 RAG 的分工:RAG 補知識,微調改行為。 九成情況先老老實實做 RAG。→ 09

多模態(Multimodal) ​

不只吃文字,還能吃圖片、音訊、影片。截圖、手繪草圖、PDF 掃描件直接丟給它,就是靠這個。

注意區分理解(看圖、讀文件)和生成(出圖、出影片)——是兩類不同的模型。→ 模型篇 03

ASR / TTS(語音識別 / 語音合成) ​

ASR 把聲音轉成文字(會議錄音轉寫),TTS 把文字轉成聲音(播報、配音)。

兩個常見誤解:轉寫稿是髒材料,需要再用文本模型整理一遍——所謂"AI 會議紀要"通常是這兩類模型串成的一條 Workflow;以及"端到端即時語音"雖然延遲低,但沒有可見的中間產物,排查問題更難。→ 模型篇 03

重排模型(Rerank) ​

在 RAG 裡,嵌入模型粗篩出一批,重排模型再精挑出最相關的幾條。RAG 效果不好時,先看嵌入和重排,而不是換更強的文本模型——檢索沒找對資料,給再強的模型也白搭。→ 模型篇 03

④ 讓它自己跑 ​

Agent(智慧體) ​

給一個目標,它自己拆步驟、執行、檢查、再修正的閉環。拆開就是:會規劃 + 能調工具 + 能迴圈。注意它是一種工作模式,不是某個軟體。

只在事先不知道有幾步的時候才需要它;步驟寫得出來就用 Workflow。更常見的用法是區域性:整條線是 Workflow,只有拿不準的那一步放 Agent。→ Agent 篇、Workflow 篇 10

Workflow(工作流) ​

一條你把步驟定死、它照著走的流水線:每步的輸入、產出、驗收標準都由你事先規定。和 Agent 的分界線只有一句——誰來決定走幾步。

能把步驟寫下來,就寫下來。 一件確定的事交給 Agent,是拿可預測性、可除錯性和成本上限,換一樣你不需要的東西。→ Workflow 篇

中間產物(Intermediate output) ​

流水線裡步與步之間傳的東西。三條要求:可讀(掃一眼知道對不對)、可查(能對回上一步的原始材料)、可重跑(從這兒重跑,不用回第一步)。用表格或 JSON,不要用段落。→ Workflow 篇 04

MCP(模型上下文協議,Model Context Protocol) ​

讓 AI 應用接外部系統(資料庫、訊息、內部工具)的開放標準。一次開發,各家通用——官方類比是 USB-C。

三個角色:Host(你在用的 AI 應用)、Client(Host 為每個服務端建的一條連線)、Server(提供能力的程式)。服務端可以暴露 Tools(可執行的函式)、Resources(資料來源)、Prompts(模板)三類東西。

裝一個 Server 等於在你的環境裡裝一個軟體並給它權限,來源和權限範圍都要看。→ Agent 篇 04

Skill(技能) ​

把常用的規則和說法打包存起來,以後一句話觸發,不用每次重講。判斷標準:只幹一次用 Prompt,每週都幹就做成 Skill。 它由三層組成:觸發描述(一直在)、正文(觸發時讀)、附件(用到才讀)。→ Skill 篇

漸進式披露(Progressive disclosure) ​

"用多少讀多少"的載入方式:開機時只加載每個 Skill 的名字和一句說明,被觸發了才讀正文,正文提到了才讀附件。這是你能同時裝幾十個 Skill 而不撐爆上下文的原因。 → Skill 篇 03

Multi-Agent(多智慧體) ​

多個 Agent 分工協作,各管一段(比如一個查資料、一個寫、一個審)。聽著很酷,實際上單個 Agent 都沒調穩之前不要碰——它把上下文管理、錯誤定位、成本預估的難度全乘以 N。

真需要多個時,優先用 Workflow 把它們串起來,而不是讓它們自由協商。→ Agent 篇 10

附:幾組最容易搞混的 ​

容易混的一句話分清
Prompt vs System Prompt這一次說的 vs 整段對話都算數的
上下文視窗 vs 記憶它沒有記憶,"記得"是每次把歷史重發一遍
RAG vs 微調補知識 vs 改行為
Agent vs Workflow它自己決定走幾步 vs 你把步驟定死。寫得出步驟就寫下來
模型 vs 工具引擎 vs 整輛車(ChatGPT 是車,GPT 是引擎)
Function Calling vs MCP模型怎麼"提出"要調工具 vs 工具怎麼標準化地"接進來"

一份講通用概念的入門手冊 · 不綁定任何一家模型或工具 · 例子可直接照抄