术语表
刷文章时撞见的词,一页查完。每条一句话说清它是什么、以及它跟你有没有关系。
按"为什么会出现它"排序,和 09 · 全景地图 的四个阶段对应。
① 跟它说话
大模型(LLM,Large Language Model)
一个读过海量文本的引擎,本事是根据输入预测下一个字。写作、翻译、推理、写代码都是这件事反复做出来的。→ 入门篇 01
市面上有哪些家、各自以什么见长,见模型篇。
Prompt(提示词)
你每次交代给它的那段话。同一个模型,Prompt 不同,结果天差地别。本书的五要素:角色 / 任务 / 背景 / 要求 / 验收。→ 入门篇 06、提示词篇
System Prompt(系统提示)
对话开始前设定的身份和行为规范,整段对话每一轮都生效。每次都要重说的话,就搬进这里。 → 07
Prompt Engineering(提示词工程)
研究"怎么把 Prompt 写好"的统称。听着高深,落到实操就是五要素加几个套路。不用专门学,用起来自然就会。
评测集(Eval)
一组"输入 + 期望表现"的用例,用来客观判断一条提示词或一个 Skill 好不好。五条就够:一条标准情况 + 四条会翻车的。它把"感觉不错"变成"五条里过了几条"。→ 提示词篇 08
Zero-shot / Few-shot
Zero-shot 是不给例子直接提要求(大多数情况用这个)。Few-shot 是附上几组"输入 → 输出"示例。当你怎么描述都说不清想要什么格式时,别描述了,给两个例子。
思维链(CoT,Chain of Thought)
让模型"一步步想"再给结论,在推理、算数、多条件判断上明显更准。现在的推理型模型已经内建了这个过程,不用你手动写。
Temperature(温度)
挑下一个 Token 时的随机程度。低(0 ~ 0.3)稳定保守,适合要格式一致的活;高(0.8 以上)发散,适合起名、头脑风暴。要"每次跑出来都一样",调到最低。
推理模型(Reasoning model)
会先在内部"想"一段(生成一串思考过程)再给答案的那类模型。难题上更强,但慢、贵。简单活用它是浪费。
② 它的边界
Token(令牌)
模型处理文本的最小单位。一个汉字约 1~2 个,一个常见英文单词约 1 个。计费、上下文上限、速率限制全按这个算。 也是它数不清字数的原因。→ 03
上下文 / 上下文窗口(Context / Context Window)
这一次它能同时"看见"的全部内容,和这个容器的上限(按 Token 计)。里面装着 System Prompt、全部对话历史、你贴的资料、检索结果、工具返回和它这次的输出。窗口之外的东西对它不存在。 → 04
幻觉(Hallucination)
一本正经地编造不存在的内容——假数字、假引用、假功能、假人名。不是 bug,是"预测而非查证"的直接副产物。 防它的第一招是在 Prompt 里写死验收条款。→ 05
知识截止时间(Knowledge cutoff)
训练数据收集到哪一天为止。之后发生的事它要么不知道,要么按老资料推——而且不会主动告诉你这是过期的。问"最新的"什么东西时格外小心。
max_tokens
你给这次输出设的长度上限,到了就硬截断。输出到一半突然断掉,八成是这个设小了,不是它不会写。
速率限制(Rate limit)
每分钟 / 每天最多能用多少 Token 或发多少次请求。批量处理时突然报错被限流,通常是撞了这个。
参数量(7B / 70B / 671B…)
模型的规模,B 是十亿。参数多≠一定更好用,但同一代里通常更强、也更贵更慢。你不需要关心这个数字,除非要自己部署。
③ 让它能干活
结构化输出(Structured Output)
约束它按指定格式输出(通常是 JSON),让下游代码能直接解析,不用再写一堆字符串处理。用带新人打比方:要求他填表,而不是写小作文。
Function Calling / Tool Use(函数调用 / 工具调用)
模型判断"该调哪个工具、传什么参数",真正执行的是你的代码。这是它从"只会说"到"能做事"的那一步。它填工单,别人动手。
执行权在你手上,所以**"不给这个工具"是比"提示词里说不许做"硬得多的约束**。→ Agent 篇 03
RAG(检索增强生成,Retrieval-Augmented Generation)
先从你的资料库里检索出相关片段,再连问题一起塞进上下文让它回答。解决"它不了解我们公司的东西"。派活时顺手把相关文件夹递给他。→ 09
Embedding(嵌入向量)
把一段文本翻译成一串数字,意思相近的文本,数字也相近。RAG 靠它来判断"哪几段资料跟这个问题有关"。
向量数据库(Vector Database)
专门存 Embedding、并且能飞快找出"最接近的几条"的数据库。RAG 的检索那一步就在这里发生。
微调(Fine-tuning)
用你自己的数据继续训练,改变模型本身的行为。和 RAG 的分工:RAG 补知识,微调改行为。 九成情况先老老实实做 RAG。→ 09
多模态(Multimodal)
不只吃文字,还能吃图片、音频、视频。截图、手绘草图、PDF 扫描件直接丢给它,就是靠这个。
注意区分理解(看图、读文档)和生成(出图、出视频)——是两类不同的模型。→ 模型篇 03
ASR / TTS(语音识别 / 语音合成)
ASR 把声音转成文字(会议录音转写),TTS 把文字转成声音(播报、配音)。
两个常见误解:转写稿是脏材料,需要再用文本模型整理一遍——所谓"AI 会议纪要"通常是这两类模型串成的一条 Workflow;以及"端到端实时语音"虽然延迟低,但没有可见的中间产物,排查问题更难。→ 模型篇 03
重排模型(Rerank)
在 RAG 里,嵌入模型粗筛出一批,重排模型再精挑出最相关的几条。RAG 效果不好时,先看嵌入和重排,而不是换更强的文本模型——检索没找对资料,给再强的模型也白搭。→ 模型篇 03
④ 让它自己跑
Agent(智能体)
给一个目标,它自己拆步骤、执行、检查、再修正的闭环。拆开就是:会规划 + 能调工具 + 能循环。注意它是一种工作模式,不是某个软件。
只在事先不知道有几步的时候才需要它;步骤写得出来就用 Workflow。更常见的用法是局部:整条线是 Workflow,只有拿不准的那一步放 Agent。→ Agent 篇、Workflow 篇 10
Workflow(工作流)
一条你把步骤定死、它照着走的流水线:每步的输入、产出、验收标准都由你事先规定。和 Agent 的分界线只有一句——谁来决定走几步。
能把步骤写下来,就写下来。 一件确定的事交给 Agent,是拿可预测性、可调试性和成本上限,换一样你不需要的东西。→ Workflow 篇
中间产物(Intermediate output)
流水线里步与步之间传的东西。三条要求:可读(扫一眼知道对不对)、可查(能对回上一步的原始材料)、可重跑(从这儿重跑,不用回第一步)。用表格或 JSON,不要用段落。→ Workflow 篇 04
MCP(模型上下文协议,Model Context Protocol)
让 AI 应用接外部系统(数据库、消息、内部工具)的开放标准。一次开发,各家通用——官方类比是 USB-C。
三个角色:Host(你在用的 AI 应用)、Client(Host 为每个服务端建的一条连接)、Server(提供能力的程序)。服务端可以暴露 Tools(可执行的函数)、Resources(数据源)、Prompts(模板)三类东西。
装一个 Server 等于在你的环境里装一个软件并给它权限,来源和权限范围都要看。→ Agent 篇 04
Skill(技能)
把常用的规则和说法打包存起来,以后一句话触发,不用每次重讲。判断标准:只干一次用 Prompt,每周都干就做成 Skill。 它由三层组成:触发描述(一直在)、正文(触发时读)、附件(用到才读)。→ Skill 篇
渐进式披露(Progressive disclosure)
"用多少读多少"的加载方式:开机时只加载每个 Skill 的名字和一句说明,被触发了才读正文,正文提到了才读附件。这是你能同时装几十个 Skill 而不撑爆上下文的原因。 → Skill 篇 03
Multi-Agent(多智能体)
多个 Agent 分工协作,各管一段(比如一个查资料、一个写、一个审)。听着很酷,实际上单个 Agent 都没调稳之前不要碰——它把上下文管理、错误定位、成本预估的难度全乘以 N。
真需要多个时,优先用 Workflow 把它们串起来,而不是让它们自由协商。→ Agent 篇 10
附:几组最容易搞混的
| 容易混的 | 一句话分清 |
|---|---|
| Prompt vs System Prompt | 这一次说的 vs 整段对话都算数的 |
| 上下文窗口 vs 记忆 | 它没有记忆,"记得"是每次把历史重发一遍 |
| RAG vs 微调 | 补知识 vs 改行为 |
| Agent vs Workflow | 它自己决定走几步 vs 你把步骤定死。写得出步骤就写下来 |
| 模型 vs 工具 | 引擎 vs 整辆车(ChatGPT 是车,GPT 是引擎) |
| Function Calling vs MCP | 模型怎么"提出"要调工具 vs 工具怎么标准化地"接进来" |