Skip to content

术语表 ​

刷文章时撞见的词,一页查完。每条一句话说清它是什么、以及它跟你有没有关系。

按"为什么会出现它"排序,和 09 · 全景地图 的四个阶段对应。

① 跟它说话 ​

大模型(LLM,Large Language Model) ​

一个读过海量文本的引擎,本事是根据输入预测下一个字。写作、翻译、推理、写代码都是这件事反复做出来的。→ 入门篇 01

市面上有哪些家、各自以什么见长,见模型篇。

Prompt(提示词) ​

你每次交代给它的那段话。同一个模型,Prompt 不同,结果天差地别。本书的五要素:角色 / 任务 / 背景 / 要求 / 验收。→ 入门篇 06、提示词篇

System Prompt(系统提示) ​

对话开始前设定的身份和行为规范,整段对话每一轮都生效。每次都要重说的话,就搬进这里。 → 07

Prompt Engineering(提示词工程) ​

研究"怎么把 Prompt 写好"的统称。听着高深,落到实操就是五要素加几个套路。不用专门学,用起来自然就会。

评测集(Eval) ​

一组"输入 + 期望表现"的用例,用来客观判断一条提示词或一个 Skill 好不好。五条就够:一条标准情况 + 四条会翻车的。它把"感觉不错"变成"五条里过了几条"。→ 提示词篇 08

Zero-shot / Few-shot ​

Zero-shot 是不给例子直接提要求(大多数情况用这个)。Few-shot 是附上几组"输入 → 输出"示例。当你怎么描述都说不清想要什么格式时,别描述了,给两个例子。

思维链(CoT,Chain of Thought) ​

让模型"一步步想"再给结论,在推理、算数、多条件判断上明显更准。现在的推理型模型已经内建了这个过程,不用你手动写。

Temperature(温度) ​

挑下一个 Token 时的随机程度。低(0 ~ 0.3)稳定保守,适合要格式一致的活;高(0.8 以上)发散,适合起名、头脑风暴。要"每次跑出来都一样",调到最低。

推理模型(Reasoning model) ​

会先在内部"想"一段(生成一串思考过程)再给答案的那类模型。难题上更强,但慢、贵。简单活用它是浪费。

② 它的边界 ​

Token(令牌) ​

模型处理文本的最小单位。一个汉字约 1~2 个,一个常见英文单词约 1 个。计费、上下文上限、速率限制全按这个算。 也是它数不清字数的原因。→ 03

上下文 / 上下文窗口(Context / Context Window) ​

这一次它能同时"看见"的全部内容,和这个容器的上限(按 Token 计)。里面装着 System Prompt、全部对话历史、你贴的资料、检索结果、工具返回和它这次的输出。窗口之外的东西对它不存在。 → 04

幻觉(Hallucination) ​

一本正经地编造不存在的内容——假数字、假引用、假功能、假人名。不是 bug,是"预测而非查证"的直接副产物。 防它的第一招是在 Prompt 里写死验收条款。→ 05

知识截止时间(Knowledge cutoff) ​

训练数据收集到哪一天为止。之后发生的事它要么不知道,要么按老资料推——而且不会主动告诉你这是过期的。问"最新的"什么东西时格外小心。

max_tokens ​

你给这次输出设的长度上限,到了就硬截断。输出到一半突然断掉,八成是这个设小了,不是它不会写。

速率限制(Rate limit) ​

每分钟 / 每天最多能用多少 Token 或发多少次请求。批量处理时突然报错被限流,通常是撞了这个。

参数量(7B / 70B / 671B…) ​

模型的规模,B 是十亿。参数多≠一定更好用,但同一代里通常更强、也更贵更慢。你不需要关心这个数字,除非要自己部署。

③ 让它能干活 ​

结构化输出(Structured Output) ​

约束它按指定格式输出(通常是 JSON),让下游代码能直接解析,不用再写一堆字符串处理。用带新人打比方:要求他填表,而不是写小作文。

Function Calling / Tool Use(函数调用 / 工具调用) ​

模型判断"该调哪个工具、传什么参数",真正执行的是你的代码。这是它从"只会说"到"能做事"的那一步。它填工单,别人动手。

执行权在你手上,所以**"不给这个工具"是比"提示词里说不许做"硬得多的约束**。→ Agent 篇 03

RAG(检索增强生成,Retrieval-Augmented Generation) ​

先从你的资料库里检索出相关片段,再连问题一起塞进上下文让它回答。解决"它不了解我们公司的东西"。派活时顺手把相关文件夹递给他。→ 09

Embedding(嵌入向量) ​

把一段文本翻译成一串数字,意思相近的文本,数字也相近。RAG 靠它来判断"哪几段资料跟这个问题有关"。

向量数据库(Vector Database) ​

专门存 Embedding、并且能飞快找出"最接近的几条"的数据库。RAG 的检索那一步就在这里发生。

微调(Fine-tuning) ​

用你自己的数据继续训练,改变模型本身的行为。和 RAG 的分工:RAG 补知识,微调改行为。 九成情况先老老实实做 RAG。→ 09

多模态(Multimodal) ​

不只吃文字,还能吃图片、音频、视频。截图、手绘草图、PDF 扫描件直接丢给它,就是靠这个。

注意区分理解(看图、读文档)和生成(出图、出视频)——是两类不同的模型。→ 模型篇 03

ASR / TTS(语音识别 / 语音合成) ​

ASR 把声音转成文字(会议录音转写),TTS 把文字转成声音(播报、配音)。

两个常见误解:转写稿是脏材料,需要再用文本模型整理一遍——所谓"AI 会议纪要"通常是这两类模型串成的一条 Workflow;以及"端到端实时语音"虽然延迟低,但没有可见的中间产物,排查问题更难。→ 模型篇 03

重排模型(Rerank) ​

在 RAG 里,嵌入模型粗筛出一批,重排模型再精挑出最相关的几条。RAG 效果不好时,先看嵌入和重排,而不是换更强的文本模型——检索没找对资料,给再强的模型也白搭。→ 模型篇 03

④ 让它自己跑 ​

Agent(智能体) ​

给一个目标,它自己拆步骤、执行、检查、再修正的闭环。拆开就是:会规划 + 能调工具 + 能循环。注意它是一种工作模式,不是某个软件。

只在事先不知道有几步的时候才需要它;步骤写得出来就用 Workflow。更常见的用法是局部:整条线是 Workflow,只有拿不准的那一步放 Agent。→ Agent 篇、Workflow 篇 10

Workflow(工作流) ​

一条你把步骤定死、它照着走的流水线:每步的输入、产出、验收标准都由你事先规定。和 Agent 的分界线只有一句——谁来决定走几步。

能把步骤写下来,就写下来。 一件确定的事交给 Agent,是拿可预测性、可调试性和成本上限,换一样你不需要的东西。→ Workflow 篇

中间产物(Intermediate output) ​

流水线里步与步之间传的东西。三条要求:可读(扫一眼知道对不对)、可查(能对回上一步的原始材料)、可重跑(从这儿重跑,不用回第一步)。用表格或 JSON,不要用段落。→ Workflow 篇 04

MCP(模型上下文协议,Model Context Protocol) ​

让 AI 应用接外部系统(数据库、消息、内部工具)的开放标准。一次开发,各家通用——官方类比是 USB-C。

三个角色:Host(你在用的 AI 应用)、Client(Host 为每个服务端建的一条连接)、Server(提供能力的程序)。服务端可以暴露 Tools(可执行的函数)、Resources(数据源)、Prompts(模板)三类东西。

装一个 Server 等于在你的环境里装一个软件并给它权限,来源和权限范围都要看。→ Agent 篇 04

Skill(技能) ​

把常用的规则和说法打包存起来,以后一句话触发,不用每次重讲。判断标准:只干一次用 Prompt,每周都干就做成 Skill。 它由三层组成:触发描述(一直在)、正文(触发时读)、附件(用到才读)。→ Skill 篇

渐进式披露(Progressive disclosure) ​

"用多少读多少"的加载方式:开机时只加载每个 Skill 的名字和一句说明,被触发了才读正文,正文提到了才读附件。这是你能同时装几十个 Skill 而不撑爆上下文的原因。 → Skill 篇 03

Multi-Agent(多智能体) ​

多个 Agent 分工协作,各管一段(比如一个查资料、一个写、一个审)。听着很酷,实际上单个 Agent 都没调稳之前不要碰——它把上下文管理、错误定位、成本预估的难度全乘以 N。

真需要多个时,优先用 Workflow 把它们串起来,而不是让它们自由协商。→ Agent 篇 10

附:几组最容易搞混的 ​

容易混的一句话分清
Prompt vs System Prompt这一次说的 vs 整段对话都算数的
上下文窗口 vs 记忆它没有记忆,"记得"是每次把历史重发一遍
RAG vs 微调补知识 vs 改行为
Agent vs Workflow它自己决定走几步 vs 你把步骤定死。写得出步骤就写下来
模型 vs 工具引擎 vs 整辆车(ChatGPT 是车,GPT 是引擎)
Function Calling vs MCP模型怎么"提出"要调工具 vs 工具怎么标准化地"接进来"

一份讲通用概念的入门手册 · 不绑定任何一家模型或工具 · 例子可直接照抄