AI 基础术语扫盲：模型、训练、推理与 Token 一次讲清

AI 基础术语扫盲：模型、训练、推理与 Token 一次讲清

打开任何一篇 AI 文章，你都会撞见"模型""训练""Token""上下文窗口"这些词。看不懂它们，文章基本等于白看。本文的目标只有一个：用一句话加一个生活化例子，把最常用的 AI 术语一次讲清。这些词彼此相关：训练决定了模型能力，Token 决定成本和窗口，微调和 RAG 是改进答案的两种手段，Agent 则把对话变成行动。读完你就能看懂大部分 AI 入门内容，也方便继续阅读本站的提示词工程入门等进阶文章。想系统跟进 AI 应用动态，可以收藏AI 相关分类。

一、模型（Model）：会写字的"实习生"

一句话定义：模型是一套学会某种能力的程序，可以把它理解为"读过海量资料、会写字的实习生"。

比如 GPT、Claude、Gemini 都是语言模型。它们不是数据库，不会"查"答案，而是根据学过的规律"写"出最像样的回答。实习生能力有高低，模型也有大有小，能力差异就来自后面的"训练"。

二、训练与推理：学习与答题

训练（Training）：让模型从海量数据中总结规律的过程，好比实习生通读了一整柜资料后，终于知道"礼貌的回信该怎么写"。

推理（Inference）：模型实际回答问题的过程，好比实习生真正坐下来帮你写一封回信。训练只做一次（而且很贵），推理则每次提问都会发生（相对便宜但也要花钱）。想知道模型效果怎么比，可以看AI 模型评测指南。

三、Token：AI 的"字数单位"

一句话定义：Token 是 AI 处理文本的最小单位，可以粗略理解为"半个词"或"一个字"。

英文里一个单词通常拆成 1-2 个 Token（比如 "ChatGPT" 可能是 3 个），中文里大约 1-2 个字算一个 Token。所以"100 个单词约等于 150 个 Token"是常见估算。Token 直接决定两件事：上下文窗口的容量，以及账单上的费用——大多数 API 按 Token 计费。

四、上下文窗口：一次能记住多长对话

一句话定义：上下文窗口是模型单次能"看到"的 Token 总量，决定它记得住多长的对话。

窗口越长，越能处理长文档、长对话。入门模型可能只有几千 Token，主流模型普遍达到 128K（约等于十几万字）。但注意：窗口大不代表记得好，长对话中间的信息仍可能被"忽略"，写作和提问时可以把重点放在开头和结尾。

五、微调与 RAG：两种"补课"方式

模型回答不准时，一般有两条路：

• 微调（Fine-tuning）：拿一批你自己的例子继续"补课"，让模型学会某种风格或领域知识，适合"以后一直要用同一种写法"的场景，具体操作可看模型微调教程。
• RAG（检索增强生成）：回答前先从你的资料库里"查资料"，再带着资料作答，适合"答案要跟着最新资料变"的场景，例如公司文档问答，可参考RAG 落地指南。

一句话对比：微调是"改造大脑"，RAG 是"开卷考试"。

六、Agent：会动手办事的助手

一句话定义：Agent 是能自己拆解任务、调用工具、一步步执行并交付结果的 AI 程序。

普通聊天是一问一答；Agent 则像一位主动的助理：你说"帮我订下周的会议室"，它会查日历、发通知、给你确认。想深入实现，可阅读AI Agent 开发基础。

七、Embedding（嵌入）：AI 眼中的文字

一句话定义：Embedding 是把文字变成一串数字（向量）的过程，让 AI 能比较"意思相近"的文本。

两个句子的意思像不像，人靠直觉，AI 靠算向量距离。比如"今天天气不错"和"今天阳光很好"的向量会很近，和"今天要开会"则很远。聊天、检索、向量数据库都依赖它，想深入可看向量数据库指南。

八、一张表记住全部术语

九、常见问题（FAQ）

问：Token 数越多越好吗？
不一定。Token 决定能处理的文本量，但长上下文中模型仍可能漏看中间信息，关键任务建议把重点放在开头和结尾。

问：微调和 RAG 能一起用吗？
能。先微调让模型学会语气和格式，再用 RAG 提供最新事实，是生产环境很常见的组合。

问：想本地跑个小模型，怎么开始？
可以先从几 GB 的开源模型入手；需要挑显卡和服务器时，可以参考本站AI 本地部署硬件指南。

问：这么多概念，先学哪个？
先抓住模型、Token、上下文窗口三个词，它们决定"能用多大、花多少钱、记得多长"；微调、RAG、Agent 属于进阶能力，用到再学也不迟。