AI 核心概念词典

这份词典按技术层次组织常用概念。每个概念先说明它解决什么问题，再指出它与相邻概念的边界。

数据与任务

概念	含义	需要注意
样本 Sample	一次可用于学习或评估的观测	一名用户、一张图片、一段文本都可以是样本
特征 Feature	模型用来判断的输入变量	不应包含预测时无法获得的信息
标签 Label	监督学习希望模型预测的目标	错误或有偏标签会直接限制模型效果
数据分布	各类样本和取值出现的规律	线上分布变化会导致模型退化
数据集切分	训练集、验证集和测试集的隔离	测试集不能参与调参
数据泄漏	训练时使用了未来或答案信息	离线分数会虚高，上线后失效

学习过程

概念	含义	直观理解
参数 Parameter	模型在训练中更新的数值	模型从数据中学到的内部状态
超参数 Hyperparameter	训练前由人设置的配置	学习率、批大小、网络层数
损失函数 Loss	衡量预测与目标之间的差异	训练要尽量降低的误差
梯度 Gradient	参数变化对损失的影响方向	告诉优化器参数应往哪里调整
优化器 Optimizer	根据梯度更新参数的算法	SGD、Adam 等
Epoch	完整遍历一次训练数据	多轮训练不一定持续变好
Batch	一次参与计算的一组样本	影响显存、速度和梯度稳定性
泛化	对未见数据仍能正确工作的能力	训练集分数高不等于泛化好
过拟合	记住训练数据而没有学到稳定规律	训练好、测试差是常见信号

机器学习任务

概念	目标	示例
分类	从有限类别中选择结果	是否欺诈、图片属于哪类
回归	预测连续数值	销量、价格、耗时
聚类	在无标签数据中发现群组	用户分群、文档聚类
排序	预测候选项的相对顺序	搜索和推荐
异常检测	找到偏离正常分布的样本	设备故障、异常交易
强化学习	通过奖励学习连续行动策略	控制、游戏、调度

神经网络与深度学习

概念	含义	关系
神经元	对输入做加权、偏置和非线性变换	神经网络的基本计算单元
层 Layer	一组神经元或计算模块	多层组合形成深度网络
激活函数	引入非线性	没有它，多层线性变换仍等价于一层
前向传播	从输入计算预测结果	推理和训练都会执行
反向传播	从损失反向计算每个参数的梯度	训练阶段使用
CNN	擅长局部空间结构的网络	常用于图像
RNN / LSTM	按顺序处理历史状态的网络	曾广泛用于文本和语音
Attention	根据相关程度聚合其他位置的信息	Transformer 的核心组件
Transformer	以 Attention 为中心的序列架构	大语言模型和多模态模型的基础

大模型

概念	含义	工程影响
Token	模型读取和生成文本的基本单位	决定上下文长度、速度和费用
Embedding	把对象映射为稠密向量	用于语义表示、检索和模型输入
上下文窗口	一次推理能够处理的 Token 范围	不是无限记忆，越长成本越高
预训练	从大规模通用数据学习模式	获得通用语言和知识能力
SFT	用高质量输入输出对监督微调	调整行为、格式和任务方式
RLHF / DPO	基于偏好数据进行对齐	让输出更符合人类偏好和规则
推理 Inference	使用已训练模型生成结果	关注首字延迟、吞吐和成本
Temperature	调整采样随机程度	不是事实正确性的开关
KV Cache	缓存已处理上下文的注意力状态	加速连续生成，但消耗显存
量化	用更低精度表示参数	降低显存和成本，可能损失精度
MoE	每次只激活部分专家网络	扩大参数规模并控制计算量

应用增强

概念	解决的问题	不解决什么
Prompt	描述目标、上下文和输出要求	不能保证模型知道最新事实
上下文工程	组织模型当前需要的全部信息	不能替代数据权限和结果验证
RAG	检索外部资料并放入上下文	不能自动保证召回资料正确
重排 Rerank	对召回候选进行更精细排序	不能补回完全没有召回的文档
工具调用	让模型请求受控函数或 API	模型仍不应直接拥有无限权限
Agent	在观察、行动、反馈中完成多步任务	不适合无法验证、风险无限的目标
MCP	标准化 AI 客户端连接工具和资源的方式	不负责具体业务流程本身
Skill	固化任务步骤、约束和验收方式	不提供底层系统访问能力

工程与治理

概念	含义	关注点
MLOps	管理数据、训练、模型、部署和监控生命周期	可复现、可回滚、可观测
LLMOps	面向大模型应用的工程治理	Prompt、索引、模型、评估和成本版本
离线评估	上线前在固定测试集上比较方案	可回归，但不完全等同于真实用户体验
在线评估	通过线上指标、反馈或实验观察效果	要控制风险和实验偏差
数据漂移	线上输入分布发生变化	可能导致旧模型失效
模型漂移	输入与目标关系发生变化	需要重训或调整系统
可观测性	能追踪一次请求经过的数据、检索、模型和工具	是排错和审计基础
护栏 Guardrail	对输入、输出和动作设置约束	不能只依赖一次模型判断

容易混淆的几组概念

模型与应用

模型负责计算概率、表示或生成结果；应用负责提供数据、组织上下文、调用模型、连接工具并处理失败。模型能力强，不代表应用天然可靠。

训练与推理

训练通过样本更新参数，成本高、周期长；推理固定参数处理请求，是应用运行时发生的过程。

微调与 RAG

微调主要改变模型行为和任务方式，RAG 主要提供外部、可更新的事实。把频繁变化的企业知识全部写入模型，通常不如 RAG 易维护。

工作流与 Agent

工作流的步骤由程序预先确定，行为更稳定；Agent 由模型根据状态动态选择下一步，适应性更强但不确定性更高。真实系统经常用确定性工作流包围局部 Agent。

术语的价值在于帮助定位问题。遇到一个 AI 需求时，应继续追问它属于数据、模型、应用还是治理层，而不是停留在名词本身。