在第 1 章中，我们梳理了大模型的技术本质与能力边界；在 2.1 节中，我们看到参数规模如何决定了模型的物理容量。现在需要直面一个更具现实意义的问题：当你把一个 LLM 从论文里搬到生产环境时，它到底会以什么样的“性格”和“毛病”与你共事？
涌现能力、幻觉、对齐，这三个词是 LLM 区别于传统软件系统的根本性特征。传统软件的行为是确定性的：输入 A，经过固定代码逻辑，必然输出 B。而大模型的行为是概率性的、规模依赖的、且受价值观约束的。不理解这三点，所有的技术选型和产品设计都可能失焦。
一、涌现能力（Emergent Abilities）：规模带来的“质变”
涌现能力指模型在参数量或训练量跨过某个阈值后，突然展现出小规模模型完全不具备的能力。这种现象并非渐进式提升，而更像一种“相变”。
典型的涌现表现：
- 上下文学习（In-Context Learning, ICL）：无需更新参数，仅在提示词中给出几个示例，模型就能模仿并解决同类新问题。例如，给它三个“英文→法文”的翻译对，它就能自动翻译第四个句子。7B 以下模型往往对此无感，而 13B 以上模型突然“开窍”。
- 思维链推理（Chain-of-Thought, CoT）：当提示中加入“请逐步思考”时，模型能够显式生成中间推理步骤，并在数学、逻辑题上获得数倍准确率提升。小模型要么不遵循指令，要么生成无意义的中间步骤。
- 指令遵循与跨任务泛化：能够处理训练时未见过的指令格式，如“用鲁迅的口吻写一段 Python 代码注释”。
实用认知：涌现是“门槛”，不是“开关”
- 阈值因任务而异：简单的情感分类可能在 1B 模型上就涌现，而复杂的符号推理可能需要 70B 以上。不存在一个放之四海而皆准的“涌现临界点”。
- 涌现≠必然可靠：能力出现了，不代表每次都能稳定发挥。模型今天能解奥数题，明天换种问法可能就错，这正是因为涌现能力仍根植于概率统计，而非真正的逻辑固化。
- 度量争议的启示：有研究指出，涌现可能只是评估指标（如精确匹配）的非线性放大所致，并非模型内部发生了某种神秘跃迁。但对工业界而言，争论是“真涌现”还是“度量假象”并不重要，重要的是小规模模型在该任务上确实不可用，大规模模型突然可用。
选型建议：如果你的业务依赖 ICL、CoT 或复杂指令遵循（如 Agent 规划），务必在目标场景下实测 7B、13B、70B 等多个尺寸，找到能力跃迁的拐点，而不是盲目迷信“越大越好”。
二、幻觉（Hallucination）：概率接龙的结构性副作用
如果只能选一个词来描述 LLM 最致命的生产风险，那一定是幻觉。它指模型生成看似流畅、自信、合理，但实际上与事实不符或与输入矛盾的内容。
技术根源：为什么幻觉不可避免？
回顾 1.1 节的技术本质，幻觉并非 bug，而是概率生成机制的结构性副产品：
- 训练目标错位：模型被训练来最小化“下一个词预测错误率”，而不是“事实正确率”。一个编造的句子只要语法通顺、用词高频，其 loss 可能很低。
- 知识的有损压缩：万亿级 Token 被压缩进百亿参数，本身就是个信息有损的过程。相似概念在向量空间中互相干扰（如“2023 年诺贝尔文学奖得主”与“2022 年得主”的向量表示可能非常接近），模型就会张冠李戴。
- 外推性与创造性混淆：模型擅长“合理外推”，但当它把训练数据中的模式过度外推到未知领域时，就变成了编造。例如，把两篇真实论文的作者混搭成一篇虚构论文。
- 数据本身的污染：训练语料里就存在错误信息、过时的网页、自相矛盾的百科条目，模型只是忠实学到了这些噪声。
幻觉的两类面孔：
| 类型 | 定义 | 典型场景 |
|------|------|----------|
| 事实性幻觉 | 生成与客观世界不符的内容 | 编造不存在的法律条款、虚构论文标题、捏造人物履历 |
| 忠实性幻觉 | 生成与输入上下文或用户指令矛盾的内容 | 用户要求总结 A 文档，模型却混入了训练数据中的 B 知识；或前后文自相矛盾 |
缓解幻觉的实用手段：
- RAG（检索增强生成）：给模型外挂真实数据库，让它先查后答，把生成任务转化为“基于检索结果的摘要与重组”（详见 1.3 节）。
- 约束解码与溯源：要求模型在回答时引用来源，或限制其只能从提供的上下文中提取信息（如“仅根据上述材料回答，不知道就回答未提及”）。
- 降低温度（Temperature）：采样温度越低，模型越倾向于选择概率最高的 Token，减少天马行空的“创意”。
- 事实核查层：对高风险输出（如医疗、金融）增加外部知识图谱或结构化数据库的交叉校验。
底线认知：目前没有任何技术手段能彻底消除幻觉。所有 LLM 应用都应被默认为“带有一定编造概率的系统”，并据此设计人机协同流程。
三、对齐（Alignment）：从“有能力”到“有纪律”
一个能写诗、能编程、能解谜的模型，如果没有对齐，就只是一个危险的“嘴碎的鹦鹉”。对齐指模型的行为与人类意图、社会价值观、伦理规范保持一致的过程与结果。
对齐到底对齐什么？
- 有用性（Helpfulness）：真正回答用户的问题，而不是敷衍或答非所问。
- 无害性（Harmlessness）：拒绝生成暴力、仇恨、犯罪指导、色情等内容。
- 诚实性（Honesty）：在不知道时承认无知，而不是强行编造（与幻觉 mitigation 部分重叠）。
对齐的技术路径（简述）：
虽然 2.2 节会详细展开，但此处必须提及核心链条：预训练后的基座模型通常“能力强大但说话怪异”，需要经过监督微调（SFT）学习对话格式，再通过RLHF（人类反馈强化学习）或DPO（直接偏好优化）学习人类对“好回答 vs 坏回答”的偏好排序。
对齐带来的现实挑战：
- 对齐税（Alignment Tax）：
过度对齐可能让模型变得过度谨慎，甚至拒绝回答完全无害的问题（如“如何制作炸弹”的变体问法“炸弹在化学课上的教学原理”也可能被拒绝）。同时，为了安全性而增加的约束可能轻微削弱模型在某些边缘创意任务上的表现。
- 价值观的地域与文化差异：
通用对齐通常反映训练团队所在地区的价值观。将模型部署到不同文化背景的市场时，企业往往需要做二次对齐（如针对中文语境的合规、审美和表达习惯做 SFT）。
- “对齐”不是“绝对安全”：
提示注入（Prompt Injection）、越狱（Jailbreak）攻击仍能绕过对齐层。对齐提升了滥用门槛，但没有关闭所有后门。
实用建议：
- 企业在私有化部署开源模型时，不要直接使用未经对齐的基座模型（Base Model）面向终端用户，至少需要一轮 SFT。
- 如果你发现模型“太爱拒绝”或“太爱道歉”，通常是对齐阶段的负样本过强，需要通过继续微调或调整系统提示词（System Prompt）来松绑。
四、三者的交织：一个动态三角
涌现能力、幻觉、对齐并非孤立存在，它们构成了大模型应用设计的核心张力：
- 涌现让模型更强大，但也更不可预测：规模越大，模型越可能展现出训练者未预料到的行为，包括创造性的解决问题方式，也包括创造性的编造方式。
- 幻觉是对齐必须面对的靶标：对齐的一个重要目标，就是让模型在“不知道”时选择诚实拒绝，而不是用幻觉来迎合用户。
- 对齐本身也可能产生新型幻觉：为了回答得“政治正确”或“安全”，模型有时会生成看似合理实则空洞的套话，这本质上也是一种忠实性幻觉。
因此，评估一个 LLM 是否适合上线，不能只看单一指标，而需要在这三者之间取平衡：涌现能力决定上限，幻觉决定风险底线，对齐决定用户信任度。
小结
- 涌现能力：规模跨过阈值后的质变式能力跃迁，是 LLM 令人惊艳的根源，也是不可控性的来源；
- 幻觉：概率生成机制与有损知识压缩的固有代价，无法根除，只能 mitigation；
- 对齐：将模型能力约束在人类可接受的价值区间内，是产品化的必要门槛，但需警惕对齐税。
在 2.5 节中，我们将跳出单一模型的技术视角，进入生态层面的关键分野——开源模型与闭源模型。理解这两套生态的优劣、成本结构与商业逻辑，是你在实际落地时做出“自研 vs 调用”决策的最后一块拼图。