在 1.1 到 1.3 节中，我们分别剖析了大模型的技术本质、发展脉络与能力边界。现在需要回答一个更宏观的问题：要让一个 LLM 从“纸面上的数学公式”变成“手机上能聊天的应用”，中间到底需要多少环节的支撑？
业界通常将其归纳为五层架构。这五层不是简单的堆叠，而是存在严密的依赖与反噬关系：算法突破会放大算力效率，数据质量直接决定算法天花板，工程能力则决定这一切能否在预算内稳定运转。理解五层分工，是你判断“一个 AI 项目为何成功或失败”的底层框架。
第一层：算法层——决定“能不能做”
这是整个体系的起点，回答“模型以什么机制处理信息”。
核心构成：
- 基础架构：Transformer 及其变体（Decoder-only 的 GPT 路线、Encoder-Decoder 的 T5 路线，以及 MoE 混合专家架构等）。这是 1.1、1.2 节反复提及的物理基础。
- 预训练目标：自回归的 Next Token Prediction，或带掩码的完形填空，决定了模型如何从原始文本中学习。
- 对齐算法：SFT（监督微调）、RLHF/RLAIF（强化学习人类反馈）、DPO（直接偏好优化）等，负责把“会接龙的基座模型”变成“听得懂人话、价值观安全的对话模型”。这是 2.2 节将展开的核心范式。
- 推理加速算法：量化（INT8/INT4）、剪枝、投机解码（Speculative Decoding）、KV-Cache 优化等，直接影响用户端体验。
实用认知：对绝大多数企业而言，算法层已经高度商品化——你没有必要自研 Transformer 的替代品。真正的差异化空间在如何针对垂直任务改造对齐算法，而非重新发明轮子。
第二层：数据层——决定“做得好不好”
如果说算法是锅，数据就是米。同一套架构，用不同质量的数据训练，成品可能是天才也可能是文盲。
核心构成：
- 预训练语料：Common Crawl 网页、书籍（Books）、代码（GitHub）、百科（Wikipedia）、学术论文等万亿级 Token。这里的关键不是“量大”，而是清洗质量——去重、去毒、过滤低质广告页、处理隐私敏感信息。
- 指令微调数据（Instruction Data）：高质量的 Prompt-Response 对，教会模型遵循人类指令。这部分数据量通常只有数十万到百万级，但对对话体验的决定性超过预训练数据。
- 偏好与对齐数据：人类标注者对多个模型回答的排序（如 A 比 B 更好），用于 RLHF/DPO 阶段。
实用认知：
- 数据是企业的核心壁垒。开源模型（如 Llama、Qwen）的权重可以下载，但顶级的清洗管线、行业私域数据和标注经验无法复制。
- 垂直领域应用（如医疗、金融）的成败，往往不取决于基座模型有多大，而取决于你是否拥有该领域的高质量指令数据。
第三层：算力层——决定“做不做得了”
大模型是烧出来的。没有充足的计算密度，算法和数据都只是图纸。
核心构成：
- 训练算力：以 NVIDIA A100/H100/H200 GPU 或 Google TPU 为核心的千卡甚至万卡集群。训练一次千亿参数模型，算力成本可达数百万到上千万美元。
- 算力效率指标：MFU（Model FLOPs Utilization），即实际算力利用率。由于通信开销、数据加载瓶颈，MFU 通常只有 30%–50%，顶尖工程团队能推到 60% 以上。
- 推理算力：决定用户提问后多久能收到回复。这受限于显存容量（能否装下模型）、显存带宽（Token 生成速度）和批处理能力（并发用户数）。
- 国产化替代：华为昇腾、寒武纪、海光等国产芯片及配套软件栈，在特定场景下正在形成可行方案，但生态成熟度与 CUDA 仍有差距。
实用认知：
- 训练是资本密集型，推理是运营密集型。自研基座大模型需要一次性重资产投入；而调用 API 做应用，长期来看推理成本可能超过训练成本。
- 对 99% 的企业，租用算力或使用云 API 远比自建千卡集群务实。只有当你拥有独特的数据飞轮和明确的商业模式时，才值得考虑预训练。
第四层：工程层——决定“做得稳不稳”
这是从“实验室 Demo”到“生产系统”之间的鸿沟，也是最容易被非技术决策者低估的一层。
核心构成：
- 分布式训练框架：DeepSpeed、Megatron-LM、FSDP、Colossal-AI 等，解决模型参数过大、单卡显存放不下的问题（数据并行、张量并行、流水线并行、ZeRO 优化等）。
- 推理与服务框架：vLLM（PagedAttention 提升吞吐）、TensorRT-LLM、TGI（Text Generation Inference）等，直接决定用户感受到的“秒回”还是“转圈”。
- MLOps 与稳定性：实验追踪、模型版本管理、Checkpoint 频繁保存（防止训练中断导致前功尽弃）、故障自动恢复、网络拓扑优化。
- 前后端协同：Prompt 缓存、长连接保持、流式输出（SSE/WebSocket）、限流与降级策略。
实用认知：
- 工程层没有论文里的光环，却是商业化的生死线。一个 70B 参数的模型，如果推理工程做得差，用户体验可能还不如一个优化到极致的 7B 模型。
- 生产环境中，显存泄漏、并发死锁、分布式训练节点掉线是家常便饭，需要专门的 AI infra 团队兜底。
第五层：应用层——决定“有没有用”
最上层离用户最近，直接产生商业价值。
核心构成：
- 原生应用：ChatBot（如 ChatGPT、Claude）、代码助手（GitHub Copilot）、AI 写作、情感陪伴等。
- 系统级增强：RAG（检索增强生成，解决知识时效与幻觉）、Agent（自主规划与工具调用，见 1.3 节）、多模态应用（图文理解、视频生成）。
- 行业垂直方案：金融研报生成、法律合同审查、医疗辅助诊断、教育个性化辅导、工业知识库问答。
- 产品形态：开放 API、浏览器插件、企业私有化部署、端侧 App（手机本地小模型）、具身智能（机器人/自动驾驶）。
实用认知：
- 应用层创新门槛最低，但护城河最浅。单纯套壳对话界面很难形成壁垒，真正的竞争力来自垂直数据 × 行业 Know-how × 工程稳定性的乘积。
- 产品经理必须深刻理解 1.3 节的能力边界：知道模型何时该直接回答、何时该调用工具、何时该拒绝用户，才能设计出既好用又安全的产品。
五层协同：一张总览图
把五层叠在一起，大模型的技术体系呈现这样的流动：
【应用层】用户提问 → 产品交互 → 价值变现
↑↓
【工程层】API 网关 → 推理引擎 → 分布式调度
↑↓
【算力层】GPU/TPU 集群 → 显存/带宽/互联
↑↓
【数据层】预训练语料 → 指令数据 → 反馈数据
↑↓
【算法层】Transformer → 预训练 → 对齐 → 压缩关键规律：
- 上层依赖下层，下层定义上界。没有好的算法，数据与算力是浪费；没有好的工程，再好的模型也只能跑在 Jupyter Notebook 里。
- 数据与算法存在飞轮：应用层产生的新交互数据，可以回流为偏好数据，用于下一轮模型迭代。
- 成本结构在迁移：2023 年前行业焦点在“训练层”（谁能炼出更大的基座模型）；2024 年后焦点迅速上移至“推理层”和“应用层”（谁的推理成本更低、谁的 Agent 更靠谱）。
给不同读者的分层指南
如果你是算法工程师，核心战场在算法层与数据层，需要深入理解注意力机制变体和对齐算法的数学原理。
如果你是AI 基础设施工程师，主战场在算力层与工程层，关注显存优化、通信拓扑、高可用部署。
如果你是产品经理或业务负责人，你必须穿透五层：懂算法边界（知道什么不能做）、懂数据资产（知道企业壁垒在哪里）、懂算力成本（知道一个功能上线后每月烧多少钱）、懂工程约束（知道“秒回”和“精准”往往不可兼得）。
在下一章（第 2 章），我们将从五层架构中抽取最关键的概念，逐一精讲：参数与模型规模、预训练/微调/对齐、上下文窗口与 Token、涌现/幻觉/对齐，以及开源与闭源生态。这些概念是你在任何一层做决策时都无法回避的“行业普通话”。