封面<br/> 版权信息<br/> 前折页<br/> 前言<br/> 第1章 人工智能的新里程碑——ChatGPT<br/> 1.1 ChatGPT的发展历程<br/> 1.2 ChatGPT的能力<br/> 1.3 大语言模型的技术演化<br/> 1.3.1 从符号主义到连接主义<br/> 1.3.2 Transformer模型<br/> 1.3.3 无监督预训练<br/> 1.3.4 有监督微调<br/> 1.3.5 人类反馈强化学习<br/> 1.4 大语言模型的技术栈<br/> 1.5 大语言模型带来的影响<br/> 1.6 大语言模型复现的壁垒<br/> 1.6.1 算力瓶颈<br/> 1.6.2 数据瓶颈<br/> 1.6.3 工程瓶颈<br/> 1.7 大语言模型的局限性<br/> 1.8 小结<br/> 第2章 深入理解Transformer模型<br/> 2.1 Transformer模型简介<br/> 2.2 自注意力机制<br/> 2.2.1 自注意力机制的计算过程<br/> 2.2.2 自注意力机制的本质<br/> 2.2.3 自注意力机制的优势与局限性<br/> 2.3 多头注意力机制<br/> 2.3.1 多头注意力机制的实现<br/> 2.3.2 多头注意力机制的作用<br/> 2.3.3 多头注意力机制的优化<br/> 2.4 前馈神经网络<br/> 2.5 残差连接<br/> 2.6 层归一化<br/> 2.7 位置编码<br/> 2.7.1 位置编码的设计与实现<br/> 2.7.2 位置编码的变体<br/> 2.7.3 位置编码的优势与局限性<br/> 2.8 训练与优化<br/> 2.8.1 损失函数<br/> 2.8.2 优化器<br/> 2.8.3 学习率调整策略<br/> 2.8.4 正则化<br/> 2.8.5 其他训练与优化技巧<br/> 2.9 小结<br/> 第3章 生成式预训练<br/> 3.1 生成式预训练简介<br/> 3.2 GPT的模型架构<br/> 3.3 生成式预训练过程<br/> 3.3.1 生成式预训练的目标<br/> 3.3.2 生成式预训练的误差反向传播过程<br/> 3.4 有监督微调<br/> 3.4.1 有监督微调的原理<br/> 3.4.2 有监督微调的特定任务<br/> 3.4.3 有监督微调的步骤<br/> 3.5 小结<br/> 第4章 无监督多任务与零样本学习<br/> 4.1 编码器与解码器<br/> 4.2 GPT-2的模型架构<br/> 4.2.1 层归一化<br/> 4.2.2 正交初始化<br/> 4.2.3 可逆的分词方法<br/> 4.2.4 可学习的相对位置编码<br/> 4.3 无监督多任务<br/> 4.4 多任务学习与零样本学习的关系<br/> 4.5 GPT-2的自回归生成过程<br/> 4.5.1 子词单元嵌入<br/> 4.5.2 自回归过程<br/> 4.6 小结<br/> 第5章 稀疏注意力与基于内容的学习<br/> 5.1 GPT-3的模型架构<br/> 5.2 稀疏注意力模式<br/> 5.2.1 Sparse Transformer的特点<br/> 5.2.2 局部带状注意力<br/> 5.2.3 跨层稀疏连接<br/> 5.3 元学习和基于内容的学习<br/> 5.3.1 元学习<br/> 5.3.2 基于内容的学习<br/> 5.4 概念分布的贝叶斯推断<br/> 5.4.1 隐式微调<br/> 5.4.2 贝叶斯推断<br/> 5.5 思维链的推理能力<br/> 5.6 小结<br/> 第6章 大语言模型的预训练策略<br/> 6.1 预训练数据集<br/> 6.2 预训练数据的处理<br/> 6.3 分布式训练模式<br/> 6.3.1 数据并行<br/> 6.3.2 模型并行<br/> 6.4 分布式训练的技术路线<br/> 6.4.1 Pathways<br/> 6.4.2 Megatron-LM<br/> 6.4.3 ZeRO<br/> 6.5 训练策略案例<br/> 6.5.1 训练框架<br/> 6.5.2 参数稳定性<br/> 6.5.3 训练设置的调整<br/> 6.5.4 BF16优化<br/> 6.5.5 其他因素<br/> 6.6 小结<br/> 第7章 近端策略优化算法<br/> 7.1 传统的策略梯度方法<br/> 7.1.1 策略梯度方法的基本原理<br/> 7.1.2 重要性采样<br/> 7.1.3 优势函数<br/> 7.2 Actor-Critic算法<br/> 7.2.1 Actor-Critic算法的基本步骤<br/> 7.2.2 值函数与策略更新<br/> 7.2.3 Actor-Critic算法的问题与挑战<br/> 7.3 信任域策略优化算法<br/> 7.3.1 TRPO算法的目标<br/> 7.3.2 TRPO算法的局限性<br/> 7.4 PPO算法的原理<br/> 7.5 小结<br/> 第8章 人类反馈强化学习<br/> 8.1 强化学习在ChatGPT迭代中的作用<br/> 8.2 InstructGPT训练数据集<br/> 8.2.1 微调数据集的来源<br/> 8.2.2 标注标准<br/> 8.2.3 数据分析<br/> 8.3 人类反馈强化学习的训练阶段<br/> 8.3.1 有监督微调阶段<br/> 8.3.2 奖励建模阶段<br/> 8.3.3 强化学习阶段<br/> 8.4 奖励建模算法<br/> 8.4.1 算法思想<br/> 8.4.2 损失函数<br/> 8.5 PPO算法在InstructGPT中的应用<br/> 8.6 多轮对话能力<br/> 8.7 人类反馈强化学习的必要性<br/> 8.8 小结<br/> 第9章 大语言模型的低算力领域迁移<br/> 9.1 指令自举标注<br/> 9.2 人工智能反馈<br/> 9.3 低秩自适应<br/> 9.3.1 模型训练与部署<br/> 9.3.2 秩的选择<br/> 9.4 量化：降低部署的算力要求<br/> 9.5 SparseGPT剪枝算法<br/> 9.6 开源大语言模型的低算力迁移案例<br/> 9.6.1 基座模型<br/> 9.6.2 自举指令微调的羊驼系列<br/> 9.6.3 中文解决方案<br/> 9.6.4 医疗领域的迁移实例<br/> 9.6.5 司法领域的迁移实例<br/> 9.7 小结<br/> 第10章 中间件编程<br/> 10.1 补齐短板——LangChain恰逢其时<br/> 10.2 多模态融合中间件<br/> 10.2.1 任务规划<br/> 10.2.2 模型选择<br/> 10.2.3 任务执行<br/> 10.2.4 响应生成<br/> 10.3 AutoGPT自主代理与任务规划<br/> 10.4 中间件框架的竞品<br/> 10.5 小结<br/> 第11章 大语言模型的未来之路<br/> 11.1 强人工智能之路<br/> 11.2 数据资源枯竭<br/> 11.3 自回归模型的局限性<br/> 11.4 具身智能<br/> 11.4.1 具身智能的挑战<br/> 11.4.2 PaLM-E<br/> 11.4.3 ChatGPT for Robotics<br/> 11.5 小结<br/> 后折页<br/> 封底<br/> · · · · · · (收起)