本地导入书籍的 AI 翻译功能
仅支持付费会员使用
仅支持付费会员使用
微信扫码开通付费会员
一键翻译全文
一键翻译全文
本书主要介绍神经网络与深度学习中的基础知识、主要模型（卷积神经网络、递归神经网络等）以及在计算机视觉、自然语言处理等领域的应用。
简介
本书主要介绍神经网络与深度学习中的基础知识、主要模型（卷积神经网络、递归神经网络等）以及在计算机视觉、自然语言处理等领域的应用。
版权
出版社机械工业出版社
出版时间2020年4月
字数336,002
分类计算机-人工智能
试读结束
本书为付费会员卡可读
登录后获得专属福利 · 百万好书免费读
热门想法
复制
划线
写想法
AI问书
书友想法
写想法
公开
想法 · 0
写想法
书友想法
写想法
公开
问书
Generated by AI
写想法
公开
字号大小
字体
神经网络与深度学习
邱锡鹏
- 扉页
- 版权信息+书签
- 文前
- 序
- 前言
- 常用符号表
- 第一部分 机器学习基础
- 第1章 绪论
- 1.1 人工智能
- 1.1.1 人工智能的发展历史
- 1.1.2 人工智能的流派
- 1.2 机器学习
- 1.3 表示学习
- 1.3.1 局部表示和分布式表示
- 1.3.2 表示学习
- 1.4 深度学习
- 1.4.1 端到端学习
- 1.5 神经网络
- 1.5.1 人脑神经网络
- 1.5.2 人工神经网络
- 1.5.3 神经网络的发展历史
- 1.6 本书的知识体系
- 1.7 常用的深度学习框架
- 1.8 总结和深入阅读
- 第2章 机器学习概述
- 2.1 基本概念
- 2.2 机器学习的三个基本要素
- 2.2.1 模型
- 2.2.2 学习准则
- 2.2.3 优化算法
- 2.3 机器学习的简单示例——线性回归
- 2.3.1 参数学习
- 2.4 偏差-方差分解
- 2.5 机器学习算法的类型
- 2.6 数据的特征表示
- 2.6.1 传统的特征学习
- 2.6.2 深度学习方法
- 2.7 评价指标
- 2.8 理论和定理
- 2.8.1 PAC学习理论
- 2.8.2 没有免费午餐定理
- 2.8.3 奥卡姆剃刀原理
- 2.8.4 丑小鸭定理
- 2.8.5 归纳偏置
- 2.9 总结和深入阅读
- 第3章 线性模型
- 3.1 线性判别函数和决策边界
- 3.1.1 二分类
- 3.1.2 多分类
- 3.2 Logistic回归
- 3.2.1 参数学习
- 3.3 Softmax回归
- 3.3.1 参数学习
- 3.4 感知器
- 3.4.1 参数学习
- 3.4.2 感知器的收敛性
- 3.4.3 参数平均感知器
- 3.4.4 扩展到多分类
- 3.5 支持向量机
- 3.5.1 参数学习
- 3.5.2 核函数
- 3.5.3 软间隔
- 3.6 损失函数对比
- 3.7 总结和深入阅读
- 第二部分 基础模型
- 第4章 前馈神经网络
- 4.1 神经元
- 4.1.1 Sigmoid型函数
- 4.1.2 ReLU函数
- 4.1.3 Swish函数
- 4.1.4 GELU函数
- 4.1.5 Maxout单元
- 4.2 网络结构
- 4.2.1 前馈网络
- 4.2.2 记忆网络
- 4.2.3 图网络
- 4.3 前馈神经网络
- 4.3.1 通用近似定理
- 4.3.2 应用到机器学习
- 4.3.3 参数学习
- 4.4 反向传播算法
- 4.5 自动梯度计算
- 4.5.1 数值微分
- 4.5.2 符号微分
- 4.5.3 自动微分
- 4.6 优化问题
- 4.6.1 非凸优化问题
- 4.6.2 梯度消失问题
- 4.7 总结和深入阅读
- 第5章 卷积神经网络
- 5.1 卷积
- 5.1.1 卷积的定义
- 5.1.2 互相关
- 5.1.3 卷积的变种
- 5.1.4 卷积的数学性质
- 5.2 卷积神经网络
- 5.2.1 用卷积来代替全连接
- 5.2.2 卷积层
- 5.2.3 汇聚层
- 5.2.4 卷积网络的整体结构
- 5.3 参数学习
- 5.3.1 卷积神经网络的反向传播算法
- 5.4 几种典型的卷积神经网络
- 5.4.1 LeNet-5
- 5.4.2 AlexNet
- 5.4.3 Inception网络
- 5.4.4 残差网络
- 5.5 其他卷积方式
- 5.5.1 转置卷积
- 5.5.2 空洞卷积
- 5.6 总结和深入阅读
- 第6章 循环神经网络
- 6.1 给网络增加记忆能力
- 6.1.1 延时神经网络
- 6.1.2 有外部输入的非线性自回归模型
- 6.1.3 循环神经网络
- 6.2 简单循环网络
- 6.2.1 循环神经网络的计算能力
- 6.3 应用到机器学习
- 6.3.1 序列到类别模式
- 6.3.2 同步的序列到序列模式
- 6.3.3 异步的序列到序列模式
- 6.4 参数学习
- 6.4.1 随时间反向传播算法
- 6.4.2 实时循环学习算法
- 6.5 长程依赖问题
- 6.5.1 改进方案
- 6.6 基于门控的循环神经网络
- 6.6.1 长短期记忆网络
- 6.6.2 LSTM网络的各种变体
- 6.6.3 门控循环单元网络
- 6.7 深层循环神经网络
- 6.7.1 堆叠循环神经网络
- 6.7.2 双向循环神经网络
- 6.8 扩展到图结构
- 6.8.1 递归神经网络
- 6.8.2 图神经网络
- 6.9 总结和深入阅读
- 第7章 网络优化与正则化
- 7.1 网络优化
- 7.1.1 网络结构多样性
- 7.1.2 高维变量的非凸优化
- 7.1.3 神经网络优化的改善方法
- 7.2 优化算法
- 7.2.1 小批量梯度下降
- 7.2.2 批量大小选择
- 7.2.3 学习率调整
- 7.2.4 梯度估计修正
- 7.2.5 优化算法小结
- 7.3 参数初始化
- 7.3.1 基于固定方差的参数初始化
- 7.3.2 基于方差缩放的参数初始化
- 7.3.3 正交初始化
- 7.4 数据预处理
- 7.5 逐层归一化
- 7.5.1 批量归一化
- 7.5.2 层归一化
- 7.5.3 权重归一化
- 7.5.4 局部响应归一化
- 7.6 超参数优化
- 7.6.1 网格搜索
- 7.6.2 随机搜索
- 7.6.3 贝叶斯优化
- 7.6.4 动态资源分配
- 7.6.5 神经架构搜索
- 7.7 网络正则化
- 7.7.1 ℓ1和ℓ2正则化
- 7.7.2 权重衰减
- 7.7.3 提前停止
- 7.7.4 丢弃法
- 7.7.5 数据增强
- 7.7.6 标签平滑
- 7.8 总结和深入阅读
- 第8章 注意力机制与外部记忆
- 8.1 认知神经学中的注意力
- 8.2 注意力机制
- 8.2.1 注意力机制的变体
- 8.3 自注意力模型
- 8.4 人脑中的记忆
- 8.5 记忆增强神经网络
- 8.5.1 端到端记忆网络
- 8.5.2 神经图灵机
- 8.6 基于神经动力学的联想记忆
- 8.6.1 Hopfield网络
- 8.6.2 使用联想记忆增加网络容量
- 8.7 总结和深入阅读
- 第9章 无监督学习
- 9.1 无监督特征学习
- 9.1.1 主成分分析
- 9.1.2 稀疏编码
- 9.1.3 自编码器
- 9.1.4 稀疏自编码器
- 9.1.5 堆叠自编码器
- 9.1.6 降噪自编码器
- 9.2 概率密度估计
- 9.2.1 参数密度估计
- 9.2.2 非参数密度估计
- 9.3 总结和深入阅读
- 第10章 模型独立的学习方式
- 10.1 集成学习
- 10.1.1 AdaBoost算法
- 10.2 自训练和协同训练
- 10.2.1 自训练
- 10.2.2 协同训练
- 10.3 多任务学习
- 10.4 迁移学习
- 10.4.1 归纳迁移学习
- 10.4.2 转导迁移学习
- 10.5 终身学习
- 10.6 元学习
- 10.6.1 基于优化器的元学习
- 10.6.2 模型无关的元学习
- 10.7 总结和深入阅读
- 第三部分 进阶模型
- 第11章 概率图模型
- 11.1 模型表示
- 11.1.1 有向图模型
- 11.1.2 常见的有向图模型
- 11.1.3 无向图模型
- 11.1.4 无向图模型的概率分解
- 11.1.5 常见的无向图模型
- 11.1.6 有向图和无向图之间的转换
- 11.2 学习
- 11.2.1 不含隐变量的参数估计
- 11.2.2 含隐变量的参数估计
- 11.3 推断
- 11.3.1 精确推断
- 11.3.2 近似推断
- 11.4 变分推断
- 11.5 基于采样法的近似推断
- 11.5.1 采样法
- 11.5.2 拒绝采样
- 11.5.3 重要性采样
- 11.5.4 马尔可夫链蒙特卡罗方法
- 11.6 总结和深入阅读
- 第12章 深度信念网络
- 12.1 玻尔兹曼机
- 12.1.1 生成模型
- 12.1.2 能量最小化与模拟退火
- 12.1.3 参数学习
- 12.2 受限玻尔兹曼机
- 12.2.1 生成模型
- 12.2.2 参数学习
- 12.2.3 受限玻尔兹曼机的类型
- 12.3 深度信念网络
- 12.3.1 生成模型
- 12.3.2 参数学习
- 12.4 总结和深入阅读
- 第13章 深度生成模型
- 13.1 概率生成模型
- 13.1.1 密度估计
- 13.1.2 生成样本
- 13.1.3 应用于监督学习
- 13.2 变分自编码器
- 13.2.1 含隐变量的生成模型
- 13.2.2 推断网络
- 13.2.3 生成网络
- 13.2.4 模型汇总
- 13.2.5 再参数化
- 13.2.6 训练
- 13.3 生成对抗网络
- 13.3.1 显式密度模型和隐式密度模型
- 13.3.2 网络分解
- 13.3.3 训练
- 13.3.4 一个生成对抗网络的具体实现：DCGAN
- 13.3.5 模型分析
- 13.3.6 改进模型
- 13.4 总结和深入阅读
- 第14章 深度强化学习
- 14.1 强化学习问题
- 14.1.1 典型例子
- 14.1.2 强化学习定义
- 14.1.3 马尔可夫决策过程
- 14.1.4 强化学习的目标函数
- 14.1.5 值函数
- 14.1.6 深度强化学习
- 14.2 基于值函数的学习方法
- 14.2.1 动态规划算法
- 14.2.2 蒙特卡罗方法
- 14.2.3 时序差分学习方法
- 14.2.4 深度Q网络
- 14.3 基于策略函数的学习方法
- 14.3.1 REINFORCE算法
- 14.3.2 带基准线的REINFORCE算法
- 14.4 演员-评论员算法
- 14.5 总结和深入阅读
- 第15章 序列生成模型
- 15.1 序列概率模型
- 15.1.1 序列生成
- 15.2 N元统计模型
- 15.3 深度序列模型
- 15.3.1 模型结构
- 15.3.2 参数学习
- 15.4 评价方法
- 15.4.1 困惑度
- 15.4.2 BLEU算法
- 15.4.3 ROUGE算法
- 15.5 序列生成模型中的学习问题
- 15.5.1 曝光偏差问题
- 15.5.2 训练目标不一致问题
- 15.5.3 计算效率问题
- 15.6 序列到序列模型
- 15.6.1 基于循环神经网络的序列到序列模型
- 15.6.2 基于注意力的序列到序列模型
- 15.6.3 基于自注意力的序列到序列模型
- 15.7 总结和深入阅读
- 附录 数学基础
- 附录A 线性代数
- A.1 向量和向量空间
- A.1.1 向量
- A.1.2 向量空间
- A.1.3 范数
- A.1.4 常见的向量
- A.2 矩阵
- A.2.1 线性映射
- A.2.2 仿射变换
- A.2.3 矩阵操作
- A.2.4 矩阵类型
- A.2.5 特征值与特征向量
- A.2.6 矩阵分解
- 附录B 微积分
- B.1 微分
- B.1.1 导数
- B.1.2 微分
- B.1.3 泰勒公式
- B.2 积分
- B.3 矩阵微积分
- B.3.1 导数法则
- B.4 常见函数的导数
- B.4.1 向量函数及其导数
- B.4.2 按位计算的向量函数及其导数
- 附录C 数学优化
- C.1 数学优化的类型
- C.1.1 离散优化和连续优化
- C.1.2 无约束优化和约束优化
- C.1.3 线性优化和非线性优化
- C.2 优化算法
- C.2.1 全局最小解和局部最小解
- C.2.2 梯度下降法
- C.3 拉格朗日乘数法与KKT条件
- C.3.1 等式约束优化问题
- C.3.2 不等式约束优化问题
- 附录D 概率论
- D.1 样本空间
- D.2 事件和概率
- D.2.1 随机变量
- D.2.2 随机向量
- D.2.3 边际分布
- D.2.4 条件概率分布
- D.2.5 贝叶斯定理
- D.2.6 独立与条件独立
- D.2.7 期望和方差
- D.3 随机过程
- D.3.1 马尔可夫过程
- D.3.2 高斯过程
- 附录E 信息论
- E.1 熵
- E.1.1 自信息和熵
- E.1.2 熵编码
- E.1.3 联合熵和条件熵
- E.2 互信息
- E.3 交叉熵和散度
- E.3.1 交叉熵
- E.3.2 KL散度
- E.3.3 JS散度
- E.3.4 Wasserstein距离
- E.4 总结和深入阅读
- 索引
神经网络与深度学习
已读到0% · 共0条笔记
你可以在这里记录本书的
想法、划线、书签
想法、划线、书签
点评此书
点评此书
推荐
一般
不行
公开
书友想法