本书内容主要包括机器学习的基本知识、基本学习方法、集成学习方法、深度学习方法和深度强化学习方法等内容,将机器学习的经典内容与深度学习等前沿内容有机地结合在一起,形成一套相对完整的知识体系,并在每个章节穿插相应的应用实例,使得广大读者不但能够较好地掌握机器学习基本理论,而且能够比较系统地掌握其应用技术,为今后的工作和进一步学习打下扎实的理论与应用基础。
前言
第1章 机器学习概述 1
1.1 机器学习基本概念 1
1.1.1 人工智能与机器学习 1
1.1.2 机器学习基本术语 5
1.1.3 机器学习误差分析 8
1.2 机器学习发展历程 11
1.2.1 感知机与连接学习 11
1.2.2 符号学习与统计学习 13
1.2.3 连接学习的兴起 17
1.3 机器学习基本问题 19
1.3.1 特征提取 19
1.3.2 规则构建 23
1.3.3 模型评估 27
1.4 模型优化与正则化 31
1.4.1 梯度下降法 31
1.4.2 随机梯度法 34
1.4.3 模型正则化 36
1.5 习题 41
第2章 基本学习方法 43
2.1 监督学习 43
2.1.1 线性模型 43
2.1.2 决策树模型 50
2.1.3 贝叶斯模型 62
2.1.4 支持向量机 68
2.2 无监督学习 72
2.2.1 聚类分析法 72
2.2.2 主分量分析法 76
2.3 强化学习 81
2.3.1 强化学习概述 81
2.3.2 马尔可夫模型 84
2.3.3 值迭代学习 89
2.3.4 时序差分学习 94
2.4 基本学习方法的应用 103
2.4.1 垃圾邮件检测与分类 103
2.4.2 人脸自动识别 106
2.4.3 自动爬山小车 112
2.5 习题 117
第3章 集成学习方法 119
3.1 集成学习概述 119
3.1.1 集成学习基本概念 119
3.1.2 集成学习基本范式 120
3.1.3 集成学习泛化策略 122
3.2 Bagging集成学习 124
3.2.1 Bagging集成策略 124
3.2.2 随机森林模型结构 127
3.2.3 随机森林训练算法 129
3.3 Boosting集成学习 142
3.3.1 Boosting集成策略 143
3.3.2 AdaBoost学习算法 145
3.3.3 GBDT学习算法 146
3.4 集成学习方法的应用 151
3.4.1 房价预测分析 151
3.4.2 人脸自动检测 156
3.5 习题 162
第4章 深度学习方法 163
4.1 神经网络概述 163
4.1.1 神经元与感知机 163
4.1.2 前馈网络训练范式 168
4.1.3 浅层学习与深度学习 176
4.2 深度卷积网络 181
4.2.1 卷积网络概述 181
4.2.2 基本网络模型 190
4.2.3 改进网络模型 199
4.3 深度循环网络 206
4.3.1 动态系统展开 207
4.3.2 网络结构与计算 208
4.3.3 模型训练策略 217
4.4 生成式对抗网络 221
4.4.1 生成器与判别器 222
4.4.2 网络结构与计算 224
4.4.3 模型训练策略 229
4.5 深度学习方法的应用 234
4.5.1 光学字符识别 235
4.5.2 图像目标检测 239
4.5.3 自动文本摘要 245
4.6 习题 249
第5章 深度强化学习 251
5.1 深度强化学习概述 251
5.1.1 基本学习思想 251
5.1.2 基本计算方式 254
5.1.3 蒙特卡洛树搜索 255
5.2 基于价值的深度强化学习 261
5.2.1 深度Q网络 261
5.2.2 深度双Q网络 266
5.2.3 DQN改进模型 270
5.3 基于策略的深度强化学习 273
5.3.1 策略梯度算法 273
5.3.2 Actor-Critic算法 278
5.3.3 DDPG学习算法 284
5.4 深度强化学习的应用 288
5.4.1 智能巡航小车 288
5.4.2 自动对弈游戏 292
5.5 习题 303
参考文献 305