新書推薦:
![声学手册 第7版 声学设计与建筑声学实用指南](http://103.6.6.66/upload/mall/productImages/24/31/9787115633606.jpg)
《
声学手册 第7版 声学设计与建筑声学实用指南
》
售價:HK$
218.3
![掼蛋入门到精通(礼盒版)](http://103.6.6.66/upload/mall/productImages/24/31/9787122452740.jpg)
《
掼蛋入门到精通(礼盒版)
》
售價:HK$
193.2
![中国书法散论(熊秉明文艺三书)](http://103.6.6.66/upload/mall/productImages/24/31/9787208187726.jpg)
《
中国书法散论(熊秉明文艺三书)
》
售價:HK$
71.3
![战争事典083:细说靖难之役 : 明成祖朱棣的戎马征程](http://103.6.6.66/upload/mall/productImages/24/30/9787513945899.jpg)
《
战争事典083:细说靖难之役 : 明成祖朱棣的戎马征程
》
售價:HK$
114.8
![时尚箱包及配饰 [英]达拉-简·吉尔罗伊](http://103.6.6.66/upload/mall/productImages/24/31/9787111756842.jpg)
《
时尚箱包及配饰 [英]达拉-简·吉尔罗伊
》
售價:HK$
170.2
![当代历史学新趋势:理论、方法与实践(论世衡史丛书,当下历史学在研究什么?未来历史学的趋势是什么?)](http://103.6.6.66/upload/mall/productImages/24/31/9787220134739.jpg)
《
当代历史学新趋势:理论、方法与实践(论世衡史丛书,当下历史学在研究什么?未来历史学的趋势是什么?)
》
售價:HK$
112.7
![晋国600年(全四册)](http://103.6.6.66/upload/mall/productImages/24/30/9787510476303.jpg)
《
晋国600年(全四册)
》
售價:HK$
250.7
![深中通道 穿越千年文明 迈向中国式现代化](http://103.6.6.66/upload/mall/productImages/24/31/9787218176932.jpg)
《
深中通道 穿越千年文明 迈向中国式现代化
》
售價:HK$
101.2
|
編輯推薦: |
《机器学习导论》从实战出发,内容全面,从基本概念入手,介绍了各种机器学习的基本类型。现代机器学习部分,不仅仅是*受关注的深度神经网络学习,同时还介绍了近十年取得令人关注进展的其他机器学习分支。着重于现代方法,但是也没有忘记详尽地介绍经典方法,刻画了机器学习学科发展历史上的各个里程碑式的重要成果,基本覆盖了机器学习技术各个时期的主要方向;第二,该书内容比较浅显,对大多数方法的介绍做到点到为止。有利于入门学生摆脱具体算法的纠缠,快速通读下去,避免信息破碎;第三,本书对各种方法的关联性做了重点阐述,有利于形成知识脉络。第四,作者对每种技术都给出了大量参考文献,便于读者根据个体需求深入学习。上述这些特点对从事应用研究的初学者非常重要,基于这些信息,便于形成对机器学习技术总体思路的把握,从而可以在需要的时候能理清头绪,从众多机器学习方法中找到合适的工具。
|
內容簡介: |
本书分类《机器学习导论》面向机器学习领域的主要模型和算法,重点阐述不同方法背后的基本假设以及它们之间的相关性,帮助读者建立机器学习的基础理论功底,为从事该领域的相关工作打下基础。具体内容包括机器学习研究的总体思路、发展历史与关键问题,线性模型,神经网络及深度学习,核方法,图模型,无监督学习,非参数模型,演化学习,强化学习,数值优化方法等。 本书可作为高等学校相关课程的教材,也可作为研究生及对机器学习感兴趣的科技、工程技术人员的参考用书。本书封面贴有清华大学出版社防伪标签,无标签者不得销售。
|
關於作者: |
王东, 1995-2002年清华本科、硕士,2010年英国爱丁堡大学博士,历任Oracle 中国软件工程师,IBM中国高级软件工程师,英国爱丁堡大学Marie Curie 研究员,法国EURECOM博士后研究员,美国Nuance公司高级研究科学家。现任清华大学语音语言中心副研究员,中心常务副主任,FreeNeb公司首席科学家。王东博士是全国人机语音通讯会议常设机构秘书长,是亚太信号信息处理联盟APASIPA语音专委会副主席、杰出讲师,是国际标准与语音数据资源委员会COCOSDA大陆区代表。王东博士自1997年开始从事语音识别、自然语言处理方面的研究,在相关领域发表学术论文120余篇,公开专利20余项,其专利技术在日本软银、新松、智能管家等多家国内外著名公司应用,创造了良了的社会效益和经济效益。
|
目錄:
|
第1章机器学习概述1
1.1什么是机器学习1
1.2机器学习的基本框架2
1.3机器学习发展简史5
1.4机器学习的流派7
1.4.1符号学派8
1.4.2贝叶斯学派8
1.4.3连接学派10
1.4.4进化仿生学派11
1.4.5哪个学派更占主流12
1.5让人惊讶的学习13
1.5.1从猴子摘香蕉到星际大战13
1.5.2集体学习的机器人14
1.5.3图片理解16
1.5.4金融市场量化分析18
1.5.5AlphaGo20
1.6机器学习技术的前沿21
1.7机器智能会超过人类智能吗22
1.8机器学习基础23
1.81训练、验证与测试23
1.8.2参数过拟合、交叉验证与正则化24
1.8.3结构过拟合与模型选择24
1.8.4机器学习方法分类27
1.9开始你的机器学习之旅29
1.9.1如何开始一个机器学习任务29
1.9.2如何学习机器学习30
1.10相关资源30
第2章线性模型33
2.1线性预测模型33
2.1.1从多项式拟合说起34
2.1.2线性回归36
2.1.3Fisher准则与线性分类39
2.1.4Logistic回归42
2.1.5小结44
2.2线性概率模型45
2.2.1主成分分析46
2.2.2概率主成分分析47
2.2.3概率线性判别分析50
2.3贝叶斯方法52
2.4本章小结54
2.5相关资源55
第3章神经模型56
3.1神经网络概述57
3.1.1什么是人工神经网络58
3.1.2神经模型与其他方法58
3.2基于映射的神经模型59
3.2.1从线性模型开始59
3.2.2多层感知器62
3.2.3径向基函数网络67
3.2.4神经网络模型与先验知识69
3.3基于记忆的神经模型72
3.3.1Kohonen网络73
3.3.2Hopfield网络75
3.3.3玻尔兹曼机78
3.3.4受限玻尔兹曼机81
3.3.5自编码器84
3.4基于过程的模型87
3.4.1ElmanRNN88
3.4.2门网络89
3.4.3序列对序列网络93
3.4.4基于Attention模型的诗词生成95
3.5神经图灵机97
3.6本章小结99
3.7相关资源100
第4章深度学习101
4.1从浅层学习到深度学习101
4.1.1网络表达能力102
4.1.2层次表示与特征学习103
4.1.3显著特征的非监督学习104
4.1.4复杂结构与数据驱动109
4.2深度神经网络训练110
4.2.1基础训练算法110
4.2.2DNN训练的困难116
4.2.3DNN训练技巧125
4.3神经网络的正则化134
4.3.1结构化网络与参数共享135
4.3.2范式约束与稀疏网络137
4.3.3加噪训练与数据增强140
4.3.4联合训练140
4.3.5知识迁移143
4.4生成模型下的深度学习145
4.4.1神经网络的简单概率表达145
4.4.2后验拟合与VariationalAE147
4.4.3VariationalRNN151
4.5计算图与复杂神经网络153
4.5.1由ChainRule到计算图154
4.5.2基于计算图的参数优化156
4.5.3计算图的模块化157
4.5.4计算图与深度神经网络157
4.6计算平台与方法160
4.6.1GPU与TPU160
4.6.2并行计算161
4.6.3模型压缩167
4.7深度学习的应用169
4.7.1语音信号处理169
4.7.2自然语言处理173
4.7.3计算机视觉176
4.8本章小结179
4.9相关资源180
第5章核方法181
5.1从线性回归到核方法183
5.2核函数的性质184
5.2.1再生核希尔伯特空间与Mercer定理184
5.2.2核函数的基本性质186
5.3常用核函数186
5.3.1简单核函数187
5.3.2概率核188
5.3.3复杂对象上的核函数189
5.4KernelPCA195
5.5高斯过程197
5.6支持向量机199
5.6.1线性可分的SVM200
5.6.2线性不可分的SVM202
5.6.3v-SVM204
5.6.4SVM的若干讨论205
5.7相关向量机206
5.8本章小结208
5.9相关资源209
第6章图模型210
6.1概率图模型简介211
6.2有向图模型212
6.2.1典型模型212
6.2.2有向图变量相关性判断214
6.3无向图模型217
6.3.1无向图变量相关性判断218
6.3.2有向图向无向图转化219
6.3.3有向图和无向图对比221
6.4常用概率图模型221
6.4.1高斯混合模型221
6.4.2隐马尔可夫模型225
6.4.3线性条件随机场229
6.5EM算法232
6.6精确推理算法235
6.6.1加和乘积算法235
6.6.2树状图的加和乘积算法237
6.6.3联合树算法238
6.7近似推理算法240
6.7.1采样法241
6.7.2变分法246
6.7.3采样法和变分法比较250
6.8本章小结250
6.9相关资源251
第7章无监督学习252
7.1无监督学习任务253
7.1.1聚类概述253
7.1.2流形学习概述254
7.1.3因子学习255
7.2聚类方法256
7.2.1基于划分的聚类方法256
7.2.2基于连接的聚类方法258
7.2.3基于密度的聚类方法262
7.2.4基于模型的聚类方法263
7.3流形学习264
7.3.1主成分分析266
7.3.2多维标度268
7.3.3ISOMAP269
7.3.4自组织映射271
7.3.5局部线性嵌入273
7.3.6谱嵌入276
7.3.7t-SNE276
7.3.8流形学习方法比较279
7.4图模型与无监督学习279
7.4.1图模型下的聚类任务279
7.4.2图模型下的流形学习280
7.4.3图模型下的因子学习281
7.5神经模型与无监督学习282
7.5.1特征学习任务中的因子学习282
7.52生成任务中的因子学习283
7.5.3分类回归任务中的因子学习283
7.6本章小结285
7.7相关资源286
第8章非参数模型287
8.1简单非参数模型288
8.2回顾高斯过程290
8.2.1高斯过程定义290
8.2.2高斯过程回归292
8.2.3高斯过程用于分类任务296
8.3狄利克雷过程296
8.3.1回顾高斯混合模型297
8.3.2中国餐馆问题298
8.3.3狄利克雷分布及性质300
8.3.4狄利克雷过程的定义302
8.3.5狄利克雷过程的表示303
8.3.6狄利克雷过程的构造307
8.3.7推理方法309
8.3.8HierarchicalDPHDP311
8.4本章小结312
8.5相关资源313
第9章演化学习315
9.1基于采样的优化方法316
9.1.1演化学习316
9.1.2群体学习与随机优化317
9.2遗传算法318
9.2.1算法框架319
9.2.2算法细节320
9.2.3进化理论324
9.3遗传编程328
9.3.1算法基础328
9.3.2GP高级话题333
9.3.3其他演化学习方法335
9.4群体学习方法336
9.4.1蚁群优化算法337
9.4.2人工蜂群算法338
9.4.3粒子群算法340
9.4.4捕猎者搜索341
9.4.5萤火虫算法342
9.5随机优化方法342
9.5.1模拟退火算法342
9.5.2杜鹃搜索343
9.5.3和声搜索344
9.5.4禁忌搜索344
9.6本章小节345
9.7相关资源347
第10章强化学习348
10.1强化学习概述349
10.1.1什么是强化学习349
10.1.2与其他学习方法的区别350
10.1.3强化学习的应用352
10.2强化学习的基本要素353
10.2.1强化学习三元素353
10.2.2长期收益353
10.2.3值函数与策略优化354
10.2.4通用策略迭代355
10.2.5强化学习算法分类356
10.3值函数学习:基于模型的规划算法358
10.3.1马尔可夫决策过程358
10.3.2MDP中的值函数360
10.3.3策略估值:动态规划算法361
10.3.4策略优化:策略迭代和值迭代362
10.4值函数学习:基于采样的蒙特卡罗方法365
10.4.1学习任务与采样方法365
10.4.2蒙特卡罗策略估值365
10.4.3蒙特卡罗策略优化367
10.5值函数学习:基于采样的时序差分方法370
10.5.1基于TD的策略估值370
10.5.2基于TD的策略优化372
10.5.3N-stepTD与TD374
10.5.4三种值函数学习方法总结375
10.6模型学习377
10.6.1值函数学习与模型学习377
10.6.2模型学习方法378
10.6.3Dyna:混合学习方法379
10.7函数近似与策略学习380
10.7.1值函数近似381
10.7.2基于梯度的参数优化383
10.7.3基于函数近似的策略学习383
10.7.4Actor-Critic方法385
10.8深度强化学习方法386
10.8.1Atari游戏387
10.8.2AlphaGo388
10.9本章小结391
10.10相关资源391
第11章优化方法393
11.1函数优化394
11.1.1优化问题定义394
11.1.2优化问题分类395
11.1.3基础定理395
11.2无约束优化问题396
11.2.1线性搜索396
11.2.2置信域优化401
11.3带约束优化问题404
11.3.1拉格朗日乘子法405
11.3.2对偶问题407
11.3.3线性规划409
11.3.4二阶规划415
11.3.5一般非线性优化420
11.4本章小结425
11.5相关资源426
参考文献427
|
內容試閱:
|
2012年,我回到清华大学语音语言技术中心CSLT任教,继续关于语音和语言信息处理领域的研究。在这些研究中,机器学习是基础工具,掌握机器学习方法和学会敲代码一样,属于基本功。因此,不论是在授课还是在研究中,我们一向重视向学生传授机器学习的基础知识。
当前关于机器学习方面的资料非常丰富:Andrew Ng在 Coursera上的机器学习教程、ChristoperBishop的《模式识别与机器学习》和周志华的《机器学习》都是非常好的基础教材;Goodfelow等人编写的《深度学习》是学习深度学习技术的首选资料;麻省理工学院、斯坦福大学等名校的公开课也非常有价值;一些主要会议的 Tutorial、Keynote也都可以在网上搜索到。然而,在教学过程中,我深感这些资料的专业性很强,且入门不易。一方面可能是因为语言障碍,另一方面可能是因为机器学习覆盖面广,研究方向众多,各种新方法层出不穷,初学者往往在各种复杂的名词和算法面前产生了畏难情绪,导致半途而废。
2016年7月到8月,我在 CSLT组织了一次关于机器学习的内部暑期研讨班,主要目的不是细致讨论各种具体算法,而是将各种看似高深的方法有机地组织起来,告诉学生每种方法的基本思路、基本用法及与其他技术的关联,帮助他们走入机器学习的宏伟殿堂。除了我讲以外,还有冯洋、王彩霞、王卯宁三位教师,分别讲述图模型、核方法和遗传算法。研讨班取得了意想不到的效果,很多学生不仅掌握了基础知识和基本方法,对这些方法与具体应用研究的结合也有了更深刻的理解,为在本领域的深入研究打下了基础。
本书的主体内容是基于该研讨班形成的总结性资料,从 2016年 8月开始整理,历经数次大规模修正,直到2019年1月定稿。全书共分11章,内容如下。
第1章:介绍机器学习研究的总体思路、发展历史与关键问题;
第2章:介绍线性模型,包括线性预测模型、线性分类模型和线性高斯概率模型;
第3章:介绍神经网络的基础知识、基础结构和训练方法;
第4章:介绍深度神经网络的基础方法和最新进展; 第5章:介绍核方法 ,特别是支持向量机模型 ;
第6章:介绍图模型的基本概念和基于图模型的学习与推理方法 ;
第7章:介绍非监督学习方法 ,特别是各种聚类方法和流形学习 ;
第8章:介绍非参数模型 ,重点关注高斯过程和狄利克雷过程 ;
第9章:介绍遗传算法、遗传编程、群体学习等演化学习方法 ;
第10章:介绍强化学习 ,包括基础算法及近年来兴起的深度强化学习方法 ;
第11章:介绍各种数值优化方法。
基于作者的研究背景 ,这本书很难说是机器学习领域的专业著作 ,而是一本学习笔记 ,是从一个机器学习技术使用者角度对机器学习知识的一次总结 ,并加入编著者在本领域研究中的一些经验和体会。与其说是一本专业著作 ,不如说是一本科普读物 ,用简洁的语言和深入浅出的描述为初学者打开机器学习这扇充满魔力的大门。打开大门以后 ,我们会发现这是一个多么让人激动人心的领域 ,每天都有新的知识、新的思路、新的方法产生 ,每天都有令人振奋的成果。我们希望这本书可以让更多学生、工程师和相关领域的研究者对机器学习产生兴趣 ,在这片异彩纷呈的海域上找到属于自己的那颗贝壳。
本书的出版凝聚了很多人的心血。冯洋、王卯宁、王彩霞、邢超、李蓝天、汤志远、张记袁、李傲冬、刘艾婷、白子薇、罗航、石颖、林婧伊、汪洋、张安迪、陈怿翔等老师和同学对本书资料进行了整理 ,并形成了初始版本。张淼同学对全书进行了校对。蔡云麒博士对全部引用和图片做了整理。张雪薇、林婧伊、蔡佳音、景鑫、傅豪、何丹、于嘉威、齐诏娣、吴嘉瑶、张阳、姜修齐、刘逸博、张镭锏等同学参与了文字整理工作。
感谢朱小燕老师为本书做序并提出了很多中肯建议。感谢苏红亮、戴海生、利节、黄伟明等老师对部分章节的审读和建设性意见。感谢语音语言中心的郑方、周强及其他老师 ,中心宽松的治学环境是本书得以完成的前提。
感谢我的家人 ,他们为我承担了学术以外的所有生活压力 ,没有他们的支持 ,就没有本书的出版。
由于编著者在知识和经验上的局限性 ,书中难免会出现各种错误和疏漏 ,敬请各位读者批评、指正。
著者
2020年6月18日于清华大学
|
|