序 言 2002年秋天，由王珏教授策划和组织，复旦大学智能信息处理开放实验室（即现在 的上海市智能信息处理重点实验室）举办了一次“机器学习及其应用”研讨会。该研讨 会属于实验室的“智能信息处理系列研讨会”之一。十余位学者在综述机器学习各个分 支的发展的同时报告了他们自己的成果。鉴于研讨会取得了非常好的效果，而机器学习 领域又是如此之广阔，有那么多重要的问题还没有涉及或还没有深入，2004年秋天王珏 教授又和周志华教授联合发起并组织第二届“机器学习及其应用”研讨会，仍由复旦大 学的实验室举办。这次研讨会又取得了非常好的效果，并且参加的学者比上次更多，报 告的内容也更丰富。根据与会者的意见，决定把报告及相关内容编成一本书出版，以便 与广大的国内学者共享研讨会的成果。 机器学习是人工智能研究的核心课题之一，不但有深刻的理论内蕴，也是现代社会 中人们获取和处理知识的重要技术来源。它的活力久盛不衰，并且日呈燎原之势。对此， 国内已经有多种定期和不定期的学术活动。本书的出版反映了机器学习界一种新型的“华 山论剑”：小范围、全视角、更专业、更深入，可与大、中型机器学习会议互相补充。值 得赞扬的是，它没有任何学派和门户之见，无论是强调基础的“气宗”，还是注重技术的 “剑宗”，都能在这里畅所欲言，自由交流。我很高兴地获悉：第三届“机器学习及其应 用”研讨会已经于 2005年 11月由周志华教授和王珏教授主持在南京大学成功举行。并 且以后还将有第四届、第五届……作为一直跟踪这项活动并从中获得许多教益的一个学 习者，我真希望它发展成这个领域的一个品牌，希望机器学习的优秀成果不断地由这里 飞出，飞向全世界。 值得一提的是王珏教授有一篇颇具特色的综述文章为本书开道。长期以来，许多有 识之士为国内学术界缺少热烈的争鸣风气而不安。因为没有争鸣就没有学术繁荣。细心 的读者可以看出，这篇综述的观点并非都是传统观点的翻版，并且很可能不是所有的同 行都认同的。作者深刻反思了机器学习这门学科诞生以来走过的道路，对一些被行内人 士几乎认作定论的观点摆出了自己的不同看法。其目的不是想推出一段惊世骇俗的宏论， 而是为了寻求真理、辨明是非。在这个意义上，王珏教授也可算是一位“独孤求败”。如 果有人能用充分的论据指出其中可能存在的瑕疵，他也许会比听到一片鼓掌之声更感到 宽慰。 随着本书的出版，中国计算机学会丛书知识科学系列也正式挂牌了。在衷心庆贺这 个系列诞生的同时，我想重复过去说过的一段话：“二十多年来，知识工程主要是一门实 验性科学。知识处理的大量理论性问题尚待解决。我们认为对知识的研究应该是一门具 有坚实理论基础的科学，应该把知识工程的概念上升为知识科学。知识科学的进步将从 根本上回答在知识工程中遇到过，但是没有很好解决的一系列重大问题。 ”本系列为有关领域的学者提供了一个宽松的论坛。衷心感谢王珏、周志华、周傲英三位编者把这本精彩的文集贡献给知识科学系列的首发式。我相信今后机器学习著作仍将是这个系列的一个常客。据悉，第四届机器学习研讨会将于今秋在南京大学举行，届时各种观点又将有进一步的发展和碰撞。欲知争鸣烽火如何再燃，独孤如何锐意求败，且看本系列下回分解。 2006年 1月发展至今，“机器学习及其应用”研讨会已经成为一个著名的学术品牌了。其历史大 致可以分为四个阶段。“机器学习及其应用”研讨会的创始阶段是 2002年到2004年，它 起源于2002年陆汝钤院士在复旦大学智能信息处理实验室发起组织的“智能信息处理系 列研讨会”。是年11月，第一届研讨会邀请了十余位专家闭门研讨，在复旦大学成功举 行。2004年11月周志华教授与王珏研究员在复旦大学主办了第二届“机器学习及其应 用”研讨会。此次研讨会除邀请报告人外，还吸引了闻讯自发与会旁听的学者和研究生 100余人。自此，研讨会的模式从闭门的学术讨论，变成了开放的学术交流。 “机器学习及其应用”研讨会的起步阶段是 2005年到2010年。由于当时机器学习受 到的关注和支持较少，组织者和主办单位承担压力大， 2005年研讨会移师南京大学软件新技术国家重点实验室，周志华教授和王珏研究员主持举办了第三届研讨会，吸引了来自全国近 10个省市的250余人旁听。此次研讨会确定了会议不征文、不收费、报告人由 组织者邀请，以及“学术至上，其他从简”的办会宗旨，同时确定了研讨会举办的时 间，如无特殊，则为当年 11月份的第一个周末。此后，组织者争取到兄弟单位给予 协助，2006年、2007年分别由南京航空航天大学信息科学与技术学院、南京师范大学 数学与计算机学院协办了第四届和第五届研讨会，两次均吸引了来自全国 10余个省市的 约 300人旁听； 2008年举行的第六届研讨会，适逢南京大学计算机学科建立 50周年，与 会人数达到了 380余人；2009年和 2010年在南京大学分别举行了第七、八届研讨会，均 有 400余人旁听。这一时期为国内机器学习界的“垦荒”阶段，众多学者为研讨会作出了 重要贡献。研讨会在国内机器学习领域乃至整个计算机领域逐渐产生了重要的影响， 学界美其名为“南京会议”。 “机器学习及其应用”研讨会的发展阶段是 2011年到 2016年。随着国内科研条件的 改善，机器学习逐渐获得更多关注和支持。为进一步推动机器学习在国内的发展，从 2011年起，研讨会的举办地开始走出南京。 2011年和 2012年由张长水教授和杨强教授主持， 清华大学自动化系、智能科学与系统国家重点实验室、清华大学信息科学与技术国家实验室(筹)举办第九届和第十届研讨会，两次会议均有 500多人参加。 2013年、2014年由张军平教授和高新波教授主持，分别在复旦大学计算机科学技术学院和上海市智能信息处理实验室举行了第十一届研讨会，在西安电子科技大学举办了第十二届研讨会，这两次会议分别达到 600多人和 800多人参加。 2015年和 2016年，研讨会再次回到南京大学举办，此时国内机器学习研究和应用已经发展到一个新的高峰，这两次会议均约有 1400人参加。至此，研讨会已经成为备受国内机器学习及其相关领域研究人员关注的 盛会。 自 2017年开始，“机器学习及其应用”研讨会进入定型阶段。 2017年，第十五届研 讨会由北京交通大学主办，北京大学协办。在此次研讨会上确定，偶数年在南京举办，奇 数年在外地举办。因此，2018年第十六届研讨会在南京大学举办。这两届研讨会的参会 人数都超过了预期，由此采取了预注册的方式。 2017年注册人数超过了 1500人，2018年 注册人数超过了 2000人。 研讨会自发起之日起，清华大学出版社敏锐地了解到这一学术动态。研讨会主要组 织者与清华大学出版社达成共识，每两年对研讨会上专家交流的部分技术内容，经过整 理，结集成书，以飨读者。十余年来，陆续出版了《机器学习及其应用》《机器学习及其 应用 2007》《机器学习及其应用 2009》《机器学习及其应用 2011》《机器学习及其应用 2013》《机器学习及其应用 2015》《机器学习及其应用 2017》等系列图书。本书是以上序 列图书的延续。 本书是对第十五届和第十六届中国“机器学习及其应用”研讨会交流内容的部分总结， 共邀请了与会的 11位专家就其研究领域撰文，以综述的形式探讨了机器学习不同分支及 相关领域的研究进展。全书共分 11章，涉及深度学习、主动学习、子空间学习、随机优 化、因果图模型、聚类、分类等，介绍了新型深度学习范式，以及机器学习在机器翻译、 大数据分析等方面的应用。 周志华教授分析了现在深度神经网络取得成功的三个内在假设，指出在满足这三个 内在假设的情形下设计新的深度模型的必要性和可行性。 王立威教授研究了随机梯度下降郎之万动力学的泛化分析，该研究存在对深度学习 的泛化性能提供解释的可能性。 何洋波教授讨论了基于有向无环图的图模型及其等价类，并介绍了因果图模型。 高尉博士介绍了一致性学习理论，基于理论分析提出了鲁棒 k近邻算法，并指出一致 性理论在深度学习理论研究中存在的潜在可能。 胡清华教授介绍了大规模分类任务的分层学习，涉及分层分类的评价指标、层次结 构的构建、分层特征选择、分类器训练以及分层分类的停止机制，等等。 张蕾教授介绍了概念器的发展与应用，并提出了一种基于概念器的新型深度神经网 络模型，讨论了其在单标签和多标签任务中的应用。 张兆翔教授介绍了如何将经典机器学习方法与深度学习模型相结合，从白化到批归 一化，从自注意到谱聚类，给出了一系列成功的应用实例。 景丽萍教授总结了子空间学习的进展，介绍了子空间学习面临的挑战以及未来研究 的思路。 黄圣君博士梳理了主动学习的背景和现有工作，并着重介绍了作者针对主动学习中 的四个关键问题展开的研究工作。 刘洋博士介绍了神经机器翻译，指出模型架构设计、低资源翻译、先验知识融合、 可解释性和鲁棒性在可见的未来依然是神经机器翻译的研究中心。 刘淇博士介绍了面向个性化教育的大数据分析方法研究与应用，并指出随着在线学 习的不断发展和完善，教育领域的数据挖掘基础研究和应用工作将不断产生技术变革。 本书概括了国内机器学习及其应用的最新研究进展，可供计算机、自动化、信息处 理及相关专业的研究人员、教师、研究生和工程技术人员参考，也可作为人工智能、机 器学习课程的辅助内容，希望对有志于从事机器学习研究的人员有所帮助。 于 剑 封举富 张敏灵 俞 扬 2019年 9月 21日

• 暂无课件
• 样章下载
• 暂无网络资源

扫描二维码
下载APP了解更多

版权图片链接