前言
清华大学电子工程系经过整整十年的努力，正式推出新版核心课系列教材。这成果来
之不易！在这个时间节点重新回顾此次课程体系改革的思路历程，对于学生，对于教师，对
于工程教育研究者，无疑都有重要的意义。
一
高等电子工程教育的基本矛盾是不断增长的知识量与有限的学制之间的矛盾。这个判
断是这批教材背后最基本的观点。
当今世界，科学技术突飞猛进，尤其是信息科技，在20 世纪独领风骚数十年，至21 世
纪，势头依然强劲。伴随着科学技术的迅猛发展，知识的总量呈现爆炸性增长趋势。为了适
应这种增长，高等教育系统不断进行调整，以把更多新知识纳入教学。自18 世纪以来，高
等教育响应知识增长的主要方式是分化：一方面延长学制，从本科延伸到硕士、博士；一方
面细化专业，比如把电子工程细分为通信、雷达、图像、信息、微波、线路、电真空、微电
子、光电子等。但过于细化的专业使得培养出的学生缺乏处理综合性问题的必要准备。为
了响应社会对人才综合性的要求，综合化逐步成为高等教育主要的趋势，同时学生的终身
学习能力成为关注的重点。很多大学推行宽口径、厚基础本科培养，正是这种综合化趋势
使然。通识教育日益受到重视，也正是大学对综合化趋势的积极回应。
清华大学电子工程系在20 世纪80 年代有九个细化的专业，20 世纪90 年代合并成两个
专业，2005 年进一步合并成一个专业，即“电子信息科学类”，与上述综合化的趋势一致。
综合化的困难在于，在有限的学制内学生要学习的内容太多，实践训练和课外活动的
时间被挤占，学生在动手能力和社会交往能力等方面的发展就会受到影响。解决问题的一
种方案是延长学制，比如把本科定位在基础教育，硕士定位在专业教育，实行五年制或六
年制本硕贯通。这个方案虽可以短暂缓解课程量大的压力，但是无法从根本上解决知识爆
炸性增长带来的问题，因此不可持续。解决问题的根本途径是减少课程，但这并非易事。减
少课程意味着去掉一些教学内容。关于哪些内容可以去掉，哪些内容必须保留，并不容易
找到有高度共识的判据。
探索一条可持续有共识的途径，解决知识量增长与学制限制之间的矛盾，已是必需，也
是课程体系改革的目的所在。
二
学科知识架构是课程体系的基础，其中核心概念是重中之重。这是这批教材背后最关
键的观点。
布鲁纳特别强调学科知识架构的重要性。架构的重要性在于帮助学生利用关联性来理
解和重构知识；清晰的架构也有助于学生长期记忆和快速回忆，更容易培养学生举一反三
的迁移能力。抓住知识架构，知识体系的脉络就变得清晰明了，教学内容的选择就会有公
认的依据。
核心概念是知识架构的汇聚点，大量的概念是从少数核心概念衍生出来的。形象地说，
核心概念是干，衍生概念是枝、是叶。所谓知识量爆炸性增长，很多情况下是“枝更繁、叶
更茂”，而不是产生了新的核心概念。在教学时间有限的情况下，教学内容应重点围绕核心
概念来组织。教学内容中，既要有抽象的概念性的知识，也要有具体的案例性的知识。
梳理学科知识的核心概念，这是清华大学电子工程系课程改革中最为关键的一步。办
法是梳理自 1600年吉尔伯特发表《论磁》一书以来，电磁学、电子学、电子工程以及相关
领域发展的历史脉络，以库恩对“范式”的定义为标准，逐步归纳出电子信息科学技术知
识体系的核心概念，即那些具有“范式”地位的学科成就。
围绕核心概念选择具体案例是每一位教材编者和教学教师的任务，原则是具有典型
性和时代性，且与学生的先期知识有较高关联度，以帮助学生从已有知识出发去理解新
的概念。
三
电子信息科学与技术知识体系的核心概念是：信息载体与系统的相互作用。这是这批
教材公共的基础。
1955年前后，斯坦福大学工学院院长特曼和麻省理工学院电机系主任布朗都认识到信
息比电力发展得更快，他们分别领导两所学校的电机工程系进行了课程改革。特曼认为，电
子学正在快速成为电机工程教育的主体。他主张彻底修改课程体系，牺牲掉一些传统的工
科课程以包含更多的数学和物理，包括固体物理、量子电子学等。布朗认为，电机工程的
课程体系有两个分支，即能量转换和信息处理与传输。他强调这两个分支不应是非此即彼
的两个选项，因为它们都基于共同的原理，即场与材料之间相互作用的统一原理。
场与材料之间的相互作用，这是电机工程第一个明确的核心概念，其最初的成果形式
是麦克斯韦方程组，后又发展出量子电动力学。自彼时以来，经过大半个世纪的飞速发展，
场与材料的相互关系不断发展演变，推动系统层次不断增加。新材料、新结构形成各种元器件，元器件连接成各种电路，在电路中，场转化为电势（电流电压），“电势与电路”取代“场和材料”构成新的相互作用关系。电路演变成开关，发展出数字逻辑电路，电势二值化为比特，“比特与逻辑”取代“电势与电路”构成新的相互作用关系。数字逻辑电路与计算机体系结构相结合发展出处理器（ CPU），比特扩展为指令和数据，进而组织成程序，“程
序与处理器”取代“比特与逻辑”构成新的相互作用关系。在处理器基础上发展出计算机，
计算机执行各种算法，而算法处理的是数据，“数据与算法”取代“程序与处理器”构成新
的相互作用关系。计算机互联出现互联网，网络处理的是数据包，“数据包与网络”取代“数据与算法”构成新的相互作用关系。网络服务于人，为人的认知系统提供各种媒体（包括文本、图片、音视频等），“媒体与认知”取代“数据包与网络”构成新的相互作用关系。
以上每一对相互作用关系的出现，既有所变，也有所不变。变，是指新的系统层次的
出现和范式的转变；不变，是指“信息处理与传输”这个方向一以贯之，未曾改变。从电
子信息的角度看，场、电势、比特、程序、数据、数据包、媒体都是信息的载体；而材料、
电路、逻辑（电路）、处理器、算法、网络、认知（系统）都是系统。虽然信息的载体变了，
处理特定的信息载体的系统变了，描述它们之间相互作用关系的范式也变了，但是诸相互
作用关系的本质是统一的，可归纳为“信息载体与系统的相互作用”。
上述七层相互作用关系，层层递进，统一于“信息载体与系统的相互作用”这一核心
概念，构成了电子信息科学与技术知识体系的核心架构。
四
在核心知识架构基础上，清华大学电子工程系规划出十门核心课：电动力学（或电磁
场与波）、固体物理、电子电路与系统基础、数字逻辑与 CPU基础、数据与算法、通信与
网络、媒体与认知、信号与系统、概率论与随机过程、计算机程序设计基础。其中，电动力
学和固体物理涉及场和材料的相互作用关系，电子电路与系统基础重点在电势与电路的相
互作用关系，数字逻辑与 CPU基础覆盖了比特与逻辑及程序与处理器两对相互作用关系，
数据与算法重点在数据与算法的相互作用关系，通信与网络重点在数据包与网络的相互作
用关系，媒体与认知重点在媒体和人的认知系统的相互作用关系。这些课覆盖了核心知识
架构的七个层次，并且有清楚的对应关系。另外三门课是公共的基础，计算机程序设计基
础自不必说，信号与系统重点在确定性信号与系统的建模和分析，概率论与随机过程重点
在不确定性信号的建模和分析。
按照“宽口径、厚基础”的要求，上述十门课均被确定为电子信息科学类学生必修专
业课。专业必修课之前有若干数学物理基础课，之后有若干专业限选课和任选课。这套课
程体系的专业覆盖面拓宽了，核心概念深化了，而且教学计划安排也更紧凑了。近十年来
清华大学电子工程系的教学实践证明，这套课程体系是可行的。
五
知识体系是不断发展变化的，课程体系也不会一成不变。就目前的知识体系而言，关
于算法性质、网络性质、认知系统性质的基本概念体系尚未完全成型，处于范式前阶段，相
应的课程也会在学科发展中不断完善和调整。这也意味着学生和教师有很大的创新空间。
电动力学和固体物理虽然已经相对成熟，但是从知识体系角度说，它们应该覆盖场与材料（电荷载体）的相互作用，如何进一步突出“相互作用关系”还可以进一步探讨。随着集成
电路发展，传统上区分场与电势的条件，即电路尺寸远小于波长，也变得模糊了。电子电
路与系统或许需要把场和电势的理论相结合。随着量子计算和量子通信的发展，未来在逻
辑与处理器和通信与网络层次或许会出现新的范式也未可知。
工程科学的核心概念往往建立在技术发明的基础之上，比如目前主流的处理器和网络分别是面向冯·诺依曼结构和 TCP/IP的，如果体系结构发生变化或者网络协议发生变化，那么相应地，程序的概念和数据包的概念也会发生变化。
六
这套课程体系是以清华大学电子工程系的教师和学生的基本情况为前提的。兄弟院校可以参考，但是在实践中要结合自身教师和学生的情况做适当取舍和调整。
清华大学电子工程系的很多老师深度参与了课程体系的建设工作，付出了辛勤的劳动。在这一过程中，他们表现出对教育事业的忠诚，对真理的执着追求，令人钦佩！自课程改革以来，特别是 2009年以来，数届清华大学电子工程系的本科同学也深度参与了课程体系的改革工作。他们在没有教材和讲义的情况下，积极支持和参与课程体系的建设工作，做出了重要的贡献。向这些同学表示衷心感谢！清华大学出版社多年来一直关注和支持课程体系建设工作，一并表示衷心感谢！
王希勤2017年 7月
本书是一本学习现代机器学习和深度学习方法的教材。以理工科高年级本科生和低年级研究生的基础知识为起点，以面向实际应用为目标，对机器学习、深度学习和Transformer及大模型相关的基础理论和前沿知识、经典方法和最新技术进行尽可能全面的叙述，使读者
不仅能在人工智能、机器学习和深度学习方面打下良好的理论基础并了解学科前沿，也能通过学习基本方法和具体算法来解决实际应用问题。
本书是由4位作者在清华大学讲授“媒体与认知——现代机器学习和深度学习方法”课程的讲义基础上编写而成的。该课程是面向电子信息类专业的本科生核心课程，按照培养计划，该课程安排在本科大三下学期进行课程教学。此外，本书部分研究成果来自国家自然科学基金项目、“863”计划项目、国家“十三五”重点研发计划项目课题、国家“十四五”重点研发计划项目课题及国家科技创新2030新一代人工智能重大项目等。
本书在内容上做了尽可能的全覆盖，既介绍了经典机器学习的基础知识和经典方法，又介绍了近年来发展迅速的深度学习和大模型的内容。本书对人工智能领域的媒体认知、认知的生物机理、机器学习、深度学习以及最新的Transformer与大模型的相关基础理论和基本方法进行详细介绍； 对广泛应用的机器学习和深度学习算法(如回归与分类、支持向量机、集成学习、卷积神经网络、循环神经网络、贝叶斯决策等)进行深入讲解，并结合实际用例讨论视觉感知与认知计算方法。
本书共9章，分为5部分。其中，第1部分(第1、2章)为基础篇，第2部分(第3章)为经典篇，第3部分(第4~7章)为现代篇，第4部分(第8章)为决策篇，第5部分(第9章)为应用篇。
第1章对媒体认知与人工智能的关联、人工智能的发展、大模型及人工智能应用场景进行了介绍。第2章对认知心理学中的知觉、注意、记忆以及大脑与神经元和视觉感知模型进行了基础性的叙述，从认知的生物机理出发引导出对应的感知模型和深度神经网络模型，使读者能够深刻理解媒体与认知的相互作用。第3章介绍了支持向量机、回归与分类、集成学习等经典机器学习方法。
第4~7章对深度学习、卷积神经网络、循环神经网络和Transformer与大模型(包括注意力机制、Transformer语言模型和
视觉ViT
模型)进行了详细介绍，不仅深入地讲解了感知器模型、
全连接前馈神经网络、
反向传播算法、深度网络优化方法、卷积与池化、门控机制、卷积神经网络、循环神经网络和长短时记忆网络等深度神经网络的重要知识点和网络结构，而且对注意力机制与Transformer模型也进行了深入讲解。在Transformer与大模型部分，不仅介绍了自注意力机制和多头自注意力机制，也详细地讨论了自回归模型和混合专家模型（MoE）。
第8章对贝叶斯决策与概率模型、非监督学习、隐含马尔可夫模型进行了详细的叙述。为使读者更好地理解上述知识点，第9章用较长篇幅介绍了模拟视觉注意机制的显著性计算、复制与近似图像检索、人脸检测与识别等实际用例的算法过程。
以深度学习和大模型为代表的现代机器学习具有多学科交叉的特点，是媒体与认知的有机结合，应用场景十分广泛，是当前学术界和产业界均关注的前沿课题，已经成为解决人工智能领域诸多实际问题的有效工具。
本书可作为高等院校电子信息类、计算机类、自动化类、人工智能等相关专业的教学参考书，也可作为从事电子工程、信息技术、人工智能、机器人等相关领域的科技人员、工程师和程序员自学现代机器学习的原理、方法和算法的参考书。
本书是一本面向高等院校理工科和人工智能类各专业的宽口径、综合性的现代机器学习的教材，
通过学习本书，读者可以为掌握机器学习的理论和算法、解决实际问题及开展与本领域相关的研究和技术研发奠定基础。
作者2026年2月
