前言
深度学习及应用前言〖3〗〖3〗近年来,以深度学习为代表的人工智能技术已深度融入社会生活。从人脸识别、智能推荐、自动驾驶到低空技术,这些日常应用背后离不开深度学习研究的长期积累。尤其在大数据、强算力、优算法与丰富场景的共同推动下,深度学习这一新兴研究领域正吸引着越来越多的关注。深度学习以神经网络为核心模型,最初致力于解决机器学习中的表示学习问题,而今凭借其强大的建模与泛化能力,已广泛应用于推理、决策等更接近通用人工智能的复杂任务中。当前,深度学习不仅在学术界成果丰硕,在工业界也催生了众多突破性产品,成为推动新一轮人工智能浪潮的核心动力。由于深度学习技术几乎在所有领域都具有广阔的应用前景,目前不仅众多本科生与研究生专业设立相关课程,越来越多高校的人工智能、计算机科学与技术、自动化、电子信息工程、通信工程等相关本科专业更是将深度学习纳入核心教学体系。在此背景下,作者撰写了这本教材,旨在系统梳理该领域的知识脉络,为相关专业的学生、研究人员及工程师提供一本体系完整、内容前沿、理论与实践并重的学习与参考用书。
全书共12章。第1章在介绍深度学习基本概念与发展历程的基础上,重点梳理当前主要研究方向与典型应用,引导读者建立对该领域的整体认知。第2章讲解深度学习所必需的数学基础,涵盖线性代数、微积分、概率论与信息论的核心内容及其在网络模型理解中的作用。第3章阐述人工神经网络的基本理论,重点剖析广泛应用的BP神经网络、径向基函数网络和Hopfield网络及其随机化变体,为后续深度学习网络模型奠定基础。第4章从数字图像特征出发,引入卷积运算,系统讲解卷积神经网络各模块结构、训练方法及常见模型变体,最后介绍其在计算机视觉等领域的实际应用。第5章以序列特征分析为起点,介绍循环神经网络的基本模型与训练方法,着重解析LSTM与GRU等经典结构,并说明其在自然语言处理等任务中的应用。第6章从图像空间与分布建模入手,详细阐述生成对抗网络的结构、原理、训练过程及理论,进一步介绍条件生成对抗网络、循环生成对抗网络等变体及其跨领域应用。第7章首先说明自编码器的结构与特点,进而深入讲解变分自编码器的理论框架、训练技巧及重参数化技术,最后展示其在生成建模中的应用。第8章回顾Transformer的发展脉络,解析其通用架构与注意力机制,重点探讨编码器解码器结构、自注意力与多头注意力机制,并延伸介绍BERT、GPT等大语言模型及相关的预训练微调技术,最后综述其在各领域的成功应用。第9章以目标检测任务为背景,系统讲解YOLO系列网络,重点剖析YOLOv1至YOLOv5的检测原理、网络设计、损失函数及结构特点,同时简要介绍YOLOv12等最新进展,并说明该技术在实时检测中的应用。第10章阐述扩散模型的基本原理与特点,重点分析去噪扩散概率模型的前向与反向过程、网络架构及训练方法,同时介绍稳定扩散模型、DALLE模型等典型变体,最后概述其在图像生成与跨模态任务中的应用。第11章介绍知识蒸馏的技术背景与基本框架,分别阐述离线蒸馏、在线蒸馏与自蒸馏等主要方法,并对比分析知识蒸馏与深度迁移学习的异同与关联。第12章系统论述深度学习性能评估体系,涵盖判别模型与生成模型的评估方法、泛化能力分析,以及消融实验的设计步骤、交叉验证、常用超参数、损失函数、优化器选择与评价指标等内容。本书附录提供深度学习环境配置和上机指南,以及深度学习实验指导手册,便于教学与动手实践。
作者攻读博士学位期间即专注于人工智能及其应用方向的研究,进入高校工作后持续从事该领域的教学与科研工作。早期作者主要承担电子信息工程、光电子科学与工程、自动化等本科专业的“人工智能导论”“人工智能及其应用”等核心课程教学。随着深度学习技术的迅速兴起与社会对相关人才需求的日益增长,作者进一步面向上述本科专业开设“深度学习及应用”专业方向课程,并将该课程逐步拓展至计算机科学与技术、电子信息工程、通信工程等学科的研究生培养体系,作为重要的专业基础课予以开设。
在多年的教学实践中,作者深刻体会到深度学习课程内容体系繁杂、知识更新迅速、与实践结合紧密的特点,切实感受到编写一本基础扎实、可读性强、紧跟技术前沿、适合课堂教学的教材的必要性。为此,作者在长期积累的课程讲义与教学材料基础上,系统梳理、总结了深度学习的核心知识与方法体系,最终撰写了这本教材。本书旨在帮助学生掌握深度学习的基本概念与原理,了解领域前沿应用,拓展学术视野,激发创新思维,为其今后在相关领域运用深度学习技术解决实际问题奠定坚实基础。
本书具有以下鲜明特色: 第一,语言简明、可读性好,全书采用通俗易懂的语言进行深入浅出的讲解,避免过度追求理论严谨导致的表述艰涩,旨在激发学生的阅读兴趣与耐心,使其能够顺畅领会深度学习的基本思想与方法体系;第二,内容注重实用性与应用导向,针对深度学习领域知识庞杂、发展迅速的特点,精心遴选基础理论与实用方法进行系统阐述,而非简单罗列前沿进展,书中配有丰富的典型应用实例,引导学生掌握运用新理论解决实际工程问题的能力;第三,配套资源完善,围绕核心章节设置了10个典型实验,并提供详细指导,支持学生通过动手编程深入理解算法原理与应用场景,所有实验与教学内容紧密衔接;第四,教学组织灵活,全书内容模块清晰、相对独立,教师可根据不同专业与学时要求自由选讲部分章节,同时保持课程体系的完整性;第五,提供数字课程支持,配套网站配备电子教案、实验指导等教学资源。
此外,本书在撰写过程中广泛参考了国内外相关教材、研究文献以及互联网上的优质资源(包括百度百科、知乎、CSDN等平台以及个人博客),汲取了诸多有益观点与素材。在此,谨向所涉文献的作者、提供支持与建议的各位师生致以衷心的感谢。本书的顺利出版离不开清华大学出版社的全力支持,在此一并表示诚挚的谢意。最后,限于作者水平,书中难免存在疏漏与不足之处,恳请各位读者批评指正,作者将不胜感激,并在后续工作中不断完善。
马海平
2026年5月于绍兴
