深度学习

“在深度学习经典学习资料中，伊恩·古德费洛（Ian Goodfellow）和约书亚·本吉奥（Yoshua Bengio）等人的书籍《深度学习（Deep Learning）》具有重要的参考价值，对深度学习相关概念和技术有深入的介绍和讲解 [157] ；国内邱锡鹏教授的著作《神经网络和深度学习》对深入学习深度学习技术也具有重要参考价值 [147] 。”

“（3）深度学习（Deep Learning）。 它是机器学习的重要分支，深度学习的模型框架已经很多，如深度神经网络、卷积神经网络、递归神经网络等，作为多层非线性神经网络模型，它拥有强大的学习能力，与大数据结合，再利用云计算、GPU并行计算，使得其在图形图像、视觉、语音等方面获得较高评价，因此深度学习被大众视为人工智能前进的重要一步。”

“6 深度学习： DistBelief 自从2006年Hinton发表了极具创新性的论文后（见本章参考文献 [15]和参考文献[16]），深度学习（Deep Learning）很快成为机器学习 与人工智能研究领域的一个新方向，这个方向目前也经常被称为表示学 习（Representation Learning）。”

“图1-2 人工智能的发展历程 2012年，随着AlexNet深度神经网络（Deep Neural Network，DNN）在ImageNet大 规模视觉识别挑战赛中一举夺冠（Krizhevsky et al., 2012），基于大数据训练 的深度学习（Deep Learning）算法走进了大众的视野。”

“但随着卷积神经网络（ Convolutional Neural Network ， CNN ）在图像分类上的突破，基于深度学习（ Deep Learning ）的深度神经网络已经成为当前的主流方案，因此相应诞生了各种开发框架，充分发挥硬件和软件的作用可帮助深度神经网络的构建、训练和应用。”

“它最开始出现在自然语言处理（NLP）领域的论文中，是后续GPT系列模型的基础，之后更是渗透到计算机视觉（CV）领域和强化学习（RL）领域，可以说Transformer模型在现在的深度学习（DL）领域中扮演着不可或缺的角色。”