大V吴恩达曾经说过：做AI研究就像造宇宙飞船，除了充足的燃料之外，强劲的引擎也是必不可少的。假如燃料不足，则飞船就无法进入预定轨道。而引擎不够强劲，飞船甚至不能升空。类比于AI，深度学习模型就好像引擎，海量的训练数据就好像燃料，这两者对于AI而言同样缺一不可。

深度学习是一个近几年备受关注的研究领域，在机器学习中起着重要的作用。深度学习通过建立、模拟人脑的分层结构来实现对外部输入的数据进行从低级到高级的特征提取，从而能够解释外部数据。

深度学习

深度学习（Deep Learning）的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。

深度学习也称为深度结构学习【Deep Structured Learning】、层次学习【Hierarchical Learning】或者是深度机器学习【Deep Machine Learning】）是一类算法集合，是机器学习的一个分支。它尝试为数据的高层次摘要进行建模。

机器学习通过算法，让机器可以从外界输入的大量的数据中学习到规律，从而进行识别判断。机器学习的发展经历了浅层学习和深度学习两次浪潮。深度学习可以理解为神经网络的发展，神经网络是对人脑或生物神经网络基本特征进行抽象和建模，可以从外界环境中学习，并以与生物类似的交互方式适应环境。神经网络是智能学科的重要部分，为解决复杂问题和智能控制提供了有效 的途径。神经网络曾一度成为机器学习领域备受关注的方向。

我们用一个简单的例子来说明，假设你有两组神经元，一个是接受输入的信号，一个是发送输出的信号。当输入层接收到输入信号的时候，它将输入层做一个简单的修改并传递给下一层。在一个深度网络中，输入层与输出层之间可以有很多的层（这些层并不是由神经元组成的，但是它可以以神经元的方式理解），允许算法使用多个处理层，并可以对这些层的结果进行线性和非线性的转换。

深度学习的由来

１、人脑视觉机理启示

人类每时每刻都面临着大量的感知数据，但大脑总能很容易地捕获重要的信息。人工智能的核心问题就是模仿大脑这种高效准确地表示信息的能力。通 过 近些年的研究，我们对大脑机理已有了一些了解，这些都推动了人工智能的发展。

神经学研究表明，人的视觉系统的信息处理是分级的，从低级的Ｖ1区提取边缘特征，到Ｖ2区的形状，再到更高层。人类大脑在接收到外部信号时，不是直接对数据进行处理，而是通过一个多层的网络模型来获取数据的规律。这种层次结构的感知系统使视觉系统需要处理的数据量大大减少，并保留了物体有用的结构信息。

２、现有机器学习的局限性

深度学习与浅层学习相对。现在很多的学习方法都是浅层结构算法，它们存在一定的局限性，比如在样本有限的情况下表示复杂函数的能力有限，针对复杂的分类问题其泛化能力受到一定制约。

而深度学习可通过学习一种深层非线性网络结构，实现复杂函数逼近，表征输 入数据分布式表示，并且能在样本集很少的情况下去学习数据集的本质特征。

虽然浅层学习的应用也很广泛，但它只对简单的计算才有效，并不能到达人脑的反应效果，这就需要深度的机器学习。这些都表明浅层学习网络有很大的局限性，激发了我们对深度网络建模的研究。

深度机器学习是数据分布式表示的必然结果。有很多学习结构的学习算法得到的学习器是局部估计算子，例如，由核方法构造的学习器，是由对模板的匹配度加权构成的。对于这样的问题，通常我们有合理的假设，但当目标函数非常复杂时，由于需要利用参数进行描述的区域数目也是巨大的，因此这样的模型 泛化能力很差。在机器学习和神经网络研究中分布式表示可以处理维数灾难和局部泛化限制。分布式表示不仅可以很好地描述概念间的相似性，而且合适的分布式表示在有限的数据下能体现出更好的泛化性能。理解和处理接收到的信 息是人类认知活动的重要环节，由于这些信息的结构一般都很复杂，因此构造深度的学习机器去实现一些人类的认知活动是很有必要的。

３、特征提取的需要

机器学习通过算法，让机器可以从外界输入的大量数据中学习到规律，从而进行识别判断。机器学习在解决图像识别、语音识别、自然语言理解等问题时的 大致流程如图 １ 所示。

首先通过传感器来获得数据，然后经过预处理、特征提取、特征选择，再到推理、预测和识别。良好的特征表达影响着最终算法的准确性，而且系统主要的计算和测试工作都在这一环节。这个环节一 般都是人工完成的，靠人工提取特征是一种非常费力的方法，不能保证选取的质量，而且它的调节需要大量的时间。然而深度学习能自动地学习一些特征，不需要人参与特征的选取过程。

深度学习是一个多层次的学习，如图２所示，用较少的隐含层是不可能达到与 人脑类似的效果的。这需要多层的学习，逐层学习并把学习的知识传递给下一 层，通过这种方式，就可以实现对输入信息进行分级表达。深度学的实质就是通过建立、模拟人脑的分层结构，对外部输入的声音、图像、文本等数据进行从低级到高级的特征提取，从而能够解释外部数据。与传统学习结构相比，深 度学习更加强调模型结构的深度，通常含有多层的隐层节点，而且在深度学习中，特征学习至关重要，通过特征的逐层变换完成最后的预测和识别。

深度学习作为机器学习的一个分支，其学习方法可以分为监督学习和无监督学习。两种方法都具有其独特的学习模型：多层感知机 、卷积神经网络等属于监 督学习；深度置信网 、自动编码器 、去噪自动编码器 、稀疏编码等属于无监督学习。１、监督学习：卷积神经网络CNNs

20世纪60年代，Hubel和Wiesel通过对猫视觉皮层细胞的研究，提出了感受野(receptive field)的概 念。受此启发， Fukushima提出神经认知机 (neocognitron)可看作是CNNs卷积神经网络的第一个实现网络，也是感受野概念在人工神 经网络领域的首次应用。随后LeCun等人设计并采用基于误差梯度的算法训练了卷积神经网络，并且其在一些模式识别任务中展现出了相对于当时其它方法的领先性能。现代生理学关于视觉系统的理解也与CNNs中的图像处理过程相一致，这为CNNs在图像识别中的应用奠定了基础。CNNs是第一个真正成功地采用多层层次结构网络的具有鲁棒性的深度学习方法，通过研究数据在空间上的关联性，来减少训练参数的数量。目前来看，在图像识别领域，CNNs已经成为一种高效的识别方法。

CNNs是一个多层的神经网络，如图３所示，每层由多个二维平面组成，每个平面又由多个独立的神经元组成。上一层中的一组局部单元作为下一层邻近单元的输入，这种局部连接观点最早起源于感知器。外界输入的图像通过可训练的滤波器加偏置进行卷积，卷积后在Ｃ１层会产生３个特征映射图；然后特征映射图中每组像素分别进行求和加偏置，再通过Sigmoid函数得到Ｓ２层的特征映射图；这些映射图再通过滤波器得到 Ｃ３层；Ｃ３与 Ｓ２类似，再产生 Ｓ４；最后，这些像素值被光栅化，并且连接成向量输入到神经网络，从而便得到了输出。一般地，Ｃ 层为特征提取层，每个神经元的输入与前一层的局部感受野相连，并提取该局部特征，根据局部特征来确定它与其他特征空间的位置关系；Ｓ层是特征映射层，特征映射具有位移不变性，每个特征映射为一个平面，平面上所有神经元的权值是相等的，因而减少了网络自由参数的个数，降低了网络参数选择的复杂度。每一个特征提取层（Ｃ 层）都会跟着一个用于求局部平均及二次提取的计算层（Ｓ 层），这便构成了两次特征提取的结构，从而在对输入样本识别时，网络有很好的畸变容忍能力。对于每一个神经元，都定义了对应的接受域，其只接受从自己接受域传来的信号。多个映射层组合起来可以获得层之间的关系和空域上的信息，从而方便进行图像处理。

CNNs是人工神经网络的一种，其适应性强，善于挖掘数据局部特征。它的权值共享网络结构使之更类似于生物神经网络，降低了网络模型的复杂度，减少了权值的数量，使得CNNs在模式识别中的各个领域得到应用并取得了很好的结果。CNNs通过结合局部感知区域、共享权重、空间或时间上的降采样来充分利用数据本身包含的局部性等特征，优化网络结构，并且保证一定程度上的位移的不变性。由LeCun出的LeNet模型在应用到各种不同的图像识别任务时都取得了不错的效果，被认为是通用图像识别系统的代表之一。通过这些年的研究工作，CNNs的应用越来越多，如人脸检测 、文档分析 、语音检测 、车牌识别等 方面。2006年Kussul等人提出的采用排列编码技术的神经网络在人脸识别、手写数字识别和小物体识别等识别任务上都取得了与一些专用分类系统相当的性能表现；并且在2012年，研究人员把视频数据里连续的帧当作卷积神经网络的输入数据，这样就可以引入时间维度上的数据，从而识别人体的动作。

２、无监督学习：深度置信网DBNs

DBNs是目前研究和应用都比较广泛的深度学习结构，它由多个受限玻尔兹曼机 累加而成。RBM结构如图４ 所示，分为可视层即输入数据层（υ）和隐藏层（ｈ），每一层的节点之间没有连接，但层和层之间彼此互连。相比传统的sigmoid信念网络，RBM易于连接权值的学习。Hinton等人认 为，如果一个典 型的DBN有ｌ个隐含层，那么可以用联合概率分布来描述输入数据υ和隐含向量的关系：

其中，是条件概率分布。DBN学习的过程中，所要学习的就是联合概率分布，在机器学习的领域中，联合概率分布的意义就是对象的生成。

传统的BP算法在经典的网络结构中广泛应用，但对于深度学习的训练却遇到了 很多困难：第一，BP算法是监督学习，训练需要有标签的样本集，但实际能得到的数据都是无标签的；第二，ＢＰ算法在多隐层的学习结构中，学习过程较慢；第三，不适当的参数选择会导致局部最优解。为了获取生成性权值，预训练采用非监督贪婪逐层算法，非监督贪婪逐层训练算法被Hinton证明是有效的。