深度学习并不完美，它的局限性是什么？_雷竞技须安全稳定

【雷竞技须安全稳定网络频道】前言：当前，深度学习技术已经成为人工智能领域的一个研究热点。深度学习一方面通过大量的训练集来进行机器自动学习，降低了人工建模的成本，但在另外一方面，随着神经网络模型变得越来越复杂，训练集越来越大，它的局限性也逐渐显露出来。

为什么会出现深度学习？

20世纪80年代以来，机器学习在算法、模型、应用中都取得了显著成就，特别是浅层学习模型在计算机领域获得广泛应用。但是，随着信息化时代的到来，由于浅层学习模型是通过专家经验进行数据特征提取，而人类大脑学习则是全自动状态。因此，传统机器学习具有一定的局限性，这在很大程度上限制了人工智能技术的发展。

人类大脑神经中枢在进行信息处理时，信息特征具有逐层传递的特征。当信息由人类器官经过连续多层神经网络系统传递到大脑时，每个层次的神经元都会进行激发，以识别信息的特征。这种分层处理的机制启示了人工智能领域的研究者开发构造新一轮机器学习模型，进行分层表达的构想。因此，深度学习在这个背景下应运而生。

深度学习作为一种复杂的机器学习算法，在数据挖掘、自然语言处理、搜索技术、机器翻译、多媒体学习、语音、推荐和个性化技术，以及其它相关领域都取得了很多成果。深度学习使机器模仿视听和思考等人类的活动，解决了许多复杂的模式识别难题，推动了人工智能相关技术取得了很大进步。

2012年，在ImageNet图像识别大赛中，杰弗里·辛顿的学生IIya Sutskever和Alex Krizhevsky采用深度学习模型AlexNet打败了谷歌团队，一举夺冠。

同年6月，由斯坦福大学教授吴恩达(Andrew Ng)和大规模计算机系统世界顶尖计算机专家杰夫·迪恩(Jeff Dean)共同主导的Google Brain项目，采用1.6万个CPU核的并行计算平台训练深度神经网络的机器学习模型，在语音及图像识别等领域获得巨大成功。

2014年，Facebook基于深度学习技术的DeepFace项目，在人脸识别领域的准确率已达到97%以上，与人类识别的准确率相差无几。

2016年，谷歌公司基于深度学习开发的AlphaGo以大比分战胜了世界围棋高手李世石。此后几年，深度学习的相关算法在金融、医疗、教育、交通等等多个领域都取得了显著的成果。

深度学习目前存在哪些问题？

随着深度学习的不断进步以及数据处理能力的不断提升，各大研究机构及科技巨头相继对深度学习领域投入了大量的资金和精力，并取得了惊人的成就。然而，我们不能忽略的一个重要问题是，深度学习实际上仍然存在着局限性：

1、深度学习需要大量的训练数据

深度学习的性能，能否提升取决于数据集的大小，因此深度学习通常需要大量的数据作为支撑，如果不能进行大量有效的训练，往往会导致过拟合(过拟合是指深度学习时选择的模型所包含的参数过多，以至于出现这一模型对已知数据预测得很好，但对未知数据预测得很差的现象)现象的产生。

2、无法判断数据的正确性

深度学习可以在不理解数据的情况下模仿数据中的内容，它不会否定任何数据，不会发现数据中隐藏的偏见，这就可能会造成最终生成结果的不客观。

3、深度网络对图像的改变过于敏感

在人类看来，对图片进行局部调整可能并会不影响对图的判断。然而，深度网络不仅对标准对抗攻击敏感，而且对环境的变化也会敏感。下图显示了在一张丛林猴子的照片中PS上一把吉他的效果。这导致深度网络将猴子误认为人类，同时将吉他误认为鸟，大概是因为它认为人类比猴子更可能携带吉他，而鸟类比吉他更可能出现在附近的丛林中。

图：添加遮蔽体会导致深度网络失效。左：用摩托车进行遮挡后，猴子被识别为人类。中：用自行车进行遮挡后，猴子被识别为人类，同时丛林背景导致自行车把手被误认为是鸟。右：用吉他进行遮挡后，猴子被识别为人类，而丛林把吉他变成了鸟。

4、深度学习不能解释因果关系

深度学习能够发现事件之间的关联性，建立事件之间的映射关系，但是深度学习不能解释因果关系。简单来说，深度学习学到的是输入与输出特征间的复杂关系，而非因果性的表征。深度学习可以把人类当作整体，并学习到身高与词汇量的相关性，但并不能了解到长大与发展间的关系。也就是说，孩子随着长大会学到更多单词，但这并不代表学习更多单词会让孩子长大。