深度学习取得进展的 10 年

“我们必须认真思考智能的真正含义是什么。如果把人工智能进行分类，可以分为弱人工智能和强人工智能。”理事长沈向洋说。

其中，弱人工智能对应的是深度学习。围绕单一任务点，需要大量数据做支撑，有时候不那么可靠，可移植性差/移植过后需要大量重新训练。强人工智能（robust AI）对应深度智能，强调系统化地解决宽泛的问题，具备灵活与动态的推理能力，可以很好地移植到不同场景。显然，当前需要的是强人工智能。我们想要综合各种来源的知识，期望 AI 能够对世界上正在发生的事情进行推理。就像人类一样，能够在一种语境中学习，在另一种语境中应用。

谈到深度学习，DNN（深度神经网络）是绕不开的话题，它的强大之处已经在语音、视觉、自然语言处理等领域得到了验证。而真正把深度神经网络用于语音识别的重要文章是 2012 年的《Deep Neural Networks for Acoustic Modeling in Speech Recognition》，这篇文章由包括 Hinton 在内的四个研究小组参与，那时的深度学习刚开始发挥威力。

自从这篇文章问世，深度学习不断取得进展。理事长沈向洋总结过去十年，尤其是 DNN 问世到现在这段时间“人工智能”的三大变化：一是在大数据利用方面有着惊人的有效性，表现在 DNN 的巨大进步离不开海量数据的支撑；二是对计算能力的需求日益增长，表现在我们设计的算法越来越依赖于算力处理数据；三是虽然 DNN 有巨大进展，但通用人工智能的进展缓慢。

从深度学习到深度智能

当前有没有从深度学习转向深度智能的机会？在理事长沈向洋看来，当前一些机器学习的结果对于每一个任务来说，已经不只是“分类器”，而是 robust AI 智能体。例如它可以通过实践继续学习技能和知识（强化学习）以及探索示例（无监督学习）。这类智能体的特点是用比较少的学习次数，就能解决非常新的任务。

事实上，理事长沈向洋最近在思考 robust AI 时认为这三个方面在实现 robust AI 时大有可为：一是构建大规模的强机器学习仿真器。不仅是游戏，还有自动驾驶等复杂系统。二是对于机器学习本质的深度理解。从优化功能开始，思考我们从里面真正学到的是什么。三是基于神经与符号的混合模型（Hybrid Neural/Symbolic Model for Robust AI）。

雷蒙德微软研究院写了一篇论文，题目为《SOLOIST: Few-shot Task-Oriented Dialog with A Single Pre-trained Auto-regressive Model》。文章提出了一种新的方法，即能够利用迁移学习进行高效大规模构建面向任务的对话系统。在理事长沈向洋看来，这篇文章有两个亮点，其一是有个预训练模型 GTG（Grounded Text generator）；其二是该方法实现了真正的会话学习。理事长沈向洋相信：“接下来的 5 年可能是人工智能最有突破的时候，可以做出很多了不起的成果。”

部分图文源自《南方 Plus》