AI与机器人终极问题 机器人能否产生意识

　　近日，腾讯AI Lab联 合 自 然 科 研 （ Nature Research)共同举办世界首届“ Nature Conference – AI与机器人大会”，并在大会发布了 “ AI与机器人的42个大问题”报告，期望能找到通用人工智能和机器人探索之路上的人类将会遭遇的重要问题，激发对人、AI与机器人未来的长远思考。

　　1、AI的未来是什么？

　　近 年 来 取 得 成 功 的 AI技 术 大 都 基 于 深度学习和神经网络，当前热门研究方向依然是基于这些方法的改进以及与对抗学习或强化学习等其它思想的融合。在应用方面，这些技术已经进入了我们的日常生活，比如智能推荐、机器翻译、聊天机器人以及各种图像美化应用。

　　对于近期的未来，人们普遍相信深度学习还有进一步的发展空间，甚至有望彻底改变我们的生活方式，比如很多人都相信成功的自动驾驶技术将会彻底改变我们的生活出行。同时，由于深度学习在泛化能力以及可解释性方面的困难，也有人认为深度学习将难以在一些存在严格要求的领域发挥真正重要的价值，进一步的突破还需要探索更广泛的方法。下面列出了近期未来的一些主要的研究和应用方向：

　　高效和低成本模型 。尽管目前相当多一些模型已经能够在较低成本的硬件上有效运行，但要训练出足够实用的模型，当前的深度学习方法往往需要大规模数据集和成本高昂的计算硬件。如何设计高效的训练方法已经成为当前的一大重要研究主题。对于已经 诞 生 的 MobileNet、 ShuffleNet 和PeleeNet等一些模型，其实用性仍被认为还有所欠缺。高效和低成本模型仍会继续是AI领域的一个重要未来方向。

　　模型可解释性 。深度学习的模型可解释性已经成为了制约深度学习广泛应用的一大主要障碍，其也在法律和伦理方面引发了一些讨论和争议。可以预见这方面的技术探索和社会讨论还会继续。

　　深度神经网络与新思想融合 。深度学习与对抗学习和强化学习等思想的结合已经为 AI领域带来了很多重大突破 ， 比如从AlphaGo到 AlphaZero的一系列进展。另外，研究者也在继续从生物学、脑科学、逻辑学等领域汲取新的灵感，比如Hinton提 出 的 Capsule计划。这一趋势必然还会继续。

　　AI继续进入人类的日常生活。智能音箱进入家庭、人脸识别在守卫街道、机器翻译在建造巴别塔、自动驾驶汽车已经上路测试、数字助理正在学习处理越来越复杂的任务……AI应用还会继续进入更多曰常生活场景并继续改变我们的生活方式。

　　AI相关政策和法规会越来越多。随着AI越来越深刻地影响人类的生活，相关的法律法规和政策制度也在逐渐成形。其中既有推动AI技术发展的国家政策或规划，比如中国的《新一代人工智能发展规划》、 美国的《国家人工智能研究和发展战略规划》、 加拿大的《泛加拿大人工智能战略》;也有旨在规范智能应用和数字隐私保护的，比如欧盟的《通用数据保护条例》。 可以预见还会有更多相关政策随AI的进一步发展而诞生。

　　2、机器人的未来是什么？

　　机器人有很多不同的分类方式，每种分类方式也都有不同的类型，比如依照形态可分为人形机器人、四足机器人、轮式机器人等等，依照用途可分为民用机器人、工业机器人和军用机器人等。这些不同类型的机器人的发展虽然都有各自不同的侧重点，但总体而言机器人领域的主要发展方向包括：

　　更高的自动化程度 。近来机器人控制方面的一个研究重点是让机器人具备更强的自主行动能力以及更强的学习能力。目前这方面最受关注的发展方向之一是强 化学习 , 即让智能体在环境中进行探索来学习最大化奖励的策略。另外，使用深度神经网络训练的视觉与听觉等模型也正被集成到机器人身上，让它们可以具备更强的感知世界的能力。

　　机器人应用场景增多 。工业机器人已经在组装生产线上得到了广泛的应用，现在随着机器人智能水平的提升，它们也开始在更动态多变的日常生活环境中得到应用，比如迎宾、 送餐、 做饭、 导游和教学等等。医疗机器人也是非常重要的发展方向，它们有的能够动手术、有的可被吞入腹中，还有的甚至能作为义肢直接成为残障人士身体的一部分。农业也正迎来机器人的变革， 里业无人机、 无人收割机、 除草机器人、 放牧机器人等已经出现了地球上的一些田间地头或牧场。另外，为了应对全球范围内的蜜蜂灭绝危机，也有研究在探索打造可接替蜜蜂工作的昆虫机器人。

　　集群式机器人进一步发展 。集群式机器人是指大量机器人通过互相协作，从而组合为同一个系统的技术，这种技术具有更高的稳健性一即使部分机器人停止工作，其余的机器人也能够继续完成任务。但这样的机器人系统也面临着通信和协调方面的问题，目前大多数集群式机器人还主要使用中心控制单元来进行调控（比如在2018年平昌冬奥会上亮相的1218架英特尔Shooting Star 无人机群) ， 但也有研究者在探索无中心的分布式控制方法。

　　3、通用人工智能(AGI)有可能实现吗？

　　通用人工智能(AGI)是指有能力理解和学习人类所能做到的任何智力任务的机器智能。全面比肩甚至超越人类的AGI一直以来都是AI领域的一大终极目标，这一目标也被称为“ AI奇点”。未来学家雷 • 库 玆韦尔给出了他认为的AI奇点的到达时间： 2045年。

　　但也有很多人对此表示怀疑，甚至有相当多一些人认为根本不可能实现在所有方面都超越人类的单个 AI系统。比如2018年掀起过轩然大波的“ AI寒冬论” ，作 者 Filip Piekniewski就在文中提到：“我们让计算机做一些看似只有受过教育的成人才能做的事，但后来才意识到这些计算机甚至无法处理婴儿或动物都能解决的事情。如果我们继续陷入同样的陷阱， AI (尤其是通用人工智能)将仍然是一个白日梦。”

　　也有相当多一些学者认为虽然现在深度学习成果颇丰，但却不是通向通用人工智 能 的 途 径 一 至 少 单 靠 深 度 学 习 是 不可能实现的。比如纽约大学心理学教授Gary Marcus就对深度学习多次提出逃评意见， 其中包括深度学习的数据依赖性、适应变化的能力以及整合先验知识的能力等。因此，通用人工智能目标的实现可能还需要在神经科学、认知科学、进化方法等多个方向的努力。

　　通用人工智能究竟能否实现仍是一个悬而未决的问题， 我们甚至还不清楚通用人工智能究竟必需怎样的组件或结构。

　　4、 AI能否具有自我意识？

　　意识（ consciousness)到目前为止仍还是一个没有得到公认的明确定义的名词，毕竟我们对自身意识产生的原因还知之甚少，也因而就更难以回答机器能否具有意识的问题了。

　　2017年的一篇Science论文将意识戈划分成了三个层次：

　　C0：这一层的意识是指人脑中无意识的运算，比如人脸和语音识别。

　　C1 ： 这一层的意识涉及到根据信息、思考和可能性进行决策的能力。

　　C2 ：这一层的意识则涉及到所谓的“元认知(metacognition)”，即认识到自我的能力。自我意识能帮助人们了解自己知道什么以及不知道什么，进而导致好奇心。

　　照这样的划分方式，目前的AI模型已经能在C0层面上取得比肩甚至超越人类的表现了，并且在C1层面上也进展颇丰。该论文也认为目前已有一些AI实现了 C2层面意识的_些方面，比如一些模型能够监控自己学习解决问题的过程。

　　但意识究竟将如何产生？我们目前还没有答案，下面简单梳理了一些理论上的看法：

　　意识源自特定的神经结构 。有的研究者认为大脑的特定结构是意识的来源，比如2016年的一项研究找到了两个对意识清醒非常重要的大脑区域，这两个区域都包含一种被称为“von Economo神经元”的脑细胞。如果特定的神经结构确实能够产生意识，那么具有类似结构的AI也可能具备意识。

　　意识源自系统与外部的交互过程 。有的研究者则认为意识涌现于复杂系统与外部的交互过程。比如物理学家Max Tegmark认 为 意 识 是 在 被 以 某 种 复 杂方式处理时信息的感觉方式。 神经科学家 Giulio Tononi推进了这一思路 : 信息处理系统若要有意识，它的信息必须被整合为一个统一的整体。该思想融入了一 个复杂的数学理论，即整合信息理论(integrated information theory) 〇如果意识确实源自系统与外部的交互过程，那么随着AI在 日 常生活中的进一步应用，我们有望看到这方面的一些进展。

　　意识源自复杂度 。 也有研究者认为一旦一个单一的有序动态系统达到一定的复杂度，意识就会自然而然地涌现。随着现今AI系统的复杂度提升，这一理论或将逐步得到验证。

　　意识的产生机制已经非常复杂，自我意识只会更加复杂，在短期内或许无法找到确定的答案 。