【WRC 大咖观点】高峰对话《人机共融未来时代》

2021世界机器人大会第二天线下主论坛——“未来峰会”群星璀璨，产、学、研各领域大咖齐聚首，共话巅峰，为机器人未来发展领航。

峰会现场，高峰对话环节，中国科学院自动化研究所模式识别国家重点实验室副主任陶建华先生主持，清华大学教授史元春、北京理工大学教授王涌天、国防科技大学教授周宗潭、中国航天科技集团公司五院研究员胡成威上台发言，对话主题为《人机共融未来时代》。以下为对话内容全文整理。

陶建华：非常荣幸有机会主持今天的高峰论坛，应该说在这次人机共融的未来时代，我们正好是随着未来机器智能的发展非常的快，人机共融的主题现在也是变成了非常火热的主题，刚才刘老师已经介绍了一下，几位嘉宾是来自各个行业的不同背景：史元春教授是清华大学从事人机交互的相关工作，也是业内非常有名，还是国家的长江学者。王涌天老师在北京理工大学从事和人机交互相关的研究，包括穿戴式光学成像、立体成像方面都做得非常出色，也是我国杰出青年基金获得者。周宗潭老师是国防科技大学从事控制、脑机交互和视觉方面非常有名的学者。胡成威老师是在航天五院从事人机交互方面获得过国家发明奖。几位教授都是来自不同的领域，人机共融的时代，应该说更面向未来，这也是大家对它的美好憧憬，其实我国在自然科学基金、科技部下一代人工智能发展规划，工业4.0规划，包括欧美和日本针对未来的很多规划中都可以看到，人和机器如何更有效地发展、如何有效地协作和共融，可以看到很多这方面的影子。今天的嘉宾都是来自人和机器相互协作的不同背景，作为对话角度来说，希望每位嘉宾先从自己工作的领域来看，未来的人机共融可能会是什么样的？主要的挑战可能会是什么样的？

史元春：今天论坛的主题非常有启发性，也是涉及不同观察和角度会有不同体验的题目，近二十年我的主要研究就是人机交互，实际上对这个方向非常有影响的学者就是六十年代初为这个领域写过一篇影响力很大的文章，那篇文章的题目叫做《人机共生》。六十年代的时候，也就是现在的六十年前，那个时候还是当时的未来，现在我们已经进入了人机共生的环境，当然也有它的阶段性。人机交互英文叫做HCI，H和C是Human和Computer，I可以有三个解读：一个是Interface，就是人机之间的接口怎样更适合人，另一个是和近些年迅猛发展的智能技术关联很紧，叫做Interaction，更多的是要完成人利用机器完成的任务，所以对整个人所处的任务有一个比较有上下文、有情境的理解，然后才能更迅速地达成人完成任务的目的，I还可以是Intelligence，就是人的智能和机器的智能如何协作，共同解决更复杂的问题，可能更加面向未来一点。人机交互本身也是学科交叉的，共融和共生的时代，很多新的挑战都不是一些增量性的问题，学科交叉创新更需要很坚实的理论基础支撑，未来人机共生给我们的研究空间、发展空间还是非常大的。

王涌天：今天的主题叫做人机共融，无论是人机共融还是人机共存，或者是史老师说的人机共生，反正确实是一个今后的发展趋势。最重要的原因就是这种趋势可以大幅度提高我们的生产力，也是今后生产力发展的一个重要途径。今后的人机共存、共生或者共融可能是随着人工智能的进一步发展，所以今后的人机共生或者交互的过程中，可能人会成为双方之间的瓶颈，而不是机器。随着现在高性能计算、人工智能和互联网的进一步发展，人的反应速度、知识的宽度和广度今后都没有办法和机器人相比，人倒成了人机交互的一个瓶颈。我们几位都是做人机交互的，所以人机交互就非常重要，特别是现在正在发展的增强现实，我们觉得增强现实就是帮助人更好地认识这个世界，或者更好地跟今后的智能机器人进行交互，增强现实可能是今后终极的人机交互界面或者人机交互手段，这是今后重要的发展趋势。

陶建华：现在大家对脑机交互寄予很高的愿景和希望，希望周老师能够在这方面多跟大家分享一些经验。 

周宗潭：脑机交互最大的权威性就是今天正在举办的脑机接口竞赛，当然，我算是做脑机接口方向的，我认为脑机接口本身算是一个很典型的人机共融的方向。二十年前我就在做人工神经网络和机器人，也有开发神经系统，比如这二十年主要是做脑机接口，现在人工智能比较热，所以脑机接口和人工智能都做一点。关于脑机接口，我认为就是刚才说的人机功能的一种比较典型的，也算是比较高的形式，因为人之所以为人就是因为有智力和价值判断，这些能力主要是脑的能力，因为人在其它的方面本质上还差不多，但人脑确实是一个非常独特的特有的功能。

我的理解是人机共融一定程度上就是脑和机的共融，脑机接口是实现人机共融的方式。目前脑机接口当然也有有损的，马斯克进入这个方向以后也有一些无损的，正常人不需要通过做手术植入电极就可以实现人机之间非常默契的通讯。当然，以前都是做残疾人和机器的通讯，主要是为残疾人提供一种无可奈何的手段。可以说脑机接口发展了很多年，机器人大会脑机接口竞赛也是这样，反正现在我们已经跨入非切入的脑机接口，响应时间超过1秒钟就已经跟不上时代了，大家觉得1秒钟好像不算快，但对脑机接口来说就是一个很大的突破。

当然，脑机接口未来也可以继续发展，我们希望无损脑机接口不仅让残疾人，普通人也可以所想即所得，就是共融稍微高级的阶段，脑机接口竞赛现在正在进行中，如果有兴趣的话可以去看一看、助助威。

陶建华：我们现在有些人也注意到了，医疗机器人中的达芬奇机器人可以通过机器的方式控制手术，就是人操作机器来做手术，最近又有一些报道，美国也做类似阿凡达一样的，能够把机器人的视觉传递到后面，人在那里操纵前面机器人的行为和动作，不过也有很多往前进很大的一步，希望胡老师在这方面分享一些能够获得的憧憬。

胡成威：今年4月份我国空间站第一个核心舱发射成功，拉开了我国空间站建设和组装的序幕，特别是今年7月4日和8月20日，我国在轨的三名航天员非常完美地完成了两次出舱任务，很大程度上就是有我国空间站机械臂的支持，在此支持下完成两次出舱任务，这个过程中比较好地诠释了空间领域人机交互整个全流程，如果空间方面就是人机共存、人机交互、人机协同、人机共融，按照简单的字面理解，人机共存、人机交互、人机协同、人机共融从技术上来说还是有逐渐更高级的发展过程。人机共融相当于不是一个从属的关系，相当于一个相对平等的关系，不是处于支配和不支配的状态，篮球这次航天员的出舱任务比较好地诠释了人机共存、人机交互、人机协同的关系。讲到出舱任务的话，按照这个举例还是比较明确一点，就是天地之间相当于地面的人员控制天上的机械臂，相当于机械臂是空间机器人的典型代表，最起码可以理解为天地人机交互的过程。在轨航天员和机械臂之间更好地体现了人机协同的过程，就是执行任务的过程中机械臂要干什么、航天员要干什么，他们之间是有一个紧密的、逻辑性非常强的协同关系，这个过程中应该是对人机存留、人机交互和人机协同整个方面进行了比较好的验证，现在的任务相对后续出舱任务是比较简单的，后续还有更加复杂的任务进行验证。

关于后续的发展，空间领域人机应该就是从人和机两方面发展：人的角度就是空间在轨指的就是航天员，航天员技术主要是航天服本身的技术，现在是第二代，后续肯定还有第三代和第四代，再就是地面的人机之间交互接口技术。机的角度后续应该是快速发展的阶段，刚才也有几位主讲嘉宾介绍空间机器人方面的情况，可以看到机器人的发展后续还会出现跨越式的发展，目前是单臂机械臂的发展，后面肯定要上三臂、双臂、仿人形发展，在轨人机交互就是单人单臂、多人多臂、一人多臂的多人情况进行发展。要是真正实现人机共融时代，空间上还需要很长的路要走，按照我国的规划，2030年才可以实现地面机器人自主智能的控制，空间技术在地面技术上还要滞后几年，应该是相对中长期的目标。

陶建华：每个嘉宾都从自己的观点分析了未来人机共融的憧憬，包括对现有技术的发展也进行了一定的描述，我们下面是不是增加一点难度？每个人或者大部分人都提到了人机共融和人机共生，现在还有很多人从事和人机交互、脑机交互相关的概念和工作，外面还有一些概念，比如有人提到人机协同、人机混合，围绕未来的人和机器之间的关系也有很多不同的概念，人机协同、人机混合和人机共融有没有存在什么关系或者区别？我们围绕未来的人机共融发展，现在有一个美好的憧憬，但现在可能面临什么瓶颈？未来十年人机共融是以人为主还是以机器为主？

史元春：其实这个话题包括好几个问题，几个术语之间一定是有联系的，否则我们不会把它们放在一起，然后也会有区别，今天这个环境我们把区别都讲一讲，并且达成共识，我觉得还比较难，可能不把重点放在这里。因为共生的提法是六十年前提的，但我觉得这是一个很长远的目标，共生就表示可以协作、可以互相理解、可以共同完成任务，并且还可以彼此促进。我们都知道共生是从生态和生物学的角度提的词，机本来就不是一个生物，但还可以和人共生，所以含义还是可以解读得更深刻一点、更长远一点。混合和今天的共融是今天要解决的很近的未来的事情，而从我这些年的工作以及目前的工作任务来看，比较难的是王老师刚才提到的，就是对人的理解，这样的协同和共生的环境中真正让机器理解人，能够和人配合好。按照我们做人机交互的角度可能也是这样，就是把对人的行为意图意义的理解变成可计算的算法和支撑的技术，第一还是非常必要，第二还是很困难，这种困难是因为实际上我们自己对这个人是理解最少的，今天的计算机看似很高明，但这是非常确定性的结构和工作的原理，但是人在这个场景下，我们的动作和要完成的任务中间到底表达了什么？需要什么机器能够理解，然后配合好我们共同完成任务，完成任务方式的过程中可以互相学习、互相启发，彼此对这个任务的理解能够达到一个新的阶段，中间可能遇到很多问题，但更难的还是在共融过程中的各个环节对人的行为意图的理解、建议以及视野。

陶建华：就是以人为中心。

史元春：这个词可以解读的内容很多，但能够变成计算模型，不管是机器人还是智能环境都需要在这个方面有更多的关注，“十三五”期间有很多人机交互的项目，也有很大的发展，最近二十年最集中的就是这个方向的支撑，以后“十四五”和面向人机共融共生，可能这个方面的研究应该更加强。

王涌天：人机共生共融最重要的目的还是提高生产力，而且确实这是一个非常有效的途径。机器人现在已经帮助人类在做很多的事情，效果也是非常明显的。下一步更重要的就是人机共融，就是如何利用我们的机器提高人的能力，否则如果人的能力不迅速提高的话，可能会被机器淘汰。我们非常期待脑机接口，可能是最终提高人的能力的途径，今后希望植入一个芯片，可能这个还有一段时间，甚至连记忆都不用了，只要是搜索一下就可以，我想这个还是需要相当长的时间。近期能够用计算机提高人的能力的方法还是刚才我说的增强现实，就是戴一个眼镜，如果能够随时提示你各种各样你所需要的知识，这个是近期用机器提高人的能力的最可行的方法，其中我们也希望用无创的脑机接口，能够做到1秒钟就非常好了，过去就是反对太慢，要是能够做到1秒钟的脑机接口，而且不需要太多的电极，人机交互、人机接口就会做得非常好。

陶建华：刚才我其实提了三个问题，我们之所以把人机共融说是未来时代，现在必然还存在着瓶颈，这些瓶颈可能是存在于哪些地方？突破的过程中难度非常大，围绕未来的人机共融时代，如果有可能的话，周老师和胡老师也回应一下这两个问题。

周宗潭：现在我觉得人机共融是必须要做的，比如现在就急需一个智能机器帮助我们记住问题，比如谈到当前的人工智能，因为人工智能现在发展得很快，人机混合在我的概念中就是人机混合智能。人机混合当然有各种不同新的形式，我比较喜欢看小说，最早看的小说是《神经漫游者》，后来就出现了“钢铁侠”这种电影，也是比较深层次的人机混合，但不完全是智能的混合。人工智能现在发展得很好，但客观来讲，人工智能和人中间是存在互补性和合作的可能性，现在的人工智能虽然可以解决很复杂的问题，甚至能力比人强很多，但总体上不能真正理解这个问题，希望有一个机器记住陶老师提的问题，但机器显然不能理解这个问题，可能涉及到复杂的计算，所以就是要看对问题的理解。

现在的人工智能、人机共融还是为了解决各种复杂的问题，机器是能够解决问题，但是不能真正意义上理解问题，如果人不能理解问题，显然更高层面上不可能解决这个问题，所以就理解来看，人和机各有各的优点和缺点，最后就会形成互补性。刚才史老师也提到HCI，虽然处理每个问题的能力不是特别强，但能够处理各种问题，机器特别强，但通常只能是做单一的，Alpha-Go就会下棋，不会理解感情，那么通用性和专用性方面，人和机各自都有各自的特点，顶级的科学家也认为，人的缺点可以通过生物改造，比如《神经漫游者》这样的科幻，现在需要发挥各自的优点进行。

当然，这是充分条件，还有一个必要条件，就是人机必须混合，按照现在的哲学观点，人的价值判断有道德伦理判断甚至审美判断，目前机器功能再强，计算速度再快，应该还没有形成这种能力，这是人特有的能力，也是机器不能替代的，所以从必要性的观点来说，真正涉及到这些问题的领域，人和机器就必须混合性来做，可以是人机协作，也可以是人机增强，人可以增强机器，机器也可以增强人，就是从人机共融的概念来看可以提出人机混合智能的观点，一定程度上也是克服当前机器智能没有发展到完全可以替代人脑的地步，这些和脑机接口没有太大的关系。

胡成威：人机共融就是人和机必须处于一个相对平等的地位，不可能完全平等，但要尽可能处于平等。要想实现人机共融，最大的短板就是机，因为机器要赋予人类智能或者自主的程度，这些方面一定要提高。那么从工程研制的角度，可能最大的短板就是机器人，顶端的技术树要往下层层分解，有点类似我国的发动机，发展到最后最底层的技术，实际上短板还是归结于我国的基础科学就是材料、工艺，如果再具体一点就是传感器，确实都是一些短板，包括比较高端的算法。人机至今要实现好的协同或者真正的共融，脑科学的研究怎么在机器人身上应用，肯定也是后续需要解决的重要问题。机器人肯定要理解人的意图，一个眼神、一个动作就知道要干什么，否则就是现在的方式，人告诉机器人什么指令，完全按照这个指令执行，执行好了就行了，不能形成真正共融的模式。

关于角色的问题，航天员出舱的过程中机器人起到的是搬运转移的作用，具体工作是航天员来完成的，后面的趋势就是要把人的操作任务解放出来，完全靠机器人完成，现在很多技术都是可以实现的，但是智能和精细化发展方面需要一步一个脚印往前发展，航天员就是变成做决策和现场的总指挥，进行现场故障的处置和紧急情况的应对，完全是指挥者和决策者的角色，其它所有操作复杂工作时间比较长的必须由机器人来替代，最终共融时代还是在空间领域有很长的路要走，除非机器人真正具备人脑能力，能够分析出人类伙伴的意图是什么，怎么自主完成任务，这样才能在空间领域进一步发展。

陶建华：如果单从字面上来看，共融和共生带有一点社会属性，协同带有一种工作的属性，混合带有一种组织的属性，所以这几个词汇可能有些属性，会有一些相互交叉和包容的地方，但整个属性是不是会有一些差异？既然提到社会属性，人机共融真的是人和机器之间高度协作，甚至是在功能上会发生一些相互替代，那么必然涉及到一些新的文化、法律和伦理的问题，可能会给我们带来很多的挑战，机器出了问题到底归谁？人的不当使用还是归原来的设备制造厂商？这个问题有没有解？或者是留着大家慢慢探讨？

史元春：我们讨论的几个词的确涉及到的很多，混合是一种组织形式，看起来是混合的，共融相当于社会多了一类社会成员，跟我们一起完成社会生活和工作中的很多任务，的确跟道德、法律的社会属性问题，其实已经不是一个新的词。我记得我最早参与这个论坛是2017年，谈到伦理和道德方面的问题，并且很多工业组织、国际组织、学术组织中都有相关的分支论坛和讨论。今天可能这是一个不能回避的方面，不是说我们是不是能遇到，而是一定会遇到，这些问题的研究一定是需要的。今天来到这里肯定有些人已经是乘某种程度上的自动驾驶的车来的，那个上面有LN，就像不同的阶段，决定了伦理道德、智能水平以及配合关系，其实都反映得出来。整体社会上有那么多方面，包括人机的混合，涉及到的问题一定是具体的，今天可以成为一定的社会功能的人机混合方式的出现就会促成相关的伦理和法律问题的落实，不同的方面都是在逐渐展开。这些不光是涉及到技术的研究者，比如在计算机学会中，这个委员会还有来自于管理学、心理学方面的专家，这个部分一定也是需要关心的，并且从我个人的观点，除了这种大纲之外，能够落实的还都是某个具体的人机混合的任务领域。

陶建华：智能驾驶汽车的问题经常被问及，为了规避前面出现的行人，可能会导致乘车的人的伤亡，但如果要保护乘车的人可能就会损害前面那个行人，这个时候应该做出何种抉择才是可以的？

王涌天：机器人的广泛应用肯定会牵涉到法律问题和伦理问题，确实是应该保护使用者还是保护第三方，哪个是优先问题，这些问题恐怕确实是Open Question，以后需要逐渐解决，实际上不仅仅是这样，以后无论是有形机器人还是无形机器人，我们认为机器人都是有形的，其实不一定，现在已经有了Metaverse元宇宙，以后会有一些无形机器人入侵到我们的家庭，成为我们的生活伴侣，包括老人的陪护者、小孩的玩伴等等，这些东西今后的法律问题、伦理问题都是我们需要研究的问题。

陶建华：还有一个问题可能相对容易一点，比如我身上配了一个智能假肢，智能假肢伤害了另外一个人，这个时候可能是因为检测的结果是智能假肢和人的神经信号的配合没有达到很完备，一种可能是人使用的不当，一种可能是假肢出现了故障，这个问题怎么界定？

周宗潭：我不想回答选择题，我只想回答简答题。关于伦理和道德，特别是人机融合，现在机器人也比较多，这些问题本质上都是属于伦理、道德、责任，实际上就是追责问题，我还是同意刚才那位专家的观点，这是一个开放的问题，等于是给了一个模糊的回答。其实在没有人机共融的时代，比如古代仍然存在这个问题，迄今为止也没有解决，比如囚徒困境、电车困境，最后到底算是谁的责任，应不应该做出这个选择，实际上也是一个两难的问题。这个问题不是因为出现人机共融时代才出现的，而是在人机共融前时代也出现了，当时也没有解决，至少没有完全解决，现在还是保持一个开放的态度。涉及到责任的问题，刚才提到伦理，因为机械不存在伦理或者责任主体的问题，机器本身不具有自主意识，我是明确认为责任主体只能是人，不能是机器。

我看过阿奇莫夫科幻小说《银河帝国》，提出机器人三大准则，那个可以作为将来我们对人机关系问题的一个基本依据。至于如果假肢伤害了人到底算谁的责任，刚好在阿奇莫夫《银河帝国》机器人的部分就讲到类似假肢，相当于一个助理工具，机器人本身已经被决定了不能伤害人，所以有人就设计了一个很巧妙的陷阱让机器人伤害人，在这种情况下我认为人仍然是责任的主体，不能把假肢当作责任主体。

陶建华：再给胡老师这边增加一点难度，刚才周老师提到未来人机共融必然会存在一些社会属性，您刚才提到机器人和人之间的三大准则，虽然提出的时候是带有一点科幻的性质，但还是有很多人觉得很有道理。这里有一个现实就是认为机器是服务于人类，跟人不是一个平等的地位，就是基于这样的假设，未来机器可能会和人一样形成平等的主体、构成社会的组成吗？

胡成威：要是机器人任其发展，希望像人类一样具有独立思考和智慧的能力，如果是做了一些破坏性或者违法的事情，可能要为它单独制定法律层面的东西，人类法律也同样适用于它，它自己会像人一样受到一些惩戒。

陶建华：那它可以得到一些福利吗？人也有福利啊啊。

胡成威：我觉得是可以的，既然人类希望它达到像人一样，或者跟人相对平等的地位，但机器人还是人来发明的，就是人创造出来的，研制的过程中确实是同步需要考虑，怎样制约它的发展和能力。就像孙悟空的紧箍咒，这个东西可能更难，到了一定程度形成了一些什么破坏性的规则，那么就应该是头疼、动作僵硬，执行不下去，相当于内在约束的范围，约束不了，触发外在行为的话就需要外在惩戒。如果真的是机器人具有人的智能，这个行为存在不可控的话，绝对是不敢让它在天上应用的，所以只有我们非常有自信，觉得能够想到的所有行为方式，一定是按照我们确定的方式，或者思维逻辑，最后产生的结果也是确定的行为方式，这个东西才能搬到天上应用。

陶建华：很多都是原来我们想像的完全不可能的事情，未来很多事情都很难预料，好在机器人真的有可能走到这一天也是有很漫长的时间，因为我们的技术在可预见的将来，逼近人类能力方面其实还是比较难做到的，至少从技术发展的角度还有相当长的一段路要走，所以我们有足够的时间思考和应对这些问题。最后希望每位嘉宾用一句话总结一下，我们对未来的人机共融应该注重的是什么地方？

胡成威：希望在空间领域真正实现人机共融，补充一句的话就是人和机之间的关系，目前是辅助、协同、替代、扩展，辅助和协同已经实现，希望朝着扩展和替代方向进一步努力。

周宗潭：通过发展脑机接口进一步进行脑机融合，实现人机的真正共融。

王涌天：人机共融主要是机器帮助人做事，提高生产力，下一步必然是机器提高人自身的能力。

史元春：当下应该更多地关注如何让机器对人的行为意图有一个准确的理解，可以及时、准确和自然地帮助人完成任务，达到一个更和谐的状态。

陶建华：今天的观点带有很多对未来的憧憬和分析，感谢各位嘉宾的精彩分享。