【WRC 大咖观点】院士对话《未来机器人：目标、路径和挑战》

编者按：

2022世界机器人大会主论坛群星璀璨，产、学、研各领域大咖齐聚首，共话巅峰，为机器人未来发展领航。

峰会现场，中国科学院院士、清华大学人工智能研究院名誉院长张钹，中国工程院院士、中科院沈阳自动化研究所机器人技术国家工程研究中心主任王天然，中国科学院院士、中国科学院自动化研究所研究员乔红，围绕《未来机器人：目标、路径和挑战》的主题进行了对话。以下为对话内容的整理。

龚克：大家上午好，非常荣幸今天请到三位院士，我旁边这位张钹老师，是清华大学我们非常尊敬的一位老师，长期在智能领域工作，超过50年了，是我们国家最早从事智能工作的先驱者之一。那边的王天然院士是我们机器人领域的领先科学专家，再一位乔红院士，相对这两位是后起之秀，但在智能机器人前沿做出了很多重要成果。

今天我们院士对话在领航峰会是一个大的环节，说到领航我们要有方向有路径，对风险做预判。其实刚才辛部长讲到了最早的机器人希腊机器人、中国的指南车这些，这是古代的设备。从先来讲，捷克Capek设想的那个罗素姆万能机器人后来有了电影等，已经一百多年了。两年前，我们在世界工程理事会上捷克的工程师就说，他们非常骄傲，他们机器人有一百年的历史了，后来我说还有比你们更早的。但是不管怎么说，这个已经有100年历史，从阿西莫夫提出来机器人“三定律”已经70年了，各位院士都经历了这个发展过程，无论是工业机器人、服务机器人，各种机器人都经历了不同的发展过程。先请各位结合自己的工作经历作一个介绍，实际上也是对中国机器人发展作一个回顾，从张老师说起，您资格最老。

张钹：我是1978年在清华大学建立了一个人工智能、智能控制的调研组，从1978年开始我们从事人工智能这方面的研究和教学，但是那个时候机器人跟人工智能还没有完全分家，所以我们自然会做机器人工作，所以在1980年到1982年我到美国伊利诺斯香槟分校去访问的时候，我做的第一件事是跟机器人有关的，就是机器人运动规划，1984年发表第一篇文章实际讲到机器人的运动规划，1985年回国以后我首先在清华大学建立了智能机器人实验室，那时候我在这里主要做视觉方面的工作。这个实验室成立不久，国家刚好建立863计划，我那时候就参加了智能机器人主题专家组，从1986到1994年参加了三届。在这个专家组里，我主要还是负责人工智能方面的工作。

到了1991年，我们跟国安科技大还有其他一些大学，联合承担国家一个任务，移动机器人研制任务，这个移动机器人就是我们现在大家非常熟悉的自动驾驶车，这个工作一直延续到今天，我们还继续在做。我在这里主要做的工作是智能控制、视觉、机器人规划这方面。所以从严格意义上讲，他们两位才是真正的机器人专家，我只是在机器人这个领域里主要做了一个人工智能方面工作，所以更加偏重智能机器人研究工作，我简单介绍一下我做的工作。

龚克：谢谢张老师，从1978年说起，讲到了80年代非常重要的，1986年我们国家开始的863计划，发展高技术、实现产业化，邓小平亲自推动这个计划，刚才张老师讲，从1986年就有一个智能机器人主题。王老师也是这里面一个重要人物，我们中国很早就起步了，自动驾驶到今天的发展，我们也走过了很多路程。王老师刚才张老师说你是真正搞机器人，你再给我们一些介绍。

王天然：我一直工作在沈阳自动化研究所，也是比较早，我是在我们老所长蒋新松院士的领导下开展机器人工作的，你一查我课题清单，还有从张老师那申请的智能体系结构，但我的主要工作是工业机器人、工业控制系统，后来想办法变成产品产业化，后来在我和同事的共同努力下，建立了自己的以工业机器人为主的企业，成为中国第一个上市的公司。我们的研究所有机器人国家重点实验室和机器人技术国家研究中心，中心主任现在还是我在担当，我的经历没有张老师那么丰富，我就比较简单。

龚克：你这也够丰富，因为我们刚才谈到863，高技术产业成立的一个企业就是新松，是用蒋新松院士命名的一个公司，昨天晚上看到新闻应该看到这个公司，昨天特别介绍习近平总书记到辽宁视察工作到了一个公司，看了这个公司产品，和公司员工讲了很长一段话，刚才王老师谈到的，这是我们国家现在机器人领域的一个领军企业。我们现在转到乔红院士，相对于他们两位比较年轻，但是成果也非常多，所以乔红院士你自己讲讲。

乔红：刚才两位院士特别领军，做特别精彩的工作，是典型性院士。我也受到他们俩特别多帮助和引导，张院士、王院士在机器人方面都对我有特别深刻的影响。我自己最开始是在西安交大研究机器人机械这块，后来出国回国。我在回国前，刚好人工智能非常热，我原来学机器人这部分，我觉得模式识别这个特别热，可以成为机器人眼睛，所以我就开始对模式识别感兴趣，做了一些交叉的工作。再往前走的时候，觉得人和机有这么多差别，为什么我们做的机器人一般是笛卡尔坐标的，人的话就是活生生的人，那么他们怎么能够成为朋友，所以我对神经感兴趣了，国家给我们很多自由做这个研究，使我能够有机会，又在机器人领域对其他部分产生好奇做一些贡献。

我回国之后，刚好给年轻学者讲，我回国之后反而在国际舞台更加融入了，原来我在国外没有这样，但是我回国之后在HV机器人领域做了很多工作，是现在新成立全国重点实验室的主任，我们重点实验室名字，多模态人工智能系统，就是想把人工智能和机器人结合起来，谢谢大家。

龚克：乔老师刚才说，你是哪年回国的？

乔红：2004年底。

龚克：回国进入机器学习研究，然后是新进院士。刚才各位都对工作经历进行了一个自我介绍，实际上也是对我们中国机器人发展的一个回顾。但是我们今天是一个领航峰会，我们还不能光回顾，我们得往前看。说领航我们就要有目标，我请教各位你们都做机器人，而且你们三个人都谈到了智能机器人，那机器人的发展前景到底怎么样？从你们各自的角度看，你们觉得你们做机器人，你们心目中机器人的发展目标是什么？我们到哪儿去？特别是最近机器人，张老师讲了，这不是新词，1986年这个主题就成立了，而且非常热，出现了很多会要，到底什么是智能，什么是机器人，他们之间关系怎么样？是不是人工智能，刚才张老师提到一个概念，待会可以讲讲，智能和机器人那时候没有分家，现在是怎么个分家法？中间是什么关系？向哪儿去？是不是需要重新融合起来？等等这些问题，也请各位来讲一讲。

我想我们将顺序倒过来，先请乔老师讲。

乔红：我本来想听两位院士给我一个指导，我就先讲。我的讲法不一定对，抛砖引玉。

第一个事情，我觉得原来机器人的定义服务于人，所以原来定义就是人的奴隶。上次王院士在大会上我也受到启发，人机融合，先是服务于人，后来做一些替代工作，从简单替代到复杂替代。人对它有很多期望，它就从服务慢慢走向平等，走了一点，人对他就期望你既然给我服务，能不能更加像我一点，我就感觉越来越像，后面就变成有伦理问题了。原来说你给我做一些事情，后面说你能不能和我近一点，后来能不能代替这个代替那个，后来他有些能力超过我们，我就觉得有危机感了。但是还是特别同意刚才讲的“合”的概念，人机怎么“合”，又合又有分，这个是我觉得的期望。

后面那个问题，关于人工智能和机器人的关系。我自己的理解，还是可能是错的，人工智能我也向张老师请教很多次，人工智能的一个部分和机器人智能有关系，但是机器人又有硬件，通用的人工智能可能不能用在机器人上，因为机器人有本体，他动了机器人就一直在循环之中，而且有本体意味着软硬件结合，所以我认为有交叉部分，不一定对，我想是这样理解。

龚克：谢谢乔老师。机器人里面用到人工智能，但并不全是人工智能，他的本体是一个机器结构，将来可能研发出非常特殊的材料，这些不是简单的智能问题。

乔红：还有控制，本身做不到的时候，人工智能和控制可以帮助我们。

龚克：未来是人机融合，这个机器人或者是机器，成为人的一个好朋友，在某种意义上是平等的合作关系，这就到了你一直讲的人机融合，你认为人机融合在未来是什么形态王老师。我们让张老师最后做总结。

王天然：机器人未来形态可能有相当多的结果，因为现在人对机器人有非常多的幻想，这个幻想已经不是科幻了。如果真的有人造肌肉可以代替现在钢铁的机械臂，那张老师说的过去搞的动力学、运动学都要重写了，这是颠覆性的，根据需要有各种各样的变化。将来的机器人究竟什么样？就是现在工业机器人你也不好说将来怎么样，因为有人提出来分布式工业机器人，谁规定机器人这个胳膊都是连在一起的，你要能分开那就厉害了，所以将来可能五花八门。

龚克：王老师很有想象力，我理解你说的五花八门是本体上会有不同，手是手肩膀是肩膀，还可以协同，很有想象力了。我们说未来机器人不管什么形态都是跟人友好合作的，王老师说，未来机器人本体形态非常多，不见得是钢的，可能是柔性材料的，肉的，我们说人造的，比如硅胶之类的东西。我们最后又回到张老师，您给评论再加点您的看法。

张钹：没有，他们说的很好。首先机器人是干嘛的？我想这里最重要的就是说机器人跟人工智能，究竟有什么区别？他们是不是相同的？或者说人工智能包含机器人，或者机器人包含人工智能，我认为这都是不对的。现在来说，机器人和人工智能是完全两个独立的领域和独立的学科。这里面差别在哪儿？这两个领域或者学科，他们的目标是完全不同的，人工智能的目标是什么？是用机器来模仿人类的智能行为，他追求的是机器的行为跟人类行为的相似性，越相似越好，所以它追求相似性。机器人完全不同，机器人把模拟人类的智能行为只作为他的手段之一，它的目标就是设计出一个机器，来协助人类完成某种任务，这个任务原来是人来完成的，所以机器人的目标是完成任务，他追求的目标是工人或者是信任，或者叫fascinating，所以这两个追求目标完全不一样，因此研究内容是不同的。

机器人的研究内容可能很多人做过很多概括，我比较同意三大方面。第一个方面，刚才也说到了，就是执行机构。这个在人工智能里不一定都要做，因为刚才讲了机器人要在物理世界里完成一定任务，所以它必须得有执行机构。这个执行机构刚才王老师也讲了，可以是仿真仿动物，也可以不仿它。从目前现实情况来看，多数不仿人，因为仿不到，因为这个材料还没有解决，现在基本上建立在电机跟齿轮传动机构这么一个基础上，当然现在不一定走仿真之路。

第二个是人员，特别是移动机器人，高效机器人是它的关键问题，要完成一定的任务人的问题必须要考虑。

最后一个是大口袋，智能控制，包括控制，包括人工智能，包括传感器，包括环境感知。所以在这三部分内容里，只有第三部分跟人工智能有重叠，这个重叠是智能机器人的一部分工作，总结来讲，就是说机器人不是人，是要做机器的，这个机器要完成一定任务，人工智能是用机器来模拟人类的智能行为。请大家注意，我们这里是模拟智能行为，不是模拟智能。所以这两个领域，都会被大家误解，机器人这个名字让大家误解成它是一个人，必须像人。人工智能这个名字也不好，人家以为人工智能做智能的，因为我们现在对智能了解非常少，我们没有去做智能，我们只能模仿智能行为，智能的外部表现，所以大家注意这个。

注意它的前途，王老师讲的非常对，它的前途我认为会是多种多样的智能机器人的出现。不会出现一个跟人一样，做大量通用的机器人，这个目前是做不到的。因为机器人的目标是什么？完成一定的任务，所以我们何必做一个手术机器人，为什么要去手术机器人扛大包呢？没有必要，所以将来会出现很多机器人专门做手术，专门举重等等，所以这个问题，机器人的目标就是完成一定的过去人类完成的任务，协助人类完成很多任务，所以它基本表现为专用的。

当然刚才法国人也讲到一个通用性质，它认为一个系统是有一定通用性，这个只能说有一定通用性，目前来讲不可能做出来一个机器人完成人类可以做的任何工作，这个是有很多争论在里面，人工智能里也有这个争论，就是说通用人工智能要不要用。因为这个的必要性和可能性都有可以争论的点，有必要做这个机器代替人吗？我们人还不够吗？如果我们需要人的话，那我们多生一些人不就完了，非得造一个完全跟人一样的人，所以这个的必要性本身不是很大。所以我非常同意王教授刚才讲的，将来会是多种多样的智能机器人出现，每一个机器人来完成一定的工作，或者一类工作。大概情况是这样。

龚克：非常感谢张老师，果然清华教授给我们上一课，从定义开始非常严格讲它的定义，讲它的区别。对未来其实三位谈到了，我听下来，它都是要帮助人的，希望更好的帮助人。它的形态并不见得一定是什么样的形态，而且也不见得非要走向通用。最重要的是帮助人完成好这项任务。

王老师，最近我看你讲人机共融，刚才乔红老师也提到人机共融，而且你也在讲人机共融。所以我想人机共融现在是我们技术发展的一个非常重要的方面，这个是不是能请王老师谈一谈，为什么要人机共融？人机共融会面临什么问题？这些问题怎么才能得到解决？交给您。

王天然：我说了两次人机共融，刚才张老师说的我很同意，机器人是人造出来的机器，人造它干什么？为自己服务，这个是目标。造出来它会什么样？需要什么样？你能造出来它是什么样就是什么样？你可能需要这个但造不出来没办法，因为造机器不会非要一定是个什么样，。但是对刚才乔红院士的发言，我有一个观点，将来不管这个机器人做成什么样子，有一个问题肯定是共通的，它跟人到底是什么关系？现在机器人和人是主仆关系，我告诉你怎么做，你就怎么做，很简单。将来机器人统治人类了，这个很危险了，我认为这个东西是过于科幻的，因为人造的机器不可能达到这个目标。另外现在有一种说法，机器人造出来就是为了取代人。某些环境下代替人做艰苦的劳动或者什么是对的，但是它的目的不是跟人争夺同样的资源。现在的目标就是机器换人，而人取代人，不是要故意把人和机器的矛盾挑起来。

过去我们有很多例子，人背肩扛，变成汽车，把人取代了，机器人是这样的。所以人和机器到底应该是什么关系，是很重要的一个事情，我觉得从现在开始，就像刚才张老师和乔红说，将来最好的办法，它要能替你服务最好是伙伴关系，最好是它宛如同类，你是机器我是人，但是我们俩感觉好像是同类，不是一个人和一个机器在一起。虽然你是机器，但这样你能更好为我服务，而不是统治我。

龚克：王老师描述了一下人机共融，刚才我如果没听错“宛如同类”，用了一个很精巧的词，但是还是在为人服务，只不过服务的更好，让人感觉更亲切，例如养老服务机器人更需要这样。另外，可能它还需要有一定的智能，需要有比较精准的判断感知，比较正确的决策等等。

乔老师你这几年在讲手、眼、脑融合这些方面，你看看将来这个机器人智能的发展会是一个什么样子？

乔红：你问的问题都很大，觉得不好回答。刚才王老师讲的，我们原来做了一个科技部的重点项目，这个项目当时题目里有机器人发育，智能发育，但是“发育”这个词我觉得有点超前，但是指南里写到的，刚才王院士专门讲，我们还是期望人和机更近一点。咱们国家现在的科研确实非常宽，所以对于机器人研究，我觉得从功能倒推问题，我这个功能怎么做？还有一种研究也给我们胡思乱想的机会，我是为了功能，但是我肯定想这个人有这个特点，它的机理是什么？这个机理能不能复制？张老师刚才也提到，这个机理很好，但是不能复制也有问题。这中间跳了一步，这个功能我觉得很好，它的机理是什么？这个宏观和机理有一个关系。第二个这个机理能不能复制。我们当时考虑的发育有定义，发育是自主学习的不是我叫你学的，是一个自由运动的，会越来越复杂。第三个永远的学习。这样三个要求实际上挺难做到的，但是我自己原来一直感觉机器人和人的一个特别大区别是机器人没有自己的目标。人怎么说，有意识有情感，都是有自己的目标，但机器人没有。机器人没有可能是好事，因为它要有挺麻烦。它没有真实情绪，这个要不要复制？人有理性说这个怎么怎么，也有感性说这个喜欢，这个不喜欢，这个部分并没有在机器人里面产生真正的复制，我觉得发育现在主要讲的是肌肉发育，肌肉在人跑步跑多了之后也有发育，但是这种差别造成机器人永远是人的“宛如伙伴”，还是服务于人的，所以这是我的理解。因为我们讲发育，原来讲软的，后面也做一点硬的，是这样，谢谢。

龚克：你们现在能做到什么程度？

乔红：我们都模拟了，有的做不了，所以我们用计算机模拟，首先是前额叶在不同情况下多样的变化，有的时候快，有的时候慢。它大量的融合，如果是慢了，就会慢慢搞，那时候前额叶和控制部分就多了。再一个人的运动比较稀疏，看到东西打过去，在这个过程当中我们加入了快和慢，但是肌肉做了一些多肌肉和单肌肉控制。

龚克：王老师。

王天然：我再补充几句，人机共融。刚才我说这个问题是一个重要问题，原因在于不仅仅是我们理论上的探讨，现在这个问题已经存在了，现在技术进步已经到了这个地步，工业机器人新出了一类，在统计学单独统计叫协作机器人。原来工业机器人光装在笼子里，跟人是分开的。为什么在笼子里，安全，它可能把人杀了。现在不方便，就把它从笼子里放出来，安全问题已经基本得到解决，就是防碰还解决不了。现在用了这种东西，应用当中解决了很多问题，比如定位比较简单，可以手把手试教，张老师在863项目做专家，老早的时候我就看到手把手试教，为什么弄不了？不能手把手，太危险了，现在可以了。这个就变的很快，现在有人可以租机器人来做了，这样的机器人现在仍然还有一定局限，但是它的发展目标就是希望有这样的工业机器人，这样的协作机器人，这样的跟人的关系像师徒一样的机器人，我跟着师傅学，帮助师傅干活，人是师傅，机器人是徒弟。

将来的一个重要问题是相互信任，还有一种现在医疗上帮人解决残疾人问题的外骨骼机器人，给人助力，比人本事还大，但是人身上背着一个钢铁的东西，那个肯定相当不舒服，而且也不是很协调。最好是人怎么感觉，怎么希望，机器人都知道。机器人要怎么做，人也都能知道，这是现在的发展目标，所以现在定一个发展目标“宛如手足”将来最好是“宛如同类”。

龚克：说到这些，我们刚才更多谈的都是机器本体，谈的控制。张老师这两年老讲人工智能3.0，刚才说到了机器人几部分，还是跟人工智能有关系，人工智能特别是智能机器人，与人工智能本身的能力，对机器人发展有很重要的影响。张老师能不能简要谈一谈人工智能3.0的概念，以及3.0的人工智能对未来机器人的发展能够起到什么样的作用？

张钹：这个问题跟刚刚两位谈的是一个问题。我们人和机器的关系，实际上可能性有三种。

一种机器是我们的奴隶，我们叫它干嘛它干嘛，目前我们跟机器是这样的关系。但是我们希望进一步发展智能机器人，我们希望它能够成为我们的兄弟。但是还存在另外一个可能性，就是它会不会成为我们的主人？我们反而变成他们的奴隶。要么它是master，要命它是slave，或者我们大家是brother，现在问题就是我们的愿望是成为兄弟，但是有没有可能成为兄弟？存在不存在那种可能性？这个实际上是现在提出人工智能治理问题之后我们可能会讨论的问题。我们大家越来越认识到这个可能性是存在的，因为当初提出来这个观点，刚才王老师也提过了，包括阿西莫夫、霍金提出来这个观点，这个问题在机器身上，如果机器发展到它的智能超过我们，我们就失去了对它的控制，因此应该对这样的机器人加以限制，加以治理。

但是20世纪人工智能发展起来以后，大家发现这个问题不完全是这样的，当机器人的智能还很低的时候，我们就处在危险状态。为什么呢？就是我们处于不可控状态，比如说现在用深度学习的方法来做一些事情，这个出来的人工智能律法是非常危险，是非常没有可靠性保证的，所以如果我们用这种人工智能算法，必然会带来对人类的伤害，所以它已经变成一个现实问题，也就是说，这个治理要不要去做。刚才讲了，治理那个机器人，那种机器人还不知道什么时候出来，过去我们都认为这个不靠谱。现在大家认为靠谱了，首先要治人自己，你在做这个工作的时候一定要考虑到这种可能性。所以我们提出来第三代人工智能，就是要解决第二代人工智能的算法不安全，不可靠，不可信，不可控这种状态，所以这个是必须要解决的。下面我们可能谈到治理问题的时候涉及的更加深远，所以这个担心现在看起来是一个近忧，已经不是远虑了。过去霍金比尔盖茨提出来都是远虑，大家觉得目前不可能面临那样的问题。但是现在人工智能的发展状况告诉我们，这个问题目前要马上着手解决，这是我们提出来第三代人工智能最重要的思想。

龚克：张老师能不能简单说一下，因为我们现在理解人工智能2.0是利用深度神经网络，利用大量数据的训练，这样来形成人工智能。您提出来这个3.0，简单讲一下跟2.0到底有什么不一样？完全颠覆替代2.0，还是在2.0上的一个发展。

张钹：虽然说是1.0、2.0的一个发展。法国专家说到这个，最后提出来的就是模型+端对端的学习。

龚克：跟您有点像。

张钹：大家都认识到这个，纯粹靠数据方法必然不可解释，必然不可靠，这个是必然性。那么怎么来解决这样问题呢？唯一可能性加上智能，办法很简单，但是这个还是很困难的，因为要加到数据里面去，这里面方法要有很多改变，所以这个是目前整体的趋势。我们的基本办法就是把第一代人工智能的主要方法靠知识驱动，第二代人工智能的主要方法靠数据驱动，我们说这两个方法都有片面性，必须把这两个方法加起来，才有可能发展安全的、可靠的、可信的智能机器人。

龚克：张老师把第一第第二代结合起来，形成一个更可靠第三代，这真是英雄所见略同，刚才约瑟夫得图灵奖是因为模型检验，他也是提出来因为模型方法的发展有时候碰到非常复杂问题，就不如端对端，直接用数据简单，但是端对端数据的办法，由于存在不可解释性不能进行处理尝试，所以可以把月亮当成黄色交通灯这样一些问题也是走融合。我们把这个话题先按下来，刚才乔老师谈到了机器人已经出现伦理问题。其实我理解在技术领域，医学以外的领域谈伦理，机器人谈的比较早，从阿西莫夫三定律就是一个伦理规范，特别是加上智能，加上很多工作代理给他，让他完成更多任务的时候，我们再回到乔老师这，您认为它现在的伦理问题最突出的是什么？

乔红：确实如你所说，伦理确实在机器人这头讲的比较早。刚才张老师讲，现在事实上机器人，包括王老师讲机器人，实际上它是不小心伤害人，人工智能算出来它不是有意的，机器人也没有意识，但是有自学意识，或者有私心，在造机器人的时候会不会把这个搞坏，如果他自学，学歪了可能会有问题。我自己的想法，机器人成为我们的主人肯定不被允许的，因为机器人当时被定义不能伤害人类，机器人产生的时候就说好了。所以我觉得建立法律还是很重要的，因为对一个人的约束有两种，一种是高端的，你要有道德有文化，低端的是要惩罚你。机器人作为一个个体，刚才老实说我们可以很近，亲兄弟也要明算账，所以应该有一个高端的道德约束和一个低端的法律约束，就把你从概念上又在笼子里框起来了。我们可以很近，但是我们得算清楚，所以什么样的机器人当它违反了道德，什么样的机器人当它违反了法律，我觉得就应该约束。这个道德的约束我觉得比较难，比如他们说车往前开撞谁，不往前开又撞谁，这个人的道德还有难度，应该提前约束，这样后面应该是安全和健康，个人观点，不一定对。

龚克：我接着你说一个例子，撞击这个事，现在自动驾驶车，可以看成一个行走的机器人，我们AGV就是机器人。我其实到很多实验室有自动驾驶，我自己做过尝试。当它前面有过路的人、动物的时候，我曾经想尝试一下用人工踩这个油门加速，去撞前面这个目标的时候，三年前的时候有的实验室机器人就不动了，有的实验室就撞上去了。这两年我再做，几乎所有实验室都不撞，这就把一定的伦理植入到这个控制里面去了，这样甚至防止人类杀手开着这个车去撞击人。

乔红：自动驾驶这里有个问题，如果机器不听你的了，机器有一个更高的原则，你这个角度相当于人家道德比你高了，你想撞人家不让，人和机器共融的时候，应该是人比机高，现在机有自己的判别，也会有一些困惑。

龚克：对。这是一个非常复杂问题，我看张老师要说。

张钹：伦理的问题，现在变成非常重要的，我刚才说大家认知有两个阶段。

第一个阶段，阿西莫夫认为说，机器人如果智能超过我们或者有意识以后，我们如何让机器人能够按照伦理的准则来做出行为这个问题。

第二个问题，人类如何按照伦理原则来设计和使用机器人。这个表面上看起来很简单，大家就按照这个规则定好了，机器完全按照你这样做，其实问题非常不简单。为什么引起全世界关注，是因为这个领域有三大难题。

第一个标准和法规问题，什么是道德？什么是不道德？这个本身就有非常大的争议，而且有很多道德的困惑。举个例子，一个车刹车失灵，前面撞五个人，打舵就撞上另外一个，没有办法明确这个道德这个不道德，这是一个课题。而且还要把这个道德或者伦理形式化，这是头一个难题。所以为什么全世界关注这个难题，因为这是法律道德伦理各界来共同研究的，我们给它什么准则，这是第一个问题。

第二个问题对机器来讲，我们说给它一个道德的规范，我们假设道德规范有了，你不能撞人，它是不是一定不撞人，这就涉及到机器人的行为可控不可控。现在发现人工智能加上去，它就不可控，为什么呢？因为人工智能加上去，刚才乔红老师说过了，他完全按照这个规则来执行，这就不是智能机器人，你给它一定灵活性，它才能有创造性，才能自主解决。我们希望它帮助我们克服人类的一些缺点，所以一定给它一定灵活性，你一给灵活性，我们现在怎么做？技术怎么做就有概率来描述。概率来描述可能做错，可能做对，所以我们要给他灵活性，给他创造性，给他自主性，必然要付出一个代价，就是它可能要不可控，所以这个问题也不是那么简单。你就是给它规则，使规则搁进去，那就不是智能机器人，还是受你控制，所以这是一个很大的问题，在理论上现在没有解决。

第二个，对人类来讲，我们说要求每个人在设计使用机器人的时候，都要遵守伦理的原则。这不用说，有的人根本不遵守，就是遵守的人其实我们对每一项技术，每一个机器，都有不可预测的。我们怎么知道我们这么做出来就是它会行善，非常明显的例子，就是深度学习。深度学习来做模式识别，识别率提高非常多，大家没有预计到这种办法鲁棒性非常差，引起很大的安全问题。这个是人家预计不到的，所以你对每个工作，即使你定了很严格的规律去做这个事，做出来很多东西你是预测不到的。

由于这三个困难，就造成人工智能或者智能机器人或者机器人治理会有非常大的困难，所以大家可以理解，为什么现在全世界都在关注这个问题，说明这个问题不是那么简单，可以解决的。我就讲这些。

王天然：我问张老师一个问题，现在这么关心伦理问题，是关心机器人伦理问题，还是关心设计机器人的伦理问题。

张钹：这两个整体是人，现在最主要关心人，第一个是不是会滥用误用机器人，特别现在滥用机器人非常严重，机器人将来肯定会被滥用，你现在做机器人，杀死机器人就是一种滥用，所以这个方面首先考虑智能，最主要是智能。另外一个你在设计过程中，要做很好的评估和预测，不能随便定一个规划说这个怎么样，必须对这个规划，对这个智能机器人，做一个非常严格的评估，它会带来正面影响是哪些？负面影响是哪些。因为你做一件事情负面影响肯定会有，不可能做一件事情完全是正面的，特别是复杂环境，所以现在主要是这个。当然在学术界更多讨论机器人的问题，因为那个比较吸引人，大家比较认一点，但是我们看起来，全国的科学家，我们基本算工程师。

龚克：回到王老师，王老师提的问题不能算完，您得说观点，关于治理。

王天然：我是觉得这个智能像刚才张老师讲的，最早的时候人形容机器人有什么感知，有什么推理，有什么行为，这些都在发展，这些都在发展不一定都是用人工智能技术，有些可能是用其他方法。用其他方法仍然也有伦理问题，但是你用了人工智能技术，可能产生新的伦理问题，新的伦理问题是人工智能技术带来的，还是机器人本身带来的？我有点想推托责任，是人工智能。

龚克：刚才我们从大家的工作经历出发，判断我们机器人向哪发展，以及我们现在碰到各式各样的问题，我想很多问题靠今后技术的发展，技术和治理的协同发展去解决。

乔红：建个机器人法律出来，先约束住。

龚克：他需要有外部约束，需要有技术落地等等，这些最后要靠不断研发去解决，在一个发展的过程中解决问题。今天我们在场的，还有在线上有很多年轻人，他们都是从事跟机器人研发、使用、维护、管理有关的，最后用点时间，请三位，先请张老师对年轻人，特别是从事智能机器人，从规划到管理，提一个希望。

张钹：因为这个是世界机器人大会，所以我认为我们刚才谈的那些问题，都可以通过全世界团结起来，共同发展，合作创新，能够让人工智能，让机器人健康发展，造福全人类。我补充点，刚才我虽然说治理很多难题，但是从技术上来讲，很多人提出三方面工作，是可以解决这个问题的。

一个方面工作，研究新的分析工具，主要是形式逻辑加上叫做伦理的推理或者伦理的分析，这个问题目前因果分析，伦理分析，发展这套东西会有给我们做一些更好的伦理分析结果预测，这方面工作也在进行。第二方面工作，我们完全可以利用深度学习工作方法。刚才说什么叫道德，什么叫不道德？我们难以做出定义，但是我们可以给出样本，给出哪些行为是不道德的，哪些行为是道德的，通过机器学习分析道德不道德，那些没法定义的问题，还是可以通过标注数据学习做到。最后一个仿真模拟，我们现在的无人车就是这样，你要大量做实验让他跑起来，通过实验和模拟发现它的问题来解决。所以从技术层面来讲，这三个工作是有可能来解决我们这个安全性问题和伦理问题。

龚克：另外张老师特别提到希望我们年轻一代合作创新，王老师。

王天然：我同意张老师观点，现在我自己的工作体会是，上世纪2000年以前，工作的重点都在工业机器人的精度、可靠性，控制多少、怎么用的好。现在人们开始解决不是这个问题了，那个基本可以应用了。现在解决机器人不满意的地方，现在新的领域不断出来，相关技术也不断支持，所以机器人变的前途非常灿烂而且多种多样，很多地方在吸引你。医用机器人应用非常广，所以现在说是机器人发展的黄金时段，各科融合会在机器人身上体现。当年一个意大利学者，把机器人叫做Eat，什么技术都吃。所以我想其实机器人研究需要全世界各地人，尤其是我们中国青年，抓住这样的机会去发现新的能解决的问题，创造出新的东西。

龚克：融合是一个点，多学科融合在机器人身上的体现非常丰富，多谢王老师。我们请年轻的院士给年轻人提点希望。

乔红：刚才两位院士讲的特别好，我也讲三句很抽象的话。第一句话，我觉得年轻的学者还是要保持宏观率，这个宏观率就是刚才两位院士讲的宽容度，就是社会对你的需要，他人对你的期望，还有不同领域不同声音，这个还是需要的。因为如果没有这种free spirit，你不能接住社会的期望和社会对你的支持。第二句话还是自强自立，就是执行力，怎么把这件事情一步一步坚定的执行下去，需要逻辑力、执行力、信心和坚定的意志。这两个有点矛盾，一个是宏观开放的，一个是强硬的。但是第三个我觉得很重要的是开放度，很多的年轻学者本身很强，但是它不能够接纳其他人介入他的小领域，这就造成他不能学习和成长，所以送给大家三个词，宏观力、执行力、开放度。

龚克：非常感谢大家。前面谈了这么多，我们把智能机器人拆成三个词：“智能、机器、人，我们在讨论他们关系，他们的发展是在这三者的相互关系中发展，今天下午的第一个报告，李培根院士报告就是“智能—机器—人”，希望大家听听李先生意见，可能受到一定启发，我们今天对话就到这儿，感谢大家参与，谢谢各位。