长期以来，科幻小说中的人工智能往往是一场乌托邦式的噩梦。人工智能显然是伴有风险的，其中最为突出的风险是，超级智能机器或许有一天会反制人类、奴役人类。尽管这一风险在未来几十年内不会成真，但一些专家已对此表达了严肃关切，呼吁妥善引导人工智能发展，避免未来可能出现的隐患。
我国目前的人工智能研究已经发展到了哪一步？它带来的更多是威胁还是机遇？本期《科汇观点》在上海市人工智能学会的支持下，邀请京沪一批相关领域的专家学者，就此话题各抒己见，让我们对人工智能有一个更明确的了解。
年度新兴技术榜单由世界经济论坛的新兴技术跨界理事会选出，均为最有潜力解决全球长期挑战的技术成果，旨在促使人们关注新兴技术的潜力及隐藏的风险，每年发布一次。
今年榜单中的自学习人工智能技术伴随着自动化技术、智能机器人技术、脑机集成等技术和学科的发展，正逐渐从朦胧中走出，成为离我们越来越近的新科技主角。一些专家看好这一技术将引领下一波科学技术的发展，但围绕这一技术可能带来威胁的忧虑也从未消停。
对人工智能不要轻看
一个机器人比一个人，或者一群人聪明，是完全可以做到的，但机器人要超过我们人类的整体智能，目前仍为时尚早。
李德毅：中国工程院现在正在做一个课题：怎样看待机器人时代的到来？我认为智能机器人是集新材料、新工艺、新能源、全球定位导航，移动互联网、云计算、大数据、自动化等多种学科和技术的产物，是人类社会走向智慧生活的重要伴侣。所以我主张有条件的大学要成立机器人学院。机器人学院不是一般的学科和专业的集合，而是多个交叉学科的综合，因为今天已经到了机器人时代了。
机器人的革命是世界性、时代性的，有人担心机器人到来，很多人就没有事干了。不会的，一些人会转行去创新制造新机器人，一些人会转行成为懂得维修、管理机器人的专业人才。
最近推出的苹果手表有一项功能是能监测帕金森病，从手表携带者24小时的4项指标变化，可以判断帕金森病人的病情变化。这仅仅是这款手表五分之一的医疗功能。这也提醒我们，手机、手表可能成为医疗的工具，也可能成为慢性病管理的视频互动平台，它既可以是医疗互联网的一部分，也能为某种流行病的社会调查提供新的途径和工具，或为病友提供社交网络平台，甚至会颠覆传统的看病模式，包括传统的医学研究方法，这个想象空间非常大。
目前我正在做的一个课题是“机器驾驶脑”，即会驾驶车辆的机器脑。这种驾驶脑至少两个好处，第一，它没有情绪，交通事故很大程度是因为驾车人的情绪、疲劳等导致的。第二，它守规矩，始终专注。人本身是不守规矩的，因为人要创新，会叛逆。机器人不会有情绪，不会不守规矩。
我们这个驾驶脑是跟上汽集团合作的，这个项目最终要产出一台真的会在现实路况下开车的装置。目前这个驾驶脑已完成了从北京开到天津的试验，接下来要再做从郑州开到开封的试验。既然用机器下棋脑可以胜过人类的象棋冠军，做一个超过某个特定飙车手的驾驶脑，理论上也应该是可能的。
从这个意义上讲，一个机器人比一个人，或者一群人聪明是完全可以做到的，对人工智能不要轻看。它能成为飙车手，成为棋王，但机器人要想超过我们人类的整体智能，目前仍为时尚早。
何云峰：有人担心人工智能可能会摆脱人类控制，反过来控制人类。这样理解的威胁属于消极的威胁。还有从进化角度理解的积极的威胁。大家都用机器人干活了，将来我们手的功能是否会退化？人们天天坐在电脑旁，将来的人类会不会大脑越来越大，腿越来越短？当然，进化的历程是漫长的，真有可能的话也要几万年以后。
我认为，对于人工智能这种新事物，应该在积极的意义上，也就是在促进变革的意义上去理解其对人类可能的挑战。如果这样积极地去理解其威胁的话，那就要主动迎接其挑战。积极的威胁表现之一是，人工智能的大量使用，会对我们现有的生存方式、思维方式、社会结构造成冲击，会迫使人类自我改变。
威胁之二是对人的生存和存在意义上的那种影响。宇宙是进化的，人类没有理由把自己的智能宣布为是宇宙中最高的智能。会不会有更高级的宇宙智能取代人工智能？我认为至少目前还不能否定这种可能性。当然，这种威胁对人类本身是不利的，但对宇宙的进化却是有益的。
总之，我觉得人工智能对人类的威胁和机遇是同时并存的。但对于威胁不能片面地仅仅从消极层面加以理解，还要从过程和进化的角度去理解，人工智能的挑战也可能有积极的意义。
岳继光：人工智能肯定是一个机遇，德国的工业4.0推到我们国家之后，在同济大学嘉定校区建了一个工业4.0的实验室，但这个实验室里中国的元素很少。国内的生产线上国产机器人占有率相当低，所以从必须跟上工业4.0的角度来讲，发展人工智能肯定是一个机遇。
其次，科学地看待科技变革。科技变革带来的效应有良性的，也有恶性的。良性主观是好的，恶性主观是不好的，这取决于科技变革的主导者和产品的设计者。
工业4.0最突出的一点，是通过网络化生产出个性化的产品，譬如个性化面包。工业4.0之后，每个人都可以吃到最适合自己口味、最有利于健康的面包。生产线上的机器人会从互联网上知道我们每个人的身体体征，如果再进一步用智能方法，会得到我们个体患糖尿病几年了、高血压几年了等情报，会根据你的生理指标来制作面包。假如这个做面包的机器人的某个程序出了问题，或者被攻击了，就有可能对我们的健康产生威胁，但这种威胁是良性的。
恶性的就是设计者仇视社会，这个体现于设计者设计的机器人可能会产生危害社会的行为。恶性的思维传递给机器人，再加上3D打印，可能对人类的威胁更大。
所以我要引出第三个观点：制定准则，对机器人及其研制者要制定道德准则。首先对通过鉴定的机器人要打上标签，知道这个机器人能做什么样的事情。其次对机器人的设计者实行注册制，机器人设计者要有一个实名制身份，人们可以根据他的行为、他以往的经历包括现在的状态，对其作规范和约束。这样就达到了把风险降到较低、又抓住机遇的目的。
我想表达的就是对人工智能要抢抓机遇，科学地看待威胁，制定社会准则，规避风险。
在争论和怀疑中不断进步
无论威胁还是机遇，我们始终要去追求，由此才能不断推动人工智能的发展。在这一过程中，将会发现许多美好的、奇异的东西。
冯嘉礼：从历史来看，每一次新生事物的诞生，某些人都会感觉有威胁。比如水轮机的出现，纺织工人就感觉要失业了。现在机器人来了，很多工厂流水线上的工人就感觉要下岗了。历史上从来没有一样新生事物会受到全部人的欢迎，总有一部分人会感受到威胁。问题是我们怎样面对威胁？人类不能因为有一部分人受到威胁，或者有反对的声音，就不前进了。
任何事物都有两面性，科学也是一把双刃剑。科学新发现、新发明在推动社会向前发展，并对一部分人造成威胁的同时，也创造出很多发展机遇，只要掌握新知识，掌握新技术，就会找到广阔的发展空间。如果能直面威胁，积极应对，顺势而为，勇于创新，更有可能屹立潮头，成为新时代的骄子。
钱学森对发展人工智能曾提出过很多高瞻远瞩的想法和观点，比如他倡导开展思维科学研究，提出思维科学是智能计算机的理论基础。问题是：我们能不能把他想法蕴含的实质内涵挖掘出来，并整理成一个人工智能的基础理论和方法。
王行愚：上世纪，我们在读控制专业研究生时追求的目标，是用人工智能来解决问题。几十年过去，今天再来谈这个题目，仍然具有新意。人工智能本身是一个永恒的课题，至少我们这几十年的经历来看，我们是在各种争论和怀疑中不断进步的。
第二个观点，我觉得无论威胁也好，机遇也好，我们始终要去追求。我把它看成是在追求一个很美好的愿景，也许就像追逐天边的彩虹，我们可能永远追不上它，但在追逐的过程中，将会发现许多美好的、奇异的东西，这就是我们研究的意义。我们未必能达到最高境界——最终能做出和人一样能思维、有感情的机器人，但在追逐中不断前进，才能推动人工智能不断发展。
如何让机器人真正达到人的智能境界？最近10年我在做的一件事是研究脑控系统，这是一种基于脑机接口的人机融合控制系统。它的研究初衷缘于医疗康复领域的需求，有一些残疾人手脚不能动了，但是脑子挺好，这时就可以借助意念或思维来指挥机器人，帮助他做事。这些工作从人工智能角度看有两点启示。
第一，思维或意念是可以实现控制的。这也是我们追求的境界，能不能“心想事成”，怎么实现？这在以前是不敢想象的，但是研究表明是可以做到的。它实际上是把人脑某些思维活动中与之对应的一些脑电信号的模式提取出来，把思维的虚拟想象通过实在的、物理的脑电信号“表征”出來，从而实现对外的控制。这项研究尽管还处于实验和演示阶段，但对于控制和智能研究是一个突破。
第二，在脑控系统中，脑和机紧密结合，这种结合体现了生物智能和人工智能的结合，脑控系统可以成为研究这两种智能的平台。抓住这个比较好的研究平台深入探讨，也许会有助于对这两种智能的研究，取得某些突破。
最近我们做了一些脑控系统，发现它存在一个很大的问题，就是它的指令比较单一，效率不高，将人工智能与脑控技术结合之后，就有了很大的改进，有可能为残疾人提供更好的服务。现在脑电信号无线传输已经实现，有的戴在眼镜上就能做，它未来发展的前景很大。
在这个平台上，除了生物智能和人工智能，还有一个新课题是研究人机融合系统的描述、建模和控制，这是一个全新的、有人融合进去的系统。这一类共生系统怎么研究，值得关注。
李德毅：我同意王教授的观点，即人的思维和意识是能够控制的。我认识一个在美国科学院从事生理学研究的脑科学家，我说我想做一个机器驾驶脑，你给我画一个人脑的功能结构图吧。他的回答让我很沮丧，他说脑组织的结构图随时可以画，脑功能的结构图100年也出不来。虽然沮丧，但我觉得他的这番话值得我们思考。
严伟：模拟脑做得最好的还是CPU。IBM有个科学家做了一个模拟神经元芯片，能模仿从电路到脑的过程。如果脑的功能100年都画不出来，电路怎么实现？电路要有明确的实现方式，神经元就是一个互相串联的系统。它也有内在的脑结构，如果要模拟人脑，我们希望有大脑的一些功能出来，这样做电路的就可以有一个方向了。
李德毅：刚才严伟教授提到，如果人脑功能结构图100年出不来，机器脑怎么出得来？我前面说过，虽然我们不可能把人脑所有认知能力都做出来，但如果特定情境和局部环境下的认知能力，如驾驶脑、运算脑、下棋脑、情感脑等可以逐步做出来的话，那么由人工智能技术构建的千千万万特定认知机器的脑，通过移动互联网、云计算和大数据，是否可以逼近人造脑呢？
自我学习能力是人工智能面临的大挑战
让机器人实施某种单一功能，比如开车、扫地，目前已经能做到，但是，机器人（或人工智能）要能具备自我学习的能力，这在目前仍是一个很大的挑战。从这一点上看，机器人要超越人目前还难以实现。
张轮：否认人工智能的威胁是不现实的，它对人类肯定有威胁，但是威胁在什么地方，我们又该如何看待这个威胁？从微观、局部地去看一些职业的或者环境的改变，肯定是有威胁的，但对人这个物种丝毫不构成威胁。机器人其实早就出现了，我们现在所理解的机器人是20世纪下半叶出现的可编程机器人，可编程机器人可以把一些算法模型融入，这样人类就有可能把自己的思想融入到机器中去。
人类目前对自己的智能并没有完全了解，在并不完全了解的情况下把人的意图传达给机器人，就存在很多的不确定性和可能性。我们的思维主要是基于生物启发，所以就出现了下棋的机器人，机器人很多地方比人强，它的计算能力比人强，它能记很多东西。但智能的一个核心问题是它不可测，我们大脑处在什么水平不可测，甚至你我之间谁更聪明，这些都不可比。
机器人的进化有两个方面，即能力和功能的拓展。让机器人实施一个功能，比如开车、扫地或者唱歌，已经都能做到。但是能力的培养，即机器人要能自我学习，这在目前的人工智能研究中是一个很大的挑战。从这一点上看，机器人想超越人，目前还难以实现。
对于人来说，“能力”的培养相当复杂，涉及到环境等外部因素以及生物大脑的发达程度和训练强度等多种内部因素，甚至涉及到遗传、血型、性格、情绪等等，伴随着人成长导致的时间和空间变化，以及由此而带来的经验、知识、推理等多种元素的积累，以及这些积累的因素的结构化合成，很难进行量化和形式化。所以，让机器人具备人的“功能”不难，而能够达到和人同样的“能力”，尤其是学习的能力，并非易事。
现在很多研究都是想让机器人聪明，譬如能具备行为能力、博弈能力，但这样的东西怎么习得？人与人之间的博弈不仅仅看输赢，很多时候是基于人的意识情感，如何让机器人有这些东西？
张卫东：我觉得要讨论人工智能是威胁还是机遇，有两个关键问题要搞清楚：什么是我们定义的人工智能，什么是我们认为的威胁。当霍金提到人工智能将给人类带来威胁时，我理解，他所指的威胁是指具备自学习能力，有智能进化功能的人工智能，可能会导致人类的消亡。现在我们使用的所谓智能设备如机器人，还不具备思考理解和情感表达的能力，只能执行程序指令完成特定的工作。这是不是我们指的人工智能？会不会导致人类的消亡？
我们现在的讨论实际上是基于人类已有的知识和经验来判断未来机器的智能是否会超越人类的智能。机器的智能也许会在某个方面，如记忆能力或逻辑推理能力方面超越人类的智能，但很难想象将来机器的智能会全面超越人类的智能。举个例子，很多人看赵本山小品时会哈哈大笑，但机器看到会笑吗？如果会，也应是在执行程序指令，而不是理解了笑话。因此，对人工智能是威胁还是机遇这个问题，我的观点是，人工智能更多地是机遇而不是威胁，人类既然有能力创造机器智能，那么在发展过程中也会创造出控制机器智能的技术。
受邀专家
李德毅中国人工智能学会理事长，中国工程院院士
王行愚华东理工大学教授，上海市人工智能学会副理事长
岳继光同济大学教授，上海市人工智能学会副理事长
冯嘉礼上海市思维科学研究会理事长，教授
何云峰上海师范大学教授，上海市思维科学研究会副理事长
严伟 北京大学软件与微电子学院教授，中国人工智能学会自然计算专委会委员
苏剑波上海交通大学自动化系教授，上海市人工智能学会理事
张卫东上海交通大学教授，上海市人工智能学会理事
程武山上海工程机械大学自动化学院院长，教授，上海市人工智能学会理事
张轮 同济大学交通控制专业教授，上海市人工智能学会理事
汪镭 同济大学教授、上海市人工智能学会秘书长
