这次围棋大战,与其说是人工智能与人的大战,我觉得更多的是阿尔法狗在数据处理、机器的海量运行、记忆的存储、设计的有效性等方面,都取得了很大的成就。
因此在固定的领域,计算机在与人比赛时,通过大数据的分析和规则的有效利用,成功的概率比较大。例如,在精细化制造中,机器不受情绪影响,可以一如既往按照设定的规则、设定的生产途径实现精细化。而人就会受到情绪和环境的影响。
《财经国家周刊》:有人开玩笑说,如果阿尔法狗主动输给人,就更可怕了,很多人担心人工智能拥有和人一样的神经感知,担心人工智能将来不久会超过人类,人类就面临着末日,您怎么看人工智能?人工智能究竟是威胁还是契机?
怀进鹏:人工智能是一项技术,作为技术它是中性的,并没有伦理和价值观的判断。它的好和坏,是我们从社会学和伦理学的角度来判断的。从技术上来说,我们关注它的效率,当它能被有效的利用时,就可以为社会做贡献。如果它被无效或者恶意的利用,就会带来问题。
阿尔法狗主动地、有意识地输给人类,这种可能性也是有的,前提是给它设定了这样的程序,且是由人来设定的。或者是人在设计时,出了一点失误。目前机器自己是不会做到这一点。
无人驾驶汽车,因为它要接受很多来自手机和后台云计算的数据,也可能会遇到黑客的攻击。如果后台突然被控制,汽车都停下来是一种可能,汽车无理性的横冲直撞也是一种可能。机器没有好和坏之分,它只有执行。现在机器能做的,还是人设定的这些规则。
机器通过数据的分析,具有一定的学习能力,如果设定机器程序的学习能力去恶意模仿那些不好的行为,就容易带来危险,所以人在设定程序时,应该尽量给机器的学习能力注入正能量。
技术发展到一定程度还是取决于如何被应用。社会也应该有一系列的法律规则来约束机器背后的人,约束设计者应该遵循社会的道德规范,考虑人类的心理承受能力。一个中性的科技,应该有伦理价值和社会价值。
同时,我们也要储备超级技术,能够控制和恢复机器的状态,能控制机器新的演变,不然我们确实会遇到危险。