今年1月,一位叫蒂姆·厄本的政治学本科毕业生在其商业推广博客上发表了一篇题为《人工智能革命:通往超级智能的道路》的文章。2月,这篇文章旋即被翻译成中文,并在微信上被冠以《人工智能达到奇点——最强论证文三部曲》的题目,广为传播。文中以“未来学家”库兹韦尔的“奇点理论”为基础,植入了各种科学臆想,夹带着没有来源和真实数据支持的手绘图表,还包含了诸如“时空穿梭”、“未来预测”、“超人工智能”等骇人听闻的名词,让广大读者尤其是普通民众读后感到甚为惊讶。这篇文章的结论是:“当一个超人工智能出生的时候,对我们来说就像一个全能的上帝降临地球一般。这时候我们所关心的就是:这是否会是一个仁慈的上帝?”
看完这篇文章,很多人不禁要问,人工智能是否真的快要发展到人类只能等死的地步了呢?作为一名从事人工智能研究的业内人士,我觉得很有必要澄清几个问题:
1.“奇点理论”是不是关于人工智能的科学理论?“奇点理论”与人工智能研究到底有什么关系?
2.“未来学家”库兹韦尔是何方神圣?他推崇“奇点理论”的目的到底是什么?
3.人工智能现在发展到了什么程度?我们有必要担心吗?
什么是“技术奇点”和“奇点理论”?
所谓“技术奇点”是指在未来的某个时期,当机器达到“强人工智能”时,其智商将超过人类,从而对人类社会造成巨大的冲击。最早提出“技术奇点”的是美国科幻作家弗诺·文奇[1],他在1993年写到:“在30年内,我们将有实现超级人工智能的技术手段。在这之后,人类时代将会结束。”自称为“未来学家”的库兹韦尔在2005年的《奇点临近》一书[2]中,把“技术奇点”进一步转述为“奇点理论”:2045年将出现“奇点”时刻,人类文明走到终点,生物人将不复存在,取而代之的是一个叫做“奇点人”的新物种。换言之,库兹韦尔预测2045年人类将与机器融合,获得永生。
“奇点理论”到底是不是科学理论呢?首先,我们要了解科学理论的构成要素。美国国家科学院对科学理论的定义[3]是:在科学中,通过集成事实、定律、推断和经过实验的假设,对自然世界某种现象做出的充分解释。很明显,“奇点理论”并不符合科学理论的标准,更谈不上能对现代人工智能发展产生任何影响。
“奇点理论”既没有对该理论问题严格的数学表达,也没有严谨的证明。进一步来说,“奇点理论”没有提出任何实际的技术,没有可检验的度量标准,也没有基于数据的可重复的实验依据。所谓“技术奇点”,就是弗诺·文奇笔下的一个科幻素材,在库兹韦尔笔下摇身一变成了所谓的人工智能“奇点理论”学说,还顺带推出了“奇点大学”、“奇点人”、“奇点主义”等商业产品与概念。事实上,主流人工智能研究领域从未认可所谓“奇点理论”,也没有人从事相关的科学研究。在《奇点临近》这本书问世后的10年间,“奇点理论”没有衍生出任何有价值的具体科学技术,对人工智能技术的发展没有起到任何推动作用。
关于库兹韦尔
“奇点理论”的推崇者库兹韦尔是个什么人物呢?他是一个备受尊敬的人工智能领域的计算机科学家吗?
在库兹韦尔的主页上[4],他和比尔·盖茨的合影映入眼帘,他把自己描绘成一个“不知疲倦的天才”和一个“终极思考机器”,并称自己是语音合成等多项重大技术的发明人。事实是否如此呢?笔者检索了国际权威的人工智能组织——国际人工智能学会(AAAI)论文库,并未发现库兹韦尔或者其“奇点理论”的任何论文(如图1所示)。在德国DBLP论文库检索中,笔者发现库兹韦尔最近20年仅有的几篇文章要么是没有具体技术内容的摘要,要么是没有任何基于数据和科学实验的口水文章。也许有人会说,库兹韦尔不写科学论文,是个实践性发明人才。事实是否如此呢?库兹韦尔说他发明语音合成和语音识别这两点成立吗?
做过语音研究的人都知道,语音识别技术最早是1932年从贝尔实验室开始的(基于频谱、非连续、限定语者及词汇)。图灵奖得主雷伊·雷蒂在斯坦福大学读博期间进一步研究了连续语音识别问题。后来在美国国防部高级研究计划署(DARPA)的资助下,IBM的弗雷德·贾里尼克和卡内基梅隆大学的贝克夫妇沿着统计的方向[5],成功实现了基于隐马尔科夫模型的连续非特定人语音识别系统。语音合成最早也是由贝尔实验室研制vocoder[6]逐步发展起来的。目前常用的unit-selection语音合成技术发明人是卡内基梅隆大学的阿兰·布莱克[7],另一个主流合成技术是隐马尔可夫模型(Hidden Markov Model,HMM)语音合成,二者均与库兹韦尔没有任何关系。至于库兹韦尔自称是“深度学习、机器人技术的奇才”,实在是白日做梦,不管是学术界还是工业界,从未听说过库兹韦尔有什么贡献。此外,他是不是发明了扫描仪、光学字符阅读器(OCR)、盲人阅读器,限于篇幅,留给读者自己研究吧。
库兹韦尔为何要推广“奇点理论”呢?在《奇点临近》原书第211页上,他介绍道:“我每天要吃250片大补丸,每周注射6次营养液,这样才能活到奇点来临的那一天。”库兹韦尔顺理成章地向其“奇点理论”的“粉丝”推出了自家昂贵的长寿保健药Ray&Terry[8]。不难看出,与其说库兹韦尔是研究人工智能的计算机科学家,不如说是一名“成功的企业家”。
垃圾科学的特点
库兹韦尔没有任何科研和学术背景,他是如何当上受到媒体追捧的“人工智能专家”和“未来学家”的呢?美国哥伦比亚广播公司(CBS)早在2010年就对库兹韦尔推销垃圾科学(junk science)的方法做了详尽分析[8],指出库兹韦尔推销垃圾科学的手段主要有:
1. 抓住消费者的恐惧心理 库兹韦尔经常鼓吹要把人脑植入计算机避免死亡,超强人工智能要毁灭人类,其实就是抓住了人们害怕的心理。
2. 抓住流行文化 抓住廉价的科幻材料,抓住流行文化,让大家更加相信他的理论。库兹韦尔曾经拍电影来推广他的理论。
3. 利用社会传播而非科学论证 库兹韦尔最常用的做法就是引用其他一些所谓社会名人的论断(比如千年虫Y2K),而不用科学的手段来论证。
4. 从权威而不从事实出发 从库兹韦尔的网页我们就能看出,他的各种伪造的事迹、奖项、与名人的合影让大家相信他是权威。
5. 伪造证据 美国哥伦比亚广播公司介绍,库兹韦尔曾经在2002年引用了一份不存在的高德纳(Gartner)研究报告来佐证自己的观点。
6. 把真实的科学当做垃圾科学 库兹韦尔认为:气候变化这项大气和环境科学家多年的研究成果是一个骗局。
7. 用家庭成员来证明自己的可信度 《纽约时报》介绍,库兹韦尔曾经在一份证词上用自己的儿子证明自己可信。
8. 利用容易受骗的记者来传播消息 库兹韦尔经常欺骗类似阿什利·范斯(Ashlee Vance)这样的记者来传播他的“正面”新闻。
关于当前的人工智能研究进展
目前人工智能技术的发展是否值得人类担忧自身的安全呢?我的回答是:“完全没必要担心。”
目前可以用的人工智能应用有语音识别、图像分类、广告点击率预测、机器翻译、简单问答与对话系统等。在这些应用中,有不少实际使用的开放系统的准确率达不到期望(如亚马逊的最新智能家居助理Alexa)。在语音识别领域,对于老人、小孩或者是带有浓重地方口音的口语单词识别错误率非常高。
在机器翻译中,对西班牙语与英语的翻译已经取得了一些成果,但是将中文、阿拉伯语自动翻译成英语的结果差强人意。至于机器人的智商能否在未来10年超过人类,甚至消灭人类,我觉得图2中的情况可能会反复出现。
深度学习是
机器学习的一个重要分支,主要关注用神经网络做特征的学习。目前深度学习中进展较大的也是语音识别、图像分类、文本分类等传统问题,取得的主要成果是:通过
大数据,增加模型参数,降低不一致性(variance),增强机器学习模型的健壮性,从而提高任务的准确率。我们要肯定这些进步,但也要认识到,当前的深度学习技术在知识推理、逻辑、规划、机器人等人工智能核心领域还没有取得突破性的科学成果。
人工智能的学者是不是只关心技术,不关心法律、经济和社会问题呢?这个答案是否定的。每年有很多关于人工智能与社会福利的研究[9],也有很多学者在从事人工智能对隐私、法律、经济、安全和社会的研究[10~12]。最近国际人工智能学会前主席埃里克·霍维茨(Eric Horvitz)在斯坦福大学提出了人工智能100年研究计划,指出人工智能未来100年需要涉及人类的方方面面,以及如何为人类服务。
比起普通民众的担忧,不少人工智能学者的担忧往往相反:目前人工智能的
应用还比较初级,根本谈不上智能。甚至很多学者认为现在的计算机连真正理解人类的语义也无法做到。引用卡内基梅隆大学计算机学院教授爱德华·霍威的话:“你们这些做研究的,机器分类的准确率再提高1%有什么用?我根本不关心。我问你‘什么是语义’,你的程序能回答吗? 我问计算机程序一个简单问题,‘小明买了一辆车’,句子里的‘买’对于计算机来说到底是什么意思,应该怎么表述?”
对于计算机科学家来说,不论是从工程上还是从科学上来讲,
人工智能的研究任重而道远,切不可沾沾自喜。至于机器人能否消灭人类?我们可以引用Embodied Conversational Agents作者贾斯丁·卡塞尔教授的一句话:“不用怕,等20分钟他们(机器人)就没电了。”