提及人工智能,互联网+,自然,最为首先的一个因素便是网络,不管是如何的高科技,在目前的情况来看,脱离了网络的高科技是不存在的,但是就在昨日,杭州国芯发布了一款最新产品,却彻底颠覆了这种传统的观念,杭州国芯发布其首颗语音AI芯片GX8010,该芯片专为物联网应用设计,搭载NPU(神经网络处理器)、DSP(数字信号处理)等技术,具备低功耗、可离线、可移动的优势。
人工智能或者语音交互需要更多的计算力,目前业界更多的是将这种交互数据放到云端处理,而杭州国芯推出的这款芯片则将更多计算放到前端,也就是说智能设备就可以在没有网络的情况下离线工作,它又如何做到在本地处理大量的计算呢?
一、从数字电视芯片到AI芯片
杭州国芯是一家本土的芯片公司,成立于2001年,已经有17年的历史。最初杭州国芯主要做数字电视芯片、机顶盒芯片,产品已遍销全球。
在2012年深度学习出现以后,大大推动了人工智能的发展,语音和视觉技术不断取得突破。而与此同时,深度学习对处理器的计算力也提出了更高的要求。
因此更多的公司将AI的计算能力放到云端进行处理,典型的代表就是谷歌。但杭州国芯CEO黄智杰表示,如果所有数据都放到云端处理,计算力的成本高昂,与用户交互也会有延迟,在无网络的情况下机器就会无法工作,并且对功耗有更大的需求,不能满足设备的移动性。
“而深度学习的发展,既是机遇也是挑战,技术变革意味着大家又处于同一起跑线上,国芯也从最初的数字电视芯片过度到面向物联网的AI芯片”,黄智杰谈到。
在2016年初,杭州国芯就成立了AI事业部,想要面向物联网市场提供一款专用AI芯片,能够在本地离线、低功耗、可移动的工作。这款芯片就是GX8010。
GX8010芯片中内置了杭州国芯自主研发的gxNPU神经网络处理器,没错就是华为麒麟970和苹果A11中应用的NPU。它能够对神经网络加速,解决传统芯片在神经网络运算效率底下的难题。
整个芯片采用多核异构的架构,集成了国芯gxNPU,ARM Cortex A7 CPU,Hifi-4 DSP等多个处理器,这些模块全面整合在一颗芯片上,集成度也更高。
二、本地化计算
刚刚前面提到,深度学习对计算力有更大的需求,目前业界更多将更多计算力放在云端处理,而GX8010芯片则实现了将更多数据计算放在前端。
放在前端的一个问题就是带宽。为了解决物联网设备中内存带宽小的特点,国芯专门设计了神经网络压缩引擎NCompressor。它能利用神经网络中的数据稀疏特性,压缩计算权重,可实现6~10倍的压缩效果。
神经网络经过压缩后,需要的内存容量和带宽大幅减少,同时运算的速度也得到了提高。通过Demo展示,我们可以看到智能设备可以全部离线在本地完成,如听音乐、日常问答、闲聊等,本地计算能够实现更低延迟,更快的交互能力。
尤其是在没有网络的环境下,本地的计算能力能够让用户随时随地使用智能设备,延伸了智能设备的使用场景。
三、全面集成 全栈打通
所谓的全面集成就是将所需要的模块,如NPU、CPU、DSP以及存储模块等全部集成到一起,满足物联网设备智能交互的需求。所谓全栈打通,是从芯片端实现了从硬件到软件、服务等的全线打通。
黄智杰谈到,AI芯片要真正落地,光有NPU还远远不够。因为整个AI交互是一个非常复杂的过程,除了神经网络计算还包括传感器接入,信号处理,检测识别,以及软件层面的决策和反馈等,环节众多,每一处需要的算法和计算特性还不一样,对此国芯提出了“全面集成,全栈打通”的策略。
此外,GX8010芯片还有一大特性就是低功耗。目前的智能设备大多面临功耗大的问题,因此需要插电使用,这也对使用场景形成的限制。
杭州国芯在这款芯片中通过多核异构、多级唤醒的策略,可以根据是否有声音、是否有人声,是否是关键词这多个等级来做硬件划分,逐级唤醒系统。在待机时,GX8010应用最新的VAD(Voice Activity Detection)技术,检测麦克风有没有语音输入,一旦接收到语音指令,DSP程序启动降噪,接着NPU启动激活词识别,如检测到关键词才激活整个应用系统。这样合理安排每个模块的工作频率和启停时机,做到按需使用,用完即停,从而大幅降低功耗。
四、面向三大主要场景
GX8010作为一款语音AI芯片,主要面向智能音箱、智能电视、智能玩具/幼教领域。
以智能音箱为例,当前语音识别的巨大挑战仍在前端的语音降噪,为了解决噪声和有效语音分离问题,业内引入了麦克风阵列,利用空间信息进行降噪滤波。多个麦克风的引入首先对硬件上的接口就提出了要求。
而国芯推出的这款GX8010芯片中支持8通道麦克风接口,不仅支持PDM和I2S数字接口,还内置了8路ADC直接支持模拟麦克风,集成度较高。
目前市面上的智能音箱因为功耗问题大多选择了电源供电。而GX8010芯片通过多级唤醒的策略实现低功耗,可以实现超长待机。
再加上该芯片支持离在线混合使用,也使智能音箱摆脱了使用场景和使用时长的限制,扩展了智能音箱的使用空间。
结语:蜂拥而上的AI芯片
近期随着华为、苹果推出AI芯片后,掀起了一股AI芯片热,预计未来还会有更多的AI芯片出现。这也反映出硬件设备对智能化的需求在不断扩大。
杭州国芯此次推出的AI芯片,是更多侧重于语音的专用芯片,相比市面上的其他智能硬件,搭载这款芯片的设备可以支持离线工作、更低功耗以及移动化,扩展的智能设备的使用场景。
对于行业而言,目前智能语音行业整个产业链各个环节还不够成熟,而芯片是上游首当其冲需要提升的一块。随着联发科、杭州国芯等专用的语音芯片的推出,能够从底层推动整个智能语音行业的发展。