人工智能的热潮,让众多初创公司都努力和AI产生关联以便获得融资和吸引更多关注,大公司们也都不愿落后,纷纷通过不同方式布局AI。芯片的算力作为推动AI发展的关键之一,连谷歌、Amazon、Facebook这些不以硬件见长的科技巨头都开始了AI芯片的自主研发。不过,AI芯片从概念到量产并非易事,以国内AI芯片公司海思和寒武纪为代表,看看他们为何能更快更好地设计出AI芯片?
科技巨头们的芯片自研热潮与海思的摩尔定律困扰
在近日举行的Cadence全球用户大会CDNLive China 2018,Cadence公司首席执行官、华登国际创始人陈立武在开幕演讲中指出,人工智能、5G、边缘计算、数据中心和自动驾驶将会成为半导体发展的下一个重要推手。在接受媒体采访时陈立武还表示:“半导体前景很好,2017年半导体产业营收超过4000亿美元,同比增长超过20%。现在的机会太多了,正是干半导体的好时候。”他所说的好机会其中很大一部分就与人工智能相关。
Cadence首席执行官、华登国际创始人陈立武
因此,我们看到最近几年无论是国外的谷歌、Amazon、Facebook还是国内的阿里、百度这些不擅长硬件的科技巨头们都在积极研发AI芯片。对此,陈立武告诉雷锋网:“作为一家提供EDA(Electronic Design Automation,电子设计自动化)/半导体IP的公司,Cadence(楷登电子)非常欢迎更多的公司进入芯片领域。
科技巨头积极布局AI是因为他们不希望落后,因为他们都有大量的数据。当然,科技公司开始做芯片并不意味着传统的芯片厂商会被取代,科技公司希望在一些应用上用自主研发的芯片来提升效率。”
Cadence亚太区IP销售总监陈会馨
Cadence亚太区IP销售总监陈会馨接受雷锋网专访时也表示:“目前AI Cloud服务器主要是以GPU为主,但GPU能否很好地适应AI算法现在有不同的意见。科技公司其实很早就已经在做算法的研发,也有FPGA的团队。FPGA一开始算法不是很稳定,对芯片需求不是很大的时候可能是一个比较中间的方案,随着AI整个需求的发展,AI芯片也会有很大的增长。”
不过,无论是传统芯片厂商还是科技巨头想要研发出算力更高、功耗更低的AI芯片就不得不面对摩尔定律放缓的问题。从国内芯片的龙头华为海思来看,华为海思平台与关键技术开发部部长夏禹在CDNLive 2018大会的演讲中指出,过去海思一直紧跟摩尔定律,按工艺节奏复合演进,为云端和终端设备提供更多的算力、更宽的带宽和更低的功耗,
如今摩尔定律从某种程度看只是一个抵抗通货膨胀的工具,芯片设计的挑战也日益严峻。随着不同终端的流行和需求的增加,工艺制程的演进使芯片设计人员面对前所未见的的设计、验证和仿真问题。特别是模拟电路方面EDA厂商的提升落后于逻辑器件,这给现在的芯片设计带来了明显的影响。
摩尔定律带来的芯片设计挑战
对此,Cadence全球副总裁石丰瑜接受采访时表示:“
仿真方面SPICE(Simulation Program with Integrated Circuit Emphasis, 以集成电路为重点的仿真程序)很准但是不够快,所以就要有一个Fast SPICE,但太快了不准,准了又不够快,需要找到平衡点。从海思来看EDA工具还不够快,尤其是往10nm、7nm甚至未来的5nm,芯片仿真会遇到更大的挑战。数字仿真落后没那么多,模拟方面大家觉得进步相对较慢。为此我们也汇聚了一大批模拟仿真方面的世界级高手,比如我们公司总裁Anirudh Devgan,他自己就是世界级的模拟仿真高手,我们一起去搭建针对不同场景的方案去解决其面对的问题。”
陈立武还补充道:“模拟正发挥越来越大的作用,我们最近推出的五个新产品四个和模拟有关。我们会在SPICE上下功夫,我们很喜欢海思,他们给我们提出了挑战,这让我们进步应该更快一点,我们会一如既往地和他们配合。”
寒武纪16nm云端AI芯片流片时间节省了一半
海思作为国内手机SoC领先的厂商,不仅体现在麒麟处理器的出货量上,更体现在其麒麟970搭载的NPU上。麒麟970被称为全球首款
人工智能手机处理器,而麒麟970搭载的NPU是寒武纪的人工智能处理器IP。据悉麒麟980还将继续搭载新一代寒武纪的人工智能处理器IP。
为麒麟970提供人工智能处理器IP的寒武纪如今已是全球AI领域的独角兽,但寒武纪能够快速推出AI芯片与Cadence的合作十分关键。陈会馨表示:“AI芯片领域很多都是初创公司,我们选择合作伙伴不是以大小决定,而是会看他技术的独到性、储备还有经营的理念。寒武纪和我们各方面都比较契合,所以很自然地就有了合作。”
据雷锋网了解,寒武纪的第一款IP产品已经和Cadence Tensilica P6 DSP处理器在人工智能手机芯片领域实现了千万级大规模商用。寒武纪在多个芯片研发中也都使用了Cadence Palladium Z1硬件仿真加速器以及内存接口和PCIE等关键IP。寒武纪CEO陈天石表示:“Cadence的Memory interface IP和I/O interface IP产品支撑寒武纪第一款云端智能芯片产品成功流片并达到设计预期。”
关于Cadence与寒武纪第一款云端芯片的合作,陈会馨接受采访时表示:“寒武纪作为国内AI芯片的独角兽,是一家有远大目标的初创公司,他们整个的芯片设计周期非常短,大概用了半年的时间16nm芯片就完成了流片。这在我合作过的公司当中很少见,因为16nm的芯片至少要一年的设计周期,相当于少用了一半的时间。能够取得这样的结果一方面是寒武纪本身的实力,另一方面先建立一个非常有效的验证平台也很重要。Cadence给他们授权了相关接口IP,这也是我们第一次和寒武纪在16nm上接口IP的合作。”
需要指出的是,
云端神经网络AI处理器有很多数据需要处理,因此要做缓存,需要非常大的带宽来提高效率,必须达到芯片互联才能更好地提升芯片性能,而普通的DDR是很大的瓶颈,PCIE4.0、5.0将会是未来几年的主流,关于新的存储技术如HBM2、GDDR6应用到AI芯片里的讨论也很多。陈会馨还补充道:“虽然寒武纪整个芯片设计周期非常短,但是其实在IP整合、验证、实现等方面都有很多问题需要交流。在这个合作当中我们对寒武纪有很大的支持,包括我们的研发也直接对接寒武纪。”
除了性能,功耗也是移动端AI芯片非常关注的问题。那么功耗问题能否通过EDA工具来解决?陈会馨表示,在芯片设计的时候工艺以及芯片的架构的选择就在很大程度上决定了芯片的功耗,EDA工具的作用是帮助芯片设计人员降低功耗。
在终端上,我认为除了像车载一类的应用对数据的实时性要求不会那么高,所以对算力也没有特别高的要求。并且,数据在终端上先处理再传输到边缘端或者云端也能够实现更好的保密性,因此终端的AI芯片如何做的更便宜、功耗很低很重要。
如何才能更快更好地设计出AI芯片?
无论是海思还是寒武纪,他们都在芯片领域有深厚的积累,但对于许多没有那么深厚积累又想更快设计出AI芯片的公司,EDA工具就将发挥更重要的作用。陈会馨表示对于新的客户或者从其他行业转过来的芯片客户,需要提供从IP到工具的全面的解决方案。
陈立武表示Cadence正在转型成系统设计公司,我们有独有的系统设计实现(System Design Enablement,SDE)战略。
Cadence将不仅做EDA平台,我们想做的是SDE平台,
其中除了IP和安全等芯片相关的产品,封装和系统集成等方面也需要我们重点考虑。提出这个战略很重要的原因是我们现在40%以上的客户是系统公司和服务型供应商,这些汽车、云服务商或一些系统公司都开始慢慢做芯片,我们看到系统公司的需求。
当然,目前的AI芯片主要基于CPU、GPU、FPGA和ASIC,也有类脑芯片,但无论是哪种类型的芯片验证都非常关键,因此Cadence在验证方面加强了对FPGA的支持。
不过除了硬件,陈立武认为AI芯片的成功软件也非常关键。
Cadence亚太区IP销售总监陈会馨也表示,AI芯片想要有差异或者说增强竞争力,可以和有潜力和技术很有特点的软件公司进行战略合作。比如有做智能语音算法的公司算法很好,但苦于找不到性能和功耗都适合的硬件平台,此时如果双方能合作实现更好地软硬结合就将发挥更大的价值。以Cadence的Tensilica DSP为例,我们与国内几十家软件厂商都有合作,通过合作更好地发挥DSP的功耗效率优势,让DSP在语音和视觉应用方面更多的出现在移动终端和物联网设备当中。
软件之外,不断演进的算法也是人工智能发展的关键,那Cadence是否会推出专门针对神经网络算法的EDA工具?陈会馨表示,我们暂时没有新的工具推出,但会在工具当中加入一些新功能来支持现在AI芯片的趋势。举个例子,AI芯片里面需要大量的运算器,这在后端实现时成本就是一个很大的挑战,但我们会通过新的功能解决这个问题。
对于不断更新的算法,AI芯片即便是ASIC在设计的时候会保持一定的灵活性,这时候Tensilica DSP也可以发挥作用,支持新的函数或者算法。
还有一个值得一提新的趋势,那就是将EDA工具放到如亚马逊、谷歌的云上。石丰瑜表示将EDA工具放到云上有三个方面的原因,第一是性能,云上的算力无穷无尽,不同的需求都能够得到满足;第二是对初创企业友好,许多初创企业没有足够的资金和技术人员搭建一个服务器架构支撑复杂的EDA需求,这时候用云做更快;第三是需求,并不是所有客户都需要大算力,也不需要买那么多软件,只有在特殊情况下突然需要10倍的授权,因此根据不同的需求和不同的商业模式,在云上都能满足不同的需求。
不过,
EDA工具上云面临诸多挑战,不仅需要上下游厂商如Arm、台积电的支持,与云服务厂商等的多方合作也非常关键。Cadence副总裁中国及东南亚区总经理徐昀表示:“虽然我们已经有将EDA工具放到云上的能力并且在国外也已经实现,但这项服务还没有在国内应用,与Cadence的其他服务一样,我们的产品和服务主要会考虑到客户的需求,对于国内公司的需求,我们保持着密切的关注,另外还要考虑国内知识产权保护问题。无论如何,我们都希望在整个设计的的过程中吧时间缩到最短。”
Cadence副总裁中国及东南亚区总经理徐昀、Cadence公司首席执行官、华登国际创始人陈立武、Cadence全球副总裁石丰瑜接受媒体采访
雷锋网小结
无论是传统的芯片厂商还是新入局的科技巨头还是众多的初创公司,在研发AI芯片的时候一定绕不开像Cadence这样的EDA/IP公司,他们所提供的仿真、验证工具以及IP也在很大程度上决定着AI芯片的流片快慢。传统芯片公司虽然积累深厚,但是在软件方面无论是积累还是人才方面都面临挑战。新入局的公司则需要完整的解决方案,最大程度降低设计难度以及加速芯片的量产。这也是包括海思和寒武纪在内的AI芯片公司设计AI芯片都需要“盯着”Cadence的原因。
从EDA/IP厂商的角度,无论是整套的完整的解决方案、新增针对神经网络的功能、将EDA工具放到云端,目的都与CDNLive一样,希望通过与客户更多地沟通,更好地满足芯片设计厂商的需求共同推动AI芯片更快上市,让AI从较早期的阶段走向成熟,让AI技术的应用不再局限于自动驾驶和安防,通过AI技术与医疗、机器人等的结合,让AI更好地服务我们的生活。