随着人工智能、机器学习技术和物联网的兴起,应用开始向收集数据的网络边缘迁移。为缩小体积、减少产热、提高计算性能,这些边缘应用需要节能型的解决方案。Microchip Technology Inc.(美国微芯科技公司)发布的智能嵌入式视觉解决方案,致力于让软件开发人员可以更方便地在PolarFire®现场可编程门阵列(FPGA)内执行算法,进而满足边缘应用对节能型推理功能日益增长的需求。作为Microchip嵌入式解决方案组合的重要新成员,VectorBlox加速器软件开发工具包(SDK)可帮助软件开发人员在不学习FPGA工具流的前提下,利用Microchip PolarFire FPGA创建灵活的低功耗覆盖神经网络应用。
FPGA是边缘人工智能应用(例如功耗受限的计算环境下的推理功能)的理想选择,因为FPGA拥有更高的运算能力(GOPS),能耗比中央处理器(CPU)和图形处理器(GPU)更优。但是,FPGA需要操作人员具备专业的硬件设计技能。Microchip的VectorBlox加速器SDK可帮助开发人员在不具备FPGA设计经验的前提下用C/C++语言进行编码,对节能神经网络进行编程。
这一高度灵活的工具包能够以TensorFlow和开放神经网络交换(ONNX)的格式执行模型,最大程度地提升框架的互操作性。ONNX支持Caffe2、MXNet、PyTorch和MATLAB®等众多框架。与其他FPGA解决方案不同的是,VectorBlox加速器 SDK在Linux®和Windows®操作系统上均可使用,且包含精度达到比特级的模拟器。利用模拟器,用户可以在软件环境中验证硬件的精度。此外,利用VectorBlox 加速器 SDK包含的神经网络IP,用户可在运行期间加载不同的网络模型。
Microchip FPGA事业部副总裁Bruce Weyer表示:“为确保软件开发人员能充分利用FPGA的节能特点,我们应设法使开发人员不再需要学习新的FPGA架构和专属工具流,同时让他们可以灵活地连接多框架和多网络解决方案。利用VectorBlox 加速器 SDK和神经网络IP核,软件和硬件开发人员可以在PolarFire FPGA上部署极其灵活的覆盖神经网络卷积架构。通过PolarFire FPGA,他们可以更轻松地构建和部署在外形尺寸、产热和功耗方面达到一流水准的人工智能边缘系统。”
在边缘执行推理功能时,PolarFire FPGA的总功耗比同类竞争产品低50%,同时数学模块的容量比同类竞争产品高25%,每秒运算次数(TOPS)高达1.5万亿次。开发人员还可凭借PolarFire FPGA固有的易升级性和将不同功能集成至单个芯片上的能力,更好地实施定制,实现差异化。PolarFire FPGA神经网络IP有多种尺寸可供选择,可在性能、功耗和封装尺寸之间实现平衡和取舍,符合应用需求,最小封装尺寸可以达到11×11mm。
去年7月发布的Microchip智能嵌入式视觉解决方案旨在为硬件和软件开发人员提供工具、知识产权(IP)核和电路板,以满足边缘应用对低发热和小封装的要求。相比其他解决方案,PolarFire FPGA的功耗更低。因此,客户不再需要在机壳内设置风扇。此外,客户在设计中利用PolarFire FPGA可实现功能整合。例如,在智能摄像头等应用中,PolarFire FPGA可以将传感器接口、DDR控制器、图像信号处理(ISP)IP和网络接口集成至图像信号管中,并整合机器学习推理功能。