ai的重要性,毋庸置疑。被认为是第四次工业革命引擎的ai,正在迎来核心算法突破、计算能力迅速提高、对海量数据充分发掘的关键阶段。在ai时代,深度学习框架和起着承上启下的作用,连接芯片与应用。拥有强大算力的ai芯片加持,ai技术才能得到更广泛普及。
5月13日,瑞芯微rockchip正式宣布,旗下ai芯片rk1808、rk1806适配百度飞桨(paddlepaddle)开源深度学习平台,充分兼容飞桨轻量化推理引擎paddle lite。瑞芯微与百度展开的合作有着一个颇为清晰的目标——为ai行业赋能更多应用场景,加速ai产品落地进程。
百度飞桨与瑞芯微兼容性认证书
据了解,瑞芯微的ai芯片rk1808及rk1806,内置独立npu神经计算单元,int8 算力高达3.0tops。
它们采用22nm fd-soi工艺,相同性能下的功耗相比主流28nm工艺产品降低约30%,在算力、性能、功耗等指标上均有优异表现。经实测,瑞芯微ai芯片在paddle lite中运行mobilenet v1耗时仅为6.5 ms,帧率高达153.8 fps,二者充分兼容并高效稳定运行。
从百度方面看,其飞桨产业级深度学习开源平台,有着长时间的深度学习技术研究和产业应用积累、经验。其集深度学习核心训练和预测框架、基础模型库、端到端开发套件、工具组件和服务平台于一体。paddle lite是飞桨推出的一套功能完善、易用性强且性能卓越的轻量化推理引擎,支持多种硬件、多种平台,具备轻量化部署、高性能实现等重要特性。
瑞芯微rk18xx系列芯片适配paddle lite
瑞芯微ai芯片在适配飞桨开源深度学习平台后,有着更为出色的效果。一方面,瑞芯微ai芯片可更好地赋能国内用户的业务需求,为端侧ai提供强劲算力。另一方面,二者的融合能充分发挥软硬件结合的优势,加快开发部署速度,推动更多ai应用的落地。
具体来看,瑞芯微ai芯片在飞桨上的详细操作方法可参考paddle lite文档,内容涵盖支持的芯片、设备列表、paddle模型与算子及参考示例演示等。
测试设备(rk1808 evb)
据了解,除rk1808及rk1806芯片解决方案外,瑞芯微旗下搭载npu的ai系列芯片也将陆续升级适配百度飞桨,进一步深化双方合作关系。可以预见的是,在瑞芯微和百度这对新cp的推动下,ai应用的落地速度将持续加快。