看看高通Rajesh PankajAI研发最关注高能效,云端AI推理芯片已流片成功

高通,移动互联网时代最成功的之一。它对通信技术以及专利的掌控,已经主导整个行业20余年。一代代旗舰芯片和移动平台,更是安卓手机厂商核心竞争力和卖点之一。但随着ai浪潮汹涌,移动互联网向移动ai的转换已成大势。高通作为移动互联网领域的大赢家,将如何发力ai,来抓住移动ai时代?外呼机器人够利用自身优点将电销行业相结合,从而发展延伸出巨大的能力,他的优势已经超乎我们的想象。
关于高通ai动向,已经有过很多次披露,但都聚焦在业务上。其ai技术研发上,是怎样的一个格局?高通ai研发,如何驱动高通的移动ai业务?
rajesh pankaj,高通工程技术高级副总裁,是为数不多能够回答这些问题的人,再次来到中国。
rajesh pankaj是一名“老高通”,从1997年至今,已经在高通工作了22年。
现在,他也是高通企业研发部门(crd)的负责人。而这个部门,正是高通ai研发的核心。
带着上述的这些问题,我们与他进行了深入交流,试图寻找高通将要如何继续主导移动ai时代的答案。
更低功耗,更高能效,高通ai研发的重心所向
在与rajesh pankaj的交流中,他提到最多的,就是如何在低功耗环境下让ai发挥出更高的能效。
他说,这是高通ai研发最关注的领域。
其实不仅仅是高通,在当下这已经成为了业内备受关注的ai研发方向之一。
近年来,各种关于模型压缩的算法大量出现。谷歌、facebook、百度也纷纷在自家的ai框架中加入端侧推理部署能力。
rajesh pankaj从5g和ai的角度解释了背后的趋势。
一方面是ai技术的进一步成熟,相关的研究不再只是关注用ai解决问题,业界和学界开始考虑让ai进入到终端中,实现更多能力。
另一方面是5g的兴起,超低时延的数据传输变成了现实,端云协同变得触手可及。
这也就意味着和之前只依靠终端或者云端相比,边缘设备上能够实现更多的ai能力。
虽然相应的条件已经出现,但都处于不断完善中。不同的,都在通过不同的方式角逐未来。
rajesh pankaj说,得益于移动设备领域的技术积累,“低功耗环境下,实现高能效的ai,是高通最强的领域。
高通也给出了相应的数据进行了佐证:利用张量分解、通道简化等手段压缩ai模型架构,压缩量达到3倍,同时准确度仅损失不到1%。
此外还有高精度训练、低精度推理的方法来实现能效的提升:高通用量化8位推理模型,实现内存和计算4倍能效提升,可以和fp32实现近乎相同的准确率。
除此之外,高通还在优化编译器、内存计算ai等方面开展了相应的研究,为ai计算节能加速。
在专访过程中,rajesh pankaj也进一步解释说,虽然他很屡次提起低功耗运行ai,但这并不是高通ai研发的全部。
他说,从更大的角度来看,高通关注的是与端侧设备有关的所有ai,只要能够对业务带来帮助,都会投入资源去研发。
这些技术,并不都是处于研发阶段,高通也已经将这些技术应用到了移动ai芯片中。
2015年的骁龙820开始,高通的旗舰芯片就已经在全面集成高通自研人工智能引擎ai engine。
到骁龙855,已经是第四代人工智能引擎ai engine,突出的点在于异构计算。
核心能力,是让cpu、gpu、hexagon不同功能的核心发挥各自所长,而又相互协作,共同实现高效的ai处理。
高通出圈:云端推理芯片已流片成功
虽然在相应的技术研发上,高通聚焦于端侧ai。但ai带来的不仅仅是冲击,也有机会。在场景上,高通也正在出圈。
最能体现这一动向的,不是高通面向iot和汽车领域大秀肌肉。而是其4月份发布的一个数据中心ai推理芯片:cloud ai 100。
同样,这一芯片主打的也是高能效。
在发布的时候,高通表示,这一芯片能降低终端与数据中心的延迟,提高ai云端效率。与其他商用方案相比,cloud ai 100每瓦特性能提升了10倍。
微软和facebook也为高通的这一芯片站台,并在产品发布时,分享了部署ai推理芯片的计划:微软用它发现工业生产中的安全问题,facebook则用它处理智能助理、视频ar特效以及加速vr硬件。
但在当时,高通只是宣布了芯片,并没有给出具体的产品。
rajesh pankaj也介绍了这一芯片的研发进展:芯片现在已经流片成功,并交于合作伙伴进行部署测试,明年会正式商用。
虽然这款芯片应用于云端,但rajesh pankaj说,高通暂时没有提供云服务的打算,硬件会对外出售,并配备相应的软件支持,来帮助合作伙伴搭建相应开发生态。
而且,这一芯片的出现,也在帮助高通拓展新的场景。
rajesh pankaj透露,不仅仅只有移动设备以及云服务商对这个芯片感兴趣,还有不少汽车厂商以及其他架构厂商也展现出了兴趣。
他说,在这些合作过程中,高通也会将ai落地到更多的领域中去。
与此同时,高通发力ai也不仅仅只是单打独斗。科技巨头们擅长使用的投资收购手段,它也没有落下。
2018年,高通风投成立了1亿美元的ai投资基金,主要用于投资5g赋能的ai领域,为自动驾驶汽车、机器人和机器学习平台开发新技术的企业。
高通的ai发展之道
聚焦端侧,巩固自身在高能效ai方面的领先地位。然后以此为切入点,不断拓宽ai的落地场景。
这是高通当下发展ai的重要策略之一。在rajesh pankaj看来,这背后也凸显出了高通在技术研发与商业落地上的一个“传统”:
高通所研发的ai,只是ai领域的一部分。其研发的目标,就是在这一部分中占据领导地位。只要技术在这一领域占据了主导地位,产品自然就更有优势了。
这在一定程度上,也反映了高通的“人才观”。
谈到高通如何吸引ai人才时,rajesh pankaj也表达了类似的观点,只需要把要做的做好,自然就会有人才加入。
此外,rajesh pankaj还谈到了高通吸引人才的另外一个特征:研究成果很快就会影响产品。他说,这对于很多研究者来说,都是一个难以抵挡的诱惑。