异构智能吴韧:专注高性低耗芯片,50人世界一流团队,启动新融资

10月24日,ai创业公司异构智能召开媒体见面会,创始人兼ceo吴韧博士详细介绍了异构智能最新发展。吴韧表示不竞争不随流 只做“赋能”的领导者。一个集终端、算法、神经网络、超级计算机、数据处理分析和云端的全栈解决方案,就是他所定义的领导者。
异构智能的芯片是5w15tops,唯一一款可以以低功效提供足够计算能力的芯片,真正做到高性能-低功效。第一款ai芯片(原型)预计会在今年圣诞节前推出。
据吴韧博士透露,novumind已汇聚一个遍布中美两国的50余人的世界一流技术团队,已启动筹备下一轮融资。
以下为吴韧博士现场透露的异构智能最新进展,划重点,enjoy
工欲善其事必先利其器
工匠想要使他的工作做好,一定要先让工具锋利。吴韧举了一个更生活化的吃冰淇淋的比喻。“冰淇淋可以用手沾着吃,但没有效率。也可以拿吸管吃,但是效率也不是很高。再厉害一点用一个小平面吃,但也不是最优。最好的是用一个为吃冰淇淋设计的一个三维的勺子”。做某一件事情最好为其设计一个最专用的工具,这和卷积的例子是相通的。
人工智能的核心计算是三维张量的卷积计算,小立方体和大立方体重合的部分做点乘。用dsp是在一维上做操作,tpu与gpu在两维做操作。只有异构智能的芯片在三维层面做操作,并且有四项专利保护。
第一项专利是三维张量的卷积,人工智能最重要的操作,可以用硬件直接实现。其他三项专利是对数据的调度与分配,归并,处理器间的协作。
算法上分出高下的程度不到两个数量级,各方都是百分比之间的差别。而在计算能力方面,则可能是数量级的区别。从三十年以前吴韧就是计算机中国象棋的世界冠军,并且十多年没人能靠近他的成功。到hp之后,他做了用gpu解决big data analytic的问题,为大数据计算走出了通路。在2014年他为百度做出了第一台超级计算机,为人工智能构造了基础的建设。吴韧坚信人工智能的核心不在算法,而在超级的计算能力,他更希望把自己定位为计算科学家,万变不离其宗,计算就是宗,只要把计算做得更强,就可以赢。
不竞争不随流只做“赋能”的领导者
吴韧在采访中曾说,世界上聪明人很多,但往往都是追随者而不是领导者。
一个集终端、算法、神经网络、超级计算机、数据处理分析和云端的全栈解决方案,就是他所定义的领导者。novumind在吴韧看来,就是用全新的方法进行人工智能的应用,这和传统的一切方式都不一样——即吴韧的“全栈式”理念。
对于大部分急需 ai 技术的公司,一方面不可能挥金如土去雇几个百万年薪的技术大牛,也不可能买得起千万起的训练设备,另一方面即使买了芯片也不会很好地操作运用。针对这一点,吴韧表示novumind 并不钻到很细的点解决一个问题,而是对于无论人工智能的其他公司或是传统的公司,都为他们赋能,能力就是为这些公司提供人工智能的能力。
有自己设计的超级计算机进行训练,芯片可以用最高性能功耗比实现设计出来的模型,加上算法和研究的人才,使得可以对不同的行业,提供“全栈式”的服务。大多数ai公司希望在某个领域把事情做得更好,异构智能不同的就是它有芯片、模型、超级计算机,将模型脱离云端,带到本地和终端,让终端变得智能。
高性能-低功耗 novumind如何事半功倍?
芯片用电量与市场规模成反比,异构智能公司在两年前成立之时便发现这点,提出将人工智能的能力用最小的功效实现的愿景。
把ai放在终端有两方面难度,第一芯片要高性能,因为人工智能的计算很复杂,第二需要低功耗,因为要放在很小的东西上。吴韧认为应对该挑战的做法,是为人工智能做了极端定制化的芯片。这款芯片不会用来上网或其它计算,它擅长在三维上做卷积张量的计算,把人工智能的计算加速,把人工智能应用的计算做得比别人好。“看华为,谷歌,高通的芯片,人工智能芯片需要10tops的计算能力才能把应用实现,可以看到几款google等公司做的顶级的芯片,计算能力很高,但耗电很高,不能满足人工智能在本地落地的条件。movitus、高通、寒武纪麒麟970的芯片等,用了很少的电,但计算能力又比我们想要的计算能力少了两个数量级,虽然用了很少的电,但是不能做很有意义的计算”。异构智能的芯片是5w15tops,唯一一款可以以低功效提供足够计算能力的芯片。5w是usb可以提供的电量,应用这样电量的芯片有很大应用空间,这是从云端突破到终端的能力。
高性能-低功效,这是异构智能为人工智能所设计的芯片,真正做到事半功倍。
有得有失方能成功吴韧的ai哲学观
为什么异构智能的芯片做的比别人好?对此吴韧谈到,“在公平的世界,有得就有失,要扔掉一些东西才能得到一些东西。当年gpu赢过cpu就是因为gpu比cpu专用,异构智能为一个专门的人工智能场景设计一款最专用的芯片,有最高的性能功耗比。现在对专用性追求的决心是异构智能所最突出的优点。对世界的看法,对专用性的看法,异构智能的看法比大厂商更准确所以芯片有更强的竞争优势。”
和其他芯片厂商做法不同的是novumind 完全舍弃了“矩阵”。常规来说,在数学和工程上,矩阵能够达到凭借最小的操作覆盖最多应用场景的效果,把矩阵做好以后,大部分工程问题都可以解决。但矩阵本身并不是 ai 计算的关键点,关键在于卷积,也就是三维张量的计算 。吴韧认为要解决视觉问题,这个芯片就把这件事做彻底,完全不考虑任何通用性,极端定制化带来极端的性能优势。
强强联手落地“端智能”
异构智能有很多的应用场景想象空间。目前在医疗、智能安防、智能驾驶,智慧城市等领域以及hp、kuka等顶级公司都有应用与合作。
今年芯片设计在fpga上通过,在安防的应用在fpga上跑通。吴韧透露,安防方面公司未来会有10万路监控产品。
医疗方面,希氏医疗在成都落地;与华西医大的合作,拿到了20万份数据,得到了95%的准确度的模型。医疗方面的两大突破是视网膜识别糖尿病,皮肤照片识别皮肤癌,这两项google带来的突破都用了10万份的数据并且接近90%的准确性。“异构智能的工作比google准确率更高,数据规模更大,因此在某种程度上甚至更为成功。”
在近日举办的英伟达 gtc 欧洲大会上,吴韧第一次对外展示了 novumind 耗时两年开发的深度学习训练平台,并且宣布与惠普 hpe 达成了战略合作,引起业界高度关注。
两年蓄势积能简历丰满自我介绍自信笃定
吴韧先后担任amd异构系统首席软件架构师,惠普实验室 cuda 研究中心首席研究员,百度公司杰出的科学家,两年前,他决定创业,致力于打造“asic芯片+训练模型”的全栈式ai解决方案。
目前,novumind已汇聚一个遍布中美两国的50余人的世界一流技术团队,团队成员主要由硅谷的科学家以及来自于英特尔、三星、领英、谷歌、惠普等知名企业的技术精英组成,平均研发经验近十年。吴韧说novumind不局限于中、美、欧市场,所面向的是世界这个大市场,但中国是重点发展的重要部分。
打破传统的“全栈式”新型服务理念以及强大的研发实力使novumind受到诸多资本的青睐。2016 年 12 月,novumind获得洪泰基金、宽带资本、真格基金等投资的 1500 万美元a轮融资。
吴韧表示,novumind的第一款ai芯片(原型)预计会在今年圣诞节前推出;目前,为使应用程序在明年 2 月份准备就绪,并能够在该芯片上实现耗能不超过 5瓦进行 15 万亿次浮点运算,团队争分夺秒地进行研发工作。吴韧还透露,novumind的第二款芯片,耗能将不超过 1 瓦,计划在 2018 年中期面世。
目前,novumind 已启动筹备下一轮融资,本轮融资将会被用于产品研发和扩大团队。