新闻  |   论坛  |   博客  |   在线研讨会
想做AI芯片?这家“中国拥有的外国公司”出了新的神经网络加速器内核
wangying | 2018-06-19 17:14:22    阅读:11149   发布文章

     近日,Imagination Tecnhologies公司在京举办了“Imagination人工智能(AI)研讨会”,并宣布推出PowerVR Series2NX神经网络加速器(NNA)内核。

     会上,主管PowerVR视觉和人工智能业务的副总裁Russell James和中国区区域市场和业务拓展总监柯川先生,介绍了AI及其芯片特点,及Imagination的新产品和中资背景。

     AI已处于快速发展阶段
     AI分为四个阶段,如下图。

图片2.png

       1.基础研究阶段。每当一个新技术来临时,一些大学院所机构和大公司(例如英特尔、谷歌等有基础研究部门)会进行反复研究论证,找到产业可能性。
       2.应用研究阶段,公司企业尝试让新技术通过原型机认证,以极大地解决生产生活中的痛点。
       3.产业快速发展阶段。此时机会多,新公司、大公司多,整个产业迅速发展。
       4.最后会出现一个相对成熟的市场,形成一些垄断企业/寡头,大浪淘沙,小鱼和慢鱼被淘汰。

       目前AI产业处于快速导入阶段,这也是公司资本和个人都在追逐的,前途非常光明。
       AI发展最多的是与应用的结合,例如金融、安防、医疗、教育、客服、视频/娱乐、零售/电商、建筑、法律、招聘、新闻资讯等,每个行业都有领先的企业或独角兽(如下图)。

图片3.png

       大部分落地应用的共同特点是取代一些简单的人工劳动,例如智能客服(代替人接电话)、人脸识别等。
       如果要把AI进一步做大做强,需要知识图谱的概念和数据结构化,使应用算法在行业里做深、做宽、做大。从弱AI到强AI方面,国内外很多大企业和顶尖院校正在做积累,希望在未来发挥更大的作用。

       AI和NN的关系
       NN(神经网络)是实现AI的方式之一,但不是唯一方式。

1529399898643766.png

                                   图:人工智能部分算法
       NN目前是各行各业最火最热的技术与应用之一,这催生了NN从算法到芯片等的行业的大发展。
       边缘AI的机会
       很多人认为是英伟达做的数据训练非常成功。但随着行业逐步加深,应用逐步多,发现仅仅在服务器端还不够的,端侧可以做极大延伸。例如,安防从嵌入式视觉系统到视觉导向的自主系统,即过去红外摄像头,保安和监控人员要看一二十个小时,现在把人眼看的部分,通过算法和数据集中到服务器端,下一步希望减少服务器的负担,在端侧——摄像头去做识别。这样做的好处,首先是可以减少网络带宽,因为网络存储等成本非常高;其次是性能,端处理回传会延时;第三是隐私性。
      另一个案例是无人机避障。如果通过云端或GPU做,需要10~15 m的缓冲区,这意味着在10-15 m之内无法判断,对消费类还可以,但农业、渔业、防火救灾等场景就不够了,需要精度在1 m之内,这就需要端侧的高效处理能力。

      市面上有各种方案,如下图。1.CPU尽管什么都可以做,但处理神经网络效率低,2.DSP最大的问题是有非常少的人员可以基于DSP去做编程,没有标准化和可覆盖。3.GPU,英伟达证明了非常适合处理AI,GPU有标准化的编程方式,但GPU还是功耗较大。是否有功耗非常低又非常灵活?4.固定功能的硬化,一旦硬化后只能做一件事,远远不够产业化。

图片6.png
    为此,Imagination有“GPU+NNA”方案。

     NNA的强大功能

     据Imagination测算,传统GPU搜1000张图需要1分钟;若在端侧处理,若采用Imagination的PowerVR NNA,用2秒就可以解决。同样花费1%功耗,GPU可处理2400张图片,端处理器PowerVR NNA可以做接近43万张图片处理。视频处理时,GPU做1分20秒的处理,如果用Imagination的端侧处理,可以做接近4个小时。  

图片5.png

       AI的三种芯片级解决方案
       AI芯片及解决方案主要有三大类。1.通用芯片,主要针对对系统性能要求较低的场景和使用案例,例如人脸识别,特点是处理时间较长,例如1秒/帧。2.NNA(神经网络加速器),用于想用AI达到较高的性能和表现的场景,例如移动手机的监控、机顶盒等。当然监控有多种类别,不可能用一种芯片达到不同场景的要求,但底层的技术都是一样的。3.专用芯片,针对专门的应用场景,特点是出货量高,因为量大,值得投资。
       Imagination主要提供第二类产品,即提供灵活的IP内核来达到高性能,特点是功耗低、带宽较低的场景。

        相比竞争对手,从过去到未来,Imagination的优势是在IP研发上的投入和领先度,Imagination总是把关注点放在未来市场需要什么,因此客户用Imagination的IP做产品,也会是领先于市场的。

        新的NNA内核

        此次推出的PowerVR 2NX神经网络加速器(NNA)内核,适合从物联网到智能监控、移动、工业等场景。

图片7.png

       例如关键的应用场景之一是移动,可帮助推进手机的差异化,例如识别是否是你的朋友、照片搜索、照片不同状态的转移(例如油画效果等)。

图片8.png

       智能摄像头监控方面,可用于大规模的实时分析,例如用人脸识别来进行目标跟踪,发现大型场馆入口的可疑行为等。还可对车队监控识别。还有物体识别功能,以发现人的可疑行径和物体。

图片9.png

       本次发布的两款重头戏是PowerVR Series2NX核心——AX2185和AX2145。前者针对高端市场,最高可达4.1 TOPS,定位高端智能手机、高端智能监控、汽车等。后者支持价格敏感性方案,可降低芯片面积,适合中端手机、智能相机和机顶盒的应用。

       Imagination产品分为三大类
       1.PowerVR系列GPU。2.AI产品线PowerVR 2NX NNA,基于2017年9月发布的产品,此次的新内核产品能够把AI领域做得更好。3.连接产品Ensigma,包括蓝牙、WiFI、GPS等。

图片10.png       NN处理除了PPA(性能功耗成本)外,有个最大因素——带宽,如果不把带宽降下来,无论你的硬件处理能力是10T、100T、1000T,实际产品应用时,只能达到100G、200G,因为带宽限制了处理速度和性能。Imagination可以帮助算法设计人员在网络神经中的层面可以随意调节数据的精度(如下图)。

图片11.png

       因为数据精度的意味着带宽的降低。例如8位神经网络,如果所有数据是1,如果降低4位,性能可提高到1.6倍,带宽能降低约50%,功耗能降低约30%,精度只降低1%,这充分证明了减少位数可减少带宽、降低功耗的好处。

       算法方面,Imagination公司做了大量研究,但是硬件公司做什么?如果算法公司做了带宽精度的降低,如果跑在端侧是1,跑在竞争对手上硬件,带宽是2倍,DSP上是4倍,所以降低带宽、数据精度方面,系统公司本身系统要考虑逐步做优化。

QQ截图20180619173836.png

       终端侧与服务器有何不同?要足够便宜、性价比高,还要有最好的性能,因此Imagination设计了自己的NNA。
 

QQ截图20180619173856.png

       NNA是高效处理,网络兼容性如何解决?NNA+GPU的成本相当于竞争对手的中高端产品相当。据Imagination称,其NN性能提高了200倍。

图片12.png

       从SoC角度看,如何实现GPU+NNA?同时,做IP仅有硬件是不够的,软件及API也很重要,Imagination所有的IP基础之上,包括过去现在未来都打通,任何开发者从基于DNN IP,无论现在、过去和未来,全部都适用。Imagination也不会强迫用户只支持自己私有的API,还支持Android、等标准组织的API,使开发者都可用到Imagination最好最优的方案。
       NN本身仅拼算力不够,Imagination有超过5年的经验积累定义合理的架构,有超过25年GPU的端的研发能力,使Imagination有足够经验来开发编译工具、调试工具等一整套系统。 还有和顶级厂商合作积累出来的。
       今年年底到明年年初,Imagination会有一系列惊人的产品推出。能够处理AI的问题,可以带给客户基于产业的各种价值。为产业和客户带来价值。

       Imagination是中国拥有的外国公司
       Imagination于1985年成立,1994年在伦敦上市。2006年,英特尔和苹果对Imagination进行了注资,2013年,Imagination收购了CPU公司厂商MIPS,2017年出货量达到110万颗。2017年5月被中资Canyon Bridge收购。由于Canny基金在美国,资金来源是国内,所以是中国拥有的外国公司。Canyon收购Imagination之前,为了防止美国的贸易纠纷,先剥离了MIPS业务。

图片13.png

       为何国内的资金收购这家英国公司?从中兴通讯等科技公司被美国禁售、封杀的现象,可以看到,无论中国在应用层面有多少创新,但一些相关国家如果对中国进行封锁,中国的整个产业链会受到影响,且损失比挣到的钱要多得多。无论高楼大厦多高、多漂亮,如果地基不牢,一遇到地震或风暴等灾害,都会有颠覆的危险。
       由此可知,中国需要加强基层、底层的创新,需要有牢靠的芯片,而自主知识产权(IP)是支撑芯片的核心部分。
       可见,中兴通讯事件更好地印证了国内的资本要投资在关键技术上。Imagination希望和国内的产业合作伙伴,通过5到10年时间,把所有核心掌握在自己手里,既做到里子又做到面子。


参与讨论
登录后参与讨论
推荐文章
最近访客