你不一定知道的高通AI硬实力
高通中国区董事长孟樸在日前举办的"2019 Qualcomm人工智能开放日"上表示,5G将成为一项通用技术,使万事万物彼此互连。它也将如电力和互联网一样,为人类的生产生活带来翻天腹地的变化,创新者也将迎来一个充满新机遇的时代。
Qualcomm中国区董事长孟樸
"在5G时代,信息就像电一样,往来穿梭于云和端之间,成为一种巨大的新能量。未来的10年中,与5G部署并行发展的技术领域,将是大数据的分析和运用,其核心应用就是人工智能",孟樸接着说。在他看来,AI将推动整个商业格局的根本性转变,当中包括了手机等移动终端、汽车、智慧交通、物联网等等。
作为产业的领先者,高通正在推动AI从云到端的布局,助力开发者更快走入新时代。
从孟樸的介绍中我们得知,高通在2007年起就启动了首个AI研究项目,公司在过去十多年也一直致力于AI领域各个方面的研究,也驱动公司产品路线图中AI的应用,他们说做的基础研究和所交付的产品,可以让AI应用于众多行业。到2018年,他们还成立了Qualcomm AI Research,希望进一步加速AI创新。
高通投入AI研究已经超过十年
高通技术工程高级总监、 AI研发负责人侯纪磊博士也指出,高通正在打造平台式创新,推动人工智能在行业实现规模化运用。例如为了实现人工智能的的高能效,高通通过自动化技术,利用AI技术来优化AI模型,缩短产品上市时间并减少工程成本。具体下来则是通过压缩、量化和编译三种方式来实现。
高通实现高能效的三种方式
据侯纪磊介绍,高通在压缩AI模型架构的时候,能够自动移除不重要/荣誉单元,同时保证准确度。数据显示,在压缩大三倍的时候,准确度损失低于1%;在量化方面,也能在自动降低权重和激活进度的同时,保证准确度。从高通提供的数据我们可以看到,他们在FP32和量化INT8上能实现近乎相同的准确度,其更低内存和计算则可以带来每瓦特性能的4倍提升;至于编译方面,高通面向自动化硬件编译的强化学习,可以应对数十种潜在组合,在TensorFlow Lite上更是可以实现4倍加速。
如下图所示,高通在AI硬件加速方面也有不少的研究。这对但比特操作,他们甚至实现了运算能耗的10倍到100倍的提升。"高通甚至能够把量子场论等物理学的基础数学框架运用到深度学习",侯纪磊强调。
高通在AI硬件加速方面的研究
在这些研究的推动下,高通在之前已经能够为客户提供便捷的端侧方案。例如其骁龙移动平台已为超过10亿部智能手机提供领先的AI加速。以Qualcomm于去年年底推出骁龙855移动平台为例,它集成第四代多核Qualcomm AI Engine,其中包括全新设计的、专门面向AI处理而设计的硬件核心----Hexagon张量加速器(HTA)。
据了解,基于第四代AI引擎的高通骁龙855,在性能上是高通骁龙845的三倍,也是友商竞品的两倍,这主要得益于他们的在软硬件方面的升级。不同于其他竞争对手在手机SoC上独立设计一个加速器,高通通过灵活调用Kryo CPU、Adreno GPU和Hexagon DSP等传统单元,搭配全新的张量加速器,高效率地实现AI加速应用。
从高通之前的介绍我们得知,高通Adreno 640 GPU拥有50%的算术逻辑单元(ALU)提升,支持FP32和FP16浮点运算;Kryo 485 CPU相比前代CPU,性能也有45%的提升,高通也为其融合了进一步加速AI性能的全新点积指令;Hexagon 690 DSP则包含了全新的Hexagon张量加速器、向量扩展内核、以及优化的标量内核。
以上三者的灵活调度帮助骁龙855的第四代AI Engine实现了每秒7TOPs的运算能力,在多个方面赋能终端设备。
高通SoC的AI能力
高通同时也看到了云端推理的需求,凭借在移动领域的独特设计专长----领先的工艺制程、先进的信号处理、低功耗和规模化,高通宣布推出全新打造的Qualcomm Cloud AI 100加速器。这款用于数据中心的AI推理处理器,旨在让分布式智能可以从云端遍布至终端之间的全部节点。高通也将为开发者提供完整的工具和框架支持。
基于这些技术,高通在日前于深圳举办的人工智能开放日上,携手20多个伙伴带来了超过40项基于高通AI Engine的AI应用。使用搭载骁龙移动平台的OPPO、三星、vivo、小米等智能手机和利用基于骁龙平台的AI开发套件,虹软、百度、大象声科、华捷艾米、Loom.ai、旷视、Mobius、Morpho、商汤、腾讯王者荣耀、腾讯AI Lab、中科创达、有道等企业展示了包括智慧影音、娱乐游戏、生活工具和行业应用等四大类,如移动端AI电竞战队、AI通话智能降噪、AI啸叫抑制、AI智能超级夜景、AI 智能美颜拍照、AI智能视频虚化、实时语音翻译、AR全屏翻译、无人超市等丰富多彩的应用,为用户带来更高效、智能、具备感知能力的极致体验。
孟樸也指出,到2025年,智能手机、PC/平板电脑、扩展现实(XR)、汽车和物联网这五大领域中的AI应用率将会从2018年的不到10%提升到100%,而高通将会在当中扮演一个重要角色。
作者暂无likerid, 赞赏暂由本网站代持,当作者有likerid后会全部转账给作者(我们会尽力而为)。Tips: Until now, everytime you want to store your article, we will help you store it in Filecoin network. In the future, you can store it in Filecoin network using your own filecoin.
Support author:
Author's Filecoin address:
Or you can use Likecoin to support author: