解读阿里AI芯片含光800:超强算力偏重AI推理

  • 来源: 5分时时彩|大发快3计划 文:邓支航   2019-09-25/14:17 访问量:
  • 5分时时彩|大发快3计划2019年9月25日消息,今天上午,一年一度的云栖大会在杭州盛大开幕,本届云栖大会共有来自全球超过八万嘉宾参与,规模再创历届之最。

    在今天的主论坛开幕式上,阿里巴巴旗下的半导体公司平头哥发布了全新的硬件NPU芯片产品——含光800。据悉,在Resnet 50 v1条件下,含光800的峰值性能可达78563 IPS,峰值能效达500 IPS/W。

    00000

    达摩院院长张建峰指出,含光800是全球最高性能AI推理芯片。比目前业界最好的AI芯片性能高4倍;能效比500 IPS/W,是第二名的3.3倍。在杭州城市大脑的业务测试中,1颗含光800的算力相当于10颗GPU。

    目前,含光800已经通过阿里云对外输出AI算力。基于含光800的AI云服务今天已经正式上线,相比传统GPU算力,性价比提升100%。   

    含光800服务器图

    “这是阿里第一次用了自己的硬件架构,也是互联网公司第一个研发这种大芯片。”张建锋表示,这款芯片的设计和验证历时一年半,因此有充分的信心阿里能够成为软硬件一体、协同发展的公司。

    含光222222

    含光800是一款AI芯片,偏重推理。由于人工智能芯片的差异化设计主要体现在硬件架构和软件算法上,二者需要高度适配才能发挥芯片的最大价值。从目前来看,传统CPU、GPU在深度学习推理任务上并没有完全发挥硬件能力,例如GPU架构主要针对图像处理设计,其硬件结构、软件生态几乎固化,因此对AI任务很难有深度优化。

    含光800定妆照

    含光800性能的突破得益于软硬件的协同创新,芯片架构方面,含光800采用创新的架构,针对深度学习中使用的大量权重参数和张量数据,在支持稀疏压缩与量化处理的基础上,通过独特设计的数据访存与流水线处理技术,大大减低了I/O需求和数据的搬移。NPU同时深度优化了卷积,矩阵乘,向量计算和各种激活函数,通过高有效的硬件资源调度和全并行的数据流处理,把AI运算的性能和能效双双推向极致。

    2222

    算法方面,阿里巴巴达摩院机器智能实验室过去两年构建了完整的算法体系,涵盖语音智能、语言技术、机器视觉、决策智能等方向,并且取得多个世界领先水平的成果;硬件方面,阿里巴巴此前已在服务器、FPGA以及存储等领域拥有多年研发经验,此外,平头哥团队在体系结构、编译技术等领域拥有深厚的技术储备。


    赞(0)

    评论 {{userinfo.comments}}

    {{money}}

    {{question.question}}

    A {{question.A}}
    B {{question.B}}
    C {{question.C}}
    D {{question.D}}
    提交

    驱动号 更多