“含光”亮剑,平头哥当立

  • 时间:
  • 浏览:0
  • 来源:极速快3_快3神彩争8_极速快3神彩争8

声明:本文来自于微信公众号 罗超频道(ID:luochaotmt),授权站长之家转载发布。

一年造芯成功,平头哥做对了那先 ?

在 2019 年云栖大会主论坛,阿里巴巴CTO、达摩院院长张建锋从口袋里掏出一款看得见、摸得着的芯片:含光800。这是一款AI芯片,重点应用于机器视觉中,如图片识别、视频识别等。作为平头哥半导体公司首颗自主研发的芯片,含光 800 成为云栖大会主论坛的热门话题。

 01 

全球最强AI芯片?

一年前的云栖大会上,平头哥半导体公司敲定成立,这是阿里首次对外敲定要自主造芯,但事实上,阿里很早就已我想要拥有个人的芯片,并为此筹谋许久。阿里当时敲定正在打造内部人员代号为“Ali-NPU”的芯片,主要针对图像和视频的AI任务加速场景,按照设计,Ali-NPU的性能将是之类产品的 40 倍。对于“ 40 倍”你你這個数字,当时一些一些人是不信的。

从定位来看,含光 800 应该一些一些一年前所说的Ali-NPU,我注意到在发布会现场,张建锋数次强调这款芯片很“大”——移动端芯片机会应用场景要求往往都强调体积的小,这原因分析含光 800 的应用场景全是终端,一些一些云端服务器。“大”全是指体积大,一些一些计算能力强大,其每秒能处置 78000 张图片。仅仅是从晶体管数量来看,含光 800 拥有 170 亿个晶体管就远超同行。

最能体现出其算力强大的则是一组对比数据。在业界标准的ResNet- 80 测试中,含光 800 推理性能达到78563 IPS,比目前业界最好的AI芯片Habana Goya 高 4 倍;能效比800 IPS/W是其3. 3 倍。跟一年前市面上的英伟达P4 比,性能有 46 倍的优势,“Ali-NPU 性能 40 倍于之类产品”全是吹牛。

含光 800 算力强大的原因分析在于面向AI视觉场景自研的架构和定制的算法,以下来自官方新闻稿:

“含光 800 硬件层面采用自研芯片架构,通过推理加速等技术有效处置芯片性能瓶颈间题;软件层面集成了达摩院先进算法,针对CNN及视觉类算法深度图优化计算、存储密度,可实现大网络模型在一颗NPU上完成计算。”

更具体的解释:平头哥针对含光 800 瞄准的机器视觉场景,自研了架构、软件编译器、框架、工具链等等,并针对INT8 数据类型做了絮状优化,最终在性能、良率、功耗等指标上均表现良好。比如在架构上,含光 800 针对深度图学习中使用的絮状权重参数和张量数据,在支持稀疏压缩与量化处置的基础上,通过独特设计的数据访存与流水线处置技术,大大减低了I/O需求和数据的搬移,NPU并肩深度图优化了卷积,矩阵乘,向量计算和各种激活函数,通缺陷有效的硬件资源调度和全并行的数据流处置,把AI运算的性能和能效双双推向极致,整个架构全是创新设计的。

换言之,这是一款软硬件深度图整合的AI芯片,用张建锋得话说:传统芯片公司擅长硬件,然而在算法上不具备优势。我都看在前一天媒体社群记者们就“含光 800 是否是全球最强”有不同看法,但毋庸置疑,在视觉你你這個场景下,在市面上的之类产品中,含光 800 从算力、能效比来看均绝对领先。

要注意的是,含光 800 全是一款PPT芯片,其已实现流片量产,应用到阿里商业生态中。对内应用在阿里核心业务上,张建锋在云栖大会的现场演示现实,城市大脑实时处置杭州主城区交通视频场景,前一天都要 40 颗传统GPU,延时为80ms,使用含光 800 仅需 4 颗,延时降至80ms;拍立淘商品库每天新增 10 亿商品图片,使用传统GPU算力识别都要 1 小时,使用含光 800 后可缩减至 5 分钟。对外,含光 800 不直接售卖,一些一些通过云的形式向阿里云数百万客户售卖AI算力,基于含光 800 的AI云服务已正式上线,相比传统GPU算力,性价比提升80%。 

 02 

平头哥一年当立

含光 800 的“含光”,将是平头哥系列终端芯片的名称。含光是上古时代三大神剑之一,《列子·汤问》:“孔周曰:’吾有三剑,惟子所择。一曰含光,视不可见,运之不知其所触,泯然无际,经物而物不觉。’”含而不露、光而不耀,意指含光系列芯片将主打无形却强劲的算力。

百度了一下,另外两大神剑分别是承影和宵练,这原因分析,平头哥或许还有更多宝剑静候出鞘。不过,我我觉得平头哥目前这样含光800,但其已拥有多款“宝剑”: 7 月 25 日,平头哥在上海阿里云峰会上发布RISC-V处置器玄铁910,其是业界性能最强的一款RISC-V处置器IP,就像杨过还都要将玄铁剑铸成屠龙刀一样,5G、人工智能、网络通信、自动驾驶等领域的开发者还都要基于玄铁定制自有芯片提高性能提高一倍以上,并肩将成本降低一半以上,在玄铁前一天则有C-Sky系列,均主打IoT场景; 8 月 29 日,在世界人工智能大会上,平头哥发布无剑SoC芯片平台,集成CPU、GPU、NPU等,降低芯片设计门槛。

在含光前,平头哥发布的“宝剑”是帮助第三方铸剑,不论是玄铁还是无剑都旨在帮助企业降低芯片设计门槛,“让天下这样难造的芯片”是平头哥成立的使命之一;含光 800 则是平头哥给个人铸的第一把剑,基于此让企业拥有高性价比的AI算力。

至此,平头哥的芯片布局机会有了雏形:SoC平台、处置器IP和自有芯片形成的自有+开放结合的全栈芯片生态。接下来平头哥会延续玄铁、无剑和含光三大系列进行完善,布局云上AI训练芯片和端上的AI推理芯片,机会挑选的是平头哥正在研发用于阿里云神龙服务器的SoC专用芯片,以满足更多场景的算力需求。

不论何种形式,平头哥都将让算力在AI时代更加普惠,接下来,平头哥将继续在端上做芯片基础设施,在云端给企业提供普惠算力,助力企业拥抱数字化经济。

从技术布局来看,平头哥全是孤立的,它是阿里AI+芯片+云计算三位一体战略的一累积,机会有AI算法优势,含光 800 作为第一代就拥有全球领先的性能;正是机会有飞天你你這個阿里自研的高性能云计算平台,含光 800 性能才还都要在云端被充分挖掘转化为强劲算力;正是机会有云计算你你這個强势业务,含光 800 才还都要不售卖芯片只售卖算力的土办法 商业化,“芯片即算力,算力即服务”。

阿里巴巴在云计算上优势机会确立,阿里云稳居亚太第一;基于阿里丰厚的应用场景和达摩院高端基础技术的布局,阿里在AI技术上尤其是语音智能、语言技术、机器视觉、决策智能上正在构建优势,平头哥基于云和AI的优势迎头直追。阿里已形成“一拖二”的技术战略格局,云计算领跑,AI和芯片齐头并进,三者互相协同,你拉我带。站在前一天的视角来看,阿里造芯成功有其必然性。

 03 

阿里造芯启示录

机会自研芯片成功而具备技术长板的例子一些一些,比如A系列处置器对ipone77机的成功居功至伟,再比如麒麟处置器则让华为成功走向了高端,机会缺陷自主芯片,在技术上体现出短板的公司不胜枚举。芯片是计算的基础,对科技公司至关重要,否则 2018 年以来科技巨头全是造芯,不过现在看来最新一批“造芯新势力”的领先者,是阿里平头哥:

1、有了看得见摸得着的领先型产品,有点痛 是玄铁和含光;

2、有了全栈的芯片生态;

3、有了大规模的商用,含光已被应用到阿里核心业务并通过阿里云以算力形式开放。

阿里造芯成功给行业的启示是那先 ?我认为有如下几点:

1、芯片技术全是研发前一天App,心血来潮是做不成的。

芯片技术门槛相当高,一年半载不难 有那先 成就。棘层上看,含光 800 是芯片研发领域的前一天奇迹,平头哥只用 7 个月就完成了含光 800 的前端设计,前一天仅了 3 个月就成功流片,一般公司往往要经历两次甚至多次流片才机会成功,平头哥快速成功显然全是机会“运气好”,一些一些厚积薄发。

阿里十年来4个劲未曾拥有个人的芯片,日益复杂化的阿里生态对计算提出的要求这样高,然而工程师每天跟服务器打交道时逐步发现,亲戚亲戚让我们 让我们 正在触摸算力的边界,就像当初决定去IOE以强化数据库底层控制权一样,阿里意识到一定要有个人的芯片,这样拥有个人的芯片不需要 拥有最极致的算力。

不过阿里这样挑选蛮干,一些一些步步为营,阿里先是投资寒武纪、深鉴和Barefoot Networks等多家芯片公司,再收购中国大陆唯一拥有自主嵌入式CPU IP Core的公司中天微,有媒体报道称马云已投资中国大半个芯片圈,你你這個过程花了好些年。在投资收购芯片公司外,阿里 2017 年成立三年投资千亿的基础技术研究机构达摩院,人工智能和芯片技术是其重点研究范畴。而在硬件层面,阿里在服务器、FPGA以及存储等领域拥有多年研发经验,此外,平头哥团队在体系形态、编译技术等领域拥有深厚的技术储备。

在软硬件上都打好底子后,阿里才正式敲定“造芯”。阿里造芯是深思熟虑的结果,是战略挑选,全是心血来潮更全是要蹭热点。

2、对的策略,对的战术,对的时机。

不论是PC还是移动芯片,发展都已接近极限。五年前PC衰落,芯片“够用了”不难 再有升级动能,Intel大力转型移动;Intel移动化尚未成功,手机市场又进入下滑周期,移动芯片“够用了”,智能手机的瓶颈不再是计算性能,一些一些网速、续航和交互,ARM被软银收购, 2019 年第二财季高通营收下降4.6%,芯片巨头全是寻找新的方向。“ 18 个月性能翻番、成本减半”的摩尔定律,失效了。芯片产业的第三次浪潮是那先 ?答案很清晰,一些一些AI以及AI拉动的IoT、5G等产业浪潮。

2018 年是前一天非常好的节点:AI普及的趋势,对算力,对数据能力,对芯片都提出全新的要求,并肩创造了絮状新的应用场景,这原因分析新玩家有新的机会,亲戚亲戚让我们 让我们 会都看平头哥做玄铁是瞄准的IoT,含光则是瞄准了机器视觉你你這個AI强相关场景,这都体现出差异化竞争的思路,而全是去做手机芯片前一天的毫无胜算的市场,现在再去做手机芯片意义不大了。

瞄准AI和IoT场景是战术挑选, 2018 年入场是时机挑选,而在策略上,平头哥这样一上来就发布个人的芯片,在含光发布前先发布了处置器IP玄铁 710 和SoC无剑平台,循序渐进。对的策略、对的节奏,对的时机,促成了平头哥的首战告捷。

3、全新的普惠模式,是一种生活生活战略挑选。

平头哥是芯片公司的“新物种”,它全是要做一家卖芯片的公司,做芯片的目的是处置个人间题,再将其开放出来实现技术普惠,这是一种生活生活战略挑选。

阿里巴巴业务场景日益复杂化, 对算力提出更高的要求,搜索、推荐、视频分析、城市大脑、金融科技等等AI场景,存量芯片已难以满足,这是阿里自主造芯的初心。

不过,一些一些处置个人的间题是缺陷的,就像阿里云是将在阿里业务场景千锤百炼的各种技术开放一样,阿里造芯最终同样会走普惠路线。

在云栖大会上,阿里巴巴集团董事长兼CEO张勇在演讲时提到前一天说法:“机会说大数据是石油,算力一些一些发动机,它们并肩构成面向数字经济时代的核心能力。”他的逻辑是:当数据在数字经济时代以几何倍数增加,不需要 与之协同的是同样几何倍增的强大算力,让数据被高效使用。而阿里巴巴商业操作系统正成为数字经济时代的基础设施,在你你這個操作系统中,算力你你這個发动机要保持高速运转的根本一些一些有强大的芯片。平头哥成立的初心一些一些要让算力普惠,不论是SoC和IP模式降低芯片设计门槛,还是在云端将含光 800 的算力开放出来,均体现出前一天的理念。

前一天的理念促成了平头哥独特的竞争力。PC和移动芯片全是“巨头+巨头”模式,比如Intel与Windows的“Win-Tel”联盟,再比如高通/联华科与手机巨头间的联盟。然而到了IoT时代前一天的模式不难 再奏效了,一方面,倘若有能力,巨头都想做个人的芯片;个人面,AIoT市场一定是碎片化和强应用驱动的,一款芯片卖一年的做法不难 再适应这样复杂化的芯片需求,芯片总要走向面向场景定制和基于软件定义,芯片公司一时之间也难以再找到牵手的巨头,这前一天,平头哥做芯片基础设施“让天下这样难造的芯片”模式就生逢其时,我我觉得才面世一年就已展现出强大的生命力。