智東西（公眾號：zhidxcom）

文 | 心緣

智東西8月10日報道，在今天的華為HAI 2020大會上，華為發(fā)布迄今為止業(yè)界最豐富的AI全棧軟件平臺，覆蓋從基礎(chǔ)軟件到應(yīng)用使能，同時展示了最強的AI算力平臺。

這是華為首次全方位披露其昇騰全棧AI基礎(chǔ)軟件能力，異構(gòu)計算架構(gòu)CANN、全場景AI計算框架MindSpore、全流程開發(fā)工具鏈MindStudio、昇騰應(yīng)用使能MindX四大核心軟件一并亮相。

這一次，華為AI的主角從頗負盛名的芯片，換成了釋放華為硬件性能的隱藏英雄——軟件。

作為銜接AI技術(shù)與行業(yè)應(yīng)用之間的橋梁，昇騰AI全棧軟件平臺是華為實現(xiàn)普惠AI的重要基座，不僅決定AI開發(fā)效率，還關(guān)乎AI硬件在實際應(yīng)用中真正能發(fā)揮出的最佳算力。

華為的昇騰AI全棧軟件平臺，究竟強在何處？

通過華為昇騰AI全棧軟件平臺全景圖，我們可以領(lǐng)略到華為在AI布局方面的嚴密與穩(wěn)重，同時對華為的AI實力和優(yōu)勢有了更清晰全面的認知。

基于充分結(jié)合的軟硬件基礎(chǔ)設(shè)施，華為昇騰計算產(chǎn)業(yè)生態(tài)正快速擴容，和更多合作伙伴一同推動AI計算產(chǎn)業(yè)的發(fā)展。

在持續(xù)升溫的AI計算競賽中，華為已然準備就緒，并率先沖在了推進智能化進程的最前排。

一、昇騰計算軟件全景圖：4大軟件產(chǎn)品構(gòu)筑8大競爭力

“硬件是AI的基礎(chǔ)，軟件才是AI的未來。”

會上，華為昇騰計算業(yè)務(wù)總裁許映童首次揭曉昇騰AI全棧軟件平臺全景圖，他提到，在AI領(lǐng)域，華為70%的研發(fā)人員投入于軟件研發(fā)，面向不同開發(fā)者，推出三層的開發(fā)模型。

在Atlas硬件的基礎(chǔ)上，針對專業(yè)開發(fā)者、入門級開發(fā)者及業(yè)務(wù)開發(fā)者的不同開發(fā)需求，華為推出三大軟件平臺CANN、MindSpore、MindX，以及覆蓋算子開發(fā)、模型開發(fā)、應(yīng)用開發(fā)的全流程開發(fā)工具鏈MindStudio。

其中，異構(gòu)計算架構(gòu)CANN是支持全場景AI開發(fā)的芯片底層基礎(chǔ)軟件，也是獲取華為昇騰計算資源避不開的入口，它具備軟硬件解耦的特征，后向兼容全系列華為芯片。

MindSpore是全場景AI計算框架，目前已覆蓋逾1.6萬用戶，與33所高校開展AI課程、研究合作，提供20多種主流模型，覆蓋150多種應(yīng)用。下個月，華為將在HC大會上推出MindSpore 1.0版本以及為網(wǎng)絡(luò)模型挑戰(zhàn)賽頒獎。

MindX是昇騰應(yīng)用使能平臺，通過“2+1+X”助力AI計算融入千行百業(yè)，2是深度學(xué)習(xí)平臺MindX DL和智能邊緣平臺MindX Edge，1是優(yōu)選模型庫ModelZoo，X則是使能各行業(yè)的SDK。值得期待的是，面向視覺和制造的兩個行業(yè)SDK將在2020年10月正式對外上線。

“AI的應(yīng)用程序需要跑在多類型通用CPU，數(shù)十個版本的操作系統(tǒng)，運行在從穿戴設(shè)備，到大規(guī)模集群的各種設(shè)備，算力和存在差異數(shù)百萬倍，對軟件的適應(yīng)性和可裁剪、可伸縮性提出了極高的要求。”

許映童說：“而部署的應(yīng)用場景包括了港口、道路、沙漠等各種復(fù)雜場景，設(shè)備的供電、環(huán)境適應(yīng)性、網(wǎng)絡(luò)可連接性等等均是巨大的挑戰(zhàn)。”

華為昇騰計算業(yè)務(wù)總裁許映童

這些挑戰(zhàn)使得AI融入實際應(yīng)用的門檻非常高，在此背景下，華為提出以開發(fā)者為中心，通過全棧軟件，把AI算力釋放出來，服務(wù)于行業(yè)應(yīng)用和開發(fā)。

基于Atlas硬件與昇騰AI全棧軟件平臺的組合拳，華為昇騰計算已構(gòu)筑8大競爭力。

（1）高性價比：據(jù)華為實測，華為AI推理卡Atlas 300I的推理性能、華為最高算力密度服務(wù)器Atlas 800的訓(xùn)練性能均超過業(yè)界領(lǐng)先競品。

（2）統(tǒng)一API：CANN通過昇騰統(tǒng)一編程接口AscendCL API，支持端邊云全場景協(xié)同。

（3）開放架構(gòu)：支持TensorFlow、PyTorch等主流AI框架，并適配客戶自研框架。

（4）使能行業(yè)：MindX提供多個行業(yè)SDK、優(yōu)選模型庫、深度學(xué)習(xí)平臺及智能邊緣平臺，其中優(yōu)選模型庫中提供的預(yù)訓(xùn)練高性能模型到今年底預(yù)計有超過60個，可大大降低AI應(yīng)用門檻。

（5）邊云協(xié)同：中心訓(xùn)練+邊云推理，一站式開發(fā)，統(tǒng)一模型部署及更新，模型保護/加密。

（6）最優(yōu)集群：昇騰集群線性度較業(yè)界領(lǐng)先。

（7）開發(fā)工具：面向不同類型開發(fā)者，構(gòu)筑貫穿整個開發(fā)流程的工具鏈MindStudio。

（8）統(tǒng)一運維：基于FD/SmartKit構(gòu)筑智能運維。

二、異構(gòu)計算架構(gòu)CANN 3.0詳解：專為AI設(shè)計，端邊云全場景協(xié)同

市面上的AI芯片層出不窮，那么華為的獨到優(yōu)勢有什么？

回答這個問題，就避不開華為昇騰的一大秘密武器——CANN。

如今，華為的產(chǎn)品線已覆蓋云、管、端、芯，鮮少有公司具備如此龐大而全面的產(chǎn)品矩陣。如果每類芯片各做一套編程語言，那么對開發(fā)者而言，要學(xué)習(xí)的內(nèi)容會非常繁瑣耗時。

在這一背景下，為AI設(shè)計的異構(gòu)計算架構(gòu)CANN起到了極為關(guān)鍵的作用。

華為投入逾千人的研發(fā)團隊專攻CANN研發(fā)，歷經(jīng)三年迭代，形成了端邊云協(xié)同的統(tǒng)一編程架構(gòu)CANN 3.0。

具體而言，CANN 3.0有三大創(chuàng)新特性：端邊云全場景協(xié)同、AscendCL使能高效開發(fā)、釋放硬件澎湃算力。

1、支持軟硬件解耦，端邊云全場景協(xié)同

CANN 3.0具有極強的伸縮性和可適應(yīng)性，下接異構(gòu)芯片，上承AI框架，只需編寫一套應(yīng)用代碼，即可兼容覆蓋端邊云的10+種設(shè)備形態(tài)、14種操作系統(tǒng)、多種主流AI框架。

華為海思的麒麟芯片、小海思的Hi3559A等芯片、Atlas全系列硬件以及華為云，均使用CANN來實現(xiàn)底層AI芯片使能，即一次開發(fā)，全場景適用。

CANN 3.0的核心功能，恰恰是要真正做大AI計算“產(chǎn)業(yè)蛋糕”所不可或缺的“軟”實力。

2、統(tǒng)一API、兩種算子開發(fā)方式、四大開放性設(shè)計

CANN 3.0擁有昇騰統(tǒng)一編程接口AscendCL API、兩種TBE算子開發(fā)模式，以及Plugin適配、圖融合優(yōu)化接口、Ascend-IR接口、預(yù)置算子庫源碼開放這四大開放性設(shè)計。

異構(gòu)計算架構(gòu)CANN 3.0

神經(jīng)網(wǎng)絡(luò)是以算子來組成不同應(yīng)用功能的網(wǎng)絡(luò)結(jié)構(gòu)。這些不同的模塊全部對外開放，支持第三方框架、自定義算子融合、自定義模型、自定義修改算子，端到端覆蓋全場景AI應(yīng)用開發(fā)。

所有底層資源均通過專為深度學(xué)習(xí)設(shè)計和優(yōu)化的昇騰統(tǒng)一編程接口AscendCL來對外開放。

AscendCL將算子調(diào)用API歸一化，支持全系列昇騰芯片，一套應(yīng)用代碼可以在不同芯片上運行，從而有效簡化編程難度，為神經(jīng)網(wǎng)絡(luò)提供高效算力支撐。

此外，AscendCL還保持后向兼容，現(xiàn)在編寫的代碼，也支持在未來推出的華為昇騰芯片上運行，確保應(yīng)用軟件可用性。

考慮到不同開發(fā)者的需求差異，CANN 3.0提供DSL和TIK兩種張量加速引擎（TBE）算子開發(fā)方式，以兼顧對效率和靈活性的不同需求。

其中，TBE-DSL面向入門開發(fā)者，可自動實現(xiàn)數(shù)據(jù)切分和調(diào)度，可覆蓋70%的算子，將算子開發(fā)時間降低較業(yè)界降低70%，使開發(fā)者只需關(guān)注計算實現(xiàn)表達。

TBE-TIK則面向高級開發(fā)者，提供指令級編程和調(diào)優(yōu)過程，可覆蓋全部算子，需由開發(fā)者手工完成指令集調(diào)用過程，可兼具靈活性和高性能。

3、親和昇騰的圖編譯技術(shù)，1000+高性能算子庫支持

CANN 3.0還具備親和昇騰的圖編譯技術(shù)，可有效提升圖優(yōu)化效率，最大化發(fā)揮芯片算力。

神經(jīng)網(wǎng)絡(luò)可看作一張張的圖，過去大部分圖在host CPU執(zhí)行，如今昇騰的圖編譯器，實現(xiàn)整圖下沉執(zhí)行，圖和算子均可在device側(cè)執(zhí)行，減少了芯片與host CPU的交互時間，從而更充分地發(fā)揮昇騰芯片的算力。

圖拆分和融合方面，通過自動算子融合等技術(shù)，將大量節(jié)點自動拆分、融合，以減少計算節(jié)點和計算時間，持續(xù)保持計算資源的高強度運行。

數(shù)據(jù)Pipeline智能優(yōu)化極大提升數(shù)據(jù)資源處理效率，通過計算數(shù)據(jù)智能切分與智能分配流水機制，實現(xiàn)單指令計算單元的最高使用率，并持續(xù)保持計算資源高強度運行。

目前CANN 3.0提供有1000+深度優(yōu)化的硬件親和算子，支持多框架共用，且自適應(yīng)全系列昇騰芯片，可實現(xiàn)最佳運行性能。

自家的軟件，最懂如何挖掘自家硬件的性能。

基于高度適配的軟硬件組合，華為Atlas硬件在主流推理和訓(xùn)練模型的性能均為業(yè)界領(lǐng)先。

在主流推理場景，據(jù)華為實測，AI推理卡Atlas 300I性能超過業(yè)界主流推理卡。特別是在高清視頻場景中，單張Atlas 300I推理卡可同時處理80路1080p、25FPS的高清視頻，是業(yè)界主流推理卡可同時處理路數(shù)的2倍。

對于有大量視頻分析需求的企業(yè)，可同時處理的視頻路數(shù)越多，整體硬件成本下降的越快。曠視、格靈深瞳等企業(yè)正基于華為AI推理卡打造高路數(shù)視頻分析解決方案。

華為實測數(shù)據(jù)顯示，在主流模型訓(xùn)練場景，華為最高算力密度服務(wù)器Atlas 800在多種模型的實測性能超過業(yè)界主流新品訓(xùn)練服務(wù)器，平均實測性能約為業(yè)界主流上一代訓(xùn)練服務(wù)器的2.5倍。

除了計算卡外，軟件能力也充分釋放了華為AI集群的總體性能。

線性度是指多個機器同時處理運算時，受機器間通信等能力影響，最終實際發(fā)揮性能資源的利用率。經(jīng)由L2網(wǎng)絡(luò)與CANN層算法的聯(lián)合優(yōu)化，昇騰芯片的線性度超過業(yè)界領(lǐng)先水平。

三、開發(fā)工具全家桶MindStudio 2.0：即裝即用，高度智能

工欲善其事，必先利其器，全流程開發(fā)工具鏈MindStudio即是華為提供的AI開發(fā)“利器”。

MindStudio 2.0提供了一套簡單易用的一站式開發(fā)工具，可高效完成端到端全場景開發(fā)，讓開發(fā)者從算子開發(fā)、模型訓(xùn)練、模型推理、應(yīng)用開發(fā)到應(yīng)用部署的全流程一套工具全部搞定，無需在不同工具上完成，有效降低開發(fā)門檻。

MindStudio可一鍵式完成安裝部署、可視化模型開發(fā)和智能調(diào)優(yōu)功能大大提高模型開發(fā)效率，算子開發(fā)方面則更加高效。

總體來看， MindStudio 2.0能帶給開發(fā)者即裝即用、沉浸體驗、智能準確三個優(yōu)勢。

（1）即裝即用：一鍵式自動化環(huán)境準備部署，三步完成軟硬件安裝，所有工具均提供插件形式，并基于開發(fā)場景提供各個環(huán)節(jié)的場景化指導(dǎo)文檔，還為配置參數(shù)、專業(yè)術(shù)語等難理解詞匯提供實時注釋、鏈接和參考。

（2）沉浸體驗：圍繞開發(fā)流程提供一站式導(dǎo)視系統(tǒng)，AI幫助一鍵補全算子開發(fā)的語法，關(guān)聯(lián)文件自動高亮，針對不同開發(fā)對象自適應(yīng)提供對應(yīng)AI工具的快捷功能，減少開發(fā)過程中的操作步驟，并提供無邊界UI設(shè)計，打造沉浸式開發(fā)體驗。

（3）智能準確：基于用戶認知提供硬件運行單元級別可視化的調(diào)優(yōu)分析報告，基于不同維度提供多樣化的模型精度對比結(jié)果。

除了提高開發(fā)效率外，華為昇騰還提供了用于優(yōu)化模型訓(xùn)練、推理性能的工具，這些工具調(diào)用了CANN底層的能力來做親和網(wǎng)絡(luò)。

例如，昇騰訓(xùn)練加速工具利用獨有的Less BN（智能識別網(wǎng)絡(luò)中不必要的BN算子）和隨機凍結(jié)算法大幅提升模型訓(xùn)練效率，可將ResNet模型的訓(xùn)練吞吐量提高25.6%；昇騰模型壓縮工具利用獨有的智能算法加速推理進程，可將Yolov3模型推理速度提高47.2%。

結(jié)語：普惠AI的先行者

如果我們對華為AI布局的認知僅限于沖鋒在前的AI硬件產(chǎn)品，那就低估了華為的AI實力。

從華為整體的昇騰計算產(chǎn)業(yè)來看，華為的全棧全場景AI解決方案正日臻完善。從底層IP核、芯片、硬件、芯片使能軟件、開源AI框架等基礎(chǔ)設(shè)施，到貼近應(yīng)用的軟件平臺和行業(yè)SDK，華為充分照顧到不同AI開發(fā)訴求。

華為正遵循“硬件開放，軟件開源，使能合作伙伴”策略，將昇騰AI定位為AI基礎(chǔ)設(shè)施提供者和千行百業(yè)使能者，積極構(gòu)建開放的生態(tài)。

華為還是那個“上不做應(yīng)用、下不碰數(shù)據(jù)”的“黑土地”耕耘者，而華為昇騰計算的技術(shù)種子正由越來越多的生態(tài)伙伴們播撒到千行百業(yè)。

“極簡易用，讓AI計算無處不在，極致性能，讓AI計算觸手可及”的AI戰(zhàn)略，不止是面向行業(yè)客戶，也在賦能廣大的獨立軟件開發(fā)商和AI開發(fā)者。

在華為昇騰AI計算業(yè)務(wù)的計劃中，未來三年將發(fā)展100萬名開發(fā)者。

為了達成這一目標(biāo)，華為昇騰已經(jīng)面向高校、開發(fā)人員、初創(chuàng)企業(yè)等推出了合作伙伴計劃，并提供從學(xué)習(xí)、產(chǎn)品構(gòu)建到產(chǎn)品上市、銷售的全方位激勵機制，為跨越AI技術(shù)與行業(yè)應(yīng)用的鴻溝積極貢獻力量。

截至今日，華為已聯(lián)合超過60家高校開設(shè)昇騰課程，有100多家獨立軟件開發(fā)商（ISV）完成昇騰認證，已孵化120多起落地解決方案，培養(yǎng)了超過4萬名開發(fā)者。

在這生機盎然的信息時代轉(zhuǎn)折時刻，我們正見證著AI不著痕跡地改變世界。

而華為昇騰計算作為其中頗具戰(zhàn)斗力的實力玩家，正以廣而深的生態(tài)布局，拉動我國AI計算產(chǎn)業(yè)以更強的驅(qū)動力走向未來。

本文為企業(yè)推廣，本網(wǎng)站不做任何建議，僅提供參考，作為信息展示！

推薦閱讀：河工網(wǎng)