頭圖 | 視覺中國
極度缺乏AI人才，已成為中國人工智能產(chǎn)業(yè)發(fā)展道路上的瓶頸。在國家政策的支持下，眾高校初建AI專業(yè)者甚多，但高校教師應(yīng)掌握哪些知識儲備來傳道授業(yè)，大家都是“摸著石頭過河”。
將高校AI人才培養(yǎng)教學(xué)大綱與廠商成熟落地實踐相結(jié)合，無疑是一個合理的教學(xué)方式。
華為昇騰學(xué)院師資培訓(xùn)沙龍，就為中國產(chǎn)學(xué)研相結(jié)合提供了一個高校教師和華為專家的交流平臺！
8月11-12日，華為昇騰學(xué)院在深圳舉行了為期兩天的師資培訓(xùn)沙龍活動，面向廣大高校教師提供昇騰全棧全場景AI技術(shù)知識點賦能培訓(xùn)。與會老師學(xué)完課程后，可以把學(xué)習到的昇騰AI知識融入到高校學(xué)生的課程培養(yǎng)體系中。
華為的專家們?yōu)楦咝＝處煄砹四男┚史窒砟?？我們來總結(jié)一下這兩天的課程集錦。
Day 1
華為云與計算BG高?？蒲信c人才發(fā)展部部長 曾偉勝：AI教育者是先行者，是領(lǐng)路人
為了讓學(xué)生緊跟最新的技術(shù)潮流，華為希望能夠與高校合作，從教學(xué)、科研、學(xué)生就業(yè)，乃至整個產(chǎn)業(yè)落地形成一個完整的閉環(huán)。為推進產(chǎn)學(xué)研結(jié)合，華為將聯(lián)合教育界廣大力量，把實踐基地、大賽、慕課等結(jié)合在一起，在場的各位教師將會是華為與高校教學(xué)合作的第一批實踐者。
智能是新基建的底座，AI教育從業(yè)者就是種子，以星星之火燎原，不斷影響其他學(xué)科。在座的AI教育者是先行者，是領(lǐng)路人，希望華為能夠與教育領(lǐng)域的頂尖人才一起，從事這項有意義和使命感的事。
華為昇騰計算業(yè)務(wù)CTO周斌：這10年，是計算架構(gòu)創(chuàng)新的黃金時代
華為昇騰計算業(yè)務(wù)CTO周斌以主題演講正式開啟了培訓(xùn)課程。他表示，因為其本身也曾是一名高校老師，所以更明確應(yīng)該如何利用華為昇騰計算產(chǎn)業(yè)中提供的資源與高校的教學(xué)科研結(jié)合起來。
計算產(chǎn)業(yè)是一個變化非?？斓漠a(chǎn)業(yè)，新的技術(shù)層出不窮，尤其是以AI為代表的新計算體系的出現(xiàn)，讓以前學(xué)習的知識很快落伍。
為這10年的計算機體系結(jié)構(gòu)做一個定義，是計算架構(gòu)創(chuàng)新的黃金時代。原因也很簡單，芯片級摩爾定律基本上將走到盡頭，物理限制導(dǎo)致單芯片計算性能提升遇到瓶頸。所以，AI計算面臨的核心問題，在于如何與教學(xué)和產(chǎn)業(yè)結(jié)合，讓計算系統(tǒng)最大化地發(fā)揮價值。
全愛科技 王中山：華為&全愛科技機器視覺平臺聯(lián)合解決方案
華為&全愛科技機器視覺平臺聯(lián)合解決方案是全愛科技基于Atlas200研發(fā)的一款教育平臺和半導(dǎo)體AI開發(fā)平臺。
在AI+云+大數(shù)據(jù)+5G的快速發(fā)展下，機器視覺產(chǎn)業(yè)正在經(jīng)歷第四次新物種爆炸，在這個背景下，全愛基于華為昇騰Atlas200和全流程開發(fā)工具鏈MindStudio 2.0創(chuàng)建了全愛機器視覺平臺。這是一個國產(chǎn)自主、開源開放、模塊化、平臺化的產(chǎn)品，華為提供半導(dǎo)體和嵌入式/AI教育開發(fā)工具，可實現(xiàn)教育平臺自主可控，廣泛應(yīng)用于教學(xué)科研、智能硬件、智慧安防、自動駕駛等產(chǎn)業(yè)應(yīng)用。
全愛與華為的聯(lián)合解決方案展示了昇騰處理器應(yīng)用的廣泛可能性，希望未來會有更多人認識和了解昇騰處理器可以用來做什么，預(yù)祝開發(fā)者和教育從業(yè)者能夠與鯤鵬共展翅昇騰九萬里！
人工智能課程套件
人工智能課程套件是華為提供的輔助高校人工智能專業(yè)多門專業(yè)課程教學(xué)實踐的方案套件?；谌A為豐富的人工智能項目實踐經(jīng)驗，匯集昇騰AI前沿技術(shù)，融合實驗環(huán)境為高校提供的一站式、多領(lǐng)域的實驗案例集和通用參考課件，輔助專業(yè)學(xué)科建設(shè)，攜手高校共塑精品課堂。
講師：王豪聰 華為人工智能高級培訓(xùn)講師
昇騰課程設(shè)計理論與實踐相結(jié)合，產(chǎn)業(yè)落地與高校教學(xué)大綱緊密聯(lián)系，尤其強調(diào)實踐，共設(shè)計了10門課程的知識點，包括人工智能導(dǎo)論、機器學(xué)習、深度學(xué)習、計算機視覺、自然語言處理、語音識別智能芯片與應(yīng)用、智能系統(tǒng)與應(yīng)用等。
昇騰AI處理器之所以厲害，在于其獨特的軟硬件架構(gòu)！
下午，培訓(xùn)課程介紹了昇騰AI全棧全場景解決方案、昇騰AI處理器硬件和軟件架構(gòu)、以及昇騰AI處理器產(chǎn)品形態(tài)和Mind Studio 2.0 工具鏈。
講師：圖靈解決方案架構(gòu)師符秋杰
昇騰AI處理器的硬件架構(gòu)基于達芬奇AI技術(shù)架構(gòu)。達芬奇架構(gòu)的獨特之處，主要在于它3D cube的三維彈性立方體設(shè)計，這樣的設(shè)計能夠極大地提高計算性能。另外，達芬奇架構(gòu)在端、邊、云側(cè)共用一套架構(gòu)，這意味著軟件棧統(tǒng)一，在任意場景下開發(fā)的應(yīng)用都可以很便利地遷移到其他場景。
昇騰AI處理器的軟件架構(gòu)由若干子系統(tǒng)組成：
GE子系統(tǒng)
FE子系統(tǒng)
AICPU子系統(tǒng)
HCCL子系統(tǒng)，這是一個集成通信的引擎，包括適配器等部分。
TBE子系統(tǒng)，算子層架構(gòu)，定義圖推導(dǎo)算子信息，管理算子信息，算子融合規(guī)則等，使應(yīng)用在各種場景可以運行。
Runtime&TS子系統(tǒng)，運行時和任務(wù)調(diào)度系統(tǒng)，主要為神經(jīng)網(wǎng)絡(luò)任務(wù)分配提供資源管理通道。
DVPP子系統(tǒng)，視覺處理模塊，為AI core和AICPU提供服務(wù)，作為整個軟件流程中的編解碼和圖像處理模塊，為神經(jīng)網(wǎng)絡(luò)發(fā)揮預(yù)處理輔助功能。
ACL子系統(tǒng)，接口調(diào)用流程，根據(jù)應(yīng)用開發(fā)中的典型功能抽象出主要的接口調(diào)用流程，寶庫ACL初始化、運行管理資源申請、算子調(diào)用、模型推理、運行管理資源釋放、ACL去初始化。
如今，昇騰AI處理器已廣泛應(yīng)用于Atlas 200、Atlas 300、Atlas 800 AI 服務(wù)器等華為AI解決方案中，并在政府、醫(yī)療、公共安全和制造等多個領(lǐng)域有成熟的行業(yè)應(yīng)用落地。
昇騰開發(fā)環(huán)境搭建與工具鏈Mind Studio 2.0
這一節(jié)課程介紹了昇騰的開發(fā)&運行環(huán)境搭建（基于Atlas200DK或者Ai1）與工具鏈（昇騰軟件棧集成開發(fā)工具Mind Studio），并基于具體案例進行應(yīng)用開發(fā)實戰(zhàn)，講解了使用ACL接口進行應(yīng)用開發(fā)的基本流程和實現(xiàn)方法。
講師：昇騰布道師 毛紅朝
在具體開發(fā)過程中，高校教學(xué)場景用到最多的是基于Atlas 300的Ai1推理彈性云服務(wù)和Atlas 200 DK開發(fā)者套件。
推理平臺Ai1彈性云服務(wù)器
講師在現(xiàn)場展示了基于Ai1推理云服務(wù)的昇騰開發(fā)環(huán)境部署方法，包括安裝驅(qū)動包、固件、環(huán)境依賴、環(huán)境驗證等?，F(xiàn)場與會老師在30分鐘左右即可完成整個開發(fā)環(huán)境部署。
Atlas 200 DK（開發(fā)者套件）
Atlas開發(fā)者套件 Atlas 200 Developer Kit是一個以Ascend 310處理器為核心的開發(fā)者板形態(tài)的產(chǎn)品，主要功能是將Ascend310處理器的核心功能通過板上的外圍接口開放出來，方便用戶快速簡捷地接入并使用Ascend 310強大的計算能力。
Atlas 200 DK的環(huán)境部署流程包括環(huán)境準備、系統(tǒng)SD卡制作、Mind Studio 部署等幾個步驟。
運行環(huán)境即Atlas200DK開發(fā)者板環(huán)境，此環(huán)境系統(tǒng)是基于ubuntu-arm的小型片上系統(tǒng)，運行環(huán)境需要通過制作SD卡，將運行代碼和系統(tǒng)程序燒寫到開發(fā)者板上。
開發(fā)板制卡并啟動成功后，需要將開發(fā)板連接到開發(fā)環(huán)境的ubuntu服務(wù)器，然后在ubuntu服務(wù)器上通過ssh登錄開發(fā)者板，進行運行環(huán)境配置。
Mind Studio工具鏈
在本周剛剛結(jié)束的華為HAI 2020大會上，華為正式發(fā)布了最新的MindStudio 2.0版本，宣布了一些重大功能更新與增加。
Mind Studio是一套基于IntelliJ框架的開發(fā)工具鏈平臺，提供了應(yīng)用開發(fā)、調(diào)試、Profiling工具、模型轉(zhuǎn)換、模型可視化功能，以及對開發(fā)者來說至關(guān)重要的精度對比、自定義算子開發(fā)等重要功能，同時還提供了網(wǎng)絡(luò)移植、優(yōu)化和分析功能，方便用戶開發(fā)應(yīng)用程序。
講師在培訓(xùn)中講到，Mind Studio只能安裝在Ubuntu服務(wù)器上，開發(fā)者可以在Ubuntu服務(wù)器上使用原生桌面自帶的終端gnome-terminal進行安裝，也可以在Windows PC上通過SSH登錄到Ubuntu服務(wù)器進行安裝。另外，因為Mind Studio是一款GUI程序，所以在Windows PC上通過SSH登錄到Ubuntu服務(wù)器進行安裝時，需要使用集成了X schmerver的SSH終端（比如MobaXterm)。
昇騰應(yīng)用案例實戰(zhàn)
最后，毛紅朝現(xiàn)場展示并講解了部分昇騰應(yīng)用案例，例如黑白電影上色，其實現(xiàn)是在基于昇騰AI處理器在神經(jīng)網(wǎng)絡(luò)上進行模型訓(xùn)練和上色處理。
Day 2
基于昇騰Ai1推理云服務(wù)的ACL開發(fā)實踐
昇騰AI處理器分為訓(xùn)練和推理兩種，其中推理芯片支持將訓(xùn)練好的離線模型通過ACL（Ascend Computing Language）編程框架部署到具體業(yè)務(wù)場景，并對深度神經(jīng)網(wǎng)絡(luò)進行特殊優(yōu)化。本節(jié)課程主要介紹如何基于昇騰Ai1推理云服務(wù)的ACL進行開發(fā)。
講師：華為海思技術(shù)專家 杜鵬
ACL有Python和C++兩套接口，主要處理離線模型，與訓(xùn)練是解耦的。
ACL開發(fā)流程包括模型初始化、申請計算資源、加載模型等步驟。
TBE算子開發(fā)實踐
對于不支持的算子，華為提供TBE算子開發(fā)工具，用戶可以用TBE自定義開發(fā)算子，嵌入到應(yīng)用中，幫助開發(fā)者高效完成目前主流深度神經(jīng)網(wǎng)絡(luò)計算。
TBE基于開源的TVM深度學(xué)習編譯棧，有兩種開發(fā)方式可供選擇，一是TBE DSL，適用于入門開發(fā)者，TBE工具提供自動優(yōu)化機制，給出較優(yōu)的調(diào)度流程；二是TIK，適用于高級開發(fā)者，接口偏底層，用戶需要自己控制數(shù)據(jù)流和算子的硬件調(diào)度。
現(xiàn)場還展示了TBE算子開發(fā)流程、代碼結(jié)構(gòu)、執(zhí)行環(huán)境等，現(xiàn)場教師聯(lián)網(wǎng)實操和練習。
MindSpore開源AI計算框架
針對業(yè)界AI開發(fā)者所面臨的開發(fā)門檻高、運行成本高、部署難度大等挑戰(zhàn)，MindSpore提出對應(yīng)的三點技術(shù)創(chuàng)新點：新編程范式、新執(zhí)行模式、新協(xié)同模式，幫助開發(fā)者更簡單、更高效實現(xiàn)AI應(yīng)用的開發(fā)和部署。
講師：華為中央軟件院技術(shù)專家 劉微
MindSpore集成與借鑒了業(yè)界主流框架的優(yōu)勢，能夠提供全場景統(tǒng)一的API，可進行自動微分、自動并行、自動調(diào)優(yōu)；MindSpore IR計算圖表達可以執(zhí)行深度圖優(yōu)化等。
相比同類產(chǎn)品，MindSpore有三個特點，一是開發(fā)態(tài)友好，AI算法即代碼；運行高效，與昇騰芯片對接；部署靈活，全場景按需協(xié)同。
在架構(gòu)層面，MindSpore由Mind Extend、MindExpress、MindCompiler、MIndRT等部分組成。
MindExpress是一個Python前端，包含High-Level和Low-Level兩層API設(shè)計，高級API提供訓(xùn)練推理接口，Low-Level提供基礎(chǔ)的Tensor、優(yōu)化器等API，Executor則提供計算的執(zhí)行控制。
MindCompiler是MindSpore的一個重要的子系統(tǒng)，很多核心系統(tǒng)基于這個系統(tǒng)，提供面向Mind IR的圖級即時編譯能力。
Mind IR是MindSpore的一個核心中間表達，通過嵌套式的表達，很簡便地支持不同語言的推導(dǎo)。
MindRT 子系統(tǒng)是一個統(tǒng)一的運行時系統(tǒng)，可與昇騰芯片進行深度優(yōu)化，整圖下沉到卡上（on-device執(zhí)行），減小host-device交互開銷，提高深度學(xué)習訓(xùn)練的效率。
MindData子系統(tǒng)負責高效執(zhí)行訓(xùn)練數(shù)據(jù)處理pipeline，與計算形成流水，數(shù)據(jù)及時導(dǎo)入訓(xùn)練。它的關(guān)鍵功能包括用流水線+并行方式，可提高數(shù)據(jù)處理吞吐量。數(shù)據(jù)加載上，MindRecord自帶元數(shù)據(jù)，通過聚合存儲讓數(shù)據(jù)檢索更快。用戶還可以自定義Python算子，進行靈活定制。
MindInsight子系統(tǒng)是MindSpore的調(diào)試調(diào)優(yōu)子系統(tǒng)，提供訓(xùn)練過程可視化、模型溯源、debugger和性能profiling功能。
MindArmour子系統(tǒng)可針對可信AI的各個領(lǐng)域提供全面、有效、易用的評測工具和增強方法
目前，基于MindSpore的華為云訓(xùn)練服務(wù)，已服務(wù)于華為內(nèi)部各AI部門，并成為華為數(shù)據(jù)通信網(wǎng)絡(luò)平臺智能控流的支撐，解決擁塞精準控制的難題。
ModelArts AI開發(fā)平臺及環(huán)境配置
ModelArts是華為的一站式AI開發(fā)平臺，提供數(shù)據(jù)預(yù)處理、模型訓(xùn)練、自動學(xué)習和模型部署等能力，為不同級別開發(fā)者提供AI開發(fā)方案。MindSpore支持ModelArts和本地硬件平臺等多種使用方式，最佳匹配Ascend硬件平臺，同時也支持在CPU和GPU硬件平臺上安裝使用。
講師：昇騰布道師 董永漢
ModelArts模型訓(xùn)練模塊中包含ExeML引擎，可自動學(xué)習三步創(chuàng)建AI模型，適合沒有基礎(chǔ)的小白開發(fā)者。另外，ModelArts提供大量預(yù)置算法進行遷移學(xué)習，所有模型基于開源或行業(yè)數(shù)據(jù)及訓(xùn)練完畢，實現(xiàn)精度和速度優(yōu)化，一鍵訓(xùn)練，簡化模型創(chuàng)建的過程。
MindSpore環(huán)境配置
MindSpore開源社區(qū)官網(wǎng)有安裝指導(dǎo)，目前有多種版本供選擇：https://www.mindspore.cn/
MindSpore開發(fā)實踐
在最后的開發(fā)實踐課上，講師介紹了MindSpore實驗指導(dǎo)及model_zoo的使用方法，現(xiàn)場教師也在講師的指導(dǎo)下完成了在本地CPU和ModelArts平臺上進行了LeNet、checkpoint、Liner Regression、KNN等模型開發(fā)、訓(xùn)練、驗證和推理。
至此，為期兩天的深圳站華為師資培訓(xùn)沙龍活動正式結(jié)束！培訓(xùn)課程中干貨滿滿，理論與實踐緊密結(jié)合，相信讓與會高校教師滿載而歸！
學(xué)無止境，還有5站等你打卡！
還沒看過癮或想了解更多培訓(xùn)詳情？沒關(guān)系，還有機會。接下來，華為還將在杭州、武漢、上海、南京、成都5站繼續(xù)精彩培訓(xùn)課程！
