北京2023年10月17日 /美通社/ -- 日前，2023全球AI芯片峰會(huì)（GACS 2023）在深圳市舉行，AI芯片產(chǎn)業(yè)鏈頂尖企業(yè)、專(zhuān)家學(xué)者齊聚，圍繞生成式AI與大模型算力需求、AI芯片高效落地等產(chǎn)業(yè)議題進(jìn)行研討分享。
面向大模型時(shí)代的計(jì)算需求，算力創(chuàng)新已不僅是單個(gè)處理器微架構(gòu)和芯片工藝的突破，而需要產(chǎn)業(yè)攜手進(jìn)行軟硬件全棧系統(tǒng)架構(gòu)全面創(chuàng)新。當(dāng)前各類(lèi)AI芯片創(chuàng)新仍面臨存儲(chǔ)墻、功耗墻等架構(gòu)痼疾，隨著開(kāi)放的通用指令架構(gòu)、互聯(lián)總線(xiàn)、AI加速器、開(kāi)源的操作系統(tǒng)、模型框架、工具鏈和軟件紛紛涌現(xiàn)，開(kāi)放開(kāi)源的算力系統(tǒng)創(chuàng)新，已經(jīng)成為實(shí)現(xiàn)AI芯片轉(zhuǎn)化為高效算力的二級(jí)引擎。
會(huì)上，浪潮信息分享了在開(kāi)放加速計(jì)算系統(tǒng)領(lǐng)域的最新成果《開(kāi)放加速規(guī)范AI服務(wù)器設(shè)計(jì)指南》，通過(guò)系統(tǒng)平臺(tái)層面的技術(shù)創(chuàng)新，攜手產(chǎn)業(yè)上下游加速生成式AI算力產(chǎn)業(yè)發(fā)展。
大模型推動(dòng)算力產(chǎn)業(yè)步入系統(tǒng)級(jí)創(chuàng)新時(shí)代
隨著制程工藝逼近天花板，AI芯片正迎來(lái)架構(gòu)創(chuàng)新的黃金時(shí)代，諸多創(chuàng)新者正通過(guò)越來(lái)越廣泛的創(chuàng)新思路來(lái)繞過(guò)摩爾定律瀕臨極限的瓶頸，圍繞架構(gòu)創(chuàng)新，AI芯片產(chǎn)業(yè)正從早期的百花齊放，向更深更多維層面發(fā)展。
與此同時(shí)，參數(shù)量高達(dá)數(shù)千億的大模型創(chuàng)新往往需要在成百上千的AI服務(wù)器組成的平臺(tái)上進(jìn)行訓(xùn)練。面向AIGC的算力能力考量的不僅僅是單一芯片、或者是單一服務(wù)器，而是包含計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)設(shè)備，軟件、框架、模型組件，機(jī)柜、制冷、供電基礎(chǔ)設(shè)施等在內(nèi)的一體化高度集成的智算集群。
因此，要將AI芯片真正轉(zhuǎn)化為大模型算力，需要產(chǎn)業(yè)鏈上下游攜手從規(guī)模化算力部署的角度進(jìn)行系統(tǒng)級(jí)創(chuàng)新，統(tǒng)籌考慮大模型訓(xùn)練需求特點(diǎn)，設(shè)計(jì)構(gòu)建算力系統(tǒng)，以實(shí)現(xiàn)全局最優(yōu)的性能、能效或TCO指標(biāo)。
開(kāi)放加速設(shè)計(jì)指南，打通從芯片到大模型的算力橋梁
2019年，開(kāi)放計(jì)算組織OCP面向大模型訓(xùn)練發(fā)布了開(kāi)放加速計(jì)算（OAI）技術(shù)標(biāo)準(zhǔn)，旨在促進(jìn)上下游協(xié)同，降低產(chǎn)業(yè)創(chuàng)新成本和周期。開(kāi)放加速計(jì)算（OAI）系統(tǒng)架構(gòu)具備更高的散熱和互聯(lián)能力，可以承載具有更高算力的芯片，同時(shí)具備非常強(qiáng)的跨節(jié)點(diǎn)擴(kuò)展能力。因?yàn)樘烊贿m用于大規(guī)模深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò),已經(jīng)在全球范圍內(nèi)得到芯片、系統(tǒng)及應(yīng)用廠商的廣泛參與支持。
大模型訓(xùn)練對(duì)開(kāi)放加速計(jì)算系統(tǒng)的總功耗、總線(xiàn)速率、電流密度的需求不斷提升，給系統(tǒng)設(shè)計(jì)帶來(lái)了巨大的挑戰(zhàn)。因此，浪潮信息基于系統(tǒng)研發(fā)和大模型工程實(shí)踐經(jīng)驗(yàn)，將從AI芯片到大模型算力系統(tǒng)所需完成的體系結(jié)構(gòu)、信號(hào)完整性、散熱、可靠性、架構(gòu)設(shè)計(jì)等大量系統(tǒng)性設(shè)計(jì)標(biāo)準(zhǔn)進(jìn)行細(xì)化總結(jié)，發(fā)布了面向生成式AI場(chǎng)景的《開(kāi)放加速規(guī)范AI服務(wù)器指南》（以下簡(jiǎn)稱(chēng)《指南》），提出四大設(shè)計(jì)原則、全棧設(shè)計(jì)方法，包括硬件設(shè)計(jì)參考、管理接口規(guī)范和性能測(cè)試標(biāo)準(zhǔn)。
《開(kāi)放加速規(guī)范AI服務(wù)器指南》全棧設(shè)計(jì)方法
《開(kāi)放加速規(guī)范AI服務(wù)器指南》統(tǒng)籌考慮大模型分布式訓(xùn)練對(duì)于計(jì)算、網(wǎng)絡(luò)和存儲(chǔ)的需求特點(diǎn)，提供了從節(jié)點(diǎn)層到集群層的AI芯片應(yīng)用部署全棧設(shè)計(jì)參考。包括各項(xiàng)硬件規(guī)范、電氣規(guī)范、時(shí)序規(guī)范，并提供管理、故障診斷和網(wǎng)絡(luò)拓?fù)湓O(shè)計(jì)等軟硬協(xié)同參考，旨在通過(guò)節(jié)點(diǎn)層/集群層多維協(xié)同設(shè)計(jì)確保AI服務(wù)器節(jié)點(diǎn)和服務(wù)器集群以超大規(guī)模集群互連的大模型訓(xùn)練能力。
基于板端QSFP-DD的跨節(jié)點(diǎn)互連拓?fù)?/span>
由于架構(gòu)復(fù)雜度高、芯片種類(lèi)多、高速信號(hào)多、系統(tǒng)功耗大等特點(diǎn)，異構(gòu)加速計(jì)算節(jié)點(diǎn)常面臨故障率高的問(wèn)題。因此，《指南》提供了詳細(xì)的系統(tǒng)測(cè)試指導(dǎo)，對(duì)結(jié)構(gòu)、散熱、壓力、穩(wěn)定性、軟件兼容性等方面的測(cè)試要點(diǎn)進(jìn)行了全面梳理，幫助用戶(hù)最大程度降低系統(tǒng)生產(chǎn)、部署、運(yùn)行過(guò)程中的故障風(fēng)險(xiǎn)，提高系統(tǒng)穩(wěn)定性，減少斷點(diǎn)對(duì)訓(xùn)練持續(xù)性的影響。
OAM互連信號(hào)損耗要求
不同于通用計(jì)算系統(tǒng)，面向生成式AI的加速計(jì)算系統(tǒng)具有軟硬件強(qiáng)耦合特性。為了提高開(kāi)放加速計(jì)算系統(tǒng)的算力可用性，《指南》給出了八類(lèi)AI主流業(yè)務(wù)和三類(lèi)AIGC大模型基準(zhǔn)測(cè)評(píng)和調(diào)優(yōu)方法，以確保開(kāi)放加速計(jì)算系統(tǒng)能夠有效支撐當(dāng)前主流大模型的創(chuàng)新應(yīng)用。
AI芯片廠商可以基于《指南》快速將符合開(kāi)放加速規(guī)范的AI芯片落地成高可用高可靠高性能的大模型算力系統(tǒng)，提高系統(tǒng)適配和集群部署效率，減少芯片合作伙伴在系統(tǒng)層面的研發(fā)成本投入，加速生成式AI算力產(chǎn)業(yè)的創(chuàng)新步伐。
全棧協(xié)同，高效釋放大模型創(chuàng)新生產(chǎn)力
目前，浪潮信息已經(jīng)基于開(kāi)放加速規(guī)范發(fā)布了三代AI服務(wù)器產(chǎn)品，和10余家芯片伙伴實(shí)現(xiàn)了多元AI計(jì)算產(chǎn)品的創(chuàng)新研發(fā)。多元算力產(chǎn)品方案得到了眾多用戶(hù)的認(rèn)可，已經(jīng)在多個(gè)智算中心應(yīng)用落地，成功支持GPT-2、源1.0及實(shí)驗(yàn)室自研蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)等多個(gè)超大規(guī)模巨量模型的高效訓(xùn)練。
同時(shí)，為進(jìn)一步解決大模型算力的系統(tǒng)全棧問(wèn)題、兼容適配問(wèn)題、性能優(yōu)化問(wèn)題等，浪潮信息基于大模型自身實(shí)踐與服務(wù)客戶(hù)的專(zhuān)業(yè)經(jīng)驗(yàn)，推出OGAI大模型智算軟件棧，能夠?yàn)榇竽Ｐ蜆I(yè)務(wù)提供AI算力系統(tǒng)環(huán)境部署、算力調(diào)度及開(kāi)發(fā)管理的完整軟件棧和工具鏈，幫助更多企業(yè)順利跨越大模型研發(fā)應(yīng)用門(mén)檻，充分釋放大模型算力價(jià)值。
作為全球領(lǐng)先的AI算力基礎(chǔ)設(shè)施供應(yīng)商，浪潮信息將通過(guò)智算系統(tǒng)軟硬件高度協(xié)同進(jìn)行持續(xù)創(chuàng)新，攜手產(chǎn)業(yè)伙伴加速AI算力繁榮發(fā)展并充分釋放算力生產(chǎn)力，推動(dòng)實(shí)現(xiàn)"助百模，智千行"，加速生成式AI產(chǎn)業(yè)創(chuàng)新。
