北京2022年10月13日 /美通社/ -- 近日,中科寒武紀科技股份有限公司(以下簡稱"寒武紀")的思元370系列智能加速卡與浪潮AIStation智能業(yè)務生產(chǎn)創(chuàng)新平臺完成兼容性適配認證,將為行業(yè)AI用戶提供高性能、高密度、高效能比的AI計算加速方案,促進金融、制造、能源等行業(yè)的智能轉(zhuǎn)型與升級。
寒武紀是中國智能芯片領(lǐng)域的領(lǐng)先企業(yè)。思元370是寒武紀首款采用chiplet(芯粒)技術(shù)的AI芯片,集成了390億個晶體管,最大算力高達256TOPS(INT8),是寒武紀第二代產(chǎn)品思元270算力的2倍?;谒荚?70,寒武紀推出三款智能加速卡:MLU370-S4加速卡板卡功耗僅為75W,相較于同尺寸GPU,可提供3倍的解碼能力和1.5倍的編碼能力,AI算力密度與能效比業(yè)界領(lǐng)先;MLU370-X4可提供高達256TOPS(INT8)推理算力和24TFLOPS(FP32)訓練算力,配合全新基礎(chǔ)系統(tǒng)軟件平臺,可充分滿足推訓一體AI任務需求;MLU370-X8基于雙芯思元370打造,整合了兩倍于標準思元370加速卡的內(nèi)存、編解碼資源,同時搭載MLU-Link多芯互聯(lián)技術(shù),每張加速卡可獲得200GB/s的通訊吞吐性能,是PCIe 4.0帶寬的3.1倍,可高效執(zhí)行多芯多卡訓練任務。
本次適配認證測試完成了上述寒武紀加速卡在AIStation平臺內(nèi)多個AI業(yè)務部署與服務的驗證,包括圖像識別、目標檢測、自然語言處理等。測試結(jié)果顯示,運行在浪潮AI服務器上的寒武紀MLU370-S4、MLU370-X4、MLU370-X8加速卡,與浪潮AIStation平臺無縫對接,在AI計算性能、兼容性和穩(wěn)定性等方面均達到優(yōu)異。通過浪潮AIStation平臺出色的算力調(diào)度與管理,行業(yè)AI用戶能夠靈活使用和擴展寒武紀加速卡的算力,滿足典型AI應用需求。
寒武紀加速卡與浪潮AIStation完成兼容性認證,有利于充分發(fā)揮寒武紀產(chǎn)品高性能、高密度、高效能比的優(yōu)勢,進一步豐富寒武紀面向?qū)嶋HAI應用場景的解決方案,幫助AI用戶更方便快捷地應用寒武紀領(lǐng)先的AI計算加速技術(shù),釋放強大算力,促進產(chǎn)業(yè)AI化。
浪潮AIStation是面向企業(yè)級訓練與推理場景開發(fā)的智能業(yè)務生產(chǎn)創(chuàng)新平臺,實現(xiàn)從模型開發(fā)、訓練、部署、測試、發(fā)布、服務的全流程一站式高效交付。通過對計算資源、數(shù)據(jù)資源、深度學習軟件棧資源進行統(tǒng)一管理,AIStation為環(huán)境構(gòu)建、模型開發(fā)、模型訓練、模型評估、模型推理、上線部署全鏈條全面提速,加快AI開發(fā)應用創(chuàng)新落地。