浪潮攜手燧原科技推出超強邊緣AI推理服務器

北京2020年12月23日 /美通社/ -- 12月21日，浪潮邊緣計算服務器NE5260M5宣布對燧原科技全新發(fā)布的人工智能推理加速卡“云燧i10”完成兼容適配與深度優(yōu)化，可根據(jù)客戶需求支持2-4張云燧i10，為邊緣AI推理應用如自動駕駛、智慧交通、ETC識別、精密儀器預測性維護、AI工業(yè)質(zhì)檢等場景提供強大算力支持，最高性能可達每秒70萬億次（70Tflops)。

云燧i10是一款面向云端和邊緣端數(shù)據(jù)中心的高性能推理卡，云燧i10是單槽位標準卡，支持PCIe 4.0，F(xiàn)P32算力達到17.6TFLOPS，BF16/FP16算力70.4TFLOPS。云燧i10實現(xiàn)多用戶支持，最大可支持4個設備實例，具備計算與存儲資源的獨享性，多用戶間安全隔離；單顆芯片上可同時部署不同的業(yè)務與負載，實現(xiàn)多任務并行，有效提高利用率；支持KVM、Xen等系統(tǒng)虛擬化平臺。

浪潮邊緣計算服務器NE5260M5高度2U，深度只有430毫米，可部署在通信機房或直接懸掛在墻壁上。盡管該服務器體積小巧，但NE5260M5支持多種異構(gòu)加速卡，并且各個模塊具有良好的散熱效果，能夠很好適應邊緣惡劣的高溫濕環(huán)境。基于高度適配的軟硬件組合，浪潮NE5260M5可搭載2-4張云燧i10，最多可提供高達每秒70萬億次的單精度算力和280萬億次的半精度算力，高精度主流推理模型的性能實現(xiàn)了業(yè)界領(lǐng)先為邊緣環(huán)境提供更加靈活的加速選擇。

• 在計算機視覺領(lǐng)域中，可實時高速圖像視覺處理，廣泛應用于工廠AI質(zhì)檢、場景識別、智能交通等應用，在圖像識別場景中，基于ImageNet圖像數(shù)據(jù)集，超過75.9%準確率，推斷性能超過3000FPS，在業(yè)界公認的基準測試模型ResNet-50上，性能是一般產(chǎn)品的1.7倍。在視頻增強場景中，可實時進行視頻分辨率增強，服務器處理性能可達240FPS，性能達到業(yè)界一般產(chǎn)品的2倍。
• 在自然語言處理領(lǐng)域中，可應用于文本分類、輿情監(jiān)管、智能客服等場景，在業(yè)界公認的測試模型Bert-Base上，同時兼顧性能和精度，在FP32高精度下性能是業(yè)界一般產(chǎn)品的1.5倍。
• 在電商、短視頻推薦場景中，可實現(xiàn)精準、高效、實時的目標內(nèi)容投放，在業(yè)界流行的主流推薦模型xDeepFM上，性能是業(yè)界一般產(chǎn)品的2倍，因為采用FP32高精度的推理，推薦內(nèi)容更準確。

得益于5G的拉動，AI正加速向邊緣滲透，未來將會有千億級的終端、無限的數(shù)據(jù)需要在邊緣側(cè)進行人工智能推理，對邊緣側(cè)的AI算力提出了更高的要求。浪潮作為全球領(lǐng)先的計算力提供商，目前已面向工業(yè)互聯(lián)網(wǎng)、智能網(wǎng)聯(lián)汽車、城市治理、工業(yè)互聯(lián)網(wǎng)、產(chǎn)業(yè)+AI等七大邊緣計算場景打造豐富的邊緣計算產(chǎn)品形態(tài)及方案，基于云燧i10的浪潮邊緣NE5260M5，將進一步推動AI向邊緣場景的產(chǎn)業(yè)化落地，驅(qū)動各行業(yè)的數(shù)字化、智慧化轉(zhuǎn)型。