新3U服務(wù)器支持最多18個(gè)GPU,搭載雙Intel® Xeon® 6900系列P核處理器
加利福尼亞州圣何塞2024年10月10日 /美通社/ -- Super Micro Computer, Inc. (SMCI),一家為人工智能(AI)、云計(jì)算、存儲(chǔ)和5G/終端提供全方位IT解決方案的企業(yè),宣布推出一款全新高密度多功能基礎(chǔ)設(shè)施平臺(tái),專(zhuān)為網(wǎng)絡(luò)終端的人工智能推理進(jìn)行優(yōu)化。 企業(yè)在日常運(yùn)營(yíng)中需要應(yīng)用復(fù)雜的大型語(yǔ)言模型(LLM),這意味著在終端位置需要新的硬件,以最小的延遲處理大量數(shù)據(jù)。 Supermicro的創(chuàng)新系統(tǒng)結(jié)合了多功能性、性能和熱效率,能夠在傳統(tǒng)的空氣冷卻環(huán)境中運(yùn)行,并在單一系統(tǒng)中支持多達(dá)10個(gè)雙寬GPU。
“憑借系統(tǒng)的優(yōu)化熱設(shè)計(jì),Supermicro能夠在高密度的3U 20 PCIe系統(tǒng)中提供256核的強(qiáng)大性能,并可部署在終端數(shù)據(jù)中心,”Supermicro總裁兼首席執(zhí)行官Charles Liang表示, “隨著人工智能市場(chǎng)的迅猛發(fā)展,客戶需要一個(gè)功能強(qiáng)大、用途廣泛的推理數(shù)據(jù)解決方案,以便在內(nèi)部運(yùn)行基于LLM的應(yīng)用程序,同時(shí)確保與數(shù)據(jù)生成地相近。 我們的全新3U終端人工智能系統(tǒng)使他們能夠以最小延遲運(yùn)行創(chuàng)新解決方案?!?/p>
如需了解更多信息,請(qǐng)?jiān)L問(wèn):https://www.supermicro.com/en/solutions/edge-ai
新款SYS-322GB-NR配備了兩個(gè)強(qiáng)大的Intel® Xeon® 6900處理器,支持8800 MT/s MRDIMM和最多20個(gè)PCIe 5.0擴(kuò)展槽。 該Supermicro系統(tǒng)支持多種單寬或雙寬GPU,或?qū)⒉糠謹(jǐn)U展槽用于高性能I/O或其他附加卡。 此外,該服務(wù)器支持最多6TB的RDIMM內(nèi)存和多達(dá)14個(gè)E1.S或6個(gè)U.2 NVMe驅(qū)動(dòng)器。
該系統(tǒng)用例之一是在制造行業(yè),Supermicro的新系統(tǒng)可以部署在自動(dòng)化生產(chǎn)環(huán)境中,在現(xiàn)場(chǎng)處理來(lái)自攝像頭和傳感器的數(shù)據(jù)流,而無(wú)需將數(shù)據(jù)傳輸?shù)竭h(yuǎn)程端口。 這種能力減少了網(wǎng)絡(luò)需求,提高了響應(yīng)速度。 另一個(gè)適合SYS-322GB-NR的環(huán)境是大型控制室,AI加速卡可以部分替換為多顯示卡,支持多達(dá)64個(gè)獨(dú)立顯示器。
Supermicro亮相拉斯維加斯世界移動(dòng)通信大會(huì)(MWC)
SYS-322GB-NR將于10月8日至10日在拉斯維加斯MWC的Supermicro#518展臺(tái)進(jìn)行展示。 此外,Supermicro還將展示集成NVIDIA、AMD和Intel Xeon 6處理器的系統(tǒng),包括X14系列終端和電信系統(tǒng),如:
SYS-222HE-FTN——Hyper-E將數(shù)據(jù)中心性能帶到電信終端,采用雙Intel Xeon 6處理器,2U短深度設(shè)計(jì),具有前置I/O接口
SYS-212B-FN2T——一款用于電信和終端人工智能部署的2U短深度系統(tǒng),配備單顆Intel Xeon 6700系列E核處理器,支持GPU
SYS-E403-14B-FRN2T——一款盒式PC尺寸的壁掛式終端設(shè)備,能夠?qū)ntel Xeon 6700系列E核處理器和GPU支持置于遠(yuǎn)程環(huán)境中
AS-1115S-FDWTRT——1U NEBS兼容系統(tǒng),為ORAN、核心網(wǎng)和托管服務(wù)提供電信級(jí)性能。 該系統(tǒng)使用AMD EPYC 8004系列處理器,并支持1個(gè)單寬GPU加速卡以應(yīng)對(duì)繁重工作負(fù)載。
除了展示Supermicro硬件系統(tǒng)外,Supermicro還將與NVIDIA合作,共同展示推理和人工智能解決方案,涵蓋本地和終端應(yīng)用場(chǎng)景,包括企業(yè)AI、零售、電信終端和金融服務(wù)。 我們將展示包括NVIDIA NIM、NVIDIA NeMo、NVIDIA Metropolis、遠(yuǎn)程管理、安全和網(wǎng)絡(luò)在內(nèi)的關(guān)鍵生成式人工智能解決方案。 對(duì)于電信行業(yè),Supermicro和NVIDIA將展示使用NVIDIA和Supermicro解決方案的實(shí)時(shí)AI RAN策略,展示其性能、管理方式和人工智能應(yīng)用場(chǎng)景。
此外,拉斯維加斯MWC還將展出Supermicro與Intel聯(lián)合推出的全新解決方案,該方案結(jié)合了堅(jiān)固的IP65室外終端系統(tǒng),內(nèi)置AI網(wǎng)絡(luò)加速器和Intel®數(shù)據(jù)中心GPU Flex 170。 該解決方案可實(shí)現(xiàn)多種私有5G網(wǎng)絡(luò)快速、經(jīng)濟(jì)的部署,以及在單一設(shè)備中運(yùn)行的終端人工智能應(yīng)用。 這些網(wǎng)絡(luò)可被不同用戶應(yīng)用,因此提供了可擴(kuò)展的解決方案,適用于工業(yè)園區(qū)、校園、賽事演出場(chǎng)館和智慧城市等高密度環(huán)境。
關(guān)于Super Micro Computer, Inc.
Supermicro(納斯達(dá)克股票代碼:SMCI)是全球領(lǐng)先的應(yīng)用優(yōu)化整體IT解決方案供應(yīng)商。 公司成立并在加州圣何塞進(jìn)行運(yùn)營(yíng),致力于為企業(yè)、云計(jì)算、AI和5G電信/終端IT基礎(chǔ)設(shè)施提供市場(chǎng)首創(chuàng)的創(chuàng)新產(chǎn)品。 我們是一家全面的IT解決方案供應(yīng)商,提供服務(wù)器、AI、存儲(chǔ)、物聯(lián)網(wǎng)(IoT)、交換機(jī)系統(tǒng)、軟件和支持服務(wù)。 Supermicro在主板、電源和機(jī)箱設(shè)計(jì)方面的專(zhuān)業(yè)知識(shí)使我們能夠自主開(kāi)發(fā)和生產(chǎn)產(chǎn)品,為全球客戶從云到終端的下一代創(chuàng)新提供支持。 我們的產(chǎn)品在美國(guó)、亞洲和荷蘭內(nèi)部設(shè)計(jì)并制造,通過(guò)全球運(yùn)營(yíng)實(shí)現(xiàn)規(guī)?;透咝?,并優(yōu)化流程以提高總擁有成本(TCO)、減少環(huán)境影響(綠色計(jì)算)。 獲獎(jiǎng)的Server Building Block Solutions®產(chǎn)品組合讓客戶能夠根據(jù)其具體的工作負(fù)載和應(yīng)用進(jìn)行優(yōu)化,選擇我們靈活的、可反復(fù)利用的構(gòu)建模塊系列系統(tǒng),該系列支持廣泛的外形規(guī)格、處理器、內(nèi)存、GPU、存儲(chǔ)、網(wǎng)絡(luò)、功率和冷卻解決方案(空氣冷卻、自由空氣冷卻或液冷)。
Supermicro、Server Building Block Solutions和We Keep IT Green是Super Micro Computer, Inc.的商標(biāo)和/或注冊(cè)商標(biāo)。
所有其他品牌、名稱(chēng)和商標(biāo)均為其各自所有者的財(cái)產(chǎn)。