omniture

浪潮信息:元腦EPAI已接入DeepSeek,大幅提升DeepSeek企業(yè)應(yīng)用準(zhǔn)確率

2025-02-21 19:05 1453

北京2025年2月21日 /美通社/ -- 浪潮信息宣布元腦企智EPAI企業(yè)大模型開發(fā)平臺已全面接入支持DeepSeek大模型。通過元腦企智EPAI,企業(yè)用戶能夠?qū)I(yè)務(wù)數(shù)據(jù)與DeepSeek大模型結(jié)合,深度開發(fā)模型潛力,快速實現(xiàn)本地化部署DeepSeek,構(gòu)建準(zhǔn)確率高、安全穩(wěn)定的專屬智能應(yīng)用。實測數(shù)據(jù)顯示,DeepSeek在元腦企智EPAI上開發(fā)的企業(yè)應(yīng)用回答準(zhǔn)確率達(dá)到95%。


企業(yè)落地DeepSeek挑戰(zhàn)重重

DeepSeek R1 671B大模型憑借其卓越性能和廣泛應(yīng)用前景廣受關(guān)注。然而,企業(yè)在實際落地DeepSeek的過程中卻面臨私有知識適配不足、知識動態(tài)變化、大模型幻覺等諸多挑戰(zhàn),限制了其在特定場景中的應(yīng)用潛力。

首先,企業(yè)的應(yīng)用場景往往具有高度的獨特性和專業(yè)性,尤其是金融、醫(yī)療等行業(yè),其業(yè)務(wù)邏輯復(fù)雜,涉及大量專業(yè)術(shù)語、法規(guī)政策以及內(nèi)部流程。這些企業(yè)需要能夠理解并運用其私有知識的智能工具,然而DeepSeek大模型的訓(xùn)練數(shù)據(jù)主要來源于通用領(lǐng)域的公開信息,缺乏針對專業(yè)領(lǐng)域的深度適配,這種先天的知識不匹配導(dǎo)致DeepSeek在處理企業(yè)內(nèi)部專業(yè)問題時難以提供精準(zhǔn)答案,無法滿足企業(yè)對高精度回答的需求。

其次,企業(yè)內(nèi)部知識并非靜態(tài)不變,而是會隨著業(yè)務(wù)發(fā)展和技術(shù)迭代不斷更新。如果模型未能及時學(xué)習(xí)和適應(yīng)這些動態(tài)變化,其輸出結(jié)果的準(zhǔn)確性將進(jìn)一步下降。尤其是在涉及實時數(shù)據(jù)分析或快速決策支持的應(yīng)用場景中,模型的滯后性可能帶來嚴(yán)重后果。

此外,大模型在生成內(nèi)容時,難免會出現(xiàn)"幻覺"問題,即生成與事實不符或缺乏依據(jù)的信息。這種現(xiàn)象在通用場景下可能影響有限,但在法律、醫(yī)學(xué)等對準(zhǔn)確性要求極高的領(lǐng)域,幻覺問題將帶來潛在風(fēng)險。如何有效降低大模型的幻覺發(fā)生率,提升生成內(nèi)容的可靠性和準(zhǔn)確性,已成為行業(yè)共同關(guān)注的焦點。

因此,要真正實現(xiàn)DeepSeek的落地應(yīng)用,必須將企業(yè)自身積累的知識與DeepSeek深度結(jié)合,通過模型微調(diào)、Prompt工程、知識庫等方式優(yōu)化模型表現(xiàn),而這一過程對企業(yè)的技術(shù)能力的要求極高。此外,企業(yè)還面臨數(shù)據(jù)安全與隱私保護(hù)的雙重壓力。

元腦EPAI+DeepSeek,企業(yè)大模型應(yīng)用開發(fā)如虎添翼

面對上述挑戰(zhàn),元腦企智EPAI與DeepSeek R1 671B全面適配,幫助企業(yè)用戶將業(yè)務(wù)數(shù)據(jù)與DeepSeek深度融合,快速打造高準(zhǔn)確率、安全穩(wěn)定的企業(yè)專屬智能應(yīng)用。元腦企智EPAI是浪潮信息的大模型應(yīng)用落地解決之道,能夠為企業(yè)AI大模型落地應(yīng)用提供高效、易用、安全的端到端開發(fā)平臺,幫助企業(yè)高效開發(fā)部署生成式AI應(yīng)用、打造智能生產(chǎn)力。


  • 四大核心工具,DeepSeek回答準(zhǔn)確率大幅提升
    回答準(zhǔn)確率優(yōu)化方面,元腦企智EPAI構(gòu)建了從模型微調(diào)到應(yīng)用開發(fā)全鏈路質(zhì)量提升體系。元腦企智EPAI支持企業(yè)將私有業(yè)務(wù)數(shù)據(jù)與DeepSeek深度結(jié)合,通過領(lǐng)域微調(diào)形成高專業(yè)度的私有模型,從根本上提升知識問答精度。針對DeepSeek"幻覺"問題,元腦企智EPAI集成知識檢索、插件管理、提示詞工程和智能體編排四大核心工具。知識檢索模塊采用端到端優(yōu)化的RAG pipeline架構(gòu),內(nèi)置專為增強(qiáng)中文文本檢索能力而設(shè)計的嵌入式模型(Embedding模型)Yuan-EB,在權(quán)威的嵌入模型測試榜單C-MTEB中斬獲檢索任務(wù)冠軍,能夠有效提升RAG系統(tǒng)的檢索精度。結(jié)合領(lǐng)先的混合檢索與結(jié)果重排技術(shù),端到端檢索精度超過90%。插件模塊支持實時接入企業(yè)知識庫和業(yè)務(wù)系統(tǒng),確保信息獲取的準(zhǔn)確性和時效性。智能體編排模塊可建立多模型協(xié)同工作機(jī)制,通過決策鏈設(shè)計降低單一模型偏差風(fēng)險。實測數(shù)據(jù)顯示,DeepSeek在元腦企智 EPAI上開發(fā)的企業(yè)應(yīng)用回答準(zhǔn)確率達(dá)到95%。
  • 低代碼+可視化,顯著提升開發(fā)效率
    開發(fā)效率方面,元腦企智EPAI創(chuàng)新性地構(gòu)建了"低代碼+可視化"的全棧開發(fā)環(huán)境。集成vLLM、transformer等主流框架,實現(xiàn)DeepSeek全參數(shù)模型服務(wù)分鐘級上線。模型微調(diào)上,元腦企智EPAI支持通過低代碼完成微調(diào)數(shù)據(jù)制作、領(lǐng)域模型微調(diào)和評估。應(yīng)用開發(fā)上提供雙模構(gòu)建體系,對話式應(yīng)用支持通過自然語言配置助手參數(shù),可視化工作流編輯器支持拖拽式搭建復(fù)雜業(yè)務(wù)邏輯,二者均可自動生成標(biāo)準(zhǔn)化API接口。某制造企業(yè)實踐表明,使用元腦企智EPAI開發(fā)質(zhì)檢智能體應(yīng)用,需求響應(yīng)周期從傳統(tǒng)編碼開發(fā)的3周縮短至3天,開發(fā)效率提升5倍以上。
  • 多層防護(hù)機(jī)制,確保DeepSeek安全穩(wěn)定
    系統(tǒng)穩(wěn)定性保障方面,元腦企智EPAI采用智能彈性架構(gòu)設(shè)計。資源調(diào)度系統(tǒng)實時監(jiān)測QPS波動,可在1秒內(nèi)完成計算資源動態(tài)擴(kuò)縮,實現(xiàn)高并發(fā)的穩(wěn)定處理。元腦企智EPAI引入服務(wù)容錯能力,硬件故障時可實現(xiàn)服務(wù)無縫切換,保障全年可用性達(dá)99.99%。安全體系構(gòu)建多層防護(hù)機(jī)制,涵蓋模型輸入過濾、輸出審核、數(shù)據(jù)加密傳輸?shù)拳h(huán)節(jié),保障生成內(nèi)容的安全性與隱私性,從而確保企業(yè)能夠安全、穩(wěn)定地使用DeepSeek。


浪潮信息是全球領(lǐng)先的IT基礎(chǔ)設(shè)施產(chǎn)品、方案和服務(wù)提供商,通過發(fā)展新一代以系統(tǒng)為核心的計算架構(gòu),打造開放、多元、綠色的元腦智算產(chǎn)品和方案。浪潮信息致力于AI計算平臺、資源平臺和算法平臺的研發(fā)創(chuàng)新,并通過元腦生態(tài)攜手領(lǐng)先伙伴,加速人工智能的創(chuàng)新和應(yīng)用落地。

消息來源:浪潮信息
China-PRNewsire-300-300.png
全球TMT
微信公眾號“全球TMT”發(fā)布全球互聯(lián)網(wǎng)、科技、媒體、通訊企業(yè)的經(jīng)營動態(tài)、財報信息、企業(yè)并購消息。掃描二維碼,立即訂閱!
collection