omniture

『妙想』已來 | 東方財富自研金融大模型內測火熱開啟

2024-01-11 16:52

過去,一條財經資訊與投資機會之間

相隔多遠?

接收3分鐘,閱讀5分鐘

分析10分鐘,選股30分鐘...

現(xiàn)在,隨您所問

1秒帶您找到答案

極速提升的背后

是超1.2萬億金融語料的厚積薄發(fā)

是超千卡算力集群3000小時的足時訓練

千人產研團隊奮戰(zhàn)260余日夜的精益求精

更有東方財富二十載的金融科技底蘊

投資者您好

東方財富攜自主研發(fā)的

妙想金融大模型帶您身臨其境!

與您共赴內測之約!

妙想金融大模型是東方財富重磅打造的金融行業(yè)大語言模型,使用Decoder-only 的 Transformer 網(wǎng)絡結構,支持32K 的上下文長度,致力于滿足各類金融場景下的需求。通過自建的數(shù)據(jù)治理和數(shù)據(jù)實驗流程,結合效果預估算法、高效預訓練框架、SFT、RLHF訓練等技術,妙想金融大模型建立起自主研發(fā)的技術壁壘。目前,妙想金融大模型已經覆蓋了7B、13B、34B、66B及104B,分別適配不同的應用場景,提高模型應用的效費比。

依托東方財富互聯(lián)網(wǎng)財富管理綜合運營平臺的優(yōu)勢,搭載“懂金融、懂用戶、強數(shù)據(jù)”的金融生態(tài)基因,妙想金融大模型通過高質量的數(shù)據(jù)挖掘、卓越的特色算法創(chuàng)新、高效的超千卡算力調用,形成了領跑金融行業(yè)的模型底座能力,在金融能力評測中妙想金融大模型表現(xiàn)優(yōu)異,構建了在“金融知識力、金融專業(yè)性、金融信息時效性、金融數(shù)據(jù)安全性”四大維度的行業(yè)領先優(yōu)勢。

模型底座能力領跑

大模型的底座能力既定義著大模型的價值起點,更決定了大模型的能力上限。作為金融行業(yè)的垂類大模型,東方財富自研金融大模型錨定金融能力價值創(chuàng)造,在全研發(fā)鏈路上高度關注金融能力的構建和提升。在預訓練數(shù)據(jù)準備、大模型詞表訓練、預訓練數(shù)據(jù)中的金融數(shù)據(jù)最佳配比、對齊訓練金融能力激發(fā)、金融評測集的建設等大模型研發(fā)的各個環(huán)節(jié)充分背靠金融能力增強優(yōu)勢基因,鑄就妙想金融大模型優(yōu)勢顯著的金融特色能力。

1、高品質金融數(shù)據(jù)供給:得益于東方財富二十載深耕,平臺聚集了海量用戶資源用戶黏性優(yōu)勢,積淀了多元的金融業(yè)務場景,東方財富構建了完備的金融數(shù)據(jù)、產業(yè)數(shù)據(jù)等行業(yè)通用數(shù)據(jù)集,股吧、財富號等平臺優(yōu)質內容數(shù)據(jù)持續(xù)涌現(xiàn),持續(xù)豐富平臺的獨家特色數(shù)據(jù)集。

2、金融數(shù)據(jù)特色挖掘:為了讓妙想金融大模型充分學習金融知識,特別是細分深入的業(yè)務邏輯維度,妙想金融大模型充分挖掘東方財富既有的結構化數(shù)據(jù),將金融的業(yè)務、財務、基本面等數(shù)據(jù)構造成表格數(shù)據(jù),在增加模型結構化數(shù)據(jù)解讀能力的同時強化金融能力。

3、專業(yè)多樣的金融語料:妙想金融大模型儲備了超4萬億高質量可用數(shù)據(jù),其中金融語料達1.2萬億,涵蓋行情、財務、資金、百科、資訊、公告、研報、問董秘等數(shù)十個維度、上萬種數(shù)據(jù)品類;且每月高質量數(shù)據(jù)幾千億token穩(wěn)定增長,為金融專屬任務性能優(yōu)化提供了優(yōu)質數(shù)據(jù)資產。

4、金融詞表讓模型從源頭懂金融:妙想研發(fā)團隊為妙想金融大模型準備了高達12萬的金融詞表,覆蓋中英文金融詞匯、各類金融標的、常見指標等金融專業(yè)術語,以確保使大模型從根源上理解金融語義,生成內容更貼合金融場景邏輯。

5、創(chuàng)新模型訓練算法:在訓練過程中,妙想金融大模型通過采用FlashAttention2異步優(yōu)化、虛擬流水線等方法,顯著提高了超千卡集群的訓練速度,在模型訓練中達到了高效的顯卡利用率,高于業(yè)內平均水平,較高的訓練效率有效地支撐了模型的快速迭代。團隊通過Scaling Law技術、模型架構優(yōu)化、金融數(shù)據(jù)和通用數(shù)據(jù)的配比優(yōu)化等多種創(chuàng)新算法提升模型訓練效率,極致提升模型的金融能力。

6、超千卡算力集群支撐快速迭代:妙想金融大模型構建了超千卡級別的算力集群,可支撐千億級別的模型訓練規(guī)模。集群配套可伸縮分布式調度系統(tǒng),配合高速大存儲,實現(xiàn)了自動故障檢測與應對,報警和訓練機器高速切換功能,能夠支撐起模型的快速迭代優(yōu)化。

7、高性能推理支撐場景需求:妙想金融大模型通過量化、模型算子優(yōu)化等措施極大提高了速度,結合Paged Attention、Continuous Batching、張量并行推理等技術優(yōu)化推理框架的性能,在金融場景下算力的利用率提高了數(shù)倍??紤]到高性能推理算力的持續(xù)供給,更新優(yōu)化了推理框架,能夠靈活適配多種異構算力。

模型能力評測領先

金融領域高質量評測數(shù)據(jù)集。AI時代大模型蜂擁而至,但能夠全面把脈大模型能力的高質量評測數(shù)據(jù)集非常稀缺,垂直到金融領域中,評測數(shù)據(jù)集需要兼具通用能力和金融能力,適配金融的專業(yè)評測數(shù)據(jù)集更為稀缺。上海人工智能實驗室聯(lián)合東方財富推出了開源金融評測數(shù)據(jù)集OpenFinData,為行業(yè)研究和模型評測提供了標準和手段。

OpenFinData是面向金融領域全面且專業(yè)的金融開源評測數(shù)據(jù)集,它包含的六大模塊和十九項金融任務維度,覆蓋了多層次數(shù)據(jù)類型和多樣化金融場景,每一條數(shù)據(jù)均由實際金融業(yè)務場景產生,并由金融專業(yè)團隊進行高質量構建。

金融能力是妙想金融大模型的的價值主線。作為金融行業(yè)的垂直大模型,妙想錨定金融能力價值創(chuàng)造,除了具備文本生成、語義理解、知識問答、邏輯推理、數(shù)學計算、代碼能力等通用能力,更加關注金融場景的垂直能力。為了檢驗大模型的金融能力,妙想金融大模型采取人工評測、自動評測交叉驗證,業(yè)務場景能力復合評測等多種策略手段,嚴格評測妙想金融能力,確保自研的金融大模型貼合金融。

妙想金融能力評測行業(yè)領先。一方面,使用開源金融評測數(shù)據(jù)集OpenFinData對妙想金融大模型的金融場景能力進行360度診斷。在橫跨金融知識、金融計算、金融解讀、金融判別、金融分析、金融合規(guī)等六大金融模塊共十九項金融任務維度的多元金融場景能力的測試中,妙想金融大模型評測綜合評分整體較高。

金融場景評測比較優(yōu)勢凸顯。另一方面,研發(fā)團隊針對常見金融應用場景,對妙想大模型和通用大模型的輸出結果進行了人工標注盲測,從而真實直觀把脈妙想金融大模型的金融能力。從妙想金融大模型和主流通用大模型在各場景的綜合測評結果對比來看,妙想金融大模型在股票對比、個股診斷、實際操作、投資熱點解讀等金融垂直場景的能力已具備較明顯的優(yōu)勢。

金融大模型創(chuàng)新穩(wěn)步向前。東方財富注重金融科技創(chuàng)新,長期聯(lián)動校企、行業(yè)協(xié)會等生態(tài)伙伴,攜手共享科技創(chuàng)新成果,探索金融大模型的創(chuàng)新趨勢。中國信通院于近日發(fā)布“方升”大模型評測體系,旨在建立業(yè)界大模型基準測試統(tǒng)一的“度量衡”。東方財富是此次發(fā)布的評測體系唯一的金融行業(yè)合作伙伴。此外,在中國信通院組織指導的大模型案例評選中,東方財富自研金融大模型獲評“2023年大模型落地應用案例”。

場景賦能引領智能投資

場景是產品價值的舞臺。妙想金融大模型致力于以底座能力賦能金融場景,為用戶創(chuàng)造更多價值。妙想金融大模型發(fā)力投研、投顧、投教、投資等金融核心場景,基于資訊、數(shù)據(jù)、研究、交易、交流等用戶場景痛點,對智能問答和智能投研場景進行了個性化的功能設計,提供數(shù)據(jù)查詢、信息搜索、事件解讀、知識問答、智能選股、投資建議等數(shù)百種場景解決方案。致力于成為用戶隨時隨地的金融百科全書和專業(yè)投資者的投研提效利器,貼心服務金融場景用戶。

智能問答,解你所惑

妙想是投資者的智能伴侶。基于妙想金融大模型的理解和創(chuàng)作能力,結合準確、實時的市場數(shù)據(jù)及資訊,通過多輪智能問答交互,以更智能、更生動、更高效的交互方式陪伴呵護用戶,為用戶提供全周期的陪伴互動體驗。

妙想是投資者的可信顧問。一方面,助力用戶對股票進行多維度分析,提供專業(yè)的投顧建議,輔助投資決策;同時,根據(jù)用戶的個性化需求進行智能選股,幫助用戶把握投資機會;此外還為用戶實時分析市場行情、解讀財經熱點事件等,做到“天下股事,一問便知”。

妙想是投資者的靈感助手。在金融智慧啟迪方面,對于投資新手,妙想作為金融交互問答百科,可幫助用戶快速了解金融市場相關知識,獲取各類金融信息;對于專業(yè)投資者,妙想可從投前的熱點解讀、機會挖掘、標的選擇,到過程中的股票診斷、策略制定,再到投后的股票跟蹤持倉調整,以專業(yè)智慧服務特定金融場景,助力投資者智慧決策,完成對用戶投資全周期閉環(huán)賦能。

智能投研,全面提效

妙想是研究員的可靠助理。妙想智能投研的場景能力強大,一方面實現(xiàn)“一目百篇”,助力研究員倍速完成研報閱讀、挖掘研報增量信息、總結梳理投資要點并精準溯源;另一方面完成“抽絲剝繭”,結合研報內容與擴展信息進行交互問答,助力用戶快速獲取關鍵信息,持續(xù)提升投研效率。

針對專業(yè)投資者的核心投研需求,妙想發(fā)揮自研金融大模型的文本理解、信息提取、總結及問答等多維能力,深度打磨研報總結、投研問答、智能取數(shù)等專業(yè)投資者高頻場景需求,幫助機構從各類金融信息中捕捉投資要點,智能生成資訊及投研簡報,提供投資、風控等業(yè)務場景下的決策輔助。

未來,智能投研將圍繞金融投資研究的全流程,以妙想金融大模型為依托,賦能信息搜集、閱讀整理、研究分析、報告寫作等核心環(huán)節(jié),打造下一代智能投研助手,助力用戶挖掘投資線索,解放繁瑣投研的過程探索,帶來高效投研體驗。

共赴內測 相約妙想

東方財富妙想金融大模型現(xiàn)已開啟內測報名,期待與您相約妙想!

長按二維碼,加入妙想金融大模型內測:

或者點擊這里進行內測報名

妙想金融大模型在財商進階、投資陪伴、投研提質、交易提效等金融場景中不斷探索優(yōu)化,正有序融入東方財富的產品生態(tài)。未來,妙想金融大模型將發(fā)揮東方財富體系的生態(tài)協(xié)同優(yōu)勢,持續(xù)為用戶提供安全合規(guī)、專業(yè)可信、品質卓越的模型能力服務。

消息來源:東方財富