度小滿開源“軒轅70B”金融大模型 進一步提高金融服務效率
2023-11-02 14:20:57來源:今日熱點網
當下,由于場景豐富、數據復雜等特性,金融行業對于大模型應用的需求較高。加快攻克大模型技術難題,才能進一步緩解金融行業發展困境。度小滿多年來持續加強對大模型等技術的研究,在創新技術領域取得了突出成就。度小滿于近期開源的“軒轅70B”金融大模型在C-Eval、CMMLU兩大權威大語言模型評測基準成績優秀,該模型在分析金融報告、處理復雜數據方面有著獨特的技術優勢,能夠進一步提高金融服務效率。
9月22日,度小滿宣布“軒轅70B”金融大模型開源,所有用戶均可自由下載和試用,并公布了“軒轅70B”在C-Eval、CMMLU兩大權威大語言模型評測基準的成績。數據顯示, 在C-Eval榜單上,XuanYuan-70B的總成績達到71.9分;在CMMLU榜單中,以71.05分的高分位居榜首,在兩大權威榜單上的所有開源模型中排名第一,也是國內首個同時在兩大權威榜單排名第一的金融大模型。
C-Eval榜單是由清華大學、上海交通大學和愛丁堡大學合作構建的綜合性考試評測集,幾乎囊括了所有國內外的主流模型,覆蓋人文、社科、理工、其他專業四個大方向的52個學科,共有13948個多項選擇題和中學、本科、研究生、職業等四個難度級別,是目前對模型潛力判斷最具權威性的大模型榜單之一。
CMMLU數據集是一個綜合性的中文評估基準,由MBZUAI、上海交通大學、微軟亞洲研究院共同推出,專門用于評估語言模型在中文語境下的知識和推理能力,共涵蓋了67個主題,涉及自然科學、社會科學、工程、人文以及常識等。
金融行業場景豐富,數字化程度高,是大模型落地應用的最佳場景之一。但金融又是一個高合規要求的行業,業務決策復雜,大模型真正在金融業務中做到實際應用還面臨不少挑戰。
度小滿CTO許冬亮表示,“相比通用大模型,‘軒轅70B?金融大模型經過度小滿業務場景中沉淀的海量金融數據訓練,對金融知識理解更專業、更精準,可控性、安全性更高。我們把大模型開源,希望能夠降低大模型在金融行業的部署和應用門檻,促進金融行業服務效率和服務體驗的突破性革新”。
“軒轅70B”將在社區同時開源金融大模型和50G高質量金融語料。
今年5月份,度小滿開源了國內首個千億參數的金融大模型,已經有上百家金融機構申請試用。本次發布的新版大模型相較于上一個版本能力全面提升:在增量預訓練和指令微調階段,加入了度小滿業務場景中的海量金融數據,對金融問題回復更專業,金融知識理解能力提升明顯;同時在預訓練階段,"軒轅70B”的模型上下文長度擴充到8k,能夠處理更長的金融報告、研究和分析。
度小滿以創新技術為驅動力,不斷提升自身技術實力,通過創新金融科技破解金融行業發展難題,此次開源的“軒轅70B”表現出色,也得益于度小滿長期以來對創新技術的執著追求。當下,大模型在金融領域的運用還面臨諸多挑戰。度小滿將繼續聚焦大模型,打破數據孤島,攻克行業技術難關,為金融行業創新發展提供技術支撐。
免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據。
標簽: