近期,百川智能在金融科技領(lǐng)域邁出了重要一步,正式推出了其全鏈路增強(qiáng)的金融大模型——Baichuan4-Finance。該模型在融合高質(zhì)量金融數(shù)據(jù)與行業(yè)創(chuàng)新的自約束訓(xùn)練策略下,實(shí)現(xiàn)了金融專業(yè)能力與通用智能的雙重飛躍,顯著提升了金融應(yīng)用場(chǎng)景的實(shí)用性與效率。
尤為Baichuan4-Finance在金融領(lǐng)域的專業(yè)表現(xiàn)與場(chǎng)景適應(yīng)性上,已經(jīng)超越了業(yè)界標(biāo)桿GPT-4,并在中國(guó)人民大學(xué)財(cái)政金融學(xué)院主導(dǎo)的FLAME評(píng)測(cè)體系以及國(guó)內(nèi)知名的開源金融評(píng)測(cè)基準(zhǔn)FinancelQ中均取得了領(lǐng)先地位,展現(xiàn)了其強(qiáng)大的競(jìng)爭(zhēng)力。
在模型的核心訓(xùn)練階段,百川智能巧妙地運(yùn)用了領(lǐng)域自約束訓(xùn)練技術(shù),不僅強(qiáng)化了模型的金融專業(yè)技能,還同步提升了其通用智能水平,使得Baichuan4-Finance能夠靈活應(yīng)對(duì)多元化的金融場(chǎng)景需求,大大拓寬了其應(yīng)用范圍。
為了構(gòu)建Baichuan4-Finance堅(jiān)實(shí)的金融知識(shí)基礎(chǔ),百川智能精心打造了一個(gè)涵蓋廣泛的高質(zhì)量金融數(shù)據(jù)集。該數(shù)據(jù)集不僅包括了金融教材、學(xué)術(shù)著作、頂級(jí)金融期刊文章、監(jiān)管政策文件及法律法規(guī)等理論知識(shí),還融入了金融問(wèn)答、企業(yè)財(cái)報(bào)、年報(bào)及金融研究報(bào)告等實(shí)踐數(shù)據(jù),為模型提供了深厚且全面的金融知識(shí)支撐。
在訓(xùn)練過(guò)程中,Baichuan4-Finance還結(jié)合了高質(zhì)量的通用數(shù)據(jù)進(jìn)行混合訓(xùn)練,確保了模型在保持強(qiáng)大通用智能的同時(shí),金融專業(yè)能力也能穩(wěn)步提升。這種混合訓(xùn)練策略,使得模型在處理金融任務(wù)時(shí)更加得心應(yīng)手,同時(shí)也保持了其作為通用大模型的靈活性。
百川智能在模型的后訓(xùn)練階段也投入了大量精力,通過(guò)合成數(shù)據(jù)和指令數(shù)據(jù)對(duì)模型進(jìn)行精細(xì)的有監(jiān)督微調(diào),并在強(qiáng)化學(xué)習(xí)策略中特別針對(duì)數(shù)學(xué)計(jì)算等金融關(guān)鍵場(chǎng)景進(jìn)行了樣本增強(qiáng),進(jìn)一步提升了模型的綜合性能。這些努力無(wú)疑為Baichuan4-Finance在金融智能領(lǐng)域的領(lǐng)先地位奠定了堅(jiān)實(shí)基礎(chǔ)。