隨著人工智能技術(shù)的快速發(fā)展，金融行業(yè)正在迎來(lái)前所未有的智能化變革。
近日，2025金融科技大會(huì)“新型數(shù)字基礎(chǔ)設(shè)施”在蘇州舉辦。會(huì)上，百度智能云金融業(yè)務(wù)部總經(jīng)理徐旭圍繞金融行業(yè)的大模型基礎(chǔ)設(shè)施建設(shè)，分享了百度智能云在過(guò)去幾年深度參與金融機(jī)構(gòu)智能轉(zhuǎn)型的經(jīng)驗(yàn)與觀察。他指出：大模型已進(jìn)入金融機(jī)構(gòu)的高強(qiáng)度、真實(shí)業(yè)務(wù)負(fù)載階段，AI 云全棧能力正成為金融行業(yè)邁入智能化躍遷期的關(guān)鍵引擎。
徐旭表示，目前國(guó)內(nèi)已有金融機(jī)構(gòu)在內(nèi)部大模型服務(wù)上日調(diào)用量突破百億 Tokens，逼近互聯(lián)網(wǎng)級(jí)別的供給強(qiáng)度。這意味著大模型在銀行、保險(xiǎn)、證券等金融場(chǎng)景中的應(yīng)用已從試點(diǎn)階段全面進(jìn)入規(guī)模化落地階段。
與此同時(shí)，全球范圍內(nèi)的大模型仍在沿著 Scaling Law 快速擴(kuò)展至萬(wàn)億量級(jí)。盡管 PD 分離、MoE 架構(gòu)等工程優(yōu)化不斷降低單 Tokens 成本，但超大規(guī)模模型依舊對(duì)金融行業(yè)的計(jì)算基礎(chǔ)設(shè)施提出了前所未有的壓力，形成“模型規(guī)模、算力成本、吞吐性能”難以同時(shí)最優(yōu)的“三難困境”。
更重要的是，大模型的應(yīng)用場(chǎng)景也在發(fā)生明顯遷移：從內(nèi)部輔助工具，快速向客戶(hù)經(jīng)理助手、客服助手、財(cái)富管理助手等前臺(tái)、面客類(lèi)業(yè)務(wù)延伸。這些場(chǎng)景要求更高并發(fā)、更低時(shí)延，使得金融行業(yè)必須重新思考如何構(gòu)建可持續(xù)、可擴(kuò)展的智能底座。
徐旭指出，金融機(jī)構(gòu)不僅需要使用通用基礎(chǔ)模型，也迫切需要圍繞信用風(fēng)控、交易監(jiān)測(cè)、客戶(hù)服務(wù)、合規(guī)審查等垂直場(chǎng)景構(gòu)建“專(zhuān)精模型”。隨著強(qiáng)化學(xué)習(xí)數(shù)據(jù)飛輪啟動(dòng)，模型訓(xùn)練已經(jīng)從過(guò)去的“周級(jí)、天級(jí)”，加速進(jìn)入“天級(jí)、小時(shí)級(jí)”的頻繁迭代。
同時(shí)，為滿(mǎn)足自主可控的要求，金融機(jī)構(gòu)在底層算力層面臨異構(gòu)化挑戰(zhàn)，這進(jìn)一步加劇了智能基礎(chǔ)設(shè)施的復(fù)雜度。在這一背景下，金融機(jī)構(gòu)面臨的核心命題可總結(jié)為四點(diǎn)：高效的算力供給、穩(wěn)定的服務(wù)、靈活的共享調(diào)度、可持續(xù)的經(jīng)濟(jì)性。
徐旭強(qiáng)調(diào)，要破解這一復(fù)雜命題，關(guān)鍵在于跳出單一組件的思維，以“選用管”的系統(tǒng)化理念來(lái)重構(gòu)智能基礎(chǔ)設(shè)施。
百度智能云的獨(dú)特優(yōu)勢(shì)在于其覆蓋算力、模型到應(yīng)用的AI云全棧能力，能夠提供軟硬一體、價(jià)值驅(qū)動(dòng)的優(yōu)化方案。在“選”與“用”的層面，百度智能云倡導(dǎo)以場(chǎng)景驅(qū)動(dòng)，實(shí)現(xiàn)算力價(jià)值最大化。通過(guò)其自研的昆侖芯和百舸AI計(jì)算平臺(tái)，為金融機(jī)構(gòu)提供了高經(jīng)濟(jì)性和高適配性的算力底座。
昆侖芯P800不僅性能卓越，更易于部署。據(jù)項(xiàng)目實(shí)測(cè)，其僅需不到200卡規(guī)模的服務(wù)器集群即可完成千億參數(shù)模型的全參數(shù)訓(xùn)練，可快速提升多模態(tài)數(shù)據(jù)分析、智能客服、代碼助手等場(chǎng)景的應(yīng)用效能，部分多模態(tài)模型推理性能達(dá)到行業(yè)領(lǐng)先水平。某股份制銀行的案例顯示，通過(guò)昆侖芯的集群部署，以不到百卡芯片的規(guī)模，高效支撐了熱點(diǎn)流量窗口下日均百億Tokens的大模型服務(wù)。
在“管”的層面，百度智能云推出了百舸AI計(jì)算平臺(tái)，構(gòu)建了“都江堰”式的算力治理體系。 面對(duì)昂貴且異構(gòu)的算力資源，“百舸”平臺(tái)實(shí)現(xiàn)了對(duì)底層智算云底座和昆侖芯的深度感知與統(tǒng)一抽象。它不僅能確保任務(wù)調(diào)度的高效匹配，更將保障金融業(yè)務(wù)的穩(wěn)定可靠放在首位，通過(guò)故障的快速診斷、自愈和自動(dòng)化隔離機(jī)制，確保了單一訓(xùn)練任務(wù) 99.5% 的高可用率。
更重要的是，百舸具備強(qiáng)大的異構(gòu)資源池化和潮汐調(diào)度能力，能夠統(tǒng)一管理和分配不同型號(hào)、不同地理位置的算力資源，通過(guò)資源超發(fā)和高優(yōu)先級(jí)任務(wù)搶占，打破了算力孤島，最大化了算力資源的共享和利用率。
徐旭表示，未來(lái)，百度智能云將持續(xù)以AI云全棧的整體優(yōu)勢(shì)，深度參與金融機(jī)構(gòu)的智能時(shí)代基礎(chǔ)設(shè)施建設(shè)，提供穩(wěn)定、高效、經(jīng)濟(jì)的“核心引擎”，助力金融機(jī)構(gòu)在服務(wù)實(shí)體經(jīng)濟(jì)、寫(xiě)好“五篇大文章”的進(jìn)程中，搶占新一輪競(jìng)爭(zhēng)的制高點(diǎn)。
免責(zé)聲明：市場(chǎng)有風(fēng)險(xiǎn)，選擇需謹(jǐn)慎！此文僅供參考，不作買(mǎi)賣(mài)依據(jù)。
