近日,2023金融科技安全與創新大會在濟南召開。會上,由金融信息化研究所牽頭,騰訊云主編,30余家金融機構和科技企業參加編制的《大模型金融應用實踐及發展建議》正式發布。
報告詳細分析了大模型工程應用的七大關鍵環節,包括數據構建、模型算法、模型訓練、模型壓縮與加速、模型評測、模型運營和安全可信。同時,報告追蹤了國內外大模型產品的參數量和開源狀態。
報告重點關注了大模型在金融領域的應用與實踐情況,總結了三種常見的技術選型路線,即開源模型應用、產學研聯合研發和商用產品采購。也強調了私有化部署在金融機構中仍然是主要的選擇方式,以及模型微調作為提高模型準確性的有效手段。
報告認為,金融機構和科技企業正在積極探索大模型在金融領域的應用,包括智能客服、智能辦公、智能研發和智能投研等多個領域。這進一步推動了金融服務的數字化改造,加速了AI技術對金融業務的提質增效。
與此同時,報告也指出了大模型在金融領域應用的挑戰,如規范與指南的不完善、應用場景的缺乏范式、數據和算力支持的問題。就此,報告提出相關建議,以促進大模型在金融領域的快速應用,并為整個行業提供指導和借鑒,以推動金融領域的大模型應用。
本次報告中,騰訊云多個實踐案例成功入選。在股份制銀行的日常業務中,大量的回單、交易發票、申請書等數據需要處理,傳統的人工處理方法效率低下、成本高昂。同時,傳統OCR深度學習模型在應對多樣化的單據處理中也表現不佳。因此,騰訊云的TI-OCR大模型應運而生,旨在解決這一問題。
TI-OCR提供多種識別模式,包括智能結構化、固定版式結構化、檢測/識別、智能分揀。其先進的技術架構采用分布式體系結構,支持多個Worker節點,提高系統吞吐量。數據存儲方面采用MySQL存儲元數據,普通硬盤用于存儲圖像和模型數據。TI-OCR大模型具備原生大模型支持、通過prompt設計支持復雜任務、多模態技術提高召回率的特點。
某股份制銀行通過應用TI-OCR大模型,實現了自動化的數據處理和高度結構化,將數據識別準確率提高至95%以上。這一應用降低了高重復手工勞動,減少了運營成本,實現了多元業務數據處理的標準化、線上化和自動化。
在智能客服方面,傳統銀行客服面臨知識維護、問答覆蓋率和服務效率等挑戰。為了提升客戶服務質量,騰訊云的金融大模型被用于構建智能客服系統,以滿足客戶不斷增長的需求。
某股份制銀行充分利用騰訊云金融大模型能力,構建了專屬的金融客服大模型,并進行了私有化部署。通過語音識別、語音合成、人臉識別等AI技術,結合NLP技術和知識庫,實現了智能語音導航、智能問答、智能外呼、智能質檢以及客服助手等功能。
騰訊云的金融大模型為該股份制銀行提供了智能咨詢、輔助分析和決策服務,為多個核心業務的智能化發展提供了支持。智能客服機器人通過多個渠道提供問答服務,大幅減少了人工成本,同時提升了客戶交互體驗。
目前,騰訊云行業大模型已經為20多個行業提供了超過50個解決方案,為金融等行業客戶提供了一站式MaaS服務,支持金融機構構建自己的專屬大模型。此外,騰訊云還與頭部金融機構合作,共建了近百個定制化風險控制模型。
不斷為千行百業輸送行業大模型解決方案的同時,騰訊云一直以來都在積極參與大模型標準建設。此前,騰訊云作為推動行業大模型發展的核心單位,聯合信通院正式發布國內首個金融行業大模型標準,為金融行業智能化的高質量發展提供了重要支撐,為全面促進大模型安全合規和可信發展提供了重要保障;2020年,騰訊被選舉為全國信標委人工智能分委會委員兼副秘書長單位,作為核心成員,承擔了更多標準制定工作以及技術引領作用。
未來,騰訊云將繼續積極推動行業大模型標準制定,加速金融行業應用落地,為金融行業的數字化轉型提供有力支持。