9月17日,由南京市人民政府、中國信息通信研究院聯合主辦的2023南京人工智能產業發展大會盛大開幕。此次大會以“AI新趨勢 智能新時代”為主題,匯聚中外人工智能領域產業領袖、學術專家和行業代表,共謀人工智能產業發展新圖景。紫光股份旗下新華三集團數字中國研究院常務副院長李飛受邀出席并發表主題演講,從行業用戶的使用角度出發,分享了新華三對大模型在行業私域部署落地的挑戰和問題,以新華三自身探索和應用私域大模型百業靈犀(LinSeer)的經驗,提出以“五星原則”和“四域支撐”來助推AIGC走向業務場景。
新華三集團數字中國研究院常務副院長李飛
五星原則 設身處地為行業定制
當前AIGC技術正在加速融入百行百業,行業客戶在積極擁抱AIGC的同時, AIGC的應用效果和使用成本已經成為CEO/CTO最關心的問題,然而不斷增長的大模型參數量、硬件資源需求以及持續激增的能耗壓力,導致其在行業落地時面臨困境。李飛指出,以合適的切入場景、合理的模型大小、高效的數據治理、合規的內容安全、合用的落地工具為核心的“五星原則”,將有利于促進AIGC與產業的深度融合。
● 合適的切入場景:通過區分AIGC業務應用場景可加速推動人工智能產業的落地應用,目前,百業靈犀(LinSeer)可為各行業引入豐富的AIGC細分場景。
● 合理的模型大小:AI大模型的大小需要平衡算力和能耗的開支,應選擇適合行業特點和業務特點的大模型進行私域部署。新華三集團自主研發動態混合專家(Dynamic Mixture of Experts)模型技術,能夠將多個專家模型的預測結果進行加權組合,實現最優部署。
● 高效的數據治理:數據是私域大模型發展的核心要素之一,新華三以綠洲平臺為基礎,通過構建私域數據湖進一步沉淀行業數據,幫助客戶訓練自己的知識模型,形成寶貴的行業數據資產。
● 合規的內容安全:客戶業務與AIGC的結合可能會帶來商業機密或個人隱私的泄露、違反法律法規等內容安全問題,通過建立內容輸入防護、模型本身防護和內容輸出防護為一體的內容安全體系可有效規避安全問題。
● 合用的落地工具:有效規避大模型與應用的場景割裂,利用大模型使能平臺幫助行業客戶打通大模型到具體業務場景需求通道,通過連接應用與大模型,提升大模型的行動力和記憶力,實現應用場景的拓展和衍生。
四域支撐 助推“四專”價值實現
AIGC生產新范式帶來生產力的變化,將重塑各行各業的生產關系。作為數字化解決方案領導者,新華三集團與時俱進,全面擁抱AIGC時代。在今年推出的私域大模型百業靈犀(LinSeer),具備行業專注、區域專屬、數據專有、價值專享的特點,可為垂直行業和專屬地域的客戶提供安全、訂制、獨享、生長的智能化服務。
目前,百業靈犀(LinSeer)已形成以綠洲平臺為核心的數據域、以大模型使能平臺 (LinSeer Hub)為基礎的大模型域、以數據安全審查為重點的安全隔離域、以AI助手及AI服務組成的用戶域的“四域支撐”,可為行業用戶提供端到端的私域部署服務,勾勒出百業靈犀(LinSeer)價值實現的全景圖。
新華三百業靈犀(LinSeer)價值實現全景圖
更簡單:以完備的AI工具鏈降低大模型應用過程中的使用成本,通過會話調試可靈活測試、評估大模型領域能力,幫助客戶持續優化提示詞,調配模型參數,在降低大模型運營成本的同時提高推理效果;
更通用:可兼容不同推理平臺及各類大模型,用戶可靈活對應用進行授權,會話、知識檢索、指令調用等功能均可通過大模型使能平臺 (LinSeer Hub)統一管理和推理部署;
更安全:內置安全限制提示詞和出入內容過濾攔截功能,可對所有場景下大模型生成內容進行安全性限制,為用戶信息和數據安全保駕護航;
更智能:通過提示詞管理、編排和使用,可明確大模型對應用場景的目標、策略和約束,并通過向量存儲和檢索讓大模型具備記憶力,最大化提升大模型的行動力。
面向未來,新華三集團將不斷深化“云智原生”戰略,秉持“精耕務實,為時代賦智慧”的理念,把握AIGC時代脈搏,精研云智原生前沿技術,深耕客戶應用場景,以AI之力全面賦能百行百業數智創新。