8月30日，以“開放同飛，共贏行業AI新時代”為主題的華為云盤古大模型主題論壇在北京召開。華為云EI服務產品部部長尤鵬在《盤古大模型，為行業而生》的演講中就AI大模型發展趨勢、技術創新實踐、產業發展機會展開深入交流分享。尤鵬表示，大模型正在重塑千行百業，華為云將充分發揮大模型領域的技術積累和工程能力優勢，讓客戶、伙伴快速構建起盤古大模型的開發和應用能力，讓盤古大模型成為每個企業實現戰略轉型和智能升級的核心動力。
華為云EI服務產品部部長尤鵬發表主題演講
盤古大模型三層架構分層解耦，天然生態友好
隨著大模型逐漸加速行業智能化的轉型，更多行業的核心業務系統也在被大模型能力滲透，華為云始終踐行AI for Industries，打造盤古大模型，使能千行百業智能化升級。
尤鵬介紹，盤古大模型提供5個基礎大模型+N個行業大模型+X個場景模型的三層解耦架構，天然具備良好的生態開放性。基于分層解耦的架構，盤古大模型提供調用集成和定制聯創兩種應用模式，可以快速適配，滿足多種場景業務訴求。在調用集成模式下，華為云L0盤古基礎大模型提供100多個能力集，各項能力集互相解耦，可以通過API直接調用。企業用戶可以根據業務場景需要，選擇所需的能力集，使用盤古大模型工作流，快速開發行業場景應用。在定制聯創模式下，企業可以在L0或L1盤古大模型的基礎上，通過對自有數據的二次訓練，就可以快速訓練出自己專屬的行業大模型。同時，根據客戶不同的數據安全與合規訴求，盤古大模型還提供了公有云、大模型云專區、混合云多樣化的部署形態。
其次，華為云昇騰AI云服務為大模型的訓練提供澎湃的、即開即用的算力，為客戶、伙伴的大模型開發部署及運行，提供性能領先、可持續的AI算力底座。
此外，盤古大模型在行業的落地，離不開繁榮的生態。華為云將大力投入，攜手各行各業的客戶伙伴，共同構建全域協同生態體系，打造豐富的行業場景化解決方案，這些方案將更加專注于某個具體的應用場景或特定業務，為用戶提供開箱即用的模型服務。
盤古大模型工程套件，5倍速開發行業大模型
尤鵬表示，為了應對通用大模型落地行業存在的挑戰，華為云提供了大模型工程套件，包括數據工程、模型開發和應用開發三大套件。基于盤古大模型工程套件，完成一個千億行業模型端到端的開發，從過去需要5個月縮短到現在1個月，整體速度提升5倍。
在數據工程套件方面，相比傳統標注平臺，盤古大模型的數據工程套件專門為SFT訓練提供了基于模板的Prompt在線輔助撰寫功能，為RLHF訓練提供了多人Rank在線標注和任務分撥功能。與離線對比，這兩種任務實測效率可提升3倍。同時針對數據清洗，數據工程套件內置了50+數據清洗算子，能夠覆蓋90%以上的清洗場景，大幅提升清洗性能。
在模型開發套件方面，大模型開發套件提供了自監督訓練，有監督微調、強化學習訓練3種工作流，覆蓋了從超參配置到模型訓練、評測、管理、部署的全流程。凝結了大模型專家的實踐經驗，把復雜的大模型開發，流程化、標準化、簡單化，幫助行業用戶一鍵啟動，一站式開發專屬于本行業的大模型，同時通過模型量化和多種推理加速手段提升推理吞吐量，吞吐量可提升10倍，大幅優化模型推理性能。
在應用開發套件方面，盤古應用開發套件將傳統軟件工程與大模型相結合，提供靈活的基于SDK的開發方式，2行代碼即可完成大模型接入，5分鐘完成大模型應用開發，支撐企業分鐘級構建大模型原生應用。作為業內首個同時提供Python、Java版本SDK的大模型應用開發套件，支持更廣泛、更全面的大模型應用開發能力。盤古應用開發套件良好地兼容開源生態，實現“一切皆可編排”，結合可視化的編排服務，幫助用戶在大模型上更好地使用各種工具和技能。
共建盤古大模型全域協同生態，共享行業AI新機遇
大模型的創新不僅僅是模型自身的創新以及AI各項根技術的創新，在算力、算法、平臺、應用、服務等方面也需要全鏈條生態伙伴、客戶的參與。面向軟件伙伴、服務伙伴以及數字化轉型與系統集成伙伴三大主要伙伴，華為云開放了行業大模型、軟件解決方案、插件集成、數字化轉型咨詢、數據生態等全方位的生態合作路徑。
面向軟件伙伴，華為云開放了三大生態合作路徑，包括模型聯創、解決方案構建和插件集成。與有數據沉淀、行業經驗的伙伴構建行業模型、場景模型，打造智能底座；與有行業實踐經驗、大模型集成和開發技術的伙伴，一起構建面向行業的細分場景模型，提供可復制的軟件解決方案；協同企業服務軟件、工具軟件伙伴，用豐富的插件完善盤古大模型的技能集，拓寬大模型的能力邊界。
面向服務伙伴，華為云開放項目機會，通過賦能、認證、技術支持、激勵等各種權益，幫助伙伴快速構建業務模式，獲得可持續性的快速發展。在盤古大模型落地的最后一公里提供優質服務，實現大模型商業閉環。
面向數字化轉型咨詢與系統集成伙伴，華為云與具備系統資質的伙伴進行BP互鎖和Offering共建，深耕客戶，為客戶提供盤古大模型服務相關的咨詢與系統集成服務的合作伙伴。
尤鵬最后表示，在大模型正在重塑千行百業的過程中，華為云歡迎更多的行業客戶與伙伴加入盤古大模型，共創生態圈，共同創新，共享價值與機遇。
