8月15日,訊飛星火認知大模型V2.0升級發布會上,科大訊飛攜手華為發布星火一體機,讓所有企業都可以在國產自主創新的平臺上,更方便、更自主、更安全可控地私有化部署大模型。
開箱可用,內置資源已涵蓋10余個專業場景
“星火一體機”是國產軟硬件一體化的私有專屬大模型解決方案,開箱即可使用,提供從底層算力、AI框架、訓練算法、推理能力、應用成效等全棧AI能力,幫助企業打造專屬大模型。
星火一體機的訓練和推理一體化部署,可用于問答系統、對話生成、知識圖譜構建、智能推薦等多個領域的應用,具備大模型預訓練、多模態理解與生成、多任務學習和遷移等能力。
科大訊飛在在辦公、政務、電力、教育、醫療、工業、司法、金融等行業深耕多年,積累了豐富的場景落地經驗。星火一體機內已涵蓋辦公、代碼、運維、客服、營銷、采購等10多個場景包,支持對話開發、任務編排、插件執行、知識接入、提示工程等5種定制優化模式,并將持續拓展更多專業場景和模式優化,為客戶快速定制企業專屬大模型。
星火一體機還針對星火認知智能大模型的訓練算法和推理應用進行了硬件的量身定制,可大大降低企業的使用成本。
“雙保險”:訊飛保障內容,華為保障算力
科大訊飛董事長劉慶峰在發布會上表示,認知大模型的深度賦能時代已經到來,大模型在企業深度應用的三個關鍵要素是:第一,安全可控:內容安全,要有正確價值觀,算力安全,要在完全自主可控的平臺上進行;第二,場景驅動:在看得見摸得著的場景產生實實在在的價值,并能夠用數據去證明成效;第三,專屬定制:內容匹配需求,基于行業和企業的私域數據構建私有化專屬大模型,提升應用效果。
企業應用大模型并不是盲目追風口,要從自身需求出發,讓大模型真正結合業務,提升效能、創造價值。場景驅動和專屬定制是企業大模型的基礎,而安全可控則是底線。
2023年4月28日,中共中央政治局會議就強調:“重視通用人工智能發展,營造創新生態,重視防范風險”;2023年7月,7部委聯合發布《生成式人工智能服務管理暫行辦法》,再次強調“發展和安全并重”。
在內容安全方面,星火一體機基于訊飛星火認知大模型,針對污語料和幻覺問題,形成立體化的“內容安全機制”。無監督的互聯網語料,經過語句判別器、質量判別器、隱私判別器、安全判別器等關卡,得到清洗后的高質量文本;為了解決“幻覺問題”,科大訊飛針對各類型任務構建專業知識庫,以類搜索插件技術實現知識獲取,基于大模型的理解和概括摘要能力給出答案。
在算力安全上,星火一體機基于昇騰AI硬件、昇思AI開源框架,提供業界領先的大模型訓練、推理能力,為大模型全流程創新提供堅實的自主創新算力底座。
“雙保險”下,企業能夠放心大膽地打造專屬大模型。
強強聯合,將打造通用智能新底座
大模型的研發過程,需要可以支撐千億參數規模的大模型并行訓練的算力和框架,還需要幾千張卡同時連續運行。基于此,系統架構以及并行訓練的集群能力成為國內大模型研發的關鍵。
在今年的7月6日,科大訊飛就公布訊飛星火將與昇騰AI強強聯合,打造基于中國自主創新的通用智能新底座。一方面,訊飛星火認知大模型基于訓練推理一體化設計,實現大模型稀疏化、低精度量化的技術突破,能高效適配昇騰AI,加速大模型的行業落地應用和迭代;另一方面,以昇騰AI為核心,軟硬件協同優化,構建算力集中、性能優越、供給穩定、數據安全的大模型訓練集群。
此次發布的星火一體機,是科大訊飛與華為在AI算力、大模型的合作落地之一,將面向行業、企業客戶,提供基于專用數據的自主可控私有化大模型,加速推動重點企業的數智化轉型升級。國產大模型只有基于中國自主創新的算力底座才有大未來。之后,雙方將持續深化合作,放眼全球,聯合攻關算力國產化核心難題,實現從單點算力到集群算力、從節點創新到系統創新。