近期,WakeData惟客數據(以下簡稱 “ WakeData ” )完成了新一輪的產品能力升級。就 ToB 企服公司如何融合GPT 大模型,WakeData 給出了自己的答案。
在2022年11月的產品發布會上,已傳遞出WakeData的“三個堅定”:始終堅定技術投入,全面夯實核心產品的科技能力和自研率;始終堅定國產化適配能力,支持國產芯片、操作系統、數據庫、中間件、國密算法等,并在同領域實現對國外廠商的國產化替代;始終堅定擁抱生態,與伙伴共創共贏。
WakeData繼續新一輪的產品能力升級,憑借過去5年的技術積累,以及在地產、零售、汽車等行業和垂直領域的實踐,與戰略伙伴聯合研發具有私有化部署能力的行業大模型WakeMind,將在 AIGC 時代幫助更多企業自我革命、提升效能,持續解放生產力。
WakeMind模型的三大平臺層
模型層:母艦平臺將以具有私有化部署和行業定制能力的WakeMind作為核心引擎,已接入了ChatGPT等大模型,同時支持接入如文心一言、通義千問等多個大模型能力
平臺層:WakeMind基于Prompt提示工程、Plugin、LangChain等方式,實現與接入大模型的高效對話能力。在零樣本學習的基礎上,通過Prompt和Plugin管理,讓模型能夠更好的理解上下文信息;通過投喂行業語料,讓模型快速學習行業知識,并具有行業和垂直領域的思考推理能力。
應用層:WakeMind母艦平臺提供底層能力,通過一架又一架的艦載機去賦能產品應用和行業場景,提升企業內部生產力。
舉個例子,母艦平臺如何賦能惟數云。企業在借助惟數云平臺建設和使用數據資產的過程中,往往需要投入大量專業的數據開發工程師,參與到業務需求分析和數據開發工作中,而大量繁瑣的開發任務會導致整個數據價值實現周期被拉長。基于WakeMind賦能,只需要通過文本交互,惟數云就可以自動生成對應的數據查詢語句,并一鍵執行查詢,能夠大幅度提高數據查詢、分析、開發的效率,全面降低數據使用的技術門檻,以實現數據人人可用的目標。
WakeMind模型的三大特征
1)參數量更適合行業化和垂直領域場景。AI生成的內容要達到人類水平,往往需要以“預訓練+微調”的大模型為基礎;WakeData聯合業界領先的千億參數多模態預訓練大模型廠商,通過知識蒸餾和動態量化,壓縮出100億參數量的WakeMind模型;在聚焦的行業和垂直領域,基于P-Tuning V2可以將需要微調的參數減少到原來的千分之一,大幅度降低微調所需要的計算量。
2)具備行業化和垂直領域能力的文本創造和代碼生成。
3)支持私有化部署和行業化定制。行業或垂直領域的頭部企業,更希望具備私有化部署和行業化定制大模型的能力。而如何在小樣本學習和低算力消耗的情況下進行有效的預訓練,已成為行業化定制模型的技術門檻。WakeData行業數據和垂直領域數據的積累,將使行業大模型具有行業Know-How,并形成獨特的競爭優勢。
同時,WakeMind采用Transformer架構,以self-instruct方式生成數萬的指令遵循樣本數據,使用SFT(Supervised Fine-Tuning)、RLHF等技術實現意圖對齊,通過INT8量化后,可大幅降低推理成本,使模型具有私有化部署的可行性
大模型與行業化預訓練大模型
自OpneAI發布ChatGPT以來,給世界帶來了巨大沖擊。其背后的大型語言模型 (Large Language Model,LLM) ,以及RLHF (Reinforcement Learning from Human Feedback) 即以強化學習方式依據人類反饋優化的語言模型,得到了廣泛關注。
WakeData創業初期,在NLP、CV、語音等領域就發布了11個AI模型,其中NLP語義分析大模型的應用場景最為豐富。例如在低頻高客單價的地產置業、汽車、品牌零售等行業領域,SCRM是最有效的潛在客戶和存量客戶經營方式之一。WakeData通過行業語料的積累和特定的預訓練,使AI對行業產生深刻理解,能夠在對話過程中24小時快速響應客戶問題,并且能夠基于會話信息,自動抽取客戶標簽,提升客戶畫像的分辨率。
在WakeData,AI大模型能力已經覆蓋到從底層客戶數據資產構建,中層客戶經營旅程和經營規則,再到上層的多接觸點營銷鏈路;具備能夠為整個數字化客戶經營的垂直領域‘降本、提效、賦能’的能力。例如在CDP客戶數據平臺領域,以前運營人員需要繁瑣的規則設計才能圈選到合適的目標客群,現在則通過簡單的語言描述和對話,AI即可以輔助找到對應的目標客群,大幅降低平臺的使用學習成本,跨越式的提升使用效率和交互體驗。
在MA營銷自動化領域,WakeData的產品已經接入了微信生態、抖音、小紅書等觸點,并且支持自動化構建營銷旅程,提供豐富的旅程模版庫,可以實現“實時的、一對一的、個性化的”用戶觸達。這其中有一個重要的環節是個性化營銷素材的生成,包括文本、圖片、圖文混排等,AI大模型可以大幅提升這個部分的效率和質量,同時降低成本。
在Loyalty大會員領域,當大會員系統橫跨不同行業、不同業態的時候,會員規則和會員資產拉通就會存在挑戰,WakeData的AI大模型基于大量行業經驗和語料訓練形成的Prompt引擎,通過簡單會話,描述不同業態會員的特性和業務訴求,就可以自動生成不同會員規則的映射邏輯和組合方案。
大模型在行業和垂直領域的實踐已證明其價值。
WakeMind商業路徑的三個階段
1)2018-2021年,自有模型應用和商業化探索期。基于WakeData的惟數云、惟客云、昆侖平臺三條基礎產品線,將自研的NLP大模型在地產、新零售、汽車等行業,以及數字營銷等垂直領域進行全面的探索和實踐。
2)2022-2023年,WakeMind發布和母艦平臺建設期。WakeData聯合戰略伙伴加速行業大模型WakeMind的研發,并通過母艦平臺,使WakeMind具備行業化和垂直領域的定制化能力,具備私有化部署能力,具備通用大模型的接入和管理能力,實現對自有模型不能覆蓋場景的有利補充。
3)2023年及以后,全面進入WakeMind模型應用期。 WakeMind基于母艦平臺的能力,全面接入到惟客云、惟數云、昆侖平臺等產品線,通過行業知識積累、行業場景優化、行業提示工程訓練,進一步提升模型的行業化能力,并將在地產、新零售、汽車等行業發起更大規模的商用。與此同時,WakeData自身也基于WakeMind母艦平臺的能力,開始實現自我生產力的革命。
WakeData如何用AI解放生產力
WakeData公司的使命定義為「喚醒數據」 ,并已在大數據平臺領域布局多年。作為一家TOB企服公司,就「如何運用大模型」WakeData看到了巨大的機遇,并將大模型的運用覆蓋到了兩個方面:一方面是將大模型接入產品,另一方面則幫助企業內部的設計師、程序員等人群使用大模型進行產品開發和客戶項目交付。
大模型的接入運用有兩個基本要素,有更適用的場景和具備大數據AI能力,WakeData主要的兩款產品“惟客云”與“惟數云”則為大模型的接入提供了便利。惟客云能夠更方便的基于行業數字化應用將大模型工具無縫接入,客戶無需關心應用背后的復雜配置和技術優化;惟數云則能夠基于行業幫助場景應用優化提示工程和垂直模型。而這也是WakeData一直堅持平臺+應用的產品方案優勢。
與此同時,WakeData將大模型接入產品又分為了兩類,一類是基于產品和行業業務流接入,這類接入的重點在于優化體驗和行業知識,幫助客戶快速、便捷和有效的運用;第二類是基于產品結和開源大模型深度優化垂直場景,這類產品更符合大客戶對抗風險和數據安全上的訴求,同時基于行業的理解對模型可以不斷優化,可以保持這類客戶在垂直行業的持續競爭力。
“企業在數字化轉型和數字化客戶經營當中要融合好大模型,大數據和場景是兩個關鍵要素。”WakeData創始人兼CEO李柯辰表示。
在通常情況下,大模型都需要大量的數據進行有效訓練,因此具備行業化的數據平臺能力變得至關重要。近日國家互聯網信息辦公室發布了《生成式人工智能服務管理辦法(征求意見稿)》,其中特別強調了訓練和預訓練數據來源的合法合規,以及數據的真實性、準確性、客觀性、多樣性。大模型的價值應用場景,更是大模型發展和商業化的重要因素;所謂場景就是指我們訓練的模型的用途,是否能在合法合規的前提下,為業務創造核心價值。
李柯辰認為,場景是運用大模型的環境,大數據和AI技術基礎是能力;擁有行業場景和行業數據的企業在獲得大模型能力時會更快、更有效、更敏捷。
WakeData的兩條核心產品線,正是對這兩大要素的累積;惟數云作為新一代數據平臺,具有強大的大數據End-to-End的數據處理能力,惟客云作為新一代數字化客戶經營平臺,其中包含了CDP、MA、SCRM、Loyalty等套件,擁有海量的業務應用場景,并且通過垂直行業深耕戰略,擁有更強的行業Know-How,擁有更多有價值的訓練樣本數據。在2022年惟數云就發布5.0版本,其數據集成、數據計算、數據分析和治理、數據可視化、數據資產化的能力均具有行業領先的優勢。而這些數據側的優勢,也成為大模型時代行業化人工智能應用的競爭壁壘。
“在WakeData內部已經初步形成推進生產力解放的工作氛圍,WakeMind能力在產品設計、開發測試、營銷運營等領域,都已經展開使用,初步運用已實現人效達到20%的提升。在加快產品研發的同時,也提升了客戶項目交付的效率,還為客戶的數字化項目落地節省了時間成本。。”WakeDataCTO錢勇說到。
昆侖平臺由基礎云、開發云、集成云三部分組成,是WakeData產品研發和實施交付過程中非常重要的云原生技術底座。昆侖平臺開發云通過WakeMind賦能,工程師已經在探索“基于產品文檔,輔助生成對應的架構設計、數據模型設計,再輔助生成代碼、檢測代碼的正確性”等方面的應用。例如在推進領域驅動設計的過程中,WakeMind可以輔助學習DDD、輔助工程師進行領域建模;在數據建模的過程中,可以通過自然語言交互進行數據模型的創建、修改、自動補充完善,快速生產SQL語句;在產品研發過程中,通過輸入產品文檔,提取和生成產品術語表,并進行詳細的解釋說明等。
對普通的工程師來說,在生成規則類代碼、自動生成單元測試、代碼審查和優化等領域,已經可以大幅提高開發效率了。
WakeMind提供全員可用的文案生成助手。
市場部門通過AI的 Text to Video快速構建的營銷增長矩陣。
AIGC賦能行業和垂直領域是必然趨勢,也是WakeData自創業以來的核心發展路徑。對于類ChatGPT的技術和服務,WakeData一直保持開放和擁抱的態度,并且積極投身其中,在聚焦行業化經營的戰略基礎上,緊緊把握其價值化和商業化的路徑。惟客數據的 WakeMind 行業大模型,將在 AIGC 時代幫助更多企業自我革命、提升效能,持續解放生產力。