產品技術的演進,離不開底層科技的創新。人工智能已經成為新一輪科技革命和產業變革的重要驅動力量,基于強算法、大算力和大數據的大模型發揮著關鍵作用。
在9月22日于廣州舉辦的2023年中國企業出海高質量發展創新大會上,琶洲實驗室-人工智能與數字經濟實驗室(廣東)(簡稱琶洲實驗室)科學家譚明奎教授以《大模型歷史機遇與挑戰》為主題發表開場演講。譚教授認為,企業出海面臨諸多挑戰,在加速本土化落地、跨境貿易合作、數字內容創意開發等方面,大模型有著強大的技術能力賦能企業。
與此同時,大模型對數據需求量、計算資源等各方面的高要求,單一機構沒辦法完成,這要求科研單位和企業一起緊密配合,在典型領域實現數據、模型、算法的共享和協同開發,促進大模型研究的應用和部署。
大會現場,鈦動科技、琶洲實驗室和華南理工大學未來技術學院正式簽約“人工智能出海營銷戰略合作”。
三方將在人工智能出海營銷領域展開長期戰略合作,打通“數據-算法-應用場景”全鏈條,深度融合技術與產業,賦能中國出海企業數字化轉型,助力更多中國企業走出國門、閃耀全球。
以下為經整理的演講精華內容。
《大模型歷史機遇與挑戰》
01 大模型概述
大模型到底是什么?
早在2017年,學界便開始對人工智能大模型進行研發。直到2022年ChatGPT發布,其邏輯性的流暢對話和交互能力給全球帶來震撼,才讓人工智能技術備受關注。而ChatGPT能夠脫穎而出的關鍵點,就是大語言模型的突破,這給數字經濟和人工智能技術發展帶來了新一輪的契機。
近幾個月,國內國外陸續發布各大模型,又被稱為“百模大戰”。今年3月份發布的Open AI GPT-4,增加了多模態能力,在文本處理、寫代碼等多種專業能力上有了質的提升,并且將會隨著演進迭代逐步提高大模型的技術能力。那么大模型的上限能力在哪里?我們目前還不知曉。但就目前呈現出來的能力而言,已經足夠讓我們驚艷,也足夠讓我們去利用它,來解決數字經濟、尤其是出海業務中的難點和痛點。
大模型基于Transformer 架構開展,它是模型的底座,也是處理長序列數據的核心技術能力。而Transformer 結構的發展,離不開海量數據的“投喂”。2018年,谷歌帶著3億參數BERT模型,闖進大眾視野,而到目前,ChatGPT-3模型參數已經達到1750億,參數規模提高到千億級別。未來,高容量的參數可以讓我們將人類歷史上所有能夠數字化的內容以及每天產生的新數字化內容全部包含進大模型數據中。因此,大模型的記憶能力、聯想能力、創作能力,都將優于人類的能力。
同時,技術的提升在大模型應用部署層面,也帶來了新的范式。
過去,從需求分析-現場數據采集、標注等步驟到模型訓練-部署,整個流程需要耗費幾個月時間。
現在,基于大模型能力+部署框架+場景數據,有望實現幾個人在數小時之內完成模型部署方案。
02 大模型機遇與展望
從通用大模型轉向行業大模型,在出海業務領域,大模型有哪些機遇?
首先是在出海營銷洞察層面,本土企業如何獲取最地道的目標市場洞察?依托處理和解析海量、高維和多源數據的能力,大模型通過自動在海外收集大量數據,識別隱藏在多維數據中的細分市場、關鍵詞、風險預判等重要信息,解析復雜的消費者行為,幫助決策者足不出戶深度洞察海外市場。大模型為廣告方案提供數據驅動的決策支持,其洞察能力超過本科生水平。
第二是在營銷內容層面,目前大模型在數據生成尤其是圖像、文本生成能力讓人非常驚艷,有些能力已經超過了碩士、博士甚至是資深教授水平,可以幫助企業快速生成高質量、一流的數字內容。同時還可以將創作人員的優質創作思路用數據的方式呈現,形成標準范式,讓內容生成環節上的每位工作者快速獲取新思路,避免在協同過程中出現創意思路的偏差,極大地提升創意交付效率。
第三,在服務鏈路層面,從市場研究、用戶畫像,到營銷內容生成,再到chat客服、售后調研等,大模型可以幫助出海公司在交付前、中、后全鏈路地進行優化提升。
第四,在智慧辦公層面,本土企業如何與海外企業高效協同合作?大模型可與公司辦公及會議系統整合,幫助用戶在開會期間更高效地處理和記錄信息,例如協助用戶制定詳細會議提綱、會議準備待辦事項、根據會議內容生成創意性想法和建議、生成會議紀要總結等,有效提升行政效率。
第五,在跨文化情感分析層面,大模型不僅可以解決跨語言溝通,還能實現跨文化溝通。大模型通過收集海外數據信息,形成對當地文化的理解,了解不同文化之間的相似性和差異性,實現快速準確的翻譯,幫助人們更好地理解不同文化和語言背景下的思維和表達方式。未來,大模型在廣告中的跨文化情感分析將發揮重要作用。通過對全球多文化用戶廣告點擊率、留存率、觀看量等信息數據分析,提供全球廣告個性化、多語言優化和文化敏感性的解決方案,傳統AI模型做不到,只有大模型有這個能力。
03 大模型應用挑戰
無論是訓練還是應用部署,大模型仍然面臨很多挑戰,這需要高校、研發機構、企業緊密結合在一起,協作攻克。
首先,大模型面臨著使用過程中的人機交互挑戰,也是目前大模型應用需要盡快解決的一個痛點。由于大模型自身“大”的特點,ChatGPT-3模型參數已經達到1750億,GPT-4的參數達到了1.8萬億個(也有報道為5000億),如此高額的參數容量在調動、運行時對運算要求非常高。當應用到實時或交互性要求較高的場景時,容易出現響應延遲、速度慢等狀況,從而影響用戶體驗。從業者需要對大模型運算架構、模型壓縮、加速運算等方面提供更先進的解決方案。
另一方面,大模型到目前為止,還缺乏對人類情感和語義的深入理解,可能導致模型在處理情感相關的交互或場景時出現問題。同時,數據來源可能本身具有偏見和歧視,大模型在學習時可能會從訓練數據中學習到潛在的偏見和歧視,并在生成結果時產生不公平或歧視性的偏好。
第二個挑戰來源于瞬息萬變的現實世界。我們正處于一個信息爆炸的數據時代,面對場景數據動態變化,模型需具備增量學習和持續更新的能力。具體到出海行業而言,出海企業面臨著跨文化、跨場景挑戰,這要求大模型針對不同國家、不同地區、不同場景進行針對性的學習和部署,包括增量學習、適應學習等,從用戶實際應用需求出發,凝練為科學問題加以解決。
第三個挑戰來源于大模型開發的成本要求,大模型對數據需求量大,對計算資源要求高。OpenAI訓練1750億參數的GPT-3費用大概是1200萬美元,訓練5000億參數(業界預估)的GPT-4成本飆升至1億美元,普通科研高校或科研單位沒有辦法獨立負擔。
大模型在開發和應用過程中主要受限于以下三方面成本:
• 訓練成本。包括算力、電費等
• 數據收集成本。
• 人力成本。支付大模型訓練開發人員的高額薪水
這要求科研單位和企業一起緊密配合,結合各自優勢,在典型領域實現數據、模型、算法的共享和協同開發,促進大模型研究的應用和部署。
除了以上在開發、應用部署和使用三個環節可能會面臨到的挑戰之外,大模型可能存在私密數據泄露風險和合規性風險,這也是廣泛民眾最能感知也最為關注的問題。現在有關部門正在逐步推出相關制度和法律,企業需要緊跟律法腳步,確保開發過程中的合法合規。
琶洲實驗室大模型團隊圍繞數據、模型、算法、應用成立專項小組,目前超過100人,包括教授4名、副教授4名、博士16名、碩士64人、且正在逐步壯大。
本次大會上,琶洲實驗室、華南理工大學正式與鈦動科技簽訂三方合作條約,相信通過產學研三方強強聯合,深入AI應用的深水區,推動迭代升級,產出有原創性、突破性、對行業發展有重大影響力的高水平研究成果,推動中國商品、中國品牌更好地走向全球。
