聲明:本文來自于微信公眾號 億邦動力(ID:iebrun),作者:胡鏷心,授權轉載發布。
當一個成熟行業遇上一項新技術,變革絕沒有想象中那么簡單。
客服行業一直被認為是大模型最好的落地場景之一。同樣基于自然語言,同樣以對話服務為主,甚至大模型的對話框總令人不由自主想到客服的對話框。
對客服企業的產品經理來說,客戶的聊天興趣和聊天時長至關重要。“只要客戶不掛機,就有成單的可能。”天潤融通首席科學家田鳳占介紹。
客服是一個極度成熟、極度內卷的行業,從最早使用電話的呼叫中心,到如今云化、SaaS化的聯絡中心,客服行業早已經歷了多輪洗牌。與產品經理對大模型的興奮相反,客服企業的商業化團隊卻極度冷靜,擔心一招不慎影響到現有產品。
如何保證數據安全?標注和訓練多久ready?邊際成本算得過來嗎?
商業化團隊的這些擔心不無道理。“大家都有主營業務,誰敢冒這個險,把主營業務給干沒了。”有頭部廠商的商業化負責人分析。
當激動的產品經理碰到冷靜的商業化團隊,客服行業如何基于大模型改造現有產品,如何重新定義產品功能與用戶體驗,新產品能否規劃化、商業化,一系列新問題都亟待解決。
01
接入大模型,做“金牌客服”
“要瘋了”,這是Sobot智齒科技CTO吳立楠在“百模大戰”拉開帷幕后的感受,彼時國外創業公司如雨后春筍,“大模型可以識別各種各樣的文本素材,今天冒出一個基于文本的問答機器人,明天冒出一個基于PDF的問答機器人,后天又來一個基于腦圖的機器人,客服行業太卷。”
這種卷對客服企業來說已經習以為常。此前,客服行業已經經歷了兩次“被顛覆”:第一次是呼叫中心從硬件向軟件的轉型(從語音卡+多媒體交換機走向軟件+網關),發生于2006-2012年,70%的廠商消失在牌桌上;第二次是服務商集體SaaS化、云化,轉型慢的企業開始掉隊,發生于2013-2016年。
“所以我們對技術變革非常敏感。”天潤融通首席科學家田鳳占表示。天潤融通成立于2006年,崛起于客服行業第一次轉型期,經歷了軟件化和SaaS化兩輪考驗。去年年底,天潤融通成立大模型研究團隊,今年3月推出大語言模型垂直行業解決方案。
今年2月份,Sobot智齒科技CEO徐懿與CTO吳立楠也成立項目團隊,將產品、算法、研發等部門的VP拉到一起,每周開腦暴會,一邊研究能做什么,一邊羅列客戶痛點,同時找市場部做客戶調研。
Sobot智齒科技的一體化客戶聯絡解決方案,涵蓋“服務、營銷、私域、BPO外包”四大業務板塊。4月4日,AIGC+智能客服融合能力Sobot AI上線,可以實現雙庫調用、自動應答、文本/文件材料上傳等功能。
除了大模型帶來的熱度,在極度內卷的客服行業,客戶難得對一個新產品感興趣。“只要客戶感興趣,我們就能做得出來。”這是不少從業者的心聲。
Sobot AI上線后,智齒科技后臺有超過120家企業排隊測試,每周都有20家新增客戶,其中一半是新客戶。智齒科技從一開始一周測試兩家企業,到一周測試二十家企業。同時Sobot AI也在每周迭代。
只不過相比于海外創業公司只要裝一個接口就可以上線新產品,國內的產品迭代更復雜——要基于新技術和現有產品之間的邏輯,重新定義產品功能,同時開展市場調研與客戶反饋,再通過數據選擇客戶最痛的點進行產品化。
“相比那些從0到1的企業,我們迭代更加小心。”吳立楠解釋。“如果在2014、2015年,一個驚人的產品橫空出世,大家還會打一打,但現在,頭部企業都經歷了八九年的產品迭代,僅憑單一產品已經很難競爭了。”
容聯云AI研究院院長劉杰指出,智能客服作為一種成熟的商業化品類,背后并非只有AI技術,而是融合了多種技術、涵蓋“產品+運營+服務”的一體化解決方案。
比如容聯七陌的客服機器人X-bot,在售前咨詢中接入全渠道流量,建立用戶畫像;在售中記錄詳細需求,并通過CRM協作進行精準營銷;售后還能支持跨部門協作,處理客戶全生命周期的場景。
大模型引發關注后,容聯七陌也組建了AIGC專項計劃,第一時間拿到百度文心一言的內測接口,進行專項落地開發。4月底,容聯七陌將大模型能力應用在X-Bot機器人中,實現自動生成語料、話術、流程方案等。
“想象一下,客戶打來電話說電腦壞了,我們不需要再人工坐席,因為我們有一個大模型可以自動識別客戶需求并歸類,提高處理速度和準確率。”容聯七陌AI產品負責人劉倩介紹說,“而且服務結束后,我們的大模型還會自動將對話記錄整理成企業知識庫。管理者需要采納某條記錄,也不用費心思去手動處理,只需要告訴大模型一聲,它就會自動為你完成。這樣不僅提高服務質量,還優化了整個服務流程。”
02
ChatGPT能讓智能客服更上一層樓嗎?
令客服企業充滿危機感的,除了同行之間競爭,更重要的是那句口號“大模型重構一切。”
大模型將如何顛覆客服?這成為懸在所有人頭上的達摩克利斯之劍。
但不少從業者都認為,“大模型對客服行業的影響,短期被高估,長期被低估。”
“短期來看,大模型只起到提效的作用。”吳立楠指出,“畢竟大模型落地需要載體,客服廠商占著應用場景,也占著業務熟悉度。但是長期看,客服的交互界面和產品形態還是不是現在這樣,都是問題。在通用人工智能時代,可能消費者對著智能助理提出要求,后面就是AI和AI之間的交流。”
縱觀市場上的所有嘗試,億邦動力注意到,AIGC+智能客服的實踐目前主要集中在三個方面:
1提升知識庫建設和運營效率
大模型帶來的第一個改變就是企業知識庫的建立和維護效率。
“機器人最常見的問題是冷啟動。因為機器人在剛開始掌握的知識不夠,需要不斷添加語料,這個過程有些長。而且在冷啟動階段,機器人的服務能力通常比較弱。”田鳳占在天潤融通的直播中介紹。
通過AIGC模型,客戶或訓練師只要寫兩三條語料,就可以用大模型生成幾十條或幾百條語料。擴出來的語料經過剔除、檢測等健康檢查,就可以上線。
圖片來源:天潤融通官網
田鳳占介紹,有一個客戶有6000多條問答對,重復性很高,機器人回答的準確率只有43%。天潤融通在一小時內將6000多條問答擴寫至30萬條,準確率提升到75%。“如果用手工寫30萬條,那至少要寫一年。”
同時,大模型還可以自動抽取文檔信息,提煉“問答對”。在天潤融通的大語言模型垂直行業解決方案中,Word文檔、PDF文件中的內容,都可以直接被生成為答案,運營人員只需要審核答案和進行調優。內測結果顯示, 大模型可以節省高達約54.5%的知識管理成本。
圖片來源:天潤融通官網
2提高直接回答率
客服行業常見的另一個問題是“答非所問”。一些客戶會因為機器人三番五次沒有提供答案而轉接人工客服。
“過去客服‘智障’的原因是不夠智能,理解訪客提問上需要大量的語料泛化,而且對上下文理解不夠好,容易出現答非所問。”劉倩指出,“大模型恰恰相反,不需要太多數據量,不需要對模型參數進行改動,就能提供非常優秀的語言理解能力,并且它的強項是生成,不但能懂你問什么,而且還能給出相當流暢、富有邏輯性的答案。如果AIGC能應用在企業服務中,那在服務的能力、滿意度、問題解決上無疑又是一個巨大的突破,而且人力成本還更低了。”
“不管在聯絡上還是電銷上,大模型可以和客戶更好互動,這就有望提高客戶的興趣度和互動時長。提高客戶的互動時長,相當于提高了電銷的轉化率。只要客戶不掛機,就有成單的可能。”田鳳占介紹。
而在智齒科技的實測中,有了大模型之后,客服的直接回答率普遍提升20%左右,最夸張的企業直接回答率提升從30%提升至80%。
3提升企業運營效率
大模型還在改變程序員們的工作效率。
今年年初,智齒研發中心多條技術線的負責人將大模型引入研發的IPD流程,目前超過一半的程序員通過大模型自動生成代碼。
To B公司看人效,吳立楠強調,AIGC實際上將之前一些偽裝成腦力勞動的體力勞動,又變回了體力勞動。“有很多重復性工作,比如有些客服工作只需要調用知識庫就能回答,有一些程序員只寫增刪改查,這些都是偽裝成腦力勞動的體力勞動,現在它們又回歸體力勞動本身。”
同時程序員的工作重心會轉移,研發部門的組織結構也將隨之調整。“以前是少部分人設計程序結構,大部分人寫代碼實現。以后可能大部分程序員都會去設計程序結構,具體的代碼實現由大模型來做。”吳立楠補充。
值得注意的是,大模型落地除了需要相應的梳理產品邏輯和客戶測試,還需要配套產業的成熟。
劉杰指出,作為一種商業化產品,智能客服有明確的業務目標和業務邏輯,大模型的通用能力不足以支撐B端應用,需要結合場景精調。
客服系統對回答的準確性有很高的要求,錯誤答案會誤導客戶,換句話說,大模型一本正經胡說八道的能力,在C端場景中會充滿樂趣,在B端場景則會釀成大禍。
“它會說一些正確的但不屬于這個企業的內容,比如把競品信息推薦給你的客戶。這本來是通用大模型的優勢,但也會因為過于通用而產生哭笑不得的后果。這是我們必須解決的。”吳立楠介紹。
同時,大模型在語音客服中的應用還要受制于ASR(語音識別)、TTS(文字轉語音)的成熟度。
當下的大模型應用都集中在文字客服領域,在語音客服場景下,除了話術內容生成,聲音的擬人程度、語音識別率等因素都在影響大模型在語音客服中的效果。
在ASR(語音轉文字)方面,實驗室里的語音識別率已經達到99.5%或者99.8%,但現實場景中,大部分的載體都有音質上折損,導致ASR識別率參差不齊。
在TTS(文字轉語音)方面,有商家測試發現,效果好的外呼都是人工錄音,經測試,電子合成音和真人錄音的轉化率最多能差到10%,大模型就算對答如流,但沒有真人錄音或者高度擬人化的聲音,效果仍不理想。
此外,客服行業在使用大模型的過程中,還受到國內大模型成熟度的制約。
國內目前唯一可以合規調用GPT的渠道只有Azure(微軟云),但Azure對傳輸字段有限制。“如果沒有辦法解決數據傳輸的安全問題,那就只能等待國內大模型的成熟。”該商家解釋。
值得注意的是,大模型擅長的多輪對話方式,目前主要應用于呼入場景,也就是消費者向企業客服咨詢問題的場景。至于呼出環節,不管是短信提醒還是電話銷售,尚且不在大模型的賦能范圍內。從頭部廠商的實踐可以看到,大模型在客服行業的應用仍處于探索階段,距離想象中的顛覆性變革尚有距離。
03
卷起來,到海外去
相比于產品團隊的亢奮勁兒,商業化團隊始終顯得冷靜。
“任何客戶無法明顯感受到的差異化,都不算差異化。”這是一個頭部客服企業商業化負責人的口頭禪,“很多小的變化,在客戶那里是不會買單的,至少無法構成一個 To B的的商業決策或付費決策。”
究其根源,甲方的付費心理始終在對標人力成本。當中國的人力成本還比較便宜時,甲方的心理賬戶必然不會太高。“智能客服+AIGC的產品,不管按照license定價,或者按照調用量定價,大概不會特別便宜,除非大廠虧錢做。”該負責人補充。
在商業化團隊看來,大模型的熱鬧,除了吸引部分客戶的好奇心,距離大規模落地還有距離。
“在國內,新技術很難帶來生態位上的顛覆式創新。短期內有優勢的人,不是那些用上大模型的企業,而是那些能拿到電商平臺接口的企業。”不少從業者表示。
有了電商平臺接口,相當于有了源源不斷的現金流和海量語料素材——拿到淘寶詳情頁接口或京東商城接口的商家,避免了機器人冷啟動時的窘境,可以有條不紊地迭代機器人服務能力,并保證商業化的暢通。可以說在立竿見影方面,接口的效果遠超大模型。
“這波大模型的真正利好出現在國外。”一知智能市場總監陳厚志分析,“中國的消費行業是真的卷,我們看到海外同行,都是把標價掛在官網上,自己下載使用,沒有解決方案。中國公司出海還提供貼身服務,國外同行都驚呆了。”
2022年,一知智能跟著中國品牌一起走向海外市場。在一年多時間里,把 AI 電話打向了日韓、東南亞、歐美、澳洲等海外市場的消費者,形成了老客戶召回、物流簽收提醒、催付挽單、活動通知等一系列服務。
Sobot 智齒科技則計劃在未來3年內,海外市場的收入占比要超過30%。目前智齒科技已初和Meta、AWS等達成生態合作,在渠道上與Facebook、Instagram、Line、WhatsApp以及Telegram銜接,并集成了VKey、CyberArk、BeyondTrust等企業的能力。2022年出海業務營收占整體營收的比例已近10%。
天潤融通則將出海第一步選在了歐洲。2020年,天潤融通的國際云聯絡中心落戶法蘭克福。
成立之初即面向海外市場的人工智能語音服務公司WIZ.AI,在4月初推出東南亞首個集成了ChatGPT能力的對話機器人TalkGPT,TalkGPT利用ChatGPT和WIZ.AI的本地化知識,可以自動生成多語言多版本的外呼話術,也可以像人工客服一樣與客戶交流,同時在1小時內可以和超過100萬客戶進行電話互動。
“過去中國SaaS出海會遇到很多產品能力、營銷推廣上的卡點,需要慢慢摸索和補課,才能擁有Local公司的能力。但當下不管是OpenAI、Google還是微軟云的能力,都是全球通用,相當于中國SaaS企業史無前例地有了‘產品加速器’和‘營銷放大器’。我覺得過去在當地靠著‘非完全競爭’市場環境里活得很舒服的、大概3000萬到5000萬美元的SaaS公司,應該擔心中國‘以卷服務和迭代速度’著稱的SaaS公司入侵。”陳厚志解釋。
吳立楠也認為,大模型有助于客服廠商出海——海外調用接口,響應速度是毫秒級,只要持續訓練,給客戶帶來價值,中國廠商的運營效率和貼身服務具有明顯優勢,“這個時間點,在海外比的就是跑通的速度有多快,跑通之后搶占市場的速度有多快。”
除了給海外格局帶來影響,幾乎所有從業者都認可AIGC對客戶行業的長期價值是顛覆性的。“內燃機發明的時候,不是給馬車加上一個引擎,而是要造出一輛汽車。當下,我們想到的都是給馬車上加什么,但是往后看,可能整個客服行業都要變。”吳立楠分析。
但具體行業是怎么一步一步走過去,目前還沒有人知道。“我們知道的是,你的產品如果脫離時代,如果太早來到,可能大家也不會接受。”吳立楠補充。