圖源|Pexels
導(dǎo) 讀
未來三五年內(nèi)幾乎一定會發(fā)生的事情是:社交媒體、短視頻平臺上開始大量出現(xiàn)普通人不容易分辨，完全由AI創(chuàng)作的“灌水”內(nèi)容。這些內(nèi)容既可以極大豐富社交媒體的內(nèi)容厚度，還可以根據(jù)AI對人類興趣愛好的學(xué)習(xí)追蹤，為不同人群打造更為龐大、牢固的“信息繭房”。
撰文 | 王詠剛
責(zé)編 | 邸利會
● ● ●
近日，ChatGPT火遍了全網(wǎng)。人工智能研究和部署公司OpenAI 發(fā)布的短短5天內(nèi)，就吸引了100萬用戶。在官方描述中，稱其是一個“可以連續(xù)回答問題、承認(rèn)自己的錯誤、挑戰(zhàn)不正確的前提并拒絕不適當(dāng)?shù)囊?rdquo;的對話模型。從閑聊、回答問題到寫小說、詩歌，幫程序員解決程序的Bug等等，ChatGPT表現(xiàn)出的能力讓不少人驚嘆。
編者也忍不住嘗試了一下，如下圖。
再比如，編者也想看看，它寫詩的能力。
那么，在不少人看來，ChatGPT已經(jīng)足夠好了，但隨之而來的問題是，它會不會被濫用產(chǎn)生危害？
帶著一系列的問題，《知識分子》邀請創(chuàng)新工場人工智能工程院執(zhí)行院長王詠剛帶來他的解讀。
01
ChatGPT是重大技術(shù)突破嗎？
簡單回答，不是根本性的突破。
OpenAI的ChatGPT是“現(xiàn)象級”技術(shù)創(chuàng)新，但不是根本性的科研或工程突破。最近幾年AI生成內(nèi)容（AIGC）突飛猛進(jìn)，其中最為革命性的突破包括2017年提出的Transformer模型，2020年OpenAI發(fā)布的GPT-3，以及2022年替代GAN成為圖像、視頻生成主力的Diffusion模型家族。
ChatGPT是基于GPT-3的進(jìn)一步創(chuàng)新，是站在巨人肩膀上的明星技術(shù)。簡單說，ChatGPT是OpenAI原創(chuàng)性自動問答系統(tǒng)InstructGPT的延續(xù)，建立在GPT-3的后續(xù)改進(jìn)版本GPT-3.5基礎(chǔ)上，通過引入強(qiáng)化學(xué)習(xí)模型，大幅提高了AI在人機(jī)對話時的準(zhǔn)確度和可控性。
非專業(yè)人士可以這樣理解——OpenAI在2020年發(fā)布的GPT-3讓計算機(jī)第一次擁有了惟妙惟肖模仿人類“說話”的能力，但此時的AI就像一個童言無忌的孩子，啥都會說，也啥都不顧忌。GPT-3生成的文字內(nèi)容經(jīng)常腦洞大開，觀點(diǎn)和邏輯跨度好比天馬行空，甚至屢屢輸出錯誤觀點(diǎn)、車轱轆話、臟字臟話。很顯然，聰明但不懂事的“孩子”需要嚴(yán)加管教。
OpenAI引入了人類監(jiān)督員，專門“教”AI如何更好地回答人類問題。AI的回答符合人類評價標(biāo)準(zhǔn)時，就給AI打高分，否則就給AI打低分。基于人類監(jiān)督員的評價，OpenAI圍繞GPT-3.5打造了一個強(qiáng)化學(xué)習(xí)模型，督促AI按照人類價值觀優(yōu)化數(shù)據(jù)和參數(shù)，最終開發(fā)出效果驚艷，火爆出圈的ChatGPT。
02
如何看待ChatGPT？
概言之，我的感覺是，喜憂參半。
喜的是，依靠“暴力”學(xué)習(xí)幾乎所有人類知識內(nèi)容，建立無比復(fù)雜、龐大的神經(jīng)網(wǎng)絡(luò)，這條讓AI越來越“聰明”的路看來還能繼續(xù)走下去。GPT-3有1750億個參數(shù)用于“記憶”和“提煉”人類知識的規(guī)律，很快就要問世的下一代模型GPT-4據(jù)說擁有遠(yuǎn)超GPT-3的復(fù)雜度。
像ChatGPT一樣為這條路增加少量強(qiáng)化學(xué)習(xí)元素，更是能起到畫龍點(diǎn)睛的作用，將AI在應(yīng)用領(lǐng)域的潛力充分激活。超大模型，強(qiáng)化學(xué)習(xí)，領(lǐng)域優(yōu)化——這三件事可能意味著，AI在未來幾年內(nèi)比以前任何時候都更容易深入人類各個應(yīng)用場景，真正承擔(dān)起許多原本只有人類能完成的一些工作。
憂的是，今天的超大規(guī)模AI模型依然具備科研“黑盒子”的典型特征。
科學(xué)家和工程師知道如何建立這個“黑盒子”，但無法根據(jù)輸入數(shù)據(jù)準(zhǔn)確預(yù)測“黑盒子”的輸出結(jié)果，無法精密控制“黑盒子”工作時的行為邊界。這類似于我們知道如何掘開堰塞湖的堤壩讓洪水泄出，卻無法準(zhǔn)確預(yù)測洪水會沿著怎樣的路徑向下游流淌。
OpenAI的超大規(guī)模預(yù)訓(xùn)練模型是深度學(xué)習(xí)誕生以來，AI在行為表現(xiàn)上最接近人類智慧的一個時期。但因為缺乏理論支持，科學(xué)家和工程師并不知道這種依靠海量參數(shù)來記憶和擬合人類知識特征的模仿游戲是不是通向通用人工智能（AGI）的正確道路，也很難從科學(xué)邏輯的角度準(zhǔn)確判斷未來的AI會不會一直都是人類的幫手，而不會發(fā)展成影響人類進(jìn)步的負(fù)面技術(shù)。
03
最擔(dān)憂ChatGPT的哪種前景？
我最擔(dān)心類似技術(shù)被濫用在知識教育領(lǐng)域。
OpenAI在研發(fā)ChatGPT時，已經(jīng)想盡方法，讓AI在回答人類問題時盡量保持謙虛、謹(jǐn)慎，不要用戲謔性的風(fēng)格回答問題，更不要給出與人類價值觀不符的回答。這種謙虛、謹(jǐn)慎的態(tài)度，在ChatGPT的回答中幾乎隨處可見。例如，即便談起自己的缺點(diǎn)，ChatGPT也從不遮遮掩掩，如下圖所示。
但ChatGPT畢竟是建立在超大規(guī)模神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上。人類通過強(qiáng)化學(xué)習(xí)對AI行為的監(jiān)督，并不能完全杜絕AI在“不得已”的時候編造、杜撰答案。
這種編造和杜撰在有些領(lǐng)域可能是非常有用的。很多游戲開發(fā)者、科幻作者、美術(shù)工作者就經(jīng)常用AI來啟發(fā)自己的思路。但是，在知識教育領(lǐng)域，任由AI一本正經(jīng)地“編造”知識型答案的前景是非常危險的！
想象一臺內(nèi)容創(chuàng)作成本接近于零，正確度80%左右，對非專業(yè)人士的迷惑程度接近100%的巨型機(jī)器，用超過人類作者千百萬倍的產(chǎn)出速度接管所有百科全書編撰，回答所有知乎問題，負(fù)責(zé)孩子課外讀物的生成，甚至直接被既懶又壞的教程編撰者、科普作者用來代筆……
例如，以下是我用杜撰的學(xué)術(shù)概念“鏡像等離子規(guī)范場”向ChatGPT提問的情形。看得出，對一個根本不存在的概念，AI是在不懂裝懂地賣弄“學(xué)識”：
ChatGPT的模仿能力和文筆越好，這個未來風(fēng)險就越恐怖。
未來三五年內(nèi)幾乎一定會發(fā)生的事情是：社交媒體、短視頻平臺上開始大量出現(xiàn)普通人不容易分辨，完全由AI創(chuàng)作的“灌水”內(nèi)容。這些內(nèi)容既可以極大豐富社交媒體的內(nèi)容厚度，還可以根據(jù)AI對人類興趣愛好的學(xué)習(xí)追蹤，為不同人群打造更為龐大、牢固的“信息繭房”，并幫助內(nèi)容平臺更精準(zhǔn)地投放廣告、提高廣告受益。
如果AI僅僅像這樣被用于“信息繭房”的自動構(gòu)建，我們還可以說這是一種不值得鼓勵，但也不算很壞的商業(yè)行為。但是，假如批量的“灌水”內(nèi)容進(jìn)入每個孩子都在學(xué)習(xí)的網(wǎng)絡(luò)百科全書里呢？加入這樣的AI被用于輔導(dǎo)孩子學(xué)習(xí)呢？
根本問題在于，今天的AI生成理論沒辦法保證生成內(nèi)容的邏輯正確與合理。我覺得，建立更完善的，由人類領(lǐng)域?qū)＜覅⑴c的AI訓(xùn)練過程，發(fā)展與正確性相關(guān)的增強(qiáng)學(xué)習(xí)算法，必然會成為未來的一個AI科研熱點(diǎn)。就像我們討論所有新一代技術(shù)的社會倫理問題一樣，對AI在知識教育領(lǐng)域的“灌水”風(fēng)險，大家一定要有正確的認(rèn)知和足夠的心理準(zhǔn)備。
04
ChatGPT最好的應(yīng)用場景是什么？
也許是，所有重復(fù)性的語言文字工作，以及所有啟發(fā)性的藝術(shù)創(chuàng)作。
雖然擔(dān)憂ChatGPT被濫用在知識教育領(lǐng)域，但我依然看好類似ChatGPT的高水平人機(jī)對話技術(shù)在其他一些真實應(yīng)用場景里大放異彩。
首先，人類世界有太多重復(fù)性的語言文字工作，根本不需要復(fù)雜的邏輯思考或頂層決策判斷。接聽電話或處理郵件以幫助客戶訂旅館、訂餐的語言文字工作，根據(jù)固定格式把數(shù)據(jù)、信息填入合同、財報、市場分析報告、事實性新聞報道內(nèi)的工作，在現(xiàn)有文字材料里提煉大綱、梳理要點(diǎn)的工作，將人類會議的實時文字記錄提煉成會以簡報，幫助人類撰寫一些流程性、程式化文章的工作……這些工作領(lǐng)域，會很快出現(xiàn)一大批基于GPT-3或其他大模型的應(yīng)用產(chǎn)品。上個月我在硅谷，就拜訪了許多這一類AI創(chuàng)業(yè)的熱點(diǎn)項目。
其次，無論是AI對話、AI寫文章還是AI作畫，大規(guī)模預(yù)訓(xùn)練模型固有的非確定性、發(fā)散性、天馬行空的特點(diǎn)，恰好可以成為激發(fā)人類靈感的好幫手。需要創(chuàng)作廣告文案或商業(yè)展示的市場工作，需要發(fā)散性地探索不同故事路線的電影編劇工作，需要極大豐富視覺感受的游戲場景設(shè)計工作……在這些工作領(lǐng)域，使用AI已經(jīng)不是未來趨勢，而是真真切切發(fā)生的事實了。
我熟悉的很多藝術(shù)設(shè)計師，插畫師，廣告創(chuàng)意顧問，游戲美術(shù)師，都已經(jīng)在日常工作中，將AI當(dāng)做輔助工具，坦然接受與AI協(xié)作的現(xiàn)實了。
05
如何看待AIGC的創(chuàng)業(yè)熱潮？
AIGC（AI-generated content，字面意思是AI生產(chǎn)內(nèi)容）的確火了，但AI和CS的專業(yè)人士必須保持冷靜。
上個月我在硅谷拜訪投資公司、科技公司、創(chuàng)業(yè)團(tuán)隊。科技圈里，幾乎人人都在談AIGC，似乎沒有AIGC包裝的創(chuàng)業(yè)項目就不是好項目，沒有AIGC概念的科研就發(fā)不出好論文。
有件事給我一個“當(dāng)頭棒喝”：因為行業(yè)大佬的安排，我們有幸與OpenAI的兩位聯(lián)合創(chuàng)始人一起喝咖啡。期間，統(tǒng)領(lǐng)OpenAI科研的兩位科學(xué)工程大牛用非常技術(shù)化、務(wù)實的心態(tài)談他們的工作計劃和技術(shù)思考。但，讓我們無比詫異的是，兩位創(chuàng)始人竟然不知道AIGC是什么意思！
仔細(xì)想來：從科技上開創(chuàng)AIGC這個新領(lǐng)域的OpenAI創(chuàng)始人，其實并不需要知道類似AIGC之類純粹用來包裝科技概念的新名詞；他們要研究的是大模型結(jié)構(gòu)、并行訓(xùn)練加速、神經(jīng)網(wǎng)絡(luò)優(yōu)化等等具體科學(xué)與技術(shù)。這樣的人才是真正的創(chuàng)建者和領(lǐng)航者。
在AIGC的概念下一擁而上，或創(chuàng)業(yè)，或投資，或把AIGC快速包裝成應(yīng)用產(chǎn)品的大多數(shù)，其實都是沒能力決定科技大方向的跟風(fēng)者。這世界上本來就跟風(fēng)者多，領(lǐng)航者少，一點(diǎn)兒也不奇怪。
我只是簡單期望所有跟風(fēng)者在AIGC這個大舞臺上，不要過于頭腦發(fā)熱，還是要多判斷一下，自己構(gòu)建的所謂“產(chǎn)品”，到底是有益于人類進(jìn)步的，還是向已經(jīng)碎片化的內(nèi)容世界繼續(xù)灌水或傾倒垃圾的。
制版編輯 | 小圭月
