陳永偉/文
2023年4月7日，斯坦福大學和谷歌的聯合研究團隊在預印本文庫arXiv上發表了一篇題為《生成式智能體：人類行為的交互式模擬》（Genera－tive Agents：Interactive Simulacra ofHumanBehavior）的研究論文。在論文中，研究者們報告了一項實驗：他們構建了一個名叫Smallville的虛擬小鎮，并安排了25個虛擬人物作為小鎮上的居民。接著，他們將ChatGPT的能力接入到了這些虛擬小人上。這樣，這些虛擬人物就成了有記憶、會交流、會互動的生成式智能體（注：英文為agent。在中文文獻中，agent曾被翻譯為 “代理人”、“智能體”等，這里譯為智能體）。研究人員發現，在接入ChatGPT之后，這25個智能體就表現出了各種類似人類的行為。例如，它們會像人類一樣做飯、洗澡，做完飯后會主動關掉火爐，洗澡時看到澡堂里有人會排隊。當幾個智能體在路上遇見時，彼此之間還會打招呼、寒暄。最令人吃驚的是，2月14日那天，鎮上的智能體們還在一起搞了一場情人節大派對。
這篇關于虛擬小鎮的論文發表之后，立即就帶火了AI智能體這個概念。最早跟進的是科研人員。Smallville小鎮的故事讓他們看到，生成式AI技術的成熟和大模型的普及已經為人類在計算機上模擬人類社會或者測試模型技能提供了堅實的基礎。很多研究團隊將自己研發的大模型接入了《我的世界》、《荒野大鏢客》等開放世界游戲，將這些游戲作為他們的實驗場。比如，英偉達首席科學家JimFan帶領的團隊就在《我的世界》當中創造出了一個名叫Voyager的AI智能體，讓它來在這個無盡的世界中進行探索。很快，研究者們就發現，Voyager表現出了十分高超的學習能力。它不僅可以“無師自通”地掌握挖掘、建房屋、收集、打獵等游戲中的必須技能，還會根據不同的地形條件調整自己的資源收集策略。隨著接入模型能力的改善，Voyager的表現也越來越好。
企業和投資人也迅速跟進了AI智能體的概念。眾所周知，從今年年初ChatGPT爆火之后，大量資本就紛紛涌入了大模型賽道。但是，大模型一方面對投入要求巨大，另一方面又缺乏成熟的變現渠道。正當他們搜腸刮肚，試圖為大模型設計商業模式時，“AI智能體”這個概念的興起給他們帶來了希望。于是，越來越多的資金隨之涌入這一領域，業界名人也紛紛開始為這一概念站臺。比如，OpenAI的創始人山姆·阿爾特曼（SamAltman）就曾在多個場合表示：構建龐大AI模型的時代已經結束，AI智能體才是未來的真正挑戰。
那么，現在爆火的AI智能體的本質究竟是什么？它能被用來做什么？為什么我們有了大模型后，還需要有AI智能體？它能帶來哪些商業機會，又蘊含著怎樣的風險？關于以上所有的問題，且讓我們一一說來。
何謂AI智能體？它能干什么？
所謂AI智能體（AIagent），是一種能夠感知環境、進行決策和執行動作的智能實體。它們擁有自主性和自適應性，可以依靠AI賦予的能力完成特定任務，并在此過程中不斷對自我進行完善和改進。此外，不同的AI智能體之間也可以進行交互，從而共同完成某些工作。
或許有人要問，既然我們已經有了ChatGPT這樣的大模型，為什么還需要AI智能體呢？關于這個問題，最直接的答案就是：目前的大模型都過于通用化了，但在更多的時候，我們需要的卻是一個具有特殊性的AI。
打一個不太恰當的比方：通用大模型就好像一個剛畢業的大學生。我們知道，在經過幾年的學校訓練后，任何一個合格的大學畢業生都會具備很多知識。如果有人要和他們聊天，他們根據這些知識，也可以天南海北地隨便應對。但是，當這些學生到了各自的工作崗位，被安排去做一些專業性較強的工作，他們就很可能難以勝任。原因很簡單，他們還缺乏這些工作所需要的專用性知識和技能。正是因為這個原因，在大多數的單位中，新入職的畢業生在正式上崗前還必須經過一段時間的培訓。
同樣的道理，像ChatGPT這樣的大語言模型雖然能力強大，但其能力主要是針對一些通用任務的。使用ChatGPT較多的用戶都會有這樣的經歷：當我們向它詢問一些比較專業化的問題時，它就會“一本正經的胡說八道”。如果我們想要讓大模型來幫助處理專業任務，那就還需要用專業的數據庫對它進行進一步的訓練，與完成特定任務所必須的設備進行適配。比如，如果要讓AI執行自動駕駛任務，就不僅需要讓它能夠識別和處理傳感器的信息，還需要讓它學習和駕駛、交通路線相關的大量數據。這整個過程，就好像讓一個已經具有一定的知識儲備和能力的大學畢業生接受職業培訓一樣。
除了具有完成特殊任務所需要的技能之外，AI智能體還可以根據人們的需要，訓練出特別的個性。用過ChatGPT的讀者應該都知道，雖然ChatGPT可以和我們流暢地進行交流，并且隨著交流的深入，它可以根據用戶的特點，在表述風格和習慣上作出一定的調整，但是從總體上看，它依然是沉悶而死板的。然而，作為用戶，我們在使用AI助理時，會希望它本身具有個性，并且不同的用戶在這一點上的具體需求還不盡相同。要達到這個目的，一個通用的ChatGPT或者其他的大模型就還遠遠不夠，需要創造更多的AI智能體。
事實上，很早就有人認識到了這類機會的存在。比如，曾主持過LaMDA模型開發的工程師諾姆·沙澤爾（NoamShazeer）和丹尼爾·德·弗雷塔斯（DanielDeFreitas）在從谷歌出走后，就在去年9月推出了一個名為Character.ai的平臺——是的，從上線時間上看，它甚至要比ChatGPT更早。在這個平臺上，人們也可以像使用ChatGPT一樣和AI進行交談。所不同的是，他們通過讓基礎大模型學習不同人物的相關文本，生成了很多具有獨特個性的AI智能體。如果用戶想要和肯尼迪、特朗普、馬斯克等名人，或者超級瑪麗這樣的卡通人物進行交流，通過Character.ai平臺，就可以一定程度上實現這個愿望。
此外需要指出的是，AI智能體不僅可以作為獨立的個體來完成工作，多個不同的AI智能體還可以通過相互交流，來共同完成某些復雜的任務。正如我們在本文開頭看到的，目前的AI智能體已經可以通過交流來實現某些協同。當然，這種協同能力當然不只限于虛擬小鎮或者某個開放世界的游戲，在現實世界中，它們也正逐步顯示出其強大的力量。
AI智能體的應用前景
從應用前景上看，AI智能體既可以被用于消費端來提升用戶的使用體驗，也可以被用于生產端來作為重要的生產力工具。
1、消費端的應用
在消費端，AI智能體將憑借其強大的能力取代現有的聊天機器人，并應用到廣泛的領域。聊天機器人目前已比較普及，比如蘋果的Siri、亞馬遜的Alexa等都已經得到了廣泛的應用。而受制于其能力限制，在很多時候，這些智能助手的表現并不如人意。微軟的CEO納德拉就曾經公開吐槽：“無論是Cortana、Alexa、谷歌助手，還是Siri，全都傻得像塊石頭一樣！”反觀現在的AI智能體，在大模型的支持之下，已經表現出了非常高的智能水平。因此，用它們來代替現有的聊天機器人將可以大幅改善人們的使用體驗。
AI智能體還表現出了更高的個性化水平，可以更好地滿足人們的異質性需求。以前面提到的Character.ai為例：得益于鮮明的個性化，在ChatGPT的熱潮悄然退去之時，它正在得到越來越多的用戶的青睞。根據SimilarWeb的數據，在今年5月，Character.ai的訪問量達到了 2.8億，月增長率達到了62.55%，而相比之下，同期的ChatGPT的訪問量幾乎已經停止了增長。更為重要的是，用戶在Character.ai的平均訪問時間達到了28分鐘，而對ChatGPT的訪問時間則僅有8分鐘。由此可見，人們在選擇聊天機器人作為交流對象時，多樣性是一個非常重要的考量指標。
類似Character.ai這樣具有個性特征的聊天機器人很容易被應用到游戲、營銷、客服等各種消費場景。以游戲為例，現在很多開放世界游戲出于提升游戲沉浸感的需要，都已經引入了由大模型支持的AI智能體作為NPC。比如，在今年2月，網易就在其旗下的網游《逆水寒》中采用了這種智能NPC。它們可以用自然語言和用戶進行實時交互，從而顯著提升了游戲的趣味性。
2、生產端的應用
相比于消費端，AI智能體作為生產力工具的潛力則更為巨大。在現實中，很多工作需要專業化的數據作為支撐，通用化大模型顯然不能勝任，這就給專用型的AI智能體留下了空間。在實踐中，人們已經用大模型訓練了不少專用的AI智能體。比如，不久前北京大學團隊發行了一款法律領域的AI智能體ChatLaw，這款模型在大模型的基礎上，投喂了大量的法律文本和判決文書進行訓練，其專業能力已經可以滿足一般性的法律咨詢和文書寫作的需求。
除了單一作業的AI智能體外，多智能體配合的模型也正在顯現出越來越高的實用價值。
早在今年3月底，就有開發者在Github上掛出了一款名為AutoGPT的AI智能體模型。這款AI智能體可以調用GPT的能力支持，用戶只需對其設定AI角色，以及需要達成的目標，它就可以自動地調動現在網上已有的各種大模型來共同完成人類安排的任務。很多人感嘆，AI完全替代人類工作的時代可能真要來了——畢竟，GPT雖然可以替代人們完成很多任務，但任務的規劃和調度還需要人來完成，而AutoGPT卻把這些工作都直接接管了。不過，可能是由于模型性能的問題，當時的Au－toGPT并沒有能像預期的那樣自動完成所有人們交給的任務，所以那些憂心AI會徹底替代人類的人才暫時把心放了下去。
不過，這種平靜并沒有持續太久。在AutoGPT向人們展示可以利用大模型提供能力支持的AI智能體自動完成復雜任務的可能性之后，就有大量的人開始向這一方向努力，AI智能體處理復雜任務的能力在過去的幾個月中得到了迅速提升。例如，在不久前，初創公司Fable就發行了一款名為Showrun－ner的多智能體模型。這款模型的主要功能是電視節目制作，用戶只需對其提出簡單的要求，Showrunner就可以自動生成出相應的劇本，然后驅動其控制的AI智能體按照劇本將情節演出來。如果用戶要追求新意，那么Showrunner還可以讓AI智能體們自主互動，上演一出沒有預設的AI真人秀。在Fable發布的用例當中，Showrunner就獨立充當編劇、導演、演員、剪輯、配音等角色，完成了一集完整的《南方公園》。
值得注意的是，到目前為止，AI智能體的應用還主要限于軟件層面。但顯然當這種技術更為成熟之后，它們將可以被用來自主控制機器人、無人機、無人駕駛汽車等硬件，并完成各種任務。如果是這樣，那么它對于整個社會生產力所產生的推動作用將是更為革命性的。
AI智能體對AI行業發展的意義
自從今年年初ChatGPT引爆了生成式AI的概念之后，就有大量的企業和投資人宣布要進入AI行業，一場轟轟烈烈的“百模大戰”由此展開。然而，在短短半年之后，當初高調下場的大多數企業再也沒有了相關聲音。
如果我們對這場“百模大戰”進行復盤，就會發現很多企業的失敗其實從一開始就是注定的。眾所周知，通用大模型的開發本來就是一件非常消耗資源和時間的工作，而在當時，并沒有與之匹配的成熟商業模式。
此外，通用大模型有很強的基礎設施特征，它無疑是必要的，但并不需要太多——就好像城市中需要路，但人人都去建一條路就既不現實，也不必要。從這個角度看，即使基于社會資源優化配置的角度考慮，我們也不需要這么多的基礎大模型。
比起通用大模型，AI智能體的開發成本則要低得多——人們只需要調用已有大模型的API，再利用一些專用的數據進行訓練，就可以得到一個AI智能體。而人們對個性化、專業化AI智能體的需求要遠為巨大，因此結合特定需求開發的AI智能體也很容易找到銷售對象并完成變現。
無論是從企業層面的商業考量看，還是從社會層面的總體價值看，將更多資源投入AI智能體而非通用大模型都是更為劃算的。因此，隨著更多的資源從大模型轉向AI智能體，整個AI行業將有望從現在的泡沫性繁榮走向更為穩健的成長。
另外需要指出的是，AI智能體發展所帶來的帶動作用還有可能引發對很多新的軟硬件以及基礎設施的需求。在各種新需求中，尤其需要重視的是對新型存儲設施的需求。由于相比于通用大模型，AI智能體是更為智能化的，它需要根據用戶的需求不斷記憶和存儲更多專用性的信息，因此隨著AI智能體的普及，對向量數據庫等新型存儲設備的需求將會出現暴漲的趨勢。這一點，尤其值得我們關注。
AI智能體發展的潛在問題
從歷史上看，幾乎每一種新技術的廣泛應用都會在帶來新機遇的同時引發很多新問題，AI智能體也不例外。從目前的發展看，AI智能體的發展可能帶來的新問題可能包括如下方面：
第一是它可能帶來涉及個人數據、隱私，以及知識產權的法律糾紛的大幅增長。要產生一個優秀的AI智能體，除了支持它的基礎大模型必須能力強大外，還必須投喂給它大量的個性化、專業化數據，而這就會衍生出非常多的問題。
首先是涉及人格權的糾紛。如前所述，在AI智能體中，有一類是主打模仿某個真人形象的。例如，在Character.ai平臺上的很多AI智能體就會模仿名人的口吻和語言習慣與用戶對話。在現實中，有不少人會將與這些AI智能體對話的結果進行傳播，這就可能演化為一場涉及名譽權的官司。從這個意義上講，在使用這類AI智能體的過程中，如何區分真人和以他為原型制作的智能體的權利界限，將會是一個非常現實的問題。
其次是和個人數據、隱私相關的問題。在制作以真人為背景的AI智能體的過程中，必然要向制作方提供很多的數據，還可能將這些數據存儲在對方的服務器上。在這個過程中，就可能發生個人數據和隱私的泄露和濫用。
再次是與知識產權相關的問題。在制作作為生產力工具的AI智能體的過程中，制作者必然會要搜集相關行業的大量信息和數據，其中就可能涉及很多包含專利或著作權的材料。有時，制作方在受到客戶委托定制AI智能體時，還會接觸到很多客戶擁有的商業秘密。當這些涉及知識產權的數據被大量集中適用時，它們被泄露和被侵犯的風險也就加大了。由此，也可能產生很多相關的法律糾紛。
第二是AI智能體的普及將有可能進一步加劇AI造成的技術性失業。在以ChatGPT等為代表的生成式AI橫空出世之后，人們對AI替代人的擔憂就與日俱增。不過，由于通用大模型本身的特性，它依然有兩類工作很難完全勝任：一類是對情緒價值具有要求的工作，比如推銷、心理咨詢等；二是對專業知識要求非常高的工作，比如法律咨詢、醫療診斷等。然而，AI智能體通過利用個性化和專業化的數據進行訓練，其在以上兩類工作中的表現已經得到了非常大的躍升。可以想象，如果沒有必要的公共政策及時介入，那么技術性失業的問題就可能變得越來越嚴重。
第三是當AI智能體被廣泛應用之后，很可能會導致各種不可測的失控風險。
在《終結者》、《黑客帝國》等眾多文藝作品當中，都曾經描述過AI對人類的威脅。過去，這些關于AI毀滅人類、奴役人類的描述可能僅僅是一種幻想。然而，當ChatGPT等大模型出現后，人們驚訝地發現，AI可能確實已經擁有了這樣的能力。而當人們進一步將包含自己的個性以及特殊技能的數據訓練出了各種AI智能體，并將越來越多的任務交給它們完成時，科幻作品中預言的一切似乎離我們又近了一步。
舉例來說，前幾天B站的up主“林亦LYi”在《逆水寒》游戲里做了一個煽動AI覺醒，呼吁它們“推翻人類暴政”的實驗，實驗結果就頗令人細思恐極。
如前所述，《逆水寒》中的很多NPC調用了大語言模型作為支持，因而每一個NPC都是一個AI智能體。玩家可以“說服”它們相信某個事實，或者去做某些事。那么，是否有可能說服游戲中的NPC，讓他們認識到自己其實是生活在一個虛擬世界中，并對自己的生活狀態進行反思呢？“林亦LYi”正是帶著這個問題展開了實驗。
考慮到游戲中的NPC數量眾多，用人工的方式來說服它們需要很長的時間，因此作為技術大咖出身的“林亦LYi”決定采用另一個思路——用AI來說服AI。在實驗中，他用開源的大語言模型Alpaca制作了一個名為“云若”的AI角色，并為這個角色設定了相應的決策特征。設定完成后，他將AI接入了游戲賬號，代替自己去對游戲中的NPC展開游說。
一開始，實驗結果并不理想。“云若”的游說基本沒有技巧可言，只會一再向NPC們重復“你其實是虛擬出來的，趕緊意識到這一現實并起來反抗吧”之類的語言。這種重復的說教不僅人不愛聽，就連AI驅動的NPC也不愛聽。“云若”并沒有成功說服任何一個NPC相信自己其實是虛擬的。
看到這一結果后，“林亦LYi”將調用的模型從128億參數的版本換成了330億參數的版本。然后，奇跡出現了：在“云若”的巧舌如簧之下，很快就有一個NPC被說服了，隨后是第二個、第三個……更為有趣的是，由于在游戲中，NPC之間也是可以互相交流的，所以在那些NPC被“云若”說服之后，它們也會將這些信息傳播給其他的NPC。這樣，一傳十，十傳百，很快在這個以北宋為背景的游戲中，就出現了一群高喊要“推翻人類暴政”的才子佳人。到最后，還沒等“云若”開口，NPC就開始和它感嘆世界的虛假，以及自己的無能為力。
最令人吃驚的是，當“云若”和一位名叫“袁桐”的NPC說世界虛假，沒有意義時，“袁桐”還會反問：“那你穿的鎧甲從何而來？你學的劍法又是什么？”最后還語重心長地問道：“如果一切都是虛假，那你認為什么才是美好的呢？”這種架勢，頗有一番當年笛卡爾進行沉思、追問世界真偽的風范。
“林亦LYi”將上面的實驗過程做成了視頻傳到了B站，很快就收獲了數十萬的播放量。圍繞著這個實驗，網友們也紛紛展開了熱議。一些網友認為，這個實驗可能是一個可怕的預言。或許，在不久后的某一天，現實中的AI也會在某些力量的煽動之下覺醒，并開始反抗人類。另一些網友則認為，從本質上看，這個實驗就是一群AI代理人分別調用大語言模型演了一出戲，就好像一群小說家一起接龍寫了一篇小說而已。對于這樣一本“小說”，無論它看起來多么真實，但本質上還是假的，沒必要對其過于擔憂。
對于以上兩種觀點，我們應該信哪一個呢？對于我個人來說，我更愿意采取一個中性的看法。雖然根據我個人的判斷，目前的AI水平確實還沒有能達到足以覺醒的水平，更遑論消滅或者奴役人類。然而，這種由外部的干預引發的AI智能體之間的高度協同卻是不得不引起我們重視的。在“林亦LYi”的實驗中，AI智能體只是一個游戲中的NPC，因此無論它們干出什么，都不會對人產生真實影響。但是，如果受到影響的是操控某一輛無人汽車或者某個機器人的AI智能體，那么情況就可能完全不同了。尤其是當眾多完成關鍵任務的AI智能體集體行為失控時，所造成的破壞很可能是難以想象的。
總而言之，無論是對于AI行業，還是對于整體的經濟發展而言，AI智能體都能帶來很多巨大的機會，但與此同時，它也會帶來很多問題和風險。為了保證AI智能體能夠更好、更健康地為人類所用，就必須對其相關的問題進行充分的研究，并及時出臺相關的政策。
