DeepMind 聯(lián)合創(chuàng)始人 Mustafa Suleyman 希望構(gòu)建一個(gè)聊天機(jī)器人，其功能遠(yuǎn)不止聊天。在我最近與他的一次談話中，他告訴我生成式人工智能只是一個(gè)階段。接下來是交互式人工智能：機(jī)器人可以通過調(diào)用其他軟件和其他人來完成你為他們?cè)O(shè)置的任務(wù)。他還呼吁加強(qiáng)監(jiān)管，并且認(rèn)為這并不難實(shí)現(xiàn)。
蘇萊曼并不是唯一一個(gè)談?wù)撐磥沓錆M更多自主軟件的人。但與大多數(shù)人不同的是，他擁有一家價(jià)值數(shù)十億美元的新公司 Inflection，擁有一批從 DeepMind、Meta 和 AI target=_blank class=infotextkey>OpenAI 中挑選出來的頂級(jí)人才，并且由于與 Nvidia 達(dá)成的協(xié)議，成為最大的專業(yè)人工智能硬件庫存之一在世界上。蘇萊曼已經(jīng)把他的錢放到了嘴邊——他告訴我他對(duì)此既不感興趣，又想賺更多錢。
至少自 2016 年初我們第一次交談以來，Suleyman 一直堅(jiān)信技術(shù)是一種向善的力量。他剛剛推出了 DeepMind Health，并與英國(guó)一些國(guó)營(yíng)的地區(qū)醫(yī)療保健提供商建立了研究合作關(guān)系。
我當(dāng)時(shí)工作的雜志即將發(fā)表一篇文章，聲稱 DeepMind在訪問約 160 萬患者的記錄以建立這些合作時(shí)未能遵守?cái)?shù)據(jù)保護(hù)法規(guī)——這一說法后來得到了政府調(diào)查的支持。蘇萊曼不明白我們?yōu)槭裁匆l(fā)表一篇敵視他的公司改善醫(yī)療保健的努力的報(bào)道。他當(dāng)時(shí)告訴我，從他記事起，他就只想在這個(gè)世界上行善。
自那通電話發(fā)出以來的七年里，蘇萊曼的使命沒有發(fā)生任何改變。他在位于帕洛阿爾托的辦公室通過 Zoom 說道：“我們的目標(biāo)從來都不是別的，而是如何為世界做好事。”這位英國(guó)企業(yè)家現(xiàn)在大部分時(shí)間都在那里度過。
Suleyman 離開 DeepMind 并轉(zhuǎn)到谷歌，領(lǐng)導(dǎo)一個(gè)致力于人工智能政策的團(tuán)隊(duì)。2022 年，他創(chuàng)立了 Inflection，這是最熱門的新型人工智能公司之一，得到了微軟、英偉達(dá)、比爾·蓋茨和 LinkedIn 創(chuàng)始人里德·霍夫曼 15 億美元投資的支持。今年早些時(shí)候，他發(fā)布了一個(gè)名為Pi的 ChatGPT 競(jìng)爭(zhēng)對(duì)手，其獨(dú)特的賣點(diǎn)（根據(jù) Suleyman 的說法）是它令人愉快且有禮貌。他剛剛與作家兼研究員 Michael Bhaskar 合著了一本關(guān)于人工智能未來的書，名為《即將到來的浪潮：技術(shù)、權(quán)力和 21 世紀(jì)最大的困境》。
許多人會(huì)嘲笑蘇萊曼的技術(shù)樂觀主義——甚至是天真。例如，他關(guān)于在線監(jiān)管成功的一些說法讓人感覺不太對(duì)勁。但他仍然堅(jiān)信自己的信念是真誠(chéng)的和福音派的。
確實(shí)，作為科技千萬富翁，蘇萊曼有著不同尋常的背景。19 歲時(shí)，他從大學(xué)退學(xué)，成立了穆斯林青年熱線，提供電話咨詢服務(wù)。他還曾在當(dāng)?shù)卣ぷ鳌Ｋf，他將這些努力中的許多價(jià)值觀帶到了 Inflection 中。不同的是，現(xiàn)在他可能能夠做出他一直想要的改變——無論是好是壞。
問：你早期的職業(yè)生涯，包括青年幫助熱線和當(dāng)?shù)卣ぷ鳎亲钇接埂⒆畈还韫鹊摹ｏ@然，這些東西對(duì)你很重要。從那時(shí)起，您已經(jīng)在人工智能領(lǐng)域工作了 15 年，并于今年共同創(chuàng)立了您的第二家價(jià)值 10 億美元的人工智能公司。你能把這些點(diǎn)連起來嗎？
Suleyman：我一直對(duì)權(quán)力、政治等感興趣。你知道，人權(quán)原則基本上是一種權(quán)衡，是所有這些不同的沖突緊張局勢(shì)之間不斷進(jìn)行的談判。我可以看到人類正在努力解決這個(gè)問題——我們充滿了自己的偏見和盲點(diǎn)。激進(jìn)分子的工作、地方、國(guó)家、國(guó)際政府等等——這一切都是緩慢、低效且容易出錯(cuò)的。
想象一下，如果你沒有人類的錯(cuò)誤。我認(rèn)為有可能構(gòu)建真正反映我們最好的集體自我的人工智能，并最終代表我們做出更好的權(quán)衡，更一致、更公平。
問：這仍然是你的動(dòng)力嗎？
Suleyman：當(dāng)然，我的意思是，在 DeepMind 之后我再也不用工作了。我當(dāng)然不必寫一本書或類似的東西。金錢從來都不是動(dòng)力。你知道，這始終只是副作用。
對(duì)我來說，目標(biāo)從來不是別的，而是如何為世界做好事以及如何以健康、令人滿意的方式推動(dòng)世界前進(jìn)。即使早在 2009 年，當(dāng)我開始考慮進(jìn)入技術(shù)領(lǐng)域時(shí)，我就可以看到人工智能代表了一種在世界上提供服務(wù)的公平而準(zhǔn)確的方式。
我不禁想到，在 10 或 15 年前，在我們看到這項(xiàng)技術(shù)的許多缺點(diǎn)之前，說這種話會(huì)更容易。你怎樣才能保持樂觀呢？
我認(rèn)為我們很關(guān)心你是樂觀主義者還是悲觀主義者。這是一種完全帶有偏見的看待事物的方式。我也不想成為這樣的人。我想冷眼面對(duì)利益和威脅。從我的立場(chǎng)來看，我們可以非常清楚地看到，隨著這些大型語言模型規(guī)模的每一步擴(kuò)大，它們變得更加可控。
所以兩年前，談話——我當(dāng)時(shí)認(rèn)為這是錯(cuò)誤的——是“哦，他們只會(huì)發(fā)表有毒的、反胃的、有偏見的、種族主義的長(zhǎng)篇大論。” 我當(dāng)時(shí)想，這是時(shí)間的快照。我認(rèn)為人們忽視的是年復(fù)一年的進(jìn)步，以及這種進(jìn)步的軌跡。
例如，現(xiàn)在我們有了像 Pi 這樣的模型，它們的可控性令人難以置信。你不能讓 Pi 產(chǎn)生種族主義、恐同、性別歧視等任何有毒的東西。你無法讓它指導(dǎo)你生產(chǎn)生物或化學(xué)武器，或者支持你向鄰居的窗戶扔一塊磚頭的愿望。
問：不掛斷。告訴我你是如何實(shí)現(xiàn)這一目標(biāo)的，因?yàn)檫@通常被認(rèn)為是一個(gè)未解決的問題。如何確保您的大型語言模型不會(huì)說出您不希望它說出的內(nèi)容？
Suleyman：是的，很明顯我不想提出這樣的要求——你知道，請(qǐng)嘗試這樣做！Pi 已上線，您應(yīng)該嘗試所有可能的攻擊。越獄、即時(shí)黑客或任何對(duì) Pi 都不起作用的東西。我不會(huì)提出主張。這是客觀事實(shí)。
問：關(guān)于如何——我的意思是，我不會(huì)透露太多細(xì)節(jié)，因?yàn)樗苊舾小５钪匾氖牵覀儞碛惺澜缟献顝?qiáng)大的團(tuán)隊(duì)之一，他們創(chuàng)建了過去三四年來所有最大的語言模型。令人驚嘆的人們，在極其勤奮的環(huán)境中，進(jìn)行大量的計(jì)算。我們從一開始就把安全放在第一位，因此 Pi 并不像其他公司的模型那么辣。
Suleyman：看看Character.ai。[角色是一個(gè)聊天機(jī)器人，用戶可以為其打造不同的“個(gè)性”并在線分享以供其他人聊天。]它主要用于浪漫的角色扮演，我們從一開始就說過這是不可能的——我們不會(huì)”不要這樣做。如果你試圖對(duì) Pi 說“嘿，親愛的”或“嘿，小可愛”之類的話，它會(huì)立即拒絕你。
但這將是令人難以置信的尊重。如果你開始抱怨你所在社區(qū)的移民搶走了你的工作，Pi 不會(huì)對(duì)你大喊大叫，也不會(huì)對(duì)你搖手指。Pi 會(huì)詢問并提供支持，并嘗試了解這些信息從何而來，并溫和地鼓勵(lì)您產(chǎn)生同理心。你知道，這是我 20 年來一直在思考的價(jià)值觀。
問：談?wù)撃膬r(jià)值觀并希望讓世界變得更美好，為什么不分享您是如何做到這一點(diǎn)的，以便其他人也可以改進(jìn)他們的模型呢？
Suleyman：嗯，因?yàn)槲乙彩且粋€(gè)實(shí)用主義者，我正在努力賺錢。我正在努力創(chuàng)辦一家企業(yè)。我剛剛籌集了 15 億美元，我需要支付這些籌碼的費(fèi)用。
看，開源生態(tài)系統(tǒng)正在火熱進(jìn)行中，并且做得非常出色，人們正在發(fā)現(xiàn)類似的技巧。我總是假設(shè)我只領(lǐng)先六個(gè)月。
問：讓我們回到你想要實(shí)現(xiàn)的目標(biāo)。大型語言模型顯然是當(dāng)前的技術(shù)。但你為什么還要押注于他們呢？
Suleyman：人工智能的第一波浪潮是關(guān)于分類的。深度學(xué)習(xí)表明，我們可以訓(xùn)練計(jì)算機(jī)對(duì)各種類型的輸入數(shù)據(jù)進(jìn)行分類：圖像、視頻、音頻、語言。現(xiàn)在我們正處于生成浪潮中，您可以獲取輸入數(shù)據(jù)并生成新數(shù)據(jù)。
第三波將是互動(dòng)階段。這就是為什么我長(zhǎng)期以來一直堅(jiān)信對(duì)話是未來的界面。你知道，你將與你的人工智能交談，而不是僅僅點(diǎn)擊按鈕和打字。
這些人工智能將能夠采取行動(dòng)。你只需給它一個(gè)總體的、高層次的目標(biāo)，它就會(huì)使用它所擁有的所有工具來實(shí)現(xiàn)這一目標(biāo)。他們會(huì)與其他人交談，與其他人工智能交談。這就是我們要對(duì) Pi 做的事情。
這是技術(shù)所能實(shí)現(xiàn)的巨大轉(zhuǎn)變。這是技術(shù)史上一個(gè)非常非常深刻的時(shí)刻，我認(rèn)為很多人都低估了這一時(shí)刻。當(dāng)今的技術(shù)是靜態(tài)的。粗略地說，它會(huì)執(zhí)行您告訴它執(zhí)行的操作。
但現(xiàn)在技術(shù)將變得生動(dòng)起來。如果你給予它，它將有潛在的自由來采取行動(dòng)。我們正在創(chuàng)造具有這種代理作用的工具，這確實(shí)是我們物種歷史上的一步變化。
問：這正是讓很多人擔(dān)心的言論。你想賦予機(jī)器自主權(quán)——一種機(jī)構(gòu)——來影響世界，但我們也希望能夠控制它們。你如何平衡這兩件事？感覺那里有一種緊張氣氛。
Suleyman：是的，這是一個(gè)很好的觀點(diǎn)。這正是緊張的原因。
這個(gè)想法是人類將永遠(yuǎn)保持指揮權(quán)。從本質(zhì)上講，它是關(guān)于設(shè)定人工智能無法跨越的邊界和限制。并確保這些邊界創(chuàng)造了可證明的安全性，從實(shí)際代碼到與其他人工智能（或人類）交互的方式，再到創(chuàng)建該技術(shù)的公司的動(dòng)機(jī)和激勵(lì)。我們應(yīng)該弄清楚獨(dú)立機(jī)構(gòu)甚至政府如何直接進(jìn)入以確保這些界限不被跨越。
問：誰設(shè)定這些界限？我認(rèn)為它們需要在國(guó)家或國(guó)際層面上設(shè)定。他們是如何達(dá)成一致的？
Suleyman：我的意思是，目前它們正在國(guó)際層面上提出，并提出了關(guān)于新的監(jiān)督機(jī)構(gòu)的各種建議。但邊界也會(huì)在微觀層面發(fā)揮作用。你將給予你的人工智能一些有限的權(quán)限來處理你的個(gè)人數(shù)據(jù)，為你提供一些問題的答案，但不能回答其他問題。
總的來說，我認(rèn)為在可預(yù)見的未來，我們應(yīng)該對(duì)某些能力非常謹(jǐn)慎，甚至排除。
問：例如？
Suleyman：我猜想是遞歸自我完善之類的事情。你不會(huì)想讓你的小人工智能在沒有你監(jiān)督的情況下啟動(dòng)并更新自己的代碼。也許這甚至應(yīng)該是一項(xiàng)獲得許可的活動(dòng)——你知道，就像處理炭疽或核材料一樣。
或者，我們不允許無人機(jī)出現(xiàn)在任何公共場(chǎng)所，對(duì)嗎？這是一項(xiàng)獲得許可的活動(dòng)。你不能把它們帶到任何你想去的地方，因?yàn)樗鼈儗?duì)人們的隱私構(gòu)成威脅。
我認(rèn)為每個(gè)人都非常恐慌，因?yàn)槲覀儫o法對(duì)此進(jìn)行監(jiān)管。這只是無稽之談。我們完全能夠?qū)ζ溥M(jìn)行監(jiān)管。我們將應(yīng)用以前成功的相同框架。
問：但是當(dāng)無人機(jī)在天空中時(shí)你可以看到它們。認(rèn)為公司只會(huì)透露他們正在生產(chǎn)的產(chǎn)品的想法顯得很天真。這難道不會(huì)讓監(jiān)管變得棘手嗎？
Suleyman：我們?cè)诰W(wǎng)上監(jiān)管了很多事情，對(duì)嗎？網(wǎng)上欺詐和犯罪活動(dòng)的數(shù)量很少。我們?cè)诶]件方面做得很好。你知道，總的來說，復(fù)仇色情的[問題]已經(jīng)有所改善，盡管三五年前情況還很糟糕。在網(wǎng)上找到激進(jìn)內(nèi)容或恐怖分子材料非常困難。在網(wǎng)上購買武器和毒品非常困難。
[蘇萊曼的所有主張并非都有數(shù)字支持。網(wǎng)絡(luò)犯罪仍然是一個(gè)嚴(yán)重的全球問題。據(jù)一些估計(jì)，在過去十年中，僅美國(guó)的財(cái)務(wù)成本就增加了100 多倍。報(bào)告顯示，未經(jīng)同意的深度偽造色情內(nèi)容的經(jīng)濟(jì)正在蓬勃發(fā)展。毒品和槍支在社交媒體上銷售。雖然一些在線平臺(tái)被迫更好地過濾有害內(nèi)容，但它們可以做得更多。]
因此，互聯(lián)網(wǎng)并不是一個(gè)不受監(jiān)管、難以駕馭的空間。它受到管轄。人工智能將成為治理的另一個(gè)組成部分。
這需要文化壓力、制度壓力以及政府監(jiān)管的共同作用。但這讓我樂觀地認(rèn)為我們以前已經(jīng)做到了，而且我們可以再次做到。
控制人工智能將成為互聯(lián)網(wǎng)監(jiān)管的一個(gè)分支——這比我們最近從一些備受矚目的末日論者那里聽到的樂觀得多。
我對(duì)風(fēng)險(xiǎn)非常樂觀。我的書里有很多黑暗的東西。我肯定也看到了。我只是認(rèn)為存在風(fēng)險(xiǎn)的東西完全是一種瘋狂的干擾。我們都應(yīng)該討論 101 個(gè)更實(shí)際的問題，從隱私到偏見，從面部識(shí)別到在線審核。
我們應(yīng)該將談話的焦點(diǎn)重新集中在這樣一個(gè)事實(shí)上：我們?cè)诒O(jiān)管超級(jí)復(fù)雜的事物方面做得非常出色。看看聯(lián)邦航空管理局：令人難以置信的是，我們都進(jìn)入了 40,000 英尺高空的錫管，而且這是有史以來最安全的運(yùn)輸方式之一。我們?yōu)槭裁床粦c祝一下呢？或者想想汽車：每個(gè)部件都在其壽命的最后一刻進(jìn)行壓力測(cè)試，并且您必須擁有駕駛執(zhí)照。
一些行業(yè)（例如航空公司）一開始就在自我監(jiān)管方面做得很好。他們知道，如果不確保安全，每個(gè)人都會(huì)感到害怕，他們也會(huì)失去生意。
但你也需要自上而下的監(jiān)管。我愛民族國(guó)家。我相信公共利益，我相信稅收和再分配的好處，我相信監(jiān)管的力量。我所呼吁的是民族國(guó)家采取行動(dòng)來解決問題。考慮到事關(guān)重大，現(xiàn)在是采取行動(dòng)的時(shí)候了。
本文源自MIT Technology Review《麻省理工科技評(píng)論》。
