【ITBEAR】
智東西
編譯 | Vendii
編輯 | 漠影
智東西10月9日消息，美國著名科技記者Kara Swisher于10月3日，在她的播客節目《On with Kara Swisher》中，發布了她與微軟AI的首席執行官Mustafa Suleyman的對話。在這次訪談中，二人探討了多個關于AI發展的重要議題。
Mustafa Suleyman回顧了他從谷歌到自己創立的AI初創公司Inflection AI，再到最終加入微軟的職業生涯。他們討論了他在谷歌和Inflection AI期間對AI技術的早期探索，以及他選擇加入微軟的動機。
Suleyman也分享了他在微軟的目標，即推動AI技術與微軟現有產品的集成，并創造能夠與人類建立持久和有意義關系的“AI companion”。
對于AI的未來，Suleyman著重強調了AI語音交互和長期記憶能力的重要性，他認為這些將是AI發展的下一個前沿。他還預測，AI模型的幻覺現象將大幅減少，極大提高AI應用的可靠性和實用性。
Suleyman認為AI作為一種新的數字物種具有巨大的潛力，并預言AI將為人類創造其他技術無法帶來的情感體驗。
一、從谷歌到Inflection AI，再到微軟
Kara Swisher：Mustafa，感謝你參與我們的節目。
Mustafa Suleyman：感謝邀請我來節目。我很高興能在這里。
Kara Swisher：首先，恭喜你開始了新工作。今年3月，你加入微軟并擔任微軟AI的首席執行官。我們上次交談是在2023年6月，感覺好像已經過去了很久。當時，你的創業公司Inflection AI剛推出了聊天機器人Pi，那是在你獲得13億美元投資之前的事情。聊聊你轉向大科技公司的過程吧，因為Inflection是當時熱門的AI初創公司之一。你在DeepMind和其他地方也工作了很多年，也談談這方面的感受吧。
Mustafa Suleyman：當時我還在谷歌，大概是在2022年左右。谷歌雖然是非常厲害的科技公司，但在大語言模型革命中似乎有些掙扎，難以真正起步。
Kara Swisher：而且谷歌在投資方面也很早就行動了。
Mustafa Suleyman：是的，確實非常早。我當時在內部參與了Lambda的工作，這是Bard的前身，而Bard現在演變成了Gemini。我們當時真的在努力把這項技術部署到搜索中。然而，公司內部的推進相當謹慎，小心翼翼，對我們中的一些人來說可能有點過于保守了。我們都覺得，現在是時候將這些技術投入生產，獲取反饋，并進行實驗了。
Kara Swisher：為什么這么謹慎？是出于安全考慮，還是官僚體制的問題？
Mustafa Suleyman：我對這種謹慎態度很欽佩，因為你無法預見你不知道的事。我認為這些模型非常強大，它們與我們過去構建的軟件本質上是不同的。因此，當它們與現實接觸時，你根本無法預見會發生什么。沒錯，率先行動是一個大膽的決定。最終，OpenAI率先邁出了這一步，隨后事情的發展大家也都知道了，其他公司也陸續趕上了。
Kara Swisher：當你在谷歌這樣一個全球歷史上最大的科技公司之一工作時，他們的行動比較緩慢，而你看到了像OpenAI這樣的公司在你已經從事了十年的領域快速前進。當時你在考慮離開時，是如何權衡利弊的？畢竟，你從初創公司起步，后來被收購，身處一個強大的職位，然后又決定離開。
Mustafa Suleyman：我覺得，迭代和創新的周期變得越來越短了。當時有一個機會，我們覺得如果我們能夠率先推出Inflection，那么Pi就有可能成為第一大對話式AI。結果是我們在ChatGPT之后才推出，而ChatGPT顯然迅速爆發，成為歷史上增長最快的產品。所以，在這個市場和行業中，排在第三或第四的位置是非常難以競爭的。在我們運營Inflection的兩年間，我意識到，我們必須要在這些領域率先推出產品。
Kara Swisher：但是你當時擁有自己的公司，而且聽起來你也喜歡獨立運作，然后突然你成了微軟的員工。
Mustafa Suleyman：嗯，我們在Inflection犯的錯誤是我們自己構建了預訓練模型。當我們首次推出時，之所以能夠籌集這么多資金，部分原因是我們構建了一個可以媲美DeepMind、OpenAI和微軟最前沿技術的模型。但在我們構建這個模型的8個月內，多個團隊完全開源了類似的技術。這實際上削弱了我們的核心競爭力。我沒有預料到這些技術會這么大規模地開源。我原以為這些技術如此有價值，為什么要開源呢？結果發現，圍繞開源技術有一個完整的生態系統。
Kara Swisher：那你后來是怎么做的？為什么選擇了微軟？
二、如何看待OpenAI：競爭對手還是兄弟姐妹？
Kara Swisher：你們的目標是微軟，但微軟也在OpenAI中進行了大規模投資，很多人稱這是一個非常明智的舉措。你怎么看待這段關系？
Mustafa Suleyman：是的，我認為這項對OpenAI的投資將被視為歷史上最偉大的投資之一。當然，Facebook的投資也相當不錯。
Kara Swisher：我當時還取笑過這件事，現在我看起來像個傻瓜了，但請繼續說。
Mustafa Suleyman：回頭看這真是一件很好的事。我覺得這項投資很聰明，而且這也是一個勇敢的決定。我是說，2019年投入10億美元在一種技術上，而當時這項技術離實際應用還非常遙遠，基本上是純研究，因此這實際上是一種交易——因為他們無法收購DeepMind，所以不得不押注于其他項目，我認為這最終非常成功。
Kara Swisher：那么，你們之間的關系是什么？你們是競爭對手嗎？
Mustafa Suleyman：不不不。我們是兄弟姐妹。有時兄弟姐妹之間會爭吵，但大體上我們是在同一隊伍中，這對我們來說非常重要。我們從研究到核心基礎設施等各方面都與他們緊密合作。顯然，我們也會開發競爭產品。我認為這是健康且自然的，我們之間的關系很好。
Kara Swisher：他們與蘋果也有合作關系，例如通過某些合作項目，你們也能做到這一點，因為微軟向蘋果提供軟件等服務。
Mustafa Suleyman：是的，我想人們不知道的一點是，所有公司實際上與其他公司都有深厚的合作關系。相信與否，我們與亞馬遜之間的關系非常密切，在很多方面都是如此。所以，各家公司之間有很多聯系，這是很正常的。
三、在微軟的新目標：AI集成everything，打造AI companion
Kara Swisher：那么，你的職責和目標是什么？你們有Bing搜索引擎、Copilot和聊天機器人應用，還有什么呢？
Mustafa Suleyman：還有MSN，以及Edge瀏覽器，還有我們的核心AI科學部門。
Kara Swisher：所以你們將在所有產品中都集成AI。
Mustafa Suleyman：沒錯，這正是我們的目標。我們希望建立一個專門集成AI的工作室。我們可能會把AI集成在瀏覽器上，搜索引擎上，還有MSN上。現在，我們有消費級AI產品Copilot，旨在打造一個真正對話流暢的AI伴侶。
Kara Swisher：在很多方面，它實際上就是一個搜索引擎。
Mustafa Suleyman：你可以把它看作是一個搜索引擎，但我認為它將超越搜索引擎的發展。這將成為一種持久而有意義的關系。人們將擁有一個真正的朋友，隨著時間的推移，這個朋友會了解你、向你學習，并在你身邊支持你。
Kara Swisher：是的，朋友這個詞在這里有很多含義。但Satya所用的詞是“agentic”，我想。
Mustafa Suleyman：對，“agentic”。
Kara Swisher：無論如何，你們在微軟發明新詞了。這是什么意思，“agentic”？這是自動化的代理嗎？和聊天機器人如Pi之類的有什么不同？
Mustafa Suleyman：我覺得這個詞有點太理想了，可能只是像朋友一樣。
Kara Swisher：是的。
Mustafa Suleyman：“agentic”這個詞確實說起來很順口，但它其實有點別扭，不是嗎？看，這是我的“agentic”。人們可能會覺得……這個詞是誰用的？我認識的人用過嗎？
Kara Swisher：“agentic”？你們微軟的首席執行官Satya用過。
Mustafa Suleyman：哦，好的。
Kara Swisher：他還在社交媒體上提到過，隨處可見。
Mustafa Suleyman：你知道，我更喜歡用“companion”這個詞。這個詞也帶有理想色彩。我們還沒有完全達到那個階段。但它基本上傳達了這樣一個概念：這些AI將真正與你一起生活。它不只是一個工具。每個人將和AI產生一種持久而有意義的關系。它將成為你的老師，成為你的醫療顧問，成為你的支持網絡。最終，它會代表你采取行動。
Kara Swisher：“copilot”可能是更好的詞。這是你們在微軟使用的詞。而且這很有趣，因為現在它的表現形式開始顯現，我在前段時間剛結束的蘋果發布會上覺察到了這一情況。大部分情況下，這在某種程度上是令人煩惱的，比如谷歌的AI，它會重寫你的電子郵件。當你開始寫一封電子郵件時，它們會說，“我可以幫你嗎”。而我的電子郵件完全就是一些“是的”、“不”、“好的”之類的簡單詞匯。然后它們會說，“我可以為你重寫嗎？”我會說“不，你不能”。這反而讓我多了幾個操作。所以現在看起來并沒有特別有幫助。不過，很多人確實在用它來進行摘要、記筆記、想點子等等。所以有兩個說法，一種是工作助手，而你說的是伴侶和朋友。除了微軟，我們也可以談談其他公司。我想知道，企業和消費者的需求是如何聯系在一起的，它們的分歧在哪里？這種分歧是否會導致某些產品被淘汰？畢竟，最終的趨勢似乎是將一切整合到一個統一的系統中，對嗎？
Mustafa Suleyman：我覺得不一定是這樣，對吧？而且也不清楚……
四、AI語音、AI長期記憶能力將是未來發展重點
Mustafa Suleyman：我認為，未來將越來越傾向于以語音為主的模式。因為，我們一直在努力實現高質量的轉錄和語音生成。但這個過程非常緩慢，持續了十年。
Kara Swisher：是啊，進展緩慢。
Mustafa Suleyman：這一直讓人感到煩惱，正如你所說的那樣，令人惱火。現在有點好轉，已經快達到那個目標了。我認為在過去的一年里，情況有了轉機。現在你真的可以和這個東西進行流暢的對話，你可以打斷它，它的轉錄準確性非常高。我認為這開啟了一種不同的思維方式，你可以讓一項技術做一些事情，而不是打字。
Kara Swisher：這在科幻小說中早已存在，對吧？如果你看過任何《復仇者聯盟》的電影，當他和Jarvis對話時，那就是你期望中的關系類型。但對于大多數普通消費者來說，體驗往往不是這樣，就感覺Siri是你遇到過的最笨的朋友。我確實這么說過，而且這是真的。Alexa也不太聰明。
Mustafa Suleyman：沒錯，你說得對，完全正確。這些技術和我們這些技術人員的問題在于，我們往往過于激動，夸大了技術的現狀，好像它們已經達到我們所期待的水平了。我記得看過一個索尼隨身聽的廣告，看到一個人滑著輪滑，戴著耳機。當我拿到了我的隨身聽后，想著自己也可以那樣走在街上，但結果就是每幾秒鐘它就會跳針。
Kara Swisher：是的，確實如此。
Mustafa Suleyman：我們總是傾向于夸大技術的能力，而且每次都會覺得這次將與眾不同。比如現在的語音AI，現在你可以和它進行任何主題的流利自然語言對話，這確實是一件有深遠影響的事情。你可以隨便選擇一個話題，除非是你的專業領域，否則它的表現都會很好。
Mustafa Suleyman：我認為明年我們將大幅減少模型的幻覺現象。它們會被降低到一個可以真正用于日常實際應用的水平。你會依賴它，它會提供相當不錯的信息。對的，它將逐漸取代傳統的“10個藍色鏈接”搜索結果格式。我認為未來它將具備記憶功能。這是當前缺失的一環，也正因為如此，你可能暫時不愿長期依賴它。因為很讓人沮喪的是，它會忘記你告訴過它的事情，比如你昨天晚上去吃了晚餐，或者你在哪個學校讀的本科。
Kara Swisher：所以這是個糟糕的助手。
Mustafa Suleyman：是的，有點無趣，對吧？所以你不會真的全心全意地投入。想象一下，當它真的記住你說過的所有事情，并且能夠準確地從你們的對話歷史中檢索信息時，那一刻會是什么樣的。
Kara Swisher：那這個會在什么時間實現？
Mustafa Suleyman：我認為距離達到一個可行的水平大概還有18個月。
Kara Swisher：哪家公司在這個過程中至關重要？我猜是蘋果公司吧，因為人們會在蘋果設備上有這樣的體驗，對嗎？
Kara Swisher：我與Tim Cook討論過。這是否意味著，應用程序會消失。你將與Uber建立關系，但不是以同樣的方式，因為不斷打開應用程序是一種有損耗的操作。“我在打開我的優步應用，我在打開我的搜索應用”，像這種情況會消失。
Mustafa Suleyman：我認為它們不會消失。我認為你的AI會學會使用這些應用。
Kara Swisher：這就是我的意思。你再也不會觸碰它們了。
Mustafa Suleyman：對的，對的。首先，點擊某個東西的效率非常高，比如我認為在Uber上叫一輛車大概需要5次點擊。這很難超越。所以要真正超越這一點還需要幾年。但如果你放眼未來，是的，你的AI很可能會學會在瀏覽器中點擊按鈕，在文本輸入框中輸入文本，當然也會閱讀頁面，理解頁面上的圖像和所有文本。這將是一個非常不同的模式。我認為其中一個很快會實現的是“copilot”的視覺理解。它會真正看到你所看到的東西。你將能夠擁有一個真正和你一起瀏覽界面的伙伴。
Kara Swisher：看到你在物理世界中看到的東西？
Mustafa Suleyman：起初是數字世界中的。但很快，將會有視覺意識，無論是通過耳機還是眼鏡。
Kara Swisher：是的，有攝像頭的耳機。
Mustafa Suleyman：我認為這將是一個新模式。你見過新推出的Snapchat眼鏡。我認為它們很酷。
Kara Swisher：它們相當大。
Mustafa Suleyman：它們有點笨重。
Kara Swisher：笨重。是的，這是個不錯的形容詞。
Mustafa Suleyman：理想情況是，它們會變得更輕巧，比如說帶攝像頭的AirPods。它們不會有精準的人物識別，但它們會有空間意識，它們會知道你在戶外、你正在接近一輛車，或者附近有其他三個人等等。
五、未來模型幻覺將基本消失
Kara Swisher：你工作中的一個有趣之處是與OpenAI的關系。你和Sam Altman常常被視為對手，但你最近稱贊了他。談談你們的關系是什么樣的？因為《華爾街日報》報道說你們正在微軟內部建立一個“內部的OpenAI競爭者”。 談談微軟為什么要再復刻它在OpenAI有的資源。策略是什么？
Mustafa Suleyman：你看，這不是關于復刻。我認為更多的是對微軟來說有一個真正理解公司技術的合作伙伴。因為為了真正有效地使用這項新技術，需要一定水平的科學技術，而這只能通過經驗來獲得。所以我們非常看重他們，視其為合作伙伴，而非競爭對手。我對他們所做的事情非常尊重。
Kara Swisher：他們剛剛發布了一個新的推理模型，叫做o1 preview或Strawberry。你能否解釋一下它和其他模型之間的區別？它似乎具有一種獨特的能力，會“撒謊”，也就是假裝遵循規則，這聽起來問題有點大，甚至比幻覺更糟。你并不想要一個會“撒謊”的朋友。談談這個吧。
Mustafa Suleyman：你知道，它特別擅長的是，在面對復雜的推理挑戰時，它能夠批判自己的答案并進行迭代，以找到正確的答案，然后再給你最終答案。這也是為什么它目前有點慢，它需要大約10到30秒才能給出答案。實際上這很有用，因為它會在給出最終輸出之前獲取反饋并進行校準和迭代。事實證明，這非常有價值。我們人類其實都是這樣做的。我們在腦海中反復思考，試圖在給出沖動回答之前推理出一個問題。現在這些模型一旦給出沖動答案，它們只是給出第一個冒出來的答案，對吧？
Kara Swisher：對，你剛才說過，幻覺會消失，它們會低于某個閾值，使AI變得更實用，對吧？
Mustafa Suleyman：對，現在如果你使用最好的模型，它們已經相當不錯，但它們仍然會出現一些基本錯誤。我認為那些基本錯誤會減少到一個可以接受的水平。
Kara Swisher：而且那些垂直領域的模型將會在非常清晰準確的數據集上進行訓練，對吧？
Mustafa Suleyman：對，尤其是如果你想將它們集中在某個專業領域，比如法律領域、財務會計、深入了解你公司的知識，或者醫學領域，確實是這樣。
Kara Swisher：對，而且必須如此。它不能在這個過程中“撒謊”或出現幻覺。
Mustafa Suleyman：在醫療領域，不能“撒謊”，絕對不行。
六、對競爭對手們的看法：xAI、DeepMind、亞馬遜、meta
Kara Swisher：說到競爭，來談談Elon Musk吧。《Semaphore》的記者Reed Alberghetti最近宣布，Elon在AI競賽中領先。Elon在孟菲斯為xAI建了一個數據中心，顯然打破了不少規則。他說大約10萬個H100 GPU已經在運行，還有另外10萬美元的設備。他是在競爭“誰更厲害”。就在一年前，Flexion AI聲稱它建立了世界上最大的GPU集群，擁有22000個GPU。你能談談“誰更厲害”這個問題嗎？如果我必須問的話。
Mustafa Suleyman：我的天哪。
Mustafa Suleyman：天哪，我是說，Elon是個挺厲害的人，我能說什么呢？這是一個很大的GPU集群。我認為其他人訓練的規模大致相當。所以從零開始，到現在擁有一個能與微軟、OpenAI和谷歌等公司競爭的GPU集群，確實很了不起。你相信他說的是真的嗎？我不知道。我真的不知道。如果他在這么短的時間內做到了，那將非常令人印象深刻。我覺得這不太可能，但我真的不知道。
Mustafa Suleyman：是的，是的。還有人形機器人……我想，我們需要那種愿景。我喜歡它。
Kara Swisher：五年前他告訴我他要去火星，我希望他能去。祝他好運。不過，話又說回來，談談這種競爭。從你的角度來看，誰是主要競爭者？
Mustafa Suleyman：我認為DeepMind是世界上領先的實驗室之一，和OpenAI并駕齊驅。毫無疑問，他們是一個卓越的團隊。現在擁有驚人的資源，TPU芯片非常出色。
Kara Swisher：亞馬遜和meta呢？
Mustafa Suleyman：我會說，亞馬遜在他們的新芯片Tranium方面表現不錯，這個芯片看起來相當便宜，表現也很好，最近用于訓練Claude的AI，所以他們的表現真的很出色。而meta，我認為在AI領域是黑馬，對吧？
Kara Swisher：很多人這樣認為。
Mustafa Suleyman：是的，他們成功地轉型過來，成為了一家以AI為主的公司。
Kara Swisher：等等，你是說元宇宙不是未來的發展方向嗎？
Mustafa Suleyman：似乎不是。誰會想到呢？我不知道。我是這樣想的。你也是嗎？
Kara Swisher：是的，我是。我覺得這真是太荒謬了。我一直在想，他們只是不想某一天會死。這就是他們想在數字世界中復制自己的原因。但無論如何，你怎么看待他們的……
Mustafa Suleyman：他們是開源的，對吧？看到他們以這種方式運作其實挺有趣的，因為他們一直在落后。我覺得他們的理念是，“來吧，試著團結起來”。我認為這對他們來說會很成功，因為這樣他們就能擁有大量開源開發者在他們的基礎設施上進行開發。
七、未來將努力發展可再生能源
Kara Swisher：對了，你對“芯片是新的石油或黃金”這一觀點表示反對，而大多數人現在都這樣認為。昨天微軟和貝萊德宣布他們計劃建立一個300億美元的基金，來開發用于AI的數據中心和發電廠。微軟預測今年將在資本支出上花費500億美元用于數據中心。之前就已經很高了，但這還是令人震驚。這確實感覺像是一場淘金熱。《衛報》剛剛發布了一項分析，指出官方數據與實際排放之間存在顯著差距。例如，微軟內部數據中心的排放量至少比公司報告的高出21倍。你知道，這可能會造成氣候災難。現在，包括Sam Altman在內的許多人都在努力尋找其他可替代的能源。核裂變專家Larry Ellison最近也討論了建立核電站的事。那么，讓我們來談談這個問題。
Mustafa Suleyman：我確實認為指出這一點很重要，微軟正在朝著完全可再生能源的方向發展。對，他們承諾……
Kara Swisher：碳中和。對吧？
Mustafa Suleyman：對，實際上，它將在未來幾年內實現碳中和，甚至實現凈負排放。我每周參加一些會議，看到微軟在全面可再生能源上進行了大量投資。所以我認為這個承諾是有效的。
Kara Swisher：所以你們都必須進入能源行業或可再生能源行業。
Mustafa Suleyman：在某種程度上，公司的確已經在基礎設施行業。這涉及到購買大量土地，建造巨大的數據中心。
Kara Swisher：谷歌也做了類似的事情，涉及熱能以及各種項目。我記得曾有很多奇怪的計劃，但在服務器農場的能源方面也有一些非常聰明的方案，對吧？有沒有一種能源是你們更關注的？
Mustafa Suleyman：我認為核聚變還有一段距離。微軟確實在核聚變領域有多項投資。但我認為在很長一段時間內，我們將使用水能和太陽能。核能可能會有一些。
Kara Swisher：你知道，有個叫比爾·蓋茨的人告訴我，可再生能源是不夠的。在一次采訪中，他談到了這個想法。他是個堅定的核能支持者。
Mustafa Suleyman：我認為太陽能在過去十年里成本已經呈指數下降。當成本降低時，技術自然會在市場上普及。
Kara Swisher：政府在這里需要做些什么來推動這一進程？
Mustafa Suleyman：對中國征收關稅不會帶來好處。現實情況是，中國以極具競爭力的價格生產了全球大多數的太陽能光伏電池。我們不應考慮對這些產品征收關稅，因為我們希望它們能夠在全球范圍內得到廣泛應用。
Kara Swisher：是的，我有些消息要告訴你。一個候選人想對所有東西征收關稅。
Mustafa Suleyman：太瘋狂了。
Kara Swisher：你認為這會阻礙經濟增長嗎？
Mustafa Suleyman：我毫不懷疑。這沒有任何意義。
Mustafa Suleyman：我認為，他們已經做出了重大承諾。石油公司已經做出了轉型的重要承諾，他們需要對我們和其他所有人負責。我們是他們未來的利益相關者。我希望看到他們能更快地推進，當然。他們應該像我們一樣，承諾100%使用可再生能源。
八、支持政府對AI發展的干涉
Kara Swisher：好了，還有幾個問題。聯邦貿易委員會已經啟動了一項反壟斷調查。政府在進行很多調查，不只是微軟。谷歌剛剛輸了官司。顯然，還有另一場官司正在進行。不過關于這筆交易，讓我看看我是否理解正確。你和Inflection的聯合創始人Karen Simonyan，Inflection的首席科學家，兩人都去了微軟。你們Inflection的70名員工中有60人和你們一起離開。微軟向Inflection支付了6.5億美元作為技術許可的一部分。微軟聲稱這不是收購，而我的合作伙伴Scott Gallery則認為這是收購。聯邦貿易委員會正在調查。談談這個問題吧。這難道不是收購嗎？
Mustafa Suleyman：我之前提到過，我們到了一個階段，這時我們無法贏得消費者市場的競爭。對，但公司方面，Reid Hoffman，我們的第三位聯合創始人，他仍然在運營 Inflection，主要面向B2B市場。他們現在正在使用其他開源的預訓練模型，對它們進行微調，以滿足很多其他企業的需求。我不是 B2B 類型的人，我不想做這個，這就是為什么我們接受微軟的提議。我還想補充的是，英國的監管機構 CMA 和歐洲的監管機構都審過了這個案例，并且不會進一步追蹤。
Mustafa Suleyman：我覺得他們的進展稍微慢一些，但歐洲和英國的監管機構已經得出了這樣的結論。
Kara Swisher：所以其他公司也在這樣做……？Character AI 與谷歌合作，Adept AI 與亞馬遜達成協議，這些都沒有獲得 FTC 的批準。權力的整合正在發生，這是我第一次看到監管機構，包括一些保守派人士的參與。你覺得政府關注這個問題是好事嗎？我覺得很好。
Mustafa Suleyman：我認為這非常好。我一直認為我們需要一批對技術有深刻理解的監管者，他們與公司保持密切聯系，真正了解我們的運營方式，以便讓我們所有人承擔責任。我們需要這種健康的對話和反饋，我總是歡迎這種對話。每當我出差時，我總會騰出時間去見監管者和政治家。
Kara Swisher：你覺得全球范圍內的政府對這些問題的關注更加強烈了嗎？因為他們確實錯過了互聯網的第一輪，沒有對其進行任何監管。你感受到政府的態度發生了變化嗎？比如在法國逮捕了Pavel Durov。雖然這些事情不盡相同，但它們都是政府對科技持激進立場的表現。
Mustafa Suleyman：我認為我們必須承認，政府有時會犯錯，監管者也會出錯。這并不意味著他們應該放慢腳步。我們也應該對他們寬容，就像我們對公司和其他任何組織寬容一樣。因為我們需要的是監管者能夠進行更多的快速實踐，而不是要求他們每次都必須完全正確。那只會導致停滯不前，最終他們處理這些案件的速度會慢太多。歐洲的許多監管案件，像稅務問題或壟斷市場問題，往往要花費十年時間。這些問題非常復雜，因此確實需要時間，但同時我們也希望他們能迅速行動。現在是一個技術快速變化的時刻，我們希望大家都參與這個過程。
Kara Swisher：所以你歡迎各州的參與嗎？比如加州的行動非常激進，Gavin Newsom剛剛簽署了一系列法案。
Mustafa Suleyman：我認為幾年前簽署的隱私法案中有很多合理的條款。我認為各州也應該發揮同樣的作用，積極參與，服務公眾利益。
Kara Swisher：最后，我想聊一下未來的AI。你曾倡導提升透明度，支持由獨立的第三方團隊對AI進行倫理審查，這是一個非常好的建議。通過這種方式可以防止AI進行遞歸式的自我改進，確保它們不會從自身的行為中學習，從而避免潛在的風險。你認為這些都是必不可少的嗎？為了確保我們不在這場變革的浪潮中迷失方向，在短期內你認為最重要的事情是什么？你覺得應該做什么？在短期內政府和公司最重要的任務是什么？
Mustafa Suleyman：目前英國AI安全研究所已經開始派人到公司內部，跟蹤大模型的規模、能力以及發展路線圖。是的，這些人在公司內部工作，所以這四五家大公司與安全研究所之間有著大量的詳細互動。這個研究所也得到了拜登政府的支持，去年在白宮的大型會議上有過背書。所以，我認為這正在朝著正確的方向發展。這是在沒有任何實質性危害發生之前就已經進行的前所未有的審查和合作，大家都在汲取Web 2.0、煙草游說團體和石油行業的教訓。我認為大家都有誠意想要做對的事情。當然，這并不意味著我們不會犯錯，但我確實覺得這次的情況有所不同。政府的反應更為積極主動，盡管現在很多事情尚未完全良好地運轉。我們已經看到AI在此次選舉中產生了影響，雖然有時會以一種奇怪的方式出現。
九、AI將為人類創造其他技術無法帶來的情感體驗
Kara Swisher：泰勒·斯威夫特在特朗普發布一張AI生成的她支持他的圖片后，發文支持副總統卡瑪拉·哈里斯。你怎么看待這個事情？因為她特意指出了這一點。很多人現在談論的都是AI對選舉帶來的負面影響。不過現在看起來，可能沒有人們最初擔心的那么嚴重。作為一名公民，同時也作為一名技術開發者，你在這方面最大的擔憂是什么？
Kara Swisher：你覺得這些生成技術最可怕的場景是什么？最好的場景又是什么？
Mustafa Suleyman：最可怕的場景是事情發展得太快，超出我們的掌控。有時候，后果需要一段時間才能顯現，我們才能真正觀察到。如果你看看我們的車輛監管體系，花了80年或100年才建立起一個穩固的體系，從駕駛員培訓、安全帶、氣囊到街道照明和車輛排放標準。但樂觀的一面是，每個人都會擁有一個不可思議的個性化導師在口袋里。
Kara Swisher：我知道你對科技的樂觀多過悲觀。你在四月曾說，AI可以被視為一種新的數字物種。從你的角度看，如果這個數字物種代表了我們最好的一面，而不是最壞的，那會是什么樣子？
Mustafa Suleyman：它將擁有自主性、創造力和記憶力。這樣，我們就能探討它的潛在弱點和優勢。這些模型不必受到我們人類局限性的約束。它們不會感到內疚，也不會有羞恥感，除非我們在編程時賦予它們這些情感；它們不會有自我意識或焦慮感。當然，有些人可能會選擇將這些特質編程進去。一旦我們克服了它們的某些弱點，比如記憶力和幻覺，它們確實有可能成為人類最好一面的代表。我認為我們面臨的挑戰是，作為“性格工程師”， 這個新領域讓我們有機會賦予這些情感智能AI善良、同情和敏感性。這是一個全新的工程實驗，而我們現在才剛剛開始。我覺得這是一個了不起的愿景：如果我們能創造出充滿愛與善良的AI代理人或助手，那將是對人類社會的偉大貢獻。
Kara Swisher：好的，那我的最后一個問題是，如果真是這樣，”性格工程師”他們自己似乎并不如此充滿愛與善良。
Mustafa Suleyman：完全同意，是的，他們并不這樣。硅谷幾十年來一直有這個問題，技術人員往往是些書呆子型的白人男性，他們創造的技術帶有他們自己的盲點，因為他們是在為自己解決問題。現在，我們正要改變這種局面，因為這些技術現在可以被任何人編程，并且開始進入情感智能的領域，而不僅僅是功能性技術。以前，軟件的重點是更高效地做事，比如完成支付、連接市場中的人。而現在，我們在創造體驗，情感體驗，這些是持久的、有意義的關系。所以，這是一個重新決定誰能參與這些技術的時刻。
Kara Swisher：好的。嗯，原諒我不能全然相信你的話。Mustafa Suleyman，謝謝你，感謝大家的收聽。
