“這是人類第一次集體反AI事件，必將記入史冊。”有科技界人士在朋友圈寫道。3月29日，由圖靈獎得主、深度學習三巨頭之一的約書亞·本吉奧，特斯拉(195.28, 1.40, 0.72%)公司CEO埃隆·馬斯克，《人類簡史》作者尤瓦爾·赫拉利等人聯名發表公開信，呼吁所有AI實驗室立即暫停訓練比GPT-4更強大的AI系統，為期至少6個月，以確保人類能夠有效管理其風險。公開信稱，暫停工作應該是公開且可以證實的，如果AI實驗室不能快速暫停，各國政府應該實行暫停令。截至目前，這封公開信已經有1100多名全球科技界人士聯署。AI實驗真的失控了嗎？北京青年報記者發現，由ChatGPT引發的人工智能話題正在從科技和經濟學問題演變成倫理和哲學命題。
“全球的AI實驗室已經完全失控了”
AI威脅論是這封公開信的出發點。公開信表示，大量研究表明，具有與人類競爭智能的AI系統可能對社會和人類構成深遠的風險，這一觀點得到了頂級AI實驗室的承認……最近這幾個月，全球的AI實驗室已經完全失控了，它們瘋狂地開展AI競賽，來開發和部署更強大的AI，而沒有任何人可以理解、預測、控制這些AI，連它們的創造者都不能。
這封公開信提到，現在人工智能在一般任務上變得與人類一樣有競爭力。對此，我們必須問自己：我們應該讓機器在信息渠道中宣傳不真實的信息嗎？我們是否應該把所有的工作都自動化，包括那些有成就感的工作？我們是否應該開發非人類的大腦，使其最終超過人類數量，勝過人類的智慧，淘汰并取代人類？我們是否應該冒著失去對我們文明控制的風險？這樣的決定絕不能委托給未經選舉的技術領袖。只有當我們確信強大的人工智能系統的效果是積極的，其風險是可控的，才應該開發。同時，這種信心必須得到驗證，并隨著系統的潛在影響的大小而加強。OpenAI最近關于人工智能的聲明中指出，“在開始訓練未來的系統之前，可能必須得到獨立的審查，同意限制用于創建新模型的計算增長速度。我們同意，現在就該采取行動。”
公開信呼吁暫停比GPT-4更強大的人工智能系統訓練
公開信呼吁，所有人工智能實驗室立即暫停比GPT-4更強大的人工智能系統的訓練，時間至少持續6個月。公開信中還寫道，這種暫停應該是公開的和可驗證的，并且包括所有關鍵參與者。如果不能迅速實施這種暫停，政府應介入并實行暫停。“這并不意味著暫停一般的人工智能開發，只是從危險的競賽中退后一步，限制不可預測的研究和開發。”
基于此，這封信提出建議，人工智能的研究和開發應該重新聚焦于，使目前最先進和強大的系統更加準確、安全、可解釋、透明、穩健、一致、值得信賴和忠誠。同時，人工智能開發者必須與政策制定者合作，大幅加快開發強大的人工智能治理系統。這些至少應該包括：專門針對人工智能的監管機構；監督和跟蹤高能力的人工智能系統和大型計算能力的硬件；出處和水印系統幫助區分真實和合成，并跟蹤模型泄漏；強大的審查和認證生態系統；對人工智能造成的傷害承擔責任；為人工智能安全技術研究提供強大的公共資金以及資源充足的機構，以應對人工智能可能導致的巨大的經濟和政治破壞。
圖靈獎獲得者表示AI消滅人類“并非不可想象”
在這個被外界戲稱為人類首個“反AI聯盟”的名單上，簽名的目前有圖靈獎得主約書亞·本吉奧（Yoshua Bengio，Stability AI首席執行官Emad Mostaque、紐約大學教授馬庫斯、特斯拉公司CEO馬斯克，以及《人類簡史》作者尤瓦爾·赫拉利等。簽名人還包括蘋果(162.36, 1.59, 0.99%)聯合創始人史蒂夫·沃茲尼亞克、2020年美國總統選舉民主黨初選候選人楊安澤、AI經典教科書《人工智能： 一種現代方法》作者Stuart Russell等。兩名來自微軟(284.05, 3.54, 1.26%)的軟件工程師，以及來自OpenAI“競爭對手”的研究員，包括谷歌(101.32, -0.58, -0.57%)旗下DeepMind的三位研究科學家也簽下了自己的名字。
面對OpenAI產品在全球的火爆程度，OpenAI創始人兼CEO山姆·阿爾特曼近日在接受媒體采訪時表示，自己對AI如何影響勞動力市場、選舉和虛假信息的傳播有些“害怕”。AI需要政府和社會共同參與監管，用戶反饋和規則制定對抑制AI的負面影響非常重要。
“深度學習之父”、圖靈獎的另外一名獲得者杰弗里·辛頓 （Geoffrey Hinton）近日接受哥倫比亞廣播公司采訪時表示，AI消滅人類“并非不可想象”，人類需要警惕AI會給一小部分公司和政府帶來巨大的權力。北青報記者注意到，部分學者提出要警惕“數字利維坦”，得到了許多網民的支持。
馬斯克為何加入反對行列
許多觀察人士認為，馬斯克反對的其實不是人工智能，實際上，他反對的只是OpenAI和GPT。作為OpenAI的共同創始人之一，馬斯克一直毫不掩飾他對OpenAI的敵意，認為其過度商業化，從開源變成了“閉源”，已經忘了非盈利和開放的“初心”。也有報道指出，馬斯克之所以如此敵視OpenAI，是因為2018年爭奪OpenAI經營權失敗，所以撤資走人。美國《財富》雜志當時報道稱，離開的原因是馬斯克雖然支持人工智能，但特斯拉智能駕駛技術與OpenAI之間有“潛在利益沖突”。
還有報道稱，馬斯克在離開前提出過由他本人執掌OpenAI運營的建議，但遭到了拒絕。馬斯克認捐了10億美元，但截止到他離開時，其中9億美元沒有兌現。9億美元的大窟窿迫使OpenAI走上商業化道路。這一轉型獲得了微軟大力贊助。6個月后，微軟注資10億美元，并向OpenAI提供了基礎設施和專業知識。他們一起建立了一臺超級計算機來訓練大規模的模型，最終創造了ChatGPT和圖像生成器DALL-E。
關注
AI威脅到人類了嗎？
人類對人工智能的擔憂由來已久，清華大學梅汝璈法學講席教授馮象早在2019年就發表過文章《人工智能讓我們害怕什么》。他認為，從人機關系的視角看，主要包括兩項巨大的挑戰，一是機器替換人類，導致失業浪潮；二是人工智能的軍事化。用美國科幻文學的口號來說，“未來已經來到”。
那么，身在其中的微軟創始人比爾·蓋茨是如何看待人工智能帶來的負面影響的呢？公開報道中，比爾·蓋茨將人工智能與芯片、個人電腦、互聯網和手機相提并論，認為它將重新定義人類的學習、生產、生活和交流等。他認為，未來對企業的劃分標準將通過一家公司如何使用GPT來進行制定。對于人工智能引發的擔憂，比爾·蓋茨認為，不安是社會對顛覆性新技術出現的本能反應。正因為人工智能模擬人類的思維和行事模式，因此產生的尖銳問題也必將很多。
AI威脅到人類了嗎？一位在美國學習人工智能的博士對北青報記者表示，目前來看談AI對人類的威脅還為時尚早，這封公開信背后展示的更多的是經濟利益的版圖。
同樣是圖靈獎的三大獲獎者之一，Facebook的AI領頭人楊力昆（Yann LeCun）就一直對OpenAI的大語言模型路徑不屑一顧，認為其科技并無特別創新之處。北青報記者注意到，一名基金經理近期也在朋友圈發文稱，以ChatGPT為代表的人工智能歸根結底還是建立在0和1的代碼程序上，而人類的思維是多維的，不相信機器人能夠戰勝人類。
對于人工智能這個突然出現在面前的“對手”，很多人沒有做好心理準備。公開信在末尾提到：“如今，我們的社會已經暫停其他可能造成災難性影響的技術，對于人工智能也應該如此，讓我們享受一個漫長的人工智能夏天，而不是匆忙進入秋天。”
文/本報記者 朱開云
