騰訊科技 喬輝
3月28日，據外媒報道，一名叫皮埃爾（化名）的比利時男子在與一個名稱“艾麗莎”的智能聊天機器人頻繁聊天數周后自殺身亡。360集團創始人周鴻祎表示，“人工智能一定會產生自我意識，留給人類的時間不多了。” 自ChatGPT發布以來，關于人工智能是否能產生自我意識的討論更加引入關注。
雖然“人工智能”（AI）這個概念早在1956年就被提出，但在過去的幾十年，人工智能的研究一直沒有“質”的轉變，無論運算能力多強，看起來仍然是冷冰冰的機器，但直到今年OpenAI公司向公眾展示GPT3.5和GPT4的強大能力之后，人們突然意識到一個全新的時代可能正在開啟，人工智能看起來越來越像人，開始能夠創造新內容了。人工智能的研究正在加速迭代，人類可能正在體驗打開“潘多拉魔盒”的心情：好奇和擔憂并存。好奇的是，人工智能究竟能夠強大到什么程度，能夠解決什么樣的難題；擔憂的是，人們工作和生存會受到威脅，更擔憂人工智能一旦擁有了自我意識（覺醒）會對人類物種造成毀滅性的打擊。
人工智能能夠產生自我意識嗎？人工智能是善是惡？人工智能的研究需要按下暫停鍵和立法嗎？對于這些人們關心的問題，我們分別對話了北大心理學領域的教授，中科院物理所的物理學家、國家天文臺的天文學家以及著名的科幻作家，來聽聽他們對這些核心問題的理解。
北京大學心理與認知科學學院羅歡：在一定條件下，人工智能能夠產生意識
北京大學心理與認知科學學院羅歡教授向騰訊科技表示，認知神經科學家致力于解釋精神世界的物質基礎，認為意識是從大量神經元中涌現出來的。比如，“全局空間理論”認為大腦中有一個核心工作空間，外界信息只有進入了該核心空間，并被廣播到全腦才上升到意識層面；“信息整合理論”則認為腦區域連接網絡的一些特定屬性可以被量化進而決定其意識涌現的能力。
她認為，原則上計算機能夠“涌現”出意識，并給出了可能實現的途徑：1、計算機模擬人腦神經網絡架構，通過物理結構的“類腦化”使其具備意識涌現的硬件條件；2、賦予計算機擬人的動機和目的，通過目標函數的設定來自然涌現出自我意識，比如設定趨利避害、價值觀以及社會屬性等。羅教授說：“情感、意識、自我這都是心理學的功能性定義，無數科學家的工作都不斷的把這些抽象的定義“拉下神壇”，發現它們其實是腦這個物理系統涌現的狀態和實現的某種功能。比如情感就是一種腦的狀態，但常常被我們打上了“人類獨家”的標簽。因此，理論上，計算機可以擁有情感，比如它在不同環境下根據它的價值和目標實現進入不同的狀態，進而對應不同的情感。“
北京大學心理與認知科學學院朱露莎：自我意識的出現需要利益和欲望驅動
北京大學心理與認知科學學院朱露莎教授也對這些問題提出了自己的見解，她向騰訊科技表示，僅僅擁有大量的神經元或者神經網絡計算還不足以讓人工智能涌現自我，人工智能還需要有自己的利益和欲望，在未來不排除這種情況的出現。當提及人工智能是善還是惡的問題時，朱教授表示，目前人工智能本身的善惡取決于訓練的數據，目前它是利用人類互聯網上的數據進行訓練的，這些數據天然夾雜有偏見和歧視等信息，如果不加選擇的話，訓練出來的人工智能就帶有偏見和歧視。朱教授同意要對人工智能的研究進行反思和立法，她表示，目前人類科學倫理的研究大大落后于科技的發展，讓我們有個反思的時間可能不是壞事。她還表示，人工智能的發展猶如一次全新的工業革命，會對人類社會帶來天翻地覆的變化，需要社會各界達成某種共識。
圖注：科幻電影《機械公敵》劇照。
中科院物理研究所研究員曹則賢：人類對意識的認識還非常淺薄
對于自我意識能否從大量神經元或神經網絡計算中涌現的問題，我們還請教了中科院物理研究所曹則賢教授，來聽聽物理學家如何看待這個問題。曹教授說：“人的意識從哪里來，雖然不能說人類永遠理解不了（身在此山中），但目前關于意識的研究基本上還摸不著頭緒。那種認為意識是腦組織中某個明確可辯識對象功能的觀點，還是站不住腳的。就連相比人腦層次低得多的臺式計算機，人們都無法說清它的表現從何而來。雖然在軟件、硬件甚至電子層面都可構造一套說辭，但任何單一層面上的說辭都是蒼白的。”
著名科幻作家江波：人工智能防不勝防，但滅絕人類言過其實
科幻作家江波對人工智能是否能涌現出意識這個問題闡述給出了自己的理解和測試方法。他表示，自我意識的出現，應當有兩個條件：第一是軀體，第二是神經網絡之上的神經網絡。他給出了比較好理解的理由：1、自我意識的存在從邏輯上講需要區分什么是我，什么是外。如果沒有軀體，那么“我”這個概念就無法存在。2、神經網絡之上的神經網絡是指，自我能對其他神經網絡進行調控，能夠對影響范圍之內的神經網絡進行認可或者否定，更重要的是否定。從這兩個條件來說，還沒有看到人工智能產生自我意識的絕對阻礙，但當下的GPT4則距離自我意識的產生尚早。他給出了測試自我意識的一個有趣方法：看人工智能是否會撒謊。如果它會撒謊，那么可以判斷它已經有自我意識。
圖注：波士頓動力公司的研發人員在對機器人進行抗挫折測試。未來，GPT和器械軀體結合，說不定有一天機器人獲得了自我意識，能夠趨利避害，學會反抗。
對于如何對人工智能的研究進行立法這個問題，他也給出了獨特的見解。他表示，鑒于人類對未知的恐懼，可以適當限制人工智能研究，比如將研究限制在局域網內，但這也可能是徒勞的，人工智能的突破會發生在一瞬間，也就是說，在發生之前，做什么意義都不大，甚至是件勞民傷財而毫無成效的事。在發生之后，做一切都晚了。立法或許會降低風險，但根據歷史規律看，人類在沒有受到現實的教訓之前是不會真正落實這些法規的。目前，人工智能造成的危害只會局限于一定范圍，滅絕人類還有些言過其實，最可能的情形是，在未來可能會造成大災難，人類文明出現倒退。
國家天文臺研究員茍利軍：高等外星人或許就是硅基形態
國家天文臺的茍利軍教授從天文學的視角對人工智能的發展給出了看法。他表示，目前天文觀測基本都是以地球和人類作為類比的，計算機智能和人的智能相差很大，所以我們所期望的外星生命也是所謂的碳基生命。盡管我們沒有探測到地外生命，但是我們相信外星生命應該在我們銀河系當中是存在的。不過隨著計算機人工智能技術的突飛猛進，尤其ChatGPT的出現，在過去一段時間的表現，讓人類感覺到了一絲恐懼。或許更高級的外星生命可以是硅基，有些智力是遠超人類的，就像一些科幻小說當中所表現的那樣。
綜合各領域科學家的觀點來看，人工智能產生意識不存在物理定律上的限制，但目前人類對意識的理解和人工智能的研究尚處于早期階段，還需要時間來驗證。目前，雖然人工智能還無法威脅人類的生存，但需要盡快立法，延緩對人類社會的沖擊。放眼整個宇宙，高等外星文明很可能是硅基的。
