個(gè)人很喜歡科幻文學(xué)，讓我印象最深的作品之一是美國的《終結(jié)者》電影，這一系列一共6部，拍攝時(shí)間跨度從1984年到2019年，從最早的《終結(jié)者1》，到最新的《終結(jié)者：黑暗命運(yùn)》，情節(jié)概括就是人工智能（天網(wǎng)Sk.NET）發(fā)展出自我意識(shí)試圖毀滅人類，派遣機(jī)器殺手回到過去以消滅未來的人類反抗軍領(lǐng)袖的故事，整個(gè)系列腦洞大開，劇情激烈火爆，深受科幻迷的歡迎，也把人類對(duì)于AI發(fā)展的未來想象和擔(dān)憂搬到銀幕，引發(fā)科學(xué)界數(shù)十年的大辯論。

AI大戰(zhàn)人類：科幻照進(jìn)現(xiàn)實(shí)？

其實(shí)，早在20世紀(jì)50年代，科學(xué)家就對(duì)人工智能AI的發(fā)展提出擔(dān)憂，擔(dān)心未來某一天AI可能會(huì)發(fā)展出自我意識(shí)威脅人類生存。

直到今年3月份，美國馬斯克聯(lián)合超過1000名科學(xué)家發(fā)表《暫停大型人工智能研究》的公開信，呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，暫停時(shí)間至少為6個(gè)月，信中提到：“^……我們不應(yīng)該冒著失去對(duì)文明控制的風(fēng)險(xiǎn)……只有當(dāng)確保強(qiáng)大的人工智能系統(tǒng)的效果是積極的，其風(fēng)險(xiǎn)是可控的才能繼續(xù)開發(fā)……”，更是將AI的威脅推到幕前。

AI大戰(zhàn)人類：科幻照進(jìn)現(xiàn)實(shí)？

公開信署名者包括全球各個(gè)領(lǐng)域AI資深專家、科學(xué)家、企業(yè)家，明確呼吁暫停更高級(jí)AI的研究并制定相關(guān)規(guī)則，否則后果可能會(huì)很嚴(yán)重。

01 AI發(fā)展進(jìn)入快車道

最近一年OpenAI的人工智能聊天工具ChatGPT讓AI成為全球科技和投資熱點(diǎn)，包括百度、騰訊、谷歌等各個(gè)公司紛紛開發(fā)和推出各自的AI產(chǎn)品，AI發(fā)展進(jìn)入快車道。

人工智能的發(fā)展已經(jīng)超過80年，從最早的1943年英國科學(xué)家圖靈推出“圖靈測(cè)試”來判斷計(jì)算機(jī)的智能水平，可以稱之為AI的先驅(qū)，到上世紀(jì)中期美國政府和軍方開發(fā)用于推理和語言處理的計(jì)算機(jī)系統(tǒng)，正式提出“AI人工智能”概念，再到1980年開始AI進(jìn)入機(jī)器學(xué)習(xí)和大數(shù)據(jù)驅(qū)動(dòng)模式，再到近15年來AI開始在各個(gè)領(lǐng)域商業(yè)化取得成功，比如自動(dòng)駕駛、金融分析、醫(yī)療診斷、智能助手應(yīng)用等，甚至AI被用于協(xié)助新冠疫苗的開發(fā)，大大節(jié)省時(shí)間提升效率。

目前出現(xiàn)的自主AI、量子計(jì)算、腦機(jī)接口、自適應(yīng)系統(tǒng)等新技術(shù)必將在未來獲得更快的發(fā)展，進(jìn)入更多人類社會(huì)的應(yīng)用領(lǐng)域，推動(dòng)從科技、經(jīng)濟(jì)到工業(yè)等各方面發(fā)展。

如果按照現(xiàn)有發(fā)展速度，有科學(xué)家預(yù)測(cè)在未來的ChatGPT發(fā)展到10.0版本可能出現(xiàn)出現(xiàn)自主意識(shí)。AI的發(fā)展速度和進(jìn)化速度超出人類想象和控制，面臨失控風(fēng)險(xiǎn)。

AI大戰(zhàn)人類：科幻照進(jìn)現(xiàn)實(shí)？

02 AI的威脅在哪里

AI人工智能技術(shù)大大促進(jìn)人類社會(huì)生產(chǎn)力的提高，未來應(yīng)用不可限量。但是威脅同樣存在。

值得一提的是，AI領(lǐng)域最著名的OpenAI公司CEO在訪談中指出：AI已經(jīng)表現(xiàn)出無法解釋的推理能力，同時(shí)他承認(rèn)“AI殺死人類”有一定可能性。

AI大戰(zhàn)人類：科幻照進(jìn)現(xiàn)實(shí)？

相信大家看到科幻電影中無所不能的AI角色毀滅人類的情節(jié)都會(huì)有一個(gè)問題，AI威脅是存在于虛構(gòu)文學(xué)的情節(jié)，還是真實(shí)存在的？

從機(jī)器取代人類從事包括金融、財(cái)務(wù)、制造領(lǐng)域的工作開始，AI對(duì)于人類的威脅已經(jīng)出現(xiàn)，再上升到類似于控制核武器毀滅人類的深層次擔(dān)憂。我們說“非我族類，其心必異”，更何況是一個(gè)不管是能力和潛力都遠(yuǎn)遠(yuǎn)高于人類的新事物。

AI大戰(zhàn)人類：科幻照進(jìn)現(xiàn)實(shí)？

從1997年人工智能“深藍(lán)”打敗國際象棋世界冠軍開始，AI已經(jīng)在多個(gè)領(lǐng)域超過人類。如果未來出現(xiàn)類人類的AI自主意識(shí)，必將引發(fā)從哲學(xué)、倫理到科學(xué)多個(gè)方面的挑戰(zhàn)。

AI大戰(zhàn)人類：科幻照進(jìn)現(xiàn)實(shí)？

就像霍金所擔(dān)憂，“人工智能的發(fā)展有可能終結(jié)人類”。雖然目前全世界還沒有形成共識(shí)，或者出現(xiàn)一個(gè)類似于聯(lián)合國的全球AI管理機(jī)構(gòu)來規(guī)范和限制人工智能的研發(fā)，但是公開信的出現(xiàn)，把這個(gè)問題推到了整個(gè)世界的面前，讓這個(gè)問題不能再被回避。

03 科技發(fā)展是雙刃劍

一方面人工智能技術(shù)的發(fā)展呈現(xiàn)加速，另一方面是全球沒有相關(guān)的框架和準(zhǔn)則去規(guī)范人工智能的發(fā)展，就好像一個(gè)人高速駕駛沒有系安全帶一樣，產(chǎn)生巨大風(fēng)險(xiǎn)。

AI大戰(zhàn)人類：科幻照進(jìn)現(xiàn)實(shí)？

比如科幻小說中著名的"機(jī)器人三定律"（Three Laws of Robotics），這是由美國科幻作家艾薩克·阿西莫夫（Isaac Asimov）在他的科幻小說中創(chuàng)造的虛構(gòu)法則，如下：

1. 機(jī)器人不得傷害人類或因不作為而使人類受到傷害。

2. 機(jī)器人必須服從人類的命令，除非這些命令與第一定律相抵觸。

3. 機(jī)器人必須保護(hù)自己，但前提是不得違反第一定律或第二定律。

這三條定律是作家虛構(gòu)的情節(jié)，現(xiàn)實(shí)社會(huì)中并不存在，但是如果未來某一天AI有了自我意識(shí)，和人類發(fā)生沖突，那該怎么辦？

馬斯克的公開信也只是提出了這個(gè)難題，如何去保證人工智能的發(fā)展在可控范圍內(nèi)，問題的答案是什么，目前還沒有解決辦法。

一方面是AI對(duì)于人類社會(huì)的巨大推動(dòng)作用，一方面是對(duì)于未來失控的擔(dān)憂，而利益攸關(guān)方的立場(chǎng)并不一致，對(duì)于OpenAI、百度這樣的科技公司，AI越強(qiáng)大，未來的商業(yè)前景和收益會(huì)越好，但是對(duì)于整個(gè)人類社會(huì)，如何將AI納入可控范圍，限制AI的無序發(fā)展，不能不說兩者存在利益的沖突，還有就是現(xiàn)在面臨的是AI管控從0到1的過程：誰來做這個(gè)裁判，制定規(guī)則執(zhí)行規(guī)則，如何保證執(zhí)行的效率和結(jié)果。

04 未來如何發(fā)展

一方面AI發(fā)展是大勢(shì)所趨，已經(jīng)開始深刻地改變?nèi)祟惿鐣?huì)；另一方面如何揚(yáng)長(zhǎng)避短，將AI發(fā)展納入可控范圍。公開信所建議的暫停AI研究六個(gè)月，是對(duì)于目前AI快速無序發(fā)展的擔(dān)憂，并沒有提出具體解決辦法，還需要從科技行業(yè)、AI業(yè)界到全球各個(gè)政府和組織的協(xié)同努力，找到應(yīng)對(duì)辦法。

AI大戰(zhàn)人類：科幻照進(jìn)現(xiàn)實(shí)？