3月21日消息，上周人工智能初創(chuàng)組織OpenAI首席執(zhí)行官山姆·阿爾特曼（Sam Altman）在接受采訪時(shí)表示，人工智能可能是“人類迄今為止所開發(fā)的最偉大技術(shù)”，將重塑現(xiàn)有社會(huì)。同時(shí)，他也承認(rèn)這項(xiàng)技術(shù)有風(fēng)險(xiǎn)，對(duì)此還是“有點(diǎn)畏懼”。
阿爾特曼強(qiáng)調(diào)，人工智能會(huì)帶來(lái)真正的危險(xiǎn)，但也可能是“人類迄今為止開發(fā)出來(lái)的最偉大技術(shù)”，可以重塑社會(huì)、給生活帶來(lái)翻天覆地的變化。
他說(shuō)：“我們?cè)谶@方面必須小心……我認(rèn)為值得慶幸的是，我們對(duì)此有點(diǎn)畏懼之心。”
阿爾特曼在采訪中談到了OpenAI最近發(fā)布的最新版人工智能語(yǔ)言模型GPT-4。他強(qiáng)調(diào)，ChatGPT的上線需要監(jiān)管機(jī)構(gòu)和全社會(huì)的共同參與，各種反饋有助于阻止人工智能技術(shù)給人類帶來(lái)潛在負(fù)面影響。他補(bǔ)充說(shuō)，自己一直與政府官員保持“定期聯(lián)系”。
ChatGPT上線僅僅幾個(gè)月時(shí)間，月活用戶數(shù)量就突破1億，被公認(rèn)為歷史上增長(zhǎng)最快的消費(fèi)級(jí)應(yīng)用程序。根據(jù)瑞銀(UBS)的一項(xiàng)研究，TikTok用了9個(gè)月才吸引到1億月活用戶，Instagram則用了近三年時(shí)間。
雖然尚“不完美”，但阿爾特曼說(shuō)，GPT-4在美國(guó)法考中的成績(jī)位列前10%，在SAT數(shù)學(xué)考試中也獲得了近乎完美的分?jǐn)?shù)。現(xiàn)在GPT-4可以熟練用市面上的大多數(shù)編程語(yǔ)言編寫計(jì)算機(jī)代碼。
GPT-4只是OpenAI朝著最終打造通用人工智能方面邁出的一小步。當(dāng)人工智能技術(shù)取得突破性進(jìn)展時(shí)，就會(huì)出現(xiàn)比人類更聰明的人工智能系統(tǒng)，這就是所謂的通用人工智能。
盡管阿爾特曼贊許自家產(chǎn)品的成功，但也承認(rèn)人工智能可能存在的危險(xiǎn)讓他夜不能寐。
阿爾特曼說(shuō)：“我特別擔(dān)心這些模型會(huì)被用于大規(guī)模生成虛假信息。”“既然它們?cè)絹?lái)越擅長(zhǎng)編寫計(jì)算機(jī)代碼，那么完全可以用于進(jìn)攻性網(wǎng)絡(luò)攻擊。”
但阿爾特曼并不認(rèn)為人工智能模型會(huì)像科幻小說(shuō)所描述那樣不再需要人類，可以自行做決定，謀劃統(tǒng)治世界。“它等著有人給它輸入信息，”阿爾特曼說(shuō)，“這在很大程度上仍是由人類控制的工具。”
然而，阿爾特曼說(shuō)自己的確擔(dān)心哪些人會(huì)控制人工智能。他補(bǔ)充說(shuō)：“總會(huì)有人不遵守我們?cè)O(shè)定的一些安全規(guī)則。”“我認(rèn)為，弄清楚如何對(duì)此做出反應(yīng)、如何監(jiān)管、如何處理，留給全社會(huì)的時(shí)間不多了。”
在評(píng)論掌握人工智能技術(shù)就可能“統(tǒng)治世界”的觀點(diǎn)時(shí)，阿爾特曼說(shuō)：“這肯定是一個(gè)讓人不寒而栗的說(shuō)法。”“相反，我希望的是，我們不斷開發(fā)出越來(lái)越強(qiáng)大的系統(tǒng)，讓人們都可以用不同的方式使用這些系統(tǒng)，讓系統(tǒng)融入我們的日常生活，融入經(jīng)濟(jì)，去充分發(fā)揮人的意愿。”
對(duì)錯(cuò)誤信息的擔(dān)憂
根據(jù)OpenAI的說(shuō)法，GPT-4通過(guò)迭代有了巨大改進(jìn)， 比如能將圖像理解為輸入。演示顯示，GTP-4能描述冰箱里的東西，解決謎題，甚至闡明了網(wǎng)絡(luò)圖片背后隱藏的含義。
但阿爾特曼表示，ChatGPT等人工智能語(yǔ)言模型存在的固有問(wèn)題是錯(cuò)誤信息，程序可能會(huì)給用戶提供事實(shí)上不準(zhǔn)確的信息。
阿爾特曼說(shuō)：“我最想提醒人們的是所謂‘幻覺(jué)問(wèn)題’。”“這個(gè)模型的確會(huì)信誓旦旦地陳述一件事情，讓完全捏造的東西也宛如事實(shí)。”
根據(jù)OpenAI的說(shuō)法，人工智能模型之所以存在這個(gè)問(wèn)題，部分原因是使用演繹推理而非記憶。
OpenAI首席技術(shù)官米拉·穆拉蒂（Mira Murati）曾表示：“GPT-3.5和GPT-4最大區(qū)別之一是后者在推理方面的涌現(xiàn)能力更強(qiáng)。”
穆拉蒂說(shuō)：“我們的目標(biāo)是人工智能可以預(yù)測(cè)接下來(lái)會(huì)出現(xiàn)哪個(gè)單詞，這就是對(duì)語(yǔ)言本質(zhì)的理解。”“我們希望這些模型能像人類一樣看待和理解世界。”
阿爾特曼說(shuō)：“你要認(rèn)識(shí)到，我們所開發(fā)的模型是一個(gè)推理引擎，而不是一個(gè)存儲(chǔ)事實(shí)信息的數(shù)據(jù)庫(kù)。”“當(dāng)然，它們也可以作為事實(shí)數(shù)據(jù)庫(kù)，但這并不是特別之處。我們想讓它們實(shí)現(xiàn)的是推理能力，而不是記憶。”
阿爾特曼和他的團(tuán)隊(duì)希望，“隨著時(shí)間推移，這個(gè)模型將成為真正的推理引擎。”他說(shuō)，模型最終會(huì)依靠互聯(lián)網(wǎng)信息和自行演繹推理來(lái)辨別哪些信息是真實(shí)的、哪些是虛構(gòu)的。根據(jù)OpenAI的數(shù)據(jù)，GPT-4產(chǎn)生準(zhǔn)確信息的概率比此前版本要高40%。不過(guò)阿爾特曼表示，人們不應(yīng)該用這一系統(tǒng)當(dāng)作準(zhǔn)確信息的主要來(lái)源，并鼓勵(lì)用戶仔細(xì)檢查程序所生成的結(jié)果。
如何防范壞人
很多人也關(guān)注ChatGPT和其他人工智能語(yǔ)言模型會(huì)生成哪種信息。根據(jù)阿爾特曼的說(shuō)法，ChatGPT不會(huì)告訴用戶如何制造炸彈，因?yàn)橄到y(tǒng)中設(shè)置了安全措施。
“我所擔(dān)心的是……創(chuàng)造這項(xiàng)技術(shù)的不止我們一家，”阿爾特曼說(shuō)。“總會(huì)有人不像我們那樣加進(jìn)去一些安全措施。”
根據(jù)阿爾特曼的說(shuō)法，對(duì)于所有這些人工智能的潛在危險(xiǎn)而言，還是有一些解決方案和保障措施。其中之一是讓全社會(huì)在風(fēng)險(xiǎn)較低時(shí)隨意擺弄ChatGPT，從中了解人們會(huì)如何使用它。
穆拉蒂就表示，現(xiàn)在ChatGPT對(duì)公眾開放的主要原因是從中“收集大量反饋”。她認(rèn)為，隨著公眾繼續(xù)測(cè)試OpenAI應(yīng)用程序，這樣就更容易確定哪些地方需要安全措施。
穆拉蒂說(shuō)：“人們用它們做什么、它有什么問(wèn)題、有什么缺點(diǎn)，都能夠讓我們及時(shí)介入并改進(jìn)技術(shù)。”
阿爾特曼也強(qiáng)調(diào)，公眾能夠與每個(gè)版本的ChatGPT進(jìn)行互動(dòng)很重要。他說(shuō)，“如果我們只是窩在實(shí)驗(yàn)室里進(jìn)行秘密研究，比如說(shuō)開發(fā)出GPT-7，然后一下子公開……我認(rèn)為這會(huì)帶來(lái)更多負(fù)面影響。”“人們需要時(shí)間來(lái)刷新認(rèn)知、做出反應(yīng)，并最終習(xí)慣這項(xiàng)技術(shù)，我們也需要時(shí)間了解系統(tǒng)的缺點(diǎn)在哪里，如何緩解不利影響。”
阿爾特曼透露，OpenAI有一個(gè)團(tuán)隊(duì)專門制定政策，他們決定哪些信息可以輸入ChatGPT，以及ChatGPT能與用戶共享哪些信息。
阿爾特曼補(bǔ)充說(shuō)：“(我們)正在與各位政策和安全專家交流，對(duì)系統(tǒng)進(jìn)行審查，就是想要解決這些問(wèn)題，并推出自認(rèn)為安全可靠的東西。”“再說(shuō)一次，我們不可能一次就做到完美，但吸取教訓(xùn)并在風(fēng)險(xiǎn)相對(duì)較低的時(shí)候找到安全邊界非常重要。”
人工智能會(huì)取代工作嗎?
人們之所以擔(dān)心人工智能技術(shù)的顛覆能力，其中之一是認(rèn)為它會(huì)取代現(xiàn)有的工作崗位。阿爾特曼說(shuō)，人工智能可能會(huì)在不久將來(lái)取代一些工作，關(guān)鍵看這種情況發(fā)生的速度有多快。
阿爾特曼說(shuō)：“我認(rèn)為，經(jīng)過(guò)幾代人的努力，人類已經(jīng)證實(shí)自身能夠適應(yīng)重大技術(shù)變革。”“但如果這種情況發(fā)生在幾年內(nèi)，我的確最擔(dān)心會(huì)帶來(lái)哪些變化……”
但他鼓勵(lì)人們將ChatGPT視為一種工具，而不是自己工作的替代品。阿爾特曼補(bǔ)充說(shuō)，“人類的創(chuàng)造力是無(wú)限的，我們會(huì)找到新的工作，會(huì)找到新的事情去做。”
阿爾特曼認(rèn)為，作為人類工具的話，ChatGPT產(chǎn)生的效果大于帶來(lái)的風(fēng)險(xiǎn)。
他說(shuō)：“我們口袋里都可以有一位量身定制的大教育家，去幫助我們學(xué)習(xí)。”“我們可以為每個(gè)人提供醫(yī)療建議，這是我們今天無(wú)法實(shí)現(xiàn)的。”
“副駕駛”
由于一些學(xué)生用ChatGPT作弊，ChatGPT已經(jīng)在教育領(lǐng)域引起不少爭(zhēng)議。對(duì)于ChatGPT是否可以作為學(xué)生學(xué)習(xí)的延伸，或者是否會(huì)影響學(xué)生的自學(xué)動(dòng)機(jī)，教育工作者的意見不一。
阿爾特曼說(shuō)：“教育方式必須改變，但隨著技術(shù)的發(fā)展，這種情況已經(jīng)發(fā)生過(guò)很多次。”他補(bǔ)充說(shuō)，學(xué)生的老師將不再局限于課堂，“最讓我興奮的一點(diǎn)是，它能夠?yàn)槊總€(gè)學(xué)生帶來(lái)更好的個(gè)性化學(xué)習(xí)。”
阿爾特曼和他的團(tuán)隊(duì)希望，任何領(lǐng)域的用戶都能將ChatGPT視為自己的“副駕駛”，比如幫助用戶編寫大量計(jì)算機(jī)代碼或解決問(wèn)題。
阿爾特曼說(shuō)：“我們可以為每個(gè)行業(yè)提供這樣的服務(wù)，這樣人們就可以有更高的生活質(zhì)量。”“我們還會(huì)擁有今天甚至無(wú)法想象的新事物，這也是我們的承諾。”
【來(lái)源：網(wǎng)易科技】
