【ITBEAR科技資訊】6月5日消息，近日一封由OpenAI和Google DeepMind的現(xiàn)任與前任員工共同簽署的公開(kāi)信引發(fā)了廣泛關(guān)注。這封公開(kāi)信旨在警示公眾關(guān)于先進(jìn)人工智能技術(shù)的潛在危險(xiǎn)，以及當(dāng)前對(duì)人工智能企業(yè)的監(jiān)督缺失問(wèn)題。
公開(kāi)信強(qiáng)調(diào)，人工智能技術(shù)的開(kāi)發(fā)過(guò)程中伴隨著諸多風(fēng)險(xiǎn)，包括但不限于加劇社會(huì)不平等、信息操縱與誤導(dǎo)，以及對(duì)自主人工智能系統(tǒng)控制的喪失。更令人震驚的是，信中明確指出這些風(fēng)險(xiǎn)有可能導(dǎo)致人類(lèi)的滅亡。
據(jù)ITBEAR科技資訊了解，公開(kāi)信中還特別提到，人工智能企業(yè)由于強(qiáng)大的經(jīng)濟(jì)驅(qū)動(dòng)力，往往會(huì)選擇推進(jìn)技術(shù)發(fā)展，同時(shí)避免分享關(guān)于其保護(hù)措施和風(fēng)險(xiǎn)水平的關(guān)鍵信息。公開(kāi)信的作者們對(duì)此表示擔(dān)憂，并認(rèn)為不能單純依賴這些企業(yè)自愿公開(kāi)相關(guān)信息。
此外，公開(kāi)信中還揭示了人工智能企業(yè)內(nèi)部的一種現(xiàn)象，即通過(guò)廣泛的保密協(xié)議來(lái)限制員工對(duì)公眾表達(dá)擔(dān)憂。這使得現(xiàn)任和前任員工成為能夠揭露問(wèn)題并促使企業(yè)對(duì)公眾負(fù)責(zé)的重要力量。然而，這些保密協(xié)議往往阻礙了他們發(fā)聲，除非是針對(duì)那些可能未解決問(wèn)題的企業(yè)。
在此背景下，員工們發(fā)出了一系列呼吁，希望人工智能企業(yè)能夠提供可靠的舉報(bào)人保護(hù)，避免制定或執(zhí)行阻止員工因風(fēng)險(xiǎn)問(wèn)題提出批評(píng)的協(xié)議，并為員工提供可驗(yàn)證的匿名反饋渠道，以便他們向董事會(huì)、監(jiān)管機(jī)構(gòu)和具備相關(guān)專(zhuān)業(yè)知識(shí)的獨(dú)立組織反映風(fēng)險(xiǎn)問(wèn)題。同時(shí)，員工們也倡導(dǎo)一種支持公開(kāi)批評(píng)的文化，允許員工在保護(hù)商業(yè)秘密的前提下，向公眾和相關(guān)部門(mén)提出技術(shù)風(fēng)險(xiǎn)問(wèn)題。
此次公開(kāi)信共有13名員工簽署，他們分別來(lái)自O(shè)penAI和Google DeepMind，其中包括7名前OpenAI員工、4名現(xiàn)任OpenAI員工、1名前Google DeepMind員工和1名現(xiàn)任Google DeepMind員工。此舉無(wú)疑向外界傳遞了一個(gè)明確的信號(hào)：在人工智能飛速發(fā)展的今天，我們更需要關(guān)注其背后的風(fēng)險(xiǎn)，并加強(qiáng)對(duì)相關(guān)企業(yè)的監(jiān)督和管理。
