【ITBEAR科技資訊】6月5日消息，近日，一封由OpenAI和谷歌DeepMind的前任與現(xiàn)任員工共同簽名的公開信引發(fā)了廣泛關(guān)注。該信件主要表達(dá)了對高級(jí)人工智能潛在風(fēng)險(xiǎn)的擔(dān)憂，并指出當(dāng)前對于人工智能科技公司的監(jiān)管存在明顯不足。
公開信中詳細(xì)列舉了人工智能可能帶來的種種風(fēng)險(xiǎn)，包括但不限于加劇社會(huì)不平等、助長操控行為及虛假信息的擴(kuò)散，更為嚴(yán)重的是，如果自主人工智能系統(tǒng)失控，甚至可能導(dǎo)致人類的生存危機(jī)。員工們強(qiáng)調(diào)，這些人工智能公司受強(qiáng)大的經(jīng)濟(jì)利益驅(qū)動(dòng)，積極推動(dòng)人工智能的研發(fā)，然而對于相關(guān)的保護(hù)措施以及具體風(fēng)險(xiǎn)水平卻三緘其口。公開信明確指出，不能單純依賴這些公司會(huì)主動(dòng)公開此類信息，因此需要內(nèi)部人員敢于揭露真相。
據(jù)ITBEAR科技資訊了解，由于目前政府監(jiān)管的缺失，這些簽名的員工成為了能夠促使這些公司對公眾有所交代的少數(shù)力量。但遺憾的是，嚴(yán)格的保密協(xié)議束縛了他們的發(fā)言，使得他們只能向公司內(nèi)部反映問題，而無法將真相公之于眾。此外，現(xiàn)有的舉報(bào)人保護(hù)措施并不完善，因?yàn)樗鼈冎饕轻槍`法行為的，而當(dāng)前許多令人擔(dān)憂的風(fēng)險(xiǎn)尚未被納入監(jiān)管范圍。
鑒于此，員工們呼吁人工智能公司應(yīng)為揭露風(fēng)險(xiǎn)的人員提供切實(shí)有效的保護(hù)，并提出了具體的保護(hù)措施建議。這些措施包括：禁止制定或執(zhí)行阻止員工對風(fēng)險(xiǎn)提出批評(píng)的協(xié)議，提供可以驗(yàn)證的匿名程序以便員工向董事會(huì)、監(jiān)管機(jī)構(gòu)及相關(guān)獨(dú)立組織反映風(fēng)險(xiǎn)問題，倡導(dǎo)開放的批評(píng)文化，以及在其它途徑無效時(shí)，保護(hù)那些公開分享風(fēng)險(xiǎn)相關(guān)信息的員工免受報(bào)復(fù)。
該公開信共有13名員工簽署，他們分別來自O(shè)penAI和谷歌DeepMind，其中包括7名前OpenAI員工、4名現(xiàn)任OpenAI員工、1名前谷歌DeepMind員工和1名現(xiàn)任谷歌DeepMind員工。此前OpenAI曾因員工對外發(fā)聲而威脅剝奪其既得權(quán)益，并試圖通過嚴(yán)格的保密協(xié)議來限制員工對公司的批評(píng)。
