【ITBEAR科技資訊】6月5日消息，近日，一封由OpenAI和谷歌DeepMind的前員工及現員工聯署的公開信在科技界引起了廣泛關注。這封公開信主要表達了對當前人工智能公司監管不足的擔憂，并警告了先進人工智能技術的潛在風險。此舉再次將人工智能的安全性和監管問題推至風口浪尖。
據ITBEAR科技資訊了解，此次聯名發表公開信的共有13人，其中包括5名OpenAI前員工，6名選擇匿名的OpenAI現員工，以及1名谷歌DeepMind的現員工和前員工。這些員工在信中明確表示，雖然人工智能技術為人類帶來了前所未有的福祉潛力，但同時也伴隨著嚴峻的風險。這些風險包括加劇社會不平等、助長操控和虛假信息傳播，甚至可能導致自主人工智能系統失控，進而引發人類滅絕的危機。
公開信中強調，盡管人工智能公司、全球監管機構和專家都已意識到這些風險，但掌握大量關鍵信息的公司卻僅有微弱的義務與政府部門分享部分信息，而無需向社會公眾披露。這使得公眾對人工智能技術的了解和監督受到了嚴重限制。
為了化解這些風險，公開信中的員工們呼吁在科學界、決策者和公眾的充分指導和監督下進行操作。然而，他們也指出，人工智能公司往往出于強大的經濟利益動機而避免接受有效監管，同時，公司內部的治理結構也不足以改變這一現狀。
在缺乏有效政府機構監管的情況下，這些員工認為自己成為了少數對公眾負責的人。然而，廣泛的保密協議卻限制了他們為公眾發聲的權利。為此，他們在公開信中提出了四項措施，以保護那些為人工智能風險發聲的員工。這些措施包括禁止簽訂或執行任何阻止員工對風險相關問題進行批評的協議、推動可驗證的匿名舉報流程、支持公開批評的文化，以及在必要情況下不對公開風險相關機密信息的員工進行報復。
這封公開信的發表無疑為人工智能行業的監管問題敲響了警鐘。隨著技術的不斷發展，如何確保人工智能的安全性和可控性已成為亟待解決的問題。希望此次事件能引發更多關于人工智能監管的討論和行動，共同推動行業的健康發展。
