為了防范人工智能（AI）帶來的重大風險，OpenAI決定賦予董事會更高的權力，給上月剛剛在“宮斗”中獲勝的CEO Sam Altman上“緊箍咒”。
OpenAI美東時間12月18日周一發布一系列指引，旨在“跟蹤、評估、預測和防范日益強大的（AI）模型帶來的災難性風險”。
這個27頁篇幅的指引名為“準備框架”，其中提出，即使公司領導層、即CEO或領導層指定的人認為將發布的AI模型是安全的，公司董事會也可以選擇推遲發布該模型。其認為，雖然OpenAI 的CEO將負責日常工作的決策，但董事會將了解有關風險的發現，并可以否決CEO的決定。
除了對公司領導層和董事會的權限規定，OpenAI的準備框架主要建議，使用矩陣方法，記錄多個類別的前沿AI模型所帶來的風險水平，包括行為不端者用AI模型創建惡意的軟件、發起社會工程攻擊，或者傳播有害的核武或生物武器信息。
具體來說，OpenAI定義了網絡安全等幾個類別的風險閾值，在針對每個風險類別實施緩解風險措施之前和之后，OpenAI 都會將每種風險分為低、中、高或嚴重四個類級別。
OpenAI規定，只有風險緩解后評級為“中”或以下級別的AI模型，才能部署，只有風險緩解后評級為“高”或以下的模型，才能進一步開發，如果不能將風險降低到嚴重以下級別，公司將停止開發模型。
