【ITBEAR】9月17日消息，OpenAI近日宣布，其安全與保障委員會將進行重大調整，首席執行官Sam Altman將不再擔任該委員會成員。此舉引發業界廣泛關注，被視為OpenAI在提升AI安全監管方面的重要一步。
據悉，該委員會自今年5月成立以來，一直負責監督公司項目和運營的關鍵安全決策。此次調整后，卡內基梅隆大學教授Zico Kolter將接任委員會主席，同時Quora首席執行官Adam D'Angelo、美國退役陸軍將軍Paul Nakasone以及前索尼執行副總裁Nicole Seligman等業界重量級人物也將加入其中。他們均為OpenAI董事會的現任成員，具有豐富的行業經驗和深厚的專業背景。
據ITBEAR了解，盡管Altman不再直接參與委員會工作，但他仍對OpenAI的最新AI模型o1進行了安全審查。OpenAI表示，安全與保障委員會將繼續定期接受公司安全團隊的簡報，并保留在安全問題未解決前推遲發布的權力。這一舉措顯示出OpenAI在保障AI模型安全性方面的決心和力度。
委員會未來的工作重點將包括定期接收有關當前和未來模型的技術評估報告，以及持續發布后監測報告。OpenAI正在致力于建立一個綜合的安全框架，以明確定義模型發布的成功標準，確保AI技術的安全可控。
然而，Altman的離任也引發了一些爭議。此前，五位美國參議員曾致信Altman，對OpenAI的政策提出質疑。同時，有報道稱OpenAI內部曾專注于人工智能長期風險的員工中，有近一半已經離職。這些員工指責Altman傾向于推進公司商業目標，而反對真正的人工智能監管。
盡管面臨爭議，但OpenAI在AI安全監管方面的努力仍值得肯定。此次安全與保障委員會的調整，無疑將進一步提升公司在AI安全領域的專業性和影響力。同時，隨著AI技術的不斷發展，如何確保其安全性和可控性也將成為行業面臨的重要挑戰。
值得一提的是，OpenAI正在積極尋求資金支持，據傳公司正在籌集超過65億美元的資金，這將使其估值超過1500億美元。為了達成這筆交易，OpenAI可能會調整其混合非營利性公司結構，以更好地平衡商業目標和創始使命。這也意味著，在未來OpenAI有望在保障AI安全的同時，實現更廣泛的商業應用。
總體來看，OpenAI在AI安全監管方面的舉措值得關注和期待。隨著越來越多的企業和機構加入到AI安全監管的行列中來，相信未來AI技術的發展將更加安全、可控，并為人類帶來更多的福祉。
#OpenAI# #AI安全# #Sam Altman# #人工智能# #監管#
