·七國集團（G7）發布《開發先進人工智能系統組織的國際行為準則》，包括11點框架。同日，美國總統拜登發布一項關于“安全、可靠和值得信賴的人工智能”的行政命令。
·由英國牽頭的人工智能安全峰會即將于11月1日召開，科技公司的高管和政府官員等近百名代表將出席，包括OpenAI首席執行官山姆·奧特曼、特斯拉創始人埃隆·馬斯克等科技領袖。中國代表也在受邀名單之列。
今年5月，七國集團在日本廣島舉行峰會，宣布“廣島人工智能進程”。
全球政府或權力機構監管人工智能的行動密集展開。
當地時間10月30日，七國集團（G7）發布《開發先進人工智能系統組織的國際行為準則（International Code of Conduct for Organizations Developing Advanced AI Systems）》。該自愿指南以5月宣布的“廣島人工智能進程”為基礎，旨在促進安全、可靠、值得信賴的人工智能。
同一天，美國總統拜登發布一項關于“安全、可靠和值得信賴的人工智能”的行政命令。同時，歐盟正在最終確定具有財務約束力的《人工智能法案》。
幾天前，聯合國成立新的人工智能咨詢委員會，由39名全球政府、技術和學術領袖組成，有兩名來自中國的專家入選，分別是中國科學院自動化研究所研究員、類腦智能研究中心副主任曾毅，以及中國政法大學數據法治研究院教授、博士生導師張凌寒。
由英國牽頭的人工智能安全峰會即將于11月1日召開，科技公司的高管和政府官員等近百名代表將出席，包括OpenAI首席執行官山姆·奧特曼、特斯拉創始人埃隆·馬斯克、微軟總裁布拉德·史密斯、和谷歌DeepMind首席執行官德米斯·哈薩比斯等科技領袖。中國代表也在受邀名單之列。
“非詳盡”原則清單
由美國、歐盟（非正式成員）、英國、加拿大、法國、德國、意大利和日本組成的七國集團在一份聲明中表示：“我們……強調先進人工智能系統的創新機會和變革潛力，特別是基礎模型和生成式人工智能。”“我們還認識到需要管理風險并保護個人、社會和我們的共同原則，包括法治和民主價值觀，以人類為中心。”七國領導人稱，應對這些挑戰需要為人工智能“塑造包容性治理”。
七國集團發布了新的11點框架，以幫助指導開發人員負責任地創建和部署人工智能。該團體呼吁各組織致力于遵守行為準則，同時承認“不同的司法管轄區可能會采取自己獨特的方法來實施這些指導原則。”
這11點框架包括：
第一，在整個開發過程中采取適當的措施來識別、評估和減輕風險。這可以包括紅隊（測試）、測試和緩解措施，以確保可信性、安全性和保障性。開發人員應該啟用與數據集、流程和決策相關的可追溯性。
第二，識別并減少部署后的漏洞、事件和誤用模式。這可以包括監控漏洞、事件和新出現的風險，并促進第三方和用戶的發現和事件報告。
第三，公開報告先進人工智能系統的功能、局限性以及適當和不適當使用的領域。這應該包括由“強大的文檔流程”支持的透明度報告。
第四，致力于負責任的信息共享和事件報告。這可以包括評估報告，有關安保和安全風險、有意或無意規避保障措施的能力的信息。
第五，制定、實施和披露人工智能治理和風險管理政策。這適用于個人數據、提示和輸出。
第六，投資并實施安全控制，包括物理安全、網絡安全和內部威脅防護措施。這可能包括保護模型權重和算法、服務器和數據集，包括操作安全措施和網絡/物理訪問控制。
第七，開發和部署可靠的內容身份驗證和來源機制，例如水印。來源數據應包括創建內容的服務或模型的標識符，免責聲明還應告知用戶他們正在與人工智能系統進行交互。
第八，優先開展研究以減輕社會、安全和安保風險。這可以包括實施與投資研究和開發緩解工具，并促進合作。
第九，優先開發人工智能系統，以應對“世界上最大的挑戰”，包括氣候危機、全球健康和教育。各機構還應支持數字素養計劃。
第十，推動國際技術標準的制定和采用。這包括促進國際技術標準和最佳實踐的開發和使用。
第十一，對個人數據和知識產權實施適當的數據輸入措施和保護。這應包括訓練數據集的適當透明度。
七國集團強調，人工智能組織必須尊重法治、人權、正當程序、多樣性、公平和非歧視、民主和“以人為本”。先進系統的引入不應有害、破壞民主價值觀、助長恐怖主義、助長犯罪濫用，“或對安全、安保和人權構成重大風險”。
該組織還承諾引入監控工具和機制，以追究組織的責任。
為了確保其適合目的和具有響應能力，行為準則將根據政府、學術界和私營部門的意見進行必要的更新。“非詳盡”原則清單將“作為一份動態文件進行討論和闡述”。
七國集團領導人進一步聲稱，他們的努力旨在營造一個使人工智能效益最大化的環境，同時減輕其“為全球共同利益帶來的風險”。這應該包括發展中經濟體和新興經濟體，“以縮小數字鴻溝并實現數字包容性”。
白宮行政命令“執行困難”
歐盟委員會發表聲明對這一自愿性行為準則表示歡迎，稱“這些原則和自愿行為準則將在國際層面補充歐盟共同立法者目前根據歐盟《人工智能法案》最終確定的具有法律約束力的規則”。
歐盟憑借其要求嚴厲的《人工智能法案》一直處于監管新興技術的最前沿，而日本、美國和東南亞國家則采取了更趨向于不干涉的方式來促進經濟增長。
其中，美國國會距離制定監管生成式人工智能的立法還有相當長的距離，但拜登10月30日簽署行政命令，推出了白宮有關生成式人工智能的首套監管規定，部分原因是希望在明年美國總統選舉前遏制人工智能帶來的一些現實問題。
“深度造假利用人工智能生成的音頻和視頻來抹黑聲譽、傳播虛假新聞并實施欺詐。”拜登在白宮簽署該命令時表示，工作人員向他展示的一項實驗表明，一個構建良好的人工智能系統可以令人信服地創建一份從未發生過的總統聲明，從而引發一場政治或國家安全危機。“我說，‘我到底什么時候這么說過？’”
行政命令要求美國多個政府機構制定標準，對人工智能產品進行測試，尋求“水印”等內容驗證的最佳方法，擬定網絡安全計劃，吸引技術人才，以保護隱私，促進公平和公民權利，維護消費者和勞動者的利益，促進創新和競爭，提升美國的領導地位等。
美國媒體對行政命令作出了一些評價。“盡管拜登擁有監管聯邦政府如何使用人工智能的廣泛權力，但他接觸私營部門的能力卻較差。盡管他說他的命令‘代表了大膽的行動’，但他承認‘我們仍然需要國會采取行動’。”《紐約時報》評論道，并援引專家的話稱，該命令中的許多指令將很難執行。
“如果沒有國會的行動，拜登政府所能取得的成就是有限的。除了提名對硅谷有敵意歷史的主要執行者之外，白宮在科技問題上幾乎沒有采取任何行動。與此同時，盡管多年來國會試圖制定有關隱私、網絡安全和新興技術的規則，但國會尚未通過任何重大科技立法。”《華盛頓郵報》評論稱。
作為外交努力的一部分，美國副總統哈里斯將出席在倫敦舉行的人工智能安全峰會。這場峰會旨在實現英國首相蘇納克希望讓英國成為人工智能監管“地理中心”的計劃，討論議題將包括人工智能發展的未來方向、如何加劇全球不平等、對選舉和教育的影響等。蘇納克表示，英國將建立“全球首個”人工智能安全研究所。
英國科學、創新和技術大臣米歇爾·唐蘭（左）與英國首相蘇納克。
在為期兩天的峰會中，第一天將由英國科學、創新和技術大臣米歇爾·唐蘭主持，大多數科技公司和政府官員將出席首日活動。第二天的會議則由蘇納克主持，只會邀請小部分政治領導人和科技高管討論具體應對措施。
會議的全部嘉賓名單尚未公布，但在國家領導人方面，美國總統拜登、法國總統馬克龍、德國總理朔爾茨和加拿大總理特魯多都將不會出席，只有歐盟委員會主席馮德萊恩確認參會。與會專家包括現代人工智能3位“教父”中的兩位：杰弗里·辛頓和約書亞·本吉奧。
【來源：澎湃新聞】
