7月13日，國家網信辦等七部門聯合對外發布《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》），在促進生成式人工智能發展的同時，對傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題作出回應。
近年來，生成式人工智能技術快速發展，為經濟社會發展帶來新的機遇，也產生了諸多問題。總的來看，《辦法》對提供和使用生成式人工智能服務作出規范，鼓勵其創新發展，同時實行包容審慎和分類分級監管。《辦法》自2023年8月15日起施行。
文本、圖片、音頻、視頻等均被納入規定范圍
《辦法》將利用生成式人工智能技術向境內公眾提供生成文本、圖片、音頻、視頻等內容的服務，納入規定范圍，統稱為生成式人工智能服務，并提出五點總體要求。
其中提到，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容。
此外還包括，不得利用算法、數據、平臺等優勢，實施壟斷和不正當競爭行為；不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視；提升生成式人工智能服務的透明度，提高生成內容的準確性和可靠性。
明確服務提供者與使用者權責，要求對未成年人“防沉迷”
在生成式人工智能服務的兩端，分別是服務的提供者和使用者。《辦法》要求，提供者應當與使用者簽訂服務協議，明確雙方權利義務。
比如，提供者應當明確并公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術，采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。
提供者發現使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取警示、限制功能、暫停或者終止向其提供服務等處置措施，保存有關記錄，并向有關主管部門報告。同時，對違法內容應當及時采取停止生成、停止傳輸、消除等處置措施。
使用個人信息進行數據訓練，應取得個人同意
《辦法》全文多處提及個人信息保護問題，要求服務提供者使用個人信息進行數據訓練時，需要取得個人同意；提供服務時，依法保護使用者的輸入信息和使用記錄，不得收集非必要個人信息等。
具體包括，規定提供者在開展預訓練、優化訓練等訓練數據處理活動時，涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形。
在提供服務過程中，提供者要履行個人信息保護義務。不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。此外，提供者應當依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等的請求。
在監督檢查環節，《辦法》還規定，參與安全評估和監督檢查的相關機構和人員對在履行職責中知悉的國家秘密、商業秘密、個人隱私和個人信息應當保密，不得泄露或者非法向他人提供。
新京報記者 姜慧梓
