(經濟觀察)AI技術變革進入快車道，發展與安全如何兼顧？
中新社北京7月21日電 (記者 劉育英)在本周北京舉行的2023中國互聯網大會上，以ChatGPT為代表的人工智能(AI)帶來怎樣的風險，以及如何管控這些風險，成為與會者熱議的話題。
對于AI的發展前景，北京智源人工智能研究院院長、北京大學計算機學院教授黃鐵軍表示，今天ChatGPT有強大的智能，影響深遠，未來3年，除語言外，大模型正在迅速擴展視覺、聽覺、具身、行動等通用智能，影響將更大。
黃鐵軍預測，未來10年，智力革命已經打響，就像工業革命解放體力，就像電力革命解決能源流通，全新生態將構建，開源開放生態終將勝利。ChatGPT是數據驅動的靜態智能，未來20年是時空環境驅動的具身智能，智能載體將是類腦的脈沖神經網絡，有望像生物大腦一樣涌現出更強的智能。
由于大語言模型的智能“涌現”，科學家尚不可解釋其機理，黃鐵軍認為，“只要AI超過人類，人類想進行管控是不可能的”，因此不少業界專家反對訓練GPT-5。
北京市通信管理局副局長王暉認為，人工智能在賦能產業過程中，帶來的風險挑戰有數據安全問題、算法安全問題、應用安全問題和行業安全問題。
中國電信集團網絡和信息安全管理部總經理谷紅勛表示，隨著AI尤其大模型的廣泛應用，網絡攻擊、數據泄露等風險日益凸顯，過度采集、歧視性算法，濫用深度偽造等問題可能會帶來影響社會經濟運行的嚴重問題。
AI風險問題已經引起國際社會的關注。據媒體報道，當地時間7月21日，美國七家領先的人工智能公司，包括亞馬遜、Anthropic、谷歌、Inflection、Meta、微軟和OpenAI承諾接受白宮要求，幫助實現人工智能技術安全、可靠和透明的發展。
近日，聯合國安理會首次就人工智能問題舉行會議，來自15個成員國的外交官和人工智能領域的專家參與了這次會議，中方提出了五項原則。
大模型在中國得到快速發展。根據5月份發布的《中國人工智能大模型地圖研究報告》，中國10億參數規模以上的大模型已經發布79個，研發的大模型數量排名全球第二，僅次于美國。
中國互聯網協會常務副秘書長陳家春表示，中國大模型發展活躍且快速，具體表現為計算能力不斷提高、數據量不斷增加、應用場景不斷拓展以及研究方向不斷深入。
中國從監管層到產業界，都高度關注防范AI風險方面并做出探索。7月13日，中國出臺了首份生成式人工智能監管發展文件《生成式人工智能服務管理暫行辦法》，提出堅持發展和安全并重、促進創新和依法治理相結合的原則。
奇安信集團副總裁張卓接受采訪時表示，從《辦法》可以看出，數據安全和隱私保護貫穿于生成式人工智能數據的標注、模型預訓練、模型訓練、提供服務等各個環節，避免了監管盲區導致的安全風險。
中國國內啟明星辰、天融信、深信服等公司嘗試把大語言模型用于網絡安全。有些公司專門訓練網絡安全領域垂直的大模型，有些公司把大語言模型用于產品形態中。
如何管控大模型帶來的風險現在還沒有答案。“人工智能面臨失控風險，但不用它是不可能的，如何控制AI的使用，確實是一個問題。”國家計算機網絡入侵防范中心主任張玉清表示。
黃鐵軍表示，AI越來越強，風險與日俱增。如何構建安全的AI，現在還沒有完整準確的答案。面對AI越來越強的智能程度，人類面臨全新的挑戰。(完)
