11月10日下午，世界互聯網大會人工智能與數字倫理分論壇舉行。在世界互聯網大會密集的分論壇議程中，最多有12場分論壇同時舉行，只有這場“獨占”半天會期。
本次分論壇的主題是“人工智能的產業方向與倫理取向”，分三個話題：人工智能倫理的技術邏輯與人類的選擇空間；數字倫理的法理與道理——現實世界與數字世界交融的秩序與規則；人工智能及其產業模式優化對未來人類社會生產生活形態的影響。
“本次論壇的目的是加深國內外學者、業界的對話，推動人工智能的倫理研究和治理體系的探索構建，促進安全可信可控的人工智能技術研發與應用場景，確保人工智能始終朝著以人為本、科技向善的方向發展。”中國網絡空間安全協會秘書長李欲曉表示。
2017年, 在美國加州阿西洛馬召開了“阿西洛馬會議”，人工智能領域的專家學者關注人工智能快速發展的潛在問題，達成多項原則，提出目標是創造有益的人工智能。去年，我國發布《新一代人工智能倫理規范》，提出增進人類福祉、促進公平公正、保護隱私安全、確保可控可信、強化責任擔當、提升倫理素養6項基本倫理要求。
10日的論壇上，學者專家從不同的角度闡述對人工智能倫理的看法，澎湃新聞（www.thepaper.cn)梳理了部分內容。
清華大學人工智能研究院名譽院長、中國科學院院士張鈸線上發表演講。本文圖片均來自 世界互聯網大會官網
清華大學人工智能研究院名譽院長、中國科學院院士張鈸：明晰倫理標準需要全球合作
“當機器不斷進步和發展，有朝一日智力超過人類，特別是具有主觀意識后，人類將失去對機器的控制，帶來災難性后果”——人工智能的風險早就被提出，霍金也曾發出警告，但我們一度認為是遠慮。
到本世紀初，基于大數據的深度學習在人工智能中崛起的時候，人們的認識有了變化，感覺人工智能的倫理風險就在眼前，治理迫在眉睫。
根據目前人工智能的技術，我們可以通過深層次神經網絡，根據使用者的要求生成符合要求、質量良好的文本和圖像，同樣的，也可以違背要求，生成充滿種族、性別等偏見，不公正和錯誤百出的文本和圖像，不受使用者控制。如果根據這些錯誤文本做決策、預測，可能帶來嚴重后果。
想讓機器向智能化發展，就不能讓機器完全聽人類擺布，需要賦予它一定的自由度和自主權——深層次神經網絡就是根據這個原理：利用概率這個數據工具，使機器能生成豐富的文本和圖像。但也因為這個原因，就一定存在生成不合格、有害文本和圖像的概率。
人工智能的發展必然帶來對倫理和傳統規范的沖擊。從根本來講，人工智能的研究、開發都要以人為本，從公正公平的倫理原則出發。為此，我們需要努力去建立可解釋的魯棒（Robust的音譯，意為“健壯”，此處指在異常和危險情況下系統生存的能力）人工智能理論，在此基礎上才可能開發出安全、可信、可控、可靠和可擴展的人工智能技術。
人工智能的研究和治理需要全世界不同領域人員的合作。除了從事人工智能研發和使用的人員，還需要法律、道德、倫理等人士參與。需要明晰倫理道德的標準，這需要全球合作，共同制定符合全人類利益的標準。
之江實驗室主任，中國人工智能產業聯盟副理事長朱世強
之江實驗室主任、中國人工智能產業聯盟副理事長朱世強：構建技術圖譜預防潛在危害，以道制魔
人工智能技術給生產生活帶來便利，也帶來負面的東西，引起對人工智能倫理等方面的思慮甚至是過度擔憂。
現實的情況是，人工智能還是弱人工智能，在某些單項領域，如圍棋、蛋白質測序上有高于人的個體能力，但綜合智能還是很弱的。從技術角度說，智能相對比較容易得到，而要用機器復現智慧很難。
我的觀點是，人工智能是人類智能在機器領域的延伸，真正的主動權仍掌握在人，現階段最重要的仍是發展技術，但同時要預防因為技術自身及其濫用給人類帶來倫理問題。
之江實驗室梳理了AI倫理圖譜，從三方面（研發主體、使用者、管理主體）分類。我們還在構建預防人工智能危害社會的技術圖譜，試圖用技術來阻止人工智能的濫用和惡意應用。我們的邏輯是，菜刀是切菜的，雖然菜刀多次被用來殺人，但它本身沒有原罪，我們的邏輯是“以道制魔”，用技術手段把菜刀打造得鋒利，但讓它永遠砍不到人身上。
香港特區政府數字經濟發展委員會委員楊德斌發表視頻演講
香港特區政府數字經濟發展委員會委員楊德斌：人類應該自我提升，避免逐漸“退化”
電腦的計算能力越來越強，能為人類做的事越來越多，許多之前靠人力做的工作，由于其重復性、危險性、成本問題而逐漸被機器替代，如智能制造方面的“黑燈工廠”，無人機代替人探測下水道，機器人代替保安巡邏等。
由大數據引發的機器學習近年在各行業百花齊放，機器人2016年擊敗了圍棋九段李世石和排名世界第一的柯潔，近幾年機器學習在無人駕駛、醫療診斷甚至寫作、畫畫、作詩方面都取得相當進展。盡管如此，人工智能與人類智能還是相去甚遠。
人工智能與人類智能可以比喻為龜兔賽跑，人類是兔，機器是龜。隨著人類越來越依賴機器，機器能做的越來越多，情況將逐漸改變。當人類把事情交給機器時，我們會不會變懶甚至變蠢？之前我們會記著幾個常聯系的家人和朋友的電話，現在只要手機語音自動撥打，不用記了，久而久之，記性便會變差。
我比較擔心的不是機器學習有一天超越人類，而是人類因過度依賴機器而變得不智慧。龜兔賽跑是寓言，它告訴我們，不能因自滿而輸給對手。我們可以教機器更智慧，而且可以適當約束機器，讓它不危害人類，但人類更應該自我提升，避免逐漸退化。
2007年圖靈獎獲得者、世界頂尖科學家協會會員約瑟夫·斯發基斯發表視頻演講
2007年圖靈獎獲得者、世界頂尖科學家協會會員約瑟夫·斯發基斯:人工智能與倫理的選擇和平衡
我首先想說，人工智能的進步使自動化系統正轉為自治系統，這反映了從弱人工智能向通用人工智能轉化的趨勢。
正常的倫理就是要做出正確的決定。為了做出正確的決定，首先你應該有選擇的意識。現在很多人被如何合理使用人工智能的不同意見所困惑，我認為社會必須創造條件，進行冷靜、知情和合理的辯論，我們應該在嚴格執行風險預防原則和接受創新以提高效率或質量之間取得平衡。我們現在下載一個系統，都會面臨選擇風險與性能之間的窘境。
另一個重要困境是怎樣為人和機器分工。創新和技術進步可能意味著技能的損失，很難想象機器可以超越人類的智慧，盡管如此，如果我們貪圖懶惰和安逸，人類的智慧也可以被馴服和征服。如果我們被機器的復雜性擊敗，對人類來說是非常糟糕的。
全國人大憲法和法律委員會副主任委員江必新
全國人大憲法和法律委員會副主任委員江必新:人工智能倫理構建的“五個源于”和“六全”
為什么要構建人工智能倫理、數字倫理？可以簡單歸納為“五個源于”：源于數字技術和人工智能的二重性，既帶來利益又有風險；源于數字網絡的無邊界性、跨國性、專業性、非透明性；源于法律規范的局限性；源于道德倫理對人類的不可或缺性；源于網絡安全發展對人類道德的依賴性。
我認為，這個倫理體系的基本規則是求善、求真、求美，這也是人類共識，根據不同的時期、主題、環境、領域形成具體規則——現在的人工智能初步階段和未來可能的超強階段，具體規則是變動的。
怎樣使規則從理念變為現實，建立什么機制才能使它變為現實？我概括為“六全”：全理念、全主體、全鏈條、全要素、全周期、全工具。
中國美術學院院長高世名
中國美術學院院長高世名:人工智能可以寫詩、畫畫但不具備做這些的沖動和激情，而人類有
人工智能對我們的意義不只是模擬、延伸人的思維，更重要的是AI技術發展對我們理解人的語言，思維以及智能本身有巨大的推進，有助于探索人類的思考、學習、分析、推理、規劃和想象究竟是怎樣的智力過程。
AI不只是研究和制造的工具，更是感知和思維的工具，它是人自我認知的鏡子，也是人類社會意識的鏡子。它甚至不只是工具，更是伙伴，AI是我們的一部分，是我們未來的一部分。
欲望與意愿或許是我們與人工智能的最大差異。人工智能可以寫詩、畫畫、作曲，可以在棋盤上戰勝人類，但它必須要接受指令才會寫詩、下棋、作畫、作曲，它不具備做這些行為的沖動、欲望和意愿，而人類不但有欲望，還有激情。
如何以算法去應對無數社會性個體間復雜的、充滿非理性和偶然性的相互作用，這是AI技術的難點，心靈沒有方程式，社會性的心靈更無法用算法解決。
對人工智能有很多的憂慮，其中一個是人工智能通過運算和模擬正在逐漸替代和置換我們的感受力，AI的無限算力也對人類的想象力產生了壓力和推動力。我認為，人工智能的發展不是為取代人，它反過來迫使我們重新理解什么是創造，創造是最富意義的生產，創造還涉及好奇、沖動、感性、關懷、欲望、價值、目的，最重要的是對于未知、無名的愛——只要我們還葆有這些，就可以大膽宣布那些可以被人工智能取代的都隨它去吧。
【來源：澎湃新聞】
