7月18日訊 當地時間周一，美國證券交易委員會主席加里·詹斯勒在美國首都的全國新聞俱樂部發表題為《從牛頓到人工智能》的演講，系統性闡述了美國證券監管掌門人對AI所帶來機遇和風險的認知。
（官方公布的詹斯勒演講稿，來源：美國SEC）
SEC主席在開場中提到，當疫情席卷歐洲和英國時，學生們收拾起書本回家。劍橋大學三一學院的一名學生回到了他偏遠的家庭農場。在隔離期間，他繼續進行物理和數學的研究。當然，這里講的是1660年代和鼠疫。據說在居家隔離期間，艾薩克·牛頓對引力等深奧的觀點進行了思考，包括一種新的數學形式——微積分。
而在最近一次的全球疫情中，當許多21世紀的學生們也在收拾書本回家時，新版本的生成式人工智能（AI）模型GPT-3問世了。當然，由于疫情的緣故，GPT-3引發的關注遠遠弱于它的后續版本。GPT-4在今年的圓周率日（3月14日）走到臺前，就在同一天還有另外兩款競品問世，短短兩天后，中國的百度也推出了ERNIE Bot（文心一言）。
詹斯勒表示，他相信人工智能是這個時代最具變革性的技術，與互聯網和汽車大規模生產可以相提并論。從人工智能祖師爺艾倫·圖靈在1950年發表的論文《計算機和智能》開始，到IBM深藍和谷歌AlphaGo擊敗最強人類棋手，人工智能實際上已經走入生活的方方面面：包括自然語言處理、翻譯軟件、推薦系統、放射學，還有金融體系里的呼叫中心、合規程序、交易算法等方面。
AI的機遇、挑戰與風險
詹斯勒在演講中，針對人工智能的進步對每個人（微觀）和經濟和社會（宏觀）帶來的影響進行了分別闡述。
在微觀層面，詹斯勒用了“窄播”（Narrowcasting，與“廣播”相對）這個詞，強調基于AI模型越來越強的能力，可以預測每個人作為個體的行為。這樣有助于展開成規模，且高效的差異化溝通。現在，人們每天都會收到AI推薦系統的消息，這些系統正在考慮個體可能如何響應他們的提示。當然，這也引發了一系列問題，這些問題并不是AI本身的問題，而是被AI加劇了。
由于現代AI模型的設計原理，它們的決策和結果通常是無法解釋的。同時由于算法可能基于反映歷史偏見的數據，AI也有可能使得保持社會公平更加困難。此外，當產品定價可以精確有效地針對每個人時，生產商更有可能找到每個個體支付價格或購買產品的最大意愿。通過這種窄播，更有可能將消費者福利轉移到生產者身上。
詹斯勒也特別提示了AI被用來詐騙的風險。騙子們可能試圖以窄播的方式，針對每個個體的弱點設置個性化的方案，來影響選舉、資本市場，或者恐嚇公眾。作為美國證交會的主席，他也已經成為“網絡AI小作文”的受害者。本月初，一些AI生成的文本在網上散布“詹斯勒辭職”的謠言。
SEC主席特別強調，根據證券法，欺詐就是欺詐。SEC致力于識別和起訴可能威脅投資者、或更廣泛市場的任何欺詐。同時，上市公司在討論AI機遇和風險時，需要小心確保材料披露的準確，不能誤導投資者。
詹斯勒進一步表示，與歷史上的諸多變革時期一樣，AI也會對社會總體帶來宏觀挑戰。其中一個或者少數幾個AI平臺可能成為市場主導的可能性，帶來了潛在的金融穩定風險。
早在麻省理工任教期間，詹斯勒就與其他學者合著了名為《深度學習與金融穩定》的論文，今天的AIGC使得其中的一些問題更有可能發生。由于單個市場參與者更有可能從基礎模型中得到相同的信號，這有可能促進群體行為，并增加了金融的脆弱性。現有的風控模型指引大都早于這一輪AI浪潮，考慮的基本上是企業自身的微觀風險，鑒于許多AI未來可能引發金融穩定挑戰，將需要關于系統范圍或宏觀審慎政策干預的新思考。
最后，SEC主席強調，該機構對于技術持有中立的態度——關注的是結果，而不是工具本身。SEC將在職權范圍內，致力于防止前面所討論的微觀和宏觀挑戰，也有可能因此修改《證券法》。與此同時，SEC也可以從員工在市場監控、披露審查、執法和經濟分析中更大規模地使用AI受益。
【來源：財聯社】
