摘要
面部識別技術在歐盟面臨強監(jiān)管態(tài)勢。現(xiàn)階段歐盟人工智能法規(guī)草案中，部分應用領域如執(zhí)法部門的面部識別技術被列入高風險人工智能系統(tǒng)，或面臨最強監(jiān)管即完全禁止。更重要的是，歐盟正在努力通過制定數(shù)字時代的技術標準來重新確立自己全球技術領導者的地位。在面部識別技術上找到適當?shù)谋O(jiān)管平衡不僅是降低此類技術風險的關鍵，而且對于歐盟樹立其數(shù)字時代全球領導者的地位也至關重要。
Image Source / 圖源：Panda Security
https://www.pandasecurity.com/en/mediacenter/security/facial-recognition-software/
在過去的兩年里，總部位于美國的面部識別公司 Clearview AI 在其收集和處理個人數(shù)據(jù)方面面臨了歐盟各國的審查。2021 年 11 月，英國獨立數(shù)據(jù)隱私機構因該公司違反該國的數(shù)據(jù)保護法，對其處以超過 2200 萬美元的罰款。2021 年 12 月，法國數(shù)據(jù)保護機構 CNIL要求 Clearview 在兩個月中從其數(shù)據(jù)庫中刪除所有法國面孔。2022 年 2 月，Clearview 被意大利處罰2000 萬歐元，并被要求停止收集數(shù)據(jù)，從其數(shù)據(jù)庫中刪除所有意大利人民的人臉圖像數(shù)據(jù)，并設立公司代表與歐盟相關部門保持聯(lián)絡。自 2018 年以來，歐盟內部的數(shù)據(jù)收集和處理都因歐盟通用數(shù)據(jù)保護條例而受到了更多限制。面部識別對隱私和監(jiān)控問題所帶來的挑戰(zhàn)已成為歐盟立法者討論的焦點。同時，歐盟設立新AI法規(guī)的舉措也將輔助歐盟建立其在制定全球面部技術技術標準方面的領導地位。
一、歐盟對面部識別技術的強監(jiān)督
近年來，面部識別技術在全球興起：2018 年，全球面部識別市場價值約39.7 億美元，并可能在 2025 年可能增長到 101.5 億美元。隨著面部識別技術的發(fā)展，歐盟旨在控制面部識別的潛在負面影響。 2020 年 2 月，歐盟委員會發(fā)布了人工智能白皮書，其中強調了在歐盟部署面部識別技術的保障措施的必要性。歐盟人工智能高級別專家組指出，歐盟需要定義何時以及如何允許人工智能自動識別個人生物信息。
在此背景下，歐盟委員會于 2021 年 4 月發(fā)布了人工智能法規(guī)草案。該草案提出了一種基于風險等級的方法來制定人工智能系統(tǒng)的監(jiān)管制度。可能對基本權利造成不利影響的“高風險”人工智能系統(tǒng)將面臨更加嚴格的限制。在該草案中，遠程生物特征識別系統(tǒng)類別的面部識別技術的監(jiān)管將根據(jù)其應用領域而改變。其中，一個關鍵的政策問題是對于高風險和低風險生物識別系統(tǒng)的區(qū)分。例如，目前的條款大多都偏向于針對實時面部識別技術的部署。然而，研究人員指出，面部識別技術的“實時”和“后期”使用之間的差別可能沒有想象中的大：人工智能技術的非實時使用也可能會給基本權利帶來同樣的風險。
此外，部分議員和民權組織認為目前的草案對面部識別的監(jiān)管過于寬松。目前，該草案禁止在可公開訪問的執(zhí)法空間中實時使用面部識別。然而，一個由 40 名歐洲議會成員組成的跨黨派團體指出，目前的框架未能禁止生物識別大規(guī)模監(jiān)視。同時，多個隱私權倡導組織指出，當前的提案只關注執(zhí)法部門，卻忽視了其他政府機構和私人企業(yè)使用面部識別技術的威脅。
2021 年 10 月，歐洲議會通過了一項不具約束力的決議，支持禁止執(zhí)法部門公開使用面部識別以及創(chuàng)建私人面部識別數(shù)據(jù)庫——例如由 Clearview AI 創(chuàng)建的數(shù)據(jù)庫。雖然不具約束力的決議不會影響當前的草案，但歐洲議會表示出了歐盟將對面部識別技術更強硬的立場。目前的提案草案將繼續(xù)在歐盟層面進行辯論和審查，并可能需要數(shù)年才能通過。
二、強監(jiān)管的動機
面部識別的技術風險
歐盟關于監(jiān)管面部識別技術的辯論主要由兩個原因被推動：1）對該技術固有風險的擔憂；2）歐盟尋求領導全球技術標準的制定。首先，鑒于面部識別技術的普及，人為控制難以實現(xiàn)。敏感信息可能會在未經同意的情況下被收集和使用，這些信息可能會被濫用而造成更大的傷害。此外，根據(jù)《歐盟基本權利憲章》第 7 條和第 8 條，面部識別技術可能會侵犯個人數(shù)據(jù)保護權和私人生活權。此外，算法決策系統(tǒng)中的歧視和偏見也是眾所周知的問題。接受過有偏見數(shù)據(jù)訓練的面部識別技術可能會延續(xù)現(xiàn)有的社會偏見，使弱勢群體（如種族群體）處于不利地位。當該技術被執(zhí)法部門部署時，這些問題會進一步加劇。最后，大規(guī)模監(jiān)控的潛在威脅是面部識別技術的一個關鍵問題。在歐盟，在公共場所使用生物識別系統(tǒng)正日益成為常態(tài)。在這一點上，如果面部識別技術超出當前授權使用范圍，該技術可能會導致大規(guī)模監(jiān)視和匿名性完全的喪失。
全球領導力以及平衡問題
除了面部識別技術的固有風險之外，歐盟還指出了其全球標準制定領導地位的首要問題。3 月 22 日，歐洲議會數(shù)字時代人工智能特別委員會 (AIDA) 通過了其最終建議。通過的文本警告說，歐盟正在落后于全球技術領導力競賽，必須采取行動成為“人工智能的全球標準制定者”。歐洲議員 Axel Voss 表示，歐盟有“獨特的機會來促進基于基本權利的以人為本和值得信賴的人工智能方法。”AIDA 委員會主席 Dragos Tudorache 也表達了同樣的觀點，指出歐盟的未來全球競爭力將取決于歐盟當前的監(jiān)管框架和舉措。
此外，該文本指出了監(jiān)管人工智能面部識別技術的一個關鍵政策問題：法律框架必須為創(chuàng)新和技術利益留出空間。歐洲議會議員一致認為，歐盟的人工智能法案應側重于該技術在提高整體生活質量方面的巨大潛力。在這方面，歐盟正在尋求的方法必須在監(jiān)管程度和人工智能系統(tǒng)的風險水平之間建立適當?shù)钠胶狻ａ槍γ娌孔R別，委員會主席 Tudorache 表示，徹底禁止不會是最終解決方案。面部識別監(jiān)管需要取得適當?shù)钠胶猓源_保該技術可以在危急情況下（例如恐怖襲擊）使用而不會導致大規(guī)模監(jiān)視。展望未來，面部識別技術問題將繼續(xù)作為人工智能法規(guī)草案的核心問題，成為其進展的關鍵挑戰(zhàn)。
三、余論和總結
現(xiàn)階段歐盟人工智能法規(guī)草案中，部分應用領域如執(zhí)法部門的面部識別技術被列入高風險人工智能系統(tǒng)，或面臨最強監(jiān)管即完全禁止。更重要的是，歐盟正在努力通過制定數(shù)字時代的技術標準來重新確立自己全球技術領導者的地位。在這方面，歐盟正在尋求適當?shù)钠胶猓屆娌孔R別技術在不侵犯個人權利和避免建立大規(guī)模監(jiān)控的情況下造福公民社會，為歐盟在數(shù)字時代的競爭力保駕護航。
原文標題：
歐盟面部識別技術強監(jiān)管：基本人權與技術利益的平衡
本文作者：
吳世櫻
本文選自《人工智能資訊周報》第168期，轉載請注明出處
