近日，一批匿名人士向OpenAI及其投資方微軟公司發(fā)起集體訴訟，指責(zé)被告方從互聯(lián)網(wǎng)上竊取和挪用了大量個(gè)人數(shù)據(jù)和信息來(lái)訓(xùn)練AI工具。起訴書聲稱“OpenAI在用戶不知情的情況下，使用這些‘竊取’來(lái)的信息”。
再倒回前兩個(gè)月，“AI換臉”詐騙曾引起很大討論，據(jù)包頭警方消息，騙子通過智能AI換臉和擬聲技術(shù)，佯裝好友對(duì)福州某科技公司法人代表實(shí)施了詐騙，10分鐘內(nèi)其被騙430萬(wàn)元。
在火熱的AIGC浪潮下，技術(shù)帶來(lái)變革的同時(shí)，其陰暗面也越來(lái)越多被關(guān)注。
“人工智能就如同雙面人，既幫助好人，也幫助壞人。善用AI可以創(chuàng)造很好的功能，但如果不能做好安全管理，AI可以帶來(lái)危險(xiǎn)。”在C3安全大會(huì)上，英普華亞太及日本區(qū)技術(shù)副總裁周達(dá)偉表示，在過去很注重的是遠(yuǎn)程安全和應(yīng)用安全，但在大模型的產(chǎn)業(yè)互聯(lián)網(wǎng)的時(shí)代，會(huì)更注重?cái)?shù)據(jù)安全。
大模型背后的網(wǎng)絡(luò)安全
“去年年底到今年年初，生成式AI帶來(lái)了燈塔式的指引，從國(guó)家到所有的企業(yè)都在擁抱這次變革。”亞信安全首席研發(fā)官吳湘寧在大會(huì)上表示，大家都希望通過人工智能、大數(shù)據(jù)、區(qū)塊鏈、物聯(lián)網(wǎng)等技術(shù)來(lái)改變現(xiàn)狀。
但AI系統(tǒng)越來(lái)越大，本身的安全就是一個(gè)關(guān)鍵。亞信安全首席安全官徐業(yè)禮在采訪中表示，“這里面涉及到AI投毒，模型被篡改，包括AI系統(tǒng)本身有邊界防護(hù)端點(diǎn)防護(hù)的能力。”AI可以做壞事，也可能生成一些誤導(dǎo)的信息，此外大量使用AI，尤其是境外的AI可能導(dǎo)致數(shù)據(jù)的泄露，這都是非常大的風(fēng)險(xiǎn)和問題。
亞信安全終端安全產(chǎn)品總經(jīng)理汪晨認(rèn)為，一方面，AI技術(shù)可以幫助甄別出病毒軟件的DNA，即使他們進(jìn)行了偽裝，也能識(shí)別出其是黑是白；但另一方面，因?yàn)锳I需要通過大量數(shù)據(jù)訓(xùn)練才能獲得能力，如果用黑客污染過的數(shù)據(jù)進(jìn)行訓(xùn)練，訓(xùn)練出的模型就會(huì)存在漏洞。如何確保訓(xùn)練數(shù)據(jù)的準(zhǔn)確率和精準(zhǔn)度，是目前面臨的新挑戰(zhàn)。
對(duì)于最近興起的AI換臉詐騙，徐業(yè)禮對(duì)第一財(cái)經(jīng)表示，這屬于較為特別的網(wǎng)絡(luò)安全問題，絕大部分針對(duì)個(gè)人發(fā)生，換成高管的照片或者模擬高管的聲音錄制一段語(yǔ)音發(fā)給員工，要求匯款轉(zhuǎn)賬，這些情況防不勝防，且由于AIGC的出現(xiàn)，詐騙實(shí)施起來(lái)越來(lái)越簡(jiǎn)單，成本極低。
徐業(yè)禮認(rèn)為，對(duì)于一個(gè)管理較好的公司，這類詐騙絕大部分情況下不會(huì)發(fā)生，而主要發(fā)生在安全意識(shí)不強(qiáng)、匯款等流程極不完善的小規(guī)模企業(yè)。對(duì)于亞信這樣的網(wǎng)絡(luò)安全公司來(lái)說，一般也能通過郵件和公司的系統(tǒng)監(jiān)測(cè)到商業(yè)詐騙郵件，對(duì)詐騙網(wǎng)站和釣魚網(wǎng)站進(jìn)行識(shí)別檢測(cè)。
AI一直在安全領(lǐng)域有所應(yīng)用。徐業(yè)禮介紹，在ChatGPT出現(xiàn)前的AI 1.0時(shí)代，亞信更多用AI做判斷，做分類和聚合，亞信早期產(chǎn)品很多引擎都大量使用AI技術(shù)，包括2018年開始的卷積神經(jīng)網(wǎng)絡(luò)都用得很頻繁。
不過，如ChatGPT這樣的大模型是一個(gè)革命性的改變。ChatGPT事實(shí)上已經(jīng)可以理解為過了圖靈測(cè)試的終極階段，達(dá)到了一般人的智能，如今AI行業(yè)也從1.0時(shí)代到了2.0時(shí)代，AI的功能越來(lái)越豐富，生成式AI能夠模仿人、復(fù)制安全專家的能力，加速系統(tǒng)的自動(dòng)化運(yùn)營(yíng)。
吳湘寧介紹，在過去安全行業(yè)已經(jīng)可以通過自然語(yǔ)言的識(shí)別，通過報(bào)警、日志發(fā)現(xiàn)關(guān)鍵的威脅點(diǎn)，形成威脅圖譜，但做威脅圖譜的解讀、寫威脅分析報(bào)告，還需要專門的運(yùn)維人員或安全專家，但今天隨著大模型技術(shù)的發(fā)現(xiàn)，可以更容易把專家的知識(shí)和大模型進(jìn)行結(jié)合，從而自動(dòng)生成報(bào)告。
AI訓(xùn)練面臨信息風(fēng)險(xiǎn)
在訓(xùn)練大模型中，作為必備要素的數(shù)據(jù)還面臨著信息安全、來(lái)源確權(quán)等方面的挑戰(zhàn)。
除了OpenAI被起訴使用用戶數(shù)據(jù)進(jìn)行用戶畫像或廣告推廣等商業(yè)用途，此前三星員工在與ChatGPT聊天過程中也發(fā)生過信息泄漏事故。
三星有員工要求聊天機(jī)器人檢查敏感數(shù)據(jù)庫(kù)源代碼是否有錯(cuò)誤，此外還有員工要求ChatGPT幫助其優(yōu)化代碼，以及將會(huì)議記錄輸入ChatGPT并要求它生成會(huì)議記錄。
騰訊安全天御研發(fā)工程師周維聰對(duì)第一財(cái)經(jīng)記者表示，在三星的案例中信息已存在風(fēng)險(xiǎn)，大模型提供方理應(yīng)在該環(huán)節(jié)具備審核攔截能力，提示用戶該環(huán)節(jié)中存在嚴(yán)重的泄露隱私風(fēng)險(xiǎn)。
周維聰表示，對(duì)于企業(yè)方，首先在技術(shù)層面可以對(duì)用戶隱私信息進(jìn)行相應(yīng)的提取。另外，如果用戶輸入的內(nèi)容涉及隱私相關(guān)信息，技術(shù)側(cè)也可以鑒別出來(lái)，不會(huì)將這部分?jǐn)?shù)據(jù)用于模型訓(xùn)練或商業(yè)產(chǎn)品的能力打造上。
另外，周維聰表示，騰訊安全會(huì)提示合作方使用數(shù)據(jù)時(shí)，合法獲得經(jīng)過用戶確權(quán)的數(shù)據(jù)，未經(jīng)確權(quán)的數(shù)據(jù)不會(huì)被保存下來(lái)，“這是一個(gè)需要嚴(yán)格遵守的點(diǎn)。”
實(shí)際在現(xiàn)實(shí)生活中，除了經(jīng)過確權(quán)的信息數(shù)據(jù)，更多的是廣泛分布于互聯(lián)網(wǎng)的分散的用戶數(shù)據(jù)信息，對(duì)于這部分信息的使用，周維聰對(duì)記者表示，平臺(tái)一般會(huì)以嚴(yán)格的技術(shù)規(guī)范數(shù)據(jù)合規(guī)流程，每一家廠商理應(yīng)都在遵循這樣的流程。因?yàn)槌艘_保數(shù)據(jù)經(jīng)過用戶授權(quán)，也是因?yàn)閿?shù)據(jù)一旦用于開發(fā)其他能力，有可能涉及人臉、聲紋等敏感信息，這類信息在合規(guī)流程上都會(huì)被嚴(yán)加控制與監(jiān)管。“行業(yè)內(nèi)部都會(huì)有這樣一個(gè)標(biāo)準(zhǔn)，只是目前還沒有達(dá)到通用化的程度。”周維聰表示。
騰訊安全內(nèi)容風(fēng)控產(chǎn)品經(jīng)理李鎬澤對(duì)第一財(cái)經(jīng)表示，AIGC的內(nèi)容安全是一個(gè)全鏈路的問題，從模型訓(xùn)練、標(biāo)注、應(yīng)用到應(yīng)用之后的輿情監(jiān)控各個(gè)環(huán)節(jié)都可能引入內(nèi)容安全的風(fēng)險(xiǎn)，因此在應(yīng)用AIGC大模型時(shí)，也應(yīng)從全鏈路進(jìn)行內(nèi)容風(fēng)控。其次從審校方面，也需要從連貫性、邏輯性等方面來(lái)保證數(shù)據(jù)質(zhì)量，去除高風(fēng)險(xiǎn)內(nèi)容。第三是版權(quán)方面的風(fēng)險(xiǎn)也需要警惕。
全鏈路也包括了事后階段。李鎬澤表示，事后階段是指在大模型產(chǎn)品上線、用戶使用之后，企業(yè)也應(yīng)注重平臺(tái)輿情監(jiān)測(cè)，相應(yīng)減少或避免相關(guān)風(fēng)險(xiǎn)。
至于全鏈路中哪個(gè)環(huán)節(jié)目前遭遇的AI安全風(fēng)險(xiǎn)最為密集，李鎬澤對(duì)第一財(cái)經(jīng)記者表示，問題的爆發(fā)主要伴隨業(yè)務(wù)的分布情況而發(fā)生，從AIGC場(chǎng)景來(lái)看，廠商目前主要集中于先訓(xùn)練模型、再逐步投入應(yīng)用的階段，因此爆發(fā)的問題主要在訓(xùn)練與內(nèi)容生成這兩個(gè)環(huán)節(jié)。
以O(shè)penAI為警示，在具體政策法規(guī)尚未明確的情況下，企業(yè)在獲取數(shù)據(jù)進(jìn)行大模型訓(xùn)練時(shí)，也需走在嚴(yán)格的審核流程中。今年4月，根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等法律法規(guī)，國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》。《意見稿》指出，用于生成式人工智能產(chǎn)品的預(yù)訓(xùn)練、優(yōu)化訓(xùn)練數(shù)據(jù)不含有侵犯知識(shí)產(chǎn)權(quán)的內(nèi)容；數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)征得個(gè)人信息主體同意或者符合法律、行政法規(guī)規(guī)定的其他情形。
李鎬澤對(duì)記者表示，《意見稿》的出臺(tái)比較及時(shí)地響應(yīng)了當(dāng)下火熱的AIGC發(fā)展趨勢(shì)，也給各個(gè)企業(yè)、包括想做AIGC大模型的企業(yè)提供了一些指引和機(jī)會(huì)，這是一個(gè)比較好的趨勢(shì)。
【來(lái)源：第一財(cái)經(jīng)】
