如今距離OpenAI第一次將ChatGPT帶給大眾用戶已經(jīng)過去了半年之久，但畢竟再好的東西都有“保質(zhì)期”，所以隨著時間的推移，大眾圍繞AI大模型的狂熱也逐漸褪去、其暗面也開始被大量討論。且不提早已被擺在臺面上的AI大模型生成內(nèi)容可能存在版權風險，以及AI的倫理道德等過于虛無縹緲的話題，僅僅就其竊取用戶隱私這個問題，就足以讓外界對大模型提起十二萬分的注意了。
近日，美國一家律師事務所向加州北區(qū)聯(lián)邦法院提起集體訴訟，指控OpenAI和微軟使用互聯(lián)網(wǎng)抓取的信息來訓練ChatGPT時，嚴重侵犯了大量用戶的版權和隱私，要求后者賠償30億美元。在這份長達157頁的訴狀中，原告指責OpenAI盡管制定了購買和使用個人信息的協(xié)議，但包括賬戶信息、姓名、聯(lián)系方式、支付信息、聊天記錄等隱私數(shù)據(jù)都在未經(jīng)許可的情況下，被OpenAI和微軟收集、存儲、共享和披露。
如果說這家律所指控OpenAI和微軟更多的是在博眼球，那么網(wǎng)絡安全公司Home Security Heroes公布的一份研究數(shù)據(jù)，則可能更具現(xiàn)實意義。在該公司對蘋果App Store的研究中發(fā)現(xiàn)，有四分之三的AI相關應用與第三方共享用戶數(shù)據(jù)。而在接受調(diào)查的159個應用中發(fā)現(xiàn)，64%的應用會跟蹤用戶的個人數(shù)據(jù)，其中監(jiān)控用戶數(shù)據(jù)比例最大的一款AI應用是Brainly（一款數(shù)學求解應用）。
除此之外，Google Assistant與第三方共享了超過35.71%的用戶數(shù)據(jù)，語言教育應用Duolingo、圖像生成應用AI Arta和DaVinci，以及AI醫(yī)療應用K Health則分別與第三方共享了多達28.57%的用戶數(shù)據(jù)。根據(jù)Home Security Heroes方面的說法，從整體來看，有54%的AI應用會跟蹤用戶數(shù)據(jù)。
毫無疑問，這樣的一組數(shù)字是相當驚人的，畢竟App Store應該是目前對應用審核最為嚴格的應用商店，而蘋果也是當下對用戶隱私保護力度最強的消費電子企業(yè)。因此也可想而知，在Android生態(tài)中，AI應用竊取用戶數(shù)據(jù)的情況大概率只會更加嚴重。
事實上，與第三方分享用戶數(shù)據(jù)自Meta的“劍橋門”以來，就是被整個行業(yè)非常忌諱的一件事，也很容易讓用戶聯(lián)想到企業(yè)本身對于個人隱私持漠視態(tài)度，因此近年來也是各大應用商店嚴防死守的一點。
比如蘋果在App Store的審核指南中就明確寫到，“從App中收集的數(shù)據(jù)不能與第三方共享，用于與提升用戶體驗、軟件/硬件性能無關的功能，自助廣告必需遵守《蘋果開發(fā)者計劃許可協(xié)議》”。既然向第三方分享用戶數(shù)據(jù)是一個被蘋果禁止的行為，那么為什么這一大批AI應用會選擇糊弄蘋果的審核人員，冒著被移出App Store的風險也要這樣干呢？
其實這是因為AI應用對于數(shù)據(jù)有著幾乎永無止境的渴求，它們像饕餮一般吞噬數(shù)據(jù)、以訓練自家的模型。而AI的智能則是以數(shù)據(jù)為支撐的，機器學習/深度學習技術的底座就是大量數(shù)據(jù)，也就是著名AI科學家吳恩達教授倡導的Data-centric AI，它是一種以數(shù)據(jù)為中心的人工智能理念，強調(diào)數(shù)據(jù)在人工智能開發(fā)和應用中的重要性。
傳統(tǒng)搭建AI模型的方法主要是聚焦迭代模型，數(shù)據(jù)也相對固定，通常會聚焦于幾個基準數(shù)據(jù)集，然后設計各式各樣的模型去提高預測準確率。但這一模式的缺陷也非常突出，準確率高的模型只能確保“擬合”數(shù)據(jù)，并不一定意味著實際應用中會有很好的表現(xiàn)，如今也已經(jīng)被邊緣化，目前用更大規(guī)模和更高質(zhì)量的數(shù)據(jù)來訓練AI，則成為了主流。
以OpenAI的GPT模型為例，從GPT-1到ChatGPT、再到GPT-4，所用的訓練數(shù)據(jù)大體經(jīng)歷了以下變化，小數(shù)據(jù)規(guī)模數(shù)據(jù)——大規(guī)模數(shù)據(jù)——更大規(guī)模、更高質(zhì)量的數(shù)據(jù)——大規(guī)模的人類標注的高質(zhì)量數(shù)據(jù)。畢竟所謂語言模型的訓練和學習，就是從大量的數(shù)據(jù)中學習復雜的上下文聯(lián)系。而為了獲得更多的數(shù)據(jù)，OpenAI更是四處出擊，例如它就以每年200萬美元的價格獲得了推特推文數(shù)據(jù)的訪問權限。
如果沒有持續(xù)的數(shù)據(jù)輸入，ChatGPT就不可能完成向GPT-4的“進化”，而兩者間的一個顯著區(qū)別，就是ChatGPT的數(shù)據(jù)只截止到2021年、缺乏2022年及之后的數(shù)據(jù)。沒錯，隨著AI大模型概念的走紅，AI相關企業(yè)如今已然成為了數(shù)據(jù)交易市場的大買家。
也正是因為這一事實，導致了現(xiàn)階段數(shù)據(jù)本身的價格水漲船高，掌握數(shù)據(jù)源頭的企業(yè)已經(jīng)開始哄抬物價。以前段時間鬧出不小風波的Reddit為例，其所給出第三方抓取5000萬次內(nèi)容需支付12000美元的價格，顯然就已經(jīng)很高。
出于對數(shù)據(jù)的渴求，以及數(shù)據(jù)本身的價格原因，AI應用的開發(fā)者自然就有了強烈的從應用內(nèi)收集用戶數(shù)據(jù)、并分享給第三方的動力。對于當下的絕大多數(shù)AI應用而言，變賣數(shù)據(jù)或許是它們現(xiàn)階段所能找到、最具可行性的掙錢方式。而且目前會去下載AI應用的用戶，基本都是對AI感興趣的人群，如何讓這一部分用戶的價值變得更大，顯然開發(fā)者沒有理由不動心。
事實上，肆意挖掘用戶隱私現(xiàn)象的泛濫，對于尚且稚嫩的AI生態(tài)本身而言有著極大的傷害，因此有識之士也紛紛站出來疾呼。谷歌DeepMind的首席商務官Colin Murdoch就表示，督促AI開發(fā)者專注于構建一個“強大而負責任”的社群。只是想要遏制AI應用的開發(fā)者違規(guī)挖掘用戶數(shù)據(jù)，還得應用商店加強審核才行。
【來源：三易生活】
