(ChinaZ.com) 2 月 13 日消息:今年安卓和 iPhone 的更新將以 AI 為主題， 其中很大一部分來自谷歌。但這也給所有用戶帶來了一個(gè)嚴(yán)重的新警告，我們使用手機(jī)的方式將因此改變。
把生成式 AI 集成到我們最常用的手機(jī)應(yīng)用程序中， 勢必會(huì)比去年 ChatGPT 的推出造成更大影響。我們已然處在這樣的時(shí)代。
但慢著， 這一切也存在巨大的安全和隱私風(fēng)險(xiǎn)。
當(dāng)涉及生成式 AI 聊天機(jī)器人時(shí)， 我們似乎都有盲區(qū)。我們可能會(huì)注意所安裝的應(yīng)用、授予的權(quán)限、使用的瀏覽器以及與 Facebook、谷歌等共享的數(shù)據(jù)。但一旦面對(duì) AI 聊天機(jī)器人， 我們就會(huì)忘記這一切， 陷入與一個(gè)「有益的新朋友」的私人聊天中， 并渴望分享信息。
但顯然， 這絕不是朋友， 它是數(shù)十億美元計(jì)算生態(tài)系統(tǒng)的前臺(tái)， 最終由廣告和數(shù)據(jù)經(jīng)紀(jì)業(yè)務(wù)提供資金。
此前已經(jīng)有警告，AI 聊天進(jìn)入我們的私人消息應(yīng)用帶來的風(fēng)險(xiǎn)。就在 Bard 變?yōu)?Gemini， 大量新應(yīng)用準(zhǔn)備進(jìn)入我們的手機(jī)之際， 谷歌自己也警告所有安卓和 iPhone 用戶要對(duì)這些新技術(shù)保持高度警惕。
谷歌警告稱:「請不要在對(duì)話中輸入機(jī)密信息或任何您不希望審核者看到的數(shù)據(jù)， 或者谷歌可能會(huì)用來改進(jìn)我們的產(chǎn)品、服務(wù)和機(jī)器學(xué)習(xí)技術(shù)的數(shù)據(jù)。」谷歌收集您在 Gemini 中的對(duì)話、相關(guān)產(chǎn)品使用信息、位置信息和反饋， 以「改進(jìn)和開發(fā)谷歌產(chǎn)品、服務(wù)和機(jī)器學(xué)習(xí)技術(shù)」。
谷歌確保「您在 Gemini 中的對(duì)話不會(huì)被用于向您展示廣告」， 盡管這可能會(huì)改變， 屆時(shí)「我們會(huì)明確地通知您」。
這里的風(fēng)險(xiǎn)在于， 那些與各種 AI 聊天機(jī)器人過度分享的用戶可能會(huì)陷入巨大的隱私困境， 這些聊天機(jī)器人幫助他們編寫商業(yè)計(jì)劃、銷售演示文稿或作業(yè)。當(dāng)您退出聊天時(shí)， 您提出的問題和獲得的回答將被存儲(chǔ)為記錄， 這意味著它可以被檢索和審查。它也可能泄露。
當(dāng)然， 獨(dú)立應(yīng)用只是一個(gè)開始， 谷歌還警告說:「當(dāng)您將 Gemini 與其他谷歌服務(wù)集成和使用時(shí)， 它們將保存并使用您的數(shù)據(jù)來提供和改進(jìn)其服務(wù)， 這與其政策和谷歌隱私政策一致。如果您使用 Gemini 與第三方服務(wù)進(jìn)行交互， 它們將根據(jù)自己的隱私政策處理您的數(shù)據(jù)。」
我們才剛剛開始理解生成式 AI 的風(fēng)險(xiǎn)。例如， 谷歌 Gemini(前身 Bard) 似乎會(huì)要求查看您過去的所有私人消息， 以塑造其建議的上下文和內(nèi)容。它還會(huì)破壞 Messages 的端到端加密。
這里的真正問題在于非本地、開放式存儲(chǔ)。谷歌表示， 默認(rèn)情況下， 數(shù)據(jù)將被存儲(chǔ)長達(dá) 18 個(gè)月，「您可以在 Gemini 應(yīng)用活動(dòng)設(shè)置中將其更改為 3 或 36 個(gè)月。您設(shè)備、IP 地址的一般區(qū)域信息以及谷歌帳戶中的家庭或工作地址也與您的 Gemini 應(yīng)用活動(dòng)一起存儲(chǔ)。」
當(dāng)然， 這不僅限于谷歌。這種程度的數(shù)據(jù)收集和使用在新興的生成 AI 行業(yè)中相當(dāng)常見。我們?nèi)绾卧u(píng)判谷歌與 OpenAI 等公司的安全性和隱私性還有待觀察。
但正如 ESET 的 Jake Moore 警告的那樣:「我們在線分享的任何數(shù)據(jù)， 即使是在私人渠道中， 也有可能被存儲(chǔ)、分析甚至與第三方共享。當(dāng)信息成為一種優(yōu)質(zhì)資產(chǎn)甚至被視為一種貨幣時(shí)，AI 模型可以被設(shè)計(jì)成深入挖掘用戶透露的大量個(gè)人信息。數(shù)據(jù)共享最終可能在未來制造安全和隱私問題， 許多用戶對(duì)這些風(fēng)險(xiǎn)一無所知。」
谷歌稱， 如果您調(diào)整 Gemini 的設(shè)置， 可以關(guān)閉長期數(shù)據(jù)收集。「未來的對(duì)話不會(huì)被發(fā)送給人類審查或用于改進(jìn)我們的生成式機(jī)器學(xué)習(xí)模型...... 您也可以從固定和最近的聊天中刪除聊天。當(dāng)您這樣做時(shí)， 相關(guān)活動(dòng)也會(huì)從'您的 Gemini 應(yīng)用活動(dòng)'中刪除。」但即使這樣，「您的對(duì)話將保存在您的帳戶中， 最長可達(dá) 72 小時(shí)， 以允許我們提供服務(wù)并處理反饋。這些活動(dòng)不會(huì)出現(xiàn)在您的 Gemini 應(yīng)用活動(dòng)中。」
正如之前評(píng)論， 驅(qū)動(dòng)這一新一代智能手機(jī)功能的 AI 分析在設(shè)備端/設(shè)備端外的性質(zhì)將成為新的鴻溝。蘋果可能會(huì)在其自己的應(yīng)用和服務(wù)上盡可能多地在設(shè)備端本地進(jìn)行——如果可行的話。我們知道它現(xiàn)在正在試驗(yàn)在設(shè)備端/設(shè)備外的性能。鑒于谷歌完全不同的設(shè)置和重點(diǎn)， 它將在云端做更多工作。
對(duì)于手機(jī)上已經(jīng)裝有 Gemini 動(dòng)力應(yīng)用的數(shù)百萬安卓和 iPhone 用戶來說， 他們面臨一些艱難的選擇。其他人也不會(huì)落后太多。
我們不能兩全其美。要么我們重視隱私， 重視近年來在私密瀏覽、跟蹤和位置共享方面取得的巨大進(jìn)步。要么我們認(rèn)為集成到主流應(yīng)用中的 AI 實(shí)在太酷了， 難以割舍， 于是我們會(huì)無所不用其極。
如果是后者， 那么這可能會(huì)成為最終的「小心你所祈求的」。
