作者：Eric Johansson，dlnews 編譯：善歐巴，金色財經(jīng)
自從AI target=_blank class=infotextkey>OpenAI推出ChatGPT并顛覆創(chuàng)業(yè)生態(tài)系統(tǒng)以來的幾個月里，該技術(shù)已被貼上對新聞業(yè)、編劇和國家安全的威脅。因此，欺詐者和網(wǎng)絡(luò)犯罪分子利用大型語言模型從受害者那里盜取加密貨幣也就不足為奇了。盡管如此，當(dāng)一個使用Tandem（一種語言共享應(yīng)用程序，兼作約會平臺）的人進(jìn)行在線對話時，他還是遇到了這種情況。另一位健談?wù)吆芸煺f服他將聊天轉(zhuǎn)移到WhatsApp。
無論預(yù)期的最終結(jié)果是什么，這個騙局都被一個冗長的文本搞砸了，該文本揭示了“作為‘我’的語言模型，我沒有像人類那樣的感覺或情感”，基本上是使用了高級聊天機(jī)器人，即使不是ChatGPT，也與它有著驚人的相似之處。這名潛在受害者感到震驚，聯(lián)系了網(wǎng)絡(luò)安全公司Sophos，該公司證實對犯罪分子利用新技術(shù)的擔(dān)憂已經(jīng)成為現(xiàn)實。
Sophos首席威脅研究員肖恩·加拉格爾（Sean Gallagher）在一份強(qiáng)調(diào)此案的報告中表示：“我們現(xiàn)在可以說，至少在殺豬盤詐騙案中，這種情況確實正在發(fā)生。”
殺豬盤是一種騙局，詐騙者試圖誘騙受害者在一段時間內(nèi)投資加密貨幣平臺，承諾在兌現(xiàn)之前獲得高額收益，從而鼓勵受害者投入資金，最終導(dǎo)致他們遭受損失并感到羞恥。FBI估計，截至2022年，這類加密貨幣詐騙已經(jīng)給受害者造成了超過25億美元的損失。
然而，使用ChatGPT和類似工具將使犯罪分子“以比我們過去所見更糟糕的方式擴(kuò)大規(guī)模”，加州檢察官艾琳·韋斯特（Erin West）表示。她因成功追回數(shù)百萬被盜加密貨幣而著名。這項技術(shù)將使犯罪分子能夠更好地定制與受害者的對話，克服語言障礙，接觸更多人并造成更大的破壞。她補(bǔ)充說：“ChatGPT的加入使得這種情況變得更加危險。”這一嚴(yán)肅警告是在有關(guān)網(wǎng)絡(luò)犯罪分子利用類似工具快速編寫惡意軟件的報告之后發(fā)出的。
不是會不會發(fā)生的問題，而是何時會發(fā)生的問題
安全公司和執(zhí)法部門對這一局勢的發(fā)展感到不安，但我們與之交談的人都并不感到意外。“這不是是否會發(fā)生的問題，而是何時會發(fā)生的問題，”網(wǎng)絡(luò)安全公司SonicWall戰(zhàn)略合作伙伴支持和集成副總裁Bobby Cornwell告訴DL News。
自從去年11月OpenAI推出ChatGPT以來，這些故事一直在醞釀。這些先進(jìn)的聊天機(jī)器人經(jīng)過大量數(shù)據(jù)的訓(xùn)練。它們利用包括書籍、代碼、網(wǎng)站和文章在內(nèi)的大型數(shù)據(jù)集，能夠編寫復(fù)雜的代碼，甚至可以根據(jù)用戶的提示進(jìn)行對話。這對OpenAI來說是一個突破。截至一月份，其月活躍用戶數(shù)已經(jīng)達(dá)到了約1億，成為歷史上增長最快的應(yīng)用程序之一。人們已經(jīng)開始將它用于編寫在線約會資料、恐怖故事，甚至生成視頻腳本和調(diào)試代碼等各種用途。包括谷歌和Meta在內(nèi)的科技巨頭們也在加快開發(fā)自己的對話式人工智能工具，如Bard和LLaMA。
今年7月，特斯拉首席執(zhí)行官埃隆·馬斯克（Elon Musk）成立了一家名為x.AI的新公司，旨在創(chuàng)建一個比OpenAI版本更少“喚醒”的ChatGPT版本。根據(jù)Crunchbase的數(shù)據(jù)，在2023年上半年，人工智能公司從投資者那里籌集了超過250億美元。
ChatGPT的陰暗面
OpenAI 首席執(zhí)行官薩姆·奧爾特曼（Sam Altman）并沒有慶祝勝利，而是進(jìn)行了一次世界巡演，警告不受限制的人工智能所帶來的危險。他曾在美國國會作證，并告訴記者，他擔(dān)心 OpenAI放出了眾所周知的人工智能精靈，“做了一些非常糟糕的事情”，因此他失眠了。他的言論是出于真正的恐懼還是精心策劃的公關(guān)策略的一部分仍然不確定。
無論奧爾特曼言論背后的動機(jī)是什么，數(shù)字暴徒已經(jīng)使用ChatGPT或類似工具來支持他們的計劃。網(wǎng)絡(luò)犯罪分子甚至聲稱創(chuàng)建了自己的ChatGPT版本，不受OpenAI安裝的安全措施的影響。據(jù)《連線》八月初報道，他們在暗網(wǎng)上宣傳它們是增強(qiáng)網(wǎng)絡(luò)釣魚攻擊和編寫惡意軟件的工具。網(wǎng)絡(luò)犯罪分子和威脅行為者社區(qū)精通技術(shù)，積極主動，當(dāng)他們看到如何發(fā)展其工具、技術(shù)和實踐的優(yōu)勢和改進(jìn)時，往往會成為新技術(shù)趨勢的早期采用者。
因此，威脅行為者采用生成式人工智能也就不足為奇了，因為他們可以獲得同樣的生產(chǎn)力收益，并有可能提高他們隱藏、進(jìn)行偵察、構(gòu)建惡意代碼、欺騙人員和安全軟件等的能力。這些發(fā)展使得網(wǎng)絡(luò)安全專家和執(zhí)法機(jī)構(gòu)爭先恐后地應(yīng)對威脅。
康威爾表示，網(wǎng)絡(luò)安全公司必須“在我們的系統(tǒng)中創(chuàng)造更多的智能，以尋找人工智能生成的內(nèi)容”，并補(bǔ)充說，制定此類對策需要時間。，盡管她和其他執(zhí)法部門可以對這些威脅發(fā)出警告，但殺豬盤背后的犯罪集團(tuán)即使在利用人工智能之前也很難被鏟除。
根據(jù)全球反詐騙組織稱，許多犯罪網(wǎng)絡(luò)都是在柬埔寨、老撾和緬甸等地運(yùn)營。他們的犯罪行為已經(jīng)獲利數(shù)十億美元，使他們能夠支付當(dāng)?shù)貓?zhí)法部門的費(fèi)用并避免國際制裁。與這樣龐大、如此富有的犯罪集團(tuán)作斗爭非常困難。
OpenAI并未回應(yīng)我們的置評請求。
