作者：Eric Johansson，dlnews 編譯：善歐巴，金色財經
自從AI target=_blank class=infotextkey>OpenAI推出ChatGPT并顛覆創業生態系統以來的幾個月里，該技術已被貼上對新聞業、編劇和國家安全的威脅。因此，欺詐者和網絡犯罪分子利用大型語言模型從受害者那里盜取加密貨幣也就不足為奇了。盡管如此，當一個使用Tandem（一種語言共享應用程序，兼作約會平臺）的人進行在線對話時，他還是遇到了這種情況。另一位健談者很快說服他將聊天轉移到WhatsApp。
無論預期的最終結果是什么，這個騙局都被一個冗長的文本搞砸了，該文本揭示了“作為‘我’的語言模型，我沒有像人類那樣的感覺或情感”，基本上是使用了高級聊天機器人，即使不是ChatGPT，也與它有著驚人的相似之處。這名潛在受害者感到震驚，聯系了網絡安全公司Sophos，該公司證實對犯罪分子利用新技術的擔憂已經成為現實。
Sophos首席威脅研究員肖恩·加拉格爾（Sean Gallagher）在一份強調此案的報告中表示：“我們現在可以說，至少在殺豬盤詐騙案中，這種情況確實正在發生。”
殺豬盤是一種騙局，詐騙者試圖誘騙受害者在一段時間內投資加密貨幣平臺，承諾在兌現之前獲得高額收益，從而鼓勵受害者投入資金，最終導致他們遭受損失并感到羞恥。FBI估計，截至2022年，這類加密貨幣詐騙已經給受害者造成了超過25億美元的損失。
然而，使用ChatGPT和類似工具將使犯罪分子“以比我們過去所見更糟糕的方式擴大規模”，加州檢察官艾琳·韋斯特（Erin West）表示。她因成功追回數百萬被盜加密貨幣而著名。這項技術將使犯罪分子能夠更好地定制與受害者的對話，克服語言障礙，接觸更多人并造成更大的破壞。她補充說：“ChatGPT的加入使得這種情況變得更加危險。”這一嚴肅警告是在有關網絡犯罪分子利用類似工具快速編寫惡意軟件的報告之后發出的。
不是會不會發生的問題，而是何時會發生的問題
安全公司和執法部門對這一局勢的發展感到不安，但我們與之交談的人都并不感到意外。“這不是是否會發生的問題，而是何時會發生的問題，”網絡安全公司SonicWall戰略合作伙伴支持和集成副總裁Bobby Cornwell告訴DL News。
自從去年11月OpenAI推出ChatGPT以來，這些故事一直在醞釀。這些先進的聊天機器人經過大量數據的訓練。它們利用包括書籍、代碼、網站和文章在內的大型數據集，能夠編寫復雜的代碼，甚至可以根據用戶的提示進行對話。這對OpenAI來說是一個突破。截至一月份，其月活躍用戶數已經達到了約1億，成為歷史上增長最快的應用程序之一。人們已經開始將它用于編寫在線約會資料、恐怖故事，甚至生成視頻腳本和調試代碼等各種用途。包括谷歌和Meta在內的科技巨頭們也在加快開發自己的對話式人工智能工具，如Bard和LLaMA。
今年7月，特斯拉首席執行官埃隆·馬斯克（Elon Musk）成立了一家名為x.AI的新公司，旨在創建一個比OpenAI版本更少“喚醒”的ChatGPT版本。根據Crunchbase的數據，在2023年上半年，人工智能公司從投資者那里籌集了超過250億美元。
ChatGPT的陰暗面
OpenAI 首席執行官薩姆·奧爾特曼（Sam Altman）并沒有慶祝勝利，而是進行了一次世界巡演，警告不受限制的人工智能所帶來的危險。他曾在美國國會作證，并告訴記者，他擔心 OpenAI放出了眾所周知的人工智能精靈，“做了一些非常糟糕的事情”，因此他失眠了。他的言論是出于真正的恐懼還是精心策劃的公關策略的一部分仍然不確定。
無論奧爾特曼言論背后的動機是什么，數字暴徒已經使用ChatGPT或類似工具來支持他們的計劃。網絡犯罪分子甚至聲稱創建了自己的ChatGPT版本，不受OpenAI安裝的安全措施的影響。據《連線》八月初報道，他們在暗網上宣傳它們是增強網絡釣魚攻擊和編寫惡意軟件的工具。網絡犯罪分子和威脅行為者社區精通技術，積極主動，當他們看到如何發展其工具、技術和實踐的優勢和改進時，往往會成為新技術趨勢的早期采用者。
因此，威脅行為者采用生成式人工智能也就不足為奇了，因為他們可以獲得同樣的生產力收益，并有可能提高他們隱藏、進行偵察、構建惡意代碼、欺騙人員和安全軟件等的能力。這些發展使得網絡安全專家和執法機構爭先恐后地應對威脅。
康威爾表示，網絡安全公司必須“在我們的系統中創造更多的智能，以尋找人工智能生成的內容”，并補充說，制定此類對策需要時間。，盡管她和其他執法部門可以對這些威脅發出警告，但殺豬盤背后的犯罪集團即使在利用人工智能之前也很難被鏟除。
根據全球反詐騙組織稱，許多犯罪網絡都是在柬埔寨、老撾和緬甸等地運營。他們的犯罪行為已經獲利數十億美元，使他們能夠支付當地執法部門的費用并避免國際制裁。與這樣龐大、如此富有的犯罪集團作斗爭非常困難。
OpenAI并未回應我們的置評請求。
