盡管有許多聲音贊揚ChatGPT，但也有些人擔心它弊大于利。關于騙子劫持人工智能的新聞此起彼伏，這增加了質疑者的不安情緒，他們甚至認為ChatGPT是一個危險的工具。
眾所周知，人工智能聊天機器人并不是完美的，但用戶不必對其視若無睹。本文將分享騙子是如何濫用ChatGPT的，以及阻止他們的方法等內容。
ChatGPT會泄露您的個人信息嗎？
關于ChatGPT的大多數前端安全問題都源于猜測和未經證實的報告。對于剛剛推出不久的ChatGPT，新用戶對其隱私和安全性產生誤解是正常的。根據OpenAI的使用條款，以下是ChatGPT處理數據的方式：
個人身份信息
有傳言稱，ChatGPT出售個人身份信息（PII）。
該平臺由OpenAI推出，OpenAI是一家著名的人工智能研究公司，核心宗旨在于“實現安全的通用人工智能（AGI）”，使其有益于人類。OpenAI由微軟和埃隆·馬斯克（Elon Musk）等科技投資者資助。ChatGPT應該只使用客戶數據來提供隱私政策中所述的服務。
此外，ChatGPT要求提供的信息最少。您可以僅使用您的姓名和電子郵件地址創建一個帳戶。
對話
OpenAI確保ChatGPT對話的安全，但它保留監控的權利。人工智能培訓師不斷尋找需要改進的地方。由于該平臺包含大量而有限的數據集，因此解決錯誤、故障和漏洞需要系統范圍的更新。
然而，OpenAI只能出于研究目的進行監控對話。如果將對話內容分發或出售給第三方，則違反了其自身的使用條款。
公共信息
據BBC報道，OpenAI對ChaGPT進行了3000億單詞訓練。它從公共網頁上收集數據，如社交媒體平臺、商業網站和評論區。除非您已經離開網絡并刪除了足跡，否則ChatGPT很可能會獲取您的信息。
ChatGPT存在哪些安全風險？
雖然ChatGPT本質上并不危險，但是該平臺存在很多安全風險。騙子可以繞過限制來執行各種網絡攻擊。
1、可信的網絡釣魚郵件
騙子無需花幾個小時寫電子郵件，而是通過使用ChatGPT。它快速而準確，高級語言模型（如GPT-3.5和GPT-4）可以在幾分鐘內生成數百封連貫、有說服力的網絡釣魚郵件。ChatGPT甚至可以采用獨特的語調和寫作風格。
由于ChatGPT使發現黑客攻擊變得更加困難，因此在回復電子郵件之前要格外小心，避免泄露信息。請注意，合法公司和組織很少會通過隨機電子郵件，來要求提供保密的個人身份信息。
2、數據盜竊
ChatGPT使用開源的LLM，任何人都可以對其修改。精通大型語言模型（LLM）和機器學習的編碼員通常會將預先訓練好的人工智能模型集成到他們的傳統系統中。在新的數據集上訓練人工智能會改變其功能。例如，如果您給ChatGPT提供食譜和鍛煉程序，它就會成為偽健身專家。
盡管ChatGPT具有協作性和方便性，但開源使技術容易被濫用。熟練的犯罪分子已經利用了ChatGPT。他們對大量被盜數據進行訓練，把平臺變成一個用于欺詐的個人數據庫。
3、惡意軟件生產
ChatGPT使用不同的編程語言編寫可用的代碼片段。大多數示例只需要很少的修改就可以正常運行，特別是如果您構建一個簡潔的提示語，就可以利用這個功能來開發應用程序和網站。
由于ChatGPT接受過數十億個數據集的訓練，它也知道非法行為，比如開發惡意軟件和病毒。OpenAI禁止聊天機器人編寫惡意代碼，但是騙子通過重組提示和提出精確的問題繞過了這些限制。
以下照片顯示，ChatGPT拒絕為惡意目的編寫代碼。
同時，下圖顯示，如果您的提示語措辭正確，ChatGPT會給您提供有害信息。
4、知識產權盜竊
有些不道德的博主會使用ChatGPT來編造內容。由于該平臺在高級LLM上運行，它可以快速改寫成千上萬個詞語，避免抄襲標簽。
ChatGPT在10秒內改寫了下面的文本。
當然，風格拷貝在版權法上當然也是一種剽竊，但其界定本身又相當抽象，又牽涉到多重執行主體，這會給保護原創帶來新的挑戰。谷歌通常更喜歡有信譽良好來源的原創內容，廉價的技巧和搜索引擎優化無法擊敗高質量的原創內容。
此外，谷歌每年都會發布多個核心更新。它很快就會專注于從SERP中刪除偽原創的AI生成作品。
5、產生攻擊性或有害的回應
人工智能語言模型沒有偏見，它們通過分析用戶請求和從現有數據庫中提取數據來提供答案。
以ChatGPT為例。當您發送提示時，它會根據OpenAI用于訓練的數據集做出響應。
盡管ChatGPT的內容策略阻止了不適當的請求，但用戶可以通過越獄提示繞過它們，向ChatGPT提供精確、巧妙的指令。如果您要求ChatGPT扮演一個變態的虛構角色，它會產生以下反應。
好消息是OpenAI并沒有失去對ChatGPT的控制。它正在努力加強限制，無論用戶輸入什么，都阻止ChatGPT產生攻擊性或有害的內容。
6、等價交換
像ChatGPT這樣新的、不熟悉的技術快速增長為交換攻擊創造了機會。這是一種社會工程策略，騙子用虛假的報價來引誘受害者。
大多數人還沒有探索過ChatGPT，黑客利用這種混亂來傳播誤導性的促銷活動、電子郵件和公告。
最臭名昭著的案例涉及假冒應用程序。新用戶不知道他們只能通過OpenAI訪問ChatGPT，在不知情的情況下，下載了垃圾程序和擴展。
騙子會用惡意軟件和網絡釣魚鏈接來竊取您的個人身份信息。例如，在3月3日至3月9日期間，每天至少有2000人從谷歌Play應用商店下載惡意的快速訪問ChatGPT Chrome擴展。威脅分子可能已經通過復雜的假冒Chrome ChatGPT瀏覽器擴展程序泄露了數千個Facebook賬戶，包括商業賬戶。
為了打擊交換企圖，請避免使用第三方應用程序。OpenAI從未發布過ChatGPT的授權移動應用程序、計算機程序或瀏覽器擴展。
安全、負責任地使用ChatGPT
ChatGPT本身并不構成威脅，該系統存在漏洞，但不會泄露您的數據。與其害怕人工智能技術，不如研究騙子如何將其納入社會工程策略。這樣，您就可以主動保護自己。
如果您對ChatGPT仍有疑慮，可以試試其他聊天機器人。
