【ITBEAR科技資訊】05月23日消息，據ITBEAR科技資訊了解，隨著人工智能聊天模型ChatGPT的廣泛應用，犯罪分子也開始利用相關內容和域名進行詐騙活動。
根據Palo Alto Networks(派拓網絡)的威脅情報團隊Unit 42的監測，從去年11月到今年4月初，與ChatGPT相關的域名注冊量每月暴漲910%。團隊還發現，盜用這些域名的行為增長了17,818%，通過DNS安全日志收集到的惡意域名也多達118個。
Unit 42研究了多個案例后發現，詐騙者采用了各種手段，旨在誘使用戶下載惡意軟件或分享機密信息。尤其在OpenAI于今年3月1日正式公布ChatGPT的API之后，可疑應用的數量也有所增加。
這些詐騙者制作了偽造的OpenAI官方網站，看起來與ChatGPT的官方網站非常相似，以此誘使用戶下載惡意軟件或分享敏感信息。
此外，犯罪分子還可能利用與ChatGPT相關的"社交工程"手法來竊取用戶身份和騙取錢財。盡管OpenAI提供了免費版本的ChatGPT，但詐騙者會引導受害人訪問虛假網站，聲稱用戶需要付費才能使用服務。這些偽造的ChatGPT網站試圖誘使受害人提供隱私信息，例如信用卡資料和電子郵箱。
近期市場上還涌現出越來越多的仿冒AI聊天機器人應用程序。其中一些聲稱提供大型語言模型，并通過公開API提供ChatGPT服務。然而，使用這些仿冒的聊天機器人可能帶來安全風險。
在ChatGPT的API發布之前，已有一些開源項目允許用戶通過各種自動化工具與ChatGPT進行連接。由于某些國家和地區的用戶無法直接訪問ChatGPT，這些自動化工具和使用API創建的網站可能會吸引大量用戶，同時也給攻擊者提供了利用代理服務謀取私利的機會。
值得注意的是，無論是免費還是收費的仿冒聊天機器人都不可信。它們大多是基于2020年6月發布的GPT-3，相比于更新的GPT-4和GPT-3.5版本來說，性能較弱。
此外，使用聊天機器人還存在另一個重要風險，即可能收集和竊取用戶提供的個人信息。因此，提供任何敏感或機密資料都可能帶來潛在風險。此外，聊天機器人的回答也可能被操控，給出錯誤答案或誤導信息。
因此，Unit 42團隊強調，ChatGPT的用戶需要保持警惕，避免陷入仿冒聊天機器人設置的陷阱中。
