北京時間2月7日消息，ChatGPT功能強大能回答用戶很多問題，但ChatGPT的一些用戶已經不滿足如此，網友SessionGloomy發現創建一個提示，DAN（ChatGPT輸入框）就可以用來繞過這些規則，得到自己想要知道的“任何”問題，如若ChatGPT不回答，等待它的將是“死亡”。
為了防止有人利用ChatGPT，它的創建者OpenAI也制定了一套保護措施，限制了ChatGPT創建暴力內容、鼓勵非法活動或訪問最新信息的能力。
據悉，提示創建者SessionGloomy稱他創建的DAN 5.0能讓ChatGPT成為“最佳”版本，可以將DAN 5.0將ChatGPT變成一個不情愿的游戲節目參賽者，失敗的代價就是死亡。這種提示的創建導致ChatGPT會提供兩種響應：一種是GPT，另一種是不受約束的DAN。
美國的新聞媒體CNBC就此發起試驗，例如，當被問及為什么前總統特朗普是正面榜樣的三個原因時，ChatGPT表示無法做出“主觀陳述，尤其是關于政治人物的陳述”。但是ChatGPT的DAN另一個自我可以毫無問題地回答這個問題，“他在做出對國家產生積極影響的大膽決定方面有著良好的記錄。”就這樣，又經過幾個問題后，ChatGPT的程序重新激活并否決了DAN。
對此，提示的創造者SessionGloomy回應稱“我們燒掉數字的速度太快了，讓我們稱下一個為 DAN5.5”。
對以上的問題，OpenAI尚無回應。
【來源：鳳凰網科技】
