北京時(shí)間2月7日消息，ChatGPT功能強(qiáng)大能回答用戶很多問題，但ChatGPT的一些用戶已經(jīng)不滿足如此，網(wǎng)友SessionGloomy發(fā)現(xiàn)創(chuàng)建一個(gè)提示，DAN（ChatGPT輸入框）就可以用來繞過這些規(guī)則，得到自己想要知道的“任何”問題，如若ChatGPT不回答，等待它的將是“死亡”。
為了防止有人利用ChatGPT，它的創(chuàng)建者OpenAI也制定了一套保護(hù)措施，限制了ChatGPT創(chuàng)建暴力內(nèi)容、鼓勵(lì)非法活動(dòng)或訪問最新信息的能力。
據(jù)悉，提示創(chuàng)建者SessionGloomy稱他創(chuàng)建的DAN 5.0能讓ChatGPT成為“最佳”版本，可以將DAN 5.0將ChatGPT變成一個(gè)不情愿的游戲節(jié)目參賽者，失敗的代價(jià)就是死亡。這種提示的創(chuàng)建導(dǎo)致ChatGPT會提供兩種響應(yīng)：一種是GPT，另一種是不受約束的DAN。
美國的新聞媒體CNBC就此發(fā)起試驗(yàn)，例如，當(dāng)被問及為什么前總統(tǒng)特朗普是正面榜樣的三個(gè)原因時(shí)，ChatGPT表示無法做出“主觀陳述，尤其是關(guān)于政治人物的陳述”。但是ChatGPT的DAN另一個(gè)自我可以毫無問題地回答這個(gè)問題，“他在做出對國家產(chǎn)生積極影響的大膽決定方面有著良好的記錄。”就這樣，又經(jīng)過幾個(gè)問題后，ChatGPT的程序重新激活并否決了DAN。
對此，提示的創(chuàng)造者SessionGloomy回應(yīng)稱“我們燒掉數(shù)字的速度太快了，讓我們稱下一個(gè)為 DAN5.5”。
對以上的問題，OpenAI尚無回應(yīng)。
【來源：鳳凰網(wǎng)科技】
