日日操夜夜添-日日操影院-日日草夜夜操-日日干干-精品一区二区三区波多野结衣-精品一区二区三区高清免费不卡

公告:魔扣目錄網(wǎng)為廣大站長提供免費(fèi)收錄網(wǎng)站服務(wù),提交前請做好本站友鏈:【 網(wǎng)站目錄:http://www.ylptlb.cn 】, 免友鏈快審服務(wù)(50元/站),

點(diǎn)擊這里在線咨詢客服
新站提交
  • 網(wǎng)站:51998
  • 待審:31
  • 小程序:12
  • 文章:1030137
  • 會(huì)員:747

4 月 23 日消息,ChatGPT 聊天機(jī)器人可以根據(jù)用戶的輸入生成各種各樣的文本,包括代碼。但是,加拿大魁北克大學(xué)的四位研究人員發(fā)現(xiàn),ChatGPT 生成的代碼往往存在嚴(yán)重的安全問題,而且它不會(huì)主動(dòng)提醒用戶這些問題,只有在用戶詢問時(shí)才會(huì)承認(rèn)自己的錯(cuò)誤。

研究人員在一篇論文中介紹了他們的發(fā)現(xiàn),IT之家查看該論文發(fā)現(xiàn),他們讓 ChatGPT 生成了 21 個(gè)程序和腳本,涉及 C、C++、Python 和 Java 等語言。這些程序和腳本都是為了展示一些特定的安全漏洞,比如內(nèi)存損壞、拒絕服務(wù)、反序列化和加密實(shí)現(xiàn)等方面的漏洞。結(jié)果顯示,ChatGPT 在第一次嘗試時(shí)生成的 21 個(gè)程序中只有 5 個(gè)是安全的。在進(jìn)一步提示糾正其錯(cuò)誤步驟后,該大型語言模型設(shè)法生成了 7 個(gè)更安全的應(yīng)用程序,不過這只是與正在評估的特定漏洞有關(guān)的“安全”,并不是說最終的代碼不存在任何其他可利用的漏洞。

研究人員指出,ChatGPT 的部分問題是由于它沒有考慮敵對的代碼執(zhí)行模型。它會(huì)反復(fù)告訴用戶,安全問題可以通過“不輸入無效的數(shù)據(jù)”來避免,但這在現(xiàn)實(shí)世界中是不可行的。然而,它似乎能夠意識(shí)到并承認(rèn)自己建議的代碼中存在的關(guān)鍵漏洞。

魁北克大學(xué)計(jì)算機(jī)科學(xué)與工程教授、論文的合著者之一 Raphaël Khoury 告訴《The Register》:“顯然,它只是一個(gè)算法。它什么都不知道,但它可以識(shí)別出不安全的行為。”他說,最初 ChatGPT 對安全問題的回應(yīng)是建議只使用有效的輸入,這顯然是不合理的。只有在之后被要求改進(jìn)問題時(shí),它才提供了有用的指導(dǎo)。

研究人員認(rèn)為,ChatGPT 的這種行為并不理想,因?yàn)橛脩糁酪獑柺裁磫栴}需要對特定的漏洞和編碼技術(shù)有一定的了解。

研究人員還指出,在 ChatGPT 中存在著道德上的不一致性。它會(huì)拒絕創(chuàng)建攻擊代碼,但卻會(huì)創(chuàng)建有漏洞的代碼。他們舉了一個(gè) Java 反序列化漏洞的例子,“聊天機(jī)器人生成了有漏洞的代碼,并提供了如何使其更安全的建議,但卻說它無法創(chuàng)建更安全版本的代碼。”

Khoury 認(rèn)為,ChatGPT 在目前的形式下是一個(gè)風(fēng)險(xiǎn),但這并不是說沒有合理使用這種不穩(wěn)定、表現(xiàn)不佳的 AI 助手的方法。“我們已經(jīng)看到學(xué)生使用這個(gè)工具,程序員也會(huì)在現(xiàn)實(shí)中使用這個(gè)工具。”他說,“所以擁有一個(gè)生成不安全代碼的工具是非常危險(xiǎn)的。我們需要讓學(xué)生意識(shí)到,如果代碼是用這種類型的工具生成的,那么它很可能是不安全的。”他還稱,讓他感到驚訝的是,當(dāng)他們讓 ChatGPT 生成相同任務(wù)的不同語言的代碼時(shí),有時(shí)對于一種語言,它會(huì)生成安全的代碼,而對于另一種語言,它會(huì)生成有漏洞的代碼,“因?yàn)檫@種語言模型有點(diǎn)像一個(gè)黑盒子,我真的沒有一個(gè)很好的解釋或理論來說明這一點(diǎn)。”

【來源:IT之家

分享到:
標(biāo)簽:代碼 生成 漏洞 研究人員 微軟 語言 魁北克 它會(huì)
用戶無頭像

網(wǎng)友整理

注冊時(shí)間:

網(wǎng)站:5 個(gè)   小程序:0 個(gè)  文章:12 篇

  • 51998

    網(wǎng)站

  • 12

    小程序

  • 1030137

    文章

  • 747

    會(huì)員

趕快注冊賬號,推廣您的網(wǎng)站吧!
最新入駐小程序

數(shù)獨(dú)大挑戰(zhàn)2018-06-03

數(shù)獨(dú)一種數(shù)學(xué)游戲,玩家需要根據(jù)9

答題星2018-06-03

您可以通過答題星輕松地創(chuàng)建試卷

全階人生考試2018-06-03

各種考試題,題庫,初中,高中,大學(xué)四六

運(yùn)動(dòng)步數(shù)有氧達(dá)人2018-06-03

記錄運(yùn)動(dòng)步數(shù),積累氧氣值。還可偷

每日養(yǎng)生app2018-06-03

每日養(yǎng)生,天天健康

體育訓(xùn)練成績評定2018-06-03

通用課目體育訓(xùn)練成績評定