【ITBEAR科技資訊】5月22日消息，近日，一場匯聚了全球科技巨頭的“人工智能(AI)首爾峰會”在韓國首爾隆重舉行。據(jù)路透社報道，微軟、谷歌、OpenAI等16家業(yè)界領(lǐng)先的科技公司在此次會議上共同承諾，將致力于安全地開發(fā)AI模型，并在無法掌控最極端風(fēng)險的情況下，果斷關(guān)閉其尖端系統(tǒng)。
此次參會的科技公司陣容強(qiáng)大，除了微軟、谷歌、OpenAI等國際知名企業(yè)，還包括中國的智譜AI，該公司曾得到騰訊、阿里、美團(tuán)和小米的投資。同時，IBM、亞馬遜、meta以及三星等也均派代表出席了本次峰會。
據(jù)ITBEAR科技資訊了解，這些科技巨頭在峰會上提出的安全承諾，具體包括了發(fā)布一個詳細(xì)的框架，該框架將清晰闡述各公司將如何全面評估其AI模型潛在的風(fēng)險。這一承諾的核心在于，一旦出現(xiàn)風(fēng)險嚴(yán)重到“無法接受”的極端情況，且無法采取有效措施來降低這種風(fēng)險時，相關(guān)的人工智能公司將立即啟動緊急停止開關(guān)，暫停相關(guān)AI模型的開發(fā)或部署工作。
這并不是人工智能企業(yè)首次作出類似的安全承諾。去年，亞馬遜、谷歌、meta以及微軟就曾在美國政府的推動下，簽署過一項自愿性的安全保障措施，旨在確保各自發(fā)布的AI產(chǎn)品是安全可靠的。
對于此次首爾峰會上的承諾，被譽為“人工智能教父”的著名計算機(jī)科學(xué)家約書亞·本吉奧表示了歡迎。然而，他也強(qiáng)調(diào)，這些自愿性的承諾必須配合有效的政府監(jiān)管，才能確保其真正落到實處。
