【ITBEAR科技資訊】5月22日消息，據路透社報道，在近日舉行的“人工智能(AI)首爾峰會”上，微軟、谷歌、OpenAI等全球16家頂尖科技公司聯合發表聲明，承諾將安全開發AI模型。此次峰會于21日和22日舉行，匯聚了眾多業內領軍企業，其中包括國內備受矚目的智譜AI(曾獲得騰訊、阿里、美團和小米等企業的投資)，以及國際知名企業如IBM、亞馬遜、meta和三星。
這些科技巨頭在聲明中表示，將共同致力于確保AI技術的安全發展。為此，他們發布了一套框架，詳細闡述了如何評估其AI模型的風險。該框架旨在確保在開發過程中，各公司能夠對其模型的風險進行全面衡量和有效控制。
據ITBEAR科技資訊了解，在這些安全承諾中，各公司還特別強調了在極端風險情況下的應對措施。他們承諾，在風險達到嚴重且“無法接受”的程度時，如果無法采取有效措施來降低風險，將不得不啟動緊急停止機制，暫停相關模型和系統的開發或部署。這一承諾顯示了這些科技公司在面對潛在風險時的決心和責任感。
這并不是人工智能企業首次作出類似的安全承諾。去年，亞馬遜、谷歌、meta和微軟等公司就曾簽署過一份由美國政府促成的自愿保障措施協議，旨在確保他們的AI產品在發布時具備足夠的安全性。然而，此次首爾峰會上的承諾更為具體和細致，顯示了行業對于AI技術安全性的高度關注和持續努力。
對于這一系列安全承諾，“人工智能教父”、著名計算機科學家約書亞·本吉奧表示歡迎。他認為這些自愿承諾是積極的開始，但同時也指出，必須伴隨有效的監管措施來確保其真正得到落實。只有這樣，人工智能技術的發展才能更好地造福人類，同時降低潛在風險。
