來源：三易生活
繼此前在今年 3 月 29 日，圖靈獎得主 Yoshua Bengio、推特 CEO 馬斯克等多位業界和學界人士聯署公開信，呼吁所有人工智能實驗室立即暫停訓練比 GPT-4 更為強大的人工智能系統、暫停至少 6 個月，以便制定和實施安全協議后。近日在麻省理工學院舉行的一個討論商業和人工智能的活動中，OpenAI 首席執行官兼聯合創始人 Sam Altman 對這一事件以及 GPT-4 后續研發等問題進行了回應。
Sam Altman 指出，他也認為人工智能確實存在重大的安全挑戰，隨著大模型的能力越來越強，與之對應的安全措施確實需要增加。據他透露，GPT-4 便是在訓練完成后六個月才發布，期間公司對其進行了大量安全性方面的研究，并接受了外部審核。Sam Altman 表示，" 自從我們發布 GPT-4 以后，一切都很不錯。"
事實上，此前在今年早些時候，Sam Altman 就曾不止一次承認人工智能技術讓他 " 有點害怕 "。并且他還認為，隨著人工智能技術的不斷發展，人類可能面臨著前所未有的挑戰和風險。
但 Sam Altman 也認為，馬斯克等人呼吁將人工智能研發工作暫停 6 個月的公開信 " 缺少大部分技術細節，無法了解需要暫停的地方 "，而且暫停訓練并非人工智能安全問題的解決之道。
就在此次活動舉行的的當天，OpenAI 公司總裁兼聯合創始人 Greg Brockman 還發布一段長文，強調公司對大模型安全問題的重視。他表示，" 我們計劃繼續加強我們就安全問題采取的措施，更積極地面對安全性問題，要比很多用戶想的更積極。"
此外 Sam Altman 還指出，這封公開信的早期版本曾聲稱 OpenAI 目前正在訓練 GPT-5，但這是謠傳，" 我們現在沒有訓練，也短期內不會訓練 GPT-5 ……所以從這個意義上說，這封信有點兒愚蠢 "。
但同時他也透露，目前該公司正在拓展 GPT-4 的能力，并表示，" 我們正在 GPT-4 之上做其他事情，我認為這些都涉及到安全問題，這些問題在信中被完全忽略了 "。
此外 Sam Altman 還提及，目前人工智能相關監管的一個重要挑戰是難以衡量和跟蹤進展。具體來說，有編號的版本產品只是為了強調技術的明確發展，但并不能說明具體的技術進步程度，這實際上只是一種 " 營銷工具 "，例如 iPhone 35 要比 iPhone 34 好。
Sam Altman 還表示，目前大語言模型的規模可能正在接近極限，而且大語言模型并不是規模越大越好，" 人們太關注參數數量了，我認為最重要的是提升性能 "。
