日日操夜夜添-日日操影院-日日草夜夜操-日日干干-精品一区二区三区波多野结衣-精品一区二区三区高清免费不卡

公告:魔扣目錄網為廣大站長提供免費收錄網站服務,提交前請做好本站友鏈:【 網站目錄:http://www.ylptlb.cn 】, 免友鏈快審服務(50元/站),

點擊這里在線咨詢客服
新站提交
  • 網站:51998
  • 待審:31
  • 小程序:12
  • 文章:1030137
  • 會員:747

上周,AI target=_blank class=infotextkey>OpenAI 的 CEO Sam Altman 和 AI 開發平臺 HumanLoop 的創始人Raza Habib 等 20 多位開發者開展了一次閉門討論會,主要聊了 OpenAI 的使命、AI 的影響以及一些在開發過程中的實際問題。

會后 Raza Habib 做了一份詳細的會議要點整理,其中提到了 OpenAI 接下來的重要工作安排以及時間節點,我們對其進行了全文編譯,Enjoy it!

劃重點:

1. OpenAI 嚴重受限于 GPU,需要更多的 GPU 來解決突破 ChatGPT 遇到的技術問題

2. 給 GPT-4 降本提效是 OpenAI 當前的首要任務

3. 很快 ChatGPT 能支持輸入更多的文字(最高可達 100 萬 tokens)

4. GPT-4 的多模態功能(視覺識別等)要到 2024 年才會公開

5. OpenAI 正在考慮開源 GPT-3

以下是 Raza Habib 的全文記錄:

上周,我有幸與 Sam Altman 和其他 20 位開發者一起坐下來,討論 OpenAI 的 API 和他們的產品計劃。Sam 對此非常開放。討論涉及到了開發者實際遇到的問題以及與 OpenAI 的使命和 AI 對社會影響相關的大問題。以下是關鍵要點:

1. OpenAI 目前嚴重受限于 GPU

在整場討論中,一個反復提到主題是 OpenAI 目前極度依賴 GPU,這讓他們很多短期計劃都延遲了。

OpenAI 收到最多的用戶投訴都是關于 API 的可靠性和速度。Sam 理解他們的擔憂,并解釋說問題的大部分是由于 GPU 資源短缺造成的。

ChatGPT 此前支持的 32k tokens 上下文功能還不能推廣給更多的人,OpenAI 還有一些問題需要解決,因此,盡管他們可能很快就會有 100k - 1M 的 tokens 上下文窗口(今年內),但還都需要在研究上取得突破。

微調 API 也目前受限于 GPU 資源。他們還沒有使用像 Adapters 或 LoRa 這樣的高效微調方法,因此微調運行和管理非常消耗計算資源。未來會有更好的微調方式。他們甚至可能會主持一個社區貢獻模型的市場。

專用容量供應同樣受限于 GPU 資源。OpenAI 為有私有需求的客戶提供了專用容量,可以讓客戶在專用的空間運行私人數據。要訪問此服務,客戶需要承諾預支 10 萬美元。

2. OpenAI 路線圖

Sam 分享了 OpenAI API 的暫定的短期路線圖。

2023:

更便宜、更快的GPT-4 —— 這是他們的首要任務。總的來說,OpenAI的目標是盡可能降低‘智能的成本’,因此他們將努力繼續降低‘API’的成本。

更長的上下文窗口 —— 在不久的將來,最高可達 100 萬個 tokens 的上下文窗口是可能的。

微調 API —— 微調 API 將擴展到最新的模型,但具體形式將由開發者實際需求的決定。

有狀態的API —— 當你今天調用聊天API時,你必須反復傳遞相同的對話歷史,并反復支付相同的tokens。將來將有一個記住對話歷史的API版本。

2024:

多模態ーー這是作為 GPT-4 發行版的一部分演示的,但是在獲得更多的 GPU 資源之前不能擴展到所有人。

3. 插件‘沒有 PMF’,短期內應該不會出現在 API 中

很多開發人員都對通過 API 訪問 ChatGPT 插件感興趣,但 Sam 說他認為這些插件短期內不會發布。除了瀏覽之外,插件的使用表明他們還沒有 PMF。

他指出,很多人認為他們希望自己的應用程序位于 ChatGPT 之內,但他們真正想要的是應用程序中的 ChatGPT。

4. 除了與‘類 ChatGPT’競爭外,OpenAI 將避免與其客戶競爭

有不少開發者表示,他們擔心在 OpenAI 可能最終發布與他們競爭的產品的情況下使用 OpenAI 的 API。Sam 表示,OpenAI 不會發布 ChatGPT 之外的更多產品。

Sam 表示,按照慣例偉大的平臺都會有殺手級應用,ChatGPT 將允許他們通過成為自己產品的客戶來使 API 更好。ChatGPT 的愿景是成為工作的超級智能助手,但 OpenAI 不會涉及其他許多 GPT 用例

不少開發人員表示,他們擔心未來 OpenAI 針對他們的產品會開發出強大的競品,因此他們對使用 OpenAI API 持著謹慎的態度。對此,Sam 說 OpenAI 不會在 ChatGPT 之外發布更多的產品。

5. 監管是必要的,但開源也是必要的

雖然 Sam 呼吁對 AI 的未來進行監管,但他并不認為現有模式是危險的,并認為監管或禁止現有模式將是個大錯誤。

他重申了他對開源重要性的信念,并表示 OpenAI 正在考慮將 GPT-3開源。他們之所以還沒有開源是因為他們覺得沒多少人和公司有能力妥善管理如此大型的大語言模型。

6. 模型比例定律仍然成立

最近許多文章聲稱‘巨型人工智能模型的時代已經結束’。但這并不準確。

OpenAI 的內部數據表明,模型性能的與規模成比例的規律仍然成立,并且使模型更大性能更強。

值得注意的是,由于 OpenAI 在短短幾年內就將模型擴大了數百萬倍,這樣的擴展速度不可能持續下去。OpenAI 會繼續嘗試把模型做得更大,但它們每年的規模可能只會增加一倍或兩倍,而不是增加很多數量級。

事實上,擴大模型規模對 AGI 開發的時間表有重大影響。擴大規模的理念是,我們可能已經有構建 AGI 所需的大部分工作,剩下的大部分工作將采用現有的方法,并將它們擴展到更大的模型和更大的數據集。

如果規模擴張的時代已經結束,那么我們應該預期 AGI 會很遙遠。比例定律仍然成立的事實也表示我們會用更短的時間實現 AGI。

分享到:
標簽:ChatGPT
用戶無頭像

網友整理

注冊時間:

網站:5 個   小程序:0 個  文章:12 篇

  • 51998

    網站

  • 12

    小程序

  • 1030137

    文章

  • 747

    會員

趕快注冊賬號,推廣您的網站吧!
最新入駐小程序

數獨大挑戰2018-06-03

數獨一種數學游戲,玩家需要根據9

答題星2018-06-03

您可以通過答題星輕松地創建試卷

全階人生考試2018-06-03

各種考試題,題庫,初中,高中,大學四六

運動步數有氧達人2018-06-03

記錄運動步數,積累氧氣值。還可偷

每日養生app2018-06-03

每日養生,天天健康

體育訓練成績評定2018-06-03

通用課目體育訓練成績評定