【ITBEAR】據路透社近期報道,人工智能領域正迎來一場新的技術革命。OpenAI等頂尖公司正努力克服在開發大型語言模型過程中的挑戰,尋求通過更類人的訓練技術來優化算法思考方式。
多位人工智能領域的科學家、研究人員及投資者向路透社透露,這些新技術,如OpenAI近期發布的o1模型所采用的技術,可能會對人工智能行業的競爭格局產生深遠影響,同時改變對資源的需求,從能源到芯片類型都將受到影響。
盡管過去兩年中,像ChatGPT這樣的病毒式聊天機器人的發布推動了人工智能熱潮,許多科技公司宣稱通過增加數據和計算能力就能不斷改進模型,但現在一些行業領軍人物開始對這種“越大越好”的理念提出質疑。
OpenAI的聯合創始人之一Ilya Sutskever,現在也是Safe Superintelligence (SSI)的聯合創始人,告訴路透社,預訓練階段的擴大已經達到了某種穩定狀態。他被認為是推動通過更多數據和計算能力實現生成式人工智能飛躍的關鍵人物。
Sutskever表示:“我們現在進入了一個好奇和發現的新時代。每個人都在探尋下一個突破點。”他拒絕透露SSI正在研究的具體技術細節,但提到正在探索擴大預訓練的替代方法。
在幕后,各大人工智能實驗室在競相發布性能超越GPT-4的大型語言模型時,遭遇了延遲和令人失望的結果。這些大型模型的訓練運行成本高昂,且由于系統的復雜性,更容易出現硬件故障。同時,數據資源的枯竭和電力短缺也成為訓練的阻礙。
為了應對這些挑戰,研究人員正在探索測試時計算技術,這種技術能在模型使用時增強其性能。例如,模型可以實時評估和選擇最佳路徑,而不是立即給出答案。OpenAI的o1模型就采用了這種技術,能夠以更類人的方式多步驟思考問題。
這一技術變革可能會對人工智能硬件市場產生重大影響,目前該市場主要由對Nvidia AI芯片的需求主導。風險投資公司也在密切關注這一轉變,并評估其對其投資的人工智能實驗室的影響。
紅杉資本的合伙人Sonya Huang表示,這種轉變將推動我們從大規模預訓練集群轉向用于推理的分布式云服務器,即所謂的“推理云”。
與此同時,Nvidia指出其最近在演講中強調了o1模型背后技術的重要性,并談到了對其芯片進行推理的需求不斷增加。然而,與在訓練芯片市場的主導地位不同,Nvidia在推理市場可能會面臨更多競爭。
這場由OpenAI等公司引領的技術革命,正在重塑人工智能行業的未來,從訓練技術到硬件需求,都將迎來翻天覆地的變化。