【ITBEAR科技資訊】3月18日消息,近日,馬斯克旗下的人工智能創新企業xAI宣布,他們開發的大型語言模型Grok-1已經實現開源,并向全球公眾開放下載。這一消息在科技界引起了廣泛關注。
Grok-1是一款采用混合專家系統(Mixture-of-Experts,MoE)技術構建的大型語言模型,其參數數量高達3140億,這一數字遠超過了OpenAI的GPT-3.5模型的1750億參數,成為迄今為止參數量最大的開源大型語言模型。根據Apache 2.0協議的條款,xAI已經開放了Grok-1的模型權重和架構,供全球開發者共同研究和使用。
據ITBEAR科技資訊了解,xAI強調Grok-1完全由公司內部團隊自行訓練完成,其預訓練階段已于2023年10月圓滿結束。此次公開發布的是Grok-1在預訓練階段結束時的原始基礎模型檢查點,這意味著該模型還未經過任何針對特定應用場景的微調。對于開發者而言,這無疑提供了一個極具潛力的研究起點。
xAI的成立旨在與OpenAI、谷歌、微軟等科技巨頭在大型模型領域展開競爭。其團隊成員均來自業界頂尖的研究機構和知名企業,如OpenAI、谷歌DeepMind、谷歌研究院以及微軟研究院等。這樣一支強大的團隊背景無疑為xAI在大型模型領域的競爭提供了堅實的支持。
盡管xAI目前還沒有公布Grok-1的具體測試成績,但業內對于這款大型語言模型的性能表現充滿期待。隨著各大科技巨頭在人工智能領域的競爭日益激烈,xAI的Grok-1無疑將成為這場競爭中的一大看點。