鞭牛士報(bào)道，3月18日消息，據(jù)外電報(bào)道，埃隆·馬斯克 (Elon Musk) 的人工智能初創(chuàng)公司 xAI 邁出了重大一步，開源了其大型語言模型 (LLM) Grok。這意味著企業(yè)家、程序員、公司和個人現(xiàn)在可以訪問 Grok 的權(quán)重和文檔，從而允許他們將該模型的副本用于各種目的，包括商業(yè)應(yīng)用。
Grok-1 是一個由 xAI 從頭開始訓(xùn)練的 3140 億參數(shù)混合專家模型，現(xiàn)在可以在其 Github 頁面或通過 torrent 鏈接下載。
Grok 在 Apache License 2.0 下發(fā)布，允許商業(yè)使用、修改和分發(fā)。但是，用戶必須遵守某些要求，例如復(fù)制原始許可證和版權(quán)聲明并說明他們所做的更改。Grok 擁有 3140 億個參數(shù)，在復(fù)雜性和性能方面超越了開源競爭對手。該模型的架構(gòu)融合了神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)的創(chuàng)新方法，將 25% 的權(quán)重用于給定的令牌，以提高效率和有效性。
此前，Grok 只能通過 Elon Musk 的社交網(wǎng)絡(luò) X 通過 X Premium+ 付費(fèi)訂閱服務(wù)訪問。然而，Grok 的開源并不包括其訓(xùn)練數(shù)據(jù)的完整語料庫，也不提供對 X 上可用的實(shí)時信息的訪問。用戶仍然需要訂閱 X 的付費(fèi)版本。
Grok 被定位為 OpenAI 的 ChatGPT 和其他領(lǐng)先的谷歌AI的競爭對手。它以意為理解的俚語命名，被描述為模仿《銀河系漫游指南》的人工智能。馬斯克將 Grok 定位為比其他谷歌AI更幽默、更不受審查的替代方案，這對擔(dān)心人工智能審查制度的用戶特別有吸引力。
Grok 的發(fā)布也是馬斯克在針對 OpenAI 的訴訟中的一種立場，指責(zé)該公司背離了其非營利協(xié)議。
Grok 的開源引起了人工智能社區(qū)的好奇和興奮。技術(shù)專家指出了該模型的有趣特征，例如在前饋層中使用 GeGLU 及其標(biāo)準(zhǔn)化方法，包括有趣的三明治范數(shù)技術(shù)。此版本預(yù)計(jì)會給其他 LLM 提供商（尤其是競爭對手的開源模型）帶來壓力，以向用戶證明其優(yōu)勢。
總體而言，Grok的開源標(biāo)志著人工智能技術(shù)發(fā)展的重大舉措。它為企業(yè)家、程序員和公司提供了更好的可訪問性和機(jī)會，可以將這種高級語言模型用于各種應(yīng)用程序。隨著人工智能社區(qū)對 Grok 的探索和實(shí)驗(yàn)，看看它如何塑造自然語言處理和人工智能進(jìn)步的未來將會很有趣。
上個月，馬斯克還對 OpenAI 及其聯(lián)合創(chuàng)始人薩姆·奧爾特曼 (Sam Altman) 和格雷格·布羅克曼 (Greg Brockman) 提起訴訟，指控其執(zhí)行營利性封閉源任務(wù)而違反合同。
OpenAI 隨后發(fā)表了一篇博文，聲稱馬斯克最早在 2015 年就同意轉(zhuǎn)向盈利模式。
一月份，馬斯克否認(rèn)了xAI 正在籌集資金的說法，稱他尚未就這樣做的計(jì)劃進(jìn)行過任何對話。馬斯克去年 7 月推出了 xAI，作為 OpenAI 和其他人工智能公司的競爭對手，隨后于 11 月推出了 Grok 語言模型。
