【ITBEAR科技資訊】7月24日消息,NVIDIA近日宣布推出全新的NVIDIA AI Foundry服務及NVIDIA NIM推理微服務,這兩項新服務與剛剛發布的Llama 3.1系列開源模型相輔相成,旨在為全球的生成式AI應用提供堅實的后盾。
就在前日,meta發布了Llama 3.1開源模型,此模型包含三個版本:Llama 3.1 405B、Llama 3.1 70B以及Llama 3.1 8B。Llama 3.1 405B版本在常識推理、可操作性、數學能力、工具使用以及多語言翻譯等方面,均展現出了與GPT-4、Claude 3.5 Sonnet以及Gemini Ultra等頂尖AI模型相匹敵的實力。
據ITBEAR科技資訊了解,借助NVIDIA AI Foundry,各企業和組織如今能夠結合Llama 3.1以及NVIDIA的軟件、計算能力和專業知識,為特定行業用例打造定制化的“超級模型”。這些超級模型可以利用企業內部數據,以及由Llama 3.1 405B和NVIDIA Nemotron Reward模型生成的合成數據進行訓練。
NVIDIA AI Foundry的核心驅動力來自NVIDIA DGX Cloud AI平臺。該平臺是NVIDIA與全球領先的公有云服務提供商共同設計的,旨在為企業提供彈性計算資源,這些資源可以根據AI需求的變化進行靈活擴展。
NVIDIA的創始人兼首席執行官黃仁勛強調:“meta推出的Llama 3.1開源模型標志著生成式AI在全球企業中的廣泛采用已經邁入關鍵階段。Llama 3.1將激發各企業和行業創造先進的生成式AI應用。NVIDIA AI Foundry已經將Llama 3.1整合到其服務中,助力企業構建和部署定制的Llama超級模型。”
meta的創始人兼首席執行官馬克·扎克伯格也表示:“全新的Llama 3.1模型是開源AI發展的重要一步。通過NVIDIA AI Foundry,企業能夠輕松地創建和定制用戶期望的最前沿AI服務,并通過NVIDIA NIM進行部署。我很高興能將這一成果交付到大家手中。”