來源：IT之家
在目前正在進行的黃仁勛 2024 臺北電腦展主題演講上，黃仁勛介紹生成式人工智能將推動軟件全棧重塑，展示其 NIM（Nvidia Inference Microservices）云原生微服務。
英偉達認為 "AI 工廠 " 將掀起一場新產業革命：以微軟開創的軟件行業為例，黃仁勛認為生成式人工智能將推動其全棧重塑。
為方便各種規模的企業部署 AI 服務，英偉達今年 3 月推出了 NIM（Nvidia Inference Microservices）云原生微服務。
NIM 是一套經過優化的云原生微服務，旨在縮短上市時間，并簡化生成式 AI 模型在云、數據中心和 GPU 加速工作站的任何位置的部署。它使用行業標準 API，抽象化 AI 模型開發和生產包裝的復雜性，從而擴展開發者池。
IT 之家注意到，官方制作了一個 llama3 大模型的 NIM 容器，現已上線英偉達官網，開放供全部用戶下載并任意部署。
▲ 英偉達官網
