高效靈活的云上基礎設施，是大模型創(chuàng)業(yè)的必要底座。
7月20日，騰訊云對外披露助力MiniMax研發(fā)大模型的最新進展。目前，騰訊云長期支持MiniMax的千卡級任務穩(wěn)定運行在騰訊云上，可用性達99.9%。
MiniMax是一家專注通用大模型研發(fā)的獨角獸創(chuàng)業(yè)企業(yè)，擁有文本、語音、視覺多種模態(tài)融合的通用大模型引擎能力。研發(fā)過程中，每日億級的調用次數，也帶來了對算力的海量需求。
從2022年6月起，基于算力集群、云原生、大數據、安全等產品能力，騰訊云為MiniMax搭建了從資源層、數據層到業(yè)務層的云架構。
在資源層，高性能、高彈性和高穩(wěn)定的算力需要借助專業(yè)的云服務。騰訊云協(xié)同優(yōu)化單機算力、網絡架構和存儲性能，為MiniMax構建起大規(guī)模、分布式的HCC高性能計算集群。
借助騰訊自研的星脈網絡，HCC集群將通信損耗降到更低；CFS Turbo、COS+GooseFS高性能存儲，使得上千個計算節(jié)點能同時高速讀取訓練數據。
同時，利用騰訊云容器服務TKE，MiniMax實現了對不同規(guī)格云服務器的統(tǒng)一管理和調度，各種類型的應用和服務得以部署在同一套基礎設施上，資源實現了高效整合，資源利用率大幅提升；
基于云原生的管理方式，支撐7*24小時的全局監(jiān)控視角，支持編排、框架、實例等多層級的指標監(jiān)控。一旦觸發(fā)故障，能夠在5分鐘內恢復任務、10分鐘內恢復基礎設施，無需人工干預完成，能夠最大化保障任務連續(xù)進行。
根據實測數據，在云底座的支撐下，騰訊云助力MiniMax扛住了激增的并發(fā)計算量；基于云原生架構，MiniMax整體用云成本降低了20%。
在數據層，MiniMax在大數據分析方面也有大量的任務需求。
通過騰訊云的數據集成DataInlong、流計算Oceanus、數據湖計算DLC等云原生大數據產品提供的數據處理能力，對大量數據做實時或離線分析，滿足了MiniMax在各個階段的數據分析需求，實現數據的快速靈活部署。以容器化的方式使用大數據組件，使得模型驗證、推理等任務得以按計劃推進。
此外，大模型研發(fā)過程中，MiniMax對云上資產安全、Web業(yè)務運營風險、DDoS攻擊防護等高度關注。
通過引入騰訊云的防火墻、WAF、主機安全、漏洞掃描、數據加密、iOA零信任安全管理等一系列安全產品，MiniMax實現了對云上資產的全方位保護，確保業(yè)務的穩(wěn)定運行和數據的安全性。
業(yè)務上云后，基于海量、彈性的算力支撐和大量改進調優(yōu)，MiniMax的大模型研發(fā)得以加速。
MiniMax業(yè)務副總裁魏偉表示：“成熟的云基礎設施，既滿足了業(yè)務彈性與穩(wěn)定性的需要，又提升了研發(fā)效率。MiniMax將進一步擴大用云規(guī)模，與騰訊云加速訓練、推理等更多業(yè)務場景的云上落地，共同打造面向大模型的云上基礎設施。相信未來，云計算會為AIGC帶來更多可能。”
在算力集群、星脈網絡、向量數據庫之外，騰訊云還推出了涵蓋模型預訓練、模型精調、智能應用開發(fā)的一站式行業(yè)大模型解決方案，助力企業(yè)快速搭建專屬模型。
未來，騰訊云將繼續(xù)通過軟硬一體的方式，持續(xù)加速全社會云上創(chuàng)新。
