繼年初發布的思元290之后，寒武紀于11月初發布了本年度第二款新品思元370，以及基于思元370的兩款加速卡。這也是寒武紀的首款第四代產品。
思元370在算力上，基于臺積電 7nm 制程工藝、整體集成390億個晶體管的思元370最大算力達到 256TOPS（INT8），相比上一代思元270算力實現翻倍。
思元370還是寒武紀首款采用 chiplet（芯粒）技術的AI芯片，在國內應該也屬于行業首顆chiplet AI芯片。由于思元370在一顆芯片中封裝2顆AI計算芯粒（MLU-Die），每一個MLU-Die都具備獨立的AI計算單元、內存、IO以及MLU-Fabric控制和接口，不同MLU-Die可以組合規格多樣化的產品，可以為用戶提供適用不同場景的高性價比AI芯片。
值得注意的是，在架構上，思元370屬于寒武紀第四代自研智能芯片架構，第一代架構MLUarch00主打智能加速IP核，第二代MLUarch01主打多核架構，第三代MLUarch02主打多核共享片內存儲，本次發布的第四代MLUarch03擁有新一代張量運算單元，內置Supercharger模塊大幅提升各類卷積效率；采用全新的多算子硬件融合技術，在軟件融合的基礎上大幅減少算子執行時間；片上通訊帶寬是上一代MLUarch02的2倍、片上共享緩存容量最高是MLUarch02的2.75倍；推出全新MLUv03指令集，更完備，更高效且向前兼容。憑借全新的我MLUarch03，相較于峰值算力的提升，思元 370 實測性能表現非常亮眼：同功率性能超過NVIDIA T4兩倍還多，完成同樣的任務，功耗可以是A10的一半。
自思元100 以來，寒武紀在三年之內已經連續推出三代云端AI 芯片，最新一代產品在工藝制程、架構、指令集和軟件等方面有了全面的提升，實現了同級芯片的頂尖水平。
特別值得一提的是，新品思元370，是在去年三季度流片、相關加速卡產品在今年二季度陸續送測客戶后才進行的發布。目前，部分客戶已完成測試、導入，產品進入早期銷售階段。
百度異構計算架構師黎世勇就對寒武紀的思元370充滿期待，“自2018年起，百度與寒武紀展開了多維度的軟硬件協作，思元100等產品服務百度語音合成等多種業務場景。我們相信，隨著思元370等新產品的落地，雙方軟硬件充分結合的生態勢必將發揮更大的效能，助力人工智能行業多場景落地。”
思元370系列加速卡也已與國內主流服務器合作伙伴完成適配。浪潮信息副總裁、人工智能和高性能產品線總經理劉軍表示：“浪潮跟寒武紀長久以來保持著緊密合作，思元370在性能、能效等方面較之思元270均有大幅提升，我們期待雙方未來能夠攜手為更多行業和領域提供人工智能計算相關服務。”
劉軍還介紹了與寒武紀之前合作的進展：“浪潮搭載寒武紀芯片的AI服務器已經在中國移動、互聯網、智算中心等客戶和行業中實現落地。”
有媒體專門求證了中國移動集采中標的知情人士，其提到，中國移動2021年至2022年人工智能通用計算設備集中采購中，整個標包三里的中標產品（浪潮、中興）都有用到寒武紀的加速卡思元270。
近年來，寒武紀在智慧金融、智慧能源、智慧交通等行業與合作伙伴共同完成了諸多落地案例。眾所周知，芯片行業呈現典型的“投資前置，收益后置”特征，產品從起量到規模化量產銷售需要一個相對漫長的過程，相比其他行業更難實現商業化的跳躍式發展。但從產品策略及落地應用角度看，寒武紀無疑切實跳出了PPT，正穩健地踐行著自己的“中立通用芯片設計公司”定位，切實為客戶創造實際價值。
