【ITBEAR科技資訊】1月3日消息，近日，創鑫智慧(Neuchips)發布了一份新聞稿，正式宣布將參與2024年CES大展，并計劃推出全新的Raptor Gen AI加速卡和Evo PCIe加速卡 LLM產品。
Neuchips首席執行官Ken Lau在新聞稿中表示，他們對能夠在2024年消費電子展上展示Raptor芯片和Evo卡感到非常高興。這兩款產品代表了自然語言處理從價格到性能的一次巨大飛躍，為企業在現有解決方案的基礎上以更小的成本部署大型語言模型(LLM)提供了可能性。
據ITBEAR科技資訊了解，Raptor Gen AI加速卡的每秒算力達到了200 TOPS，在諸如矩陣乘法、矢量和嵌入表查找等人工智能推斷運算方面表現出色，特別適用于生成式AI等多場景應用。
Evo加速卡采用8通道PCIe Gen5和32GB LPDDR5內存，主機I/O帶寬高達64GB/s，內存帶寬達到1.6Tbps，而且單卡功耗僅為55W。此外，Evo還具備100%的可擴展性，用戶可以通過輕松添加更多芯片來線性提高性能。Neuchips強調，這種模塊化設計將有助于確保客戶對未來人工智能工作負載的投資保值。
Neuchips預告即將推出的半高半長(HHHL)外形產品Viper，計劃于2024年下半年正式亮相。該公司表示，Viper將以其更大的部署靈活性為特點，通過緊湊而小巧的設計，為數據中心級人工智能加速提供全新的選擇。
