【ITBEAR科技資訊】6月26日消息,近日,Etched公司成功完成了1.2億美元(折合人民幣約8.73億元)的A輪融資,這筆資金將被投入到全球首款專為Transformer架構設計的ASIC芯片——Sohu的開發與銷售中。
Etched公司,這家由哈佛大學輟學生加文?烏伯蒂(Gavin Uberti)和克里斯?朱(Chris Zhu)創立、運營時間不足2年的初創企業,正以其獨特的技術視角和創新力量,引領著人工智能硬件的新潮流。
據ITBEAR科技資訊了解,Sohu芯片的最大突破在于它直接將Transformer架構蝕刻到芯片中,從而實現了硬件與算法的深度融合。烏伯蒂透露,Sohu芯片采用了臺積電的4納米工藝,這使得其推理性能顯著優于傳統的GPU和其他通用AI芯片,同時在能耗方面也有更出色的表現。
在性能測試中,以Llama 70B為基準,Sohu芯片每秒能處理超過50萬個tokens,這一速度為用戶構建出了GPU無法實現的產品提供了可能。此外,Sohu還具備實時語音代理、毫秒級處理大量文本、強大的代碼樹搜索、并行比較多個響應、多播推測解碼以及實時生成新內容等先進功能,為運行未來萬億級參數模型鋪平了道路。