【ITBEAR科技資訊】6月7日消息，在2024年臺北國際電腦展上，邊緣運算人工智能領域的佼佼者耐能(Kneron)帶來了令人矚目的新產品。耐能，這家由CEO劉峻誠和張懋中于2015年共同創立的公司，專注于為行業提供前沿的邊緣AI技術。此次展會，耐能隆重推出了其下一代AI產品——KNEO 330服務器，以及裝載了第三代NPU芯片KL830的PC設備。
據悉，耐能自創立以來就備受行業關注，其背后的投資者陣容亦十分強大，包括李嘉誠旗下的維港投資、高通、鴻海集團、阿里巴巴創業者基金、中華開發資本等。這些知名集團的支持無疑為耐能的發展注入了強大的動力。
據ITBEAR科技資訊了解，耐能CEO劉峻誠在發布會上強調，目前眾多使用生成式AI的公司高度依賴微軟、亞馬遜等云服務巨頭，并從英偉達或AMD等公司大量采購芯片。然而，出于對數據隱私和安全的擔憂，許多企業可能不愿將核心數據交給外部公司處理。為此，耐能提供了一種替代方案，即利用其技術建設企業內部服務器，以構建專屬的AI應用程序。
發布會上，耐能展示了兩款新品。其中，KNEO 330服務器以其48TOPS的強大AI計算能力脫穎而出，最多可支持8個并發連接，同時支持LLM和Stable Diffusion技術。該服務器在低硬件條件下實現了與云端解決方案相當的RAG精度，為小型企業降低了30%~40%的整體AI成本。
另一款新品是搭載第三代NPU芯片KL830的PC設備。雖然具體細節尚未透露，但發布會上已使用惠普設備進行了實地演示。耐能表示，他們正與幾家領先的PC OEM廠商緊密合作，這些廠商將成為其最新芯片的首批客戶。
KL830芯片，作為一種神經處理單元(NPU)，與CPU和GPU協同工作，以執行AI任務。它提供了高達10eTOPS@8bit的綜合計算能力，而峰值功耗僅為2W，這使得它能夠支持眾多參數較低的大型語言模型。耐能還指出，KL830可通過USB AI加速棒使用，從而將各種設備，無論是寬帶路由器、物聯網攝像頭還是傳統電腦，轉變為邊緣AI設備。
