【ITBEAR科技資訊】7月19日消息，商湯科技在智能汽車領域取得了重大突破。商湯科技聯合創始人、首席科學家王曉剛在17日宣布，商湯絕影已成功在行業內率先實現原生多模態大模型的車端部署。這一創新技術的推出，標志著智能汽車在人工智能領域邁出了重要一步。
據了解，商湯絕影的車載端側8B模型在性能上表現出色，首包延遲控制在300毫秒以內，同時推理速度高達40 Tokens/秒，該技術還能夠覆蓋主流算力平臺。為了支持這一強大功能，商湯絕影專門開發了名為“HyperPPL”的計算引擎。該引擎不僅擴展并支持了主流車載計算硬件，還兼容多種主流操作系統，并能適配多個車載芯片的部署平臺。
HyperPPL針對車載多人場景進行了優化。這意味著，在車內多人并發使用的情況下，車端多模態大模型的推理效率并不會明顯降低，從而確保了用戶體驗的流暢性。
據ITBEAR科技資訊了解，商湯絕影的技術實力已得到實際應用驗證。深圳首條自動駕駛公交線路便采用了商湯絕影的車輛與技術，實現了所有駕駛操作的無人員介入。這一成就不僅彰顯了商湯絕影在自動駕駛技術領域的領先地位，也為未來智能交通的發展提供了有力支持。
展望未來，隨著技術的不斷進步，更高算力的車載芯片即將問世。據悉，明年英偉達將推出上千TOPS算力的車載芯片。基于這一更高算力的計算平臺，商湯絕影預計其多模態大模型車端部署方案的首包延遲將大幅降低，同時推理速度也將進一步提高。
