在各行各業，AI技術正在深入應用到各個場景。比如在電力行業，有AI協助“值守”，電力用戶可以減少運維人力成本的投入，保障電力基礎設施的正常運轉。還能通過AI技術分析電力場站的視頻監控，可以進行實時運檢，提高電力場站的運檢效率。
深信服智能邊緣計算平臺在軟硬件適配、模型部署、復雜模型運行等方面簡化邊緣AI應用開發的難度，幫助開發者更加高效實現邊緣AI應用落地。今天來為大家揭曉深信服智能邊緣計算平臺如何解決邊緣AI工程化落地的三大難題。
一、軟、硬件異構，兼容適配「難」
由于底層AI芯片和框架的方案很多，AI應用的開發者在做軟硬協同及適配開發時難度非常高。基于深信服智能邊緣計算平臺的云邊智能協同底座，實現了適配兼容，在模型遷移適配、AI應用構建部署以及推理性能優化等多個維度，幫助企業開發者實現云邊智能高效協同。
深信服智能邊緣計算平臺內置的邊緣推理引擎Sangfor Runtime，適配主流的深度學習框架、神經網絡模型（包含目標檢測、目標追蹤、圖像分類等），通過一套標準接口，幫助開發者快速實現算法面向邊緣AI芯片的自動適配以及性能調優，為用戶提供一站式邊緣AI推理服務，進一步降低算法在不同邊緣AI芯片間的遷移成本。
二、場景多樣復雜，模型部署「難」
在實施交付現場，不同攝像頭接入的視頻流存在多類型場景的智能化分析需求，傳統點對點的配置效率低下，加大了交付成本。
在AI應用構建階段，深信服智能邊緣計算平臺通過可視化界面配置，開發者只需要上傳AI模型文件，平臺將實現自動AI鏡像打包過程，幫助開發者自動構建可用于邊緣節點上運行的AI應用鏡像，大幅節省應用開發時間。基于深信服邊緣AI技術，用戶在研發邊緣AI應用時，可以降低成本、提高模型性能。
此外，深信服智能邊緣計算平臺面向交付人員，提供多模型AI應用快速部署與模型智能調度的能力。交付人員基于客戶的業務場景需求，根據同時運行算法的數量及算法依賴關系，通過可視化界面配置單模型調度、多模型并行調度、多模型串行調度及混合調度，最終滿足不同場景下AI多模型應用的分發與部署運行，提高實時部署的便捷性。
三、大而全的復雜模型運行「難」
相較于中心云服務器，邊緣節點的資源配置有限，難以運行大而全的復雜模型。如果將云端訓練好的AI算法模型遷移至資源、算力相對有限的邊緣節點，算法開發人員需要做大量模型量化、優化以及算子層面的調整工作，過程繁雜，優化效果高度依賴開發者經驗。
深信服智能邊緣計算平臺支持開發者根據業務需求，在云上部署大模型，邊緣部署小模型。邊緣側針對樣本數據進行難易判別，簡單樣本在邊緣側由小模型完成推理，難例樣本回傳至云端由大模型完成推理，并自動實現云邊推理結果匯總。這樣，用戶在邊緣側推理可獲得更短的時延以及更高吞吐量，并兼顧了云側推理的精度。
以上就是本期關于深信服智能邊緣計算平臺的分享，關注“深信服科技”關注可以獲取更多技術內容。
