(ChinaZ.com) 10月19日消息: 微軟宣布全面推出 Azure AI Content Safety 內容安全，這是一項新服務，可幫助用戶跨應用程序和服務檢測和過濾有害的 AI 和用戶生成的內容。
該服務包括文本和圖像檢測功能，可以識別微軟所稱的「冒犯、風險或不受歡迎」的內容，包括褻瀆、成人內容、血腥暴力和某些類型的言論。
「通過關注內容安全，我們可以創建一個更安全的數字環境，促進 AI 的負責任使用，并保護個人和整個社會的福祉，」Azure Anomaly Detector 產品經理 Louise Han 在一篇博文中宣布了該服務的推出。
Azure AI Content Safety 具備處理各種內容類別、語言和威脅的能力，可以對文本和視覺內容進行審查和調節。它還提供了使用 AI 算法掃描、分析和調節視覺內容的圖像功能，確保了微軟所稱的 360 度全面的安全措施。
該服務還可以在多種語言中進行內容審查，并使用嚴重性指標來評估特定內容的嚴重程度，該指標的范圍從 0 到 7。
0-1 級的內容被認為是安全且適合所有受眾的，而表達偏見、帶有評判性或有意見的內容被評為 2-3 級，即低級別。
中等嚴重性的內容被評為 4-5 級，其中包含冒犯、侮辱、嘲笑、恐嚇語言或針對身份群體的明確攻擊，而高嚴重性的內容被評為 6-7 級，其中包含有害行為的宣傳、支持或美化對身份群體的極端有害活動。
Azure AI Content Safety 還使用多類別過濾器來識別和分類多個關鍵領域的有害內容，包括仇恨、暴力、自殘和性內容。
「[在網絡安全方面]，不僅需要考慮人類生成的內容，尤其是隨著 AI 生成的內容變得普遍，確保 AI 生成的輸出材料的準確性、可靠性和無害或不適當的材料至關重要。內容安全不僅保護用戶免受錯誤信息和潛在危害，還維護了倫理標準，并建立了對 AI 技術的信任，」Han 寫道。
Azure AI Content Safety 的定價基于按需付費。有興趣的用戶可以在 Azure AI Content Safety 定價頁面（https://azure.microsoft.com/en-us/pricing/details/cognitive-services/content-safety/）上查看定價選項。
