【ITBEAR科技資訊】10月18日消息，微軟公司為維護(hù)社交媒體和數(shù)字平臺(tái)上的健康和和諧社區(qū)環(huán)境，減少包括偏見、仇恨和暴力內(nèi)容在內(nèi)的不良素材，于今年5月開始測(cè)試其AI內(nèi)容審核工具Azure AI Content Safety。今天，這一工具經(jīng)過多月的測(cè)試正式發(fā)布。
據(jù)ITBEAR科技資訊了解，Azure AI Content Safety集成了多個(gè)經(jīng)過訓(xùn)練的AI模型，能夠識(shí)別圖片和文本中包含的偏見、仇恨、暴力等不當(dāng)內(nèi)容，還可以理解并審查八種不同語言的素材，為標(biāo)記的內(nèi)容提供嚴(yán)重性評(píng)分，從而協(xié)助人工審核員確定需要采取行動(dòng)的內(nèi)容。
起初，這一內(nèi)容審核工具是作為Azure OpenAI服務(wù)的一部分發(fā)布的，但如今微軟將其作為一個(gè)獨(dú)立的系統(tǒng)正式推向市場(chǎng)。
微軟在官方博文中強(qiáng)調(diào)：“這意味著客戶可以將其應(yīng)用于來自開源模型以及其他公司模型的人工智能生成內(nèi)容，也可以用于檢查部分由用戶生成的內(nèi)容，從而進(jìn)一步擴(kuò)展其實(shí)用性。”
盡管相對(duì)于同類產(chǎn)品，Azure AI Content Safety在公正性和上下文理解方面取得了顯著進(jìn)步，微軟也坦言，該工具仍然需要依賴人工審核員的數(shù)據(jù)標(biāo)記和內(nèi)容審查。這也就意味著，最終的公正性仍然取決于人的主觀判斷。鑒于人工審核員在處理數(shù)據(jù)和內(nèi)容時(shí)可能會(huì)帶有自身的偏見，因此無法達(dá)到完全中立和客觀的審查標(biāo)準(zhǔn)。
