該公司聲稱，該工具將創(chuàng)造一個(gè)健康和諧的社區(qū)環(huán)境。

　　該公司還表示，將減少圖片或文字中與偏見、仇恨、暴力等相關(guān)的負(fù)面內(nèi)容。

　　人工智能內(nèi)容審核工具Azure AI 內(nèi)容正式發(fā)布，其實(shí)是在今年 5 月上線的。

　　但是，此工具已經(jīng)測(cè)試了好幾個(gè)月。

　　經(jīng)過嚴(yán)格的測(cè)試，該公司昨天正式發(fā)布了該工具。

　　無論負(fù)面內(nèi)容是文本還是圖像，Azure AI 內(nèi)容安全都會(huì)提供一系列經(jīng)過訓(xùn)練的人工智能模型來檢測(cè)它們。

　　該工具還可以理解和檢測(cè)八種語言的圖片或文本。

　　該工具將為標(biāo)記的內(nèi)容分配嚴(yán)重性分?jǐn)?shù)，向人工審閱者指示哪些內(nèi)容需要操作。

　　內(nèi)容審核工具最初已集成到 Azure OpenAI 服務(wù)中。

　　但是，微軟現(xiàn)在正式將其作為獨(dú)立系統(tǒng)推出。

　　微軟在一篇官方博客文章中寫道。

　　“這意味著客戶可以將其用于來自開源模型和其他公司模型的人工智能生成內(nèi)容，以及調(diào)用一些用戶生成的內(nèi)容，進(jìn)一步擴(kuò)展效用。

　　微軟表示，與其他類似產(chǎn)品相比，該產(chǎn)品在公正性和理解方面得到了顯著改善。

　　但是，該產(chǎn)品仍然依賴于人工審閱者來標(biāo)記數(shù)據(jù)和內(nèi)容。這意味著最終，它的公平性取決于人類。

　　在處理數(shù)據(jù)和內(nèi)容時(shí)，人工審閱者可能會(huì)帶來自己的偏見。

　　這意味著他們?nèi)匀徊荒芡耆�中立和�?jǐn)慎。

　　在本文中，我們將探討 Azure AI 內(nèi)容安全的功能，以及它如何幫助企業(yè)維護(hù)安全的在線空間。