小程序因?yàn)閮?nèi)容違規(guī)被下線,？想審核識別違規(guī)內(nèi)容卻不知如何入手,？

上周，我們上線了內(nèi)容安全接口,，用這個(gè)“神器”幫助大家解決困擾,。

今天，我們來詳細(xì)了解一下這個(gè)“神器”,，幫助大家更好地解決上述的各種問題,。

用戶通過小程序發(fā)布的內(nèi)容，數(shù)量大,、種類多,，逐個(gè)校驗(yàn)幾無可能。

小程序內(nèi)容安全接口能夠輔助開發(fā)者精準(zhǔn)快速地校驗(yàn)小程序的文本,、圖片內(nèi)容是否含有淫穢色情,、涉違法犯罪、涉政有害等內(nèi)容,，抵御不良信息混入,，維護(hù)小程序內(nèi)容健康。

溫馨提醒,，開發(fā)者就算有了內(nèi)容安全接口這個(gè)稱心的“好幫手”,，也不能對違規(guī)內(nèi)容掉以輕心。

能成為“好幫手”,，當(dāng)然是有“超能力”。小程序內(nèi)容安全接口提供三大能力,，從圖片到文本,，精準(zhǔn)識別違規(guī)內(nèi)容。

目前,，內(nèi)容安全接口已經(jīng)能夠運(yùn)用在小程序的文本、圖片等內(nèi)容校驗(yàn)中,。

用戶的個(gè)人資料,、媒體類用戶發(fā)表的文章及評論、游戲類用戶編輯上傳的素材等,，開發(fā)者都能借助內(nèi)容安全接口進(jìn)行文字檢測,。

此外，內(nèi)容安全接口還能對用戶拍照上傳,、電商類商品上架圖片,、用戶頭像、媒體類用戶文章配圖,、社交類用戶上傳的圖片進(jìn)行檢測,。

了解完小程序內(nèi)容安全接口的基礎(chǔ)信息，也許你還會有一些疑問：這個(gè)接口到底適合誰,？有什么效果,？Q&A了解一下——

Q1： 開放內(nèi)容安全接口能為開發(fā)者帶來什么好處？

A：我們注意到,，近年來,，由于產(chǎn)品中存在違規(guī)內(nèi)容而被處罰，甚至關(guān)停下架的事情時(shí)有發(fā)生,，開發(fā)者的內(nèi)容審核工作刻不容緩,。因此，我們推出了內(nèi)容安全接口,，希望幫助開發(fā)者及時(shí)發(fā)現(xiàn)并處理圖片,、文本內(nèi)容里的違規(guī)信息，讓開發(fā)者能夠?qū)⒕Ω杏诟哔|(zhì)量的小程序開發(fā)當(dāng)中,。

Q2： 哪些小程序可以使用內(nèi)容安全接口,，有使用要求嗎？

A：目前,，內(nèi)容安全接口面向所有的小程序開發(fā)者，免費(fèi)提供一定額度的接口調(diào)用量,，主要為小程序內(nèi)容審核工作提供幫助,，平臺不會留存小程序開發(fā)者提交的檢測數(shù)據(jù)。如果調(diào)用量需求超出上限,，開發(fā)者可以通過業(yè)務(wù)邏輯整站營銷,、自行開發(fā)內(nèi)容審核手段,、調(diào)用其他第三方內(nèi)容審核接口等方式開展內(nèi)容審核。

Q3： 有了內(nèi)容安全接口,，開發(fā)者是不是就能省略內(nèi)容審核工作,？

A：目前，內(nèi)容安全接口只提供內(nèi)容審核的基礎(chǔ)能力,，輔助開發(fā)者發(fā)現(xiàn)有害內(nèi)容,，但對于內(nèi)容的檢測結(jié)果，以及其他違法違規(guī)內(nèi)容（如暴力,、恐怖,、血腥），開發(fā)者仍然需要履行好管理職責(zé),，自行開展審核并對有害內(nèi)容進(jìn)行刪除等處理,，并不能忽視內(nèi)容審核工作。

同時(shí),，開發(fā)者可以通過《文本內(nèi)容安全接口》和《圖片內(nèi)容安全接口》詳細(xì)了解小程序內(nèi)容安全接口的更多信息,，共同打造更加綠色健康的小程序生態(tài)。