11月17日，在今日頭條一年一度的創(chuàng)作者盛會(huì)“生機(jī)大會(huì)”上,，今日頭條正式推出小程序工具,，“靈犬反低俗助手”成為首批小程序之一。

“靈犬”基于今日頭條反低俗模型，是國(guó)內(nèi)首款使用人工智能技術(shù)反低俗的小程序,。用戶(hù)在輸入框內(nèi)任意輸入一段文字或文章鏈接,，即可檢測(cè)內(nèi)容健康指數(shù)，并給出算法鑒定結(jié)果,。

在今日頭條App搜索“靈犬”,，就可打開(kāi)“靈犬反低俗助手”小程序頁(yè)面。對(duì)于網(wǎng)民輸入的文字或鏈接,，“靈犬”會(huì)先進(jìn)行提取,、分詞和語(yǔ)義識(shí)別，然后根據(jù)設(shè)定的規(guī)則,，輸出對(duì)應(yīng)的分?jǐn)?shù),、評(píng)級(jí)和結(jié)論。這里面,，分?jǐn)?shù)指的是“健康概率”,，評(píng)級(jí)是“質(zhì)量指數(shù)”，結(jié)論則會(huì)告知是否可以得到“算法推薦”,。這是基于算法模型處理低俗內(nèi)容的一般路徑：“收集數(shù)據(jù)－標(biāo)注樣本－訓(xùn)練模型”,。在人工智能反復(fù)訓(xùn)練中,，靈犬會(huì)實(shí)現(xiàn)自我進(jìn)化,。

這個(gè)“反低俗”小程序在實(shí)際應(yīng)用中有何用途呢？對(duì)于創(chuàng)作者來(lái)說(shuō),，輸入之后能夠判斷出自己的作品是否違規(guī),，是否涉嫌色情、抄襲,、標(biāo)題黨等,，也會(huì)得到一個(gè)結(jié)論：起這個(gè)標(biāo)題或?qū)戇@篇文章是否會(huì)被推薦；用戶(hù)發(fā)現(xiàn)不良內(nèi)容則可以舉報(bào),，共同打擊低俗內(nèi)容,；此外，“靈犬”系統(tǒng)是智能識(shí)別,，本身對(duì)頭條平臺(tái)上的內(nèi)容也會(huì)有個(gè)自動(dòng)的監(jiān)測(cè)過(guò)程,，過(guò)濾掉低俗內(nèi)容。

據(jù)了解,，除了運(yùn)用AI等技術(shù)手段,，今日頭條目前也已投入數(shù)千人的專(zhuān)業(yè)審核團(tuán)隊(duì)，并搭建色情,、低俗,、標(biāo)題黨、虛假信息、低質(zhì)模型180多個(gè),，有效提升了內(nèi)容審核的效率和準(zhǔn)確度,。后續(xù)頭條還將對(duì)外開(kāi)放更多技術(shù)模型，包括辟謠模型,、打擊標(biāo)題黨模型等,。