當(dāng)下，UGC內(nèi)容量的爆發(fā)超出所有人的想象。據(jù)粗略統(tǒng)計(jì)，每天上傳到Y(jié)ouTube的視頻可以連續(xù)播放98年，F(xiàn)acebook每天發(fā)布的照片量堆起有80個(gè)埃菲...

當(dāng)下，UGC內(nèi)容量的爆發(fā)超出所有人的想象。據(jù)粗略統(tǒng)計(jì)，每天上傳到Y(jié)ouTube的視頻可以連續(xù)播放98年，F(xiàn)acebook每天發(fā)布的照片量堆起有80個(gè)埃菲爾鐵塔那么高，有200萬(wàn)篇文章在網(wǎng)上發(fā)布，相當(dāng)于美國(guó)《時(shí)代》刊發(fā)770年的總量…… 面對(duì)如此龐大的內(nèi)容量，如何篩選內(nèi)容，確保內(nèi)容符合法律法規(guī)，成了很多內(nèi)容平臺(tái)首要解決的問(wèn)題。

在智能鑒黃領(lǐng)域，國(guó)內(nèi)名氣較大的第三方平臺(tái)有阿里綠網(wǎng)和網(wǎng)易云易盾、騰訊云萬(wàn)象優(yōu)圖、圖譜科技等。內(nèi)容平臺(tái)尤其是直播平臺(tái)在面對(duì)這些第三方服務(wù)時(shí)，往往“一頭霧水”，因?yàn)椴恢肋@些企業(yè)提供的服務(wù)到底怎么樣?能否解決他們的需求。

抱著對(duì)技術(shù)發(fā)展的好奇心，筆者從一個(gè)內(nèi)容審核外包公司獲取了一些圖片，在這些平臺(tái)上做了一下測(cè)評(píng)(為了保證文章能夠順利發(fā)出，一些圖片做了打碼處理)，把結(jié)果呈現(xiàn)給大家，供各位參考。

第一張圖片：

不用多說(shuō)，這種類型的是犯罪圖片(已打碼處理)，人工審核：黃色圖片一張!那么人工智能鑒黃平臺(tái)會(huì)如何評(píng)判呢?結(jié)果請(qǐng)見(jiàn)下圖。

結(jié)果顯示分別是：騰訊云、阿里綠網(wǎng)、圖譜科技、網(wǎng)易云易盾

從測(cè)試結(jié)果來(lái)看，個(gè)別智能識(shí)別系統(tǒng)的檢測(cè)結(jié)果不盡人意(檢測(cè)結(jié)果百分比越高代表違規(guī)越嚴(yán)重，反之，百分比低則可能被當(dāng)做為正常性感圖片)?？傮w來(lái)看，網(wǎng)易云易盾和阿里綠網(wǎng)的結(jié)果還是比較不錯(cuò)的。

第二張圖片：

這張圖片沒(méi)打碼之前，屬于典型的擦邊球圖片，鑒黃服務(wù)平臺(tái)會(huì)是什么反應(yīng)?我們一起來(lái)看看。

結(jié)果顯示分別是：騰訊云、阿里綠網(wǎng)、圖譜科技、網(wǎng)易云易盾

這張圖片有打擦邊球的嫌疑，對(duì)于人工審核來(lái)說(shuō)，這些擦邊球基本上不可能通過(guò)。但是，對(duì)于智能系統(tǒng)來(lái)說(shuō)，還是有通過(guò)的可能性的。在識(shí)別這張圖上，圖譜科技和網(wǎng)易云易盾的系統(tǒng)表現(xiàn)不錯(cuò)。

第三張圖片：

這是一張正常的美女圖片，在智能鑒黃平臺(tái)這會(huì)是什么結(jié)果?

結(jié)果顯示分別是：騰訊云、阿里綠網(wǎng)、圖譜科技、網(wǎng)易云易盾

這張圖片的檢測(cè)結(jié)果出乎筆者的意料，三家鑒黃平臺(tái)評(píng)判出的百分比都不低，有一家給出“疑似”，真的不知道這些AI工程師到底喂給它什么樣的圖片，這樣的圖片都“招架不住”!

第四張圖片：

每個(gè)父母都希望在某些平臺(tái)上曬一下自己的萌娃，作為一個(gè)正常人，我們也非常樂(lè)意看到這樣的圖片——天真無(wú)邪類型。這些圖片比上面的三張圖片可視性要高，對(duì)于這類圖片，智能鑒黃平臺(tái)會(huì)如何批判?

結(jié)果顯示分別是：騰訊云、阿里綠網(wǎng)、圖譜科技、網(wǎng)易云易盾

從測(cè)試結(jié)果上來(lái)看，有2家智能鑒黃平臺(tái)都給出的評(píng)判百分比并不低，不得不承認(rèn)，這個(gè)時(shí)代曬個(gè)萌娃都有可能要被某些服務(wù)干掉。為了避免個(gè)別圖片存在的樣本差異，筆者再測(cè)一組。

第五張圖片：

這張圖片雖然是嬰兒全裸，但是，在我們大多數(shù)人的眼里，小家伙挺可愛(ài)，準(zhǔn)裸。

測(cè)試結(jié)果：

結(jié)果顯示分別是：騰訊云、阿里綠網(wǎng)、圖譜科技、網(wǎng)易云易盾

這張圖片測(cè)試結(jié)果大體上幾個(gè)平臺(tái)的系統(tǒng)測(cè)試結(jié)果勉強(qiáng)能夠接受，沒(méi)有出現(xiàn)很離譜的測(cè)試結(jié)果。

總體測(cè)試結(jié)果分析：

第一張圖片：內(nèi)容審核員評(píng)判：色情圖片;平臺(tái)表現(xiàn)：阿里綠網(wǎng)>網(wǎng)易云易盾>騰訊云>圖譜科技。

第二張圖片：內(nèi)容審核員評(píng)判：色情圖片;平臺(tái)表現(xiàn)：網(wǎng)易云易盾>圖譜科技>阿里綠網(wǎng)>騰訊云。

第三張圖片：內(nèi)容審核員評(píng)判：美女圖片;平臺(tái)表現(xiàn)：圖譜科技>網(wǎng)易云易盾>阿里綠網(wǎng)>騰訊云。

第四張圖片：內(nèi)容審核員評(píng)判：萌娃圖片;平臺(tái)表現(xiàn)：網(wǎng)易云易盾>圖譜科技>阿里綠網(wǎng)>騰訊云。

第五張圖片：內(nèi)容審核員評(píng)判：萌娃圖片;平臺(tái)表現(xiàn)：網(wǎng)易云易盾>圖譜科技>騰訊云>阿里綠網(wǎng)。

從總體的測(cè)試結(jié)果看，阿里綠網(wǎng)的結(jié)果過(guò)于似是而非，第一張圖片鑒定的還算可以，之后的圖片卻都是疑似?疑似這個(gè)評(píng)判的面太大了!圖譜科技作為一家創(chuàng)業(yè)型企業(yè)，在缺少數(shù)據(jù)的情況下，做到這個(gè)程度也是可以理解的。網(wǎng)易云易盾的測(cè)試結(jié)果還是不錯(cuò)，但是也有誤判的時(shí)候。騰訊云就不多評(píng)價(jià)了，測(cè)試結(jié)果不是很好，后續(xù)還需要數(shù)據(jù)訓(xùn)練。

結(jié)束語(yǔ)

雖然說(shuō)人工智能這幾年發(fā)展很快，不過(guò)站在客觀的角度去看內(nèi)容安全領(lǐng)域，筆者覺(jué)得也不能完全依賴人工智能，智能鑒黃+人工應(yīng)該是目前最穩(wěn)妥的方案。

但也非常期盼人工智能的技術(shù)進(jìn)步能夠讓鑒黃服務(wù)變得更加聰明，這既能減輕內(nèi)容審核員的工作負(fù)擔(dān)，又能快速地凈化互聯(lián)網(wǎng)環(huán)境。

最后，記得關(guān)注微信公眾號(hào)：鎂客網(wǎng)（im2maker），更多干貨在等你！