又一薪水高、“福利”好的職業(yè)或要被人工智能(AI)替代了。

近日，阿里巴巴集團(tuán)（下稱“阿里”）安全部在接受澎湃新聞(www.thepaper.cn)采訪時(shí)介紹了AI鑒黃的有關(guān)工作：當(dāng)用戶輸入一張圖片，AI將返回一個(gè)0-100之間的分值。這個(gè)分值非線性地標(biāo)示了圖片含色情內(nèi)容的概率。對(duì)于互聯(lián)網(wǎng)場(chǎng)景模型，得分99及以上的圖片幾乎可以肯定是色情圖，無需人工復(fù)審；得分50-99的需要人工審核；得分50以下的認(rèn)為是正常圖。

隨著AI鑒黃技術(shù)的發(fā)展，人工鑒黃師逐漸從鑒黃行業(yè)里被解放出來。阿里安全部高級(jí)算法專家威視向澎湃新聞介紹，假設(shè)一天要審核4億張圖片，單純由人工來審，如果一人一天審1萬張，就需要4萬人。而經(jīng)由AI鑒黃后需要交由人工審核的量大約只需20萬張，這樣只需要20人，大大節(jié)省了人力。

不僅僅在識(shí)圖領(lǐng)域，威視告訴澎湃新聞，AI鑒黃還覆蓋到了語音、視頻等多媒體領(lǐng)域，目前已經(jīng)可以識(shí)別中文、英文、日文、俄文等語言，還可以識(shí)別中國多省份方言，無語義的呻吟聲也能識(shí)別。據(jù)悉，阿里將在8月21日舉辦的網(wǎng)絡(luò)安全生態(tài)峰會(huì)上，集中展示這些技術(shù)。

鑒黃AI是怎樣煉成的？

阿里的鑒黃AI做的色情圖片檢測(cè)，從原理上來說，就是一個(gè)典型的圖像分類問題。當(dāng)前的解決方案是標(biāo)注樣本后，使用深度學(xué)習(xí)技術(shù)訓(xùn)練一個(gè)人工神經(jīng)網(wǎng)絡(luò)。具體步驟包括明確分類標(biāo)準(zhǔn)→收集樣本→樣本打標(biāo)→模型訓(xùn)練，四個(gè)步驟。其中前三個(gè)步驟主要由人工完成。

這四個(gè)步驟聽起來似乎是最后一步的技術(shù)難度最高，實(shí)際上阿里的相關(guān)人士向澎湃新聞透露，花時(shí)間最久的是第一步。

“雖然實(shí)打?qū)嵉谋热纭饵c(diǎn)不露點(diǎn)’之類的色情，還有比較明確的判斷標(biāo)準(zhǔn)，”威視表示，“對(duì)于低俗和性感類，爭(zhēng)議就比較多，不同的人有不同的認(rèn)識(shí)。”

現(xiàn)實(shí)世界是復(fù)雜的，威視舉了個(gè)例子，以兒童色情的問題為例：兒童露點(diǎn)算不算色情？有人會(huì)說：男孩不算，女孩算。又有人質(zhì)疑：如果男孩年齡較大呢？如果是發(fā)育較早的孩子呢？于是又又有人說，十二三歲的男孩子露點(diǎn)算色情。那么，十一歲的呢？或者，如何從圖片中判斷孩子年齡到底有多大呢？

威視告訴澎湃新聞，雖然明確分類標(biāo)準(zhǔn)是設(shè)計(jì)步驟時(shí)的第一步，但在后續(xù)打標(biāo)過程中，遇到實(shí)際的問題還要再對(duì)標(biāo)準(zhǔn)進(jìn)行不斷的修正和增補(bǔ)。

被鑒黃AI誤認(rèn)為是色情的圖片

在收集樣本的過程中，團(tuán)隊(duì)“集思廣益”，瀏覽了近2000家網(wǎng)站，下載了超過6000萬張疑似色情圖片，實(shí)際去重后約2300萬張圖片，并實(shí)際標(biāo)注了超過1300萬張圖片。這1300多萬張圖片成為模擬訓(xùn)練的原始數(shù)據(jù)庫，因此這一浩大的工程，被技術(shù)人員認(rèn)為是鑒黃引擎成功最重要的基石。

樣本打標(biāo)過程依然主要由人工完成對(duì)2000萬張圖片的打標(biāo)。威視介紹，他們做了一個(gè)打標(biāo)工具，并建立了質(zhì)量控制體系。打標(biāo)前對(duì)所有參加標(biāo)注的人員先進(jìn)行培訓(xùn)，學(xué)習(xí)打標(biāo)標(biāo)準(zhǔn)，做練習(xí)題考試，考試通過之后才能上崗。標(biāo)中通過事先已有答案的校驗(yàn)題，或多人對(duì)同一對(duì)象打標(biāo)的方式，進(jìn)行標(biāo)中控制。標(biāo)后的控制，就是通過模型判斷，找出可疑部分再進(jìn)行人工標(biāo)注。

威視表示，之所以嚴(yán)格把握樣本打標(biāo)的過程，是因?yàn)樯疃葘W(xué)習(xí)，對(duì)高質(zhì)量的標(biāo)注數(shù)據(jù)是有很高的要求。數(shù)據(jù)標(biāo)志質(zhì)量越高，最后模型的精度就會(huì)越高。

于是，由人類經(jīng)過千挑萬選、做題考試后建立起來的高質(zhì)量“色情圖片”數(shù)據(jù)庫，最后交由模型訓(xùn)練。威視表示，GPU機(jī)器單機(jī)單卡的情況下訓(xùn)練時(shí)間要近一個(gè)月。后來阿里團(tuán)隊(duì)更換了網(wǎng)絡(luò)結(jié)構(gòu)并實(shí)現(xiàn)了多機(jī)多卡訓(xùn)練，將千萬級(jí)別樣本的訓(xùn)練時(shí)間控制在一周左右。

“AI最好的應(yīng)用模式依然是人+機(jī)”

那么，高效和低成本的AI鑒黃，是否會(huì)完全替代人工鑒黃師？

對(duì)此，阿里安全部產(chǎn)品專家念夏向澎湃新聞表示，目前AI鑒黃最好的應(yīng)用模式仍然是人工+機(jī)器。不管是前期設(shè)計(jì)模型的標(biāo)準(zhǔn)和實(shí)際打標(biāo)，還是后期人工復(fù)核，人的參與都是不可或缺的。

2015年7月的“北京三里屯優(yōu)衣庫事件”，一段時(shí)長(zhǎng)1分鐘的試衣間不雅視頻流出，并2個(gè)小時(shí)內(nèi)在各大網(wǎng)絡(luò)平臺(tái)上迅速完成了過億的轉(zhuǎn)發(fā)量。但目前只有人的頭腦擁有足夠的“意識(shí)”判斷這些單獨(dú)的突發(fā)性事件，是否屬于“違規(guī)”。

“已知的、有清晰標(biāo)準(zhǔn)定義的風(fēng)險(xiǎn)，AI都已經(jīng)能解決了。”念夏表示，真正的難點(diǎn)是惡意的突發(fā)事件，爆發(fā)了就是爆發(fā)了，這種情況下，由于之前對(duì)該事件或場(chǎng)景缺乏標(biāo)準(zhǔn)的定義，當(dāng)時(shí)要直接給AI及時(shí)去處理，是不可能的?！?/p>

另一種類型就是非常模棱兩可的場(chǎng)景，即AI打分在50-99分之間的內(nèi)容。念夏表示，帶有主觀個(gè)人意識(shí)或者群體意識(shí)的部分，就是需要人工審核的核心部分。

此外，包括特定的體育運(yùn)動(dòng)以及國際標(biāo)準(zhǔn)差異等問題，前期模型調(diào)整和后期復(fù)核標(biāo)準(zhǔn)變化，也需要人工審核的出馬。

威視表示，目前像包括相撲、摔跤、藝術(shù)體操甚至游泳等門類的運(yùn)動(dòng)，由于穿著較為特殊，一般把這類多媒體作品定性為性感類，經(jīng)由人工復(fù)核，終極目標(biāo)還是希望能讓AI直接分辨出圖片上的人是在參加運(yùn)動(dòng)比賽。

被鑒黃AI誤認(rèn)為是色情的圖片

從國際上來看，雖有通用的鑒黃標(biāo)準(zhǔn)，但也會(huì)有與國內(nèi)標(biāo)準(zhǔn)大相徑庭的地方。念夏向澎湃新聞舉了個(gè)例子：“國內(nèi)如果直播給小寶寶洗澡，其實(shí)沒什么事，大家覺得很可愛。但在國外是絕對(duì)不行的，而且屬于嚴(yán)重違規(guī)?！?/p>

阿里的AI除了用于鑒黃，念夏表示利用這個(gè)原理，還能訓(xùn)練AI做類似編審的工作，比如選取視頻封面、鑒定重復(fù)視頻等?！安粌H是做合規(guī)方面的事情，我們希望利用AI去做真正的生產(chǎn)提效，用技術(shù)解決更多社會(huì)問題?！?/p>