央廣網(wǎng)北京8月22日消息（記者白杰戈）據(jù)中國(guó)之聲《新聞縱橫》報(bào)道，最近，一則“AI（人工智能）當(dāng)上鑒黃師，可能將取代人力審核”的消息在網(wǎng)上受到關(guān)注。昨天（21日），中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)在2018網(wǎng)絡(luò)安全生態(tài)峰會(huì)上發(fā)布研究報(bào)告，討論人工智能技術(shù)在網(wǎng)絡(luò)內(nèi)容安全保障領(lǐng)域的運(yùn)用面臨哪些機(jī)遇和挑戰(zhàn)。

　　這份研究報(bào)告表示，網(wǎng)絡(luò)內(nèi)容具有即時(shí)性、海量性和多態(tài)性等特點(diǎn)，人工智能技術(shù)可以被用在文字、視頻和圖片（包括其中的人臉和特定標(biāo)識(shí)），以及語(yǔ)音信息的檢測(cè)識(shí)別，成本和效率都優(yōu)于傳統(tǒng)的人工審核。報(bào)告的撰寫者之一、國(guó)家互聯(lián)網(wǎng)應(yīng)急中心高級(jí)工程師徐杰介紹，這源于人工智能的自我學(xué)習(xí)能力。比如，用傳統(tǒng)的方法描述貓跟老虎的區(qū)別，非常復(fù)雜。對(duì)于機(jī)器學(xué)習(xí)而言，只要給它提供大量貓和老虎的圖片，它會(huì)從這些圖片中學(xué)習(xí)特征、建立模型，這是目前機(jī)器學(xué)習(xí)技術(shù)在網(wǎng)絡(luò)內(nèi)容安全方面最大的優(yōu)勢(shì)。

　　報(bào)告舉例說(shuō)，人工智能可以搜索和比對(duì)畫面中的敏感人物，識(shí)別他們的聲音。類似的技術(shù)在商業(yè)、生活等領(lǐng)域也有用武之地，比如商家識(shí)別顧客的姿態(tài)、情緒；直播或短視頻網(wǎng)站檢測(cè)涉黃內(nèi)容、不良場(chǎng)景、侵權(quán)畫面、低俗語(yǔ)言甚至驗(yàn)證主播身份；安防部門可以使用視頻分析技術(shù)設(shè)置警戒區(qū)（線），判斷是否有人進(jìn)入禁區(qū)，并檢測(cè)擁擠、追逐、打斗、跌倒、翻越等異常動(dòng)作或事件，識(shí)別爆炸、燃燒、煙霧等危險(xiǎn)場(chǎng)景。

　　不過(guò)媒體報(bào)道顯示，人工智能也存在誤差，兩個(gè)倒扣的碗、喝礦泉水的女子、摔跤比賽等畫面，都曾經(jīng)被AI鑒黃師識(shí)別為色情圖片。中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)的報(bào)告也坦言，人工智能要廣泛運(yùn)用在網(wǎng)絡(luò)內(nèi)容安全保障領(lǐng)域，技術(shù)上還存在挑戰(zhàn)，比如畫面內(nèi)容識(shí)別的速度和準(zhǔn)確率，語(yǔ)音識(shí)別系統(tǒng)支持的語(yǔ)言種類有限和噪聲影響等。

　　此外，徐杰介紹說(shuō)：“如果AI用在一些比較要害的方向，不知道它怎么訓(xùn)練出來(lái)的，我們不敢用。攻擊者只要知道是根據(jù)哪些數(shù)據(jù)訓(xùn)練出來(lái)的，就可以根據(jù)這些數(shù)據(jù)有針對(duì)性地攻擊、對(duì)抗這個(gè)模型，使其很快失效�！�

　　不過(guò)，報(bào)告仍然對(duì)人工智能提高效率、降低成本、節(jié)省人力的作用表示肯定和期待。中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)副秘書長(zhǎng)宋茂恩說(shuō)，將人工智能引入網(wǎng)絡(luò)內(nèi)容安全保障建設(shè)中，將會(huì)在多方面促進(jìn)社會(huì)價(jià)值進(jìn)一步提升。比如維護(hù)國(guó)家安全及社會(huì)穩(wěn)定，凈化網(wǎng)絡(luò)空間，保護(hù)知識(shí)產(chǎn)權(quán)，降低維護(hù)真實(shí)信息的社會(huì)總成本，提升互聯(lián)網(wǎng)內(nèi)容質(zhì)量，輿情管控，應(yīng)對(duì)以及維護(hù)公民權(quán)益。

　　人工智能在網(wǎng)絡(luò)內(nèi)容安全領(lǐng)域能否取代人類？阿里巴巴集團(tuán)資深算法專家薛暉表示，與人類相比，AI技術(shù)的標(biāo)準(zhǔn)更客觀，它不隨著時(shí)間和個(gè)人的差異變化，并且它的模型、數(shù)據(jù)、特征更容易被傳承，而人與人之間的一些審核經(jīng)驗(yàn)、治理經(jīng)驗(yàn)相對(duì)較難傳承。如果中小企業(yè)通過(guò)使用專業(yè)的內(nèi)容安全治理服務(wù)商的服務(wù)，能夠?qū)⒊杀窘档礁�低，也可保證業(yè)務(wù)創(chuàng)新不受風(fēng)險(xiǎn)的影響。

　　報(bào)告的撰寫者之一、中國(guó)社會(huì)科學(xué)院世界經(jīng)濟(jì)與政治研究所博士后陳哲提醒：“僅靠技術(shù)不能解決所有問(wèn)題。從長(zhǎng)遠(yuǎn)來(lái)看，特別是在中國(guó)，要考慮到數(shù)據(jù)隱私的保護(hù)以及倫理問(wèn)題。從研究人文社會(huì)科學(xué)的角度來(lái)說(shuō)，做AI要有人文社科情懷，否則AI一定會(huì)變成一個(gè)冰冷的機(jī)器�！�