近幾年，各國(guó)加大人工智能產(chǎn)業(yè)政策扶持和創(chuàng)新平臺(tái)建設(shè)力度，加速人工智能的應(yīng)用化、產(chǎn)業(yè)化與融合化。人工智能技術(shù)大大地促進(jìn)了數(shù)字內(nèi)容產(chǎn)業(yè)發(fā)展，但同時(shí)整個(gè)行業(yè)正在面臨革新過(guò)程的各種新問(wèn)題、新挑戰(zhàn)，對(duì)技術(shù)、產(chǎn)業(yè)、政策乃至社會(huì)層面帶來(lái)深刻影響。

8月30日，在由賽博研究院承辦，騰訊、上海社科院互聯(lián)網(wǎng)研究中心等聯(lián)合協(xié)辦的2019世界人工智能安全高端對(duì)話(huà)上，繼騰訊天御業(yè)務(wù)安全大腦成功入選2019世界人工智能產(chǎn)業(yè)安全十大創(chuàng)新實(shí)踐后，騰訊安全戰(zhàn)略研究中心聯(lián)合賽博研究院重磅發(fā)布《人工智能時(shí)代數(shù)字內(nèi)容治理的機(jī)遇與挑戰(zhàn)》報(bào)告（以下簡(jiǎn)稱(chēng)《報(bào)告》。該報(bào)告也是國(guó)內(nèi)首份聚焦人工智能與數(shù)字內(nèi)容行業(yè)關(guān)系，全景式呈現(xiàn)發(fā)展趨勢(shì)、挑戰(zhàn)風(fēng)險(xiǎn)、政策創(chuàng)新、治理賦能等內(nèi)容的報(bào)告。

騰訊安全戰(zhàn)略研究中心高級(jí)研究員韓李云發(fā)布《報(bào)告》

騰訊公司安全管理部總經(jīng)理朱勁松在致辭中表示：“報(bào)告對(duì)政策創(chuàng)新與治理賦能方面的考察具有填補(bǔ)空白的創(chuàng)新和突破意義，我們可以看到人工智能時(shí)代數(shù)字內(nèi)容治理的機(jī)遇與挑戰(zhàn)將長(zhǎng)期并存，但AI賦能數(shù)字內(nèi)容產(chǎn)業(yè)更加繁榮發(fā)展必是大勢(shì)所趨，需要我們一起努力推動(dòng)形成良好治理環(huán)境，促進(jìn)國(guó)際合作，企業(yè)更應(yīng)當(dāng)秉持AI向善之心繼續(xù)探索創(chuàng)新應(yīng)用。”

騰訊公司安全管理部總經(jīng)理朱勁松在大會(huì)現(xiàn)場(chǎng)致辭

數(shù)字內(nèi)容產(chǎn)業(yè)六大發(fā)展趨勢(shì)

數(shù)字內(nèi)容產(chǎn)業(yè)整體發(fā)展趨勢(shì)體現(xiàn)為縱向延伸、垂直整合、跨界布局、生態(tài)融合，行業(yè)邊界逐漸消弭，數(shù)字內(nèi)容產(chǎn)業(yè)催生新的社會(huì)化分工，孵化出新的產(chǎn)業(yè)價(jià)值體系，在內(nèi)容生產(chǎn)、傳播、消費(fèi)、載體、質(zhì)量、安全等各環(huán)節(jié)或方面呈現(xiàn)出六大發(fā)展趨勢(shì)：在內(nèi)容生產(chǎn)方面，“人-機(jī)”協(xié)同生產(chǎn)模式進(jìn)一步解放勞動(dòng)力；在內(nèi)容傳播方面，算法精準(zhǔn)推薦占據(jù)信息流分發(fā)主導(dǎo)地位；在內(nèi)容消費(fèi)方面，沉浸式體驗(yàn)與交互式反饋提供個(gè)性化選擇；在內(nèi)容載體方面，萬(wàn)物皆媒環(huán)境中數(shù)字內(nèi)容嵌入各行業(yè)場(chǎng)景；在內(nèi)容質(zhì)量方面“內(nèi)容為王”成為數(shù)字內(nèi)容產(chǎn)業(yè)核心競(jìng)爭(zhēng)力；在內(nèi)容安全方面，各類(lèi)治理難題凸顯機(jī)遇與挑戰(zhàn)長(zhǎng)期并存。

AI與數(shù)字內(nèi)容交織引發(fā)七類(lèi)風(fēng)險(xiǎn)

人工智能助推數(shù)字內(nèi)容產(chǎn)業(yè)顛覆性發(fā)展，難免伴隨著現(xiàn)有治理模式及監(jiān)管體系與新業(yè)態(tài)的不匹配，既存在現(xiàn)行治理手段滯后帶來(lái)的治理失效和力不從心，也體現(xiàn)為數(shù)字內(nèi)容治理問(wèn)題與其他社會(huì)問(wèn)題及風(fēng)險(xiǎn)的交織泛化，主要風(fēng)險(xiǎn)包含以下七大類(lèi)：

數(shù)字內(nèi)容極大豐富與內(nèi)容審核能力不足的矛盾凸顯；“算法偏見(jiàn)”與“算法黑箱”影響數(shù)字內(nèi)容公正性，技術(shù)攻關(guān)存難度；內(nèi)容造假滋生灰色產(chǎn)業(yè)，深度偽造威脅國(guó)家社會(huì)穩(wěn)定；智能化內(nèi)容生產(chǎn)權(quán)責(zé)歸屬困難，版權(quán)保護(hù)亟待健全法規(guī)體系政策；“信息繭房”循環(huán)強(qiáng)化，或引發(fā)網(wǎng)絡(luò)社群“部落化”“極群化”；無(wú)序數(shù)據(jù)挖掘泄露個(gè)人隱私，躍升數(shù)字內(nèi)容治理突出問(wèn)題；信息資源競(jìng)爭(zhēng)或催生新的數(shù)字鴻溝，將成數(shù)字內(nèi)容治理新難題。

各國(guó)在應(yīng)對(duì)人工智能時(shí)代新型、復(fù)雜的治理挑戰(zhàn)時(shí)，現(xiàn)行數(shù)字內(nèi)容治理政策顯得較為滯后，但都結(jié)合各國(guó)數(shù)字內(nèi)容發(fā)展情況作出各有側(cè)重的政策創(chuàng)新和嘗試。報(bào)告還考察了國(guó)內(nèi)外企業(yè)運(yùn)用人工智能技術(shù)保障數(shù)字內(nèi)容安全發(fā)展的20+案例，以治理場(chǎng)景為導(dǎo)向，介紹人工智能技術(shù)在內(nèi)容審核、事實(shí)核查、版權(quán)保護(hù)、打擊詐騙、輿情治理和破除信息繭房等場(chǎng)景領(lǐng)域的技術(shù)應(yīng)用思路和產(chǎn)業(yè)實(shí)踐。

強(qiáng)化內(nèi)容審核，精準(zhǔn)事實(shí)核查

數(shù)據(jù)挖掘、歸因分類(lèi)、機(jī)器學(xué)習(xí)、自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)、模式識(shí)別等各種人工智能技術(shù)方向應(yīng)用在數(shù)字內(nèi)容治理的不同場(chǎng)景中，明顯解放人力，提高治理效能。

在內(nèi)容審核方面，基于騰訊云圖像分析等人工智能技術(shù)，微信推出“珊瑚內(nèi)容安全助手”小程序，為廣大小程序開(kāi)發(fā)者提供風(fēng)險(xiǎn)自測(cè)、內(nèi)容鑒別、行業(yè)動(dòng)態(tài)三個(gè)維度的內(nèi)容安全能力。如在文字鑒別、圖片鑒別模塊，“珊瑚”小程序可對(duì)用戶(hù)上傳內(nèi)容中是否含有違法有害信息給出鑒別結(jié)果，同時(shí)提供能力介紹和接入引導(dǎo)文檔，為開(kāi)發(fā)運(yùn)營(yíng)者從“體驗(yàn)”“理解”到“接入”提供一站式安全能力服務(wù)。

在事實(shí)核查方面，基于海量數(shù)據(jù)與人工智能技術(shù)，騰訊微信公眾平臺(tái)辟謠中心、微信安全中心、騰訊新聞?shì)^真平臺(tái)、騰訊內(nèi)容開(kāi)放平臺(tái)企鵝號(hào)等探索出一系列智能內(nèi)容核真措施，如打造辟謠數(shù)據(jù)庫(kù)，智能識(shí)別處置謠言，借助機(jī)器算法觸達(dá)謠言易感人群，基于閱讀或投訴謠言的類(lèi)型標(biāo)簽進(jìn)行精準(zhǔn)推送辟謠防謠。

加強(qiáng)版權(quán)保護(hù)，嚴(yán)厲打擊詐騙

版權(quán)侵害嚴(yán)重影響數(shù)字內(nèi)容產(chǎn)業(yè)的健康發(fā)展，騰訊安全團(tuán)隊(duì)開(kāi)發(fā)的神鸮網(wǎng)絡(luò)侵權(quán)監(jiān)測(cè)系統(tǒng)，充分利用AI優(yōu)勢(shì)打造的包括70億個(gè)點(diǎn)和1000多億條領(lǐng)先的知識(shí)圖譜，成功克服并解決現(xiàn)有監(jiān)管領(lǐng)域“數(shù)據(jù)、算法、計(jì)算力”不足的問(wèn)題，而騰訊安全也通過(guò)與APPLE、華為、vivo、OPPO等手機(jī)廠商合作,對(duì)其內(nèi)置默認(rèn)瀏覽器的網(wǎng)絡(luò)侵權(quán)鏈接的攔截率達(dá)到93.6%。