(網(wǎng)經(jīng)社訊)騰訊研究院、騰訊優(yōu)圖實(shí)驗(yàn)室共同完成報(bào)告《AI生成內(nèi)容發(fā)展報(bào)告2020——“深度合成”(deep synthesis)商業(yè)化元年》,并基于該報(bào)告總結(jié)出了人們對(duì)該技術(shù)的十個(gè)誤解,希望通過(guò)澄清這些誤解,幫助人們更全面地了解深度合成技術(shù)的發(fā)展和應(yīng)用情況。
誤解1:深度合成技術(shù)僅包括AI換臉一種形式。
實(shí)際上,現(xiàn)階段的深度合成技術(shù),除了廣為人知的“AI換臉”以外,還包括人臉再現(xiàn)、人臉生成、語(yǔ)音合成等技術(shù),并朝著全身合成、數(shù)字虛擬人等方向發(fā)展。
誤解2:任何人都可以制作高質(zhì)量、高仿真的深度合成內(nèi)容。
深度合成內(nèi)容的制作門檻已大為降低,但是高質(zhì)量、高仿真的深度合成內(nèi)容的制作還未普遍實(shí)現(xiàn),仍需專業(yè)技能和專業(yè)工具。
誤解3:深度合成技術(shù)已被大量濫用,用于在社交媒體平臺(tái)上制作、傳播虛假信息。
實(shí)際上,無(wú)論是在國(guó)內(nèi)還是在國(guó)外,社交媒體平臺(tái)上涉及政治和政治人物的深度合成視頻都是很少見(jiàn)的,深度合成性質(zhì)的虛假信息也很少。
誤解4:快速立法是應(yīng)對(duì)深度合成技術(shù)濫用風(fēng)險(xiǎn)的唯一有效方式。
在新技術(shù)的治理與風(fēng)險(xiǎn)防范方面,法律規(guī)制一直是必不可少的手段,但由于很難識(shí)別深度合成內(nèi)容的來(lái)源,立法可能起不到應(yīng)有的效果,還可能阻礙技術(shù)的有益應(yīng)用與正向發(fā)展。
誤解5:深度合成內(nèi)容無(wú)法通過(guò)技術(shù)工具鑒別,只能通過(guò)生物特征測(cè)試(例如“眨眼測(cè)試”)。
實(shí)際上,眨眼測(cè)試等根據(jù)生物特征進(jìn)行鑒別的方式,是非常低效、不可靠的,只能階段性地起作用,而且隨著深度合成技術(shù)的發(fā)展進(jìn)化,生物特征測(cè)試越來(lái)越難以發(fā)揮作用。
誤解6:深度合成就是“深度偽造”(deepfake)。
國(guó)內(nèi)媒體一般根據(jù)“deepfake”這一合成詞,將其背后的技術(shù)翻譯為“深度偽造”,但“深度偽造”是以偏概全,不足以涵蓋所有的深度合成技術(shù)和相應(yīng)的合成內(nèi)容。
誤解7:深度合成是人工智能技術(shù)作惡,只會(huì)給社會(huì)的帶來(lái)負(fù)面影響,沒(méi)有正向價(jià)值。
具備高度仿真能力的深度合成技術(shù),雖然也存在被濫用的風(fēng)險(xiǎn),但其巨大的正向應(yīng)用價(jià)值將持續(xù)帶來(lái)社會(huì)福利,正被廣泛應(yīng)用于影視、娛樂(lè)、教育、醫(yī)療、社交、電商、內(nèi)容營(yíng)銷、藝術(shù)創(chuàng)作、科研等諸多領(lǐng)域。
誤解8:互聯(lián)網(wǎng)行業(yè)對(duì)深度合成內(nèi)容呈放任狀態(tài)。
實(shí)際上,互聯(lián)網(wǎng)行業(yè)內(nèi)的主流網(wǎng)絡(luò)平臺(tái)已經(jīng)著手采取自律措施應(yīng)對(duì)深度合成技術(shù)的潛在濫用。
誤解9: 深度合成已經(jīng)被國(guó)外立法禁止。
實(shí)際上,被禁止的不是深度合成技術(shù)本身,而是利用此項(xiàng)技術(shù)從事色情視頻合成、虛假新聞、干擾選舉等非法行為。
誤解10:深度合成會(huì)徹底沖擊媒體信任。
深度合成技術(shù)將如何影響大眾的行為和認(rèn)知,目前還沒(méi)有足夠的研究支持,但是它提示我們,進(jìn)入人工智能大眾化時(shí)期,對(duì)大眾信息分辨能力的培養(yǎng)也是治理的重要一環(huán)。