(網(wǎng)經(jīng)社訊)5月19日消息，抖音近日發(fā)布關(guān)于“AI起號”專項治理行動的公告。公告稱，近期，抖音開展專項行動治理“AI起號”現(xiàn)象，重點整治利用AI生成低俗獵奇視頻、AI生成虛擬外國幼兒教育專家教授育兒內(nèi)容、AI視頻賬號售賣教程、AI賬號秘籍傳授、引導(dǎo)規(guī)避平臺AI標(biāo)注、轉(zhuǎn)讓銷售AI虛擬賬號等行為。在平臺站內(nèi)，累計清理311條違規(guī)內(nèi)容，針對心x甜、向xAi同城流量、瑞xxAI智習(xí)室等15個嚴重違規(guī)賬號進行了封禁。
一、“AI起號”亂象：技術(shù)便利下的內(nèi)容異化
網(wǎng)經(jīng)社數(shù)字零售臺（DR.100EC.CN）查詢DeepSeek后獲悉，“AI起號”指通過人工智能技術(shù)快速生成視頻、打造虛擬人設(shè)，以實現(xiàn)賬號流量變現(xiàn)的行為。此次抖音點名的違規(guī)案例中，三類現(xiàn)象尤為突出：
低俗內(nèi)容工業(yè)化生產(chǎn)：AI批量生成獵奇、低俗視頻，利用算法漏洞博取流量；
虛假人設(shè)欺騙用戶：如虛構(gòu)“外國育兒專家”人設(shè)，輸出未經(jīng)科學(xué)驗證的內(nèi)容牟利；
灰色產(chǎn)業(yè)鏈衍生：部分賬號公然售賣“AI起號教程”或轉(zhuǎn)讓虛擬賬號，形成黑產(chǎn)閉環(huán)。
這些行為不僅污染內(nèi)容生態(tài)，更可能誤導(dǎo)消費者、侵害未成年人權(quán)益。例如，虛假育兒建議可能對家庭造成實際危害，而AI生成的“完美人設(shè)”則加劇社會信任危機。
二、平臺治理邏輯：從被動應(yīng)對到主動防御
抖音此次行動反映了平臺治理策略的升級：
技術(shù)識別與標(biāo)注：通過AI水印、內(nèi)容指紋等技術(shù)標(biāo)記生成式內(nèi)容，但違規(guī)者試圖“規(guī)避標(biāo)注”的行為增加了治理難度；
規(guī)則細化：將“AI起號”相關(guān)售賣、教學(xué)行為納入違規(guī)范疇，切斷黑產(chǎn)傳播鏈；
跨平臺協(xié)作：需聯(lián)合電商、支付平臺打擊教程交易，避免治理“按下葫蘆浮起瓢”。
然而，挑戰(zhàn)依然存在。AI技術(shù)迭代速度遠超規(guī)則更新，例如近期“深度偽造”（Deepfake）語音和視頻的泛濫，使得虛假人設(shè)更難被普通用戶識別。
三、行業(yè)啟示：技術(shù)向善需多方共治
抖音的治理僅是AI內(nèi)容亂象的“冰山一角”。長遠來看，需構(gòu)建三層防線：
平臺責(zé)任前置：將AI內(nèi)容審核嵌入創(chuàng)作工具端，例如自動攔截違規(guī)腳本或敏感關(guān)鍵詞；
用戶教育普及：增設(shè)“AI內(nèi)容識別提示”，提升公眾媒介素養(yǎng)；
立法與標(biāo)準完善：我國需加快出臺生成式AI內(nèi)容管理辦法，明確虛擬人設(shè)的法律責(zé)任。
國際經(jīng)驗亦可借鑒，如歐盟《數(shù)字服務(wù)法》要求平臺對AI生成內(nèi)容進行風(fēng)險評估，美國加州已立法禁止選舉前60天傳播深度偽造視頻。
AI技術(shù)本應(yīng)是內(nèi)容創(chuàng)作的“加速器”，而非擾亂秩序的“作弊器”。抖音此次治理傳遞出明確信號：技術(shù)應(yīng)用不能突破倫理底線。未來，唯有平臺、用戶、監(jiān)管方形成合力，才能讓技術(shù)真正服務(wù)于優(yōu)質(zhì)內(nèi)容的創(chuàng)造，而非短視的流量游戲。在創(chuàng)新與治理的平衡木上，規(guī)則的完善程度將決定我們能否走向一個更清朗的數(shù)字未來。
