3月10日，抖音黑板報(bào)今日發(fā)布公告。

抖音表示，為切實(shí)維護(hù)健康網(wǎng)絡(luò)環(huán)境，保障廣大網(wǎng)民的合法權(quán)益，抖音嚴(yán)厲打擊各類色情低俗內(nèi)容，持續(xù)從嚴(yán)治理利用AI技術(shù)生成的相關(guān)違規(guī)內(nèi)容。近期平臺(tái)發(fā)現(xiàn)部分違規(guī)用戶通過 AI 生成“單親媽媽曖昧互動(dòng)”“美女魅惑舞蹈”“著裝暴露的海濱度假照”等低俗擦邊內(nèi)容，違反《抖音社區(qū)自律公約》平臺(tái)規(guī)則，平臺(tái)堅(jiān)持從嚴(yán)從重處置。

今年以來，針對(duì)AI生成色情低俗類違規(guī)，已處置4.2萬條內(nèi)容，對(duì)1.4萬個(gè)賬號(hào)處以限制推薦、禁言、封禁等不同梯度的處罰。

利用色情低俗信息為色情網(wǎng)站導(dǎo)流、售賣淫穢色情物品等行為，違反《中華人民共和國(guó)刑法》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等相關(guān)法律法規(guī)，涉嫌非法利用信息網(wǎng)絡(luò)罪、傳播淫穢物品罪。對(duì)以上違法行為抖音將主動(dòng)上報(bào)公安機(jī)關(guān)。

典型案例1：利用AI生成圖片塑造“單親媽媽陪讀”人設(shè)進(jìn)行色情導(dǎo)流，黑產(chǎn)團(tuán)伙4人被刑拘

平臺(tái)巡查發(fā)現(xiàn)，一批賬號(hào)利用AI生成“單親媽媽陪讀”人設(shè)的內(nèi)容，通過發(fā)布性感擦邊視頻并配以性暗示文案，誘導(dǎo)用戶關(guān)注。平臺(tái)經(jīng)深度研判與線索挖掘，發(fā)現(xiàn)背后疑似有黑產(chǎn)團(tuán)伙操控，該團(tuán)伙通過賬號(hào)簽名、群聊等方式，誘導(dǎo)用戶跳轉(zhuǎn)至第三方平臺(tái)下載色情低俗 App。平臺(tái)立即清理違規(guī)內(nèi)容、無限期封禁相關(guān)賬號(hào)，并收集線索上報(bào)至公安機(jī)關(guān)。最終，該黑產(chǎn)團(tuán)伙4人被依法刑事拘留。

典型案例2：利用AI生成美女圖片引導(dǎo)用戶至收藏頁(yè)進(jìn)行色情導(dǎo)流，339個(gè)賬號(hào)被處置