抖音平臺近期對利用AI技術生成的色情低俗內容展開專項整治行動，通過技術攔截與人工巡查相結合的方式，對違規賬號和內容進行全面清理。據平臺公布的數據顯示，今年以來已累計處置4.2萬條違規內容，對1.4萬個賬號實施階梯式處罰，包括限制推薦、禁言直至永久封禁。
在整治過程中，平臺發現部分不法分子通過AI工具批量生成低俗擦邊內容，并采用隱蔽手段進行色情導流。某黑產團伙利用深度合成技術制作虛假人設，發布帶有性暗示的短視頻，誘導用戶跳轉至第三方平臺下載非法應用。該團伙4名成員已被公安機關依法刑事拘留，案件正在進一步偵辦中。
針對直播場景的違規行為，平臺重點打擊了利用AI生成圖片設置直播間封面的導流手段。經核查，339個賬號通過展示虛擬美女形象吸引觀眾點擊主頁，進而為色情網站引流。這些賬號已被永久收回直播權限，相關違規內容全部下架處理。
數據顯示，另有8421個賬號因持續發布AI生成的暴露擦邊內容受到處罰。平臺通過圖像識別技術，對穿著暴露、動作曖昧的虛擬形象進行精準打擊，同時清理了大量含有性暗示的文案內容。所有受罰賬號均被要求刪除違規內容，并根據情節嚴重程度采取不同時長的賬號限制措施。
抖音安全中心負責人表示，此類行為不僅違反平臺社區規范，更涉嫌觸犯《刑法》第二百八十七條之一的非法利用信息網絡罪和第三百六十四條的傳播淫穢物品罪。平臺已建立違法線索移送機制，定期將查實的案件信息上報公安機關，配合開展刑事打擊。
為應對AI技術帶來的新型治理挑戰，平臺正在持續優化內容審核模型。通過升級深度學習算法，系統可自動識別AI生成的虛擬人物特征，并對異常導流模式建立預警機制。技術團隊還與高校科研機構合作，研發針對深度偽造內容的檢測工具，提升對復雜違規場景的處置效率。
