抖音平臺近日發布公告,宣布持續加大對色情低俗內容的整治力度,尤其針對利用人工智能技術生成違規內容的行為展開專項打擊。根據平臺披露的數據,今年以來已累計清理4.2萬條AI生成的色情低俗內容,對1.4萬個違規賬號實施限制推薦、禁言直至封禁等階梯式處罰。
在近期整治行動中,平臺發現部分賬號通過AI技術批量生成低俗內容。典型案例顯示,某黑產團伙利用AI生成"單親媽媽陪讀"人設,通過發布帶有性暗示的擦邊視頻和文案,誘導用戶跳轉至第三方平臺下載色情應用。平臺通過技術研判鎖定該團伙后,不僅永久封禁相關賬號,還將線索移交公安機關,最終導致4名犯罪嫌疑人被刑事拘留。
另一類違規行為涉及直播場景的變相導流。賬號"AI北"等通過設置AI生成的美女圖片作為直播間封面,在頭像中標注"看我收藏"等字樣,引導觀眾查看主頁收藏內容為色情網站引流。平臺對此類339個賬號采取無限期回收直播權限的處罰措施,并全面清除相關違規內容。
針對持續發布AI生成擦邊內容的賬號,平臺實施了更嚴厲的打擊。用戶"奇差"利用AI生成穿著暴露的女性形象,發布高空劈叉、魅惑舞蹈等動作視頻;賬號"哦g"則批量生成聚焦女性私密部位的"泳池度假照""海濱度假照"。這些賬號累計8421個均被處以限制推薦、禁言直至封禁的處罰,相關違規內容已全部下架。
抖音安全中心負責人表示,平臺將持續升級技術識別模型,建立AI生成內容的專項審核機制,對違規行為保持"零容忍"態度。同時呼吁用戶共同維護網絡清朗空間,發現違規內容可通過站內舉報渠道反饋,平臺將核實后第一時間處理。











