3月14日消息，抖音近期針對AI生成的色情低俗類違規內容展開嚴厲打擊。
針對此類違規行為，平臺今年以來已處置相關內容4.2萬條，對1.4萬個賬號采取限制推薦、禁言、封禁等不同梯度的處罰措施，堅決維護健康的網絡環境。
平臺巡查發現，部分違規用戶借助AI技術生成各類低俗擦邊內容，還通過多種方式進行色情導流，相關行為均違反了平臺自律公約。
其中有黑產團伙利用AI生成內容塑造特定人設，發布性感擦邊視頻并搭配性暗示文案，誘導用戶跳轉至第三方平臺下載色情低俗應用，該團伙4人已被依法刑事拘留。
還有部分賬號將AI生成的美女圖片設為直播間封面，引導觀眾查看主頁收藏進而為色情網站導流，平臺已對339個相關賬號無限期回收直播權限。
同時，8421個持續發布AI生成的著裝暴露擦邊內容的賬號，也被平臺采取梯度處罰并清理違規內容。
抖音表示，此類色情低俗導流行為已觸犯相關法律法規，涉嫌非法利用信息網絡罪、傳播淫穢物品罪，平臺會主動將相關違法線索上報公安機關。
后續抖音還將持續升級治理技術和手段，提升對AI生成不良內容的識別處置能力。
