隨著AI換 臉、AI擬聲技術的門檻不斷降低,網絡空間出現了一批利用高科技“走歪路”的違規賬號。近日,微信平臺發布公告,針對平臺內利用AI技術仿冒名人的違規行為展開了大掃除式的高壓打擊,旨在維護健康的生態秩序并保護公眾人物的合法權益。
據微信平臺監測,部分違規賬號通過AI技術精準偽造名人的形象與音色,制作虛假視頻或音頻。這些內容往往被用于違規引流、虛假宣傳甚至欺詐活動。這類行為不僅侵犯了被仿冒者的肖像權與名譽權,更利用名人的社會影響力誤導普通用戶,嚴重擾亂了正常的網絡傳播秩序。
面對這一亂象,微信平臺采取了“人工+技術”的雙重圍堵策略。通過用戶舉報、日常巡查以及升級后的AI內容識別技術,平臺對違規行為進行了嚴厲處置。截至目前,微信已累計處理相關違規內容超過1.3萬條,處置違規賬號1200余個。其中,針對情節嚴重、以此進行惡意引流的多個賬號,平臺已依法實施了永久封禁處理。
微信表示,未來將進一步提升對AI生成內容的識別與治理能力,優化處置流程,確保對利用AI仿冒身份、營銷欺詐等行為保持長期的“零容忍”態勢。同時,平臺也特別提醒廣大用戶:在刷到此類內容時應保持理性,辨別真偽,不輕信、不傳播,并鼓勵大家通過投訴渠道積極反饋違規線索。
劃重點:










