近期，網絡空間中AI生成虛假信息的問題引發廣泛關注。部分賬號利用技術手段制造不實內容，通過AI換臉、聲音克隆等方式假冒公眾人物發布言論，或編造災害事故等虛假圖片視頻，以此吸引流量甚至謀取利益。此類行為嚴重擾亂公共秩序，破壞網絡生態健康。
針對這一亂象，中央網信辦已展開專項整治行動。據通報，近期依法處置違規賬號13421個，清理違法違規信息54.3萬余條。監管部門明確表示，將持續強化對未標注AI生成標識的虛假內容的打擊力度，形成常態化高壓監管態勢，堅決維護網絡空間的清朗環境。
伴隨技術普及，人工智能產業呈現爆發式增長。據專業機構統計，截至目前全國現存人工智能相關企業超500萬家。僅2025年新增注冊企業就達120.2萬余家，近五年企業注冊數量持續攀升，今年創下歷史新高。從地域分布看，廣東省以77.2萬余家企業領跑全國，占比達15.45%，北京、江蘇、山東、浙江四省市緊隨其后，形成產業集聚效應。
業內人士指出，AI技術發展需與規范管理同步推進。一方面要鼓勵技術創新應用，另一方面必須完善標識制度，強化平臺審核責任。當前監管部門正通過技術手段與人工巡查相結合的方式，構建全鏈條治理體系，從源頭遏制虛假信息傳播。
