隨著生成式人工智能技術(shù)的普及，利用AI“換臉”、“擬聲”等手段仿冒公眾人物進(jìn)行違規(guī)營銷的現(xiàn)象愈演愈烈。為維護(hù)清朗的網(wǎng)絡(luò)空間，微信平臺(tái)近日針對(duì)此類違規(guī)行為展開了專項(xiàng)治理行動(dòng)，嚴(yán)厲打擊利用AI技術(shù)侵犯公眾人物權(quán)益的亂象。

AI造假成引流工具，平臺(tái)多維打擊顯效

近期，微信平臺(tái)監(jiān)測(cè)發(fā)現(xiàn)，部分違規(guī)賬號(hào)利用AI技術(shù)合成名人的形象與聲音，制作虛假內(nèi)容用于違規(guī)引流或虛假宣傳。這種行為不僅嚴(yán)重侵犯了名人的肖像權(quán)與名譽(yù)權(quán)，更通過誤導(dǎo)性信息擾亂了正常的網(wǎng)絡(luò)秩序，不僅讓用戶難辨真?zhèn)危裣铝似墼p隱患。

面對(duì)這一新型技術(shù)濫用挑戰(zhàn)，微信平臺(tái)構(gòu)建了“用戶舉報(bào)+日常巡查+技術(shù)識(shí)別”的綜合治理體系。截至目前，平臺(tái)已累計(jì)處置AI仿冒名人的違規(guī)內(nèi)容1.3萬余條，并對(duì)1200余個(gè)相關(guān)違規(guī)賬號(hào)進(jìn)行了嚴(yán)厲處罰。其中，針對(duì)部分情節(jié)嚴(yán)重、利用仿冒身份實(shí)施違規(guī)引流的賬號(hào)，平臺(tái)依法實(shí)施了永久封禁處理，有力震懾了違規(guī)者。

升級(jí)治理能力，呼吁用戶理性辨別

針對(duì)AI生成內(nèi)容日益逼真、識(shí)別難度加大的現(xiàn)狀，微信平臺(tái)表示將持續(xù)加碼技術(shù)投入，不斷提升對(duì)AI生成內(nèi)容的識(shí)別精準(zhǔn)度與治理效率。未來，平臺(tái)將對(duì)利用AI仿冒他人身份進(jìn)行營銷、欺詐等各類違規(guī)行為始終保持“零容忍”的高壓打擊態(tài)勢(shì)。

與此同時(shí)，平臺(tái)方面也向廣大用戶發(fā)出提醒：在瀏覽網(wǎng)絡(luò)信息時(shí)應(yīng)保持理性，增強(qiáng)對(duì)AI合成內(nèi)容的辨別能力，不輕信、不傳播涉嫌違規(guī)的虛假信息。一旦發(fā)現(xiàn)利用AI仿冒名人的線索，用戶可通過微信內(nèi)置的投訴渠道進(jìn)行反饋，共同維護(hù)健康的平臺(tái)生態(tài)。