AIPress.com.cn報道

3月20日消息，meta近日披露，其正在測試并逐步推廣基于AI的內容審核系統，初步結果顯示在部分場景下已優于人工審核。

公司表示，已開始在全球范圍內推出“meta AI support”工具，用于處理包括密碼重置、違規內容舉報、內容下架解釋、申訴處理及隱私設置管理等用戶支持任務。同時，meta計劃在未來幾年進一步部署更先進的AI系統，用于識別詐騙、非法內容等嚴重違規行為。

在實驗數據方面，meta稱，一項AI工具每天可檢測并阻止約5000起誘導用戶泄露密碼的詐騙行為，而此類行為此前難以被人工團隊有效識別。AI系統還使虛假名人賬號相關舉報數量下降超過80%，對成人性引誘類違規內容的檢測能力實現翻倍提升。

在賬戶安全領域，AI也被用于識別異常行為，例如跨地區登錄、密碼更改及資料修改等組合特征，從而提前預警潛在的賬號接管風險。

不過，相關能力也引發一定討論。類似“異常登錄”（impossible travel）檢測在企業安全產品中已較為成熟，而meta此前在虛假廣告與詐騙內容治理上的表現亦曾受到外界質疑。公司披露，其AI已將涉及詐騙等違規廣告的曝光量降低約7%。

戰略層面，meta正在加速從“元宇宙”向AI轉型。同一時期，公司宣布逐步收縮其虛擬世界平臺Horizon Worlds相關投入，轉而將資源更多投向AI及“超級智能”方向。

Mark Zuckerberg此前曾將元宇宙視為核心戰略，并在過去數年投入超過800億美元。隨著AI成為新的重點方向，公司預計將繼續在相關領域進行大規模投資。

整體來看，meta正嘗試通過AI提升內容審核效率與覆蓋范圍，但從實驗數據到實際治理效果之間仍存在差距，其長期成效仍有待觀察。（AI普瑞斯編譯）