獨立應用程序研究員Nima Owji近日披露,社交平臺X正在內部測試一項新功能,該功能可對AI生成的內容進行自動標注。這項名為"Made with AI"的標識系統(tǒng)被整合在平臺的內容披露控制模塊中,用戶開啟后系統(tǒng)將自動識別并提示相關內容由人工智能工具創(chuàng)作。
根據(jù)技術分析,該功能通過算法檢測文本、圖像或視頻中的AI生成特征,在用戶發(fā)布內容時自動添加特殊標識。目前測試版本顯示,標識會以統(tǒng)一格式出現(xiàn)在內容角落,既保證用戶知情權又不影響正常瀏覽體驗。平臺方尚未對此功能作出正式說明,但技術團隊已在最新測試版中預留了相關接口。
業(yè)內人士推測,隨著生成式AI技術的普及,內容真實性管理已成為社交平臺的重要課題。該研究員預測,正式上線后創(chuàng)作者可能需要主動申報AI生成內容,未按規(guī)定標注的賬號可能面臨流量限制或賬號封禁等處罰措施。這種強制披露機制或將引發(fā)關于創(chuàng)作自由與信息透明的持續(xù)討論。
測試數(shù)據(jù)顯示,當前算法對主流AI工具生成內容的識別準確率超過92%,但對混合創(chuàng)作內容的判定仍存在改進空間。平臺技術團隊表示正在優(yōu)化檢測模型,未來可能支持更多類型的AI生成內容識別,包括深度偽造視頻和語音合成內容。











