格隆匯2月8日｜春節臨近，合成短視頻在各大社交平臺出現，AI技術也正在以一種前所未有的娛樂化姿態介入我們的傳統節日。專家表示，現在正規的大型AI服務平臺和一些專業的視頻合成工具，已經開始嘗試加入一些防止濫用的機制。比如強制添加AI生成標識或者水印，讓觀眾一眼就能分辨出這是合成內容。還有在用戶協議中明確禁止未授權使用他人的形象和聲音。部分平臺還在后臺建立了內容檢測和過濾機制，利用AI自身來識別疑似深度合成的視頻。但真實情況是，現在仍然有很多工具沒有足夠的防護機制，特別是一些開源模型或者小型應用，可能根本沒有添加標識或者監管的限制，這就給濫用留下了空間。