隨著生成式人工智能技術的飛速發展，社交媒體上的內容真實性正面臨嚴峻考驗。如今，普通用戶已越來越難以區分一段視頻是真實拍攝還是由AI合成，這一現象引發了廣泛關注。
據美國媒體CNET開展的一項調查顯示，94%的美國成年受訪者表示曾在社交平臺上遇到過AI生成的圖片或視頻，但僅有44%的人認為自己能夠準確辨別真實內容與AI作品的區別。這一數據反映出公眾在面對AI生成內容時的辨別能力存在明顯不足。
面對真假難辨的內容環境，受訪者提出了不同的應對建議。51%的人認為應該對AI生成內容添加更明確的標簽標識；21%的人主張在社交媒體上全面禁止AI生成的圖片和視頻；僅有11%的人認可AI視頻的信息價值、實用性或娛樂性。這些觀點反映了公眾對AI技術應用的復雜態度。
調查還發現，不同年齡群體在內容驗證行為上存在顯著差異。72%的美國成年人會采取某種方式判斷視頻真偽，但"1946年至1964年出生的人"中只有36%會主動驗證，"1960年代中期至1980年代出生的人"中這一比例也僅為29%。這意味著特定年齡群體更容易受到虛假內容的誤導。
CNET指出，隨著AI生成模型能力的不斷提升，公眾判斷內容真實性的難度日益增大。過去一些常用的識別技巧，如觀察手指數量等，如今已逐漸失效。這凸顯出社交媒體平臺在治理AI生成虛假內容方面承擔著越來越重要的責任。
