小紅書平臺近日發(fā)布公告，針對站內(nèi)AI生成合成內(nèi)容管理提出新要求，呼吁用戶主動標識相關創(chuàng)作內(nèi)容。此舉源于平臺近期收到多起用戶舉報，反映部分賬號利用AI技術仿冒公眾人物形象、制作虛假視頻，且未在發(fā)布時明確標注技術屬性。

根據(jù)公告內(nèi)容，未經(jīng)授權(quán)使用AI生成公眾人物形象的行為，不僅侵犯了個人合法權(quán)益，更因部分內(nèi)容缺乏技術標識導致信息真實性存疑，對社區(qū)信任體系造成沖擊。平臺特別指出，部分創(chuàng)作者通過深度合成技術制造的虛假影像，已引發(fā)用戶對內(nèi)容真實性的廣泛質(zhì)疑。

依據(jù)《人工智能生成合成內(nèi)容標識辦法》相關規(guī)定，小紅書將強化技術檢測手段，對未主動標識的AI生成內(nèi)容進行自動識別。系統(tǒng)檢測到未聲明內(nèi)容時，將自動添加技術標識并限制推薦流量。平臺明確表示，創(chuàng)作者需在發(fā)布環(huán)節(jié)自行勾選"AI生成"選項，否則將面臨內(nèi)容分發(fā)受限的處置措施。

針對特定違規(guī)情形，平臺制定了更嚴厲的管控策略。包括但不限于：利用AI技術制造虛假仿冒信息、篡改經(jīng)典作品內(nèi)容、傳播不良價值觀，以及教授去除AI標識方法等行為，均被列入重點打擊范圍。技術團隊將持續(xù)優(yōu)化AI內(nèi)容識別模型，提升對深度偽造內(nèi)容的鑒別能力。

此次規(guī)則調(diào)整標志著內(nèi)容平臺對AI技術治理進入新階段。通過強化標識規(guī)范與檢測技術雙管齊下，小紅書試圖在鼓勵技術創(chuàng)新與維護內(nèi)容真實性之間尋求平衡。業(yè)內(nèi)人士指出，此舉或?qū)⑼苿诱麄€社交媒體行業(yè)建立更完善的AI內(nèi)容管理標準。