字節(jié)跳動(dòng)旗下最新視頻生成模型Seedance 2.0近日在即夢(mèng)、豆包、小云雀等平臺(tái)啟動(dòng)內(nèi)測(cè)，迅速成為科技領(lǐng)域焦點(diǎn)話題。這款以"超寫實(shí)"為賣點(diǎn)的生成工具，憑借對(duì)光影、紋理和動(dòng)態(tài)細(xì)節(jié)的精準(zhǔn)還原能力，在測(cè)試階段便引發(fā)國(guó)內(nèi)外用戶廣泛討論。值得注意的是，部分用戶擔(dān)憂其生成內(nèi)容可能達(dá)到"以假亂真"的程度，進(jìn)而對(duì)現(xiàn)實(shí)認(rèn)知造成干擾。

面對(duì)技術(shù)突破與倫理爭(zhēng)議的雙重關(guān)注，項(xiàng)目團(tuán)隊(duì)于2月9日通過即夢(mèng)創(chuàng)作者社群發(fā)布公告。運(yùn)營(yíng)人員表示："內(nèi)測(cè)期間用戶參與度遠(yuǎn)超預(yù)期，我們收到大量關(guān)于內(nèi)容真實(shí)性的反饋。為維護(hù)健康創(chuàng)作生態(tài)，即刻起暫停接受真人圖像或視頻作為生成主體，相關(guān)優(yōu)化工作正在緊急推進(jìn)。"公告特別強(qiáng)調(diào)，技術(shù)發(fā)展需以尊重創(chuàng)意邊界為前提，產(chǎn)品將以更嚴(yán)謹(jǐn)?shù)男螒B(tài)回歸市場(chǎng)。

據(jù)技術(shù)文檔顯示，Seedance 2.0采用多模態(tài)融合架構(gòu)，在物理引擎模擬和語義理解層面實(shí)現(xiàn)突破。其生成的虛擬場(chǎng)景中，人物微表情、衣物褶皺等細(xì)節(jié)均達(dá)到影視級(jí)精度，這既為影視制作、廣告營(yíng)銷等領(lǐng)域帶來創(chuàng)新可能，也引發(fā)關(guān)于深度偽造風(fēng)險(xiǎn)的討論。有網(wǎng)絡(luò)安全專家指出，此類技術(shù)若被惡意使用，可能對(duì)個(gè)人隱私、社會(huì)信任體系造成沖擊。

目前，字節(jié)跳動(dòng)已成立跨部門倫理審查小組，從技術(shù)限制、內(nèi)容標(biāo)識(shí)、用戶教育三方面構(gòu)建防護(hù)體系。除暫停真人素材輸入外，平臺(tái)還將引入數(shù)字水印技術(shù)，對(duì)生成內(nèi)容進(jìn)行不可逆標(biāo)記。這些調(diào)整預(yù)計(jì)將在完成壓力測(cè)試后逐步實(shí)施，具體時(shí)間表尚未對(duì)外公布。