字節(jié)跳動(dòng)旗下最新視頻生成模型Seedance 2.0近日在即夢(mèng)、豆包、小云雀等平臺(tái)啟動(dòng)內(nèi)測(cè),迅速成為科技領(lǐng)域焦點(diǎn)話題。這款以"超寫實(shí)"為賣點(diǎn)的生成工具,憑借對(duì)光影、紋理和動(dòng)態(tài)細(xì)節(jié)的精準(zhǔn)還原能力,在測(cè)試階段便引發(fā)國(guó)內(nèi)外用戶廣泛討論。值得注意的是,部分用戶擔(dān)憂其生成內(nèi)容可能達(dá)到"以假亂真"的程度,進(jìn)而對(duì)現(xiàn)實(shí)認(rèn)知造成干擾。
面對(duì)技術(shù)突破與倫理爭(zhēng)議的雙重關(guān)注,項(xiàng)目團(tuán)隊(duì)于2月9日通過即夢(mèng)創(chuàng)作者社群發(fā)布公告。運(yùn)營(yíng)人員表示:"內(nèi)測(cè)期間用戶參與度遠(yuǎn)超預(yù)期,我們收到大量關(guān)于內(nèi)容真實(shí)性的反饋。為維護(hù)健康創(chuàng)作生態(tài),即刻起暫停接受真人圖像或視頻作為生成主體,相關(guān)優(yōu)化工作正在緊急推進(jìn)。"公告特別強(qiáng)調(diào),技術(shù)發(fā)展需以尊重創(chuàng)意邊界為前提,產(chǎn)品將以更嚴(yán)謹(jǐn)?shù)男螒B(tài)回歸市場(chǎng)。
據(jù)技術(shù)文檔顯示,Seedance 2.0采用多模態(tài)融合架構(gòu),在物理引擎模擬和語義理解層面實(shí)現(xiàn)突破。其生成的虛擬場(chǎng)景中,人物微表情、衣物褶皺等細(xì)節(jié)均達(dá)到影視級(jí)精度,這既為影視制作、廣告營(yíng)銷等領(lǐng)域帶來創(chuàng)新可能,也引發(fā)關(guān)于深度偽造風(fēng)險(xiǎn)的討論。有網(wǎng)絡(luò)安全專家指出,此類技術(shù)若被惡意使用,可能對(duì)個(gè)人隱私、社會(huì)信任體系造成沖擊。
目前,字節(jié)跳動(dòng)已成立跨部門倫理審查小組,從技術(shù)限制、內(nèi)容標(biāo)識(shí)、用戶教育三方面構(gòu)建防護(hù)體系。除暫停真人素材輸入外,平臺(tái)還將引入數(shù)字水印技術(shù),對(duì)生成內(nèi)容進(jìn)行不可逆標(biāo)記。這些調(diào)整預(yù)計(jì)將在完成壓力測(cè)試后逐步實(shí)施,具體時(shí)間表尚未對(duì)外公布。











