中國互聯(lián)網(wǎng)協(xié)會知識產(chǎn)權(quán)工作委員會與度小滿科技近日聯(lián)合發(fā)布《人工智能用戶權(quán)益保護(hù)關(guān)鍵問題研究報告》，針對人工智能產(chǎn)業(yè)快速發(fā)展中用戶權(quán)益保護(hù)面臨的挑戰(zhàn)展開系統(tǒng)研究。報告顯示，截至2025年，我國人工智能核心產(chǎn)業(yè)規(guī)模已突破1.2萬億元，生成式人工智能用戶達(dá)5.15億，但侵權(quán)形態(tài)多樣化、責(zé)任界定模糊、損害后果系統(tǒng)性等問題日益凸顯，超半數(shù)受訪者對AI引發(fā)的安全與隱私問題表示擔(dān)憂，同時認(rèn)為現(xiàn)有法律保障體系存在不足。

報告以人工智能個人用戶權(quán)益為核心研究對象，涵蓋人格權(quán)、公民權(quán)、民事權(quán)益及消費(fèi)者權(quán)益等多維度。研究指出，用戶權(quán)益風(fēng)險貫穿AI技術(shù)應(yīng)用全流程，包括數(shù)據(jù)采集、內(nèi)容生成、算法決策及網(wǎng)絡(luò)安全等環(huán)節(jié)。在國際治理層面，美國采取市場自律模式，歐盟實(shí)施強(qiáng)監(jiān)管框架，日本則通過軟法治理探索平衡路徑；我國已構(gòu)建起統(tǒng)籌發(fā)展與安全的治理體系，通過頂層規(guī)劃、基礎(chǔ)立法、專項(xiàng)規(guī)范及標(biāo)準(zhǔn)制定形成多層次保護(hù)框架，目前已有數(shù)十款生成式AI服務(wù)完成備案登記。

報告重點(diǎn)剖析了四類高風(fēng)險場景：數(shù)據(jù)采集訓(xùn)練階段存在合法性沖突、數(shù)據(jù)偏見及過度收集問題；虛假內(nèi)容生成環(huán)節(jié)可能侵害人格權(quán)，并因AI“幻覺”現(xiàn)象引發(fā)新型侵權(quán)；算法決策偏差導(dǎo)致消費(fèi)者權(quán)益受損，甚至造成人身財產(chǎn)損害；網(wǎng)絡(luò)安全漏洞則可能引發(fā)數(shù)據(jù)泄露、模型攻擊及供應(yīng)鏈風(fēng)險等系統(tǒng)性危害。針對這些挑戰(zhàn)，報告從法律界定、監(jiān)管強(qiáng)化及技術(shù)研發(fā)三方面提出建議，包括明確責(zé)任主體、完善動態(tài)監(jiān)管機(jī)制、推動全棧安全技術(shù)創(chuàng)新等，并展示度小滿在深偽檢測、風(fēng)控決策智能體等領(lǐng)域的實(shí)踐成果。

報告強(qiáng)調(diào)，人工智能用戶權(quán)益保護(hù)需推動法律體系系統(tǒng)性重構(gòu)，通過專門立法框架與現(xiàn)行法律適配性完善形成雙重保障；監(jiān)管模式應(yīng)向敏捷治理轉(zhuǎn)型，實(shí)現(xiàn)全流程動態(tài)監(jiān)管與多元主體協(xié)同共治；同時需促進(jìn)權(quán)益保護(hù)與產(chǎn)業(yè)創(chuàng)新的協(xié)同共生，通過技術(shù)賦能治理、建立彈性監(jiān)管機(jī)制，在保障用戶權(quán)益的同時激發(fā)創(chuàng)新活力，最終推動人工智能產(chǎn)業(yè)向“以人為本、智能向善”的方向可持續(xù)發(fā)展。