上海兩會(huì)期間，人工智能技術(shù)的創(chuàng)新應(yīng)用與規(guī)范治理成為代表委員們討論的重要議題。市人大代表、上海合合信息科技股份有限公司董事會(huì)秘書劉忱提出，生成式人工智能技術(shù)在電商領(lǐng)域催生的新型違法活動(dòng)，亟需通過監(jiān)管、技術(shù)和行業(yè)協(xié)同治理加以遏制，以保護(hù)中小經(jīng)營者的合法權(quán)益，優(yōu)化數(shù)字經(jīng)濟(jì)發(fā)展環(huán)境。

隨著生成式人工智能技術(shù)的普及，其帶來的風(fēng)險(xiǎn)問題逐漸顯現(xiàn)。劉忱指出，部分不法分子利用AI工具批量生成逼真的“商品破損”“貨物瑕疵”等虛假圖片，通過電商平臺(tái)“僅退款”規(guī)則的漏洞，實(shí)施惡意索賠。這種行為具有零成本、規(guī)模化和難以識(shí)別的特點(diǎn)，已成為侵害中小商家權(quán)益的突出問題。

此類AI惡意應(yīng)用對電商生態(tài)造成多方面危害。商家不僅面臨直接經(jīng)濟(jì)損失，還需承擔(dān)高昂的維權(quán)成本。由于AI偽造的證據(jù)難以辨別，商家舉證困難，平臺(tái)維權(quán)流程復(fù)雜，時(shí)間和經(jīng)濟(jì)負(fù)擔(dān)沉重。同時(shí)，電商平臺(tái)在追求商業(yè)利益的過程中，對網(wǎng)絡(luò)安全的投入仍顯不足。這種行為破壞了市場公平交易秩序，侵蝕了信用體系，對營商環(huán)境產(chǎn)生負(fù)面影響。

針對這些問題，劉忱建議首先加強(qiáng)監(jiān)管協(xié)同與效能。他提出，由市場監(jiān)管部門牽頭，聯(lián)合網(wǎng)信、公安、商務(wù)等部門及電商行業(yè)協(xié)會(huì)，開展針對AI造假索賠的專項(xiàng)整治行動(dòng)，重點(diǎn)排查高風(fēng)險(xiǎn)商品類別和高頻索賠賬號。同時(shí)，支持上海本地監(jiān)管技術(shù)創(chuàng)新，推廣AI生成內(nèi)容識(shí)別、商品溯源等技術(shù)工具，對平臺(tái)審核流程進(jìn)行常態(tài)化監(jiān)督，督促其履行審核責(zé)任。對于商家，可設(shè)立維權(quán)綠色通道，簡化AI造假索賠案件的舉證流程，建立“快速立案、優(yōu)先調(diào)處”機(jī)制，降低維權(quán)成本。

技術(shù)手段是治理AI問題的重要支撐。劉忱建議，電商平臺(tái)應(yīng)部署和升級AI造假識(shí)別技術(shù)，通過算法比對商品原始信息與退款證據(jù)的一致性，攔截偽造內(nèi)容，并對高頻索賠賬號實(shí)施重點(diǎn)監(jiān)控。應(yīng)推動(dòng)建立跨平臺(tái)協(xié)同治理機(jī)制，促進(jìn)電商平臺(tái)共享欺詐案例數(shù)據(jù)和惡意賬號黑名單，實(shí)現(xiàn)聯(lián)合管控。

為進(jìn)一步保障商家權(quán)益，劉忱還呼吁推廣數(shù)字水印技術(shù)。他建議引導(dǎo)商家在商品打包、發(fā)貨過程中全程錄像存證，為維權(quán)提供可靠證據(jù)。這些措施將有助于構(gòu)建可信的數(shù)字交易生態(tài)，維護(hù)電商市場的健康發(fā)展。