上海兩會期間，人工智能技術的創(chuàng)新應用與規(guī)范治理成為代表委員討論的重要議題。市人大代表、上海合合信息科技股份有限公司董事會秘書劉忱提出，生成式人工智能技術在電商領域催生的新型違法活動，已成為侵害中小商家權益的突出問題，亟需通過多方協(xié)同治理構建健康數(shù)字生態(tài)。

隨著生成式人工智能技術門檻降低，部分不法分子利用AI工具批量生成虛假商品圖片，通過偽造"商品破損""貨物瑕疵"等證據(jù)，利用電商平臺"僅退款"規(guī)則實施惡意索賠。這種新型"黑灰產(chǎn)"具有零成本、批量化、難辨別等特點，已形成完整的產(chǎn)業(yè)鏈條，對電商市場秩序造成嚴重沖擊。

據(jù)劉忱分析，AI惡意應用帶來的危害呈現(xiàn)多維度特征：商家不僅面臨直接經(jīng)濟損失，還需承擔高昂的維權成本；部分電商平臺在網(wǎng)絡安全投入方面存在短板，審核機制難以應對技術性造假；更嚴重的是，這種行為破壞了市場信用體系，動搖了公平交易的基礎，對營商環(huán)境造成負面影響。數(shù)據(jù)顯示，某電商平臺去年因AI偽造證據(jù)導致的異常退款案件同比增長超過300%。

針對治理難題，劉忱建議構建"監(jiān)管-技術-行業(yè)"三位一體的治理體系。在監(jiān)管層面，主張由市場監(jiān)管部門牽頭，聯(lián)合網(wǎng)信、公安等部門及行業(yè)協(xié)會開展專項整治，重點排查3C數(shù)碼、美妝等高風險品類，建立高頻索賠賬號數(shù)據(jù)庫。同時推動監(jiān)管技術創(chuàng)新，要求平臺部署AI生成內容檢測系統(tǒng)，對審核流程實施常態(tài)化監(jiān)督，并開設商家維權綠色通道，簡化舉證程序。

技術治理方面，他提出電商平臺應升級智能風控系統(tǒng)，通過算法比對商品原始信息與退款證據(jù)，建立高頻索賠賬號預警機制。建議引入數(shù)字水印技術，要求商家對關鍵環(huán)節(jié)錄像存證，形成完整的證據(jù)鏈。某頭部平臺試點顯示，應用AI識別技術后，異常退款攔截率提升45%。

行業(yè)協(xié)同治理同樣關鍵。劉忱呼吁建立跨平臺信息共享機制，推動欺詐案例數(shù)據(jù)與惡意賬號黑名單互通，實現(xiàn)聯(lián)合管控。建議行業(yè)協(xié)會制定AI應用倫理規(guī)范，引導企業(yè)建立技術自律機制。目前已有部分平臺開始共享風險賬號信息，形成初步的協(xié)同防御網(wǎng)絡。