市人大代表劉忱：強化AI惡意應用治理，築牢數字經濟營商環境防線

上海兩會期間，人工智能技術的創新與治理成爲代表委員熱議的焦點。市人大代表、上海合合信息科技股份有限公司董事會祕書劉忱認爲，面對聚焦生成式人工智能技術在電商領域衍生出的新型“黑灰產”問題，應通過監管、技術、行業“三管齊下”，構建可信數字交易生態，維護中小經營者合法權益，進一步優化上海數字經濟營商環境。

隨着生成式人工智能（AIGC）技術門檻降低與應用普及，其“雙刃劍”效應日益凸顯。劉忱代表指出，當前在電商領域，已出現不法分子利用AI工具批量生成高度逼真的“商品破損”“貨物瑕疵”等圖片，並利用電商平臺“僅退款”規則漏洞，實施惡意索賠的新型違法活動。

這種行爲具有零成本、批量化、難辨別的特點，正迅速演變爲侵害廣大中小商家權益的突出問題。劉忱表示，此類AI惡意應用行爲帶來的危害主要體現在三個方面：一是商家直接經濟損失與維權成本雙高。面對AI僞造的證據，商家舉證難度大，平臺維權流程複雜，時間成本與經濟負擔沉重。二是線上平臺作爲電商活動的載體，在追求經濟利益的同時，對網絡安全的投入仍待改善。三是市場秩序與信用體系遭侵蝕，不僅破壞公平交易市場秩序，某種程度上影響營商環境。

針對上述問題，劉忱代表提出首要對策是強化監管合力與效能。他建議，由市場監管部門牽頭，聯合網信、公安、商務及電商行業協會等，開展針對 AI 造假索賠的專項整治行動，重點排查高風險品類與高頻索賠賬號。同時，支持上海本地監管技術創新，推廣AI 生成內容識別、商品溯源等監管工具，對平臺審覈流程實施常態化監督檢查，督促落實審覈義務。在商家端，可設立商家維權綠色通道，簡化 AI 造假索賠案件舉證流程，建立“快速立案、優先調處”機制，降低商家維權成本。

治理AI產生的問題，同樣需要依靠AI等技術手段。劉忱代表建議，應大力推動電商平臺部署與升級AI造假識別技術，通過算法比對商品原始信息與退款證據一致性，攔截僞造內容，對高頻索賠賬號實施重點監控。

他還呼籲建立跨平臺協同治理機制，推動各大電商平臺共享欺詐案例數據與惡意賬號黑名單，實現聯合管控。此外，應鼓勵應用數字水印技術。引導商家對商品打包、發貨全過程錄像存證，爲維權提供可靠證據支撐。