文匯時評|斬斷“AI帶貨”灰鏈,校準“智能向善”航向
AI也開始“帶貨”了!近日,不少消費者反映,在向AI諮詢日常生活問題時,得到的答案中竟植入了商業推薦內容。調查發現,向AI定向投餵數據以提高品牌曝光度,已形成灰色產業鏈。由於當前AI對海量網絡信息難辨真僞,一些市場認知度低、甚至完全虛構的品牌,也能進入AI的推薦列表,呈現在用戶面前。
當本應“智能篩選、客觀推薦”的AI機制異化爲“定向投餵、精準收割”的營銷工具,多方面的危害不容忽視。品牌方將“AI推薦位”作爲競購的廣告位,實際上是將商業戰的戰場推到了數據源頭。然而,如果任由灰色產業野蠻生長,那麼品牌方將陷入惡性競爭,造成AI數據輸入失控。計算機領域流傳着一句諺語:垃圾進,垃圾出。當輸入的數據受到污染,輸出的必然是錯誤或劣質的結果,最終導致消費者“踩坑”。
更需警惕的是,技術倫理的失守早有先例。在搜索引擎時代,就曾有企業在搜索結果、推薦信息的排序上“一切向錢看”,縱容金融、健康等關鍵領域的商業信息操縱,釀成財產損失乃至生命悲劇。進入AI紀元,算法的“價值觀”由訓練它的企業所賦予。技術公司在逐利與公益之間的取捨,將決定AI是成爲便利生活的工具,還是收割認知的利器。如果放任黑灰產組織借AI之力佈設詐騙陷阱,個體的認知安全風險便會升級爲社會公共安全威脅。
從這個意義上講,要整治“AI帶貨”亂象,就必須追溯到數據上游、深入到算法內核,推動多方共治,不僅斬斷幕後操縱的黑手,更要淨化AI的“認知”養成環境,錨定算法的價值原點。
政府部門需前瞻立法。在傳統互聯網廣告監管已顯滯後的背景下,必須建立起適配的法律框架。對於數據投餵存在的不正當競爭風險,以及植入廣告存在的品牌虛假、產品僞劣風險,立法者需要在廣告法、反不正當競爭法等法律基礎上,進一步明確AI生成商業內容的責任歸屬;執法者則要加強識別能力,嚴查植入廣告中的假冒僞劣與坑蒙拐騙,懲處違法違規的營銷企業,切斷黑灰產業的利益鏈。
技術企業需壓實責任。AI服務提供商應打開“技術黑箱”。在數據治理上,應建立貫穿輸入、處理、輸出的全流程標識與追溯體系,同時強化對訓練數據的質量篩查與來源審覈,避免無效信息、涉險信息的無節制輸入;在算法設計上,應遵循“用戶利益最大化”“社會效益優先”的原則,通過持續優化模型結構與權重配置,使推薦機制不僅匹配用戶需求,更彰顯社會責任。
用戶也需完善認知。當前,AI在生成結果時仍難以避免“幻覺”與“偏見”。因此,用戶需培育個人的“AI素養”,在提高解決問題效率的同時,不輕信、不盲從AI生成的結果,對AI推薦的商業內容更要保持天然警惕。此外,用戶要學會用多角度提問、交叉驗證等方式,過濾錯誤結果,提高答案可信度。
說到底,AI推薦的宗旨是服務於人。整治“AI帶貨”亂象,不是要捆住AI發展的手腳,而是樹牢底線思維,劃定行爲邊界,讓“以人爲本、技術向善”的理念嵌入AI、照亮生活。