造謠、搞黃色、“雷軍”罵人，濫用AI已經是個不能忽視的世界性問題 | 一週精選

本週焦點：濫用AI已經是熱搜常客了

或許不是巧合，這周我們在兩天的B報裏，都提到了AI技術鬧出的爭議。

一個是16日，26位日本知名聲優聯合發佈了「NOMORE 無斷生成 AI」的宣傳聲明，抵制未經授權將聲優聲音用於訓練生成式AI、公開販賣牟利的行爲；另一個是前幾天，推特（X）更新了用戶協議，明確了X官方可以拿用戶在X上發佈的作品訓練AI，導致大量畫師刪稿出走。

乘虛而入的競品

這兩件事離ACG圈都比較近，所以討論熱度都挺高，從中也能看出大家對AI的態度。一方面，以畫師爲主的創作者，依然非常反感原創作品被喂AI，X官方沒得到許可就免費用的霸王條款引起了公憤；另一方面，社交媒體內容被用於AI訓練，已經是大勢所趨，也有人指出，就算畫師跑了，後面可能也遲早會回來，比起抵制重點是找到合理的利益分配方式。

就像日本聲優聯合聲明裏，並沒有把AI一棒子打死，說的是希望能和專家進行討論，制定文化規則。上週，聲優事務所“青二production”還宣佈和AI公司合作，計劃就將旗下野澤雅子、銀河萬丈在內的10位聲優的聲音做AI化應用，但不涉及演技領域，主要是進行多語言轉化後，提供給語音助理、機器人、導航設備等產品。這種有明確授權、界限劃分的商業合作，無論對於創作者還是粉絲，都是可以接受的。

野澤雅子，《龍珠》系列中孫悟空的御用聲優

但能夠達成共識的終究是少數，放眼全球，濫用AI造成的負面問題，正在變得越來越尖銳、頻繁。

10月初開始，國內的各大平臺都出現了大量用雷軍聲音配的短視頻，多是銳評甚至直球辱罵某件事，形成了玩梗熱潮，“國慶被雷軍罵了7天”的詞條也登上了熱搜。

後來，雷軍本人、小米公關人士都側面回應了雷軍AI二創，小米還請了大批KOL出來講濫用AI是不對的，惡搞尺度太過了，但如今，每天仍然有無數雷軍AI視頻冒出來，結合時事評論播放量還不低。

從看樂子的角度，這大概跟玩梗鬼畜沒什麼區別，但嚴格來說，針對雷軍的AI二創已經是一種深度僞造（Deepfake）。在抖快的評論區，經常有人說，看這些視頻一開始真以爲是雷軍自己說的，看多了才知道是AI。

最近的熱點新聞裏，AI的出鏡率也越來越高。從成都的拆遷謠言，到三隻羊事件的錄音造假，到最後發現都是AI乾的。

甚至你在短視頻上看的新聞報道、專家講座，可能就是用AI生成的詐騙信息。

而說起Deepfake，這項技術已經在韓國引發了全國性的惡性事件。今年8月，有媒體陸續報道了，在社交媒體上出現了海量，韓國學校裏的女教師、學生被AI換臉的情色視頻圖片，這些Deepfake內容在Telegram羣組裏廣泛傳播，最多的一個羣裏有22萬人。

犯罪者盜取這些女性在社交平臺上發佈的日常圖片，只需要一張清晰的面部圖片，用5秒鐘就能合成AI換臉照片，25秒鐘就能製作一條一分鐘的視頻，受害者中有大量的未成年人，這件事也被各方報道爲“N號房2.0”。

韓國Deepfake事件不但在他們國內掀起了大範圍的抗議，也導致很多人開始不敢在社交平臺上發自己的真實照片。根據韓國警察廳最新公佈的消息，今年1到10月，他們共受理了921利用Deepfake實施的性犯罪案件，逮捕的474名嫌疑人中，年齡10多歲的未成年佔80％以上。AI工具的便利性和缺乏監管，一定程度上助長了性剝削犯罪的低齡化。

類似的情況說不定也潛伏在我們身邊。根據奇安信發佈的《2024人工智能安全報告》顯示，2023年基於AI的深度僞造欺詐增長了3000%，僅今年上半年，AI詐騙案案值已超過1.85億元。

不同於算法剛流行的時候，大夥還搞不清原理，看不懂代碼，伴隨着生成式AI的爆發，開源的大模型工具也在快速普及，普通人就能用極低的成本，快速上手AI，讓網絡信息環境變得更加錯綜複雜。

不得不承認的是，AI給我們帶來了不少有趣的創作可能性，在全球經濟都不景氣的情況下，AI也是重要的科技發展方向，懷着對新型生產力的願景，芯片、大模型公司的估值直衝雲霄，每個大廠都不想錯過這波AI浪潮，沒人會主動踩剎車。

一邊是快速發展的時代和技術，一邊是被AI填充、污染的網絡世界，身處其中的我們，有點像奧特曼與怪獸在城市中激戰時，隨時可能被波及的炮灰，無人關心。我們不可能對所有信息都保持謹慎和警惕，任何社會新聞、熱搜熱點，正反兩方都可以利用AI去製造混亂，混沌的信息又大幅牽動着情緒——對知識的焦慮、對獵奇的渴望、對身份的認同...——助長着平庸之惡。

可能你也聽說了，今年的諾貝爾物理學獎和化學獎，都頒給了與AI有關的研究項目，不過今年諾貝爾經濟學獎的獲得者阿西莫格魯和約翰遜，卻算得上是AI技術的懷疑者，他們認爲AI技術最終只能惠及少數精英階層，人類可以利用技術造福所有人，提高生產力，但不能以目前對AI的癡迷形式來進行。“我們認爲這正在破壞全世界的繁榮。”

作爲一個渺小的個體，誰也不知道AI能不能改變人類命運，但這之前，我們可能先要學會在愈發複雜的環境裏保護自己。

B站開始治理遊戲區惡性引戰、人身攻擊行爲。16日，嗶哩嗶哩社區小管家發佈了《關於遊戲區惡性引戰、人身攻擊行爲的專項治理公告》。公告中指出，社區中圍繞着遊戲內容討論產生了一系列不良內容，包括但不限於討論背離遊戲本身、以偏概全惡意人身攻擊、喜歡扣帽子、故意引戰、傳播謠言等。

社區管家表示，爲了維護良好的投稿氛圍，社區即日起對遊戲區（包括遊戲關聯稿件）投稿中存在的數類違規行爲進行專項治理。本次治理將針對以上提到的違規種類，視違規情節嚴重程度，予以限流或鎖定稿件、封禁嚴重違規賬號等處罰。