AIGC 大肆污染互聯網，防范垃圾內容要“用魔法打敗魔法”？

2 月初，隨著 ChatGPT 和微軟 Bing AI 接連引爆互聯網，ChatGPT 概念股應聲而起，其中知乎因為大量問答被廣泛地用于生成式 AI 的訓練，股價一度暴漲 31%，之后百度文心一言發布時又漲了一大波。

但到了 4 月，一位網友就在知名程序員社區 V2ex 發帖感慨：「ChatGPT 會是知乎最大的敵人。」

【資料圖】

不僅是他，很多人都發現知乎已經充斥了大量 AI 生成的回答，有些可能是無關痛癢的觀點，但不少也出現了「一本正經胡說八道」。與此同時，AI 生成內容也在一步一步擴大自己的「領土」，從互聯網延伸真實世界。

海外技術社區 Hacker News 上有人指出，一家網紅營銷機構網站上的一篇博文出現了「抱歉，作為一種 AI 語言模型，我無法預測未來的事件或趨勢」的提醒，類似的話語還出現在卡塔爾的購物中心目錄和芬蘭的一家電子產品商店的網站等地方。

更多 AI 生成的虛假內容，或許還沒有被發現。

很多人可能還記得，今年 3 月網上流傳出一系列「特朗普被捕」的照片，雖然后續大量報道都指出其為 AI 生成的虛假照片，但照片剛開始被熱傳時，國內外社交平臺上都有不少人信以為真。而后來出現的「甘肅火車事故」「八角大樓被襲」假新聞，也一次又一次挑起了人們的神經。

過去半年我們已經知道，ChatGPT 等生成式 AI 會不顧真假，生成海量似是而非的內容。而由 AI 生成的虛假內容又會被其他 AI 拿來學習后，再生成更加以假亂真的內容。甚至，AI 還可以根據用戶的個人喜好一對一地生成虛假信息。因為 AI 可以擴大和再生產假新聞，未來可能造成更加嚴重的輿論造假。

更大的問題是，如果未來互聯網甚至是真實世界都充斥著各種 AI 生成的虛假內容，一切都會崩潰。而從文字到圖片再到聲音，今天 AI 生成的內容與真人創作的內容之間變得越來越難以分辨，就像大部分人已經無法分辨 AI 孫燕姿、AI Drake 與真人聲音。

同時 AI 的進化速度也太快了。幾個月前我們可能還在說 AI 繪畫「不會畫手」，但等到 Midjourney V5 新版本推出之后，AI 不僅在「畫手」上越發嫻熟，各種細節也變得更逼真。在針對 AI 歌手的回應中，孫燕姿也看到了這一點：

「你可能會反對，說我還是能分辨出區別的，它沒有情緒，沒有音調和呼吸的變化。很抱歉，我懷疑這只是一個非常短期內的回應。」

所以問題已經不在于我們能不能分辨 AI 生成的內容，而是我們應該如何辨認出 AI 生成的內容。

人工識別首先就不現實，先不說人工分辨 AI 生成內容的準確性，我們還需要投入海量的人力。

去年年底 ChatGPT 發布之后，很多人就用它來生成論文，并取得了很好的成績，同時也吸引了更多的學生效仿。隨后，巴黎政治學院在內的一些全球知名學府紛紛出臺了 ChatGPT 禁令。但據在線課程供應商 Study.com 此前發起的一項調查顯示，1000 名 18 歲以上的學生中，超過 89% 的學生都在使用 ChatGPT 來完成家庭作業。

但這個問題總要解決，而最好的辦法，可能還是用「魔法」打敗「魔法」？

眾所周知，一個社區的核心是用戶與用戶之間的交流，而 AI 生成的虛假內容一旦泛濫很容易摧毀這種交流，這也是所有在線社區極力避免的。但方法呢？除了依靠個人去辨別，很多時候我們又必須依賴 AI，比如前文提到 V2ex，其站長 @Livid 為了分辨 AI 生成的灌水內容，就會直接反過來詢問 AI「是否由 AI 生成」，以此作為是否封禁用戶的依據。

問題是這種方法還是存在太多的不確定性。

就在 ChatGPT 剛推出的幾天后，OpenAI 宣布聯合哈佛大學等高校和機構一起打造了 AI 檢測器—— GPT-2 Output Detector（GPT-2 輸出檢測器）。顧名思義，GPT-2 Output Detector 是基于 GPT-2 模型微調輸出的工具，對基于 GPT-3.5 的 ChatGPT 實際效果并不好。

于是今年 2 月 1 日，OpenAI 轉頭又推出「AI 生成內容識別器」，目的是識別文本由 AI 生成還是人類撰寫，本質上是一個辨別真實內容和 AI 生成內容的分類器。不過，OpenAI 在博客中指出，該識別器對 AI 生成內容的檢測成功率僅為 26%：

可能還不如網友瞎猜。

國內也出現了類似的 AIGC-X。這是一款由人民網下屬傳播內容認知國家重點實驗室、中國科學技術大學、合肥綜合性國家科學中心人工智能研究院聯合推出的 AI 生成內容檢測工具，支持對 AI 生成內容和人工生成內容的分辨。盡管有報道稱 AIGC-X 對中文文本檢測的準確率超過 90%，但實測并不如意。

可以說到目前為止，所有試圖用 AI 打敗 AI 的嘗試都沒有成功，本身這條路徑也存在不少爭議，有人就將其形容為新時代的「自相矛盾」——用最強的矛打最強的盾。

相比之下，「水印」成了越來越廣泛的選擇。5 月谷歌 I/O 大會上，谷歌率先宣布公司的每一張 AI 生成圖片都會內嵌水印，水印無法肉眼識別，但可通過谷歌搜索引擎等軟件讀取并以標簽顯示出來，用以提醒用戶該圖片由 AI 生成。不久后，Shutterstock、Midjourney 等 AI 應用也宣布將支持這種新的標記方法。

但 AI 生成文字還在等待一個切實可行的方案。在 AI 生成內容識別器失敗之后，OpenAI 也在考慮在生成的文本中加入數字水印，以降低模型被濫用帶來的負面影響。OpenAI 對齊團隊（主要負責系統安全性）負責人 Jan Leike 表示，OpenAI 已經探索在文本中加入水印。

不過，OpenAI CEO Sam Altman 在接受采訪也提醒到，不存在一個完美的 AI 生成文字識別工具，原因是人們總會弄清楚他們要修改多少文字，還會出現修改輸出文本的其他工具。

之前在某個論壇上看到一個帖子，一位網友通過搜索引擎跳到知乎的一則回答，看到了一半才意識到這則回答大概是由 AI 生成，瞬間有種被喂 x 的感覺。

關鍵是如果主動使用 ChatGPT 之類的生成式 AI，我們可能對它的真實性、胡說八道都會有一定的預期，但顯然我們無法阻止其他人使用并發布 AI 生成的虛假內容。打個比方，如果對歷史并不熟悉的人，在知乎上看到一則言之鑿鑿討論亞瑟王的回答，會不會誤認為亞瑟王是真實存在的人物，甚至是一位女騎士（型月作品中的設定）。

但坦白講，除了很明顯的 AI 生成風格，我們很難在熟知領域之外分辨內容是否由 AI 生成，唯一能做的，可能就是更加審視我們所看到的內容。

題圖來自《七宗罪》劇照