79 元買 30 張“臉”，誰在甩賣 AI 換臉工具？

本文來自微信公眾號(hào)：豹變（ID：baobiannews），作者：宋子豪，編輯：劉楊，原文標(biāo)題：《79 元買 30 張「臉」，誰在甩賣 AI 換臉工具？》，題圖來自：視覺中國

自從 5 月底 "AI 詐騙正在全國爆發(fā) " 登上熱搜后，利用 AI 換臉技術(shù)的詐騙事件頻繁發(fā)生。

近日，中國銀河證券發(fā)布公告稱：利用 "AI 合成技術(shù) " 的詐騙手段或?qū)⒅鸩铰又磷C券行業(yè)。公告顯示，某知名經(jīng)濟(jì)學(xué)家稱，自己被人利用 "AI 換臉 " 等技術(shù)，通過視頻、語音等方式聯(lián)系投資者，騙取投資者信任，開展薦股活動(dòng)。

(資料圖片僅供參考)

此前已經(jīng)有哈爾濱、福州等多地網(wǎng)警通報(bào)有關(guān) AI 換臉的詐騙事件，有人 10 分鐘被騙了 430 萬。

而 "AI 換臉 " 詐騙猖獗的當(dāng)下，社交平臺(tái)上也涌現(xiàn)了一批推銷 "AI 換臉教程 " 的賬號(hào)。

這些賬號(hào)發(fā)布的視頻，主要內(nèi)容都是人物手一揮就換了一張臉。視頻還會(huì)同時(shí)搭配洗腦的音樂，簡單的動(dòng)作，以及 "AI 換臉教程、直播實(shí)時(shí)換臉、視頻實(shí)時(shí)換臉、自定義換臉 " 等相關(guān)文字。

如果有用戶在視頻下面回復(fù)，他們就會(huì)在評(píng)論區(qū)引導(dǎo)，讓用戶加聯(lián)系方式詳談。

這些賬號(hào)背后的上傳者，自稱是自媒體時(shí)代的成功學(xué)導(dǎo)師，不斷追逐熱點(diǎn)，付費(fèi)傳授各種流量密碼。

只不過，這一次的 "AI 換臉 " 尚處于監(jiān)管灰色地帶，參與其中的用戶可能稍不留神，就從 " 知識(shí)付費(fèi) " 變成 " 今日說法 "。

AI 詐騙之后，" 換臉 " 教程席卷平臺(tái)

5 月底，有不少網(wǎng)友發(fā)現(xiàn)，當(dāng)紅女星 " 楊冪 "" 迪麗熱巴 " 親自在某女裝品牌直播間帶貨。她們互動(dòng)熱情，介紹專業(yè)，短時(shí)間引來大量網(wǎng)友圍觀。

但仔細(xì)看，主播的臉又不太像明星本人，如果主播扭頭的幅度太大，居然會(huì)瞬間 " 顯出原形 "，變出另一張臉來。更有人在不同直播間同時(shí)看到多個(gè) " 楊冪 "" 熱巴 "。一時(shí)間，" 明星主播 " 分身有術(shù)，處處有 " 楊冪 "，個(gè)個(gè)是 " 熱巴 "。

經(jīng)過媒體曝光，人們才發(fā)現(xiàn)，原來部分直播間在未標(biāo)識(shí)情況下，用 AI 換臉技術(shù)，讓主播套上一張明星臉，誤導(dǎo)消費(fèi)者。

想起差點(diǎn)因?yàn)樘摷俚拿餍切?yīng)沖動(dòng)消費(fèi)，人們對(duì) AI 換臉的魔力越發(fā)心有余悸。

視頻換臉技術(shù)出現(xiàn)已久，早在 2019 年，一款名為 "ZAO" 的換臉 App 就曾紅極一時(shí)，用戶只要上傳一張自己的正面照，就可以在電影角色的臉上套上自己的五官，與明星同臺(tái)飆戲。

到了 2021 年年初，換臉應(yīng)用程序 Avatarify 一度登上了 App Store 中國區(qū)應(yīng)用免費(fèi)榜榜首，但不到一個(gè)星期，該應(yīng)用就被中國區(qū) App store 下架。

這些軟件的技術(shù)往往來自于 DeepFake 開源技術(shù)，依托大數(shù)據(jù)和人工智能深度學(xué)習(xí)機(jī)制，對(duì)既有視頻或圖片中的人物面部圖像進(jìn)行替換。

雖然當(dāng)時(shí)的換臉技術(shù)還不夠逼真，但已經(jīng)能讓一些短視頻創(chuàng)作者吸引流量。

在 2021 年 3 月，TikTok 上的某個(gè)視頻賬號(hào)就通過換臉技術(shù)，制作了換臉湯姆克魯斯練習(xí)高爾夫、表演魔術(shù)、講笑話等視頻，發(fā)布沒多久就收獲了 20 多萬粉絲。

當(dāng)時(shí)，這種技術(shù)門檻較高。視頻制作者宣稱使用了開源的 DeepFaceLab 算法以及其他的視頻編輯工具，通過將傳統(tǒng)的視覺特效與 DeepFake 技術(shù)相結(jié)合，前后花了整整兩個(gè)月的時(shí)間制作。此外，硬件上還需要使用一對(duì) NVIDIA RTX 8000 GPU 訓(xùn)練 AI 模型，才能達(dá)到以假亂真的效果。

隨著近兩年來技術(shù)大爆發(fā)，不僅出現(xiàn)了幾乎可以傻瓜式操作換臉的相關(guān)軟件，逼真程度也一再上升，目前已經(jīng)可以做到實(shí)時(shí)換臉，從而應(yīng)用到上面提到的直播領(lǐng)域。

但是從娛樂領(lǐng)域到商業(yè)領(lǐng)域，AI 換臉還處于灰色地帶。

在此前的報(bào)道中，有法律人士認(rèn)為，使用 AI 換臉技術(shù)時(shí)，應(yīng)有顯著標(biāo)識(shí)，以免公眾混淆。而未經(jīng)明星同意使用其肖像直播帶貨，可能涉嫌多項(xiàng)侵權(quán)。

2023 年 3 月，某短視頻平臺(tái)上的特效師通過把電視劇中男主角的臉換成自己的臉，合成與女明星親吻的影像，并借此宣傳售賣 " 特效換臉教程 "，也引發(fā)了很大爭議，并且該賬號(hào) " 特效合成師洪亮（收徒）" 被平臺(tái)封號(hào) 15 天。

目前短視頻平臺(tái)對(duì)于這類行為提出了規(guī)范。比如 2023 年 5 月 9 日，抖音發(fā)布 " 關(guān)于人工智能生成內(nèi)容的平臺(tái)規(guī)范暨行業(yè)倡議 "，其中提到創(chuàng)作者應(yīng)對(duì)人工智能生成內(nèi)容進(jìn)行顯著標(biāo)識(shí)，同時(shí)虛擬人需在平臺(tái)進(jìn)行注冊，虛擬人技術(shù)使用者需實(shí)名認(rèn)證。

而在政策監(jiān)管上，今年 1 月生效的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》也指出，提供智能對(duì)話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)。并要求任何組織和個(gè)人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標(biāo)識(shí)。

面對(duì)平臺(tái)和監(jiān)管部門的圍追堵截，換臉明星以吸引流量的路子走不通。部分博主發(fā)現(xiàn)以身犯法不行，轉(zhuǎn)身賣起了所謂的 AI 換臉課程。

79 元就能 " 換 "30 張臉

此前，央視財(cái)經(jīng)曝光 " 主播 AI 換臉明星進(jìn)行直播 " 時(shí)提到，在網(wǎng)上購買一套 AI 實(shí)施換臉的模型需 3.5 萬元。

只過了一個(gè)多月的時(shí)間，AI 換臉的價(jià)格正在迅速平民化。如今，只需要 79 元，一個(gè) AI 換臉套餐就能幫你換 30 張臉。

《豹變》在社交平臺(tái)上搜到了有關(guān) "AI 換臉教程，直播實(shí)時(shí)換臉，視頻通話換臉 " 的相關(guān)視頻，視頻下方的商品鏈接中售賣相應(yīng)的課程——不僅提供 "AI 換臉直播間搭建 " 工具包＋教程，同時(shí) " 包教包會(huì)換臉直播，79 元可以解鎖 30 張面孔 "。

店鋪顯示，該課程已售 13 份。《豹變》詢問后并沒有得到回復(fù)，截至發(fā)稿，相關(guān)產(chǎn)品已經(jīng)下架。

類似售賣 AI 變臉課程的賬號(hào)往往非常謹(jǐn)慎，多數(shù)賬號(hào)在視頻中并不直接宣傳賣課，而是以 " 帶你玩 AI 換臉 " 等字眼，吸引用戶主動(dòng)詢問。

此外，賣家還會(huì)通過大批沒有其他內(nèi)容的僵尸號(hào)，批量轉(zhuǎn)發(fā)同樣的視頻，然后在賬號(hào)簡介或私信中交換聯(lián)系方式。

《豹變》從一位賣家客服那里了解到，不同的套餐價(jià)格不一樣，包括 588 元的入門版本、888 元的基礎(chǔ)版本、1388 元的進(jìn)階版本，以及 2888 元的專業(yè)版本。

客服表示，如果用于直播帶貨，建議購買 2888 元的專業(yè)版本：" 我們這個(gè)活動(dòng)很劃算了，永久免費(fèi)使用，包更新，后續(xù)這個(gè)價(jià)格會(huì)變?yōu)槟昕ā?

有相關(guān)行業(yè)從業(yè)者表示，類似的 AI 換臉技術(shù)主要來自于國外開源項(xiàng)目：" 最近 AI 技術(shù)大爆炸，很多技術(shù)都是開源的，而且更新非常快。國產(chǎn)自研技術(shù)也有，但都是有投資的公司做的，而且效果不理想。"

類似的開源項(xiàng)目，官方網(wǎng)站上就有使用教程。一些人搬運(yùn)到國內(nèi)之后，開始打包賣課程和教程，成本幾乎為零。

比如，B 站、抖音等視頻網(wǎng)站上的很多 AI 換臉視頻都是通過 DeepFaceLab 生成的。DeepFaceLab 安裝簡單，更新快，功能強(qiáng)，模型多，參數(shù)豐富，對(duì)設(shè)備配置要求低。

其他熱門的軟件，比如 Fake App、OpenFaceSwap 等，都能在互聯(lián)網(wǎng)上找到相關(guān)資源。

對(duì)此，《豹變》向售賣課程的客服核實(shí)售賣的軟件是否屬于開源項(xiàng)目，希望對(duì)比使用界面，客服卻宣稱，自家產(chǎn)品屬于內(nèi)部軟件，不方便公開。

而其他從事 AI 技術(shù)科普的博主告訴《豹變》，這就是靠信息差割韭菜。

AI 換臉的用武之地在哪？

比起其他 AI 技術(shù)誕生之后備受各方矚目，AI 換臉技術(shù)似乎只得到違法分子的青眼。" 換臉 " 的作用總讓人想到灰色產(chǎn)業(yè)，在實(shí)時(shí)換臉技術(shù)成熟之后，沒想到最先降低的似乎是違法成本。

實(shí)際上，此前 AI 換臉技術(shù)常運(yùn)用于影視劇領(lǐng)域，一些曾因劣跡藝人被迫雪藏的影視劇，也是憑借 AI 換臉技術(shù)重見天日。而當(dāng)實(shí)時(shí)換臉成為可能后，AI 換臉技術(shù)也有可能在直播領(lǐng)域找到用武之地。

通過 AI 換臉，品牌方可以讓不同直播間里的主播共享同一張臉，一方面可以強(qiáng)化品牌 IP 與主播的連接，另一方面也可以減少主播流失帶來的損失，擺脫對(duì)大主播的依賴。

此前大熱的數(shù)字人直播技術(shù)，目前還面臨著技術(shù)不夠成熟、對(duì)算力的要求過高、互動(dòng)能力不足等尷尬情況。相對(duì)來說，AI 換臉技術(shù)更為經(jīng)濟(jì)實(shí)用。

而且，AI 換臉技術(shù)已經(jīng)在部分特殊場景有所應(yīng)用。比如，對(duì)于國內(nèi)中小跨境電商商家來說，外籍主播和模特的人力成本略高，導(dǎo)致運(yùn)營壓力過大。所以，有 TikTok 商家通過 AI 換臉將英語口語能力不錯(cuò)的國內(nèi)主播、模特?fù)Q臉變成外籍主播、模特，以減少人力成本。

目前已經(jīng)有電商公司、科技公司在著手研究 AI 換臉技術(shù)。電商直播行業(yè)龍頭遙望科技曾于 5 月 15 日發(fā)布公告稱，與小冰公司簽訂關(guān)于《直播電商人工智能技術(shù) / 產(chǎn)品戰(zhàn)略合作》的協(xié)議，雙方就 AI 技術(shù)、產(chǎn)品的研發(fā)、推廣等事項(xiàng)在直播、短視頻、電商等領(lǐng)域展開全面合作。其中包括 AI 換臉技術(shù)的研發(fā)。

騰訊旗下優(yōu)圖實(shí)驗(yàn)室、天天 P 圖聯(lián)合打造的 AI 變臉玩法等，也在嘗試能夠完成人臉替換、人臉再現(xiàn)、人臉合成甚至全身合成、虛擬環(huán)境合成等功能。

相對(duì)應(yīng)的，針對(duì) AI 換臉的檢測技術(shù)也在發(fā)展。企查查顯示，2022 年 10 月 4 日，百度申請的 " 人臉鑒偽方法、裝置及計(jì)算機(jī)程序產(chǎn)品 " 專利公布。該專利涉及人工智能技術(shù)領(lǐng)域，具體涉及深度學(xué)習(xí)技術(shù)，可用于人臉鑒偽場景，提高了人臉圖像鑒偽結(jié)果的準(zhǔn)確度。

對(duì)于 AI 換臉技術(shù)在灰色產(chǎn)業(yè)的濫用，在監(jiān)管和鑒別技術(shù)逐漸完善的情況下，類似情況應(yīng)該會(huì)得到控制。目前來看，需要更多的相關(guān)科普、反詐知識(shí)來謹(jǐn)防 AI 換臉詐騙。

本文來自微信公眾號(hào)：豹變（ID：baobiannews），作者：宋子豪，編輯：劉楊