肖颯：AI深度合成技術(shù)蘊(yùn)含巨大法律風(fēng)險(xiǎn):當(dāng)前看點(diǎn)

中新經(jīng)緯3月24日電 題：AI深度合成技術(shù)蘊(yùn)含巨大法律風(fēng)險(xiǎn)

作者 肖颯 北京大成律師事務(wù)所合伙人

3月23日，AI生成“特朗普被捕”圖網(wǎng)絡(luò)瘋傳，還登上熱搜榜。據(jù)報(bào)道，美國(guó)前總統(tǒng)特朗普還沒(méi)有被捕，但他“被捕”的照片已經(jīng)在網(wǎng)絡(luò)上瘋傳。原來(lái)，美國(guó)網(wǎng)友利用AI技術(shù)合成了一系列他被捕的“照騙”。但此事引起了網(wǎng)絡(luò)的巨大爭(zhēng)議。

(資料圖片僅供參考)

玩笑歸玩笑，但其背后卻蘊(yùn)含著巨大的法律風(fēng)險(xiǎn)。AI深度合成技術(shù)已經(jīng)成為網(wǎng)絡(luò)犯罪(特別是網(wǎng)絡(luò)詐騙犯罪)的“神器”，2022年年初的馬斯克換臉詐騙案僅在一周之內(nèi)就成功詐騙2億資金。

AI寫稿、語(yǔ)音生成、合成音樂(lè)、生成藝術(shù)、人臉替換生成、場(chǎng)景編輯、三維重建以及虛擬數(shù)字人等，都在深度合成技術(shù)的“射程范圍”內(nèi)。

隨著基于AI能力的擴(kuò)展，它們被用于犯罪的潛力也隨之增加。2020年，倫敦大學(xué)學(xué)院針對(duì)AI技術(shù)可能會(huì)在未來(lái)滋生的各類犯罪進(jìn)行了深度研究并制作了研究報(bào)告。報(bào)告中，研究人員確定了在未來(lái)15年內(nèi)使用AI實(shí)施(幫助)犯罪的20種方式，這些犯罪方式包括非法控制自動(dòng)駕駛汽車作為武器、魚叉式網(wǎng)絡(luò)釣魚、破壞信息系統(tǒng)、小型AI機(jī)器人入室盜竊、AI輔助跟蹤、自主攻擊無(wú)人機(jī)、深度合成技術(shù)以及大規(guī)模網(wǎng)絡(luò)勒索等。

深度合成既為我們的生活帶來(lái)了更多的便利，同時(shí)也帶來(lái)了許多潛在的系統(tǒng)性風(fēng)險(xiǎn)，包括：政治操縱。該種風(fēng)險(xiǎn)主要來(lái)自利用深度合成技術(shù)制造的假新聞，假新聞已經(jīng)不是什么新鮮事，但深度合成技術(shù)使其與以往相比更加逼真可信，深度合成技術(shù)的濫用很可能會(huì)發(fā)生操縱公民、干預(yù)選舉、威脅國(guó)家安全和影響社會(huì)穩(wěn)定的嚴(yán)重后果，以及更廣泛地侵蝕對(duì)新聞業(yè)和公共機(jī)構(gòu)的信任。金融詐騙。這是當(dāng)前利用深度合成技術(shù)實(shí)施犯罪的行為中，最常見(jiàn)、最多發(fā)的一種，深度合成在金融詐騙方面存在令人不寒而栗的潛力。另外，利用深度合成技術(shù)對(duì)其他商業(yè)主體的商譽(yù)進(jìn)行損害，也是一種常見(jiàn)的不正當(dāng)競(jìng)爭(zhēng)行為。敲詐勒索、報(bào)復(fù)等。在某短視頻平臺(tái)上我們可以利用深度合成技術(shù)完成特效、換臉等方式來(lái)創(chuàng)作一些有趣的內(nèi)容，此時(shí)的深度合成技術(shù)是我們娛人娛己的小工具。但我們是否想過(guò)，一旦將“換臉術(shù)”用到一些敏感視頻中，會(huì)發(fā)生什么樣的后果？不正當(dāng)競(jìng)爭(zhēng)。該用例說(shuō)來(lái)有趣，2022年年初，在國(guó)外某著名求職平臺(tái)上，有數(shù)十家公司被曝利用深度合成技術(shù)生成假人和假身份并進(jìn)行虛假賬戶銷售，不僅可以以此擴(kuò)展業(yè)務(wù)，甚至還減少了人力成本。

我們作為普通人要注意的是，首先，深度合成技術(shù)不是萬(wàn)能的，假視頻圖片等材料的生成需要使用個(gè)人圖像和視頻作為原材料。在這方面，名人的風(fēng)險(xiǎn)與普通人相比大得多。因此，為了最大限度地降低這種風(fēng)險(xiǎn)，謹(jǐn)慎的做法是只將自拍照和其他肖像、視頻發(fā)布到私人賬戶，并限制公開(kāi)和分享的渠道(比如僅少量親友可見(jiàn))。其次，我們還要避免在公開(kāi)渠道發(fā)送我們不同年齡階段的個(gè)人圖像。猶記得某短視頻平臺(tái)上一個(gè)很火的模板是將自己從小到大的照片放在一起配上音樂(lè)快速閃回播放，實(shí)際上這是一種危險(xiǎn)的做法，其為AI算法提供了大量有關(guān)我們個(gè)人相貌變化的寶貴信息，可以使得深度合成技術(shù)更輕易和精確地合成視頻。

2022年年初，中國(guó)國(guó)家互聯(lián)網(wǎng)信息辦公室出臺(tái)了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》(征求意見(jiàn)稿)，這是中國(guó)在規(guī)制深度合成技術(shù)方面走出的第一步。(中新經(jīng)緯APP)

本文由中新經(jīng)緯研究院選編，因選編產(chǎn)生的作品中新經(jīng)緯版權(quán)所有，未經(jīng)書面授權(quán)，任何單位及個(gè)人不得轉(zhuǎn)載、摘編或以其它方式使用。選編內(nèi)容涉及的觀點(diǎn)僅代表原作者，不代表中新經(jīng)緯觀點(diǎn)。

責(zé)任編輯：孫慶陽(yáng)