半藏森林克隆人引爭(zhēng)議！利用AI技術(shù)吸金的“克隆人”，會(huì)引發(fā)AI詐騙嗎？

“半藏森林克隆人”剛出現(xiàn)不久，就被暫時(shí)下線了。

據(jù)揚(yáng)子晚報(bào)報(bào)道，6月5日，有網(wǎng)友發(fā)現(xiàn)北京紅棉小冰科技有限公司（下稱“小冰公司”）推出的虛擬人類娛樂(lè)平臺(tái)X Eva APP中，上線不久的網(wǎng)紅“半藏森林”等AI克隆人疑似被下架。

(資料圖)

小冰公司對(duì)外回應(yīng)稱，“半藏森林”克隆人目前還在內(nèi)測(cè)，內(nèi)測(cè)名額已滿，所以先下線了。目前在進(jìn)行調(diào)整，其他虛擬人暫時(shí)也還不可見(jiàn)。

此前，“半藏森林克隆人一年收入可高達(dá)72萬(wàn)”的話題曾引發(fā)網(wǎng)友關(guān)注。據(jù)財(cái)經(jīng)網(wǎng)報(bào)道，“目前不付費(fèi)可以互動(dòng)，付費(fèi)可以看朋友圈、打視頻電話。兩種付費(fèi)模式月費(fèi)分別是6元/30元、年費(fèi)72元/360元”，以半藏森林為例，如果有1萬(wàn)個(gè)情感模式付費(fèi)用戶，相當(dāng)于半藏森林克隆人一年收入72萬(wàn)元；如果有1萬(wàn)個(gè)超級(jí)模式付費(fèi)用戶，一年則可實(shí)現(xiàn)收入360萬(wàn)元。

半藏森林克隆人的出現(xiàn)及其變現(xiàn)模式也引發(fā)了網(wǎng)友們的探討。“虛擬人技術(shù)未來(lái)前景廣闊，但市面上的AI技術(shù)成熟度不高，導(dǎo)致虛擬人物智商普遍不高，應(yīng)用場(chǎng)景有限，大大限制了自身發(fā)展。要判斷小冰克隆人商業(yè)模式是否可行，目前還為時(shí)過(guò)早。”6月5日，深度科技研究院院長(zhǎng)張孝榮告訴時(shí)代周報(bào)記者。

此外，也有部分網(wǎng)友對(duì)該平臺(tái)和AI克隆人是否會(huì)侵犯用戶隱私，帶來(lái)安全隱患等問(wèn)題感到擔(dān)心。

為了解相關(guān)情況，6月6日，時(shí)代周報(bào)記者向小冰公司發(fā)送采訪提綱，截至發(fā)稿未獲回復(fù)。

網(wǎng)紅吸金新手段？

網(wǎng)紅明星利用AI克隆人形象賺錢，這種變現(xiàn)方式著實(shí)超出了不少人的想象。

據(jù)北京商報(bào)報(bào)道，AI半藏森林上線的信息出現(xiàn)在該APP首頁(yè)發(fā)現(xiàn)欄目，和半藏森林克隆人互動(dòng)時(shí)，對(duì)方可通過(guò)語(yǔ)音、文字形式回復(fù)。聊天界面上方設(shè)有增值服務(wù)入口，點(diǎn)擊立即解鎖，可體驗(yàn)更多互動(dòng)形式。

而半藏森林AI克隆人有兩種付費(fèi)模式，情感模式需支付6元/月或72元/年，用戶能享受克隆人語(yǔ)音消息回應(yīng)、同步克隆人朋友圈；超級(jí)模式支需付30元/月或360元/年，克隆人會(huì)為用戶提供撰寫文案等服務(wù)，還能進(jìn)行視頻通話。在此前的體驗(yàn)階段，超級(jí)模式暫未上線。

（圖源：半藏森林新浪微博）

半藏森林AI克隆人的出現(xiàn)，與小冰公司推出的“克隆人計(jì)劃”有關(guān)。

“小冰公司的‘克隆人計(jì)劃’最短只需個(gè)人采集三分鐘數(shù)據(jù)，即可為明星紅人、專家學(xué)者或普通人創(chuàng)造源于本人性格、技能、聲音、外貌的AI克隆人，并提供專有平臺(tái)，以便于本人將認(rèn)證克隆人有償或無(wú)償提供給自己的受眾。”AI小冰微信公眾號(hào)在今年6月1日發(fā)布的文章中稱，克隆人基于小冰框架大模型、神經(jīng)網(wǎng)絡(luò)渲染及超級(jí)自然語(yǔ)音技術(shù)，可實(shí)時(shí)情感交互及提供AIGC能力，甚至有自己的朋友圈，如同人類在平行世界的第二人生。

事實(shí)上，半藏森林并非第一個(gè)擁有自己AI形象的網(wǎng)紅。Caryn Marjorie是一位23歲的美國(guó)網(wǎng)紅，擁有超180萬(wàn)的Snapchat粉絲，她用OpenAI的技術(shù)創(chuàng)建了一個(gè)人工智能版本的自己CarynAI，每分鐘收費(fèi)1美元。而CarynAI曾在一周的測(cè)試期內(nèi)收入約7.2萬(wàn)美元，折合人民幣近50萬(wàn)元。

AI將為網(wǎng)紅提供一種新的“吸金”方式。據(jù)北京商報(bào)報(bào)道，半藏森林與小冰公司是分成模式，本人拿大頭。時(shí)代周報(bào)記者注意到，目前，半藏森林在新浪微博擁有262.7萬(wàn)個(gè)粉絲，若按每人每月充值6元開(kāi)通情感模式計(jì)算，則可帶來(lái)收入1576.2萬(wàn)元/月。

（圖源：半藏森林新浪微博）

CarynAI、半藏森林AI克隆人的出現(xiàn)，背后是人工智能技術(shù)的不斷革新。

CarynAI由Caryn Marjorie與Forever Voice公司合作推出，利用OpenAI開(kāi)發(fā)的GPT-4 API技術(shù)，復(fù)制了Caryn Marjorie的聲音、舉止和個(gè)性。

而推出了半藏森林AI克隆人的X Eva App底層使用的技術(shù)包括小冰XLLM語(yǔ)言模型、聲音及神經(jīng)網(wǎng)絡(luò)渲染技術(shù)等，共計(jì)約1000余個(gè)有機(jī)組合的模型。

AI克隆人安全嗎？

在AI克隆人等類似產(chǎn)品出現(xiàn)前，由美國(guó)科技公司OpenAI推出的人工智能聊天機(jī)器人程序ChatGPT引爆網(wǎng)絡(luò)，在互聯(lián)網(wǎng)行業(yè)掀起巨大熱潮。

如今，半藏森林AI克隆人能否如ChatGPT般火爆？

張孝榮認(rèn)為半藏森林AI克隆人要達(dá)到ChatGPT的火爆程度存在一定難度。

“‘GPT克隆人計(jì)劃’并非基于GPT大模型，而是基于小冰框架模型，兩者技術(shù)路線不同，訓(xùn)練數(shù)據(jù)不同，背后所需要的算力和算法也不一樣，因此生成的AI機(jī)器人體驗(yàn)必然會(huì)有差異。”6月5日，張孝榮向時(shí)代周報(bào)記者表示。

而AI克隆人的出現(xiàn)，也讓部分網(wǎng)友不禁對(duì)其安全性產(chǎn)生擔(dān)憂。近年來(lái)，隨著人工智能技術(shù)的發(fā)展，AI熱潮席卷多個(gè)領(lǐng)域，AI詐騙也已出現(xiàn)引發(fā)社會(huì)關(guān)注。

福建福州某科技公司法人代表郭先生接到了由AI換臉技術(shù)合成的“好友”的微信視頻電話后向?qū)Ψ睫D(zhuǎn)賬，被騙430萬(wàn)元；安徽安慶的何先生在接到一個(gè)9秒的“熟人”視頻電話后向?qū)Ψ睫D(zhuǎn)賬，結(jié)果被騙，所幸警方抓獲了3名涉詐嫌疑人，追回了他被騙的132萬(wàn)元。

AI克隆人是否會(huì)產(chǎn)生此類安全風(fēng)險(xiǎn)？在AI小冰微信公眾號(hào)發(fā)布的文章中，小冰團(tuán)隊(duì)表示，為避免克隆人帶來(lái)安全隱患或被濫用，團(tuán)隊(duì)采用了最高的安全標(biāo)準(zhǔn)。

在訓(xùn)練數(shù)據(jù)方面，僅使用本人小樣本數(shù)據(jù)，并在訓(xùn)練后清除，從而避免過(guò)多采集本人數(shù)據(jù)及濫用；在技術(shù)運(yùn)用方面，使用經(jīng)小冰團(tuán)隊(duì)長(zhǎng)期驗(yàn)證的技術(shù)，例如安全的混合模型，而非單純的大模型，從而確保技術(shù)邊界已知；在使用場(chǎng)景方面，嚴(yán)格限制克隆人在特定產(chǎn)品（X Eva APP）中，而非將技術(shù)接口API開(kāi)放，從而避免克隆人被不當(dāng)使用；在本人對(duì)克隆人的控制方面，提供便利以使本人可隨時(shí)中止其克隆人。

“此外，全部C端或B端用戶均須提交本人權(quán)屬證明方可實(shí)施，以避免數(shù)據(jù)的侵權(quán)或不當(dāng)使用。”AI小冰微信公眾號(hào)發(fā)布的文章中稱。

“‘（AI）克隆人’屬于新生事物，其技術(shù)核心還是依靠目前的生成式人工智能技術(shù)。關(guān)于‘克隆人’產(chǎn)品的未來(lái)發(fā)展，關(guān)鍵在于需要符合監(jiān)管方向。”6月5日，北京市京師律師事務(wù)所合伙人、主任律師盧鼎亮向時(shí)代周報(bào)記者表示。

今年4月11日，國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》。盧鼎亮認(rèn)為，從征求意見(jiàn)稿來(lái)看，網(wǎng)信辦對(duì)生成式人工智能服務(wù)行業(yè)的健康發(fā)展持鼓勵(lì)支持態(tài)度，同時(shí)鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。

“如果《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》生效，AI克隆人的產(chǎn)品或服務(wù)必然會(huì)持續(xù)發(fā)展。”盧鼎亮表示，在發(fā)展的過(guò)程中，還需要符合監(jiān)管思路，克隆人服務(wù)提供商、用戶等主體在使用訓(xùn)練數(shù)據(jù)、使用產(chǎn)品、保護(hù)數(shù)據(jù)安全和隱私、防止法律風(fēng)險(xiǎn)和重大道德以及輿論風(fēng)險(xiǎn)、防止不正當(dāng)競(jìng)爭(zhēng)等方面都需要注意合規(guī)風(fēng)險(xiǎn)。