焦點！半藏森林克隆人引爭議！利用 AI 技術(shù)吸金的“克隆人”，會引發(fā) AI 詐騙嗎？

本文來源：時代周報 作者：齊鑫

" 半藏森林克隆人 " 剛出現(xiàn)不久，就被暫時下線了。

據(jù)揚子晚報報道，6 月 5 日，有網(wǎng)友發(fā)現(xiàn)北京紅棉小冰科技有限公司（下稱 " 小冰公司 "）推出的虛擬人類娛樂平臺 X Eva APP 中，上線不久的網(wǎng)紅 " 半藏森林 " 等 AI 克隆人疑似被下架。

(資料圖片僅供參考)

小冰公司對外回應(yīng)稱，" 半藏森林 " 克隆人目前還在內(nèi)測，內(nèi)測名額已滿，所以先下線了。目前在進行調(diào)整，其他虛擬人暫時也還不可見。

此前，" 半藏森林克隆人一年收入可高達 72 萬 " 的話題曾引發(fā)網(wǎng)友關(guān)注。據(jù)財經(jīng)網(wǎng)報道，" 目前不付費可以互動，付費可以看朋友圈、打視頻電話。兩種付費模式月費分別是 6 元 /30 元、年費 72 元 /360 元 "，以半藏森林為例，如果有 1 萬個情感模式付費用戶，相當于半藏森林克隆人一年收入 72 萬元；如果有 1 萬個超級模式付費用戶，一年則可實現(xiàn)收入 360 萬元。

半藏森林克隆人的出現(xiàn)及其變現(xiàn)模式也引發(fā)了網(wǎng)友們的探討。" 虛擬人技術(shù)未來前景廣闊，但市面上的 AI 技術(shù)成熟度不高，導(dǎo)致虛擬人物智商普遍不高，應(yīng)用場景有限，大大限制了自身發(fā)展。要判斷小冰克隆人商業(yè)模式是否可行，目前還為時過早。"6 月 5 日，深度科技研究院院長張孝榮告訴時代周報記者。

此外，也有部分網(wǎng)友對該平臺和 AI 克隆人是否會侵犯用戶隱私，帶來安全隱患等問題感到擔(dān)心。

為了解相關(guān)情況，6 月 6 日，時代周報記者向小冰公司發(fā)送采訪提綱，截至發(fā)稿未獲回復(fù)。

網(wǎng)紅吸金新手段？

網(wǎng)紅明星利用 AI 克隆人形象賺錢，這種變現(xiàn)方式著實超出了不少人的想象。

據(jù)北京商報報道，AI 半藏森林上線的信息出現(xiàn)在該 APP 首頁發(fā)現(xiàn)欄目，和半藏森林克隆人互動時，對方可通過語音、文字形式回復(fù)。聊天界面上方設(shè)有增值服務(wù)入口，點擊立即解鎖，可體驗更多互動形式。

而半藏森林 AI 克隆人有兩種付費模式，情感模式需支付 6 元 / 月或 72 元 / 年，用戶能享受克隆人語音消息回應(yīng)、同步克隆人朋友圈；超級模式支需付 30 元 / 月或 360 元 / 年，克隆人會為用戶提供撰寫文案等服務(wù)，還能進行視頻通話。在此前的體驗階段，超級模式暫未上線。

半藏森林 AI 克隆人的出現(xiàn)，與小冰公司推出的 " 克隆人計劃 " 有關(guān)。

" 小冰公司的‘克隆人計劃’最短只需個人采集三分鐘數(shù)據(jù)，即可為明星紅人、專家學(xué)者或普通人創(chuàng)造源于本人性格、技能、聲音、外貌的 AI 克隆人，并提供專有平臺，以便于本人將認證克隆人有償或無償提供給自己的受眾。"AI 小冰微信公眾號在今年 6 月 1 日發(fā)布的文章中稱，克隆人基于小冰框架大模型、神經(jīng)網(wǎng)絡(luò)渲染及超級自然語音技術(shù)，可實時情感交互及提供 AIGC 能力，甚至有自己的朋友圈，如同人類在平行世界的第二人生。

事實上，半藏森林并非第一個擁有自己 AI 形象的網(wǎng)紅。Caryn Marjorie 是一位 23 歲的美國網(wǎng)紅，擁有超 180 萬的 Snapchat 粉絲，她用 OpenAI 的技術(shù)創(chuàng)建了一個人工智能版本的自己 CarynAI，每分鐘收費 1 美元。而 CarynAI 曾在一周的測試期內(nèi)收入約 7.2 萬美元，折合人民幣近 50 萬元。

AI 將為網(wǎng)紅提供一種新的 " 吸金 " 方式。據(jù)北京商報報道，半藏森林與小冰公司是分成模式，本人拿大頭。時代周報記者注意到，目前，半藏森林在新浪微博擁有 262.7 萬個粉絲，若按每人每月充值 6 元開通情感模式計算，則可帶來收入 1576.2 萬元 / 月。

CarynAI、半藏森林 AI 克隆人的出現(xiàn)，背后是人工智能技術(shù)的不斷革新。

CarynAI 由 Caryn Marjorie 與 Forever Voice 公司合作推出，利用 OpenAI 開發(fā)的 GPT-4 API 技術(shù)，復(fù)制了 Caryn Marjorie 的聲音、舉止和個性。

而推出了半藏森林 AI 克隆人的 X Eva App 底層使用的技術(shù)包括小冰 XLLM 語言模型、聲音及神經(jīng)網(wǎng)絡(luò)渲染技術(shù)等，共計約 1000 余個有機組合的模型。

AI 克隆人安全嗎？

在 AI 克隆人等類似產(chǎn)品出現(xiàn)前，由美國科技公司 OpenAI 推出的人工智能聊天機器人程序 ChatGPT 引爆網(wǎng)絡(luò)，在互聯(lián)網(wǎng)行業(yè)掀起巨大熱潮。

如今，半藏森林 AI 克隆人能否如 ChatGPT 般火爆？

張孝榮認為半藏森林 AI 克隆人要達到 ChatGPT 的火爆程度存在一定難度。

" ‘ GPT 克隆人計劃’并非基于 GPT 大模型，而是基于小冰框架模型，兩者技術(shù)路線不同，訓(xùn)練數(shù)據(jù)不同，背后所需要的算力和算法也不一樣，因此生成的 AI 機器人體驗必然會有差異。"6 月 5 日，張孝榮向時代周報記者表示。

而 AI 克隆人的出現(xiàn)，也讓部分網(wǎng)友不禁對其安全性產(chǎn)生擔(dān)憂。近年來，隨著人工智能技術(shù)的發(fā)展，AI 熱潮席卷多個領(lǐng)域，AI 詐騙也已出現(xiàn)引發(fā)社會關(guān)注。

福建福州某科技公司法人代表郭先生接到了由 AI 換臉技術(shù)合成的 " 好友 " 的微信視頻電話后向?qū)Ψ睫D(zhuǎn)賬，被騙 430 萬元；安徽安慶的何先生在接到一個 9 秒的 " 熟人 " 視頻電話后向?qū)Ψ睫D(zhuǎn)賬，結(jié)果被騙，所幸警方抓獲了 3 名涉詐嫌疑人，追回了他被騙的 132 萬元。

AI 克隆人是否會產(chǎn)生此類安全風(fēng)險？在 AI 小冰微信公眾號發(fā)布的文章中，小冰團隊表示，為避免克隆人帶來安全隱患或被濫用，團隊采用了最高的安全標準。

在訓(xùn)練數(shù)據(jù)方面，僅使用本人小樣本數(shù)據(jù)，并在訓(xùn)練后清除，從而避免過多采集本人數(shù)據(jù)及濫用；在技術(shù)運用方面，使用經(jīng)小冰團隊長期驗證的技術(shù)，例如安全的混合模型，而非單純的大模型，從而確保技術(shù)邊界已知；在使用場景方面，嚴格限制克隆人在特定產(chǎn)品（X Eva APP）中，而非將技術(shù)接口 API 開放，從而避免克隆人被不當使用；在本人對克隆人的控制方面，提供便利以使本人可隨時中止其克隆人。

" 此外，全部 C 端或 B 端用戶均須提交本人權(quán)屬證明方可實施，以避免數(shù)據(jù)的侵權(quán)或不當使用。"AI 小冰微信公眾號發(fā)布的文章中稱。

" ‘（AI）克隆人’屬于新生事物，其技術(shù)核心還是依靠目前的生成式人工智能技術(shù)。關(guān)于‘克隆人’產(chǎn)品的未來發(fā)展，關(guān)鍵在于需要符合監(jiān)管方向。"6 月 5 日，北京市京師律師事務(wù)所合伙人、主任律師盧鼎亮向時代周報記者表示。

今年 4 月 11 日，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》。盧鼎亮認為，從征求意見稿來看，網(wǎng)信辦對生成式人工智能服務(wù)行業(yè)的健康發(fā)展持鼓勵支持態(tài)度，同時鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。

" 如果《生成式人工智能服務(wù)管理辦法（征求意見稿）》生效，AI 克隆人的產(chǎn)品或服務(wù)必然會持續(xù)發(fā)展。" 盧鼎亮表示，在發(fā)展的過程中，還需要符合監(jiān)管思路，克隆人服務(wù)提供商、用戶等主體在使用訓(xùn)練數(shù)據(jù)、使用產(chǎn)品、保護數(shù)據(jù)安全和隱私、防止法律風(fēng)險和重大道德以及輿論風(fēng)險、防止不正當競爭等方面都需要注意合規(guī)風(fēng)險。