國家網信辦出手 生成式人工智能立規矩

數據違規收集，隱私保護缺位，信息難辨真假……ChatGPT的爆火，也讓AIGC（人工智能生成內容）陷入了流量與爭議齊飛的境地，對監管的呼吁日漸高漲。4月11日，國家互聯網信息辦公室就《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱“意見征求稿”）公開征求意見，內容的真實性、訓練數據的安全性等備受關注的話題皆在其中。隨著AIGC領域首份政府文件的面世，產業也有望理順發展邏輯，告別野蠻生長。

(資料圖)

防止生成虛假信息

“凌駕”于海量信息之上，結合超強的理解和生成能力，ChatGPT以高度“仿真”的回答驚艷了全世界。但在ChatGPT能力升級的過程中，生成的內容開始變得真偽莫測，治理難度隨之升級，這也成了目前以ChatGPT為代表的AIGC最為詬病的一點。

對此，征求意見稿明確提出，利用生成式人工智能生成的內容應當真實準確，采取措施防止生成虛假信息。根據征求意見稿，生成式人工智能是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。

數據安全是AIGC領域的另一個頑疾。河南澤槿律師事務所主任付建提到，人工智能掌握大量數據和信息，但并不能保證數據的絕對安全性，一旦出現安全漏洞，再加上技術不成熟，導致公共利益缺乏有效保障。由于人工智能技術的程序是開發人員編寫的，但決策是由機器做出的，如果出現重大失誤造成損害后果，責任誰來承擔仍存在爭議。

為此，在用于AIGC預訓練、優化訓練的數據方面，征求意見稿也做出了明確的規范，例如不含有侵犯知識產權的內容，數據包含個人信息的，應當征得個人信息主體同意或者符合法律、行政法規規定的其他情形，能夠保證數據的真實性、準確性、客觀性、多樣性等。

在引起熱議的隱私保護方面，征求意見稿表示，提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。

順暢的反饋機制是AIGC良性發展的關鍵一環。征求意見稿指出，提供者應當建立用戶投訴接收處理機制，及時處置個人關于更正、刪除、屏蔽其個人信息的請求；發現、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權、名譽權、個人隱私、商業秘密，或者不符合本辦法要求時，應當采取措施，停止生成，防止危害持續。

而對于運行中發現、用戶舉報的不符合本辦法要求的生成內容，除采取內容過濾等措施外，應在3個月內通過模型優化訓練等方式防止再次生成。

北京卓緯律師事務所合伙人、律師孫志峰認為，征求意見稿明確了網絡安全法、數據安全法、個人信息保護法以及《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》等相關互聯網規則在AIGC領域的適用，有利于執法尺度的統一，提升服務商和用戶對執法預期的判斷。

“同時征求意見稿也明確了提供者有義務根據有關部門要求，提供包括訓練數據基本情況描述、人工標注規則及相關信息，以及基礎算法和技術體系等，保障用戶知情權，便于日常監管，在一定程度上可以緩解當前用戶基于算法等技術革新的擔憂。”孫志峰稱。

從野蠻生長到規范發展

征求意見稿出爐在一個關鍵的時期：近段時間以來，無論國外還是國內，AIGC都陷入了巨大的負面輿論旋渦。3月末，意大利個人數據保護局宣布禁止使用ChatGPT，此后，德國、加大拿、法國、愛爾蘭等也相繼釋放出類似信號。

在這之前，1000多位學界業界人士聯名呼吁叫停AI大模型研究的新聞更是刷屏網絡，其中對于AI系統的擔憂主要集中在兩方面，包括AI可能失控，給人類文明帶來風險，以及AI可能被惡意使用，造成錯誤信息傳播或被用來犯罪。

于國內而言，虛假消息的傳播也已經開始擾亂人們的視聽。不久前，一封出自ChatGPT之手的“杭州取消限行”的消息一度盛傳。此外，AI繪畫也始終面臨著版權的爭議。

瑞萊智慧聯合創始人蕭子豪對北京商報記者分析稱，一方面，ChatGPT大模型成為全球化趨勢，另一方面新技術之下治理挑戰日益嚴重，以ChatGPT為代表的大模型傳播能力和技術能力呈現高度的滲透性和擴展性，傳統網絡治理模式失效，在安全風險存在未知與不確定性的情況下，探索新治理路徑成為全球性議題。

“新技術的發展，監管一定是落后于發展的。”蕭子豪表示，相比于傳統互聯網技術，對于AIGC的監管已經較早地被關注和提上議程。針對具體的安全問題，需要我們在發展技術的同時，對于AIGC應用邊界加以管控，采取必要的控制。

在這之前，蕭子豪就曾建議政策層面建立起對ChatGPT等AI生成內容的管理法規，對利用AI生成和傳播不實不良內容進行規避，同時加強治理工具的開發，通過研發技術手段來識別AI生成內容，這不管對于內容檢測還是作品確權，都是重要前提。

商務部研究院電商所副研究員洪勇評價稱，征求意見稿為AIGC產業提供了一套明確的法規框架，有助于規范整個產業的健康發展，提升行業標準。例如征求意見稿強調了對個人信息和隱私的保護，規定了對于涉及個人信息的處理和保護的要求，有助于提升用戶對AIGC產業的信任。

北京商報記者 楊月涵