2022年以來，國內外生成式人工智能大模型快速迭代發展，改變了傳統的內容生產與信息傳播范式。與此同時，生成式人工智能帶來的深度偽造、虛假信息等潛在風險進入國際社會規制視野，各國紛紛采取措施應對。
《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》）進一步明確了人工智能生成合成內容全生命周期履行標識義務的具體要求與主體責任，完善了我國生成式人工智能的治理框架。
一、人工智能生成內容標識的制度價值成為國際共識
第一，人工智能生成內容標識制度具備獨特制度價值。首先，標識能夠有效區分出人工智能生成合成的信息，防范虛假信息的傳播利用；其次，標識能夠幫助用戶快速了解生成式人工智能產品或服務的相關屬性或參數信息；最后，標識能夠協助監管部門對生成式人工智能產品或服務實施評估、追溯等監管，推進人工智能生成合成內容合法合規發展。
第二，標識制度的獨特制度價值已經成為國際共識。日前，世界各國以及國際組織紛紛采取措施推進生成式人工智能標識制度的建立。2024年3月，聯合國發布《抓住安全、可靠和值得信賴的人工智能系統帶來的機遇，促進可持續發展》，鼓勵開發和部署有效、可獲取、適應性強、具有國際互操作性的內容認證和來源識別機制。2024年4月，美國國家標準與技術研究院發布的《降低合成內容帶來的風險》列出了檢測、驗證和標記合成內容的方法，包括數字水印和元數據記錄。2024年5月，新加坡政府發布《生成式人工智能治理模型框架》，提出數字水印和加密溯源兩種標識技術方案。2024年8月1日，歐盟《人工智能法》正式生效，規定了生成合成音頻、圖像、視頻或文本內容的有限風險AI系統應履行透明度與明確標識義務。2025年3月，英國《人工智能（監管）法案》通過一讀，其中規定任何提供涉及人工智能的產品或服務的人，必須向客戶提供“清晰明確的健康警告、標簽”。
綜合來看，不論是國際組織，還是有關國家，肯定人工智能生成內容標識的制度價值并已提出相應規范，價值層面均倡導真實性以遏制虛假信息、深度偽造，技術層面基本均采用水印、內容標簽等標識技術進行規制。
二、生成式人工智能改變內容生產與信息傳播范式
第一，生成式人工智能革新生產方式。不同于傳統的專業生成內容、用戶生成內容形式，基于遞歸式生成模型，生成式人工智能可以通過與大量用戶的對話和反饋，快速積累和更新內容；基于生成式對抗網絡，生成式人工智能能夠生成逼真的圖像、音頻和視頻等內容。
第二，生成式人工智能賦能行業發展。2025年《政府工作報告》在部署今年工作任務中強調，持續推進“人工智能+”行動，將數字技術與制造優勢、市場優勢更好結合起來，支持大模型廣泛應用。生成式人工智能業已為各行各業注入新質生產力。
在科研領域，生成式人工智能可快速查閱并總結參考文獻，擬定研究思路，進行統計分析，甚至生成學術論文。一項收集1600名科研人員調查問卷的研究結果顯示，使用AI輔助論文寫作比例達25%。在制造領域，2024年10月，世界經濟論壇“燈塔工廠”評選結果顯示，生成式人工智能的應用使工廠的勞動生產率平均提高了50%。在視聽領域，網絡音頻平臺通過與汽車廠商共建車聯網、與家電企業合作打造智能物聯家居等方式，加速推進網絡音視頻服務在車載娛樂系統、智能家居、穿戴設備等終端的整合應用。
第三，生成式人工智能存在潛在風險。生成式人工智能給各行各業帶來技術革新的同時，也帶來了深度偽造、虛假信息的潛在風險。2024年1月，香港一家跨國公司經歷了“變臉”詐騙，詐騙者通過公開渠道獲取的媒體資料，利用深度偽造技術合成了該公司高管的形象和聲音，并制作出多人參與視頻會議的虛假視頻，詐騙金額高達2億港幣。在某美國乘客起訴美國某航空公司的案件中，代理律師引用了人工智能生成的六個案例，然而法官發現六個案例的判決結果、引用出處均為虛構。不僅在事實信息上出現錯誤，甚至對知識類信息進行虛構。
第四，生成式人工智能的風險亟待防范規制。任何技術革新都是雙刃劍，在發揚生成式人工智能的正向功能的同時，正視其潛在風險并進行相應的規制與防范，是AI治理的國際共識。國家網信辦等部門于2022年發布的《互聯網信息服務深度合成管理規定》，是世界范圍內首次明確提出生成式人工智能標識義務的部門規章，要求深度合成服務提供者對深度合成服務履行標識義務。國家網信辦等部門聯合發布的《生成式人工智能服務管理暫行辦法》沿用了該條規定。
三、《標識辦法》進一步細化推進人工智能生成內容管理
《標識辦法》對人工智能生成內容的標識方法提出要求，通過顯式標識明確“哪些內容是生成的”，隱式標識明確“是誰生成的”和“由誰傳播的”，明確了人工智能生成合成內容的全生命周期中網絡信息服務提供者（以下簡稱“服務提供者”）等不同主體的合規責任，從而降低人工智能安全風險，促進行業健康發展，是對標識制度的進一步細化與規范。
第一，在人工智能生成合成內容的生產環節，服務提供者應對生成合成內容添加標識。服務提供者應對文本、圖片、音頻、視頻、虛擬場景等典型應用場景的生成合成內容添加顯式標識，并在生成合成內容的文件元數據中添加隱式標識，以明確內容屬性、服務提供者信息等內容。
第二，在人工智能生成合成內容的傳播環節，不同主體應對標識的合規性進行確認。服務提供者在提供生成合成內容下載、復制、導出等方式時，應當確保文件中含有滿足要求的顯式標識。網絡信息內容傳播平臺應當核驗文件元數據中是否含有隱式標識，并采取適當方式在發布內容周邊添加顯著的提示標識，明確提醒用戶。互聯網應用程序分發平臺在應用程序上架或上線審核時，應核驗生成合成內容標識相關材料。
第三，在人工智能生成合成內容的使用環節，用戶同樣應履行標識義務。服務提供者應當在用戶服務協議中明確說明生成合成內容標識的方法、樣式等規范內容，并提示用戶仔細閱讀并理解相關的標識管理要求。用戶向網絡信息內容傳播平臺上傳生成合成內容時，應當主動聲明并使用平臺提供的標識功能進行標識。
目前的人工智能生成合成內容標識制度主要關注于“是否機器生成”的形式判斷，隨著標識技術的進步與發展，未來標識制度能夠發揮更為豐富的功能，從形式判斷逐漸轉向“是否足夠可靠”的質量判斷，進一步促進行業健康發展。（作者：張凌寒，聯合國高級別人工智能咨詢機構中方專家、中國政法大學數據法治研究院教授）
