隨著人工智能（AI）尤其是生成式人工智能技術的飛速發(fā)展，深度合成及生成合成的內容質量顯著提升、生成速度與合成深度明顯提高、適用場景與接觸人群不斷擴展，生成式AI技術已逐步深入到人類社會，并進入了規(guī)模化的應用階段。生成合成技術開始呈現工具化和普及化趨勢，普通人都可以輕松地接觸到各種生成合成工具。與此同時，其帶來的各種安全問題也隨之顯現，譬如用AI生成虛假信息、AI換臉明星直播帶貨、AI實時換臉詐騙等違規(guī)甚至違法的事件不斷出現。這種新的科學技術的進步，極大的影響著人類社會和人類文明。鑒于此，國家行政管控的職能，必將是引領該技術的合規(guī)合法的健康發(fā)展和應用，使得AI生成合成技術既造福于人類社會發(fā)展，又促進人類文明進步。為此，在我國，相關政府主管部門依據國家的法律法規(guī)，對相關AI生成合成技術的發(fā)展應用，制定了相應的部門規(guī)章及規(guī)范性管理文件。

欲具體了解人工智能介紹的請進入。

一、《互聯網信息服務深度合成管理規(guī)定》（三部門令第12號）

在2022 年11月25日，國家互聯網信息辦公室聯合工業(yè)和信息化部、公安部三部門，根據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《互聯網信息服務管理辦法》等法律與行政法規(guī)，制定并印發(fā)了《互聯網信息服務深度合成管理規(guī)定》（網信辦、工信部、公安部令第12號）。該《管理規(guī)定》是對在我國境內應用深度合成技術提供互聯網信息服務進行行政管理規(guī)范，旨在加強我國互聯網信息服務深度合成管理，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。下表1-0給出了該《管理規(guī)定》出臺的意義。

表 1-0：《管理規(guī)定》出臺的意義

欲具體了解上述相關法律法規(guī)介紹的請進入。

該《管理規(guī)定》的內容是由五章二十五條組成，自2023年1月10日起施行。下述對該《管理規(guī)定》給以簡要的解讀，若要詳細了解具體內容的請查閱下附件1。

附件 1：《互聯網信息服務深度合成管理規(guī)定》（三部門令第12號）

1、關于深度合成技術的定義

該《管理規(guī)定》對深度合成技術進行了明確的定義，是指利用深度學習（DL，Deep Learning）、虛擬現實（VR，Virtual Reality）等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。具體包括（但不限于）以下六類技術：其一，篇章生成、文本風格轉換、問答對話等生成或者編輯文本內容的技術；其二，文本轉語音、語音轉換、語音屬性編輯等生成或者編輯語音內容的技術；其三，音樂生成、場景聲編輯等生成或者編輯非語音內容的技術；其四，人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內容中生物特征的技術；其五，圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內容中非生物特征的技術；其六，三維重建、數字仿真等生成或者編輯數字人物、虛擬場景的技術等。

欲具體了解深度學習（DL）技術的請進入。

2、關于深度合成技術的服務者

《管理規(guī)定》是對在我國從事深度合成技術服務者的監(jiān)督管理和行為約束。深度合成技術服務者包括深度合成服務提供者、深度合成服務技術支持者和深度合成服務使用者，它們的具體含義詳見下外表1-2-1。《管理規(guī)定》對深度合成技術服務者，尤其是深度合成服務提供者管控的重要方面包括：落實信息安全主體責任；數據和技術管理規(guī)范；標識要求；備案義務；履行安全評估和配合監(jiān)督檢查義務等等，下表1-2-2給出了其具體描述。

表 1-2-1：度合成技術服務者的含義

表 1-2-2：《管理規(guī)定》對深度合成技術服務者的管控要求

3、關于《管理規(guī)定》所建立的管理制度

根據上述，《管理規(guī)定》對深度合成技術服務的管理主要建立了以下三項關鍵管理制度：

一是監(jiān)管制度：國家政府機關對深度合成技術服務實施監(jiān)督管理，管理主體是國家網信辦及工信部、公安部，包括它們的地方部門。

二是備案制度：具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照《互聯網信息服務算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù)。

三是標識制度：對互聯網上生成合成的內容進行標識，標識方式包括顯式標識和隱式標識兩種。

二、《生成式人工智能服務管理暫行辦法》（七部門令第15號）

2023年7月10日，國家網信辦又聯合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局七部門，根據《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律，針對利用生成式人工智能技術向我國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務，制定并印發(fā)了《生成式人工智能服務管理暫行辦法》（七部門令第15號）。旨在促進生成式人工智能健康發(fā)展和規(guī)范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。出臺該《辦法》，既是促進生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務風險的現實需要。該《辦法》的內容是由五章二十四條構成，自2023年8月15日起施行。若要具體了解該《辦法》詳細內容的請查閱下附件2。

附件 2：《生成式人工智能服務管理暫行辦法》（七部門令第15號）

該《辦法》主要規(guī)定的內容簡單描述包括：提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管，明確了提供和使用生成式人工智能服務總體要求。提出了促進生成式人工智能技術發(fā)展的具體措施，明確了訓練數據處理活動和數據標注等要求。規(guī)定了生成式人工智能服務規(guī)范，明確生成式人工智能服務提供者應當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務，按照《互聯網信息服務深度合成管理規(guī)定》對圖片、視頻等生成內容進行標識，發(fā)現違法內容應當及時采取處置措施等。此外，還規(guī)定了安全評估、算法備案、投訴舉報等制度，明確了法律責任。

由于生成式人工智能技術是近些年來剛剛興起的一門技術，對于我國生成式人工智能生成內容服務的行政管理，其管理內容和管理方式還需要探索，如如何分類分級監(jiān)管等。因此該《暫行辦法》也是結合當前該服務的現狀，依據現有的法律、法規(guī)，實施的初步行政管理。

三、關于標識制度的實施

上述兩個部門規(guī)章建立的關鍵管理制度之一就是人工智能提供的生成合成內容實施標識制度。標識是指表明某個內容是人工智能生成合成內容的信息。標識可包含生成合成服務提供者和內容傳播服務提供者等信息。

《互聯網信息服務深度合成管理規(guī)定》中，第十六條規(guī)定：深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識，并依照法律、行政法規(guī)和國家有關規(guī)定保存日志信息。這即隱式標識的要求。第十七條規(guī)定：深度合成服務提供者提供相關深度合成服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成情況。這即顯式標識的要求。其第十八條規(guī)定：任何組織和個人不得采用技術手段刪除、篡改、隱匿本規(guī)定第十六條和第十七條規(guī)定的深度合成標識。

《生成式人工智能服務管理暫行辦法》中，第十二條規(guī)定：提供者應當按照《互聯網信息服務深度合成管理規(guī)定》對圖片、視頻等生成內容進行標識。

因此，為了人工智能生成合成內容標識制度的有效落實，國家互聯網信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局，又于2025年3月7日聯合發(fā)布了《人工智能生成合成內容標識辦法》（國信辦通字 [ 2025] 2號）的規(guī)范性文件。幾乎同時，在2025年2月28日，我國還發(fā)布了GB 45438-2025《網絡安全技術 人工智能生成合成內容標識方法》國家強制性標準。《標識辦法》是對上述部門規(guī)章的細化及延伸，《標識方法》是對《標識辦法》提供的技術支撐。兩者均于2025年9月1日同時生效并共同使用，以配套標識制度的具體落地。

欲詳細了解《標識方法》和《標識辦法》介紹的請進入。

欲進一步了解國家網信辦相關部門規(guī)章索引的請進入。