隨著人工智能（AI）尤其是生成式人工智能技術(shù)的飛速發(fā)展，深度合成及生成合成的內(nèi)容質(zhì)量顯著提升、生成速度與合成深度明顯提高、適用場景與接觸人群不斷擴展，生成式AI技術(shù)已逐步深入到人類社會，并進入了規(guī)模化的應(yīng)用階段。生成合成技術(shù)開始呈現(xiàn)工具化和普及化趨勢，普通人都可以輕松地接觸到各種生成合成工具。與此同時，其帶來的各種安全問題也隨之顯現(xiàn)，譬如用AI生成虛假信息、AI換臉明星直播帶貨、AI實時換臉詐騙等違規(guī)甚至違法的事件不斷出現(xiàn)。這種新的科學(xué)技術(shù)的進步，極大的影響著人類社會和人類文明。鑒于此，國家行政管控的職能，必將是引領(lǐng)該技術(shù)的合規(guī)合法的健康發(fā)展和應(yīng)用，使得AI生成合成技術(shù)既造福于人類社會發(fā)展，又促進人類文明進步。為此，在我國，相關(guān)政府主管部門依據(jù)國家的法律法規(guī)，對相關(guān)AI生成合成技術(shù)的發(fā)展應(yīng)用，制定了相應(yīng)的部門規(guī)章及規(guī)范性管理文件。
欲具體了解人工智能介紹的請進入。
一、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（三部門令第12號）
在2022 年11月25日，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部三部門，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個人信息保護法》、《互聯(lián)網(wǎng)信息服務(wù)管理辦法》等法律與行政法規(guī)，制定并印發(fā)了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（網(wǎng)信辦、工信部、公安部令第12號）。該《管理規(guī)定》是對在我國境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)進行行政管理規(guī)范，旨在加強我國互聯(lián)網(wǎng)信息服務(wù)深度合成管理，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益。下表1-0給出了該《管理規(guī)定》出臺的意義。
表 1-0：《管理規(guī)定》出臺的意義
欲具體了解上述相關(guān)法律法規(guī)介紹的請進入。
該《管理規(guī)定》的內(nèi)容是由五章二十五條組成，自2023年1月10日起施行。下述對該《管理規(guī)定》給以簡要的解讀，若要詳細了解具體內(nèi)容的請查閱下附件1。
附件 1：《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（三部門令第12號）
1、關(guān)于深度合成技術(shù)的定義
該《管理規(guī)定》對深度合成技術(shù)進行了明確的定義，是指利用深度學(xué)習(xí)（DL，Deep Learning）、虛擬現(xiàn)實（VR，Virtual Reality）等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息的技術(shù)。具體包括（但不限于）以下六類技術(shù)：其一，篇章生成、文本風(fēng)格轉(zhuǎn)換、問答對話等生成或者編輯文本內(nèi)容的技術(shù)；其二，文本轉(zhuǎn)語音、語音轉(zhuǎn)換、語音屬性編輯等生成或者編輯語音內(nèi)容的技術(shù)；其三，音樂生成、場景聲編輯等生成或者編輯非語音內(nèi)容的技術(shù)；其四，人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù)；其五，圖像生成、圖像增強、圖像修復(fù)等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù)；其六，三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景的技術(shù)等。
欲具體了解深度學(xué)習(xí)（DL）技術(shù)的請進入。
2、關(guān)于深度合成技術(shù)的服務(wù)者
《管理規(guī)定》是對在我國從事深度合成技術(shù)服務(wù)者的監(jiān)督管理和行為約束。深度合成技術(shù)服務(wù)者包括深度合成服務(wù)提供者、深度合成服務(wù)技術(shù)支持者和深度合成服務(wù)使用者，它們的具體含義詳見下外表1-2-1。《管理規(guī)定》對深度合成技術(shù)服務(wù)者，尤其是深度合成服務(wù)提供者管控的重要方面包括：落實信息安全主體責(zé)任；數(shù)據(jù)和技術(shù)管理規(guī)范；標識要求；備案義務(wù)；履行安全評估和配合監(jiān)督檢查義務(wù)等等，下表1-2-2給出了其具體描述。
表 1-2-1：度合成技術(shù)服務(wù)者的含義
表 1-2-2：《管理規(guī)定》對深度合成技術(shù)服務(wù)者的管控要求
3、關(guān)于《管理規(guī)定》所建立的管理制度
根據(jù)上述，《管理規(guī)定》對深度合成技術(shù)服務(wù)的管理主要建立了以下三項關(guān)鍵管理制度：
一是監(jiān)管制度：國家政府機關(guān)對深度合成技術(shù)服務(wù)實施監(jiān)督管理，管理主體是國家網(wǎng)信辦及工信部、公安部，包括它們的地方部門。
二是備案制度：具有輿論屬性或者社會動員能力的深度合成服務(wù)提供者，應(yīng)當按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù)。
三是標識制度：對互聯(lián)網(wǎng)上生成合成的內(nèi)容進行標識，標識方式包括顯式標識和隱式標識兩種。
二、《生成式人工智能服務(wù)管理暫行辦法》（七部門令第15號）
2023年7月10日，國家網(wǎng)信辦又聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局七部門，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學(xué)技術(shù)進步法》等法律，針對利用生成式人工智能技術(shù)向我國境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)，制定并印發(fā)了《生成式人工智能服務(wù)管理暫行辦法》（七部門令第15號）。旨在促進生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益。出臺該《辦法》，既是促進生成式人工智能健康發(fā)展的重要要求，也是防范生成式人工智能服務(wù)風(fēng)險的現(xiàn)實需要。該《辦法》的內(nèi)容是由五章二十四條構(gòu)成，自2023年8月15日起施行。若要具體了解該《辦法》詳細內(nèi)容的請查閱下附件2。
附件 2：《生成式人工智能服務(wù)管理暫行辦法》（七部門令第15號）
該《辦法》主要規(guī)定的內(nèi)容簡單描述包括：提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管，明確了提供和使用生成式人工智能服務(wù)總體要求。提出了促進生成式人工智能技術(shù)發(fā)展的具體措施，明確了訓(xùn)練數(shù)據(jù)處理活動和數(shù)據(jù)標注等要求。規(guī)定了生成式人工智能服務(wù)規(guī)范，明確生成式人工智能服務(wù)提供者應(yīng)當采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務(wù)，按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進行標識，發(fā)現(xiàn)違法內(nèi)容應(yīng)當及時采取處置措施等。此外，還規(guī)定了安全評估、算法備案、投訴舉報等制度，明確了法律責(zé)任。
由于生成式人工智能技術(shù)是近些年來剛剛興起的一門技術(shù)，對于我國生成式人工智能生成內(nèi)容服務(wù)的行政管理，其管理內(nèi)容和管理方式還需要探索，如如何分類分級監(jiān)管等。因此該《暫行辦法》也是結(jié)合當前該服務(wù)的現(xiàn)狀，依據(jù)現(xiàn)有的法律、法規(guī)，實施的初步行政管理。
三、關(guān)于標識制度的實施
上述兩個部門規(guī)章建立的關(guān)鍵管理制度之一就是人工智能提供的生成合成內(nèi)容實施標識制度。標識是指表明某個內(nèi)容是人工智能生成合成內(nèi)容的信息。標識可包含生成合成服務(wù)提供者和內(nèi)容傳播服務(wù)提供者等信息。
《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中，第十六條規(guī)定：深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當采取技術(shù)措施添加不影響用戶使用的標識，并依照法律、行政法規(guī)和國家有關(guān)規(guī)定保存日志信息。這即隱式標識的要求。第十七條規(guī)定：深度合成服務(wù)提供者提供相關(guān)深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認的，應(yīng)當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成情況。這即顯式標識的要求。其第十八條規(guī)定：任何組織和個人不得采用技術(shù)手段刪除、篡改、隱匿本規(guī)定第十六條和第十七條規(guī)定的深度合成標識。
《生成式人工智能服務(wù)管理暫行辦法》中，第十二條規(guī)定：提供者應(yīng)當按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進行標識。
因此，為了人工智能生成合成內(nèi)容標識制度的有效落實，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局，又于2025年3月7日聯(lián)合發(fā)布了《人工智能生成合成內(nèi)容標識辦法》（國信辦通字 [ 2025] 2號）的規(guī)范性文件。幾乎同時，在2025年2月28日，我國還發(fā)布了GB 45438-2025《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標識方法》國家強制性標準。《標識辦法》是對上述部門規(guī)章的細化及延伸，《標識方法》是對《標識辦法》提供的技術(shù)支撐。兩者均于2025年9月1日同時生效并共同使用，以配套標識制度的具體落地。
欲詳細了解《標識方法》和《標識辦法》介紹的請進入。
欲進一步了解國家網(wǎng)信辦相關(guān)部門規(guī)章索引的請進入。
