國家互聯(lián)網(wǎng)信息辦公室

中華人民共和國工業(yè)和信息化部

中華人民共和國公安部

令

第12號

《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》已經(jīng)2022年11月3日國家互聯(lián)網(wǎng)信息辦公室2022年第21次室務會議審議通過，并經(jīng)工業(yè)和信息化部、公安部同意，現(xiàn)予公布，自2023年1月10日起施行。

國家互聯(lián)網(wǎng)信息辦公室主任 莊榮文

工業(yè)和信息化部部長 金壯龍

公安部部長 王小洪

2022年11月25日

互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定

第一章 總則

第一條 為了加強互聯(lián)網(wǎng)信息服務深度合成管理，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據(jù)《中華人民共和國網(wǎng)絡安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個人信息保護法》、《互聯(lián)網(wǎng)信息服務管理辦法》等法律、行政法規(guī)，制定本規(guī)定。

第二條 在中華人民共和國境內應用深度合成技術提供互聯(lián)網(wǎng)信息服務（以下簡稱深度合成服務），適用本規(guī)定。法律、行政法規(guī)另有規(guī)定的，依照其規(guī)定。

第三條 國家網(wǎng)信部門負責統(tǒng)籌協(xié)調全國深度合成服務的治理和相關監(jiān)督管理工作。國務院電信主管部門、公安部門依據(jù)各自職責負責深度合成服務的監(jiān)督管理工作。

地方網(wǎng)信部門負責統(tǒng)籌協(xié)調本行政區(qū)域內的深度合成服務的治理和相關監(jiān)督管理工作。地方電信主管部門、公安部門依據(jù)各自職責負責本行政區(qū)域內的深度合成服務的監(jiān)督管理工作。

第四條 提供深度合成服務，應當遵守法律法規(guī)，尊重社會公德和倫理道德，堅持正確政治方向、輿論導向、價值取向，促進深度合成服務向上向善。

第五條 鼓勵相關行業(yè)組織加強行業(yè)自律，建立健全行業(yè)標準、行業(yè)準則和自律管理制度，督促指導深度合成服務提供者和技術支持者制定完善業(yè)務規(guī)范、依法開展業(yè)務和接受社會監(jiān)督。

第二章 一般規(guī)定

第六條 任何組織和個人不得利用深度合成服務制作、復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經(jīng)濟和社會秩序、侵犯他人合法權益等法律、行政法規(guī)禁止的活動。

深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發(fā)布、傳播虛假新聞信息。轉載基于深度合成服務制作發(fā)布的新聞信息的，應當依法轉載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。

第七條 深度合成服務提供者應當落實信息安全主體責任，建立健全用戶注冊、算法機制機理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個人信息保護、反電信網(wǎng)絡詐騙、應急處置等管理制度，具有安全可控的技術保障措施。

第八條 深度合成服務提供者應當制定和公開管理規(guī)則、平臺公約，完善服務協(xié)議，依法依約履行管理責任，以顯著方式提示深度合成服務技術支持者和使用者承擔信息安全義務。

第九條 深度合成服務提供者應當基于移動電話號碼、身份證件號碼、統(tǒng)一社會信用代碼或者國家網(wǎng)絡身份認證公共服務等方式，依法對深度合成服務使用者進行真實身份信息認證，不得向未進行真實身份信息認證的深度合成服務使用者提供信息發(fā)布服務。

第十條 深度合成服務提供者應當加強深度合成內容管理，采取技術或者人工方式對深度合成服務使用者的輸入數(shù)據(jù)和合成結果進行審核。

深度合成服務提供者應當建立健全用于識別違法和不良信息的特征庫，完善入庫標準、規(guī)則和程序，記錄并留存相關網(wǎng)絡日志。

深度合成服務提供者發(fā)現(xiàn)違法和不良信息的，應當依法采取處置措施，保存有關記錄，及時向網(wǎng)信部門和有關主管部門報告；對相關深度合成服務使用者依法依約采取警示、限制功能、暫停服務、關閉賬號等處置措施。

第十一條 深度合成服務提供者應當建立健全辟謠機制，發(fā)現(xiàn)利用深度合成服務制作、復制、發(fā)布、傳播虛假信息的，應當及時采取辟謠措施，保存有關記錄，并向網(wǎng)信部門和有關主管部門報告。

第十二條 深度合成服務提供者應當設置便捷的用戶申訴和公眾投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理和反饋處理結果。

第十三條 互聯(lián)網(wǎng)應用商店等應用程序分發(fā)平臺應當落實上架審核、日常管理、應急處置等安全管理責任，核驗深度合成類應用程序的安全評估、備案等情況；對違反國家有關規(guī)定的，應當及時采取不予上架、警示、暫停服務或者下架等處置措施。

第三章 數(shù)據(jù)和技術管理規(guī)范

第十四條 深度合成服務提供者和技術支持者應當加強訓練數(shù)據(jù)管理，采取必要措施保障訓練數(shù)據(jù)安全；訓練數(shù)據(jù)包含個人信息的，應當遵守個人信息保護的有關規(guī)定。

深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。

第十五條 深度合成服務提供者和技術支持者應當加強技術管理，定期審核、評估、驗證生成合成類算法機制機理。

深度合成服務提供者和技術支持者提供具有以下功能的模型、模板等工具的，應當依法自行或者委托專業(yè)機構開展安全評估：

（一）生成或者編輯人臉、人聲等生物識別信息的；

（二）生成或者編輯可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息的。

第十六條 深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識，并依照法律、行政法規(guī)和國家有關規(guī)定保存日志信息。

第十七條 深度合成服務提供者提供以下深度合成服務，可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成情況：

（一）智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務；

（二）合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務；

（三）人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務；

（四）沉浸式擬真場景等生成或者編輯服務；

（五）其他具有生成或者顯著改變信息內容功能的服務。

深度合成服務提供者提供前款規(guī)定之外的深度合成服務的，應當提供顯著標識功能，并提示深度合成服務使用者可以進行顯著標識。

第十八條 任何組織和個人不得采用技術手段刪除、篡改、隱匿本規(guī)定第十六條和第十七條規(guī)定的深度合成標識。

第四章 監(jiān)督檢查與法律責任

第十九條 具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù)。

深度合成服務技術支持者應當參照前款規(guī)定履行備案和變更、注銷備案手續(xù)。

完成備案的深度合成服務提供者和技術支持者應當在其對外提供服務的網(wǎng)站、應用程序等的顯著位置標明其備案編號并提供公示信息鏈接。

第二十條 深度合成服務提供者開發(fā)上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應用、新功能的，應當按照國家有關規(guī)定開展安全評估。

第二十一條 網(wǎng)信部門和電信主管部門、公安部門依據(jù)職責對深度合成服務開展監(jiān)督檢查。深度合成服務提供者和技術支持者應當依法予以配合，并提供必要的技術、數(shù)據(jù)等支持和協(xié)助。

網(wǎng)信部門和有關主管部門發(fā)現(xiàn)深度合成服務存在較大信息安全風險的，可以按照職責依法要求深度合成服務提供者和技術支持者采取暫停信息更新、用戶賬號注冊或者其他相關服務等措施。深度合成服務提供者和技術支持者應當按照要求采取措施，進行整改，消除隱患。

第二十二條 深度合成服務提供者和技術支持者違反本規(guī)定的，依照有關法律、行政法規(guī)的規(guī)定處罰；造成嚴重后果的，依法從重處罰。

構成違反治安管理行為的，由公安機關依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

第五章 附則

第二十三條 本規(guī)定中下列用語的含義：

深度合成技術，是指利用深度學習、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡信息的技術，包括但不限于：

（一）篇章生成、文本風格轉換、問答對話等生成或者編輯文本內容的技術；

（二）文本轉語音、語音轉換、語音屬性編輯等生成或者編輯語音內容的技術；

（三）音樂生成、場景聲編輯等生成或者編輯非語音內容的技術；

（四）人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內容中生物特征的技術；

（五）圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內容中非生物特征的技術；

（六）三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景的技術。

深度合成服務提供者，是指提供深度合成服務的組織、個人。

深度合成服務技術支持者，是指為深度合成服務提供技術支持的組織、個人。

深度合成服務使用者，是指使用深度合成服務制作、復制、發(fā)布、傳播信息的組織、個人。

訓練數(shù)據(jù)，是指被用于訓練機器學習模型的標注或者基準數(shù)據(jù)集。

沉浸式擬真場景，是指應用深度合成技術生成或者編輯的、可供參與者體驗或者互動的、具有高度真實感的虛擬場景。

第二十四條 深度合成服務提供者和技術支持者從事網(wǎng)絡出版服務、網(wǎng)絡文化活動和網(wǎng)絡視聽節(jié)目服務的，應當同時符合新聞出版、文化和旅游、廣播電視主管部門的規(guī)定。

第二十五條 本規(guī)定自2023年1月10日起施行。

---

國家互聯(lián)網(wǎng)信息辦公室等三部門發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》

近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》（以下簡稱《規(guī)定》），自2023年1月10日起施行。國家互聯(lián)網(wǎng)信息辦公室有關負責人表示，出臺《規(guī)定》，旨在加強互聯(lián)網(wǎng)信息服務深度合成管理，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。

近年來，深度合成技術快速發(fā)展，在服務用戶需求、改進用戶體驗的同時，也被一些不法人員用于制作、復制、發(fā)布、傳播違法和不良信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等，影響傳播秩序和社會秩序，損害人民群眾合法權益，危害國家安全和社會穩(wěn)定。出臺《規(guī)定》，是防范化解安全風險的需要，也是促進深度合成服務健康發(fā)展、提升監(jiān)管能力水平的需要。

《規(guī)定》明確了制定目的依據(jù)、適用范圍、部門職責和導向要求。明確在中華人民共和國境內應用深度合成技術提供互聯(lián)網(wǎng)信息服務，適用本規(guī)定。明確國家和地方網(wǎng)信部門統(tǒng)籌協(xié)調深度合成服務的治理和相關監(jiān)督管理職責，國務院電信主管部門、公安部門以及地方相關部門的監(jiān)督管理職責。明確提供深度合成服務的總體要求。鼓勵相關行業(yè)組織加強行業(yè)自律。

《規(guī)定》明確了深度合成服務的一般規(guī)定。強調不得利用深度合成服務從事法律、行政法規(guī)禁止的活動。要求深度合成服務提供者落實信息安全主體責任，建立健全管理制度和技術保障措施，制定公開管理規(guī)則、平臺公約，對使用者進行真實身份信息認證，加強深度合成內容管理，建立健全辟謠機制和申訴、投訴、舉報機制。明確應用程序分發(fā)平臺應當落實安全管理責任，核驗深度合成類應用程序相關情況。

《規(guī)定》明確了深度合成數(shù)據(jù)和技術管理規(guī)范。要求深度合成服務提供者和技術支持者加強訓練數(shù)據(jù)管理和技術管理，保障數(shù)據(jù)安全，不得非法處理個人信息，定期審核、評估、驗證算法機制機理。深度合成服務提供者對使用其服務生成或編輯的信息內容，應當添加不影響使用的標識。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內容功能的服務的，應當進行顯著標識，避免公眾混淆或者誤認。要求任何組織和個人不得采用技術手段刪除、篡改、隱匿相關標識。

《規(guī)定》明確了監(jiān)督檢查與法律責任。明確具有輿論屬性或者社會動員能力的深度合成服務提供者、技術支持者應當履行備案和變更、注銷備案手續(xù)。上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應用、新功能的，應當開展安全評估。深度合成服務提供者、技術支持者應當依法配合網(wǎng)信部門和有關主管部門開展的監(jiān)督檢查，并提供必要的支持和協(xié)助。發(fā)現(xiàn)存在較大信息安全風險的，網(wǎng)信部門和有關主管部門可以按照職責依法要求其采取暫停信息更新、用戶賬號注冊或者其他服務等措施。明確違反規(guī)定的法律責任。

《規(guī)定》明確了相關用語的含義。要求深度合成服務提供者和技術支持者從事網(wǎng)絡出版服務、網(wǎng)絡文化活動、網(wǎng)絡視聽節(jié)目服務的，應當同時符合有關主管部門的規(guī)定。

國家互聯(lián)網(wǎng)信息辦公室有關負責人指出，深度合成服務治理需要政府、企業(yè)、社會、網(wǎng)民等多方主體共同參與，推動深度合成技術的依法、合理、有效使用，積極防范化解深度合成技術帶來的風險，促進互聯(lián)網(wǎng)信息服務健康發(fā)展，維護網(wǎng)絡空間良好生態(tài)。

---

《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》答記者問

一、問：請您簡要介紹《規(guī)定》出臺的背景？

答：制定《規(guī)定》主要基于以下幾個方面的考慮。一是深入貫徹落實黨中央決策部署。《法治社會建設實施綱要（2020-2025年）》明確提出制定完善對算法推薦、深度偽造等新技術應用的規(guī)范管理辦法。出臺《規(guī)定》，能夠進一步加強對新技術新應用新業(yè)態(tài)的管理，統(tǒng)籌發(fā)展與安全，推進深度合成技術依法合理有效利用。二是維護網(wǎng)絡空間良好生態(tài)。深度合成服務在滿足用戶需求、改進用戶體驗的同時，也被一些不法人員用于制作、復制、發(fā)布、傳播違法信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等違法行為，影響傳播秩序和社會秩序，損害人民群眾合法權益，危害國家安全和社會穩(wěn)定。出臺《規(guī)定》，能夠劃定深度合成服務的“底線”和“紅線”，維護網(wǎng)絡空間良好生態(tài)。三是促進深度合成服務規(guī)范發(fā)展。落實《網(wǎng)絡安全法》《數(shù)據(jù)安全法》《個人信息保護法》《互聯(lián)網(wǎng)信息服務管理辦法》等法律、行政法規(guī)，對應用深度合成技術提供互聯(lián)網(wǎng)信息服務制定系統(tǒng)性、專門性規(guī)定，能夠明確各類主體的信息安全義務，為促進深度合成服務規(guī)范發(fā)展提供有力法治保障。

二、問：《規(guī)定》中所稱深度合成技術是指什么？

答：《規(guī)定》中所稱深度合成技術，是指利用深度學習、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡信息的技術，具體包括篇章生成、文本風格轉換、問答對話等生成或者編輯文本內容的技術，文本轉語音、語音轉換、語音屬性編輯等生成或者編輯語音內容的技術，音樂生成、場景聲編輯等生成或者編輯非語音內容的技術，人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內容中生物特征的技術，圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內容中非生物特征的技術，三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景的技術等。

三、問：《規(guī)定》中所稱的深度合成服務提供者和技術支持者是指什么？

答：《規(guī)定》中所稱的深度合成服務提供者，是指提供深度合成服務的組織、個人。深度合成服務技術支持者，是指為深度合成服務提供技術支持的組織、個人。

四、問：《規(guī)定》對深度合成服務提供者落實信息安全主體責任作出了哪些要求？

答：《規(guī)定》對深度合成服務提供者主體責任進行了明確規(guī)定。一是不得利用深度合成服務制作、復制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，或從事法律、行政法規(guī)禁止的活動。二是建立健全用戶注冊、算法機制機理審核、科技倫理審查、信息發(fā)布審核、數(shù)據(jù)安全、個人信息保護、反電信網(wǎng)絡詐騙、應急處置等管理制度，具有安全可控的技術保障措施。三是制定和公開管理規(guī)則、平臺公約，完善服務協(xié)議，落實真實身份信息認證制度。四是加強深度合成內容管理，采取技術或者人工方式對輸入數(shù)據(jù)和合成結果進行審核，建立健全用于識別違法和不良信息的特征庫，記錄并留存相關網(wǎng)絡日志。五是建立健全辟謠機制，發(fā)現(xiàn)利用深度合成服務制作、復制、發(fā)布、傳播虛假信息的，應當及時采取辟謠措施，保存有關記錄，并向網(wǎng)信部門和有關主管部門報告。

五、問：《規(guī)定》明確了深度合成服務提供者和技術支持者的哪些數(shù)據(jù)和技術管理規(guī)范？

答：一是加強訓練數(shù)據(jù)管理。采取必要措施保障訓練數(shù)據(jù)安全；訓練數(shù)據(jù)包含個人信息的，應當遵守個人信息保護的有關規(guī)定；提供人臉、人聲等生物識別信息顯著編輯功能的，應當提示使用者依法告知被編輯的個人，并取得其單獨同意。二是加強技術管理。定期審核、評估、驗證生成合成類算法機制機理；提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應當依法自行或者委托專業(yè)機構開展安全評估。

六、問：《規(guī)定》明確了深度合成服務提供者的哪些標識要求？

答：一是深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識，并依法依規(guī)保存日志信息。二是提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有生成或者顯著改變信息內容功能服務的，應當在生成或者編輯的信息內容的合理位置、區(qū)域進行顯著標識，向公眾提示信息內容的合成情況，避免公眾混淆或者誤認；提供非上述深度合成服務的，應當提供顯著標識功能，并提示使用者可以進行顯著標識。任何組織和個人不得采用技術手段刪除、篡改、隱匿相關標識。

七、問：《規(guī)定》明確了深度合成服務提供者和技術支持者的哪些備案義務？

答：《規(guī)定》明確，具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》履行備案和變更、注銷備案手續(xù)。深度合成服務技術支持者應當參照服務提供者履行備案和變更、注銷備案手續(xù)。完成備案的深度合成服務提供者和技術支持者應當在其對外提供服務的網(wǎng)站、應用程序等的顯著位置標明其備案編號并提供公示信息鏈接。

八、問：《規(guī)定》對深度合成服務提供者履行安全評估和配合監(jiān)督檢查義務提出了哪些要求？

答：《規(guī)定》明確，深度合成服務提供者開發(fā)上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應用、新功能的，應當按照國家有關規(guī)定開展安全評估。深度合成服務提供者和技術支持者應當依法配合網(wǎng)信部門和有關主管部門開展的監(jiān)督檢查，并提供必要的技術、數(shù)據(jù)等支持和協(xié)助。發(fā)現(xiàn)存在較大信息安全風險的，網(wǎng)信部門和有關主管部門可以按照職責依法要求其采取暫停信息更新、用戶賬號注冊或者其他服務等措施。