12月11日，國家互聯網信息辦公室、工業和信息化部、公安部聯合發佈《互聯網信息服務深度合成管理規定》（以下簡稱《規定》），自2023年1月10日起施行。

深度合成技術涵蓋了內容合成、人臉合成、語音合成以及虛擬人全身合成等技術類型，如今大熱的AI作畫、AI創作、AI換臉以及虛擬人制作等，都屬於深度合成技術支持下的應用。

12月12日發佈的《<互聯網信息服務深度合成管理規定>答記者問》提到，《規定》出臺主要基於多個方面考慮，一是深入貫徹落實黨中央決策部署，進一步加強對新技術新應用新業態的管理；二是維護網絡空間良好生態，避免影響傳播秩序和社會秩序，損害人民羣衆合法權益，危害國家安全和社會穩定。三是促進深度合成服務規範發展，明確各類主體的信息安全義務。

對於深度合成技術的監管，此前在《互聯網信息服務算法推薦管理規定》《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》等法規中均有提及，而《規定》則對深度合成內容更有針對性地進行規制，標誌着監管部門針對互聯網信息內容監管版圖的進一步細化。

“和之前相對碎片化的法規相比，新規的針對性非常強，且全鏈條管理。”世輝律師事務所合夥人王新銳對界面新聞記者表示，《規定》通過一系列的管理制度要求來管控深度合成帶來的風險。

《規定》對深度合成服務提供者主體責任進行了明確規定。《規定》強調，任何人或組織不得利用深度合成服務製作、複製、發佈、傳播法律、行政法規禁止的信息，或從事法律、行政法規禁止的活動。

《規定》同時要求，深度合成服務者需要採取技術或者人工方式對輸入數據和合成結果進行審覈，管理深度合成內容，並建立闢謠機制，並且建立健全用戶註冊、算法機制機理審覈、科技倫理審查、信息發佈審覈、數據安全、個人信息保護、反電信網絡詐騙、應急處置等管理制度。

“目前來看，對於提供深度合成服務的創業公司來說影響較大，因爲新規明顯抬高了合規要求和合規成本。”世輝律師事務所合夥人王新銳表示。

一位人工智能行業人士對界面新聞記者稱，《規定》雖然目前只做了相對寬泛的限制，但是至少未來有不法分子利用AI從事不法行爲時能夠有依據可以引用。

在具體的項目中，該人士提及，爲滿足合規要求，項目可能需要進一步調試各類圖像/文字生成模型，保證模型不會輸出暴恐色情內容、不會被人利用製作虛假圖像（換臉）等。

另外， 對於新規所強調的“具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照《互聯網信息服務算法推薦管理規定》履行備案和變更、註銷備案手續。”

王新銳律師提到，之前完成了算法備案的公司，大多數爲大型互聯網公司。在爲這些企業提供算法備案的相關協助中，也感受到監管的要求較高，企業需要有比較完善的內控機制，才能滿足相關文件要求。

此次《規定》對深度合成服務提供者和技術支持者提出了明確的數據和技術管理規範。其中包括，深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，並取得其單獨同意。

清華大學公共管理學院教授、人工智能國際治理研究院副院長梁正向界面新聞記者分析，上述條例實際上是遵循了《個人信息保護法》，明確了在深度合成技術場景中的隱私保護。比如在AI換臉應用中，《規定》出臺之後，未經他人同意情況下，使用他人照片進行AI換臉內容製作將是違規行爲。

梁正還提及，在上述條例支持下，人工智能模型的訓練不能隨意使用未經同意的人臉、聲音等帶有生物特徵的數據。

在以往，許多人工智能模型的訓練通常會經歷“全網爬取數據”的階段，許多個人公佈在公共社交媒體的照片、視頻可能會在不被告知的情況下被機器學習，成爲某個模型的養料。《規定》中對於人臉、聲音等生物特徵信息的使用提出明確的前提條件，一定程度上可以解決這個問題。

對深度合成服務提供者和技術支持者的數據和技術管理規範，本質上是爲了防範日益增長且無法預料的風險。

當下深度合成內容製作的技術門檻越來越低，普通人僅需少量的圖像、視頻、音頻等樣本數據，利用簡便易用的合成工具，就能模糊真實和虛擬（虛假）的邊界，甚至利用深度合成技術製造虛假視頻、虛假音頻進行誣陷、誹謗、詐騙、勒索等違法行爲。

2017年，有技術團隊利用AI換臉技術，製作了一則美國前總統奧巴馬侮辱特朗普的視頻，在互聯網獲得超過480萬餘次瀏覽；2022年，《福布斯》雜誌報道稱，一位欺詐者用深度僞造語音冒充客戶，在阿拉伯聯合酋長國某銀行騙取了3500萬美元。

此次發佈的《規定》明確提出，深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當採取技術措施添加不影響用戶使用的標識，並依法依規保存日誌信息。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有生成或者顯著改變信息內容功能服務的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公衆提示信息內容的合成情況，避免公衆混淆或者誤認；提供非上述深度合成服務的，應當提供顯著標識功能，並提示使用者可以進行顯著標識。任何組織和個人不得采用技術手段刪除、篡改、隱匿相關標識。

梁正認爲，標識可以讓受衆明白內容是否屬於深度合成，一定程度上可以減少深度合成內容產生的社會偏差。對於技術支持公司來說，對輸出內容增加標識難度不大。不過，對於平臺型公司而言，如何識別出不同上傳者的深度合成內容標識將成爲一個難點。