隨著人工智能的蓬勃發展，深度合成算法已經成為廣泛應用于人們生產生活中的常見技術，在推動經濟社會發展的同時，也帶來一定的社會管理潛在風險。在互聯網信息數據體量急劇膨脹的今天，用戶能夠獲取越來越多經過深度合成的信息數據，其不正當應用也深深影響了正常的網絡環境和社會秩序，甚至危害到網民合法權益、社會公平公正以及意識形態安全。
為了加強互聯網信息服務深度合成管理，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《網絡安全法》、《數據安全法》、《個人信息保護法》、《互聯網信息服務管理辦法》等法律、行政法規，國家互聯網信息辦公室聯合工業和信息化部、公安部發布了《互聯網信息服務深度合成管理規定》（以下稱《規定》）?！兑幎ā肥悄壳拔覈槍ヂ摼W信息服務深度合成技術出臺的最為系統的專門性部門規章，為規范互聯網信息服務深度合成使用、促進互聯網信息服務健康發展、推進網絡空間治理、維護社會公平穩定發展提供了重要的法制保障，影響深遠，意義重大。
一、保障對算法正面正向的管理及應用
《規定》著眼于互聯網信息內容生態治理，防范深度合成技術的不合理應用，保障網絡用戶的合法權益，聚焦于建立有效的深度合成服務監管秩序，著重促進發揮算法服務的正向傳播作用，營造風清氣正的網絡空間?！兑幎ā窂囊韵氯齻€方面明確了深度合成算法應用治理的總體方向。
首先，明確使用目的，堅持正確導向。《規定》中明確了深度合成技術是指應用于文本、圖像、音頻、視頻、虛擬場景等多個領域的生成合成技術，區分深度合成服務的提供者與使用者，并由此引出治理對象?！兑幎ā分忻鞔_了技術應用的底線，指明深度合成技術不能被用于制作與傳播危害國家與社會安全穩定的信息，不能被用于侵害他人肖像權等合法權益，鼓勵以正向的目的使用深度合成技術，體現出正確的社會價值觀。
其次，加強監督管理，確保安全可控。《規定》中明確全國范圍內的深度合成服務應接受國家網信部門的監督與管理，地方網信部門負責統籌協調本行政區域內的深度合成服務，確保深度合成服務制作、復制、發布、傳播等關鍵環節接受監督管理，并保障技術的安全可控。
最后，堅持規范發展，防止算法濫用。《規定》鼓勵深度合成服務相關行業自律并遵循公正公平、公開透明、科學合理和誠實信用的原則，促進深度合成技術在不觸及應用底線且不違背原則的情況下蓬勃發展，支持行業內自我監管與自我約束。
二、明確主體責任，營造良好網絡服務秩序
《規定》的出臺是對維護網絡安全、社會安全、國家安全的有力保障。隨著基于深度學習的合成服務日益融入大眾生活，明確深度合成服務提供者的主體責任是護航社會正常有序運轉的應有之義。主要舉措包含以下四個方面：
首先，建立健全管理制度，保障深度合成服務安全有序進行。《規定》明確要求深度合成服務提供者加強管理制度的建立，包括算法機制機理審核制度、信息內容管理審核制度等?！兑幎ā泛w了深度合成服務的關鍵環節，體現了科學、安全、有序的治理思路。
其次，制定公開透明規則，保證深度合成服務有規可循。《規定》認為深度合成服務提供者應當制定、公開管理規則及平臺公約，并對使用者依法進行身份信息認證。此項舉措能夠有效保證日后追責有規可循、有跡可查，進一步為責任劃分作出明確指示。
第三，建立內容審核機制，確保深度合成內容合法合規。《規定》明確要求加強內容管理，確保輸入數據處理正當、合法，建立健全特征庫，針對深度合成結果進行審核，切實確保深度合成服務被正確使用。這一要求有利于維護數據和個人的信息安全。
最后，定期開展安全評估，預防信息安全風險。《規定》強調應避免深度合成服務被有心之人亂用，破壞社會和諧及安全穩定，應當對涉及生物識別信息、國家安全、社會公共利益的模型開展安全評估，排查防范可能存在的風險漏洞。這就要求深度合成服務提供者應不斷自查自省，提高自身的技術水平，降低系統性的安全風險，力求從根源杜絕服務濫用亂象。
三、明確深度合成內容標識管理制度，加強深度合成信息管理
《規定》聚焦深度合成信息內容的規范化管理，確保深度合成內容可識別、可追溯，保障人民群眾的財產安全，確?；ヂ摼W信息傳播秩序和國家安全、社會穩定?！兑幎ā窂囊韵聝蓚€方面明確了深度合成內容標識管理的具體要求。
首先，添加不影響使用的標識，保障深度合成信息內容可識別溯源。《規定》要求深度合成服務提供者對其提供的深度合成信息內容添加不影響使用的標識，保存日志信息，確保該合成信息的發布、傳播可被自身識別和溯源。一旦深度合成信息內容被非法使用，相關部門可以迅速溯源追蹤信息流向、阻斷信息傳播、鎖定犯罪分子，提高執法效率，減少因此造成的損失。
其次，使用顯著方式對顯著改變信息內容的深度合成信息內容進行標識，保障公眾知情權。《規定》要求對生成或者顯著改變信息內容的深度合成信息內容，應當使用顯著方式進行標識，向社會公眾有效提示信息內容的合成情況。對其他深度合成信息內容，應當提供進行顯著標識的功能，并提示使用者可以自行標識。這一要求能夠有效防止不法分子利用他人生成的深度合成信息進行造謠和詐騙等非法行為，有利于保障人民群眾的知情權、財產安全和社會的和諧穩定。
四、堅持依法管理，為科技應用保駕護航
《規定》以深化互聯網信息服務依法管理的客觀要求為出發點，建立完善的深度合成信息服務管理體系，確保深度合成技術應用過程中的信息安全。具體措施分為以下幾個方面：
首先，堅決明確主體責任。《規定》要求互聯網應用商店服務提供者應依法依約履行安全管理責任，保障上線產品的合法化，建立健全辟謠機制并及時采取相應的辟謠措施?！兑幎ā穼ι疃群铣杉夹g的生產者和使用者進行引導，使其遵守法律法規，樹立正確的價值取向，營造良好的網絡氛圍。
其次，堅決落實管理制度。《規定》要求深度合成服務提供者應當設置便捷高效的用戶服務體系，按照《互聯網信息服務算法推薦管理規定》有關規定履行備案手續并予以公示，對具有輿論屬性或者社會動員能力的相關產品按照國家有關規定開展安全評估?！兑幎ā窂亩鄠€維度落實監管措施，提高用戶服務體驗，維護信息安全。
最后，堅決履行監管要求。《規定》要求各級網信部門對深度合成信息服務提供者履行深度合成信息內容管理主體責任情況開展監督檢查，深度合成服務提供者對網信部門依法實施的監督檢查，應當予以配合，并提供必要的技術、數據等支持和協助?！兑幎ā反_保了互聯網信息服務管理有法可依、有法必依、執法必嚴、違法必究。
