互联网信息服务深度合成管理规定

第一章   总则

第 一条  为 了加强互联网信息服务深度合成管理 ，  弘扬社会主义核心价值观 ，  维护国家安全和社会公共 利益 ，保护公民、法人和其他组织的合法权益 ，  根据 《中华人民共和国网络安全法》 、《中华人民共和国 数据安全法》、《中华人民共和国个人信息保护法》、 《互联网信息服务管理办法》 等法律 、行政法规 ，  制 定本规定。

第 二条 在中华人民共和国境内应用深度合成技术 提供互联网信息服务 ( 以下简称深度合成服务)  ，  适 用本规定 。法律、行政法规另有规定的，依照其规定。

第三条  国家网信部门负责统筹协调全国深度合成 服务的治理和相关监督管理工作 。  国务院电信主管部 门、公安部门依据各自职责负责深度合成服务的监督 管理工作。

地方网信部门负责统筹协调本行政区域内的深度 合成服务的治理和相关监督管理工作 。地方电信主管 部门 、公安部门依据各自职责负责本行政区域内的深 度合成服务的监督管理工作。

第四条 提供深度合成服务 ，  应当遵守法律法规， 尊重社会公德和伦理道德 ，  坚持正确政治方向 、舆论 导向、价值取向 ，促进深度合成服务向上向善。

第五条 鼓励相关行业组织加强行业自律 ，  建立健 全行业标准、行业准则和自律管理制度 ，  督促指导深 度合成服务提供者和技术支持者制定完善业务规范 、 依法开展业务和接受社会监督。

第二章   一般规定

第六条 任何组织和个人不得利用深度合成服务制 作、复制 、发布、传播法律 、行政法规禁止的信息 ，  不得利用深度合成服务从事危害国家安全和利益、损 害国家形象、侵害社会公共利益 、扰乱经济和社会秩 序、侵犯他人合法权益等法律、行政法规禁止的活动。

深度合成服务提供者和使用者不得利用深度合成 服务制作 、复制、发布 、传播虚假新闻信息 。转载基 于深度合成服务制作发布的新闻信息的 ，  应当依法转 载互联网新闻信息稿源单位发布的新闻信息。

第七条  深度合成服务提供者应当落实信息安全主 体责任 ，  建立健全用户注册 、算法机制机理审核、科 技伦理审查、信息发布审核 、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度 ，  具有安 全可控的技术保障措施。

第八条  深度合成服务提供者应当制定和公开管理 规则 、平台公约 ，  完善服务协议 ，  依法依约履行管理 责任 ，  以显著方式提示深度合成服务技术支持者和使 用者承担信息安全义务。

第九条  深度合成服务提供者应当基于移动电话号 码、身份证件号码 、统 一社会信用代码或者国家网络 身份认证公共服务等方式 ，  依法对深度合成服务使用 者进行真实身份信息认证 ，  不得向未进行真实身份信 息认证的深度合成服务使用者提供信息发布服务。

第十条  深度合成服务提供者应当加强深度合成内 容管理 ，  采取技术或者人工方式对深度合成服务使用 者的输入数据和合成结果进行审核。

深度合成服务提供者应当建立健全用于识别违法 和不良信息的特征库 ，  完善入库标准 、规则和程序， 记录并留存相关网络 日志。

深度合成服务提供者发现违法和不良信息的，应当 依法采取处置措施 ，保存有关记录 ，及时向网信部门 和有关主管部门报告；  对相关深度合成服务使用者依法依约采取警示、  限制功能 、暂停服务、关闭账号等 处置措施。

第十 一条  深度合成服务提供者应当建立健全辟谣 机制 ，  发现利用深度合成服务制作、复制 、发布、传 播虚假信息的 ，  应当及时采取辟谣措施 ，保存有关记 录 ，  并向网信部门和有关主管部门报告。

第十二条  深度合成服务提供者应当设置便捷的用 户 申诉和公众投诉 、举报入 口 ，  公布处理流程和反馈 时限 ，及时受理、处理和反馈处理结果。

第十三条  互联网应用商店等应用程序分发平台应 当落实上架审核、   日 常管理 、应急处置等安全管理责 任 ，  核验深度合成类应用程序的安全评估 、备案等情 况；对违反国家有关规定的，应当及时采取不予上架、 警示、暂停服务或者下架等处置措施。

第三章   数据和技术管理规范

第十四条  深度合成服务提供者和技术支持者应当 加强训练数据管理，采取必要措施保障训练数据安全； 训练数据包含个人信息的 ，  应当遵守个人信息保护的 有关规定。

深度合成服务提供者和技术支持者提供人脸、人声 等生物识别信息编辑功能的 ，  应当提示深度合成服务 使用者依法告知被编辑的个人 ，  并取得其单独同意。

第十五条  深度合成服务提供者和技术支持者应当 加强技术管理 ，定期审核、评估 、验证生成合成类算 法机制机理。

深度合成服务提供者和技术支持者提供具有以下 功能的模型、模板等工具的 ，  应当依法自行或者委托 专业机构开展安全评估：

( 一 )生成或者编辑人脸、人声等生物识别信息的；

( 二 )生成或者编辑可能涉及国家安全、国家形象、

国家利益和社会公共利益的特殊物体 、场景等非生物 识别信息的。

第十六条  深度合成服务提供者对使用其服务生成 或者编辑的信息内容 ，  应当采取技术措施添加不影响 用户使用的标识 ，  并依照法律、行政法规和国家有关 规定保存日志信息。

第十七条  深度合成服务提供者提供以下深度合成 服务 ，  可能导致公众混淆或者误认的 ，  应当在生成或者编辑的信息内容的合理位置、  区域进行显著标识， 向公众提示深度合成情况：

( 一 ) 智能对话、智能写作等模拟自然人进行文本 的生成或者编辑服务；

( 二 ) 合成人声、仿声等语音生成或者显著改变个 人身份特征的编辑服务；

( 三 ) 人脸生成、人脸替换、人脸操控、姿态操控 等人物图像、视频生成或者显著改变个人身份特征的 编辑服务；

( 四 ) 沉浸式拟真场景等生成或者编辑服务；

(五) 其他具有生成或者显著改变信息内容功能的 服务。

深度合成服务提供者提供前款规定之外的深度合 成服务的 ，  应当提供显著标识功能 ，  并提示深度合成 服务使用者可以进行显著标识。

第十八条 任何组织和个人不得采用技术手段删除、 篡改 、  隐匿本规定第十六条和第十七条规定的深度合 成标识。

第四章   监督检查与法律责任

第十九条 具有舆论属性或者社会动员能力的深度 合成服务提供者 ，  应当按照《互联网信息服务算法推 荐管理规定》履行备案和变更、注销备案手续。

深度合成服务技术支持者应当参照前款规定履行 备案和变更、注销备案手续。

完成备案的深度合成服务提供者和技术支持者应 当在其对外提供服务的网站 、应用程序等的显著位置 标明其备案编号并提供公示信息链接。

第 二十条  深度合成服务提供者开发上线具有舆论 属性或者社会动员能力的新产品、新应用、新功能的， 应当按照国家有关规定开展安全评估。

第 二十 一条  网信部门和电信主管部门 、公安部门 依据职责对深度合成服务开展监督检查 。深度合成服 务提供者和技术支持者应当依法予以配合 ，  并提供必 要的技术、数据等支持和协助。

网信部门和有关主管部门发现深度合成服务存在 较大信息安全风险的 ，  可以按照职责依法要求深度合 成服务提供者和技术支持者采取暂停信息更新 、用户 账号注册或者其他相关服务等措施 。深度合成服务提供者和技术支持者应当按照要求采取措施，进行整改， 消除隐患。

第 二十 二条  深度合成服务提供者和技术支持者违 反本规定的 ，  依照有关法律 、行政法规的规定处罚； 造成严重后果的 ，  依法从重处罚。

构成违反治安管理行为的 ，  由公安机关依法给予治 安管理处罚；  构成犯罪的 ，  依法追究刑事责任。

第五章   附则

第二十三条 本规定中下列用语的含义：

深度合成技术 ，是指利用深度学习、虚拟现实等生 成合成类算法制作文本 、  图像、音频 、视频、虚拟场 景等网络信息的技术 ，包括但不限于：

( 一 ) 篇章生成、文本风格转换、  问答对话等生成 或者编辑文本内容的技术；

( 二 ) 文本转语音、语音转换、语音属性编辑等生 成或者编辑语音内容的技术；

( 三 ) 音乐生成、场景声编辑等生成或者编辑非语 音内容的技术；

( 四 ) 人脸生成、人脸替换、人物属性编辑、人脸 操控 、姿态操控等生成或者编辑图像 、视频内容中生 物特征的技术；

(五)  图像生成、  图像增强、  图像修复等生成或者 编辑图像、视频内容中非生物特征的技术；

( 六) 三维重建、数字仿真等生成或者编辑数字人 物、虚拟场景的技术。

深度合成服务提供者，是指提供深度合成服务的组 织、个人。

深度合成服务技术支持者，是指为深度合成服务提 供技术支持的组织、个人。

深度合成服务使用者，是指使用深度合成服务制作、 复制、发布、传播信息的组织、个人。

训练数据，是指被用于训练机器学习模型的标注或 者基准数据集。

沉浸式拟真场景，是指应用深度合成技术生成或者 编辑的、可供参与者体验或者互动的 、具有高度真实 感的虚拟场景。

第 二十四条  深度合成服务提供者和技术支持者从 事网络出版服务、网络文化活动和网络视听节目服务 的 ，应当同时符合新闻出版 、文化和旅游 、广播电视 主管部门的规定。

第二十五条 本规定自2023 年 1 月 10 日起施行。