数据资产指数、科创定位、高企思维
政策解读 | 知识产权布局与运营 | 诉讼与维权
(028)84400310
互联网信息服务深度合成管理规定
第一章 总则
第 一条 为 了加强互联网信息服务深度合成管理 , 弘扬社会主义核心价值观 , 维护国家安全和社会公共 利益 ,保护公民、法人和其他组织的合法权益 , 根据 《中华人民共和国网络安全法》 、《中华人民共和国 数据安全法》、《中华人民共和国个人信息保护法》、 《互联网信息服务管理办法》 等法律 、行政法规 , 制 定本规定。
第 二条 在中华人民共和国境内应用深度合成技术 提供互联网信息服务 ( 以下简称深度合成服务) , 适 用本规定 。法律、行政法规另有规定的,依照其规定。
第三条 国家网信部门负责统筹协调全国深度合成 服务的治理和相关监督管理工作 。 国务院电信主管部 门、公安部门依据各自职责负责深度合成服务的监督 管理工作。
地方网信部门负责统筹协调本行政区域内的深度 合成服务的治理和相关监督管理工作 。地方电信主管 部门 、公安部门依据各自职责负责本行政区域内的深 度合成服务的监督管理工作。
第四条 提供深度合成服务 , 应当遵守法律法规, 尊重社会公德和伦理道德 , 坚持正确政治方向 、舆论 导向、价值取向 ,促进深度合成服务向上向善。
第五条 鼓励相关行业组织加强行业自律 , 建立健 全行业标准、行业准则和自律管理制度 , 督促指导深 度合成服务提供者和技术支持者制定完善业务规范 、 依法开展业务和接受社会监督。
第二章 一般规定
第六条 任何组织和个人不得利用深度合成服务制 作、复制 、发布、传播法律 、行政法规禁止的信息 , 不得利用深度合成服务从事危害国家安全和利益、损 害国家形象、侵害社会公共利益 、扰乱经济和社会秩 序、侵犯他人合法权益等法律、行政法规禁止的活动。
深度合成服务提供者和使用者不得利用深度合成 服务制作 、复制、发布 、传播虚假新闻信息 。转载基 于深度合成服务制作发布的新闻信息的 , 应当依法转 载互联网新闻信息稿源单位发布的新闻信息。
第七条 深度合成服务提供者应当落实信息安全主 体责任 , 建立健全用户注册 、算法机制机理审核、科 技伦理审查、信息发布审核 、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度 , 具有安 全可控的技术保障措施。
第八条 深度合成服务提供者应当制定和公开管理 规则 、平台公约 , 完善服务协议 , 依法依约履行管理 责任 , 以显著方式提示深度合成服务技术支持者和使 用者承担信息安全义务。
第九条 深度合成服务提供者应当基于移动电话号 码、身份证件号码 、统 一社会信用代码或者国家网络 身份认证公共服务等方式 , 依法对深度合成服务使用 者进行真实身份信息认证 , 不得向未进行真实身份信 息认证的深度合成服务使用者提供信息发布服务。
第十条 深度合成服务提供者应当加强深度合成内 容管理 , 采取技术或者人工方式对深度合成服务使用 者的输入数据和合成结果进行审核。
深度合成服务提供者应当建立健全用于识别违法 和不良信息的特征库 , 完善入库标准 、规则和程序, 记录并留存相关网络 日志。
深度合成服务提供者发现违法和不良信息的,应当 依法采取处置措施 ,保存有关记录 ,及时向网信部门 和有关主管部门报告; 对相关深度合成服务使用者依法依约采取警示、 限制功能 、暂停服务、关闭账号等 处置措施。
第十 一条 深度合成服务提供者应当建立健全辟谣 机制 , 发现利用深度合成服务制作、复制 、发布、传 播虚假信息的 , 应当及时采取辟谣措施 ,保存有关记 录 , 并向网信部门和有关主管部门报告。
第十二条 深度合成服务提供者应当设置便捷的用 户 申诉和公众投诉 、举报入 口 , 公布处理流程和反馈 时限 ,及时受理、处理和反馈处理结果。
第十三条 互联网应用商店等应用程序分发平台应 当落实上架审核、 日 常管理 、应急处置等安全管理责 任 , 核验深度合成类应用程序的安全评估 、备案等情 况;对违反国家有关规定的,应当及时采取不予上架、 警示、暂停服务或者下架等处置措施。
第三章 数据和技术管理规范
第十四条 深度合成服务提供者和技术支持者应当 加强训练数据管理,采取必要措施保障训练数据安全; 训练数据包含个人信息的 , 应当遵守个人信息保护的 有关规定。
深度合成服务提供者和技术支持者提供人脸、人声 等生物识别信息编辑功能的 , 应当提示深度合成服务 使用者依法告知被编辑的个人 , 并取得其单独同意。
第十五条 深度合成服务提供者和技术支持者应当 加强技术管理 ,定期审核、评估 、验证生成合成类算 法机制机理。
深度合成服务提供者和技术支持者提供具有以下 功能的模型、模板等工具的 , 应当依法自行或者委托 专业机构开展安全评估:
( 一 )生成或者编辑人脸、人声等生物识别信息的;
( 二 )生成或者编辑可能涉及国家安全、国家形象、
国家利益和社会公共利益的特殊物体 、场景等非生物 识别信息的。
第十六条 深度合成服务提供者对使用其服务生成 或者编辑的信息内容 , 应当采取技术措施添加不影响 用户使用的标识 , 并依照法律、行政法规和国家有关 规定保存日志信息。
第十七条 深度合成服务提供者提供以下深度合成 服务 , 可能导致公众混淆或者误认的 , 应当在生成或者编辑的信息内容的合理位置、 区域进行显著标识, 向公众提示深度合成情况:
( 一 ) 智能对话、智能写作等模拟自然人进行文本 的生成或者编辑服务;
( 二 ) 合成人声、仿声等语音生成或者显著改变个 人身份特征的编辑服务;
( 三 ) 人脸生成、人脸替换、人脸操控、姿态操控 等人物图像、视频生成或者显著改变个人身份特征的 编辑服务;
( 四 ) 沉浸式拟真场景等生成或者编辑服务;
(五) 其他具有生成或者显著改变信息内容功能的 服务。
深度合成服务提供者提供前款规定之外的深度合 成服务的 , 应当提供显著标识功能 , 并提示深度合成 服务使用者可以进行显著标识。
第十八条 任何组织和个人不得采用技术手段删除、 篡改 、 隐匿本规定第十六条和第十七条规定的深度合 成标识。
第四章 监督检查与法律责任
第十九条 具有舆论属性或者社会动员能力的深度 合成服务提供者 , 应当按照《互联网信息服务算法推 荐管理规定》履行备案和变更、注销备案手续。
深度合成服务技术支持者应当参照前款规定履行 备案和变更、注销备案手续。
完成备案的深度合成服务提供者和技术支持者应 当在其对外提供服务的网站 、应用程序等的显著位置 标明其备案编号并提供公示信息链接。
第 二十条 深度合成服务提供者开发上线具有舆论 属性或者社会动员能力的新产品、新应用、新功能的, 应当按照国家有关规定开展安全评估。
第 二十 一条 网信部门和电信主管部门 、公安部门 依据职责对深度合成服务开展监督检查 。深度合成服 务提供者和技术支持者应当依法予以配合 , 并提供必 要的技术、数据等支持和协助。
网信部门和有关主管部门发现深度合成服务存在 较大信息安全风险的 , 可以按照职责依法要求深度合 成服务提供者和技术支持者采取暂停信息更新 、用户 账号注册或者其他相关服务等措施 。深度合成服务提供者和技术支持者应当按照要求采取措施,进行整改, 消除隐患。
第 二十 二条 深度合成服务提供者和技术支持者违 反本规定的 , 依照有关法律 、行政法规的规定处罚; 造成严重后果的 , 依法从重处罚。
构成违反治安管理行为的 , 由公安机关依法给予治 安管理处罚; 构成犯罪的 , 依法追究刑事责任。
第五章 附则
第二十三条 本规定中下列用语的含义:
深度合成技术 ,是指利用深度学习、虚拟现实等生 成合成类算法制作文本 、 图像、音频 、视频、虚拟场 景等网络信息的技术 ,包括但不限于:
( 一 ) 篇章生成、文本风格转换、 问答对话等生成 或者编辑文本内容的技术;
( 二 ) 文本转语音、语音转换、语音属性编辑等生 成或者编辑语音内容的技术;
( 三 ) 音乐生成、场景声编辑等生成或者编辑非语 音内容的技术;
( 四 ) 人脸生成、人脸替换、人物属性编辑、人脸 操控 、姿态操控等生成或者编辑图像 、视频内容中生 物特征的技术;
(五) 图像生成、 图像增强、 图像修复等生成或者 编辑图像、视频内容中非生物特征的技术;
( 六) 三维重建、数字仿真等生成或者编辑数字人 物、虚拟场景的技术。
深度合成服务提供者,是指提供深度合成服务的组 织、个人。
深度合成服务技术支持者,是指为深度合成服务提 供技术支持的组织、个人。
深度合成服务使用者,是指使用深度合成服务制作、 复制、发布、传播信息的组织、个人。
训练数据,是指被用于训练机器学习模型的标注或 者基准数据集。
沉浸式拟真场景,是指应用深度合成技术生成或者 编辑的、可供参与者体验或者互动的 、具有高度真实 感的虚拟场景。
第 二十四条 深度合成服务提供者和技术支持者从 事网络出版服务、网络文化活动和网络视听节目服务 的 ,应当同时符合新闻出版 、文化和旅游 、广播电视 主管部门的规定。
第二十五条 本规定自2023 年 1 月 10 日起施行。