中国制定了基本规则，以防止滥用“深度合成”技术，包括深度造假和虚拟现实。 使用这些服务的任何人都必须相应地标记图像，并避免利用该技术进行违反当地法规的活动。
国家互联网信息办公室、工业和信息化部、公安部发布联合声明，要求使用深度合成技术和服务必须明确标明，以免误认为是真实信息。
政府机构表示，新规定将于明年 1 月 10 日生效，旨在保护国家安全和国家核心社会价值观，并维护公民和组织的权益。
他们指出，虽然合成技术改善了用户体验，但它也被用来冒充身份并传播虚假和有害信息，损害受害者的声誉。 这危及国家安全和社会稳定。
他们补充说，法规对于减轻此类风险并推动新技术的“健康”发展是必要的。 基本规则还将规范深度合成服务的发展，并确保这些服务符合国家其他相关法规，包括数据安全和个人信息保护法。
新规则将适用于使用深度学习、虚拟现实和其他合成算法创建文本、图像、视频、音频和虚拟场景的技术，包括文本转语音、语音编辑、手势操作、数字模拟和 3D重建。
除了不使用深度合成服务制作和传播当地法律禁止的信息外，新规还提出了需要实施真实身份数据认证系统以及其他管理系统，如用户注册、算法机制审查、数据安全等。 、应急响应和伦理审查。 此外，必须建立安全技术措施。
这些管理规则和服务协议必须公开。 如果使用深度合成服务发布或传播虚假信息，用户还必须建立及时处理谣言的机制。 相关政府机构也需要得到通知。
