中国国家互联网信息办公室 (CAC) 发起了一场打击人工智能生成的假新闻的运动。
打击的重点是新闻提供商，包括短视频平台和热门搜索列表。
CAC 特别强调了操纵行为，例如使用 AI 虚拟主播、伪造工作室场景、模仿合法新闻账户的假新闻账户，以及操纵新闻以制造误导性故事情节。 这些做法被用来生成通常所说的点击诱饵。
据网信办称，已对10.7万个假新闻账号和假主播采取行动，清除虚假信息83.5万条。 互联网监管机构敦促公民报告任何在网上遇到假新闻账户的情况。
根据旨在遏制人工智能产生的假新闻传播的中国人工智能媒体法，警方最近在甘肃省拘留了一名使用 ChatGPT 制造假新闻的人。
此人使用 ChatGPT 编造了一篇关于火车相撞的新闻文章，并迅速在社交媒体平台上引起关注。 警方对散布虚假信息以增加网站流量的个人采取了行动。
ChatGPT 在中国不能直接使用，但用户可以使用受支持的外国电话号码和虚拟专用网络 (VPN) 访问它。 但是，访问外国电话号码和 VPN 在中国受到限制。
人工智能生成的媒体法自 2023 年 1 月 10 日起生效，不仅针对像在甘肃被拘留的人这样的个人，而且要求“深度合成服务提供者”负责防止滥用人工智能算法进行欺诈、诈骗和欺诈等非法活动。 虚假信息的传播。
该法律的实施对微信开发商腾讯等公司提出了挑战，因为它们需要确保其人工智能算法不被滥用。
腾讯最近推出了一种本质上是“Deepfakes 即服务”的产品，使用户能够付费创建高清数字人，引发了人们对这种技术可能被滥用的担忧。
尽管批评人士提出了对审查制度和限制言论自由的担忧，但中国政府打击假新闻和规范在线交流的努力凸显了其维护安全和值得信赖的数字环境的承诺。
