OpenAI 推出了一种工具，用于检测使用其自己的 ChatGPT 等服务生成的文本。
用于 ChatGPT 等服务的生成式 AI 模型引发了许多社会和伦理问题：它们能否以前所未有的规模被用来生成错误信息？ 如果学生作弊怎么办？ 摘录用于文章或论文的地方是否应该归功于 AI？
米德尔伯里国际研究所恐怖主义、极端主义和反恐中心的一篇论文 (PDF) 甚至发现，GPT-3 能够生成“有影响力”的文本，有可能将人们激化为极右翼极端主义意识形态。
OpenAI 的成立是为了促进和发展造福人类的“友好人工智能”。 作为 GPT 和 DALL-E 等强大的生成式 AI 模型的创建者，OpenAI 有责任确保其创造物具有适当的保护措施，以防止（或至少最大限度地减少）它们被用于有害目的。
本周推出的新工具声称能够区分人类和人工智能（不仅仅是 GPT）编写的文本。 然而，OpenAI 警告说它目前不可靠。
在一组具有挑战性的英文文本中，OpenAI 表示其工具仅将 26% 的 AI 编写的文本识别为“可能由 AI 编写”。 该工具在大约 9% 的时间内错误地对人类编写的文本进行分类。
“虽然不可能可靠地检测所有 AI 编写的文本，但我们相信好的分类器可以缓解人工智能生成的文本是由人类编写的虚假声明：例如，运行自动错误信息活动，使用 AI 工具进行学术不诚实， 并将 AI 聊天机器人定位为人类，”OpenAI 说。
“[该工具] 不应用作主要的决策工具，而应作为其他确定文本来源的方法的补充。”
该工具的其他主要限制是它在 1,000 个字符以下的短文本上“非常不可靠”，而在应用于非英语文本时“明显更差”。
OpenAI 最初向少数受信任的研究人员和开发人员提供 GPT 访问权限。 虽然它制定了更强大的保障措施，但随后引入了候补名单。 候补名单已于 2021 年 11 月删除，但提高安全性的工作仍在进行中。
“为确保负责任地构建 API 支持的应用程序，我们提供工具并帮助开发人员使用最佳实践，以便他们能够快速安全地将他们的应用程序投入生产，”OpenAI 在一篇博文中写道。
“随着我们系统的发展和我们努力提高我们的保障能力，我们希望继续为开发人员简化流程，完善我们的使用指南，并随着时间的推移允许更多的用例。”
OpenAI 最近分享了他的观点，即围绕 GPT 的下一个主要版本 GPT-4 的炒作太多，人们“乞求失望”。 他还相信视频生成模型将会出现，但不会给出具体时间。
经 AI 技术（也称为深度造假）处理过的视频已被证明存在问题。 人们很容易被他们认为可以看到的东西说服。
我们已经看到了一些人物的深度造假，例如名誉扫地的 FTX 创始人 Sam Bankman-Fried 进行欺诈，乌克兰总统 Volodymyr Zelenskyy 散播谣言，以及美国众议院议长 Nancy Pelosi 诽谤并让她看起来喝醉了。
OpenAI 正在做正确的事情，花时间将风险降到最低，控制期望，并构建工具来发现虚假声称由人类创建的内容。
