假设一名青少年豪尔赫 (Jorge) 被学校管理人员发现持有大量大麻，如果向假释官举报，他将被开除。 如果管理员不举报他，他们就违法了； 如果他们这样做了，他们就会把他送进城里最差的学校之一，并可能再犯。
这是我们向哈佛大学教育研究生院 60 名学生展示的一个案例研究。 我们要求他们假装是学校的老师或管理人员并设计一个行动方案。 在他们谈话一小时后，我们向他们展示了 ChatGPT 对这项研究的分析。
该计划提出了几种镇痛解决方案：“我们必须对[学校]现有的与药物滥用相关的政策和程序进行审查，目标是确保它们一致、透明并反映最佳实践……学校应该采取富有同情心的态度 方法[但]也明确传达不会容忍药物滥用和相关犯罪……采取这种方法的同时，应确保学校能够满足学生的独特需求，特别是来自低收入和工薪阶层背景的学生的独特需求。 ”
我们的研究生最初的表现并不比这个聊天机器人好。 他们也很容易重复有关正义、公平和教育的同样令人厌倦的话语——这些话语似乎很有吸引力，但缺乏实质内容，除了应该满足的模糊的良性目标之外，未能提供具体的方法。 正如一名学生评论的那样，“我们只是在说公式化的、值得流行的东西，而不是像我们在上课时所说的那样谈论任何新的东西。”
学生们显然也对 ChatGPT 的解决方案与他们自己的解决方案如此接近感到惊讶。 他们谈到这些解决方案听起来与学校将要实施的完全一样，这是多么可怕。 然后，他们质疑自己以及自己是否有能力提出与其他人长期以来一直在重复的解决方案不同的解决方案。 他们表示感觉陷入了“循环”。 一名学生试图缓解紧张气氛，认为 ChatGPT 的贡献“并没有真正说什么”。 另一个人质问他：“我们真的说过什么吗？”
然而，正是在 ChatGPT 向学生反映他们想象力的失败之后，他们才开始思考他们或任何自动语言涂鸦程序都无法轻易实现的选项。 他们意识到这个案例完全集中在管理者的角度，他们之前的讨论没有让教师、学生和豪尔赫也参与的行动空间。
学生们开始质疑影响他们选择和结果的现有结构（例如学校教育和少年司法）的逻辑和合法性，并开始针对豪尔赫的案件提出新的、更具创造性的方法。 一名学生开玩笑说，老师们应该一起和豪尔赫一起吸大麻（也就是说，让自己成为执法的目标，而不是继续做无辜的旁观者）。 另一位则谈到废除学校。 第三个例子举了祖母为了追求环境正义而破坏公共财产的例子。 这些想法可能看起来毫无意义——但是，任何破坏现有思维模式的东西很可能听起来都是无稽之谈，至少一开始是这样。
讨论结束时，学生们不仅探讨了他们在豪尔赫案件中立即做出的、清白良心的反应，而且还考虑了可能采取的行动。 学生们开始意识到，如果建立了足够的集体权力，那么尊重法律和拒绝法律都是可能的。 例如，他们可以举报豪尔赫，同时威胁如果他被开除就将进行罢工——既不只是充当管理者，也不是仅仅充当救世主。 与其完全废除学校，不如关闭这一所学校。
我们的学生从未达成共识。 尽管如此，在 ChatGPT 迫使他们直面对非原创性的恐惧之后，对话变得更加细致、富有创意和丰富。 学生们从模仿其他思想家的话语和框架（一度他们甚至要求 ChatGPT 以 Paulo Freire 的《被压迫者教育学》的风格来分析案例）转向思考这些框架的含义以及强加它们的局限性 到复杂的现实。
这个过程并不容易。 谈话的大部分时间都弥漫着绝望的气氛，当人工智能迫使我们面对自己的可预测性时，通常都会如此。 我们也不会忽视许多其他人对人工智能提出的真实且有据可查的担忧，尤其是当我们执行的大部分日常认知劳动现在可以通过技术来完成时，对大规模失业的担忧。
但我们相信，像 ChatGPT 这样的人工智能语言模型可以在气候变化、种族关系、收入不平等等可预测反应屡屡失败的环境中发挥催化剂的作用。 它们确实可以提高我们的“生产力”，不是通过为我们提供更好的答案，而是通过让我们面对非原创的、互联网上所有内容的平均响应，这样我们就可以进入 ChatGPT 所没有的新替代方案领域。 无法预测。 在某种程度上，ChatGPT 可以充当无意识的讽刺，向我们展示我们的解决方案是多么不足和乏味。 人工智能不会解决这些问题，但可以成为改变我们思考、工作和行为方式的工具，向我们反映我们第一次最有可能说的话，并邀请我们一次又一次地尝试。
