中断一年后，由 Montreal.ai 和纽约大学名誉教授兼 AI 专家加里·马库斯 (Gary Marcus) 组织的年度人工智能辩论于周五晚上回归，与 2020 年一样，再次以虚拟活动的形式举办。
今年的辩论，AI 辩论 3：AGI 辩论，正如它所说的那样，重点关注人工通用智能的概念，即能够整合无数接近人类水平的推理能力的机器的概念。
虽然之前的辩论有许多 AI 学者参加，但周五的聚会吸引了来自更广泛专业背景的 16 名参与者参加。 除了众多计算机科学家和 AI 名人之外，该计划还包括传奇语言学家和活动家诺姆·乔姆斯基、计算神经科学家康拉德·科丁和加拿大议员米歇尔·伦佩尔·加纳。
另外：人工智能的真正目标可能不再是智能
完整名单如下：Erik Brynjolfsson、Yejin Choi、Noam Chomsky、Jeff Clune、David Ferrucci、Artur d’Avila Garcez、Michelle Rempel Garner、Dileep George、Ben Goertzel、Sara Hooker、Anja Kaspersen、Konrad Kording、李开复、 Francesca Rossi、Jürgen Schmidhuber 和 Angela Sheffield。
Marcus 再次加入了他的共同主持人，Montreal.ai 的 Vincent Boucher。
3 小时的课程围绕五个小组主题组织：
第 1 小组：认知与神经科学
小组 2：常识
第 3 小组：架构
小组 4：伦理与道德
小组 5：人工智能：政策和净贡献
辩论进行的时间比计划的要长。 完整的 3.5 小时辩论可以在 YouTube 页面上观看。 辩论网站是 agidebate.com。
Marcus 开玩笑地放了一段“AI 简史”的幻灯片。 Marcus 说，与具有里程碑意义的 ImageNet 成功后十年的热情相反，机器做各种事情的“承诺”并没有得到回报。 他特别提到了他自己在《纽约客》上发表的文章，对此事泼冷水。 尽管如此，马库斯说“嘲笑怀疑论者成了消遣”，他和其他人的批评在对人工智能的热情中被搁置一旁。
到 2022 年底，“叙述开始发生变化，”马库斯说，他引用了有关苹果推迟其自动驾驶汽车的负面新闻，以及有关 OpenAI ChatGPT 计划的负面新闻。 Marcus 在与 ZDNET 的对话中引用了 Meta 的 Yann LeCun 的负面言论。
Marcus 将当晚献给麻省理工学院人工智能实验室已故的 Drew McDermott，他于今年去世，并在 1976 年写了一篇题为“人工智能遇到自然愚蠢”的评论文章。
乔姆斯基是当晚的第一位发言人。
乔姆斯基说，他对 AI 的目标无话可说，他也无法为之做出贡献。 但他提出要就当前人工智能方法无法实现的话题发表演讲。
“这个问题非常普遍和重要，”乔姆斯基说。 “媒体正在发表关于 GPT-3 及其后代的奇迹成就的主要思想文章，最近的是 ChatGPT，以及其他领域的类似成就，以及它们对人性基本问题的重要性。”
他问道，“除了效用之外，我们从这些关于认知、思维的方法中学到了什么，特别是语言，这是人类认知的核心组成部分？”
乔姆斯基说，“在大型语言模型中发现了许多缺陷”，也许随着“更多数据、更多参数”，它们会变得更好。 但是，“有一个非常简单和根本的缺陷永远无法弥补，”他说。 “凭借他们的设计，系统不会区分可能和不可能的语言。”
乔姆斯基继续说道，
系统改进得越多，失败就越深 […] 他们没有告诉我们关于语言和思想、一般认知或人类的意义。 我们在其他领域非常了解这一点。 没有人会关注一种基本粒子理论，它至少不能区分可能的和不可能的粒子 […] 例如，GPT-3 或类似的更先进的系统有什么有价值的东西吗？ 很难找到任何 […] 有人会问，这有什么意义？ 是否可以有一种不同类型的人工智能，这种人工智能是该学科先驱的目标，例如图灵、纽厄尔和西蒙，以及明斯基，他们将人工智能视为新兴认知科学的一部分，一种可以做出贡献的人工智能 理解思想、语言、认知和其他领域，这将有助于回答几千年来一直很突出的问题，关于德尔斐神谕，我们是什么生物？
Marcus 在 Chomsky 之后进行了他自己的演讲，谈到了四个未解决的认知要素：抽象、推理、组合性和事实性。
另外：ChatGPT 非常擅长我的工作，但还不能取代我
然后，Marcus 展示了说明性示例，其中 GPT-3 等程序根据每个元素下降。 例如，关于“真实性”，Marcus 说，深度学习程序没有维护可从中得出结论的世界模型。
康拉德·科尔丁 (Konrad Kording) 是宾夕法尼亚大学 (University of Pennsylvania) 的宾夕法尼亚综合知识教授，他跟随马库斯 (Marcus) 进行了预先录制的关于大脑的演讲。 （活动期间科丁正在旅行。）
Kording 首先谈到了将因果关系概念引入计算的探索。 科尔丁说，人类通常是“坏侦探”，但擅长“扰乱”事物以观察后果。
他描述了扰动微芯片晶体管，并跟踪电压轨迹以在实践中观察因果关系。 他说，人类专注于丰富的世界模型。
接下来是谷歌 DeepMind 部门专注于 AGI 的神经科学家 Dileep George。 “我是一名工程师，”他对听众说。 乔治举了两个历史日期的例子，1903 年的第一架飞机和 1919 年的第一次跨大西洋直飞航班，并挑战大家猜猜兴登堡灾难发生的年份。 答案是 1937 年，George 说这应该会让人们感到惊讶，因为它跟在飞机进步之后很久。
George 说，关键在于区分“扩大”当前人工智能程序和理解“当前模型与类人智能之间的根本差异”。
马库斯提出了发言者的第一个问题。 他向乔姆斯基询问了乔姆斯基作品中“先天性”的概念，即某些东西“内置”在人类思想中的想法。 人工智能应该更关注先天性吗？
乔姆斯基说，“任何一种从初始状态到某种稳定状态的增长和发展都涉及三个因素。” 一是初始状态下的内部结构，二是“无论输入什么数据”，三是“一般的自然法则”，他说。
“事实证明，先天结构在我们发现的每个领域都发挥着非凡的作用。”
被视为学习范例的事情，比如习得语言，“一旦你开始拆解，你会发现数据几乎没有影响；语音可能性选项的结构对学习有巨大的限制作用 婴儿甚至会听到什么样的声音 […] 概念非常丰富，几乎不需要任何证据来获得它们，一些演示文稿 […] 我怀疑我们对特定事物的研究越多，我们就越“ 就像在视觉系统中一样，我们会发现这一点以及我们所了解的任何其他事物。”
今年，马库斯称赞了 Meta 的 AI 科学家关于名为 Cicero 的系统的论文，因为它违背了简单扩展的思路。 他指出，该模型有独立的计划和语言系统。
Dileep George 附和道，人工智能将需要做出“关于世界的一些基本假设”，并且“我们的世界结构有一些魔力，使我们能够做出一些假设，可能少于六个 ，并一遍又一遍地应用这些经验教训来建立世界模型。”
George 补充说，这些假设实际上存在于深度学习模型中，但处于远离直接观察的水平。
马库斯问 94 岁的乔姆斯基，他的动机是什么。 “激励我的是德尔菲神谕，”乔姆斯基说。 “认识你自己。” 乔姆斯基补充说，人类之间几乎没有遗传差异。 他说，自从人类出现以来，语言就没有改变过，任何文化中的任何孩子都能掌握语言就证明了这一点。 “我们是什么生物？” 是问题，乔姆斯基说。 乔姆斯基提议，语言将成为人工智能的核心，以弄清楚是什么让人类成为一个如此独特的物种。
Marcus 继续讨论第二个问题，关于在计算机系统中实现实用推理。 他请来华盛顿大学Brett Helsel教授Yejin Choi作为第一位发言人。
