鉴于欧盟泄露的人工智能监管计划要求禁止特定类型的人工智能系统，例如直接追踪个人并创建社会信用评分的系统，美国的监管话题一直在人们的脑海中浮现。 人工智能即将到来，那么监管机构可以做什么——以及他们绝对不应该做什么——来保护公民和消费者，同时鼓励技术发展？
为了获得见解，我联系了 DataRobot 的全球 AI 伦理学家 Haniyeh Mahmoudian 博士，DataRobot 是一家总部位于波士顿的公司，该公司使客户能够从他们的数据中创建和验证机器学习模型。 作为一名 AI 偏见和伦理专家，Haniyeh 可以很好地谈论新法规及其对美国的意义，以及未经检查的 AI 固有的风险以及监管机构今后应采取的行动。
GN：欧盟泄露的人工智能监管计划中最大的收获是什么？ 什么让你吃惊？
Haniyeh Mahmoudian：从从业者的角度来说，我们对泄露的草稿真正感激的一件事是帮助澄清一些歧义。 在没有立法的情况下，在定义会影响个人生活的用例或我们所说的高风险用例方面存在很多歧义。 定义这些高风险用例非常有用，重要的是要指出他们认识到随着技术的不断进步，这是一个不断发展的列表。
该法规的审计要求出乎意料，但并不令人意外。 在 DataRobot，我们围绕风险和影响评估实施了框架和流程，这些框架和流程适用于我们正在进行的项目。
GN：为什么欧盟对监管如此认真？ 根据您对计划的理解，主要关注点和目标是什么？
Haniyeh Mahmoudian：欧盟一直认真对待技术法规并保护其公民免受数据侵害，并且已经有了 GDPR 的强大监管基础以扩展到 AI。 驱动因素之一是对公民的保护，即使以牺牲其中一些技术可能实现的经济繁荣为代价。
GN：美国在考虑人工智能监管方面处于什么位置？ 您能否简要解释一下不同选区/利益相关者对此事的意见范围？
Haniyeh Mahmoudian：美国正在平衡多个优先事项和利益相关者，同时努力制定立法以确保在构建技术时考虑到我们的民主理想。 美国国会提出了像算法问责法这样的立法，这将使我们目前的状态更接近欧盟的法规——这可能是世界上最健全的。 还有联合人工智能中心和国家人工智能安全委员会等机构表示，需要人工智能作为安全问题。 除了政府实体，我们还知道，组织将人工智能视为经济催化剂——这意味着监管机构需要在确保人工智能符合道德、公平和公正而又不扼杀创新之间取得适当的平衡。
GN：美国应该从欧盟计划中拿走什么？ 在您看来，美国监管机构应该采取哪些不同的做法？
Haniyeh Mahmoudian：重要的是，法规的重点是确保技术在构建时考虑到某些社会理想和道德规范，使组织能够以公平、道德和可解释的方式利用 AI 造福世界。 欧盟的新法规通过实例化一个协作委员会来评估技术并随着技术的发展定义“高风险人工智能”用途，显示出巨大的希望。 如前所述，这些法规还消除了关于什么是高风险 AI 定义的一些含糊之处——这在美国非常有价值。一些人可能认为欧盟法规过于规范。 此外，一些要求可能会阻碍小型企业和初创企业。 这当然是我们必须取得的平衡。
GN：如果我们不尽快监管 AI，会有什么危险？ 美国监管的现实时间表是什么？
Haniyeh Mahmoudian：我确实认为，由于这些系统的人文影响，我们需要对空间中的一些监管持开放态度。 在公司中，有偏见的招聘经理虽然不道德，但影响有限，因为它是一个人和一个公司。 然而，在相同的招聘情况下使用支持人工智能的系统有可能对公司和申请人都造成伤害。 政府或公共安全中的用例也是如此——如果我们不进行监管，就有可能对人们造成真正的伤害。 与此同时，我们还必须记住，人工智能可用于帮助解决我们生存所面临的问题——例如粮食不安全、气候变化和医疗保健。 弄清楚多少监管太多或太少当然是一种平衡。
如前所述，美国已经开始制定法规，国会也提出了立法。 我们正朝着正确的方向前进，但重要的是要确保技术是根据我们的理想构建的。
