随着法规赶上创新的步伐，未能以合乎道德的方式部署人工智能的企业将面临严厉的处罚。
在欧盟，拟议的 AI 法案具有与 GDPR 类似的执法能力，但罚款金额甚至更高，高达 3000 万欧元或年营业额的 6%。 其他国家/地区正在实施变体，包括中国和越来越多的美国州。
Pandata 是以人为本、可解释且值得信赖的人工智能领域的专家。 这家总部位于克利夫兰的机构以提供人工智能解决方案而自豪，这些解决方案以合乎道德和合法的方式为企业提供竞争优势。
AI News 采访了 Pandata 的首席执行官 Cal Al-Dhubaib，以了解有关道德 AI 解决方案的更多信息。
AI News：您能给我们简单介绍一下 Pandata 是做什么的吗？
Cal Al-Dhubaib：Pandata 帮助组织设计和开发 AI 和 ML 解决方案。 我们专注于医疗、能源和金融等监管严格的行业，并强调可信赖人工智能的实施。
我们在处理敏感数据和高风险应用程序方面积累了丰富的专业知识，并以简化复杂问题而自豪。 我们的客户包括全球知名品牌，如 Cleveland Clinic、Progressive Insurance、Parker Hannifin 和 Hyland Software。
AN：围绕 AI 的一些最大的伦理挑战是什么？
CA：过去五年发生了很多变化，尤其是我们在文本和图像等非结构化数据上快速训练和部署复杂机器学习模型的能力。
复杂性的增加带来了两个挑战：
Ground truth 更难定义。 例如，用 AI 将一篇文章总结成一段话，可能会有多个“正确”答案。
模型变得更复杂，更难查询。
我们在 AI 中面临的最大道德挑战是我们的模型可能以我们无法想象的方式崩溃。 结果是列出了近年来导致身体伤害或种族/性别偏见的模特的例子清单。
AN：“可解释的人工智能”有多重要？
CA：随着模型变得越来越复杂，我们已经看到可解释人工智能领域的兴起。 有时，这意味着使用更简单的模型来解释更擅长执行任务的更复杂模型。
可解释的人工智能在两种情况下至关重要：
当需要审计跟踪来支持所做的决策时
2) 当专家人类决策者需要根据人工智能系统的输出采取行动时。
AN：在您看来，有哪些公司不应该实施 AI 的领域？
CA：人工智能曾经是数据科学家的专属领域。 随着技术成为主流，我们自然而然地开始与更广泛的利益相关者合作，包括用户体验设计师、产品专家和商业领袖。 然而，只有不到 25% 的专业人士认为自己具有数据素养（HBR 2021）。
我们经常看到这转化为对人工智能可以合理完成的事情的期望不匹配。 我分享这三个黄金法则：
如果你能按程序解释某些事情，或者提供一套简单的规则来完成一项任务，那么投资 AI 可能就不值得了。
如果一项任务没有由受过同等训练的专家始终如一地执行，那么 AI 就没有希望学会识别一致的模式。
在处理直接影响人类生活质量（财务、身体、精神或其他方面）的人工智能系统时要谨慎行事。
AN：您认为 AI 法规需要更严格还是更宽松？
CA：在某些情况下，监管早就应该进行了。 监管几乎跟不上创新的步伐。
截至 2022 年，FDA 已将 500 多种利用人工智能的软件应用程序重新归类为医疗设备。 预计将于 2024-25 年推出的欧盟人工智能法案将是第一个为影响人类生活的人工智能应用制定具体指南的法案。
就像 GDPR 在数据隐私实践和支持它们的基础设施方面掀起了一股变革浪潮一样，欧盟人工智能法案将要求组织在模型部署和管理方法上更加自律。
今天开始成熟其实践的组织将做好充分准备，驾驭这股浪潮，并在浪潮中茁壮成长。
AN：对于有兴趣采用或扩展其 AI 实践的商业领袖，您有什么建议？
CA：使用变更管理原则：理解、计划、实施和沟通，让组织为 AI 驱动的颠覆做好准备。
提高您的 AI 素养。 人工智能不是要取代人类，而是要增加重复性任务； 使人们能够专注于更有影响力的工作。
人工智能必须无聊才能实用。 人工智能的真正力量在于解决我们在日常工作中遇到的冗余和低效率问题。 决定如何使用 AI 的构建块来实现目标是有准备的领导者的愿景可以走很长一段路的地方。
