大约 20 年前，在一次会议晚宴上，我坐在马里兰大学教授 Ben Shneiderman 旁边。 我们花了很多时间讨论孪生软件范例：其中一个，我们现在称为“智能”软件的软件试图猜测我们的意图，使其响应令人恼火地无法预测； 另一方面，没有适应性的软件会根据必须完全正确的指令执行它被告知的事情。 当时最热门的未来是软件代理，它们将代表我们进行谈判，以获得更优惠的机票价格，并找到双方都同意的时间安排会议。 仿佛。
正如 Shneiderman 在他的新书《以人为本的 AI》中所写的那样，他在其间的几年中稍微改变了自己的立场，更加重视结束一遍又一遍地执行相同任务的单调乏味。 然而，他仍然怀疑 AI 将超越或成功模仿人类智能——这种怀疑延伸到新的、竞争激烈的应用程序，如情绪检测。
无论过去还是现在，对 Shneiderman 来说重要的是设计计算机系统，使他们以用户为中心。 在 1990 年代，将人为因素纳入消费者软件成为业界普遍关注的问题，当时用户界面从需要神秘的、精确键入的命令转变为直接操纵当今每个人都使用的图形图标。
Shneiderman 认为人工智能也不例外，专注于开发可以帮助人们的人工智能将消除对失去工作和机器控制的大部分恐惧。
施耐德曼首先比较了 Roomba 和数码相机，作为他在更常见的 AI 方法和他喜欢的以人为本的方法之间进行区分的一个例子。 用户对 Roomba 几乎没有控制权，它采用极简主义用户界面设计——即几个按钮——无需用户输入即可自行吸尘地毯。 另一方面，数码相机使业余爱好者成为更好的摄影师，同时给了他们很多选择； 它的设计允许用户探索。
虽然人们喜欢 Roombas，但同样的“理性主义”方法以数据驱动系统的形式体现时会变得局限和令人沮丧，而“经验主义”方法则赋予人类权力。
在这本书的大部分内容中，施奈德曼通过对三组主要思想的实用指南有条不紊地工作。 首先，他制定了一个框架来帮助开发人员、程序员、软件工程师和业务经理思考 AI 设计。 其次，他讨论了关键人工智能研究目标的价值——模拟人类行为和开发有用的应用程序。 最后，他讨论了如何调整可靠软件工程、安全文化和值得信赖的独立监督的现有实践，以实施围绕 AI 的道德实践。
我不确定人们是否仍然担心人工智能和机器人会抢走他们的工作，因为他们担心这些机器将做出关于他们生活的重要决定——他们有资格获得什么福利，他们的工作或抵押贷款申请是否会被人看到 未来的雇主和贷方，或者为平台价值支付工作费用的人。
Shneiderman 也讨论了这方面的问题，呼吁人们注意将人权纳入 AI 系统设计伦理的努力。 很少有关于 AI 的书籍讨论对 AI 系统的企业所有者施加适当压力以推动他们实现社会公平的良好设计的重要性。 这个可以。
