示例：莫莉没有阅读算法决策工具向她提供的简报。她对算法决策工具的引入感到不满，因为她认为该工具过于简化了儿童福利案件的复杂性。她还认为该工具损害了她的专业精神；她更信任自己在 15 年的社会工作者工作中积累的专业判断，而不是计算机。
有充分证据表明，决策工具通常没有按照预期使用，对专业人员的行为几乎没有影响。例如，盖瑞·克莱恩在他的著作《权力之源》中讲述了美国军方在 70 年代和 80 年代花费数百万美元为指挥官开发决策工具，但最终却因为没有使用而放弃它们的故事。
如果公共部门的工作人员因为讨厌算法工具并且不相信它们能够支持更好的决策而忽视算法工具，那么这些工具将——原因显而易见——不会产生任何影响。
当人们忽视该工具时，很可能是因为他们感到疏远、愤怒和不信任。因此，解决方案在很大程度上转向赋予使用该工具的人权力并为他们提供控制感。
一个选择是让工具用户参与设计过程。Xantura工具就是一个很好的例子，该工具的设计者一直与社会工作者密切合作，以了解其数据分析对他们最有用的方式。
另一个解决方案是让该工具的用户对算法本身有一种控制感。事实证明，如果人们能够（哪怕是稍微）修改算法，他们就更有可能使用算法。因此，如果公共部门工作人员觉得他们发现算法有错误，让他们有机会提供反馈，这可能会赢得更大的信任，从而使用该工具。
如何让每个人都成为专家
以上，我概述了算法决策工具的不同使用方式。
这四种方法不一定是相互排斥的。例如，莫莉可能会忽略该工具，而是依靠专家和非理性的直觉来指导她的决定。尽管如此，这个框架提供了一种巧妙的思考方式来思考人类如何与人工智能工具互动。此外，类别模糊这一事实对于应采取哪些步骤来改善人机交互几乎没有影响。
人机交互——理解不同方法的框架
显然，公共部门组织希望让每个人都按照设计的方式使用该工具——我称之为“专家设计”。由于无法准确确定每个人如何使用该工具以及他们可能在哪些方面偏离了预期方法是不现实的，因此采用一种通用的人工智能实施方法更为务实（并且不应过于繁重），这种方法将支持人们很好地使用算法决策工具。
上面概述的解决方案可以转换成一个简单 富人数据 的清单，供公共部门组织在其组织中引入算法决策工具时考虑，以支持人们最好地使用它们：
人工智能清单
为什么我们需要更多地思考人们如何与算法决策工具互动
在思考算法的有效性时，我们必须超越技术，深入思考人类如何使用这些工具。
我们不能假设人类会接受算法决策工具或按照其预期用途使用它们。公共部门工作人员可能会对这些工具产生强烈的怀疑和不满，因此会忽视它们。他们可能会感到害怕，因此完全听从这些工具。此外，引入算法决策工具不太可能克服人类在不确定情况下指导决策所依赖的非理性偏见和启发式方法。
因此，我们需要以人为本的方式来将算法决策工具引入工作场所，思考人类的思维方式、人类的感受以及人机界面和交互。
上面的清单提供了一些关于如何做到这一点的初步想法；毫无疑问，还有更多。但从根本上讲，公共部门组织需要的是引入算法工具来支持其员工更好地进行算法工作，因为即使拥有最好的工具，如果没有按照预期使用，其效用和影响也会受到限制。