YouTube 广告争议：该算法将一些全球最大品牌的广告投放在含有仇恨言论的视频上
Facebook 视频争议：该算法在其用户的推送消息中发布暴力视频。
谷歌自动完成争议：该算法将寻找大屠杀信息的人引导到新纳粹网站
这些错误主要不是由数据问题导致算法具有歧视性，也不是由算法缺乏创造性而导致的。不，它们源于更根本的原因：算法，即使它们是基于无偏差数据生成常规预测，也会犯错误。算法会犯错。
算法决策的成本和收益
我们不应该仅仅因为算法会出错就停止使用它们。[2]没有它们，许多流行且有用的服务将无法生存。[3]但是，我们需要认识到算法是会出错的，并且它们的失败是有代价的。这指出了更多（算法支持的）有益决策和更多（算法引起的）代价高昂的错误之间的重要权衡。平衡点在哪里？
经济学是一门权衡利弊的科学，那么为什么不像经济学家一样思考这个问题呢？这就是我在写这篇博客之前所做的，我创建了三个简单的经济学小插图，探讨算法决策的关键方面。[4]这些是关键问题：
风险：我们什么时候应该将决策交给算法，以及这些算法需要多准确？
监督：我们如何结合人类和机器智能来实现预期的结果？
规模：哪些因素促进和限制了我们提升算法决策的能力？
接下来的两节给出了分析的要点及其含义。最后的附录更详细地描述了这些小插图（带有方程式！）。
建模
风险：顺势而为
正如美国心理学家和经济学家赫伯特·西蒙曾经指出的那样，“在信息丰富的世界里，注意力成为一种稀缺资源。”这句话对组织和个人都适用。
正在进行的数据革命有可能压倒我们处理信息和做出决策的能力，而算法可以帮助解决这一问题。它们是自动决策的机器，有可能增加组织可以做出的正确决策的数量。[5]这也解释了为什么它们首先在潜在决策的数量和频率超出人力所能处理的行业中起飞。[6]
是什么推动了这一过程？对于经济学家来说，主要问题是 海外华人资料 算法的决策能创造多少价值。理性的组织将采用预期价值高的算法。
算法的预期值取决于两个因素：其准确性（做出正确决策的概率），以及正确决策的奖励与错误决策的惩罚之间的平衡。[7]风险较高的决策（惩罚比奖励大）应该由高精度算法做出。你不会想要一个不稳定的机器人来运行核电站，但如果它只是建议你今晚看什么电视节目，那可能就没问题了。
监管：小心
我们可以引入人类监督员来检查算法做出的决策并修复他们发现的任何错误。如果算法不是很准确（监督员不会花很多时间检查正确的决策），那么这种方法就更有意义，而且纠正错误决策的净收益（即额外的奖励加上避免的惩罚）很高。成本也很重要。如果人类监督员的工资不高，而且他们的工作效率很高（即只需要几个人就能完成工作），那么一个理性的组织就会更有动力雇佣他们。
继续之前的例子，如果一个人类主管在电视网站上修正了一个愚蠢的建议，这不太可能为所有者创造很多价值。核电站的情况则完全不同。