BBC Magazine 关注了利用算法给出的风险评分对嫌疑人进行判刑是否公正的问题。
如果你看过 Netflix的纪录片《Making A Murderer》，你应该知道威斯康星州存在司法公正的问题。另一起发生在威斯康星州的案件引发了对美国司法系统如何工作的疑问。2013年2月11日，拉克罗斯的一房屋遭到了两次枪击，一目击者称枪声来自于一辆汽车。警方对这辆汽车展开了追逐，车中的两人在弃车逃跑后遭到逮捕，其中一人是司机 Eric Loomis，他承认驾驶了汽车但否认参与了枪击。法庭判了他六年徒刑，判刑的一个依据是他被名叫Compas的算法评估为对社区具有高风险的个人。美国各地正在使用Compas和类似的算法。使用此类算法的一个理由是算法能帮助减少做出过于主观的决定，有更少的错误和偏见。算法不考虑被告的种族，因此在理论上其决定不受种族主义的影响。但算法如何工作仍然是一个秘密。它被视为是商业机密，开发此类算法的企业拒绝分享其秘密。但ProPublica的调查认为，算法给出的评分存在种族偏见，相同的犯罪历史，相同的年龄相同的性别，黑人被告比白人被告更可能给出高风险得分。