-Feb26,-

一览众山小

可持续城市与交通

一览导读

当大数据遇上了人工智能，我们以为算法可以帮助我们做正确的决策。但是事实真的是这样吗？在层层概念的包装下，“智慧城市”的每一个板块到底如何工作又是如何造福城市的，我们似乎并不清楚。发生在美国警务界的一款软件引起了争议，算法能做正确的决定吗？到底应该如何管理这些可能对我们生活产生重大影响的人工智能？请看则一。五彩斑斓的城市地铁图又精细又好看又易读，它们是如何从城市地图中创造出来的呢？把它们和城市地理地图对比一下，又会发生什么有趣的事情？请看则二。

原文/StephenGoldsmith

ChrisBousquet,metrocosm

翻译/石芳铭校验/何慧灵

文献/张怡排版/白琳编辑/众山小

管理算法的正确姿势

则一

图一、洛杉矶机警察局统一指挥处计算机生成的“预警区”AP/DamianDovarganes

基于数据的工具本意是让决策更加客观，但是如果不受公众监督，他们将产生相反的效果。

你的孩子会上哪所公立学校？刑事司法系统中，你会受到多严厉的判决？你会获得终身教职吗？在许多城市，一个新生力量正在回答这些问题时扮演重要的角色：算法。

从评估教师表现到预测罪犯的再犯倾向，城市依赖算法来辅助做出那些会在各方面影响人们生活的决策。然而，公众基本不知道这其中的原理。

举一个纽约市最近的案例：警察部门开始利用算法来辅助决定全市警力如何部署。年，NYPD和软件公司Azavea合作试用HunchLab平台，该平台考虑多种因素——从历史犯罪情况到酒吧和公交站的距离---来确定犯罪最可能发生的地方。

像此案例这样的数据驱动的算法目的是让警务工作更客观，更少受到个人偏见影响。但是许多人担心偏见仅仅是被藏入了算法本身。一些反对者提出HunchLab会不成比例的针对那些有着更多有色人种和低收入居民的地区，因为他们强化了过去的模式化成见：例如，过去逮捕率的数据规律可能导致算法针对低收入社区，历史上警察们更倾向于逮捕黑人小孩。另外一些人则质疑算法的有效性。兰德公司（RANDCorporation）对路易斯安那州(Louisiana)的什里夫波特市(Shreveport)一个类似预警程序的研究表明，其对犯罪并没有可衡量的影响。

即使这些算法确实能改善治安，但只要缺乏公众信息，这种不信任就会继续存在。尽管纽约大学布伦南正义中心(BrennanCenterforJustice)最近提起诉讼，要求纽约警察局(NYPD)公布其与Azavea通信的部分内容，但公众对HunchLab的工作方式知之甚少，无论是其是否使用带偏见的数据，或者是否有效地减少犯罪。正如它所代表的，居民、支持者和研究人员几乎没有能力评估这些工具，以确定它们是否准确公平。甚至连市议会议员都难以理解他们自己的选区是如何做出人事决定的。

当然，算法的某些不透明性是不可避免的。有些算法太过复杂，无法以一种简单而令人满意的方式进行交流，源代码通常是私营企业的专利秘密，发布详细信息可能会带来网络安全风险。

这些警告使得算法的透明变得棘手，但是这个问题值得我们弄清楚。政府需要相关机制来确保算法和其他任何公共决策一样经受严格的审查。这种透明性应该是主动的，而不是像Azavea公司这件事这样，需要多年的法律行动。

去年夏天，纽约市议员詹姆斯瓦卡（JamesVacca）提出了一项议案，首次尝试解决这个问题。这一提议在当地引发了一场关于算法透明度的激烈辩论，吸引了渴望看到公开透明的学者和倡导者的各方说证，当地的科技公司则敦促该市对私营企业的利益要保持