技术与创新

第一天项目

在行政机构的自动决策系统中创建透明度和公平性

11.20.20 | 1分钟阅读 | 文字凯文·韦

概括

人工智能越来越多地用于做出有关人类福利的决定。自动化决策系统（ADS）管理美国社会福利计划（例如失业和残疾福利）在地方，州和联邦政府方面占了上风。尽管广告有可能使大量提高提高效率，但它们也具有加强基于班级和种族的现状不平等的高风险。此外，这些系统的使用不是透明的，经常在做出决定后没有有意义的追索权。个人甚至可能都不知道广告在决策过程中发挥了作用。

联邦政府应立即采取行动来促进自动决策系统的透明度和责任。机构必须建立内部技术能力以及围绕透明度，问责制和公平性的数据文化。白宫应要求使用广告的代理商进行通知流程，以向公众披露有关这些系统的信息。最后，从长远来看，国会必须通过全面的立法来实施一个单一的国家标准，该标准规范了跨部门和用例的广告使用。