日前，美国国会议员已经提出一项法案，要求美国大型互联网公司审查其计算机学习系统--如面部识别或广告定位--以避免偏见。该“算法责任”法案由参议员柯瑞•布克（d-NJ）和罗恩•维登（d-OR）领头提出。如果通过，它将要求联邦贸易委员会制定评估“高度敏感”的自动化系统的规则。公司必须评估为这些系统提供动力的算法是否具有偏见或歧视性，以及它们是否侵犯消费者隐私或构成安全风险。
“算法责任”法案主要针对可以访问大量信息的大型公司。它适用于每年收入超过5000万美元，持有至少100万人或设备信息，或主要业务为买卖消费者数据的公司。
这些公司必须评估各种算法--包括影响消费者合法权利的任何内容，尝试预测和分析其行为是否涉及大量敏感数据，或是否“系统地监控大型的、可公开访问的物理位置”。如果报告出现歧视、隐私问题或其他问题的主要风险，公司必须及时解决这些问题。
这项法案是在Facebook被住房和城市发展部起诉几周后提出的。该部门称Facebook的广告定位系统不公平地限制了哪些人能看到住房广告。提案方提到了这一诉讼，以及亚马逊公司开发的据称歧视妇女的人工智能招聘系统。
该法案似乎旨在涵盖无数其他有争议的人工智能系统--以及首先可能产生偏见结果的培训数据。例如，主要针对白人主体训练的面部识别算法可能会错误识别其他种族的人。（另一组参议员上个月专门针对面部识别制定了规定。）
Wyden在一份声明中指出，“计算机越来越多地参与到影响美国人生活的重要决策中--无论是否有人可以买房、找工作甚至入狱。但是，这些算法往往取决于有偏见的假设或数据，而不是消除偏见，这些假设或数据实际上加强了对女性和有色人种的歧视。“
一些地方政府已经在管理自动化决策方面做出了自己的努力。纽约市议会成为2017年第一个通过算法透明度法案的美国立法机构，华盛顿州在2月也举行了旨在采取类似措施的听证会。
原文地址：
https://www.theverge.com/2019/4/10/18304960/congress-algorithmic-accountability-act-wyden-clarke-booker-bill-introduced-house-senate
供稿者：袁璐编辑：杨慕青
声明：本文来自北邮互联网治理与法律研究中心，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
