使用AI技术对求职者进行自动筛选，是很多雇主在进行新员工招聘时的常见做法，这对提高招聘效率发挥了较大作用。但AI算法的透明度、隐私保护状况以及是否存在歧视等问题日益引发民众和监管部门的关注。
近日，美国新泽西州启动立法程序，对使用AI招聘进行立法规制。该法案将限制新泽西州的雇主使用AI驱动的招聘软件，除非该软件通过了“偏见审计”审查。根据该法案，如果雇主在招聘过程中使用AI自动化决策工具，雇主有通知求职者的义务。不披露的公司将被处以500至1500美元每次的罚款。该法案的支持者表示，对雇主在招聘软件中使用AI技术进行限制和规范，将最大限度地减少这些系统歧视潜在员工的机会。
为避免算法对求职者造成歧视，美国纽约市在2021年12月就通过一项法律，禁止企业使用未经审核的人工智能或基于算法的工具做出招聘决定，旨在防止雇主在招聘人员看到求职者申请之前使用算法歧视潜在的求职者。该法将于 2023 年4月15日生效。根据该法律，纽约市企业在使用基于人工智能的工具进行招聘时，必须出示该工具在过去12个月内通过第三方审计的相关证据。如不披露使用基于算法的技术，雇主将被处以1500美元的罚款。但由于该法的施行范围仅限于纽约的五个行政区，且对反歧视的审查仅限于种族，民族和性别等方面，受到各界批评。
AI驱动的软件在招聘中经常被用于对大量求职者数据进行快速分析，过滤掉不具备所需资格的求职者。然而，AI系统在用于决策时可能会产生歧视性影响。例如，AI系统可以拒来自绝特定种族人群的申请，即使该组织并没有计划实施此类歧视。美国司法部曾在2022年12月发出预警，如果不当使用AI，这些自动化工具可能会违反《美国残疾人法》。
个人敏感数据受特殊保护是世界各国的通行做法，个人隐私与歧视也是世界各国监管机构共同面临的难题。欧盟GDPR第9条规定，禁止对关于个人种族或民族出身、政治观点、宗教信仰、工会成员以及以唯一识别自然人为目的的基因数据、生物特征、健康状况等敏感数据进行处理。同时，该条还规定了若干例外情形。但此类例外通常不适合启用 AI 审计。在某些情况下，组织可能需要获得数据主体的有效同意才能进行此类使用。但是，在人员招聘场景中，由于求职者处于弱势地位，根据GDPR的规定难以构成有效同意。
由此可以看出，社会各界对避免AI歧视已形成基本共识，但采用何种方式进行算法审计、如何对AI有效实施监管还需要进一步探索。（陈伟）
声明：本文来自苏州信息安全法学所，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
