包括Meta与IBM等十多家企业在周三(12/8)宣布成立资料暨信任联盟(Data & Trust Alliance),将共同打造一致的标准,以减轻人力资源与劳工决策中所存在的资料及算法偏见,包括招聘、薪资及员工发展等。
Data & Trust Alliance的创始会员包括美国运通(American Express)、CVS Health、Deloitte、Diveplane、General Motors、Humana、IBM、Mastercard、Meta、Nielsen、Nike、Under Armour与Walmart,它们的员工总数超过350万名。
该联盟表示,其成员有一个共同的信念,即相信于即将到来的时代中,资料与智能系统为创造经济及社会价值的关键,但必须负责任的部署。
其实上述成员已经开始利用资料、算法与人工智能来寻找人才,包括依赖那些已采用AI及机器学习的人力银行、人才网站、顾问公司或招聘公司,然而,它们同时也认为利用相关技术的最大风险为可能隐藏着不公平的偏见。
因此,Data & Trust Alliance创建了算法偏差保护措施(Algorithmic Bias Safeguards),首个计划就是“算法的安全性:减少劳动力决策的偏见”(Algorithmic Safety: Mitigating Bias in Workforce Decisions),以协助企业根据相关标准来评估招聘服务的供应商,之后也会将该保护措施集成到企业的程序中。
目前Algorithmic Bias Safeguards设计了13种类别的55个问题,以作为评估供应商的标准,涵盖训练资料、模型设计、偏差测试方法、偏差矫正、透明化与问责、AI伦理与多样性承诺等。