河洛网首页 新闻 关注 房产 汽车 教育 健康 婚庆 家居 旅游

| 人工智能

娱乐 体育 财经 科技 人工智能

人工智能在员工招聘中可能弊大于利

来源:河洛网    发布时间:2021-10-11     发布人:洛阳新闻网

近年来,随着企业转向自动化评价、数字面试、数据分析,对求职简历进行分析,对应聘者进行筛选,人工智能在招聘过程中的使用逐渐增加。 事实证明,如果IT团队致力于实现更好的多样性、公平性和包容性,而企业没有对如何实施人工智能技术进行战略性和仔细的研究,那么在员工招聘上采用人工智能可能弊大于利。

人工智能在员工招聘中可能弊大于利

IEEE研究员、纽约大学丁登工程学院院长Jelena Kovač; ević; 曰、“ 人工智能的偏见通常来自数据。 如果没有广泛的代表性数据集,很难利用人工智能系统发现和评价合适的应聘者。 ”

人工智能用于招聘的主要问题是,在美国多年来以男性和白人员工为主的行业领域,人工智能招聘系统所依据的历史数据最终带有固有的偏见。 在没有采用更广泛的数据集来训练人工智能算法的情况下,人工智能采用工具很可能自20世纪80年代以来在技术采用方面就存在着偏见。 但专家称,人工智能的有效利用有助于建立更高效公平的招聘流程。

人工智能偏见的危险性因为人工智能算法通常是根据过去的数据进行训练的,所以人工智能偏见一直是一个难以解决的问题。 在数据科学中,偏见被定义为由学习算法中的错误假设产生的错误。 如果使用不反映当前情况的数据训练算法,会得到错误的结果。 因此,在招聘方面,特别是像IT这样的行业,根据历史的招聘数据来训练算法可能是一个很大的错误。

美国电子隐私信息中心的人工智能与人权研究员Ben Winters表示,“ 很难保证人工智能软件没有天生的偏见和偏见的影响。 虽然可以采取措施避免这种情况,但是很多系统表现出了基于种族和残疾人的偏见的影响。 ”

Kovač; ević; 说明如果企业数据集没有明显的多样性,人工智能算法就无法知道来自具有代表性的不足群体的过去的表现。 相反,该算法偏向于数据集所表示的内容,将所有未来的申请者与其原型进行比较。

她说,“ 例如,如果黑人过去被排除在系统之外,如果过去没有女性参与,则无法基于这些创建算法准确预测未来。 ‘ 常春藤联盟’ ,这样的话,真的不知道来自不太熟的学校的申请者会怎么表现,会产生多种偏见。 ”

Wendy Rentschler是BMC Software公司企业社会责任、多样性、公平性、包容性的负责人,他敏锐地意识到了人工智能给招聘流程带来的潜在负面影响。 以亚马逊试图开发人工智能招聘工具的案例失败为例。 该公司不得不中止了这个项目。 因为这个算法歧视女性求职者。

Rentschler是“ 如果最大、最大的软件开发人员不能做到这一点,我怀疑所有的人力资源技术人员都声称能做到这一点。 ”

虽然人工智能招聘软件的一些开发者声称软件提供了强大的功能,但是否有助于确定合适的求职者还没有得到观察。 人工智能技术可以帮助企业简化招聘流程,找到使用人工智能识别合格求职者的新方法,但重要的是不要让这些软件开发人员的宣传影响判断力。

如果要改善企业内部的包容性,人工智能似乎是一种快速的解决方案或灵丹妙药,但如果在招聘流程中使用人工智能没有战略性,则可能会产生相反的效果。 重要的是,不要排除企业在传统上招聘流程和使用的工具代表性不足的群体。

人工智能差异化企业有责任保证在招聘过程中尽可能道德地使用人工智能,而不是这些工具功能成为夸大的受害者。 美国民主技术中心的员工隐私问题高级政策顾问Matthew Scherer表示,企业人力资源部门没有创造收入,通常被贴上支出部门的标签,因此企业领导人希望引进可以帮助的自动化技术来减少支出 但是,这种渴望会导致忽视他们所使用软件的潜在负面影响。 Scherer还指出,人工智能招聘软件公司的许多说法,即使没有完全错误,但往往说得太过真实。

他说,“ 特别是,他主张可以分析测量人的表情、语气、个性的所有工具,但那样的工具其实是万金油一样的工具。 ”

在视频面试中,评价语调、表情、应聘者个性的工具是应聘者的文化“ 常规与” 程度。 这可能最终会排除残疾人申请者和不符合算法的应聘者。 这些工具必须让残疾人申请者处于尴尬的境地,在面试前决定是否披露障碍。 残疾人申请者可能会担心,如果不公开,就无法得到应聘所要求的条件。 因此,他们不愿或根本不愿意在招聘过程的早期披露故障事实。

正如Rentschler指出的,黑人和有色人种( BIPOC )、女性和残疾人的应聘者通常在面试中“ 代码转换” 的做法— — 也就是说,这些代表性不足的群体对他们的语言、外貌或行为方式进行了某种调整。 在那种情况下,人工智能系统可能会注意到这一点,错误地认定其行为不真实或不诚实,并拒绝潜在的优秀申请者。

Scherer将这种歧视分为两类。 具有不同影响的是无意的歧视; 区别就是故意歧视。 因此,在没有明确偏袒来自特定群体的申请者的情况下,很难设计避免不同影响的工具,这构成了法律规定的不同待遇。

人工智能招聘规定人工智能是一种比较新的技术,在涉及隐私和贸易实践的立法、政策和法律上都缺乏监管。 Winters提到了EPIC公司2019年向美国联邦贸易委员会提交的申诉,指责HireVue公司在招聘软件中使用了与面部识别相关的欺诈性商业行为。

HireVue主张提供一种软件,可以跟踪和分析应聘者的语言和脸部动作,分析适合度、情商、沟通技能、认知能力、解决问题的能力等。 HireVue公司最终撤回了脸部识别宣言和该技术在软件中的使用。

但是Winters指出,同样的技术测量主观行为属性,使之与组织匹配度一致,或者使用人工智能在网上检索关于应聘者陈述的公开信息,分析潜在的危险信号和一致。

人工智能在分析申请者的视频面试、评估、简历、LinkedIn个人资料或其他公共社交媒体资料时可以收集的有关申请者的数据量也令人担忧。 通常,申请者甚至可能不知道在面试过程中用人工智能工具进行了分析,很少有关于如何管理这些数据的规定。

Winters是“ 总的来说,目前对人工智能招聘工具的监管很少。 美国制定了几个州和地方的法案。 但是,这些法案有很多重大漏洞。 人工智能技术的应用应该具有很高的透明度。 因此,必须控制这些工具的使用,严格限制数据的收集、使用、保留和自由发布的独立第三方测试。 ”

招聘中负责使用人工智能Rentschler和她的团队,集中于寻找使用人工智能技术更战略性地帮助企业人力资本的方法。 他们已经实施了一些工具,可以使用基于技能的评估快速筛选申请人,了解申请的职位,并安排面试以联系招聘者。 BMC软件公司还使用人工智能识别职务说明有问题的语言,并确保每个申请者都是中性的、全面的。 BMC公司还使用该软件在入职时将新员工及其福利和内部组织信息联系起来。 Rentschler的目标是找到实施人工智能和自动化的方法,使团队中的工作人员能够更有效地代替他们完成工作。

人工智能算法可能基于历史的招聘数据带来固有的偏见,但避免这种情况的一个方法是更加关注基于技能的采用。 Rentschler团队只需使用人工智能工具识别希望添加到员工团队的特定技能组合的申请人,就会忽略其他标识,如教育、性别、姓名和历史上可能将申请人排除在外的潜在标识信息流程。 Rentschler表示,通过这样做,BMC软件公司雇佣了具有意想不到背景的应聘者。 其中包括叙利亚难民。 他本来是牙医,也有编码经验。 由于该系统集中于寻找具有编码技能的申请人,这位前牙医通过了筛选,被该公司录用。

其他道德战略包括建立平衡机制。 Scherer表示,一家公司设计了一种工具,将潜在申请人的简历发送给招聘人员。 招聘人员审查简历,决定是否适合该工作。 即使该招聘人员拒绝了简历,申请人的简历也会再次通过算法发送给其他招聘人员。 如果被标记为良好的潜在申请人,则将被发送给其他不知道被其他人审查过的招聘人员。 这样,简历就可以被人工审查,从而避免招聘者忽视合格的申请人,而不是完全依赖人工智能系统确定合格的申请人。

谢尔先生说,“ 重要的是,人类不仅仅依赖机器,还需要保持判断力。 这是很难训练的事情。 对于招聘负责人来说最简单的事情是‘ 如果公司想让我使用这个工具的话,我会遵从机器告诉我的。 ”

【编辑推荐】

我不害怕台风会来。 人工智能早就让我们认识他了到目前为止,河南郑州是rdquo; 在强暴雨影响下遭受洪灾的背景下,rdquo; 所面对的,给我的国防台的应急工作带来了严峻的考验。 幸运的是,人工智能的应用,给了我们信心。 我不害怕台风会

由业界首款少样本NER数据集——清华联合阿里达尔马院开发本文经AI新媒体量子位(公众号ID:QbitAI )授权转载。 转载请联系出处。 由业界首款少样本NER数据集——清华联合阿里达尔马院开发 NER (命名实体识别)是NLP的基本任务之一,其日常工作是训练人工智

重磅! 剑桥年度AI全景报告发表: 27%的美国顶尖AI人才有中国教育的背景。本文转载自雷锋网络。 转载时请到雷锋网络官网申请许可证。 重磅! 剑桥年度AI全景报告发表: 27%的美国顶尖AI人才有中国教育的背景。 进入2020年,在疫情黑天鹅和新基础设施以非常快的速度达

2019年人工智能研发热点综述 通过人工智能技术的不断改进,一个更好的智能世界可以建立起来。2019年,5G通信网络、区块链技术、脑机接口技术等分支学科取得了一系列进展,并被广泛应用于多个领域。同时,它也促进了各

人机交互中的情况识别无论是狭义的人机交互(人—计算机交互)还是广义的人机交互(人—机—环境交互),都涉及到信息问题,即信息输入、信息处理和信息输出三个基本过程,前 mdash; ldquo; 我们必须找到达到这个目

免责声明:非本网注明“禁止转载”的信息,皆为程序自动获取互联网,目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责;如此页面有侵犯到您的权益,请给站长发送邮件,并提供相关证明,站长将在收到邮件24小时内删除。

热门标签

洛阳新闻网 | 新闻 | 关注 | 房产 | 汽车 | 教育 | 健康 | 婚庆 | 家居 | 旅游