美国公民自由联盟对Aon人工智能招聘工具发起投诉美国公民自由联盟（ACLU）于2024年6月6日向美国联邦贸易委员会提交了针对Aon的投诉，挑战其候选人评估工具的合法性和偏见问题。ACLU指控Aon的评估工具，如Adept-15人格测试和vidAssess-AI视频评估工具，在市场上虚假宣称“无偏见”并能“增进多样性”，实际上这些工具可能基于种族和残疾（如自闭症和心理健康障碍）歧视求职者。此外，ACLU还提到，Aon的gridChallenge认知能力评估也显示出种族表现上的差异。针对这些指控，Aon回应称其评估工具遵循行业最佳实践和EEOC、法律及专业指导原则。ACLU此举揭示了在职场包容性与合规性之间的紧张关系，呼吁更严格审查这些广泛使用的人力资源技术工具。
在人力资源技术迅速发展的世界中，人工智能（AI）扮演着关键角色，承诺将简化流程并增强招聘实践的效率。然而，AI整合到这些实践中经常引发关于公平性和歧视的重大争议。最近的一个例子涉及到全球专业服务公司Aon，该公司的AI驱动的招聘评估工具因美国公民自由联盟（ACLU）的指控而受到审查。ACLU向美国联邦贸易委员会（FTC）正式投诉Aon，突显了关于AI在招聘中应用的重要对话。
ACLU投诉的基础
ACLU指控Aon欺骗性地营销其招聘评估工具——特别是Adept-15性格评估、vidAssess-AI视频面试工具和gridChallenge认知能力测试——这些工具被宣称为无偏见并有助于提高工作场所的多样性。根据ACLU的说法，这些声明不仅具有误导性，而且可能违法，因为这些工具可能会基于种族和残疾（如自闭症、抑郁症和焦虑症）歧视求职者。这些工具使用算法和AI进行评估，根据候选人的积极性、情感意识和活力等特征进行评估，这些特征往往与工作表现无直接关联，且可能对某些残疾人群产生不成比例的影响。
Aon的辩护和行业实践
面对ACLU的指控，Aon为其产品辩护，声称这些工具是根据法律和专业指南（包括平等就业机会委员会EEOC设定的指南）设计的。Aon强调他们的工具是雇主用于做出更具包容性招聘决策的更广泛评估工具集的一部分。此外，Aon还指出其工具的效率和成本效益，认为这些工具比传统方法更少歧视性。
法律和道德含义
这场争议引发了关于使用AI进行就业的重要法律和道德问题。美国的法律，包括美国残疾人法案（ADA）和民权法案第七章，要求就业中的非歧视实践，涵盖从招聘到工作场所的所有方面。ACLU向FTC的投诉不仅提示可能违反这些法律，还将问题框定为不仅是就业歧视，还涉及消费者欺诈的问题。
更广泛的行业关注
ACLU对Aon的行动是更广泛运动的一部分，旨在审查用于招聘的AI工具。批评者认为，虽然这些技术提供了无偏见决策的潜力，但它们常常缺乏透明度，并可能无意中编码了其开发者或它们所训练的数据集的偏见。这一问题由于这些工具的专有性质而变得更加复杂，这阻碍了对它们的公平性和效率进行彻底的公众评估。
潜在后果和改革
ACLU对Aon的投诸可能对人力资源技术行业产生深远影响。如果FTC决定调查或制裁Aon，可能会导致对AI在招聘中的使用进行更严格的监管，可能为整个行业中类似工具的市场营销和实施设定先例。对依赖这些工具的公司而言，此案可能是重新评估其算法以确保符合反歧视法律的关键提示。
此外，此案凸显了技术专家、法律专家、政策制定者和民权倡导者之间需要进行持续对话的需求，以确保AI的进步能够增强而非破坏工作场所的平等。随着AI继续渗透到各种人力资源方面，制定维护反歧视和坚持道德原则的标准和最佳实践将至关重要。
结论
ACLU对Aon的投诉提醒我们在AI时代，创新、监管和权利之间的复杂相互作用。虽然AI为HR提供了变革的潜力，但它也需要谨慎处理以防止新形式的歧视。这个案例可能会成为AI在招聘伦理辩论中的一个里程碑，促使所有利益相关者考虑其技术选择的更广泛影响。随着法律程序的展开，人力资源技术行业将密切关注，意识到AI在招聘中的未来现在受到更审慎的公众和法律审视。
Unveiling Bias: The Controversy Over Aon's AI Hiring Tools and the ACLU's Challenge
In the rapidly evolving world of human resources technology, artificial intelligence (AI) plays a pivotal role, promising to streamline processes and enhance the efficiency of hiring practices. However, the integration of AI into these practices often sparks significant debate regarding fairness and discrimination. A recent example of this controversy involves Aon, a global professional services firm, whose AI-driven hiring assessment tools have come under scrutiny by the American Civil Liberties Union (ACLU). The ACLU's allegations against Aon, leading to a formal complaint to the U.S. Federal Trade Commission (FTC), underline a critical dialogue about the implications of AI in hiring.
The Basis of the ACLU’s Complaint
The ACLU has accused Aon of deceptively marketing its hiring assessment tools — specifically the Adept-15 personality assessment, the vidAssess-AI video interviewing tool, and the gridChallenge cognitive ability test — as bias-free and conducive to improving diversity in the workplace. According to the ACLU, these claims are not only misleading but also potentially unlawful, as the tools may perpetuate discrimination against job seekers based on race and disabilities such as autism, depression, and anxiety. These tools, which utilize algorithmic processes and AI, are said to evaluate candidates on traits like positivity, emotional awareness, and liveliness, which are often not directly relevant to job performance and may disproportionately affect individuals with certain disabilities.
Aon’s Defense and Industry Practices
In response to the ACLU's claims, Aon has defended its products by asserting that they are designed in compliance with legal and professional guidelines, including those set forth by the Equal Employment Opportunity Commission (EEOC). Aon emphasizes that their tools are part of a broader array of assessments used by employers to make more inclusive hiring decisions. Moreover, Aon points to the efficiency and cost-effectiveness of their tools, arguing that they are less discriminatory than traditional methods.
Legal and Ethical Implications
The controversy raises significant legal and ethical questions about the use of AI in employment. U.S. laws, including the Americans with Disabilities Act (ADA) and Title VII of the Civil Rights Act, mandate non-discriminatory practices in employment, covering all aspects from hiring to workplace accommodation. The ACLU's complaint to the FTC, an agency tasked with protecting America’s consumers and competition, suggests potential violations of these laws, framing the issue not only as one of employment discrimination but also of consumer deception.
Broader Industry Concerns
The ACLU's actions against Aon are part of a larger movement to scrutinize AI tools used for hiring. Critics argue that while these technologies offer the potential for unbiased decision-making, they often lack transparency and can inadvertently encode the biases of their developers or the data sets they are trained on. This issue is compounded by the proprietary nature of these tools, which prevents a thorough public assessment of their fairness and effectiveness.
Potential Repercussions and Reforms
The outcome of the ACLU’s complaint could have far-reaching implications for the HR technology industry. A decision by the FTC to investigate or sanction Aon could lead to more stringent regulations governing the development and use of AI in hiring, potentially setting a precedent for how similar tools are marketed and implemented across the industry. For companies that rely on these tools, the case may serve as a critical prompt to reevaluate their algorithms to ensure compliance with anti-discrimination laws.
Moreover, this case highlights the need for ongoing dialogue between technologists, legal experts, policymakers, and civil rights advocates to ensure that advancements in AI serve to enhance, rather than undermine, workplace equality. As AI continues to permeate various aspects of human resources, the development of standards and best practices that safeguard against discrimination and uphold ethical principles will be crucial.
Conclusion
The ACLU's complaint against Aon is a reminder of the complex interplay between innovation, regulation, and rights in the age of AI. While AI offers transformative potentials for HR, it also demands a cautious approach to prevent new forms of discrimination. This case may well become a landmark in the ongoing debate over AI ethics in hiring, urging all stakeholders to consider the broader implications of their technological choices. As the legal proceedings unfold, the HR technology industry will be watching closely, aware that the future of AI in hiring is now under a more discerning public and legal microscope.
Google员工的反多样性备忘录如病毒般在谷歌内部扩散据外媒报道，和我们大多数人不同的是，谷歌的员工们因为一位男性员工在公司内部分享的备忘录并未度过一个放松的周末。这是一份10页的备忘录，宣称谷歌需要取消其组织内部的多样性计划。
这份题为‘Google’s Ideological Echo Chamber”（谷歌的思想回声室）描述了一些关于男女心理差异的错误观念，并将其作为在技术行业工程和领导角色中女性员工人数较少的原因。
Google新任多元化和包容事务副总裁Danielle Brow对此事作出回应，称她并不认可或鼓励这种观点。一些Google员工也在Twitter上对其进行抨击。
最近离开Google的Yonatan Zunger接受采访时表示，这个备忘录中的一些观点存在问题。他向这位发出备忘录的Google员工喊话：“你刚刚做的事情是令人难以置信的愚蠢和有害。你只是在公司内部发出一个备忘录，认为有些同事根本无法胜任他们的工作，而且他们只因为一些政治观念而被保留下来。比简单思考这些事情或者私下里说这些事情更糟糕的是，你已经试图以让这种事情合法化的方式说出这种事情，并使其在公司内部传播，让其他人站起来说‘等等，这件事对吗?’”
引用知乎文章：
https://www.zhihu.com/question/63517094
事件简述：
一名 Google 员工内网发布长达10页长文，控诉 Google 支持员工多样性（diversity）的歧视性政策所带来的恶劣影响，并提出一系列「解决方案」。
主要观点为：
Google 的政治偏见把免于冒犯的自由等同于心理上的安全，但让人因为觉得耻辱而不敢发言与所谓心理安全完全是两个对立面。
这种噤声创造出一个意识形态的回音壁，因为害怕，思想得不到诚恳的讨论。
讨论的缺乏助长了这种意识形态里最极端最专制的部分。
极端：一切族群比例的不平衡都是因为少数族群受到了压迫
专制：我们需要用歧视来矫正这种压迫
不同性格特质在男女之间的不同分布，也许可以解释为什么科技圈和领导层的男女比例没有达到1比1。为了男女平等分布而采取歧视性的政策，不仅是不公平的，也带来撕裂和对立，对公司的发展也没什么好处。
Google’s political bias has equated the freedom from offense with psychological safety, but shaming into silence is the antithesis of psychological safety.
This silencing has created an ideological echo chamber where some ideas are too sacred to be honestly discussed.
The lack of discussion fosters the most extreme and authoritarian elements of this ideology.
Extreme: all disparities in representation are due to oppression
Authoritarian: we should discriminate to correct for this oppression
Differences in distributions of traits between men and women may in part explain why we don’t have 50% representation of women in tech and leadership. Discrimination to reach equal representation is unfair, divisive, and bad for business.
全文：
Exclusive: Here's The Full 10-Page Anti-Diversity Screed Circulating Internally at Google [Updated]
Google 刚刚离职的前高级工程师 Yonatan Zunger （Google+ 技术架构师）的回应：
https://medium.com/@yonatanzunger/so-about-this-googlers-manifesto-1e3773ed1788
这篇文章收货了大量转发和点赞，主要观点是：
原作者的原文里有大量不准确的事实。作者并没有真正理解不同性别的含义。
作者不懂工程。工程问题本质上是合作问题，能来 Google 的大家写代码都很牛，原作者所谓女性「更关注人际关系」的特点其实在工程上也是优点。
原作者没有考虑本文可能的后果是不专业的表现。文中观点营造了充满恶意的工作环境，因为它相当于在说女性工程师的工作能力从根本上不如别人，她们之所以拿到 Google 的工作不过是因为政治原因。
延伸阅读：
Google：2016年Google员工多样性报告
据路透社报道，Alphabet旗下的谷歌周四发布报告，介绍了该公司美国区员工多样化举措的进展。谷歌表示，公司目前的黑人、拉丁人和女性员工比此前更多，但比例并未增长。谷歌在2014年首次发布员工多样化数据，这在硅谷科技公司中引发强烈反响，包括竞争对手在内的众多公司此后纷纷效仿。
谷歌
根据最新的报告，2015年，谷歌美国区非白人和非亚洲人员工的比例同比完全没有增长，仍旧有2%为非洲裔美国人，3%为西班牙裔人、3%为混血儿群体，不到1%为印第安人和太平洋岛民。
2015年，女性在谷歌员工中的比例为31%，较2014年上升了一个百分点；女性在技术员工中的占比为21%，高于2014年时的19%。
白人在谷歌美国区员工的比例为59%，亚洲裔人的比例为32%。根据该公司去年8月份的数据，谷歌2015年在美国总计有38670名员工。
虽然少数族裔员工的比例并未增加，但谷歌表示，公司在2015年拥有880名黑人员工，远高于2014年时的628人。西班牙裔员工为1782名，高于此前一年的1428名。混血儿员工为713名，而2014年为636名。此外，有56人为印第安人或阿拉斯加原住民，此前一年为44人。
多样性
多样性
多样性
多样性
扫一扫
添加客服
