• risk assessments
    NACSHR观察|加州推进AI“紧急关闭”机制:真正值得企业关注的,不只是一个“开关” NACSHR核心摘要:加州正在重新定义AI安全治理。9月18日,州长Gavin Newsom签署行政令,要求研究前沿AI模型“紧急关闭”机制,同时推进独立验证、第三方审计、安全报告核验和AI“失控事件”报告制度。需要注意的是,这并不意味着所有AI企业现在必须安装Kill Switch,而是加州正在研究下一阶段监管框架。真正值得企业和HR关注的是:AI治理正在从“企业自己证明安全”,走向“由独立机构验证安全”。当AI Agent开始执行招聘、员工服务、数据分析甚至业务流程时,谁授权、谁监督、谁能中止,将成为新的管理问题。 人工智能的治理逻辑正在发生变化。 9月18日,加州州长 Gavin Newsom 签署新的行政令,要求州政府加快人工智能独立监督体系建设,并研究针对最先进人工智能模型建立“紧急关闭机制”(AI kill switch)的可行方案。消息公布后,“AI Kill Switch”迅速成为媒体标题中的关键词。 但如果只把这件事理解成“加州准备给AI装一个关机按钮”,实际上低估了这项政策的意义。 更值得企业管理者和HR关注的是:加州正在尝试把人工智能治理从过去主要依靠企业自我披露和内部安全机制,进一步推进到第三方验证、持续审计、事故报告以及紧急控制能力。 这可能比一个“关闭按钮”本身影响更深远。 一、加州并没有要求AI公司现在就安装“Kill Switch” 首先需要澄清一个容易被标题误导的事实。 Newsom此次签署的行政令,并没有立即要求所有人工智能公司安装“紧急关闭开关”。行政令要求加州政府运营署(Government Operations Agency)与州长应急服务办公室(Governor’s Office of Emergency Services)组织专家,在2026年11月16日前提出进一步完善人工智能安全法律的建议。 目前重点研究四个方向: 第一,是否要求前沿人工智能企业允许指定的独立验证机构进入实验室,定期进行安全审计和评估。 第二,企业提交的人工智能安全框架、透明度报告和风险评估,是否需要经过独立第三方验证。 第三,研究建立针对前沿人工智能模型的紧急关闭机制,并要求独立机构持续验证这一机制是否真正有效。 第四,扩大“重大安全事件”的定义,将人工智能系统出现的“失控事件”(loss-of-control incidents)纳入强制报告范围。 因此,更准确地说,加州目前是在启动制度设计,而不是已经全面实施强制关闭机制。 二、真正的变化,是AI公司可能不能再“自己证明自己安全” 此次行政令并不是突然出现的。 就在9月9日,加州刚刚签署两项与人工智能审计有关的新法律。 其中,SB 813建立了人工智能“独立验证机构”的制度框架,使具备专业能力、并与人工智能公司保持独立关系的机构,可以对模型安全和风险进行评估。 AB 1405则建立人工智能审计机构登记体系,对审计机构的独立性、透明度和专业标准提出要求。 而9月18日的行政令,又要求加快这些制度的实施。 这意味着监管思路开始发生一个重要变化: 过去,人工智能公司更多是制定自己的安全框架、测试自己的模型、发布自己的风险报告。 未来可能逐渐变成: 企业制定安全框架 → 独立机构验证 → 持续审计 → 重大事故必须报告 → 极端情况下必须具备停止系统的能力。 对于企业治理而言,这是一种非常熟悉的逻辑。 财务需要外部审计,网络安全需要第三方测试,信息安全需要认证体系,高风险人工智能未来也可能逐步形成类似的外部验证机制。 换句话说,人工智能治理正在从“企业承诺安全”,逐渐走向“企业需要证明安全”。 三、这也反映了加州AI监管路线的变化 值得注意的是,Newsom在2024年曾否决备受关注的 SB 1047。 当时,他并没有否认大型人工智能模型需要安全约束,而是认为仅按照模型规模和计算成本设置监管门槛可能不够准确,同时可能对创新造成不必要限制。他在否决说明中提出,人工智能监管需要更多依据实际风险、科学证据和技术发展情况进行设计。 两年后,加州的路径逐渐清晰起来。 2025年通过的 SB 53(Transparency in Frontier Artificial Intelligence Act),要求符合条件的前沿人工智能开发企业公开安全框架、报告特定重大安全事件,并对举报严重风险的人员提供保护。2026年的SB 813和AB 1405进一步加入独立审计体系,现在新的行政令又把第三方驻场验证、失控事件报告和紧急关闭机制放到了政策讨论中。 因此,与其说这是加州突然“收紧人工智能”,不如说它正在逐步建立一套更加完整的人工智能风险治理基础设施。 四、为什么HR和企业管理者需要关注? 目前这些措施首先针对的是大型前沿人工智能模型开发企业,并不意味着普通企业使用招聘软件、HR系统或办公助手就要立即满足同样的监管要求。 但监管逻辑很可能逐渐向企业采购和使用人工智能的环节传导。 尤其对于HR来说,人工智能已经开始参与招聘筛选、人才匹配、绩效分析、员工服务、学习发展,甚至组织设计。这些场景往往同时涉及个人数据和重要的就业决策。 因此,未来企业评估一个人工智能产品时,可能不能只问: “这个工具准确率是多少?” 还需要继续问: 谁验证过它?出现错误谁会知道?系统越权时谁可以停止?重大事件如何报告?模型做出的重要决定是否仍然有人类监督? 这些问题正在从技术团队的问题,逐渐变成董事会、管理层、法务、安全团队以及HR共同面对的治理问题。 NACSHR观察:AI治理正在从“使用规范”进入“控制权设计” 过去几年,企业讨论AI治理,核心往往是员工可不可以使用ChatGPT、什么数据不能上传、生成内容如何审核。 下一阶段的问题会更深: 谁有权让AI行动?谁能够验证它?谁能够阻止它?发生问题以后谁承担责任? 加州此次行政令值得关注的地方,正是在于它开始触及人工智能治理最核心的一个问题——控制权(control)。 当人工智能从一个“提供建议的工具”逐渐演变成能够调用系统、执行任务、访问数据甚至独立完成复杂流程的智能体(AI Agent),企业需要建立的就不再只是AI使用政策,而是一套完整的权限、审计、监督和中止机制。 对于HR而言,这同样意味着角色的变化。 未来HR参与人工智能转型,不能只关注效率提升和工具采用率,还需要参与回答一个更重要的问题: 当AI越来越能够替人工作时,我们是否仍然清楚,人应该在哪些关键节点拥有最终控制权? 这或许才是这次“AI Kill Switch”讨论背后,真正值得企业认真思考的问题。 从AI治理到组织变革:9月26日,我们在硅谷继续讨论 AI的变化已经不只是技术升级,而正在进入组织、人才、管理与治理的核心。对于HR而言,真正的问题也不再只是“要不要使用AI”,而是如何重新设计工作、调整人才标准、建立人机协作机制,并在效率、风险与人的价值之间找到新的平衡。 2026北美华人人力资源协会年度论坛将于9月26日在硅谷 Newark 举行。今年论坛将围绕AI组织转型、AI时代的人才选拔与工作方式、HRBP角色变化、薪酬与商业战略、中美企业出海与跨文化管理、美国移民政策、员工福利与企业风险,以及北美华人HR职业发展等议题展开,并在最后特别邀请AI以“嘉宾”的身份参与现场对话,与参会者共同总结一天中最重要的共识、分歧与行动方向。 如果你也正在思考:AI时代,HR究竟应该改变什么?组织应该如何重新设计?我们又该如何建立真正可控、可信、以人为核心的AI工作方式? 欢迎9月26日来到硅谷,与来自不同企业的HR负责人和专业人士面对面交流。 2026 NACSHR Annual Conference|9月26日|Hyatt Place Newark Silicon Valley 查看完整议程及报名信息:2026 NACSHR年度论坛完整议程  ( https://nacshr.org/Public/html/926/ ) Stay Together, Stay Powerful. 来源:California Governor’s Office、Executive Order N-9-26、CalMatters、KCRA;NACSHR 编辑整理。
    risk assessments
    2026年09月18日
  • risk assessments
    Workday 请求法院驳回年龄歧视索赔:AI 招聘首次进入全国集体诉讼核心,北美华人 HR 需要关注什么? HR科技巨头 Workday 近日在一起备受关注的 AI 招聘诉讼中采取了最新法律行动。根据其在 2026 年 1 月 21 日向法院提交的文件,Workday 正式请求法官驳回原告提出的“差别影响(disparate impact)年龄歧视”指控,并主张《Age Discrimination in Employment Act(ADEA)》的适用范围仅保护在职员工,而不涵盖求职者。因此,公司认为应当撤销求职者基于年龄歧视提出的相关索赔。这一动议,是目前 Mobley v. Workday 案件的最新进展,也标志着该案正式进入核心法律博弈阶段。 该诉讼最早于 2023 年提起,原告为一批求职者,他们指控 Workday 的 AI 招聘与筛选工具在算法决策中对年龄等受保护群体造成系统性不利影响,从而构成歧视。2025 年 2 月,法院批准该案以 nationwide collective action(全国集体诉讼) 形式推进,使其从个体纠纷升级为覆盖全美范围的大规模案件。与此同时,法官还曾要求 Workday 提供使用其 HiredScore technology 的雇主完整名单,进一步扩大了潜在影响面。Workday 则公开回应称,其 AI 工具并不会识别或使用种族、年龄或残疾等受保护属性,并强调最终决策仍由人工主导。 从法律层面看,Workday 当前的策略并非直接围绕“算法是否存在偏见”展开,而是聚焦更基础的问题——求职者是否具备提起“差别影响”诉讼的法律资格。换言之,公司希望通过对法律条款的解释,缩小案HR件的适用范围。无论法院最终是否采纳这一主张,这一动作本身已经说明:AI 招聘正在从技术问题转变为司法问题。 对于北美华人 HR 从业者而言,这一点尤其值得重视。许多 NACSHR 社群成员所在的企业多为中小规模公司、跨州运营团队或初创组织,HR 通常身兼招聘、合规、员工关系与系统管理等多重角色。现实情况是,当企业采购 ATS 或 AI 筛选工具时,系统上线往往被视为效率优化;但一旦候选人质疑筛选结果或提起投诉,站出来解释流程、提供记录、应对律师函的人,往往是 HR 本人,而不是技术供应商。 这正是 Workday 案件释放的真正信号:算法并不会分担雇主责任。即便筛选由系统完成,法律仍然认定这是雇主的用工行为。企业不能以“系统自动决定”为由规避风险,HR 也无法以“工具问题”完全免责。 更广泛地看,Workday 并非孤例。此前 Eightfold AI 也因招聘流程涉及 FCRA 合规问题而遭遇诉讼调查。两起案件虽然分别涉及 ADEA 与 FCRA,不同的法律框架,却指向同一个趋势:只要算法影响到候选人的就业机会,它就等同于招聘决策本身,必须接受同等甚至更严格的监管与审查。这意味着,HR 科技行业已经进入“强合规时代”。 与此同时,监管环境也在不断收紧。包括 California 在内的多个州已开始要求企业在使用自动化招聘工具时提供候选人退出机制(opt-out),并进行风险评估与透明度披露。这类规定实际上将“算法治理”正式纳入 HR 日常合规管理范畴,而不再是技术团队的内部事务。 在这一背景下,HR 的能力模型正在悄然改变。过去我们关注的是招聘速度、转化率和成本控制;而未来更关键的问题是:系统是否可解释、是否可审计、是否留存记录、是否经得起监管问询。如果无法清晰说明筛选逻辑或提供合规证明,那么效率提升带来的收益,很可能被一次诉讼完全抵消。 对 NACSHR 的华人 HR 同行来说,这些案例并非遥远的大公司新闻,而是与日常工作直接相关的风险提醒。无论企业规模大小,只要开始使用 AI 招聘工具,就已经进入同一套法律框架之中。真正成熟的数字化升级,不是简单上线更多自动化,而是在效率、合规与信任之间取得平衡。 Workday 当前的法律动作,或许只是这场变革的开端,但它已经清晰地勾勒出一个趋势:未来的招聘竞争,不再只是“谁更智能”,而是“谁更合规、谁更可解释、谁更负责任”。这将成为所有北美 HR 必须面对的新现实。 Workday is seeking dismissal of disparate impact age discrimination claims brought by job applicants in the ongoing Mobley v. Workday lawsuit, arguing that the Age Discrimination in Employment Act (ADEA) does not extend such protections to applicants. In a court filing on January 21, 2026, the company stated that the law’s “plain language” limits disparate impact claims to employees, not candidates. The case, originally filed in 2023 and certified as a nationwide collective action in 2025, alleges that Workday’s AI recruiting tools discriminated based on age and other protected factors. Workday denies the claims, asserting that its AI systems neither use nor identify protected characteristics. The dispute highlights growing legal and compliance risks tied to AI-driven hiring technologies. Meanwhile, states including California are tightening regulations, requiring opt-out mechanisms and risk assessments for automated decision tools. The case could significantly shape how HR technology vendors and employers deploy AI in recruitment.
    risk assessments
    2026年01月27日