AI Safety - 北美华人人力资源协会

AI Safety

NACSHR观察｜加州推进AI“紧急关闭”机制：真正值得企业关注的，不只是一个“开关” NACSHR核心摘要：加州正在重新定义AI安全治理。9月18日，州长Gavin Newsom签署行政令，要求研究前沿AI模型“紧急关闭”机制，同时推进独立验证、第三方审计、安全报告核验和AI“失控事件”报告制度。需要注意的是，这并不意味着所有AI企业现在必须安装Kill Switch，而是加州正在研究下一阶段监管框架。真正值得企业和HR关注的是：AI治理正在从“企业自己证明安全”，走向“由独立机构验证安全”。当AI Agent开始执行招聘、员工服务、数据分析甚至业务流程时，谁授权、谁监督、谁能中止，将成为新的管理问题。人工智能的治理逻辑正在发生变化。 9月18日，加州州长 Gavin Newsom 签署新的行政令，要求州政府加快人工智能独立监督体系建设，并研究针对最先进人工智能模型建立“紧急关闭机制”（AI kill switch）的可行方案。消息公布后，“AI Kill Switch”迅速成为媒体标题中的关键词。但如果只把这件事理解成“加州准备给AI装一个关机按钮”，实际上低估了这项政策的意义。更值得企业管理者和HR关注的是：加州正在尝试把人工智能治理从过去主要依靠企业自我披露和内部安全机制，进一步推进到第三方验证、持续审计、事故报告以及紧急控制能力。这可能比一个“关闭按钮”本身影响更深远。一、加州并没有要求AI公司现在就安装“Kill Switch” 首先需要澄清一个容易被标题误导的事实。 Newsom此次签署的行政令，并没有立即要求所有人工智能公司安装“紧急关闭开关”。行政令要求加州政府运营署（Government Operations Agency）与州长应急服务办公室（Governor’s Office of Emergency Services）组织专家，在2026年11月16日前提出进一步完善人工智能安全法律的建议。目前重点研究四个方向：第一，是否要求前沿人工智能企业允许指定的独立验证机构进入实验室，定期进行安全审计和评估。第二，企业提交的人工智能安全框架、透明度报告和风险评估，是否需要经过独立第三方验证。第三，研究建立针对前沿人工智能模型的紧急关闭机制，并要求独立机构持续验证这一机制是否真正有效。第四，扩大“重大安全事件”的定义，将人工智能系统出现的“失控事件”（loss-of-control incidents）纳入强制报告范围。因此，更准确地说，加州目前是在启动制度设计，而不是已经全面实施强制关闭机制。二、真正的变化，是AI公司可能不能再“自己证明自己安全” 此次行政令并不是突然出现的。就在9月9日，加州刚刚签署两项与人工智能审计有关的新法律。其中，SB 813建立了人工智能“独立验证机构”的制度框架，使具备专业能力、并与人工智能公司保持独立关系的机构，可以对模型安全和风险进行评估。 AB 1405则建立人工智能审计机构登记体系，对审计机构的独立性、透明度和专业标准提出要求。而9月18日的行政令，又要求加快这些制度的实施。这意味着监管思路开始发生一个重要变化：过去，人工智能公司更多是制定自己的安全框架、测试自己的模型、发布自己的风险报告。未来可能逐渐变成：企业制定安全框架 → 独立机构验证 → 持续审计 → 重大事故必须报告 → 极端情况下必须具备停止系统的能力。对于企业治理而言，这是一种非常熟悉的逻辑。财务需要外部审计，网络安全需要第三方测试，信息安全需要认证体系，高风险人工智能未来也可能逐步形成类似的外部验证机制。换句话说，人工智能治理正在从“企业承诺安全”，逐渐走向“企业需要证明安全”。三、这也反映了加州AI监管路线的变化值得注意的是，Newsom在2024年曾否决备受关注的 SB 1047。当时，他并没有否认大型人工智能模型需要安全约束，而是认为仅按照模型规模和计算成本设置监管门槛可能不够准确，同时可能对创新造成不必要限制。他在否决说明中提出，人工智能监管需要更多依据实际风险、科学证据和技术发展情况进行设计。两年后，加州的路径逐渐清晰起来。 2025年通过的 SB 53（Transparency in Frontier Artificial Intelligence Act），要求符合条件的前沿人工智能开发企业公开安全框架、报告特定重大安全事件，并对举报严重风险的人员提供保护。2026年的SB 813和AB 1405进一步加入独立审计体系，现在新的行政令又把第三方驻场验证、失控事件报告和紧急关闭机制放到了政策讨论中。因此，与其说这是加州突然“收紧人工智能”，不如说它正在逐步建立一套更加完整的人工智能风险治理基础设施。四、为什么HR和企业管理者需要关注？目前这些措施首先针对的是大型前沿人工智能模型开发企业，并不意味着普通企业使用招聘软件、HR系统或办公助手就要立即满足同样的监管要求。但监管逻辑很可能逐渐向企业采购和使用人工智能的环节传导。尤其对于HR来说，人工智能已经开始参与招聘筛选、人才匹配、绩效分析、员工服务、学习发展，甚至组织设计。这些场景往往同时涉及个人数据和重要的就业决策。因此，未来企业评估一个人工智能产品时，可能不能只问： “这个工具准确率是多少？” 还需要继续问：谁验证过它？出现错误谁会知道？系统越权时谁可以停止？重大事件如何报告？模型做出的重要决定是否仍然有人类监督？这些问题正在从技术团队的问题，逐渐变成董事会、管理层、法务、安全团队以及HR共同面对的治理问题。 NACSHR观察：AI治理正在从“使用规范”进入“控制权设计” 过去几年，企业讨论AI治理，核心往往是员工可不可以使用ChatGPT、什么数据不能上传、生成内容如何审核。下一阶段的问题会更深：谁有权让AI行动？谁能够验证它？谁能够阻止它？发生问题以后谁承担责任？加州此次行政令值得关注的地方，正是在于它开始触及人工智能治理最核心的一个问题——控制权（control）。当人工智能从一个“提供建议的工具”逐渐演变成能够调用系统、执行任务、访问数据甚至独立完成复杂流程的智能体（AI Agent），企业需要建立的就不再只是AI使用政策，而是一套完整的权限、审计、监督和中止机制。对于HR而言，这同样意味着角色的变化。未来HR参与人工智能转型，不能只关注效率提升和工具采用率，还需要参与回答一个更重要的问题：当AI越来越能够替人工作时，我们是否仍然清楚，人应该在哪些关键节点拥有最终控制权？这或许才是这次“AI Kill Switch”讨论背后，真正值得企业认真思考的问题。从AI治理到组织变革：9月26日，我们在硅谷继续讨论 AI的变化已经不只是技术升级，而正在进入组织、人才、管理与治理的核心。对于HR而言，真正的问题也不再只是“要不要使用AI”，而是如何重新设计工作、调整人才标准、建立人机协作机制，并在效率、风险与人的价值之间找到新的平衡。 2026北美华人人力资源协会年度论坛将于9月26日在硅谷 Newark 举行。今年论坛将围绕AI组织转型、AI时代的人才选拔与工作方式、HRBP角色变化、薪酬与商业战略、中美企业出海与跨文化管理、美国移民政策、员工福利与企业风险，以及北美华人HR职业发展等议题展开，并在最后特别邀请AI以“嘉宾”的身份参与现场对话，与参会者共同总结一天中最重要的共识、分歧与行动方向。如果你也正在思考：AI时代，HR究竟应该改变什么？组织应该如何重新设计？我们又该如何建立真正可控、可信、以人为核心的AI工作方式？欢迎9月26日来到硅谷，与来自不同企业的HR负责人和专业人士面对面交流。 2026 NACSHR Annual Conference｜9月26日｜Hyatt Place Newark Silicon Valley 查看完整议程及报名信息：2026 NACSHR年度论坛完整议程（ https://nacshr.org/Public/html/926/ ） Stay Together, Stay Powerful. 来源：California Governor’s Office、Executive Order N-9-26、CalMatters、KCRA；NACSHR 编辑整理。

AI Safety
2026年09月18日

订阅NACSHR周报

HR Jobs

Seyond is hiring HR Generalist & Office Administrator in Sun 2026年09月06日
外企德科（FESCO Adecco）寻找 Part Time 猎头合伙人合作性质：纯佣金远程兼职，非全职雇佣，Fr 2026年08月10日
Sales Assistant/Warehouse Assistant（销售支持） About Us When we 2026年07月24日
您好，我是 HiTHIUM（海辰储能） HR Kristina。我们目前在 Dallas（Mesquite）招聘一位 2026年07月13日