human oversight - 北美华人人力资源协会

human oversight

从“禁用机器人上司”到“人机共治”：加州 SB 7 将如何重塑用工 AI 合规版图加州通过“No Robo Bosses Act”（SB 7），加州州长需在 10 月 12 日前决定是否签署。一旦生效，该法案将于 2026 年 1 月 1 日实施，全面规范 AI 在就业决策中的使用。主要条款包括：雇主不得仅依赖 AI 作出纪律、解雇或停用决定；若主要依赖 AI，必须有人工复核；使用前至少提前 30 天通知员工，并在解雇时单独告知；员工每年有权申请一次相关数据。违规将面临 500 美元/次罚款。这项立法被视为全球首个系统性 AI 职场监管案例，为员工提供更高透明度与数据权利。以下是正文，供参考：加州立法机构已通过被称为“No Robo Bosses Act”的 SB 7，并送交州长审议。按照加州官方立法日程，州长需在 2025 年 10 月 12 日前签署或否决该法案；若签署，新法自 2026 年 1 月 1 日起生效。这部全美首创的就业 AI 专法，以“通知—限制—监督—救济”为主线，覆盖从招聘到解雇的几乎全部“就业相关决策”，并在“纪律、解雇或停用”等高风险场景强制引入实质性人工复核。一、SB 7 到底规范了什么？关键定义与适用范围自动化决策系统（ADS）：凡是由机器学习、统计建模、数据分析或 AI 组成、输出“评分/分类/推荐”等简化结果、用来辅助或替代人的自由裁量、并对自然人产生实质性影响的计算过程，均被纳入。就业相关决策：范围极广，几乎涵盖工资、福利、工作时长/班次、绩效、招聘、纪律、晋升、解雇、任务/技能要求、工作分配、培训与机会获取、生产率要求、健康与安全等。工人（Worker）：不仅包括雇员，也包括向企业或政府实体提供服务的独立承包人。 “不能只靠机器”的红线在纪律、解雇或“停用（deactivation）”决策中，雇主不得仅依赖 ADS。若“主要依赖” ADS 输出作出上述决定，必须由人类复核者审阅 ADS 输出，并汇总与审查其他相关信息（如主管评估、人员档案、工作成果、同事评议、证人访谈/相关在线评价等）。不得将客户评分作为唯一或主要输入数据用于就业决策。二、四大通知义务使用前通知（Pre-Use Notice）部署前至少 30 天向将被直接影响的工人发出书面通知；若法律生效时已在用，最迟 2026 年 4 月 1 日完成补通知；新入职者在入职 30 天内告知。招聘场景：对使用 ADS 的岗位，需在收到申请时或在岗位公告中告知。内容包括：受影响的决策类型、输入数据类别与来源及采集方式、已知会导致输出偏差的关键参数、ADS 创建方、工人数据访问/更正权利、配额说明（如适用）、反报复声明等。使用后通知（Post-Use Notice）若在纪律、解雇或停用中“主要依赖 ADS”，在告知该决定的同时，还须向员工发出独立书面通知：说明可联系的人与数据获取方式，表明使用了 ADS，员工有权请求其被使用的数据，并重申反报复。三、数据权利与合规底线员工每 12 个月可申请一次，获取过去 12 个月在“主要依赖 ADS”的纪律/解雇/停用决策中所使用的本人数据（提供时须匿名化他人信息）。禁止性使用：不得用 ADS 违反劳动/民权/安健等法律；不得推断受保护身份；不得围绕未披露目的收集工人数据；不得针对行使权利者进行画像/预测/不利行动。四、执行与责任执法机关：加州劳动专员主责，可调查、发临时救济、开具传票与罚单并提起民事诉讼；地方检察官也可起诉。罚则：每次违规 500 美元民事罚款（可累计）。法案同时禁止对行使权利的员工实施任何形式的报复。生效与时点：2025 年 10 月 12 日为州长签署/否决截止日期；2026 年 1 月 1 日起生效（若签署）。五、与其他法律的交互作用与 CCPA/CPPA 的衔接：若企业受《加州消费者隐私法》及加州隐私保护局关于自动化决策技术的隐私规则约束，则仍须遵守相应隐私规。工会豁免：若有效的集体谈判协议中明确豁免 SB 7，并对工资/工时/工况与算法管理保护有清晰规定，则在该覆盖范围内不适用。地方更高标准：SB 7 不排斥提供等同或更高保护的地方法规。六、难点与灰区 “主要依赖”如何判定？法律未给百分比或权重阈值，复核是否实质有效而非走过场，将依赖执法与判例。通知与数据工作量多系统、多岗位、多轮通知加数据留存，意味着 HR、法务与 IT 协作成本显著上升。客户评分的边界 “不得作为唯一或主要输入”的要求，将迫使零售、外卖、平台经济等行业调整绩效与纪律模型。七、横向对比：其他地区的经验纽约市 Local Law 144：要求使用自动就业决策工具（AEDT）的企业进行年度偏见审计，并将结果公开，同时在招聘/评估阶段告知候选人和员工。科罗拉多州 SB 24-205：对“高风险 AI”规定开发者和部署者的合理注意义务，要求进行影响评估，并建立申诉与数据更正路径，将于 2026 年 2 月 1 日生效。欧盟 AI 法案：采取风险分级监管模式，高风险系统必须建立合规体系，并开展基本权利影响评估（FRIA），监管覆盖就业、教育、金融等多个场景。八、企业实操路线图盘点与评估列出所有 ADS 使用点（招聘、绩效、排班、监控、培训等）。识别纪律/解雇/停用链路中是否存在“主要依赖”。审查 AI 供应商合同，确保披露必要数据来源与偏置参数。通知与数据管理建立前置通知、后置通知模板，并完成 2026 年 4 月 1 日前的补通知。建立数据台账，支持员工数据申请与匿名化处理。培训与演练培训人类复核者，明确复核标准和证据清单。建立纪律/解雇/停用的双轨记录机制，确保合规。九、场景演练：门店一线员工“低评分解雇” 错误做法：直接将顾客星级评价作为主要依据触发解雇。合规做法：将客户评分作为辅证。由人类复核者调取主管评估、档案、工作样本、同事/证人意见等。在决定同时发出后置通知，说明联系人、ADS 介入情况与数据申请权利。十、对 HR 科技与供应链的影响产品设计将更重视：通知生成器、人类复核工作台、数据取证与匿名化导出、偏置敏感参数标注等功能。商业条款倾向：在 SLA 中加入合规配合、日志可提取性、异常暂停条款，对高风险场景的责任分配更加谨慎。十一、编辑部点评 SB 7 的真正创新点不在于偏见审计或宏观风险分级，而在于直接规定：高风险就业决策必须有人类复核。这一行为导向+流程内嵌的模式，预示着企业 HR 管理将进入“人机共治”的新阶段。难点在于如何界定“主要依赖”与如何确保“复核质量”。未来数年，这些模糊地带将决定 SB 7 在实践中的实际效果。关键信息与来源加州议会法案文本：SB 7 Employment: automated decision systems 加州立法日程：2025 年 10 月 12 日为州长签署/否决截止日期，2026 年 1 月 1 日生效（若签署）相关法规：纽约市 Local Law 144、科罗拉多州 SB 24-205、欧盟 AI 法案

human oversight
2025年09月23日
human oversight

HR：清醒吧！员工更信任AI而非HR 多年来，我一直是HR的支持者和朋友。在与HR团队的每次交流中，我都对他们的热情、投入和善意印象深刻。然而，尽管我们尽了最大努力，一项针对851名职场专业人士的最新调查发现，“员工更信任AI，而非HR。” 什么？这怎么可能？在你否定这个结果之前，让我解释一下数据。这并不像表面看起来那样简单。数据揭示了什么？ 1. AI被认为更值得信任当被问到“你更信任AI还是HR专业人士”时，54%的受访者表示更信任AI，而27%表示更信任HR。这个数据虽然听起来奇怪，但实际上反映的是“信任”的问题。员工知道经理有偏见，因此任何由HR提供的绩效评估、加薪或其他反馈可能都会受到某种偏见的影响（甚至是近期偏见）。而AI没有“个人意见”。在基于真实数据的情况下，它的决策往往更“值得信赖”。65%的受访者相信AI工具会被公平使用。这很合理：我们已经从认为AI会毁灭世界的担忧中跨越了鸿沟，现在更多地将其视为统计和基于数据的决策系统。而且你可以问AI“为什么选择这个候选人”或“为什么这样评估这个员工”，AI会给出精准且明确的答案。（而人往往难以清楚地解释自己的决定。） 2. AI已被信任用于绩效评估尽管目前市场上可用的AI绩效评估工具还很少（如Rippling的工具），但39%的受访者认为AI的绩效评估会更公平，33%认为基于AI的薪酬决策不会有偏见。同样，这很可能是因为AI能够清晰地解释其决策，而管理者往往依赖“直觉”。 3. AI更受欢迎作为职业教练当被问到“你是否重视AI工具在职业目标设定方面的指导能力”时，64%的受访者表示“是”。这再次表明员工对反馈和指导的需求，而这是许多管理者做得不够好（或者不够开放）的地方。这不是对HR的否定，而是对管理者信任度的质疑对我而言，这些数据揭示了三个重要点，每个都可能让你感到意外： 1. 员工对管理者的决策能力存疑我们并不总是信任“管理者”在招聘、绩效和薪酬方面做出公正、不偏不倚的决定。员工知道偏见存在，因此希望有一个系统可以更公平地选择和评估他们。 2. AI从“令人恐惧”到“被信任”的转变我们已经跨越了“AI令人害怕”的心理鸿沟，开始更多地将其视为可信赖的工具，这使得企业可以更大规模地将AI用于人事决策。 3. HR需要迅速适应AI时代对于HR部门来说，前进的方向已经明确。我们现在必须立刻学习AI工具，将它们引入最重要的HR领域，并投入时间去管理、培训和利用这些工具。关于HR赢得信任的能力，现在的逻辑变成了这样：公司内部支持和信任的建立将越来越依赖于HR如何选择和实施AI系统。员工的期望很高，因此我们必须满足这些需求。不管你喜欢与否，AI正在改变我们管理人的方式。

human oversight
2024年11月21日

订阅NACSHR周报

HR Jobs

您好，我是 HiTHIUM（海辰储能） HR Kristina。我们目前在 Dallas（Mesquite）招聘一位 2026年07月13日
Manufacturing Cost Accountant At HiTHIUM, we're not just le 2026年07月09日
Senior Tax Accountant, Manufacturing At HiTHIUM, we're not 2026年07月09日
Starmerx 北美业务持续拓展中，目前在美国、加拿大及墨西哥地区开放多个岗位，包括区域副总监、仓库经理、仓库主管/组 2026年06月29日