加州州议会近期通过了多项 AI 相关法案，这些法案需由州长加文・纽瑟姆（Gavin Newsom）在 10 月 13 日前决定签署或否决。截至 10 月 14 日，纽瑟姆州长已签署其中多项法案。除非另有说明，这些新法律均将于 2026 年 1 月 1 日生效。
本警示将概述加州新出台的 AI 法律，并阐述其实施过程中的核心注意事项。
AB489 法案
该法案于 10 月 12 日签署生效，禁止 AI 技术的开发者和部署者在技术的广告宣传或功能中使用特定术语、字母或短语，以虚假暗示以下两种情况：
（a）拥有医疗保健相关执照或证书；
（b）该技术提供的建议、护理、报告或评估是由持有此类执照或证书的人员提供的。
AB489 法案扩展了加州现有的一项州法律，该法律原本就禁止个人作出类似虚假声明（即声称自己有权从事特定医疗保健专业工作）。此外，加州使用生成式 AI 与患者沟通的医疗机构，还需就 AI 的使用添加免责声明。
SB243 法案
10 月 13 日，纽瑟姆州长签署了 SB243 法案 —— 这是一项备受关注的陪伴型机器人相关法案。正如我们此前在客户警示中所详述，加州是继纽约之后第二个对陪伴型机器人进行监管的州，同时也是首个要求陪伴型机器人运营商实施特定安全协议的州。
SB243 法案要求平台实施相关协议，防止聊天机器人与用户（尤其是未成年人）讨论自杀意念、自残或露骨色情内容。法案还强制要求向用户定期发送提示 —— 针对未成年人，每 3 小时提示一次 —— 提醒他们正在与 AI 而非真人互动，并鼓励他们适当休息。此外，法案还提出了其他要求，包括向自杀预防办公室提交年度报告、公开安全协议相关信息，以及定期开展第三方审计。该法案还允许因法案违规而受损的个人寻求禁令救济和损害赔偿。
10 月 13 日晚些时候，纽瑟姆州长否决了《儿童前沿伦理 AI 发展法案》（AB1064）。该法案原本规定，若陪伴型聊天机器人 “可预见地可能实施会对儿童造成伤害的特定行为”，则不得向儿童提供该机器人。
纽瑟姆州长在否决备忘录中表示，该法案的禁令范围过于宽泛，可能会导致加州实际上禁止儿童使用对话式机器人。他承诺将在 2026 年与议员合作，在 SB243 法案的基础上进一步完善相关立法。
《加州人工智能透明度法案》（AB853）
同样在 10 月 13 日签署的 AB853 法案，对 2024 年出台的一项法律进行了更新。2024 年的原法律要求生成式 AI 开发者确保其工具生成的内容包含溯源数据，且这些数据可通过 AI 检测工具便捷获取。“溯源数据” 指 “嵌入数字内容中，或包含在数字内容元数据中的数据，其目的是验证数字内容的真实性、来源或修改历史”。经修订后的法律原定 2026 年 1 月 1 日生效，现延长至 2026 年 8 月 2 日生效。
修订后的法案还要求（法案中定义的）“大型在线平台” 开发一套机制，让用户能便捷获取上传内容的溯源数据。该要求将于 2027 年 1 月 1 日生效。
此外，自 2028 年 1 月 1 日起，AB853 法案将要求 “采集设备制造商” 在其产品中加入相关功能，使用户能在采集的内容中包含溯源数据。这类设备包括大多数手机、相机和录音机。
AB621 法案
10 月 13 日，纽瑟姆州长还签署了 AB621 法案，该法案扩展了加州现有的 “非自愿深度伪造” 相关法律。其中，AB621 法案新增了一项责任条款：“为深度伪造色情服务持续运营提供支持服务的个人” 需承担法律责任。但只有在该个人收到 “其正为此类服务提供支持” 的证据后 30 天内，仍未停止提供相关服务时，才需承担责任。法案指出，此类责任本质上是对现有法律条款的明确应用 —— 现有法律已将 “故意协助” 或 “鲁莽教唆” 创建或故意披露此类内容的任何人纳入监管范围。然而，法案中使用了未定义的 “支持” 一词，这使得人们对哪些服务属于该新条款的监管范围产生了疑问。
AB316 法案
同样在 10 月 13 日签署的 AB316 法案，适用于 “原告声称因被告‘开发、修改或使用’的 AI 系统而受损” 的民事诉讼。在这类诉讼中，被告不得提出 “AI 自主造成损害” 的抗辩。但 AB316 法案仍允许被告提出其他积极抗辩，包括 “与因果关系或可预见性相关的证据”，或提交与 “比较过失” 相关的其他证据。目前尚不清楚法院在实践中会如何解读这一抗辩限制。
《防止算法定价垄断法案》（AB325）
AB325 法案于 10 月 6 日签署生效，该法案规定，个人以以下两种方式 “使用或分发通用定价算法” 的行为属非法：（1）“作为限制贸易或商业的合同、信托形式的联合或共谋的一部分”；（2）“胁迫他人设定或采用通用定价算法为相同或类似产品或服务推荐的价格或商业条款”。有关国会此前试图监管定价算法但未成功的内容，可参见我们此前发布的客户警示。
尽管加州的 AI 立法活动要到下一个立法会议期才会重启，但其他州的相关提案仍在推进中。例如，2025 年 6 月，纽约州议会通过了《负责任人工智能安全与教育法案》（RAISE Act）—— 这是一项重要的立法，与《前沿人工智能透明度法案》（TFAIA）类似，该法案将对前沿 AI 模型的开发者施加透明度要求。纽约州州长凯西・霍楚尔（Kathy Hochul）需在 2025 年底前决定是否批准该法案。
