理解加利福尼亚州最新的生成式人工智能立法：对人工智能开发者和消费者的影响
加利福尼亚州州长加文·纽瑟姆最近签署了几项重新定义该州对生成性人工智能（GenAI）监管的方法的法案。这些法案对AI开发者、整合AI的公司和消费者都有重要影响。
尽管这些法律是特定于州的，但由于加利福尼亚州在技术和政策方面的影响，它们可能会产生更广泛的影响。作为谷歌、OpenAI和Meta等科技巨头的家园，加利福尼亚州通常设定行业标准，从而塑造全球实践。
本文将详细解析每项法案的关键细节、受到影响的对象以及它们对AI未来可能产生的影响。
影响AI开发者的法案
AB 2013 - AI训练数据透明度
要求从2022年1月1日或之后发布的所有生成性人工智能（GenAI）系统或服务的开发者，无论公司或项目的规模，均需在2026年1月1日前公开披露关于用于训练其AI模型的数据的详细信息。
开发者必须在其网站上发布全面的文档，包括：
使用的数据集的摘要。
数据来源和所有者。
数据类型及其与AI目的的相关性。
有关版权、商标或专利保护的详细信息。
包含的个人或消费者数据的信息。
合成数据的使用。
然而，法案中概述了特定的豁免情况，这些要求不适用：
安全和完整性目的：仅为维护信息系统的安全和完整性而开发的GenAI系统。
飞机操作：用于在国家空域系统中操作飞机的系统。
国家安全或防御：专门为国家安全或防御目的开发的AI，仅对联邦政府或其承包商可用。
关键要点:
如果您是开发者或参与了在2022年1月1日后在加利福尼亚州发布的生成性AI系统或服务的项目，则必须遵守AB 2013的透明度要求，除非您的系统符合上述提到的特定豁免。虽然AB 2013旨在增加生成性AI开发的透明度和道德实践，但许多公司由于竞争和法律问题，对披露其训练数据持谨慎态度。这种犹豫凸显了促进透明度的监管努力与保护专有信息和减少法律风险的行业优先事项之间的紧张关系。
法案文本:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2013
SB 942 - 来源披露和识别工具
规定GenAI系统的提供者在AI生成的内容中包含可识别的披露，并提供免费的AI检测工具来验证该内容。
提供者必须：
在AI生成的内容中包括明确和隐含的披露。
提供一个免费的、公开可用的AI检测工具。
撤销在移除所需披露的第三方的许可。
明确披露是指直接指明内容为AI生成的清晰可见的标签或可听陈述，使一般用户能够理解。隐含披露是指嵌入在内容中的元数据，提供AI提供者的名称、版本和创建日期等详细信息，这些信息可以通过AI检测工具进行检测。这些披露旨在帮助用户更好地识别AI生成的材料，减少欺骗的风险，并促进对生成性AI使用的信任。
关键要点：
SB 942要求生成性AI系统必须将明确和隐含的披露直接嵌入到其输出中，以确保透明度。这意味着AI生成的任何内容必须包括可见的标签和表明其为AI生成的元数据。虽然这些披露理想情况下应在有人复制或分享内容时保持不变，但立法侧重于AI提供者在生成时包含这些披露的责任。一旦用户手动修改或转移内容，保留这些披露的可执行性可能会有所降低，具体取决于内容类型。
法案文本:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB942
影响整合AI公司的法案
AB 1008 - AI与加州消费者隐私法案（CCPA）
修订加州消费者隐私法案（CCPA）——一项旨在增强隐私权和消费者保护的州法律——以阐明个人信息包含物理、数字和抽象格式中的数据，包括能够输出个人信息的AI系统。
该法案扩展了定义，具体包括：
所有格式中的个人信息。
敏感的个人信息，如神经数据。
企业遵守更新数据标准的义务。
这意味着AI开发者必须完全遵循加州消费者隐私法案（CCPA），对待所有个人信息，包括物理、数字或抽象格式的由AI系统处理或生成的数据。这涉及更新隐私政策，以透明地披露个人数据的收集、使用和共享方式；在收集个人数据之前获得个人的明确同意；提供明确的机制，允许消费者行使其访问、删除或选择不出售个人信息的权利；并实施强有力的安全措施以保护这些数据。
开发者还必须确保其AI系统不会无意中输出或滥用个人信息，并确保任何训练数据的来源和处理均合法和符合伦理。
关键要点：
AI开发者必须通过确保所有个人信息，包括AI系统处理或输出的数据，符合CCPA来调整其做法。这涉及更新隐私政策以实现透明度，获得个人数据收集的适当同意，尊重消费者访问、删除或选择不出售个人信息的权利，实施强有力的安全措施来保护个人数据，并确保AI系统不会无意中滥用或披露个人信息。
法案文本:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB1008
AB 2602 - 同意与数字复制品
确保涉及使用个人声音或肖像的数字复制品的合同条款仅在获得明确和知情的同意后可执行。
根据该法案，如果合同：
允许在没有特定预期用途的情况下使用数字复制品。
在没有个人法律代表的情况下达成协议。
在没有适当同意的情况下允许用数字复制品替代个人的工作。
关键要点：
为遵守AB 2602，AI开发者和公司必须确保涉及使用个人声音或肖像的数字复制品的合同包括对复制品预期用途的清晰和具体描述。此外，他们必须确认在合同谈判中个人拥有法律代表以验证其同意。未能满足这些要求将使合同条款无效，从而保护个人免受未授权或不道德使用其数字身份的影响。
法案文本:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2602
AB 3030 - 医疗通信中的GenAI
AB 3030要求使用生成性AI（GenAI）进行患者沟通的医疗提供者包括明确的免责声明，并提供人类提供者的联系信息。具体来说，AI生成的书面、音频和视频通信必须明显说明其AI来源：
书面材料应在开头包含免责声明，
音频互动需要在开始和结束时有口头免责声明，
视频内容必须整个过程中显示免责声明。
此外，患者必须获得如何联系人工医疗提供者以获取进一步帮助的说明。如果一名持证的人工提供者审查并亲自发送AI生成的通信，则适用豁免。
关键要点：
医疗提供者需要更新其沟通协议，以确保AI生成的患者材料包括所需的免责声明和人工联系信息。提供者还应建立一个流程，让持证的人工专业人员在必要时审查AI通信，以绕过免责声明要求。员工必须接受这些更新程序的培训，并应定期进行合规审计，以验证遵守AB 3030的情况，确保透明度和患者信任。
法案文本:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB3030
SB 896 - 国家使用和GenAI风险分析
SB 896，即生成性人工智能问责法案，建立了加利福尼亚州机构使用生成性人工智能（GenAI）的要求，以确保透明度、隐私、公平性和问责制。
州机构必须：
对GenAI威胁进行年度风险分析，并向立法机关报告结果。
在AI生成的通信中包括免责声明，确保其清晰且显著，并提供人类代表的联系信息。
通过保护隐私、最小化偏见并确保其AI系统的透明度，促进负责任的AI使用。
参与劳动力发展，培训员工担任AI角色，关注伦理和隐私。
关键要点：
SB 896旨在建立公众对AI技术的信任，这对AI生态系统的可持续增长至关重要。通过在州机构使用的AI生成通信中实施透明度、隐私和问责制，该法律为负责任的AI使用设定了先例。这有助于确保AI被视为一个可靠的工具，从而提高消费者信心，促进更广泛的采用，最终支持行业的增长和接受。
法案文本:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB896
影响消费者使用AI的法案
AB 2355 & AB 2655 - 政治广告中的AI
这些法案对政治广告和选举相关内容中的AI和深度伪造内容使用引入了监管，以促进透明度和诚信。
具体来说：
AB 2355：要求使用AI生成或修改内容的政治广告包括明确的披露，说明内容是使用AI生成的。
AB 2655：要求在线平台阻止或标记欺骗性的选举相关内容，并提供举报此类内容的机制。
关键要点：
这些法案为保护民主进程的完整性设定了重要先例，因为生成性AI（genAI）能力的持续进步使事实与虚构之间的区分变得越来越困难。通过要求AI生成的政治广告（AB 2355）和强制平台标记或移除误导性选举内容（AB 2655）进行明确披露，这些法律旨在遏制操纵媒体和深度伪造的影响。这个监管框架对确保政治沟通中透明度和维护选民信任至关重要。
AB 2355文本:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2355
AB 2655文本:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2655
AB 1836 - 死者数字复制品
AB 1836禁止未经权利持有者事先同意，商业性使用已故人声音或肖像的数字复制品。该法律针对未经授权生产、分发或提供此类数字复制品用于商业目的的个人和实体。通过对违规者施加重大赔偿，AB 1836旨在保护已故个人的遗产和权利，并防止利用AI生成内容进行剥削。
关键要点:
随着AI技术的持续进步，复制任何人的声音或肖像将变得越来越容易，这引发了滥用和剥削的担忧。AB 1836是在解决这些伦理挑战方面向前迈出的重要一步，通过建立对已故个人数字复制品商业使用的法律要求。通过要求获得权利持有者的明确同意并对未授权使用施加重大处罚，该法案有助于保护个人身份免受剥削，并为生成性AI的负责任使用设定先例。该法律为AI发展的道德框架做出了贡献，确保随着复制技术的演进，个人的权利和遗产得到保护。
法案文本:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB1836
SB 926 & SB 981 - 保护免受AI生成的露骨内容
SB 926和SB 981是旨在遏制未经同意生成的AI生成露骨内容的有害和未经授权使用的立法措施。这些法律解决了深度伪造技术的滥用，并对创作者和平台在保护个人隐私和数字身份方面的角色提出要求。
SB 926将未经同意的个人AI生成亲密图像的故意创建和分发定为犯罪行为。这包括以性露骨方式描绘个人的非自愿深度伪造，并对这种滥用施加惩罚以威慑。
SB 981要求社交媒体平台提供机制，允许用户举报性露骨的数字身份盗窃实例。平台必须迅速调查并移除此类内容，为受害者提供寻求迅速救济的途径。
关键要点:
随着生成性AI变得越来越可接近，滥用的潜力，例如创建非自愿的露骨内容，显著增加。SB 926和SB 981通过使未经授权的AI生成亲密内容犯罪化，并追究平台及时移除有害材料的责任，建立了重要的保护措施。这些措施强调了伦理AI使用的重要性，强调隐私、同意以及负责任技术部署的必要性，以保护个人不受到情感和声誉方面的伤害，因为genAI继续发展。
SB 926文本:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB926
SB 981文本:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB981
AB 1831 & SB 1381 - 扩展儿童性侵犯材料法规
AB 1831和SB 1381是立法措施，扩展了儿童性侵犯材料（CSAM）的定义，包括通过人工智能（AI）或数字手段生成或修改的描绘未成年人的内容。这些法案使制作、分发或拥有AI生成的儿童性侵犯材料变为非法，违反者将面临包括重罪指控和监禁在内的严厉处罚。该立法解决了先进技术带来的新兴威胁，这些技术可以创造出现实但虚假的未成年人的非法内容，弥补了先前存在的法律漏洞。
关键要点:
随着AI技术变得愈加复杂和可接近，AB 1831和SB 1381对于维持伦理标准和保护脆弱群体至关重要。虽然AI开发者并未直接受到AB 1831和SB 1381的追责，但他们应积极实施措施以防止其技术被用于生成AI生成的CSAM。通过这样做，他们有助于打击对未成年人的剥削，符合伦理标准，并减少潜在的法律和声誉风险。
AB 1831文本:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB1831
SB 1381文本:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB1381
对AI未来的影响
加利福尼亚州的GenAI立法为负责任的AI治理设定了新的标准。通过强调透明度、隐私和伦理使用，这些法律旨在在不扼杀创新的前提下减轻风险。它们确保AI开发与社会价值观一致，保护个人并增强对AI技术的信任。随着AI继续融入日常生活，这种类型的监管框架确保AI保持作为技术进步的积极力量。
为了在伦理AI开发的前沿保持领先地位，并利用AI的全部潜力，理解像加利福尼亚州的GenAI法律这样的监管变化的影响至关重要。作为Sahara AI，我们致力于构建一个去中心化的、透明的、隐私优先的AI生态系统，以确保所有用户的安全、公平和可达性。加入我们的候补名单，及时获取最新进展，成为塑造伦理AI未来运动的一部分。
