理解加利福尼亚州最新的生成式人工智能立法：对人工智能开发者和消费者的影响
2024年10月9日
加利福尼亚州州长加文·纽森最近签署了几项法案，这些法案重新定义了该州对生成性人工智能（GenAI）的监管方式。这些法案对人工智能开发者、集成人工智能的公司以及消费者都有重大影响。
虽然这些法律是特定于州的，但由于加利福尼亚州对技术和政策的影响，它们可能会产生更广泛的影响。作为谷歌、OpenAI 和 Meta 等科技巨头的家乡，加利福尼亚州往往设定行业标准，影响全球实践。
本文将细分这些法案的关键细节，受影响的对象，以及这些法案可能对人工智能未来产生的影响。
影响人工智能开发者的法案
AB 2013 - 人工智能训练数据透明性
要求所有于2022年1月1日或之后发布的生成性人工智能（GenAI）系统或服务的开发者，不论公司或项目的规模如何，须在2026年1月1日前公开披露关于用于训练其人工智能模型的数据的详细信息。
开发者必须在其网站上发布全面的文档，包括：
使用的数据集摘要。
数据来源和所有者。
数据类型及其与人工智能目的的相关性。
关于版权、商标或专利保护的详细信息。
包含的个人或消费者数据的信息。
合成数据的使用。
然而，法案中列出了特定的豁免条款，这些要求不适用：
安全和完整性目的：仅为维持信息系统安全和完整性而开发的 GenAI 系统。
飞机操作：用于在国家空域系统中操作飞机的系统。
国家安全或防御：专为国家安全或防御目的开发的人工智能，仅向联邦政府或其承包商提供。
关键要点：
如果您是开发者或参与了在2022年1月1日后在加利福尼亚州发布的生成性人工智能系统或服务的项目，您需要遵守 AB 2013 的透明度要求，除非您的系统符合上述提到的特定豁免。虽然 AB 2013 旨在提高人工智能开发的透明度和伦理实践，许多公司对披露其训练数据仍然犹豫不决，因为担心竞争和法律问题。这种犹豫突显了促进透明度的监管努力与保护专有信息和降低法律风险的行业优先事项之间的紧张关系。
法案文本：
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2013
SB 942 - 来源披露和识别工具
要求提供 GenAI 系统的提供者在人工智能生成的内容中包含可识别的披露，并提供免费的人工智能检测工具以验证此类内容。
提供者必须：
在人工智能生成的内容中包含显性和潜在披露。
提供一个免费的、可公开访问的人工智能检测工具。
撤销从移除所需披露的第三方的许可证。
显性披露是清晰、可见的标签或可听的声明，直接表明内容是人工智能生成的，使普通用户能够理解。潜在披露是在内容中嵌入的元数据，提供有关人工智能提供者的名称、版本和创建日期的详细信息，可以通过人工智能检测工具检测到。这些披露旨在帮助用户更好地识别人工智能生成的材料，减少欺骗风险，并促进对生成性人工智能的信任。
关键要点：
SB 942 要求生成性人工智能系统必须将显性和潜在披露直接嵌入其输出中，以确保透明度。这意味着人工智能生成的任何内容都必须包含可见的标签和元数据，标明它是人工智能生成的。虽然这些披露在内容被复制或分享时应该保持完整，但该立法关注的是人工智能提供者在生成时包含这些披露的责任。一旦用户手动修改或传输内容，保留这些披露的强制性可能会降低，具体取决于内容类型。
法案文本：
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB942
影响集成人工智能公司的法案
AB 1008 - 人工智能与加州消费者隐私法（CCPA）
修订加州消费者隐私法（CCPA）——一项旨在增强隐私权和消费者保护的州法，明确个人信息包括以物理、数字和抽象格式存在的数据，包括能够输出个人信息的人工智能系统。
该法案扩展了定义，特别包括：
所有格式的个人信息。
敏感个人信息，如神经数据。
企业遵守更新的数据标准的义务。
这意味着人工智能开发者必须在全程遵循加州消费者隐私法（CCPA）的规定下，对所有个人信息进行处理，包括由人工智能系统处理或生成的数据，无论其是以物理、数字还是抽象形式存在。这涉及更新隐私政策，以透明地披露如何收集、使用和共享个人数据；在收集其数据之前获得个人的明确同意；提供清晰的机制，供消费者行使访问、删除或选择退出个人信息出售的权利；并实施强有力的安全措施以保护这些数据。
开发者还必须确保其人工智能系统不会无意中输出或误用个人信息，并确保任何训练数据的来源和处理方式合法且符合伦理。
关键要点：
人工智能开发者必须通过确保所有个人信息，包括由人工智能系统处理或输出的数据，遵守 AB 1008 的规定，从而与之相一致。这涉及更新隐私政策以确保透明度，获得收集数据的适当同意，尊重消费者访问、删除或选择退出个人信息出售的权利，实施强有力的安全措施以保护个人数据，并确保人工智能系统不无意中误用或披露个人信息。
法案文本：
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB1008
AB 2602 - 同意与数字复制品
确保涉及使用个人声音或形象数字复制品的合同条款，只有在获得明确和知情同意下才能执行。
根据该法案，如果合同：
允许在没有特定预期用途的情况下使用数字复制品。
在没有个人法律代表的情况下达成。
在没有适当同意的情况下，以数字复制品替换个人的工作。
关键要点：
为了遵守 AB 2602，人工智能开发者和公司必须确保涉及使用个人声音或形象的数字复制品的合同，包括对复制品预期用途的清晰和具体描述。此外，他们必须在合同谈判期间确认个人有法律代表以验证同意。未能满足这些要求将使合同条款不可执行，从而保护个人免受未经授权或不道德的数字身份使用。
法案文本：
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2602
AB 3030 - 医疗保健通讯中的 GenAI
AB 3030 要求使用生成性人工智能（GenAI）进行患者通讯的医疗保健提供者，包括清晰的免责声明，并提供人类提供者的联系信息。具体而言，人工智能生成的书面、音频和视频通讯必须显著声明其来源：
书面材料应在开头注明免责声明，
音频互动需在开始和结束时进行口头免责声明，
视频内容必须始终显示免责声明。
此外，患者必须获得有关如何联系人工医疗保健提供者以获得进一步帮助的说明。如果有执业的工作人员审核并亲自传递人工智能生成的通讯，则适用豁免。
关键要点：
医疗保健提供者需要更新其沟通协议，以确保人工智能生成的患者材料包括所需的免责声明和人类联系信息。提供者还应在必要时建立由持牌人类专业人士审核人工智能通讯的流程，以绕过免责声明要求。工作人员必须接受这些更新程序的培训，并应定期进行合规审计以验证遵守 AB 3030，确保透明度和患者信任。
法案文本：
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB3030
SB 896 - 对 GenAI 的州使用和风险分析
SB 896，即生成性人工智能问责法，建立了加利福尼亚州机关在使用生成性人工智能（GenAI）时确保透明度、隐私、公平性和问责制的要求。
州机关必须：
对 GenAI 威胁进行年度风险分析，并向立法机构报告结果。
在人工智能生成的通讯中包括免责声明，确保其清晰可见，并提供人类代表的联系信息。
通过保护隐私、最小化偏见和确保人工智能系统透明，促进负责任的人工智能使用。
参与劳动力发展，为人工智能角色培训员工，重点关注伦理和隐私。
关键要点：
SB 896 旨在建立公众对人工智能技术的信任，这是人工智能生态系统可持续发展的重要基础。通过强制要求透明、隐私和问责制，适用于州机关使用的人工智能生成的通讯，该法律为负责任的人工智能使用设立了先例。这有助于确保人工智能被视为可靠的工具，进而增强消费者信任，鼓励更广泛的采用，最终支持行业的增长和接受。
法案文本：
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB896
影响使用人工智能的消费者的法案
AB 2355 和 AB 2655 - 政治广告中的人工智能
这些法案对政治广告和与选举相关的内容中的人工智能和深度伪造内容的使用引入监管，以促进透明度和诚信。
具体来说：
AB 2355：要求使用人工智能生成或修改内容的政治广告包括明确的披露，表明它们是在使用人工智能生成的。
AB 2655：要求在线平台屏蔽或标记误导性的选举相关内容，并提供报告此类内容的机制。
关键要点：
这些法案为保护民主过程的诚信设立了重要先例，因为生成性人工智能（genAI）能力的不断提升，使人们越来越难以区分事实和虚构。通过要求使用人工智能生成的政治广告（AB 2355）进行明确披露，并要求平台标记或移除误导性的选举内容（AB 2655），这些法律旨在遏制操控媒体和深度伪造的影响。这个监管框架对于确保政治沟通的透明度和维护选民信任至关重要，尤其在人工智能生成的内容容易误导的时代。
AB 2355 文本：
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2355
AB 2655 文本：
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2655
AB 1836 - 已故个人的数字复制品
AB 1836 禁止未经权利持有者事先同意，商业性使用已故个人的声音或形象的数字复制品。该法律针对在没有授权的情况下生产、分发或提供此类数字复制品用于商业目的的个人和实体。通过对违反者施加重大损害赔偿，AB 1836 旨在保护已故个人的遗产和权利，并防止通过人工智能生成的内容进行剥削。
关键要点：
随着人工智能技术的不断进步，复制任何人的声音或形象将变得越来越容易，从而引发对滥用和剥削的担忧。AB 1836 在解决这些伦理挑战方面迈出了重要一步，规定了商业使用已故个人数字复制品的法律要求。通过要求权利持有者的明确同意并对未经授权的使用施加重大惩罚，该法案有助于保护个人身份免受剥削，并为生成性人工智能的负责任使用设立了先例。这项法律为人工智能开发提供了更具伦理的框架，确保随着复制技术的进步，个人的权利和遗产得以保障。
法案文本：
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB1836
SB 926 和 SB 981 - 保护免受人工智能生成的明确内容
SB 926 和 SB 981 是旨在遏制生成性人工智能未经同意创建明确内容的有害和不当使用的立法措施。这些法律针对深度伪造技术的滥用，并追究创作者和平台在保护个人隐私和数字身份方面的责任。
SB 926 刑事化故意创建和分发未经同意的现实主义的人工智能生成的亲密图像，包括以性暗示方式描绘个人的非自愿深度伪造，施加威慑此类滥用的惩罚。
SB 981 要求社交媒体平台为用户提供举报性明确数字身份盗窃的机制。平台必须迅速调查和删除此类内容，为受害者提供寻求迅速救济的途径。
关键要点：
随着生成性人工智能的日益普及，非自愿明确内容的潜在滥用也大幅增加。SB 926 和 SB 981 通过刑事化未经授权的人工智能生成的亲密内容，并追究平台迅速删除有害材料的责任，建立了重要保护。这些措施强调了伦理人工智能使用的重要性，突出隐私、同意，以及在促进技术使用时需要负责任的部署，以保护个人免受情感和声誉损害，随着生成性人工智能的持续发展。
SB 926 文本：
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB926
SB 981 文本：
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB981
AB 1831 和 SB 1381 - 扩展儿童性侵犯材料法规
AB 1831 和 SB 1381 是扩展儿童性侵犯材料（CSAM）定义的立法措施，包括生成或修改的内容，或通过人工智能（AI）或数字手段描绘未成年人。这些法案使得生产、分发或拥有人工智能生成的儿童性侵犯材料违法，违反者将面临严厉的惩罚，包括重罪指控和监禁。该立法解决了由能够创造现实但虚假的未成人图像的先进技术所带来的新威胁，弥补了之前存在的法律漏洞。
关键要点：
AB 1831 和 SB 1381 在维护道德标准和保护弱势群体方面至关重要，因为人工智能技术变得越来越复杂和可及。虽然 AB 1831 和 SB 1381 并不直接针对人工智能开发者，但他们应积极采取措施，防止其技术用于生产人工智能生成的儿童性侵犯材料。通过这样做，他们有助于打击对未成年人的剥削，与道德标准保持一致，并降低潜在的法律和声誉风险。
AB 1831 文本：
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB1831
SB 1381 文本：
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB1381
人工智能未来的影响
加利福尼亚州的 GenAI 法律为负责任的人工智能治理设定了新标准。通过强调透明度、隐私和伦理使用，这些法律旨在减轻风险而不抑制创新。它们确保人工智能开发与社会价值保持一致，保护个人并促进对人工智能技术的信任。随着人工智能继续融入日常生活，这种类型的监管框架确保人工智能仍然是技术进步的积极力量。
为保持在伦理人工智能开发的前沿，并充分发挥人工智能的潜力，理解加利福尼亚州 GenAI 法律等监管变更的影响至关重要。在 Sahara AI，我们致力于建立一个去中心化、透明和以隐私为首的人工智能生态系统，以确保所有用户的安全、公平和可及性。加入我们的候补名单，以随时获得最新进展，并成为塑造伦理人工智能未来运动的一部分。
