캘리포니아의 최신 GenAI 법률 이해: AI 개발자 및 AI 소비자에 대한 의미
캘리포니아 주지사 개빈 뉴섬은 최근 생성적 인공지능(GenAI) 규제에 대한 주의 접근 방식을 재정의하는 여러 법안에 서명했습니다. 이 법안들은 AI 개발자, AI를 통합하는 기업, 그리고 소비자에게 중요한 영향을 미칩니다.
이 법률은 주별로 특정하지만, 캘리포니아의 기술 및 정책에 대한 영향력 때문에 더 넓은 영향을 미칠 가능성이 높습니다. 구글, 오픈AI, 메타와 같은 기술 대기업의 본고장인 캘리포니아는 종종 산업 표준을 설정하여 글로벌 관행을 형성합니다.
이 기사에서는 각 법안의 주요 세부 사항, 영향을 받는 사람들, 그리고 AI의 미래에 미칠 수 있는 의미들을 분석합니다.
AI 개발자에게 영향을 미치는 법안
AB 2013 - AI 훈련 데이터의 투명성
2022년 1월 1일 이후 출시된 생성적 인공지능(GenAI) 시스템이나 서비스를 개발하는 모든 개발자는 회사의 규모나 프로젝트에 관계없이 2026년 1월 1일까지 AI 모델 훈련에 사용된 데이터에 대한 상세 정보를 공개적으로 공개해야 합니다.
개발자는 웹사이트에 포괄적인 문서를 게시해야 하며, 포함 내용은 다음과 같습니다:
사용된 데이터 세트 요약.
데이터 출처 및 소유자.
데이터 유형과 AI의 목적과의 관련성.
저작권, 상표 또는 특허 보호에 대한 세부정보.
포함된 개인 또는 소비자 데이터에 대한 정보.
합성 데이터의 사용.
그러나 이 법안에 명시된 특정 면제 사항이 있으며, 해당 요구 사항이 적용되지 않는 경우도 있습니다:
보안 및 무결성 목적: 정보 시스템의 보안과 무결성을 유지하기 위해 개발된 GenAI 시스템.
항공기 운영: 국가 공역 시스템에서 항공기를 운영하는 데 사용되는 시스템.
국가 안보 또는 방어: 국가 안보 또는 방어 목적으로 독점적으로 개발된 AI로, 연방 정부 또는 그 계약자에게만 제공됩니다.
주요 요점:
2022년 1월 1일 이후 캘리포니아에서 생성적 AI 시스템이나 서비스를 출시한 개발자 또는 프로젝트의 일원이라면, 위에 언급된 특정 면제 사항에 해당되지 않는 한 AB 2013의 투명성 의무를 준수해야 합니다. AB 2013은 AI 개발에 있어 투명성과 윤리적 관행을 높이기 위한 목적이 있으나, 많은 기업들이 경쟁적 및 법적 우려로 인해 훈련 데이터를 공개하는 것을 주저하고 있습니다. 이러한 주저함은 투명성을 증진하려는 규제 노력과 독점 정보를 보호하고 법적 위험을 최소화하려는 산업의 우선사항 간의 긴장을 부각시킵니다.
법안 전문:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2013
SB 942 - 출처 공개 및 식별 도구
GenAI 시스템의 제공자는 AI 생성 콘텐츠에 식별 가능한 공개 정보를 포함하고 이러한 콘텐츠를 확인하기 위한 무료 AI 탐지 도구를 제공해야 합니다.
제공자는:
AI 생성 콘텐츠에 명시적이고 잠재적인 공개 정보를 포함해야 합니다.
무료의 공개 AI 탐지 도구를 제공해야 합니다.
필요한 공개 정보를 제거하는 제3자 라이센스를 취소해야 합니다.
명시적 공개 정보는 콘텐츠가 AI 생성되었음을 직접적으로 나타내는 명확하고 가시적인 라벨이나 음성 기준을 의미하며, 일반 사용자에게 이해할 수 있을 정도로 쉽게 제공합니다. 잠재적 공개 정보는 AI 제공자의 이름, 버전, 생성일과 같은 세부정보를 제공하는 메타데이터로, AI 탐지 도구를 통해 감지할 수 있는 정보입니다. 이러한 공개 정보는 사용자가 AI 생성 물질을 더 잘 식별하고, 기만의 위험을 줄이며, 생성적 AI 사용에 대한 신뢰를 증진하는 데 목적이 있습니다.
주요 요점:
SB 942는 생성적 AI 시스템이 투명성을 보장하기 위해 출력물에 명시적 및 잠재적 공개 정보를 모두 포함해야 한다고 요구합니다. 이는 AI가 생성한 모든 콘텐츠가 AI가 생성했음을 나타내는 가시적인 라벨과 메타데이터를 포함해야 함을 의미합니다. 이러한 공개 정보는 누군가 콘텐츠를 복사하거나 공유할 경우 이상적으로 유지되어야 하지만, 법은 생성 시점에 AI 제공자가 이를 포함할 책임에 초점을 맞추고 있습니다. 사용자가 수동으로 콘텐츠를 수정하거나 전송하면, 콘텐츠 유형에 따라 이러한 공개 정보를 유지하는 것은 덜 집행 가능할 수 있습니다.
법안 전문:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB942
AI를 통합하는 기업에 영향을 미치는 법안
AB 1008 - AI와 캘리포니아 소비자 개인정보 보호법(CCPA)
캘리포니아 소비자 개인정보 보호법(CCPA)을 수정하여 개인 정보에는 물리적, 디지털 및 추상의 형식의 데이터가 포함되며, 개인 정보를 출력할 수 있는 AI 시스템이 포함된다는 점을 명확히 하였습니다.
이 법안은 정의를 확대하여 특히 다음을 포함합니다:
모든 형식의 개인 정보.
신경 데이터와 같은 민감한 개인 정보.
업데이트된 데이터 기준을 준수해야 하는 기업의 의무.
이는 AI 개발자가 캘리포니아 소비자 개인정보 보호법(CCPA)을 준수하여 AI 시스템에 의해 처리 또는 생성된 물리적, 디지털 또는 추상적 형식의 모든 개인 정보를 취급해야 함을 의미합니다. 여기에는 개인 데이터가 수집, 사용 및 공유되는 방식을 투명하게 공개하는 개인정보 정책 업데이트, 데이터를 수집하기 전에 개인의 명시적 동의를 얻는 것, 소비자가 개인 정보에 접근하고 삭제하거나 판매를 거부할 수 있는 권리를 행사할 수 있는 명확한 메커니즘 제공, 이 데이터를 보호하기 위한 강력한 보안 조치 구현이 포함됩니다.
개발자는 또한 AI 시스템이 개인 정보를 우발적으로 출력하거나 오용하지 않도록 주의하고, 모든 훈련 데이터가 합법적이고 윤리적으로 출처 및 처리되도록 해야 합니다.
주요 요점:
AI 개발자는 모든 개인 정보—AI 시스템에 의해 처리되거나 출력되는 데이터—가 CCPA에 따라 처리되도록 보장함으로써 AB 1008에 따른 관행을 정렬해야 합니다. 여기에는 투명성을 위해 개인정보 정책을 업데이트하고 데이터 수집을 위한 적절한 동의를 얻고 소비자가 개인 정보에 접근, 삭제 또는 판매를 거부할 권리를 존중하며 개인 데이터를 보호하기 위한 강력한 보안 수단을 구현하고 AI 시스템이 우발적으로 개인 정보를 오용하거나 공개하지 않도록 보장하는 것이 포함됩니다.
법안 전문:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB1008
AB 2602 - 동의 및 디지털 복제물
개인의 목소리나 외모의 디지털 복제물을 사용하는 계약 조항이 명시적이고 정보에 기반한 동의가 있을 때만 집행 가능하도록 합니다.
법안에 따르면 계약은 다음의 경우 집행할 수 없습니다:
특정 의도된 사용 없이 디지털 복제물 사용을 허용하는 경우.
개인의 법적 대리인이 없이 동의한 경우.
개인의 작업을 적절한 동의 없이 디지털 복제물로 대체하는 경우.
주요 요점:
AB 2602를 준수하기 위해 AI 개발자 및 기업은 개인의 목소리나 외모의 디지털 복제물 사용과 관련된 계약이 복제물의 의도된 사용에 대한 명확하고 구체적인 설명을 포함하도록 해야 합니다. 또한, 개인이 계약 협상 동안 법적 대리인을 두었음을 확인해야 동의를 유효하게 합니다. 이러한 요구 사항을 충족하지 못하면 계약 조항이 집행될 수 없으며, 개인의 디지털 신원을 무단 또는 비윤리적으로 사용하는 것을 방지합니다.
법안 전문:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2602
AB 3030 - 의료 커뮤니케이션에 있는 GenAI
AB 3030은 생성적 AI(GenAI)를 환자 커뮤니케이션에 사용하는 의료 제공자가 명확한 면책 조항을 포함하고 인간 제공자의 연락처 정보를 제공하도록 요구합니다. 구체적으로, AI가 생성한 서면, 오디오 및 비디오 커뮤니케이션은 AI 출처를 명확히 명시해야 합니다:
서면 자료는 시작 부분에 면책 조항을 포함해야 합니다,
오디오 상호작용은 시작과 끝에 구두 면책 조항을 필요로 합니다,
비디오 콘텐츠는 전체에 걸쳐 면책 조항을 표시해야 합니다.
또한, 환자에게는 추가 지원을 위해 인간 의료 제공자에게 연락하는 방법에 대한 지침이 제공되어야 합니다. 면허가 있는 인간 제공자가 AI로 생성된 커뮤니케이션을 검토하고 개인적으로 전달하는 경우에는 면제 사항이 적용됩니다.
주요 요점:
의료 제공자는 AI로 생성된 환자 자료에 필수 면책 조항과 인간 연락처 정보가 포함되도록 커뮤니케이션 프로토콜을 업데이트해야 합니다. 제공자는 필요한 경우 AI 커뮤니케이션을 검토하기 위해 면허가 있는 인간 전문가를 세우는 절차를 수립해야 하며, 직원은 이러한 업데이트된 절차에 대해 교육을 받아야 하고, AB 3030 준수를 검증하기 위해 정기적인 감사가 실시되어야 합니다.
법안 전문:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB3030
SB 896 - GenAI의 주 사용 및 위험 분석
SB 896, 생성적 인공지능 책임법은 생성적 AI(GenAI)를 사용하는 캘리포니아 주 기관의 투명성, 프라이버시, 공정성 및 책임을 보장하기 위한 요구사항을 정립합니다.
주 기관은 다음을 수행해야 합니다:
GenAI 위협에 대한 연례 위험 분석을 수행하고 결과를 의회에 보고해야 합니다.
AI로 생성된 커뮤니케이션에 면책 조항을 포함해야 하며, 이는 명확하고 두드러져야 하며, 인간 대표의 연락처 정보를 제공해야 합니다.
프라이버시 보호, 편견 최소화, AI 시스템의 투명성을 보장하는 책임 있는 AI 사용을 촉진해야 합니다.
윤리 및 프라이버시 중심으로 직원 교육을 위한 인력 개발에 참여해야 합니다.
주요 요점:
SB 896은 AI 기술에 대한 공공의 신뢰를 구축하는 것을 목표로 하며, 이는 AI 생태계의 지속 가능한 성장을 위해 필수적입니다. 주 기관에서 사용되는 AI로 생성된 커뮤니케이션의 투명성, 프라이버시 및 책임을 강화함으로써 이 법률은 책임 있는 AI 사용의 선례를 설정합니다. 이는 AI가 신뢰할 수 있는 도구로 인식되도록 하고 소비자 신뢰를 증진시키며, 결과적으로 산업의 성장과 수용을 지원합니다.
법안 전문:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB896
AI를 사용하는 소비자에 영향을 미치는 법안
AB 2355 및 AB 2655 - 정치 광고의 AI 사용
이 법안들은 정치 광고 및 선거 관련 콘텐츠에서 AI 및 딥페이크 콘텐츠의 사용에 대한 규제를 도입하여 투명성과 무결성을 촉진합니다.
구체적으로:
AB 2355: AI로 생성되거나 변경된 내용을 사용하는 정치 광고는 AI를 사용하여 생성되었음을 명확히 알리는 공개 정보를 포함해야 합니다.
AB 2655: 온라인 플랫폼이 기만적인 선거 관련 콘텐츠를 차단하거나 라벨을 붙이도록 의무화하고, 그러한 콘텐츠를 신고할 수 있는 메커니즘을 제공합니다.
주요 요점:
이 법안들은 생성적 AI(genAI) 기능이 발전함에 따라 사실과 허구를 구별하기 점점 더 어려워지고 있는 민주적 과정의 무결성을 보호하기 위한 중요한 선례를 설정합니다. AI로 생성된 정치 광고(AB 2355)의 명확한 공개 정보를 요구하고, misleading election content (AB 2655)를 라벨링하거나 제거할 것을 플랫폼에 의무화함으로써, 이러한 법률은 조작된 미디어와 딥페이크의 영향을 억제하려고 합니다. 이 규제적 프레임워크는 정치 커뮤니케이션의 투명성을 보장하고 AI로 생성된 콘텐츠가 쉽게 기만할 수 있는 시대에서 유권자의 신뢰를 유지하는 데 필수적입니다.
AB 2355 전문:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2355
AB 2655 전문:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2655
AB 1836 - 고인의 디지털 복제물
AB 1836은 고인의 목소리나 외모의 무단 상업적 사용을 권리 소유자의 사전 동의 없이 금지합니다. 이 법은 무authorization으로 상업적 목적으로 그러한 디지털 복제물을 제작, 배포 또는 제공하는 개인 및 단체를 대상으로 합니다. 위반자에게 중대한 손해를 부과함으로써, AB 1836은 고인의 유산과 권리를 보호하고 AI로 생성된 콘텐츠를 통한 착취를 방지하려 합니다.
주요 요점:
AI 기술이 발전함에 따라 누군가의 목소리나 외모를 복제하는 것이 점점 더 접근 가능해지고 있으며, 이는 남용과 착취에 대한 우려를 초래합니다. AB 1836은 고인의 디지털 복제물의 상업적 사용을 위한 법적 요구 사항을 설정하여 이러한 윤리적 문제를 해결하기 위한 진전을 보여줍니다. 권리 소유자에게 명시적인 동의를 요구하고, 무단 사용에 대해 중대한 처벌을 부과함으로써 이 법은 개인 신원 착취로부터 보호하려고 하며, 생성적 AI의 책임 있는 사용을 위한 선례를 설정합니다. 이 법은 AI 개발을 위한 윤리적 프레임워크에 기여하여, 복제 기술이 발전함에 따라 개인의 권리와 유산이 보호되도록 보장합니다.
법안 전문:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB1836
SB 926 및 SB 981 - AI 생성 명시적 콘텐츠로부터의 보호
SB 926과 SB 981은 동의 없이 생성적 AI를 사용하여 명시적 콘텐츠를 생성하는 것을 방지하고 해로운 및 무단 사용을 줄이기 위한 법적 조치입니다. 이 법은 딥페이크 기술의 남용을 다루고, 개인의 프라이버시 및 디지털 아이덴티티 보호에 있어 창작자와 플랫폼의 책임을 명확히 합니다.
SB 926은 개인의 동의 없이 사실적인 AI 생성 친밀한 이미지를 의도적으로 생성 및 배포하는 것을 범죄로 규정합니다. 여기에는 성적으로 노골적인 방식으로 등장인을 나타내는 비동의 딥페이크가 포함되며, 이러한 남용을 억제하기 위해 처벌이 부과됩니다.
SB 981은 소셜 미디어 플랫폼에 사용자들이 성적으로 명시적인 디지털 아이덴티티 도용을 신고할 수 있는 메커니즘을 제공할 것을 요구합니다. 플랫폼은 이러한 콘텐츠를 신속하게 조사하고 제거하여 피해자가 즉각적인 구제를 받을 수 있는 경로를 제공해야 합니다.
주요 요점:
생성적 AI가 점점 더 접근 가능해짐에 따라, 비동의 명시적 콘텐츠를 생성할 가능성이 커집니다. SB 926과 SB 981은 무단으로 AI로 생성된 친밀한 콘텐츠를 범죄화하고, 해로운 자료를 신속히 제거할 법적 책임을 플랫폼에게 부여하여 중요한 보호 조치를 설정합니다. 이 조치는 윤리적 AI 사용의 중요성을 강조하며, 개인의 프라이버시 및 동의, 그리고 기술 책임 사용의 필요성을 강조하여, genAI가 진전함에 따라 개인이 정서적 및 평판 손해를 입지 않도록 보호를 강화하는 데 기여합니다.
SB 926 전문:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB926
SB 981 전문:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB981
AB 1831 및 SB 1381 - CSAM 법 조항 확장
AB 1831과 SB 1381은 아동 성적 학대 자료(CSAM)의 정의를 확장하여 미성년자를 묘사하는 AI 또는 디지털 수단으로 생성되거나 수정된 콘텐츠를 포함합니다. 이러한 법안은 AI로 생성된 CSAM을 생성, 배포 또는 소지하는 것을 불법으로 규정하며, 심각한 처벌, 즉 중범죄 고발 및 징역형을 포함합니다. 이 법률은 미성년자의 불법 콘텐츠를 만드는 데 사용하는 첨단 기술이 야기하는 신흥 위협을 다루고, 이전에는 존재했던 법적 허점을 메웁니다.
주요 요점:
AB 1831과 SB 1381은 AI 기술이 더욱 정교해지고 접근 가능해짐에 따라, 윤리적 기준과 취약한 인구 보호를 지키기 위해 필수적입니다. AI 개발자는 AB 1831과 SB 1381의 직접적인 대상은 아니지만, 자사의 기술이 AI로 생성된 CSAM을 생성하는 데 사용되지 않도록 예방 조치를 취해야 합니다. 이를 통해 미성년자 착취를 방지하고, 윤리적 기준에 동조하며, 법적 및 평판 위험을 줄이는 데 기여할 수 있습니다.
AB 1831 전문:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB1831
SB 1381 전문:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB1381
AI의 미래에 미치는 영향
캘리포니아의 GenAI 법률은 책임 있는 AI 거버넌스에 대한 새로운 기준을 설정하고 있습니다. 투명성, 프라이버시 및 윤리적 사용을 강조함으로써 이러한 법률은 혁신을 억제하지 않으면서 위험을 완화하는 것을 목표로 하고 있습니다. 이는 AI 개발이 사회적 가치와 일치하고 개인을 보호하며 AI 기술에 대한 신뢰를 조성하도록 보장합니다. AI가 일상 생활에 통합됨에 따라, 이러한 유형의 규제 프레임워크는 AI가 기술 진보의 긍정적인 힘으로 남아 있도록 보장합니다.
윤리적 AI 개발의 최전선에 남아 있고 AI의 전체 잠재력을 활용하기 위해서는 캘리포니아의 GenAI 법률과 같은 규제 변화의 의미를 이해하는 것이 중요합니다. 사하라 AI에서는 모든 사용자에게 보안, 공정성 및 접근 가능성을 보장하는 분산형, 투명한, 프라이버시 중심의 AI 생태계를 구축하기 위해 노력하고 있습니다. 대기자 명단에 가입해 최신 발전 사항을 확인하고 윤리적 AI의 미래를 형성하는 운동에 참여하세요.
