캘리포니아의 최신 GenAI 법률 이해: AI 개발자 및 AI 소비자에 대한 의미
2024. 10. 9.
캘리포니아 주지사 개빈 뉴섬은 최근 생성적 인공지능(GenAI) 규제에 대한 주의 접근 방식을 재정의하는 여러 법안에 서명했습니다. 이러한 법안은 AI 개발자, AI를 통합한 기업 및 소비자 모두에게 중요한 의미가 있습니다.
비록 이러한 법은 주별로 특정하지만, 캘리포니아의 기술과 정책에 대한 영향력 덕분에 더 폭넓은 영향을 미칠 가능성이 높습니다. 구글, OpenAI, 메타와 같은 기술 거물들의 본고장인 캘리포니아는 종종 글로벌 관행을 형성하는 산업 표준을 설정합니다.
이 기사는 이러한 법안 각각의 주요 세부 사항, 그 영향 대상 및 AI의 미래에 미칠 수 있는 의미를 설명합니다.
AI 개발자에 영향을 미치는 법안
AB 2013 - AI 훈련 데이터의 투명성
2022년 1월 1일 이후에 출시된 생성적 인공지능(GenAI) 시스템 또는 서비스의 모든 개발자는 회사나 프로젝트의 규모에 관계없이 2026년 1월 1일까지 AI 모델을 훈련시키기 위해 사용한 데이터에 대한 자세한 정보를 공개해야 합니다.
개발자는 웹사이트에 다음을 포함한 포괄적인 문서를 게시해야 합니다:
사용된 데이터셋의 요약.
데이터 출처 및 소유자.
데이터 유형 및 AI 목적과의 관련성.
저작권, 상표 또는 특허 보호에 대한 세부 정보.
포함된 개인 또는 소비자 데이터에 대한 정보.
합성 데이터의 사용.
그러나 이 법안에 명시된 특정 면제 사항이 있으며 이 요구 사항이 적용되지 않습니다:
보안 및 무결성을 위한 목적: 정보 시스템의 보안 및 무결성을 유지하기 위해 개발된 GenAI 시스템.
항공기 운영: 국가 공역 시스템에서 항공기를 운영하는 데 사용되는 시스템.
국가 안보 또는 방어: 국가 안보 또는 방어 목적을 위해 독점적으로 개발된 AI로, 연방 정부나 그 계약자에게만 제공됩니다.
주요 요점:
2022년 1월 1일 이후 캘리포니아에서 생성적 AI 시스템 또는 서비스를 출시한 개발자이거나 프로젝트의 일원이라면 위에서 언급한 특정 면제 사항에 해당하지 않는 한 AB 2013의 투명성 의무를 준수해야 합니다. AB 2013은 AI 개발의 투명성과 윤리적 관행을 늘리는 것을 목표로 하고 있지만, 많은 기업들이 경쟁 및 법적 우려로 인해 훈련 데이터를 공개하는 것을 주저하고 있습니다. 이러한 주저함은 투명성을 촉진하려는 규제 노력과 독점 정보를 보호하고 법적 위험을 최소화하려는 산업 우선 사항 간의 긴장을 강조합니다.
법안 내용:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2013
SB 942 - 출처 공개 및 식별 도구
GenAI 시스템 제공자는 AI가 생성한 콘텐츠에 식별 가능한 공개를 포함하고 그러한 콘텐츠를 검증하기 위한 무료 AI 탐지 도구를 제공합니다.
제공자는 다음을 수행해야 합니다:
AI가 생성한 콘텐츠에 명시적 및 잠재적 공개를 포함합니다.
무료로 공개 가능한 AI 탐지 도구를 제공합니다.
필수 공개를 제거한 제3자로부터 면허를 취소합니다.
명시적 공개는 콘텐츠가 AI가 생성되었다는 것을 일반 사용자에게 이해할 수 있도록 직접적으로 나타내는 명확하고 가시적인 라벨이나 음성 진술입니다. 잠재적 공개는 AI 제공자의 이름, 버전 및 생성 날짜와 같은 세부 정보를 제공하는 메타데이터로, AI 탐지 도구를 통해 감지할 수 있습니다. 이러한 공개는 사용자가 AI가 생성한 자료를 더 잘 식별하고, 속임수의 위험을 줄이며, 생성적 AI 사용에 대한 신뢰를 증진하기 위해 적합합니다.
주요 요점:
SB 942는 생성적 AI 시스템이 투명성을 보장하기 위해 명시적 및 잠재적 공개를 출력물에 직접 삽입해야 한다고 요구합니다. 이는 AI가 생성하는 모든 콘텐츠가 그것이 AI가 생성되었다는 것을 나타내는 가시적인 라벨과 메타데이터를 포함해야 함을 의미합니다. 이러한 공개는 누군가 콘텐츠를 복사하거나 공유하더라도 이상적으로는 그대로 남아 있어야 하지만, 법안은 생성 시점에 AI 제공자가 포함해야 하는 책임에 초점을 맞추고 있습니다. 사용자가 수동으로 콘텐츠를 수정하거나 전송하면, 콘텐츠 유형에 따라 이러한 공개를 유지하는 것이 덜 시행 가능할 수 있습니다.
법안 내용:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB942
AI 통합 기업에 영향을 미치는 법안
AB 1008 - AI 및 캘리포니아 소비자 개인정보 보호법 (CCPA)
캘리포니아 소비자 개인정보 보호법 (CCPA)—개인 권리와 소비자 보호를 향상하기 위한 주 법안을 수정하여 개인 정보에는 개인 정보를 출력할 수 있는 AI 시스템을 포함해 물리적, 디지털, 추상적 형식의 데이터를 포함함을 명확히 합니다.
이 법안은 정의를 확대하여 특별히 다음을 포함합니다:
모든 형식의 개인 정보.
신경 데이터와 같은 민감한 개인 정보.
업데이트된 데이터 기준을 준수해야 하는 기업의 의무.
이는 AI 개발자가 AI 시스템에 의해 처리되거나 생성된 물리적, 디지털 또는 추상적 형식의 모든 개인 정보를 캘리포니아 소비자 개인정보 보호법(CCPA)에 따라 완전히 처리해야 함을 의미합니다. 이는 개인 데이터가 수집, 사용 및 공유되는 방법을 투명하게 공개하기 위해 개인정보 보호 정책을 업데이트하고, 데이터를 수집하기 전에 개인의 명시적인 동의를 얻고, 소비자가 자신의 개인 정보에 접근하고, 삭제하거나 판매의 옵트 아웃을 요청할 수 있는 명확한 메커니즘을 제공하고, 이 데이터를 보호하기 위한 강력한 보안 조치를 구현하는 것을 포함합니다.
개발자는 또한 AI 시스템이 개인 정보를 우발적으로 출력하거나 잘못 사용할 수 없도록 하고, 모든 훈련 데이터가 합법적이고 윤리적으로 출처와 처리되도록 해야 합니다.
주요 요점:
AI 개발자는 모든 개인 정보—AI 시스템이 처리하거나 출력하는 데이터 포함—가 CCPA 준수에 따라 처리되도록 하기 위해 AB 1008에 따라 자신의 관행을 조정해야 합니다. 이는 투명성을 위한 개인정보 보호 정책을 업데이트하고, 데이터 수집에 대한 적절한 동의를 얻고, 개인 정보 판매의 접근, 삭제 또는 옵트 아웃에 대한 소비자의 권리를 존중하며, 개인 데이터를 보호하기 위한 강력한 보안 조치를 구현하고, AI 시스템이 개인 정보를 우발적으로 오용하거나 공개하지 않도록 보장하는 것을 포함합니다.
법안 내용:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB1008
AB 2602 - 동의 및 디지털 복제물
개인의 음성 또는 외모의 디지털 복제물 사용과 관련된 계약 조항은 명시적이고 정보에 입각한 동의가 있어야만 집행 가능합니다.
법안에 따르면, 계약은 다음과 같으면 집행할 수 없습니다:
특정 의도된 사용 없이 디지털 복제물의 사용을 허용하는 경우.
개인의 법적 대리 없이 동의한 경우.
적절한 동의 없이 개인의 작업을 디지털 복제물로 대체할 수 있는 경우.
주요 요점:
AB 2602를 준수하기 위해, AI 개발자와 기업은 개인의 음성 또는 외모의 디지털 복제물 사용과 관련된 계약이 복제물의 의도된 사용에 대한 명확한 구체적 설명을 포함하도록 해야 합니다. 또한, 계약 협상 동안 개인이 동의를 확인하기 위해 법적 대리인을 두어야 합니다. 이러한 요구 사항을 충족하지 않으면 계약 조항이 집행 불가능하게 되므로, 개인의 디지털 신원을 무단으로 사용하거나 비윤리적으로 사용되는 것을 방지할 수 있습니다.
법안 내용:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2602
AB 3030 - 의료 커뮤니케이션의 GenAI
AB 3030은 생성적 AI(GenAI)를 환자 커뮤니케이션에 사용하는 의료 제공자가 명확한 경고를 포함하고 인간 제공자의 연락처 정보를 제공할 것을 요구합니다. 구체적으로, AI가 생성한 서면, 오디오 및 비디오 커뮤니케이션은 그 AI 출처를 두드러지게 명시해야 합니다:
서면 자료에는 시작 부분에 경고가 있어야 하며,
오디오 상호작용은 시작 및 끝에서 구두 경고가 필요하며,
비디오 콘텐츠는 전체에 걸쳐 경고를 표시해야 합니다.
또한, 환자에게 추가 지원을 위한 인간 의료 제공자에게 연락하는 방법에 대한 지침을 제공해야 합니다. 면허가 있는 인간 제공자가 AI가 생성한 커뮤니케이션을 검토하고 개인적으로 전달하는 경우에는 면제가 적용됩니다.
주요 요점:
의료 제공자는 AI가 생성한 환자 자료에 필요한 경고 및 인간 연락처 정보를 포함하도록 커뮤니케이션 프로토콜을 업데이트해야 합니다. 제공자는 또한 필요할 경우 면제 요구 사항을 우회하기 위해 면허가 있는 인간 전문가가 AI 커뮤니케이션을 검토하는 프로세스를 수립해야 합니다. 직원은 이러한 업데이트된 절차를 교육받아야 하며, AB 3030의 준수를 확인하기 위해 정기적인 준수 감사가 실시되어야 하며, 투명성과 환자 신뢰를 보장합니다.
법안 내용:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB3030
SB 896 - GenAI의 주 사용 및 위험 분석
SB 896, 생성적 인공지능 책임법은 캘리포니아 주 기관이 생성적 AI(GenAI)를 사용할 때 투명성, 프라이버시, 형평성 및 책임을 보장하기 위한 요건을 설정합니다.
주 기관은 다음을 수행해야 합니다:
GenAI 위협에 대한 연간 위험 분석을 수행하고 결과를 입법부에 보고합니다.
AI가 생성한 커뮤니케이션에 명확하고 두드러진 경고를 포함하고 인간 대표의 연락처 정보를 제공해야 합니다.
프라이버시를 보호하고, 편향을 최소화하며, AI 시스템의 투명성을 보장하여 책임 있는 AI 사용을 촉진합니다.
직원을 AI 역할을 위해 교육하기 위한 인력 개발에 참여하고 윤리 및 프라이버시에 중점을 둡니다.
주요 요점:
SB 896은 AI 기술에 대한 대중의 신뢰를 구축하는 것을 목표로 하며, 이는 AI 생태계의 지속 가능한 성장에 필수적입니다. 주 기관에서 사용하는 AI 생성 커뮤니케이션에서 투명성, 프라이버시 및 책임을 시행함으로써 이 법안은 책임 있는 AI 사용을 위한 선례를 설정합니다. 이는 AI가 신뢰할 수 있는 도구로 인식될 수 있도록 도와주며, 소비자 신뢰를 높이고 더 넓은 채택을 촉진하여 궁극적으로 산업의 성장과 수용을 지지합니다.
법안 내용:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB896
AI를 사용하는 소비자에 영향을 미치는 법안
AB 2355 및 AB 2655 - 정치 광고의 AI
이 법안은 정치 광고 및 선거 관련 콘텐츠에서 AI와 딥페이크 콘텐츠 사용에 대한 규제를 도입하여 투명성 및 정직성을 촉진합니다.
구체적으로:
AB 2355: AI가 생성되거나 수정된 콘텐츠를 사용하는 정치 광고는 그것이 AI를 사용하여 생성되었다는 명확한 공개를 포함해야 합니다.
AB 2655: 온라인 플랫폼에 기만적인 선거 관련 콘텐츠를 차단하거나 라벨을 붙이도록 의무화하며, 그러한 콘텐츠를 신고할 수 있는 메커니즘을 제공합니다.
주요 요점:
이 법안은 생성적 AI(genAI) 기술이 발전함에 따라 사실과 허구를 구별하기 점점 더 어려워지는 가운데 민주적 과정의 무결성을 보호하는 중요한 선례를 설정합니다. AI가 생성한 정치 광고에 대한 명확한 공개를 요구하는 AB 2355와 기만적인 선거 콘텐츠를 라벨을 붙이거나 제거하도록 플랫폼에 의무화하는 AB 2655는 조작된 미디어와 딥페이크의 영향을 억제하는 것을 목표로 합니다. 이러한 규제 프레임워크는 정치적 의사소통의 투명성을 보장하고 AI가 생성한 콘텐츠가 쉽게 속일 수 있는 시대에 유권자의 신뢰를 유지하는 데 필수적입니다.
AB 2355 내용:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2355
AB 2655 내용:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB2655
AB 1836 - 고인의 디지털 복제물
AB 1836은 고인의 목소리나 외모를 디지털 복제물 형태로 상업적으로 무단 사용할 수 없도록 하며, 권리 보유자의 사전 동의가 필요합니다. 이 법은 고인의 권리와 유산을 보호하고 AI가 생성한 콘텐츠를 통해 착취를 방지하기 위해 이러한 디지털 복제물을 생산, 배포 또는 제공하는 개인 및 단체를 대상으로 합니다.
주요 요점:
AI 기술이 발전함에 따라 누구의 목소리나 외모를 복제하는 것이 점점 더 접근 가능해져, 남용 및 착취에 대한 우려가 제기되고 있습니다. AB 1836은 고인의 디지털 복제물의 상업적 사용에 대한 법적 요구 사항을 설정하여 이러한 윤리적 문제를 해결하는 한 걸음입니다. 권리 보유자의 명시적 동의를 요구하고 무단 사용에 대한 상당한 처벌을 부과함으로써 이 법안은 개인의 신원을 착취로부터 보호하고, 생성적 AI의 책임 있는 사용을 위한 선례를 설정하는 데 기여합니다. 이 법은 AI 개발을 위한 보다 윤리적인 틀을 제공하여 복제 기술이 진화할 때 개인의 권리와 유산이 보호되도록 합니다.
법안 내용:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB1836
SB 926 및 SB 981 - AI 생성 명시적 콘텐츠에 대한 보호
SB 926 및 SB 981은 무단으로 생성적 AI를 사용하여 명시적 콘텐츠를 제작하는 것을 제한하기 위한 법안입니다. 이 법은 딥페이크 기술의 남용을 다루고 개인의 프라이버시와 디지털 신원을 보호하는 역할을 하는 제작자와 플랫폼에 책임을 부과합니다.
SB 926는 개인의 동의 없이 현실적인 AI가 생성한 친밀한 이미지를 의도적으로 생성 및 배포하는 것을 범죄로 간주합니다. 이는 비동의 딥페이크를 포함하여 성적으로 노골적인 방식으로 사람을 묘사하는 경우이며, 이러한 남용을 억제하기 위해 처벌이 부과됩니다.
SB 981는 소셜 미디어 플랫폼에 사용자들이 성적으로 노골적인 디지털 신원 도용 사례를 신고할 수 있는 메커니즘을 제공하도록 요구합니다. 플랫폼은 이러한 콘텐츠를 신속하게 조사하고 제거해야 하며, 피해자에게 신속한 구제를 받을 수 있는 경로를 제공해야 합니다.
주요 요점:
생성적 AI가 점점 더 접근 가능해짐에 따라 무단으로 생성된 성적 콘텐츠의 가능성도 현저히 증가합니다. SB 926과 SB 981은 무단 AI가 생성한 친밀한 콘텐츠를 범죄화하고, 플랫폼에 해로운 자료의 신속한 제거를 책임지게 함으로써 중요한 보호 조치를 설정합니다. 이러한 조치는 윤리적 AI 사용의 중요성을 강조하며, 프라이버시, 동의 및 개인을 정서적 및 평판상의 피해로부터 보호하기 위한 책임 있는 기술 배치의 필요성을 강조합니다.
SB 926 내용:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB926
SB 981 내용:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB981
AB 1831 및 SB 1381 - CSAM 법제 확대
AB 1831과 SB 1381은 미성년자를 묘사하는 인공지능(AI) 또는 디지털 수단으로 생성되거나 변경된 아동 성적 학대 자료(CSAM)의 정의를 확장하는 법안입니다. 이 법안은 AI가 생성한 CSAM을 제작, 배포 또는 소유하는 것을 불법으로 규정하며, 중범죄와 징역형을 포함한 엄중한 처벌을 부과합니다. 이 법안은 불법 콘텐츠에서 미성년자의 사실적이고 인공적인 묘사를 생성할 수 있는 첨단 기술의 출현으로 인한 위협을 다루며, 이전에 존재했던 법적 맹점을 해소합니다.
주요 요점:
AB 1831과 SB 1381은 AI 기술이 더욱 정교해지고 접근 가능해짐에 따라 윤리적 기준을 유지하고 취약한 인구를 보호하는 데 필수적입니다. AI 개발자는 AB 1831과 SB 1381의 직접적인 대상은 아니지만, 자신의 기술이 AI가 생성한 CSAM을 제작하는 데 사용되지 않도록 예방 조치를 도입하는 데 적극적이어야 합니다. 이를 통해 미성년자의 착취와 윤리 기준 준수, 잠재적 법적 및 평판 위험을 줄이는데 기여할 수 있습니다.
AB 1831 내용:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240AB1831
SB 1381 내용:
https://leginfo.legislature.ca.gov/faces/billNavClient.xhtml?bill_id=202320240SB1381
AI의 미래에 대한 의미
캘리포니아의 GenAI 법안은 책임 있는 AI 관리의 새로운 기준을 설정합니다. 투명성, 프라이버시 및 윤리적 사용을 강조함으로써 이러한 법은 혁신을 억제하지 않으면서도 위험을 완화하려고 합니다. 이들은 AI 개발이 사회적 가치에 부합하여 개인을 보호하고 AI 기술에 대한 신뢰를 구축하는 것을 보장합니다. AI가 일상 생활에 계속 통합됨에 따라 이러한 종류의 규제 프레임워크는 AI가 기술 발전의 긍정적인 힘으로 남아 있도록 보장합니다.
윤리적 AI 개발의 최전선에 서고 AI의 모든 잠재력을 활용하려면 캘리포니아의 GenAI 법과 같은 규제 변화의 의미를 이해하는 것이 중요합니다. 사하라 AI에서는 모든 사용자를 위한 안전, 형평성 및 접근성을 보장하는 탈중앙화, 투명성 및 프라이버시 우선의 AI 생태계를 구축하는 데 전념하고 있습니다. 대기 명단에 가입하여 최신 발전 사항에 대한 정보를 받고 윤리적 AI 미래를 형성하는 운동의 일원이 되어 주시기 바랍니다.
