В сентябре губернатор Калифорнии Гэвин Ньюсом рассмотрел 38 законопроектов, связанных с искусственным интеллектом, включая весьма спорный SB 1047, который законодательное собрание штата отправило ему на стол для окончательного утверждения. Он наложил вето на SB 1047 в воскресенье, положив конец спорному калифорнийскому законопроекту об искусственном интеллекте, который пытался предотвратить катастрофы с искусственным интеллектом, но в этом месяце подписал более десятка других законопроектов об искусственном интеллекте. Эти законопроекты направлены на решение самых насущных проблем в области искусственного интеллекта: все, начиная от Al risk и заканчивая подделкой обнаженной натуры, созданной генераторами изображений ИИ, и голливудскими студиями, создающими ИИ-клоны умерших исполнителей.
“Калифорния, где проживает большинство ведущих мировых компаний в области искусственного интеллекта, работает над использованием этих преобразующих технологий для решения насущных проблем, изучая риски, которые они представляют”, – говорится в пресс-релизе офиса губернатора Ньюсома.
На данный момент губернатор Ньюсом подписал 18 законопроектов об искусственном интеллекте, некоторые из которых являются наиболее далеко идущими законами Америки о генеративном ИИ. Вот что они делают.
Риск искусственного интеллекта
В воскресенье губернатор Ньюсом подписал закон SB 896, который требует от Управления экстренных служб Калифорнии проводить анализ рисков потенциальных угроз, создаваемых генеративным ИИ. CalOES будет работать с компаниями, занимающимися моделированием передовых технологий, такими как OpenAI и Anthropic, для анализа потенциальных угроз искусственного интеллекта критически важной государственной инфраструктуре, а также угроз, которые могут привести к массовым жертвам.
Данные обучения
Другой закон, подписанный Ньюсом в этом месяце, требует от поставщиков генеративного ИИ раскрывать данные, используемые для обучения их систем ИИ, в документации, опубликованной на их веб-сайте. AB 2013 вступает в силу в 2026 году и требует от поставщиков искусственного интеллекта публиковать: источники своих наборов данных, описание того, как используются данные, количество точек данных в наборе, включены ли данные, защищенные авторским правом или лицензированные, период времени, за который данные были собраны, среди других стандартов.
Конфиденциальность и системы искусственного интеллекта
Ньюсом также подписал AB 1008 в воскресенье, в котором разъясняется, что существующие законы Калифорнии о конфиденциальности распространяются и на генеративные системы искусственного интеллекта. Это означает, что если система искусственного интеллекта, такая как ChatGPT, раскрывает чью-либо личную информацию (имя, адрес, биометрические данные), существующие законы Калифорнии о конфиденциальности ограничат то, как компании могут использовать эти данные и получать прибыль от них.
Образование
В этом месяце Ньюсом подписал AB 2876, который требует, чтобы Государственный совет по образованию Калифорнии учитывал “грамотность в области искусственного интеллекта” в своих учебных программах по математике, естественным наукам и истории и в учебных материалах. Это означает, что школы Калифорнии могут начать обучать учащихся основам работы искусственного интеллекта, а также ограничениям, последствиям и этическим соображениям использования технологии.
Другой новый закон, SB 1288, требует от суперинтендантов Калифорнии создавать рабочие группы для изучения того, как искусственный интеллект используется в государственном школьном образовании.
Определение искусственного интеллекта
В этом месяце Ньюсом подписал законопроект, который устанавливает единое определение искусственного интеллекта в законодательстве Калифорнии. AB 2885 гласит, что искусственный интеллект определяется как “спроектированная или основанная на машинах система, которая отличается по уровню автономии и которая может для явных или неявных целей выводить из получаемых входных данных, как генерировать выходные данные, которые могут влиять на физическую или виртуальную среду”.
Здравоохранение
Другой законопроект, подписанный в сентябре, – AB 3030, который требует от поставщиков медицинских услуг раскрывать информацию, когда они используют генеративный искусственный интеллект для общения с пациентом, особенно когда эти сообщения содержат клиническую информацию пациента.
Между тем, Newsom недавно подписал SB 1120, который накладывает ограничения на то, как поставщики медицинских услуг и медицинские страховщики могут автоматизировать свои услуги. Закон гарантирует, что лицензированные врачи контролируют использование инструментов искусственного интеллекта в этих условиях.
ИИ и робо-звонки
В прошлую пятницу губернатор Ньюсом подписал законопроект, требующий от robocalls (компания “авто-звонки”) раскрывать, использовали ли они голоса, сгенерированные искусственным интеллектом. AB 2905 направлен на предотвращение еще одного случая подделки робо-звонков, напоминающих голос Джо Байдена, который привел в замешательство многих избирателей Нью-Гэмпшира ранее в этом году.
Подделка пор***
В воскресенье Ньюсом подписал закон AB 1831, который расширяет сферу действия существующих законов о дет*** пор***, включая материалы, генерируемые системами искусственного интеллекта.
На прошлой неделе Ньюсом подписал два закона, которые касаются создания и распространения фейковых обнаженных изображений. SB 926 устанавливает уголовную ответственность за это деяние, делая незаконным шантаж кого-либо изображениями обнаженной натуры, созданными искусственным интеллектом и похожими на них.
SB 981, который также вступил в силу в четверг, требует, чтобы платформы социальных сетей создавали каналы, по которым пользователи сообщали о подделках обнаженной натуры, которые напоминают их. Затем контент должен быть временно заблокирован, пока платформа проводит расследование, и удален навсегда, если это подтвердится.
Водяные знаки
Также в четверг Ньюсом подписал закон, который поможет общественности распознавать контент, созданный искусственным интеллектом. SB 942 требует, чтобы широко используемые системы генеративного искусственного интеллекта указывали, что контент создан искусственным интеллектом, в данных о происхождении контента. Например, все изображения, созданные Dall-E от OpenAI, теперь должны иметь небольшую пометку в метаданных о том, что они созданы искусственным интеллектом.
Многие компании, занимающиеся искусственным интеллектом, уже делают это, и существует несколько бесплатных инструментов, которые помогают людям считывать эти данные о происхождении и выявлять контент, созданный искусственным интеллектом.
Фальсификации выборов
Ранее на этой неделе губернатор Калифорнии подписал три закона о борьбе с подделками искусственного интеллекта, которые могут повлиять на выборы.
Один из новых законов Калифорнии, AB 2655, требует от крупных онлайн-платформ, таких как Facebook и X, удалять или маркировать подделки искусственного интеллекта, связанные с выборами, а также создавать каналы для сообщения о таком контенте. Кандидаты и избранные должностные лица могут добиваться судебного запрета, если крупная онлайн-платформа не соблюдает закон.
Другой закон, AB 2839, направлен против пользователей социальных сетей, которые публикуют или перепечатывают подделки искусственного интеллекта, которые могут ввести избирателей в заблуждение относительно предстоящих выборов. Закон вступил в силу немедленно во вторник, и Ньюсом предположил, что Илон Маск может быть подвержен риску его нарушения.
Политическая реклама, созданная искусственным интеллектом, теперь требует прямого раскрытия информации в соответствии с новым законом Калифорнии, AB 2355. Это означает, что, продвигаясь вперед, Трампу, возможно, не удастся избежать наказания за публикацию глубоких подделок Тейлор Свифт, одобряющей его в Truth Social (она поддержала Камалу Харрис). FCC предложила аналогичное требование о раскрытии информации на национальном уровне и уже объявила незаконными робозвонки с использованием голосов, генерируемых искусственным интеллектом.
Действующие лица и искусственный интеллект
Два закона, подписанные Ньюсомом ранее в этом месяце, на которых настаивал SAG—AFTRA, крупнейший в стране профсоюз актеров кино и телерадиовещания, создают новые стандарты для медиаиндустрии Калифорнии. AB 2602 требует, чтобы студии получали разрешение от актера , прежде чем создавать сгенерированную искусственным интеллектом копию его голоса или подобия.
Между тем, AB 1836 запрещает студиям создавать цифровые копии умерших исполнителей без согласия их владельцев (например, юридически разрешенные копии использовались в недавних фильмах “Чужой” и “Звездные войны”, а также в других фильмах).
На SB 1047 наложено вето
Губернатору Ньюсому ещё предстоит принять решение по нескольким законопроектам, связанным с искусственным интеллектом, до конца сентября. Однако SB 1047 не входит в их число — законопроект был отклонён в воскресенье.
В письме, объясняющем его решение, Ньюсом заявил, что SB 1047 слишком узко фокусируется на крупных системах искусственного интеллекта, которые могут «создавать у общественности ложное чувство безопасности». Губернатор Калифорнии отметил, что небольшие модели искусственного интеллекта могут быть столь же опасными, как и те, на которые нацелен SB 1047, и заявил, что необходим более гибкий подход к регулированию.
Во время беседы с генеральным директором Salesforce Марком Бениоффом в начале этого месяца на конференции Dreamforce 2024 Ньюсом возможно, намекнул на SB 1047 и на то, как он относится к регулированию индустрии ИИ в целом.
«Есть один законопроект, который занимает особое место в общественном дискурсе и сознании; это SB 1047, — сказал Ньюсом на сцене в этом месяце. — Каковы очевидные риски, связанные с ИИ, и каковы гипотетические риски? Я не могу решить все проблемы. Что мы можем решить? И именно такой подход мы используем в этом вопросе».
