Компания OpenAI присоединила свой голос к растущему хору технологических лидеров и политиков, выступающих против спорного законопроекта о безопасности ИИ в Калифорнии. Компания утверждает, что этот законопроект, SB 1047, подавит инновации и что регулирование должно осуществляться на федеральном уровне.
В письме, направленном в офис сенатора штата Калифорния Скотта Винера, OpenAI выразила обеспокоенность тем, что законопроект может иметь «широкие и значительные» последствия для конкурентоспособности и национальной безопасности США. Компания утверждает, что SB 1047 поставит под угрозу положение Калифорнии как мирового лидера в области ИИ, побуждая талантливых специалистов искать «более широкие возможности в других странах».
Законопроект, представленный сенатором Винером, направлен на введение «здравых стандартов безопасности» для компаний, разрабатывающих крупные модели ИИ, превышающие определенные пороговые значения по размеру и стоимости. Эти стандарты потребуют от компаний внедрения механизмов отключения, принятия «разумных мер» для предотвращения катастрофических последствий и предоставления отчетов о соблюдении требований генеральному прокурору Калифорнии. Невыполнение требований может привести к судебным искам и гражданским штрафам.
Генерал-лейтенант Джон (Джек) Шанахан, служивший в ВВС США и ставший первым директором Объединенного центра искусственного интеллекта Министерства обороны США (JAIC), считает, что законопроект «вдумчиво рассматривает серьезные риски, которые ИИ представляет как для гражданского общества, так и для национальной безопасности», и предлагает «прагматичные решения».
Достопочтенный Эндрю К. Вебер, бывший помощник министра обороны США по программам ядерной, химической и биологической защиты, поддержал обеспокоенность национальной безопасностью.
«Кража мощной системы ИИ из ведущей лаборатории нашими противниками создаст значительные риски для всех нас», – сказал Вебер. «Разработчики самых передовых систем ИИ должны принимать значительные меры предосторожности в области кибербезопасности, учитывая потенциальные риски, связанные с их работой. Я рад видеть, что SB 1047 помогает установить необходимые меры защиты».
SB 1047 вызвал яростную оппозицию со стороны крупных технологических компаний, стартапов и венчурных капиталистов, которые утверждают, что он слишком сильно влияет на зарождающуюся технологию, потенциально подавляя инновации и вытесняя бизнес из штата. Эти опасения разделяет и OpenAI: источники сообщают, что компания приостановила планы по расширению своих офисов в Сан-Франциско из-за неопределенности нормативно-правовой базы.
Сенатор Винер выступил в защиту законопроекта, заявив, что в письме OpenAI «не критикуется ни одно положение». Он назвал опасения по поводу оттока талантливых специалистов «бессмыслицей», заявив, что закон будет применяться к любой компании, ведущей бизнес в Калифорнии, независимо от ее физического местонахождения. Винер особо отметил «весьма разумное» требование законопроекта к крупным лабораториям искусственного интеллекта тестировать свои модели на предмет катастрофических рисков безопасности, что многие уже сделали.
Критики, однако, утверждают, что обязательное предоставление подробной информации о моделях правительству будет препятствовать инновациям. Они также опасаются, что угроза судебных исков отпугнет мелких разработчиков с открытым исходным кодом от создания стартапов. В ответ на это сенатор Винер недавно внес поправки в законопроект, чтобы исключить уголовную ответственность для компаний, не соблюдающих требования, обезопасить мелких разработчиков и убрать предлагаемый «Отдел пограничных моделей».
OpenAI считает, что четкие федеральные рамки, а не регулирование на уровне штатов, необходимы для сохранения общественной безопасности и конкурентоспособности США по отношению к таким конкурентам, как Китай. Компания подчеркнула пригодность федеральных агентств, таких как Управление научно-технической политики Белого дома и Министерство торговли, для регулирования рисков ИИ.
Сенатор Винер признал идеальность действий Конгресса, но выразил скептицизм по поводу их вероятности. Он провел параллели с калифорнийским законом о конфиденциальности данных, принятым в отсутствие федеральных мер, и предположил, что бездействие Конгресса не должно помешать Калифорнии взять на себя ведущую роль.
Ассамблея штата Калифорния будет голосовать по SB 1047 в этом месяце. Если законопроект будет принят, он попадет на стол губернатора Гэвина Ньюсома, чья позиция в отношении этого закона остается неясной. Однако Ньюсом публично признал необходимость баланса между инновациями в области ИИ и снижением рисков.
