новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

В отчете Whip Bull от 22 августа, согласно Bloomberg News, OpenAI выступает против калифорнийского законопроекта, который налагает новые требования к безопасности для компаний, занимающихся искусственным интеллектом, присоединяясь к технологическим лидерам и политикам, которые недавно выступили против этого спорного закона.

Стартап из Сан-Франциско заявил, что законопроект нанесет ущерб инновациям в индустрии искусственного интеллекта, и заявил, что этот вопрос будет регулироваться федеральным правительством, а не штатами.

В письме также выражается обеспокоенность тем, что законопроект, если он будет принят, может оказать широкое и существенное влияние на конкурентоспособность США в области искусственного интеллекта и национальной безопасности.

SB 1047, предложенный Винером, направлен на создание того, что его офис называет стандартами безопасности здравого смысла для компаний, производящих большие модели искусственного интеллекта, которые превышают определенные пороговые значения размера и стоимости.

Законопроект, принятый Сенатом штата в мае, потребует от компаний, занимающихся искусственным интеллектом, принять меры, чтобы их модели не причиняли серьезный вред, например, способствовать разработке биологического оружия, которое может привести к массовым жертвам или нанести экономический ущерб на сумму более 500 миллионов долларов.

Согласно законопроекту, компании обязаны обеспечивать возможность отключения систем искусственного интеллекта, проявлять разумную осторожность, чтобы гарантировать, что модели искусственного интеллекта не вызывают катастрофы, и раскрывать заявления о соответствии генеральному прокурору Калифорнии. Если предприятия не соблюдают эти требования, на них могут подать в суд и подвергнуть гражданским санкциям.

Законопроект столкнулся с сильной оппозицией со стороны многих крупных технологических компаний, стартапов и венчурных капиталистов, которые заявили, что он является чрезмерным подходом к технологии, которая все еще находится в зачаточном состоянии, и может подавить технологические инновации в штате.

Некоторые критики законопроекта опасаются, что он может вытеснить компании, занимающиеся искусственным интеллектом, из Калифорнии.

OpenAI выразила ту же обеспокоенность в письме в офис Вайнера.

Директор по стратегии OpenAI Джейсон Квон написал в письме: «Революция искусственного интеллекта только началась, и уникальное положение Калифорнии как мирового лидера в области искусственного интеллекта стимулирует экономическую жизнеспособность штата. SB 1047 поставит под угрозу этот рост, замедлит темпы инноваций и заставит калифорнийских инженеров и предпринимателей мирового класса покинуть штат в поисках более широких возможностей в других местах.

По словам человека, знакомого с планами компании в сфере недвижимости,OpenAI приостановила обсуждение расширения своего офиса в Сан-Франциско из-за опасений по поводу неопределенной нормативно-правовой базы в Калифорнии, сообщил источник, пожелавший остаться анонимным для обсуждения внутренних переговоров.

Винер выступил в защиту предложенного закона в своем заявлении и заявил, что в письме OpenAI не содержится критики каких-либо положений законопроекта.

Он также сказал, что аргумент о том, что таланты в области ИИ покидают штат, является спорным, поскольку закон будет применяться к любой компании, ведущей бизнес в Калифорнии, независимо от того, где расположены ее офисы.

Представитель офиса Винера отметил, что два видных эксперта по национальной безопасности публично поддержали законопроект.

«SB 1047 — очень разумный законопроект, который требует от крупных лабораторий искусственного интеллекта делать то, что они обещали, а именно проверять свои большие модели на предмет катастрофических рисков безопасности», — сказал Винер. «SB 1047 хорошо сопоставляется с тем, что мы знаем о прогнозируемых рисках искусственного интеллекта, и заслуживает принятия».

Критики утверждали, что законопроект, который потребует от компаний предоставлять государству подробную информацию о своих моделях, будет препятствовать инновациям и не позволит мелким разработчикам с открытым исходным кодом создавать стартапы из-за страха подвергнуться судебному преследованию.

На прошлой неделе, пытаясь преодолеть некоторое сопротивление, Винер пересмотрел предложенный закон, чтобы отменить уголовную ответственность для технологических компаний, не соблюдающих требования, добавить защиту для небольших разработчиков моделей с открытым исходным кодом и ликвидировать недавно предложенное подразделение Frontier Model Unit.

Раньше застройщики могли быть подвергнуты наказанию за дачу ложных показаний, если они заведомо предоставили правительству ложную информацию о своих планах безопасности. Конкурент OpenAI Anthropic, известный тем, что он более ориентирован на безопасность, чем его конкуренты, ранее заявлял, что поддержит некоторые поправки к законопроекту. Но даже после внесения поправок законопроект продолжал сталкиваться с оппозицией, в том числе со стороны бывшего спикера Палаты представителей Нэнси Пелоси, которая выступила с заявлением, назвав законопроект плохо информированным.

Против законопроекта выступила и группа демократических членов Конгресса.

Согласно государственным документам, OpenAI и другие компании технологической отрасли наняли лоббистов, которые работали над законопроектом.

В письме OpenAI сообщила, что в течение нескольких месяцев связывалась с офисом Винера по поводу законопроекта, но в конечном итоге не поддержала его.

«Мы должны защитить преимущества ИИ в Америке с помощью ряда федеральных, а не государственных политик, которые обеспечивают ясность и уверенность лабораториям и разработчикам ИИ, одновременно защищая общественную безопасность», — говорится в письме.

OpenAI считает, что федеральные агентства, такие как Управление по науке и технологиям Белого дома, Министерство торговли и Совет национальной безопасности, лучше подходят для управления критическими рисками ИИ, чем агентства штата Калифорния.

Компания заявила, что поддерживает несколько предложенных федеральных законов, таких как Закон о будущем инноваций в области искусственного интеллекта, который обеспечивает поддержку Конгрессом нового Института безопасности искусственного интеллекта США.

«Как я уже неоднократно говорил, я согласен, что в идеале Конгресс занялся бы этим вопросом», — заявила Винер в своем заявлении. «Однако Конгресс этого не сделал, и мы сомневаемся, что Конгресс сделает это. Согласно аргументам OpenAI в отношении Конгресса, Калифорния никогда не примет свой закон о конфиденциальности данных, и, учитывая бездействие Конгресса, калифорнийцы ничего не получат за защиту своих данных».

Законопроект SB 1047 будет внесен в избирательный бюллетень Законодательного собрания Калифорнии где-то в этом месяце.

В случае принятия законопроект в конечном итоге перейдет на стол губернатора Калифорнии Гэвина Ньюсома.Хотя Ньюсом не сказал, наложит ли он вето на законопроект, он высказался о необходимости продвигать инновации в области искусственного интеллекта в Калифорнии, одновременно снижая риски.