новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Источник: Глобал Таймс

[Специальный корреспондент Global Times в США Чжо Ран, специальный корреспондент Global Times Ван И] «Калифорнийский законопроект об искусственном интеллекте (ИИ) вызвал разногласия в Кремниевой долине», - говорится в сообщении агентства Франс Пресс от 25 числа в штате Калифорния. Законодательное собрание продвигает законопроект, направленный на регулирование модели искусственного интеллекта («Законопроект SB 1047», полное название — «Закон об инновациях в области безопасности моделей искусственного интеллекта»). Законопроект был представлен Ассамблее Калифорнии в феврале этого года и вызвал большие споры. 19 августа Законодательное собрание Калифорнии объявило о пересмотренной версии законопроекта. Законопроект был поддержан Джеффри Хинтоном и Джошуа Бенджио, известными как «крестные отцы искусственного интеллекта», но против него также выступили такие ученые, как Ян Ликунь и Ли Фейфей, а также ведущие компании, занимающиеся искусственным интеллектом.

20 августа робот прогуливался перед лабораторией искусственного интеллекта Amazon в Сан-Франциско. (Визуальный Китай)

Хотите избежать рисков, продвигая инновации

По данным американских СМИ, законопроект SB 1047 направлен на установление стандартов безопасности для разработчиков, чьи затраты на обучение превышают 100 миллионов долларов США или достигают определенной вычислительной мощности, обеспечивающей безопасную разработку крупномасштабных моделей искусственного интеллекта. Законопроект требует от разработчиков крупных передовых моделей искусственного интеллекта принимать такие меры предосторожности, как тестирование перед развертыванием, моделирование хакерских атак, установка мер кибербезопасности и обеспечение защиты информаторов.

Сенатор-демократ США Скотт Винер, автор законопроекта SB 1047, заявил: «Поскольку Конгресс зашел в тупик в вопросах регулирования искусственного интеллекта, Калифорния должна принять меры, прежде чем быстрое развитие искусственного интеллекта создаст предсказуемые риски. Необходимо также принять меры для продвижения инноваций. Винер считает, что безопасность и инновации в области искусственного интеллекта не исключают друг друга, и пересмотренная версия законопроекта устранила опасения некоторых предыдущих критиков.

Согласно отчету US Business Insider от 25 числа, обновленная версия, анонсированная 19 августа, содержит несколько изменений. Во-первых, он ограничивает объем гражданских наказаний за правонарушения, которые не причиняют вреда или несут непосредственный риск. Некоторые ключевые формулировки законопроекта также были смягчены. Это «помогает прояснить, что основное внимание в законопроекте уделяется тестированию и снижению рисков», — сказал Кэлвин, старший советник по политике Центра действий по безопасности искусственного интеллекта, одного из авторов законопроекта. Во-вторых, законопроект больше не будет требовать создания Подразделения по передовым моделям, но по-прежнему будет создавать Совет по передовым моделям и размещать его в рамках существующего государственного оперативного агентства. Обновленный законопроект также отменяет наказание за дачу ложных показаний, тем самым освобождая соответствующие компании от уголовной ответственности и предусматривая только гражданскую ответственность.

Некоторые видные деятели выразили поддержку

Anthropic, калифорнийский стартап в области искусственного интеллекта, предложил ряд изменений в первоначальный законопроект после его объявления и через месяц выразил «осторожное одобрение». В письме губернатору Калифорнии Гэвину Ньюсому генеральный директор Anthropic Дарио Амодей заявил, что в настоящее время у законопроекта «больше преимуществ, чем недостатков». Но он добавил: «Мы не уверены в этом, и в законопроекте все еще есть аспекты, которые нас беспокоят или вызывают двусмысленность».

Однако законопроект по-прежнему пользуется поддержкой многих известных деятелей индустрии искусственного интеллекта. Примеры включают профессора Монреальского университета Джошуа Бенджио и ученого-компьютерщика Джеффри Хинтона. Хинтон написала в статье в журнале Fortune: «Мощный искусственный интеллект таит в себе невероятные перспективы, но риски также очень реальны, и их следует воспринимать чрезвычайно серьезно. SB 1047 использует очень умный подход, чтобы сбалансировать эти проблемы».

Дэн Хендрик, основатель Центра безопасности искусственного интеллекта США, заявил в интервью New York Times, что законопроект подтолкнет крупные технологические компании к выявлению и устранению опасностей, содержащихся в их дорогостоящих технологиях.

Оппонент: «Приносит больше вреда, чем пользы»

Хотя люди в технологическом сообществе в целом согласны с необходимостью ограничить риски, связанные с новыми моделями ИИ, критики утверждают, что предложение Винера задушит стартапы, принесет пользу конкурентам США и ослабит позиции Калифорнии в области ИИ.

Фейфей Ли, профессор информатики в Стэнфордском университете, является одним из известных ученых, выступающих против законопроекта. Она сказала, что законопроект SB 1047 не решает проблему, которую он хочет решить, и нанесет серьезный ущерб ученым в области искусственного интеллекта. сообщество, сообщество открытого исходного кода и т. д., поскольку разработчики будут нести чрезмерную ответственность, которая будет ограничивать их инновации. Кроме того, законопроект требует, чтобы все модели, превышающие определенный порог, имели «выключатель», механизм, который может закрыть программу в любой момент, что заставляет разработчиков с большей неохотой писать код и сотрудничать, а также проводить исследования в государственном секторе и академических кругах. Будет ослаблен из-за отсутствия сотрудничества и других причин. Она также сказала, что больше всего беспокоит то, что законопроект не затрагивает потенциальный вред от развития искусственного интеллекта, включая предвзятость и дипфейки.

OpenAI, американская компания по искусственному интеллекту, также публично выразила свое несогласие с этим законопроектом Джейсон Куан, директор по стратегии компании, написал в письме Вайнеру, что законопроект угрожает «уникальному положению Калифорнии как мирового лидера в области искусственного интеллекта». Он добавил, что это может «замедлить темпы инноваций и заставить инженеров и предпринимателей мирового уровня покинуть штат в поисках возможностей в других местах». Другая технологическая компания Meta заявила, что законопроект «предотвращает выпуск моделей искусственного интеллекта с открытым исходным кодом».

Критики, в том числе законодатели США от Демократической партии, считают, что угроза карательных мер против разработчиков в новой области может задушить инновации. Бывший спикер Палаты представителей Пелоси также выступила с заявлением против законопроекта 16 числа. В заявлении говорится: «Многие в Конгрессе считают, что SB 1047, несмотря на благие намерения, ошибочен». Она сказала, что ведущие демократы поделились своими опасениями с Вайнером: «Хотя мы надеемся, что Калифорния продолжит защищать потребителей, данные и интеллектуальную собственность». и другие аспекты, чтобы возглавить развитие искусственного интеллекта, но законопроект SB 1047 приносит больше вреда, чем пользы».

Законодатели Калифорнии, надеясь убедить губернатора Ньюсома подписать менее противоречивый законопроект об искусственном интеллекте, внесли существенные изменения в SB 1047, но не смогли убедить самую важную лабораторию искусственного интеллекта Кремниевой долины в том, что законопроект стоит принять. SB 1047 в настоящее время находится на окончательном голосовании в Ассамблее Калифорнии и может оказаться на столе Ньюсома к концу месяца. Ньюсом еще не высказал своего мнения по законопроекту, но за его решением широко следили в Кремниевой долине и технологическом сообществе США.