notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Fonte: Global Times

[Correspondente especial do Global Times nos Estados Unidos Zhuo dirigiu o correspondente especial do Global Times Wang Yi] "O projeto de lei de inteligência artificial (IA) da Califórnia desencadeou divisões no Vale do Silício, de acordo com um relatório da Agence France-Presse no dia 25, o estado da Califórnia." O Legislativo está avançando com um projeto de lei que visa regulamentar a lei modelo (o "projeto de lei SB 1047", o nome completo é "Lei de Inovação de Segurança do Modelo de Inteligência Artificial de Fronteira"). O projeto foi submetido à Assembleia da Califórnia em fevereiro deste ano e causou grande polêmica. Em 19 de agosto, o Legislativo da Califórnia anunciou uma versão revisada do projeto de lei. O projeto foi apoiado por Jeffrey Hinton e Joshua Bengio, conhecidos como os “padrinhos da inteligência artificial”, mas também foi contestado por cientistas como Yang Likun e Li Feifei, bem como pelas principais empresas de inteligência artificial.

No dia 20 de agosto, um robô passou em frente ao laboratório de inteligência artificial da Amazon em São Francisco. (VisualChina)

Quer evitar riscos ao mesmo tempo que promove a inovação

De acordo com a mídia dos EUA, o projeto de lei SB 1047 visa estabelecer padrões de segurança para desenvolvedores cujos custos de treinamento excedam US$ 100 milhões ou atinjam um determinado poder computacional para garantir o desenvolvimento seguro de modelos de inteligência artificial em larga escala. O projeto de lei exige que os desenvolvedores de grandes modelos de inteligência artificial de ponta tomem precauções, como testes pré-implantação, simulação de ataques de hackers, instalação de salvaguardas de segurança cibernética e fornecimento de proteção a denunciantes.

O senador democrata dos EUA Scott Wiener, patrocinador do projeto de lei SB 1047, disse: “Com o Congresso chegando a um impasse na regulamentação da inteligência artificial, a Califórnia deve tomar medidas antes que o rápido desenvolvimento da inteligência artificial represente riscos previsíveis. .” Wiener acredita que a segurança e a inovação da inteligência artificial não são mutuamente exclusivas, e a versão revisada do projeto de lei abordou as preocupações de alguns críticos anteriores.

De acordo com o relatório do dia 25 do "Business Insider" dos EUA, a versão revisada anunciada em 19 de agosto contém diversas modificações. Primeiro, limita o âmbito das sanções civis para crimes que não causam danos ou representam um risco iminente. Algumas palavras-chave do projeto de lei também foram afrouxadas. Isto “ajuda a esclarecer que o foco do projeto de lei está em testar e mitigar riscos”, disse Calvin, consultor político sênior do Centro para Fundo de Ação de Segurança de Inteligência Artificial, co-patrocinador do projeto. Em segundo lugar, o projeto de lei não exigiria mais a criação de uma Divisão de Modelos de Fronteira, mas ainda estabeleceria um Conselho de Modelos de Fronteira e o colocaria dentro de uma agência operacional governamental existente. O projeto de lei atualizado também elimina a pena de perjúrio, isentando assim as empresas relevantes de responsabilidade criminal e prevê apenas a responsabilidade civil.

Algumas figuras proeminentes expressaram apoio

A startup de inteligência artificial da Califórnia, Anthropic, propôs uma série de mudanças no projeto de lei original depois que ele foi anunciado e expressou “aprovação cautelosa” um mês depois. Em uma carta ao governador da Califórnia, Gavin Newsom, o CEO da Anthropic, Dario Amodei, disse que o projeto atualmente tem “mais benefícios do que falhas”. Mas ele acrescentou: “Não temos certeza sobre isso e ainda há aspectos do projeto de lei que nos preocupam ou sobre os quais temos ambiguidade”.

No entanto, o projeto ainda conta com o apoio de muitas figuras conhecidas da indústria de inteligência artificial. Exemplos incluem o professor da Universidade de Montreal, Joshua Bengio, e o cientista da computação Jeffrey Hinton. Hinton escreveu num artigo de opinião na revista Fortune: “A poderosa inteligência artificial é uma promessa incrível, mas os riscos também são muito reais e devem ser levados extremamente a sério. O SB 1047 adota uma abordagem muito inteligente para equilibrar estas preocupações”.

Dan Hendrick, fundador do Centro de Segurança de Inteligência Artificial dos EUA, disse numa entrevista ao New York Times que o projeto de lei pressionaria as grandes empresas de tecnologia a identificar e eliminar os perigos contidos nas suas tecnologias caras.

Oponente: “Faz mais mal do que bem”

Embora as pessoas na comunidade tecnológica geralmente concordem com a necessidade de reduzir os riscos dos novos modelos de IA, os críticos argumentam que a proposta de Wiener sufocaria as startups, beneficiaria os rivais dos EUA e enfraqueceria a posição da Califórnia no campo da IA.

Feifei Li, professora de ciência da computação na Universidade de Stanford, é uma das conhecidas acadêmicas que se opõe ao projeto. Ela disse que o projeto de lei SB 1047 não resolve o problema que deseja resolver e prejudicará seriamente a inteligência artificial acadêmica. comunidade, comunidade de código aberto, etc., porque os desenvolvedores arcarão com responsabilidades excessivas, o que limitará sua inovação. Além disso, o projeto de lei exige que todos os modelos que excedam um determinado limite tenham um “kill switch”, um mecanismo que pode desligar o programa a qualquer momento, tornando os desenvolvedores mais hesitantes em escrever código e colaborar, e no setor público e na pesquisa acadêmica. Ficará enfraquecido por falta de colaboração e outros motivos. Ela também disse que o mais preocupante é que o projeto de lei não aborda os danos potenciais do desenvolvimento da inteligência artificial, incluindo preconceitos e deepfakes.

OpenAI, uma empresa americana de inteligência artificial, também expressou publicamente sua oposição a este projeto de lei. Jason Quan, diretor de estratégia da empresa, escreveu em uma carta a Weiner que o projeto de lei ameaça “a posição única da Califórnia como líder global em inteligência artificial”. Ele acrescentou que isso poderia “desacelerar o ritmo da inovação e fazer com que engenheiros e empresários de classe mundial deixassem o estado em busca de oportunidades em outro lugar”. Outra empresa de tecnologia, a Meta, argumentou que o projeto de lei “impede o lançamento de modelos de inteligência artificial de código aberto”.

Os críticos, incluindo os legisladores democratas dos EUA, acreditam que a ameaça de medidas punitivas contra os promotores num campo emergente poderia sufocar a inovação. O ex-presidente da Câmara, Pelosi, também emitiu um comunicado se opondo ao projeto no dia 16. A declaração dizia: “Muitos no Congresso acreditam que o SB 1047, embora bem intencionado, está errado”. Ela disse que os principais democratas compartilharam suas preocupações com Weiner: “Embora esperemos que a Califórnia continue a proteger os consumidores, os dados e a propriedade intelectual”. e outros aspectos para liderar o desenvolvimento da inteligência artificial, mas o projeto de lei SB 1047 faz mais mal do que bem.”

Os legisladores da Califórnia, na esperança de que o governador Newsom assinasse um projeto de lei de inteligência artificial menos controverso, fizeram mudanças significativas no SB 1047, mas não conseguiram convencer o laboratório de inteligência artificial mais importante do Vale do Silício de que valia a pena aprovar o projeto. O SB 1047 está atualmente na Assembleia da Califórnia para votação final e pode estar na mesa de Newsom até o final do mês. Newsom ainda não expressou sua opinião sobre o projeto, mas sua decisão foi amplamente observada pelo Vale do Silício e pela comunidade tecnológica dos EUA.