noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Fuente: Tiempos globales

[Corresponsal especial del Global Times en los Estados Unidos, Zhuo Ran, corresponsal especial del Global Times, Wang Yi] "El proyecto de ley de inteligencia artificial (IA) de California provocó divisiones en Silicon Valley", según un informe de la Agence France-Presse del día 25, el estado de California. La legislatura está avanzando un proyecto de ley destinado a regular la inteligencia artificial Modelo de proyecto de ley (el "proyecto de ley SB 1047", el nombre completo es "Ley de Innovación en Seguridad del Modelo de Inteligencia Artificial Fronteriza"). El proyecto de ley fue presentado a la Asamblea de California en febrero de este año y causó una gran controversia. El 19 de agosto, la Legislatura de California anunció una versión revisada del proyecto de ley. El proyecto de ley contó con el apoyo de Jeffrey Hinton y Joshua Bengio, conocidos como los "padrinos de la inteligencia artificial", pero también contó con la oposición de científicos como Yang Likun y Li Feifei, así como de empresas líderes en inteligencia artificial.

El 20 de agosto, un robot paseó frente al laboratorio de inteligencia artificial de Amazon en San Francisco. (China visual)

Quiere evitar riesgos mientras promueve la innovación.

Según medios estadounidenses, el proyecto de ley SB 1047 pretende establecer normas de seguridad para los desarrolladores cuyos costes de formación superen los 100 millones de dólares o alcancen una determinada potencia informática para garantizar el desarrollo seguro de modelos de inteligencia artificial a gran escala. El proyecto de ley exige que los desarrolladores de modelos de inteligencia artificial grandes y de vanguardia tomen precauciones como pruebas previas a la implementación, ataques de piratería simulados, instalación de salvaguardas de ciberseguridad y protección de denunciantes.

El senador demócrata estadounidense Scott Wiener, patrocinador del proyecto de ley SB 1047, dijo: “A medida que el Congreso llega a un punto muerto en la regulación de la inteligencia artificial, California debe tomar medidas antes de que el rápido desarrollo de la inteligencia artificial plantee riesgos previsibles. También se deben tomar medidas para promover la innovación. Wiener cree que la seguridad de la inteligencia artificial y la innovación no son mutuamente excluyentes, y la versión revisada del proyecto de ley ha abordado las preocupaciones de algunos críticos anteriores.

Según el informe estadounidense "Business Insider" del día 25, la versión revisada anunciada el 19 de agosto contiene varias modificaciones. En primer lugar, limita el alcance de las sanciones civiles por delitos que no causan daño o suponen un riesgo inminente. También se han flexibilizado algunos términos clave del proyecto de ley. Esto "ayuda a aclarar que el objetivo del proyecto de ley es probar y mitigar los riesgos", dijo Calvin, asesor principal de políticas del Centro de Inteligencia Artificial Safety Action Fund, copatrocinador del proyecto de ley. En segundo lugar, el proyecto de ley ya no requeriría la creación de una División de Modelos Fronterizos, pero seguiría estableciendo un Consejo de Modelos Fronterizos y lo ubicaría dentro de una agencia operativa gubernamental existente. El proyecto de ley actualizado también elimina la pena de perjurio, eximiendo así a las empresas pertinentes de responsabilidad penal y sólo prevé la responsabilidad civil.

Algunas figuras destacadas expresaron su apoyo

Anthropic, una startup de inteligencia artificial de California, propuso una serie de cambios al proyecto de ley original después de su anuncio y expresó una "aprobación cautelosa" un mes después. En una carta al gobernador de California, Gavin Newsom, el director ejecutivo de Anthropic, Dario Amodei, dijo que el proyecto de ley tiene actualmente "más beneficios que defectos". Pero añadió: "No estamos seguros de eso y todavía hay aspectos del proyecto de ley que nos preocupan o sobre los que tenemos ambigüedad".

Sin embargo, el proyecto de ley todavía cuenta con el apoyo de muchas figuras conocidas de la industria de la inteligencia artificial. Los ejemplos incluyen al profesor de la Universidad de Montreal Joshua Bengio y al científico informático Jeffrey Hinton. Hinton escribió en un artículo de opinión en la revista Fortune: "La poderosa inteligencia artificial es increíblemente prometedora, pero los riesgos también son muy reales y deben tomarse muy en serio. La SB 1047 adopta un enfoque muy inteligente para equilibrar estas preocupaciones".

Dan Hendrick, fundador del Centro Estadounidense para la Seguridad de la Inteligencia Artificial, dijo en una entrevista con el New York Times que el proyecto de ley empujaría a las grandes empresas de tecnología a identificar y eliminar los peligros contenidos en sus costosas tecnologías.

Oponente: “Hace más daño que bien”

Si bien la gente de la comunidad tecnológica generalmente está de acuerdo en la necesidad de frenar los riesgos de los nuevos modelos de IA, los críticos argumentan que la propuesta de Wiener asfixiaría a las nuevas empresas, beneficiaría a los rivales estadounidenses y debilitaría la posición de California en el campo de la IA.

Feifei Li, profesora de informática en la Universidad de Stanford, es una de las académicas más conocidas que se opone al proyecto de ley. Dijo que el proyecto de ley SB 1047 no resuelve el problema que quiere resolver y dañará gravemente a los académicos en inteligencia artificial. comunidad, comunidad de código abierto, etc., porque los desarrolladores soportarán cargas excesivas, lo que limitará su innovación. Además, el proyecto de ley exige que todos los modelos que superen un cierto umbral tengan un "interruptor de apagado", un mecanismo que puede cerrar el programa en cualquier momento, lo que hace que los desarrolladores sean más reacios a escribir código y colaborar, así como la investigación académica y del sector público. Se verá debilitado por falta de colaboración y otros motivos. También dijo que lo más preocupante es que el proyecto de ley no aborda los daños potenciales del desarrollo de la inteligencia artificial, incluidos los prejuicios y las falsificaciones profundas.

OpenAI, una empresa estadounidense de inteligencia artificial, también ha expresado públicamente su oposición a este proyecto de ley. Jason Quan, director de estrategia de la empresa, escribió en una carta a Weiner que el proyecto de ley amenaza "la posición única de California como líder mundial en inteligencia artificial". Añadió que esto podría "ralentizar el ritmo de la innovación y hacer que ingenieros y empresarios de talla mundial abandonen el estado para buscar oportunidades en otros lugares". Otra empresa de tecnología, Meta, argumentó que el proyecto de ley "impide la publicación de modelos de inteligencia artificial de código abierto".

Los críticos, incluidos legisladores demócratas estadounidenses, creen que amenazar con medidas punitivas contra los desarrolladores en un campo emergente podría sofocar la innovación. La ex presidenta de la Cámara de Representantes, Pelosi, también emitió un comunicado oponiéndose al proyecto de ley el día 16. La declaración decía: "Muchos en el Congreso creen que la SB 1047, aunque bien intencionada, está equivocada". Dijo que los principales demócratas han compartido sus preocupaciones con Weiner, "mientras esperamos que California continúe protegiendo a los consumidores, los datos y la propiedad intelectual". y otros aspectos para liderar el desarrollo de la inteligencia artificial, pero el proyecto de ley SB 1047 hace más daño que bien”.

Los legisladores de California, con la esperanza de lograr que el gobernador Newsom firmara un proyecto de ley de inteligencia artificial menos controvertido, hicieron cambios significativos a la SB 1047, pero no lograron convencer al laboratorio de inteligencia artificial más importante de Silicon Valley de que valía la pena aprobar el proyecto de ley. La SB 1047 se encuentra actualmente en la Asamblea de California para una votación final y podría estar sobre el escritorio de Newsom a finales de mes. Newsom aún no ha expresado su opinión sobre el proyecto de ley, pero su decisión ha sido ampliamente observada por Silicon Valley y la comunidad tecnológica estadounidense.