nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Source : Global Times

[Correspondant spécial du Global Times aux États-Unis, Zhuo Ran, correspondant spécial du Global Times, Wang Yi] "Le projet de loi californien sur l'intelligence artificielle (IA) a déclenché des divisions dans la Silicon Valley, selon un rapport de l'Agence France-Presse du 25, de l'État de Californie." Le corps législatif présente un projet de loi visant à réglementer l'intelligence artificielle (le « projet de loi SB 1047 », le nom complet est « Frontier Artificial Intelligence Model Security Innovation Act »). Le projet de loi a été soumis à l'Assemblée de Californie en février de cette année et a suscité une grande controverse. Le 19 août, la législature californienne a annoncé une version révisée du projet de loi. Le projet de loi a été soutenu par Jeffrey Hinton et Joshua Bengio, connus comme les « parrains de l'intelligence artificielle », mais a également été combattu par des scientifiques tels que Yang Likun et Li Feifei, ainsi que par de grandes sociétés d'intelligence artificielle.

Le 20 août, un robot déambulait devant le laboratoire d’intelligence artificielle d’Amazon à San Francisco. (Chine visuelle)

Vous voulez éviter les risques tout en favorisant l’innovation

Selon les médias américains, le projet de loi SB 1047 vise à établir des normes de sécurité pour les développeurs dont les coûts de formation dépassent 100 millions de dollars ou atteignent une certaine puissance de calcul afin d'assurer le développement en toute sécurité de modèles d'intelligence artificielle à grande échelle. Le projet de loi oblige les développeurs de grands modèles d’intelligence artificielle de pointe à prendre des précautions telles que des tests préalables au déploiement, des simulations d’attaques de piratage, l’installation de mesures de cybersécurité et la protection des dénonciateurs.

Le sénateur démocrate américain Scott Wiener, parrain du projet de loi SB 1047, a déclaré : « Alors que le Congrès se trouve dans une impasse sur la réglementation de l'intelligence artificielle, la Californie doit agir avant que le développement rapide de l'intelligence artificielle ne présente des risques prévisibles. Des mesures doivent également être prises pour promouvoir l'innovation. " Wiener estime que la sécurité de l'intelligence artificielle et l'innovation ne s'excluent pas mutuellement, et la version révisée du projet de loi répond aux préoccupations de certains critiques précédents.

Selon le rapport américain "Business Insider" du 25, la version révisée annoncée le 19 août contient plusieurs modifications. Premièrement, elle limite la portée des sanctions civiles pour les infractions qui ne causent aucun préjudice ou qui présentent un risque imminent. Certains termes clés du projet de loi ont également été assouplis. Cela « aide à clarifier que le projet de loi se concentre sur les tests et l’atténuation des risques », a déclaré Calvin, conseiller politique principal au Center for Artificial Intelligence Safety Action Fund, co-parrain du projet de loi. Deuxièmement, le projet de loi n’exigerait plus la création d’une Division des modèles frontaliers, mais établirait toujours un Conseil des modèles frontaliers et le placerait au sein d’un organisme d’exploitation gouvernemental existant. Le projet de loi mis à jour élimine également la pénalité pour parjure, exonérant ainsi les entreprises concernées de toute responsabilité pénale et ne prévoit que la responsabilité civile.

Certaines personnalités ont exprimé leur soutien

Anthropic, une start-up californienne d'intelligence artificielle, a proposé une série de modifications au projet de loi initial après son annonce et a exprimé une « approbation prudente » un mois plus tard. Dans une lettre adressée au gouverneur de Californie Gavin Newsom, le PDG d'Anthropic, Dario Amodei, a déclaré que le projet de loi présentait actuellement « plus d'avantages que de défauts ». Mais il a ajouté : "Nous n'en sommes pas sûrs et il y a encore des aspects du projet de loi qui nous préoccupent ou sur lesquels nous sommes ambigus."

Cependant, le projet de loi bénéficie toujours du soutien de nombreuses personnalités connues du secteur de l’intelligence artificielle. Les exemples incluent le professeur Joshua Bengio de l’Université de Montréal et l’informaticien Jeffrey Hinton. Hinton a écrit dans un article d'opinion dans le magazine Fortune : « Une intelligence artificielle puissante est incroyablement prometteuse, mais les risques sont également très réels et doivent être pris extrêmement au sérieux. Le SB 1047 adopte une approche très intelligente pour équilibrer ces préoccupations.

Dan Hendrick, fondateur du Centre américain pour la sécurité de l'intelligence artificielle, a déclaré dans une interview au New York Times que le projet de loi pousserait les grandes entreprises technologiques à identifier et éliminer les dangers contenus dans leurs technologies coûteuses.

Adversaire : « Fait plus de mal que de bien »

Alors que les membres de la communauté technologique s'accordent généralement sur la nécessité de réduire les risques liés aux nouveaux modèles d'IA, les critiques soutiennent que la proposition de Wiener étoufferait les startups, profiterait aux rivaux américains et affaiblirait la position de la Californie dans le domaine de l'IA.

Feifei Li, professeur d'informatique à l'Université de Stanford, est l'un des universitaires bien connus qui s'opposent au projet de loi. Elle a déclaré que le projet de loi SB 1047 ne résoudrait pas le problème qu'il souhaitait résoudre et qu'il porterait gravement préjudice aux universitaires en matière d'intelligence artificielle. communauté, communauté open source, etc., car les développeurs supporteront des charges excessives, ce qui limitera leur innovation. En outre, le projet de loi exige que tous les modèles dépassant un certain seuil soient dotés d'un « kill switch », un mécanisme qui peut arrêter le programme à tout moment, ce qui rend les développeurs plus hésitants à écrire du code et à collaborer, ainsi que le secteur public et la recherche universitaire. Sera affaibli en raison du manque de collaboration et d’autres raisons. Elle a également déclaré que le plus préoccupant est que le projet de loi ne s’attaque pas aux méfaits potentiels du développement de l’intelligence artificielle, notamment les préjugés et les deepfakes.

OpenAI, une société américaine d'intelligence artificielle, a également exprimé publiquement son opposition à ce projet de loi. Jason Quan, directeur de la stratégie de l'entreprise, a écrit dans une lettre à Weiner que le projet de loi menace « la position unique de la Californie en tant que leader mondial de l'intelligence artificielle ». Il a ajouté que cela pourrait « ralentir le rythme de l'innovation et amener des ingénieurs et des entrepreneurs de classe mondiale à quitter l'État pour chercher des opportunités ailleurs ». Une autre entreprise technologique, Meta, a fait valoir que le projet de loi « empêche la publication de modèles d'intelligence artificielle open source ».

Les critiques, y compris les législateurs démocrates américains, estiment que la menace de mesures punitives contre les développeurs dans un domaine émergent pourrait étouffer l'innovation. L'ancien président de la Chambre, Pelosi, a également publié une déclaration contre le projet de loi le 16. La déclaration indique : « De nombreux membres du Congrès pensent que le SB 1047, bien que bien intentionné, est erroné. » Elle a déclaré que les principaux démocrates ont partagé leurs préoccupations avec Weiner, « même si nous espérons que la Californie continuera à protéger les consommateurs, les données et la propriété intellectuelle. et d’autres aspects pour diriger le développement de l’intelligence artificielle, mais le projet de loi SB 1047 fait plus de mal que de bien.

Les législateurs californiens, espérant amener le gouverneur Newsom à signer un projet de loi sur l'intelligence artificielle moins controversé, ont apporté des modifications significatives au SB 1047, mais n'ont pas réussi à convaincre le laboratoire d'intelligence artificielle le plus important de la Silicon Valley que le projet de loi valait la peine d'être adopté. Le SB 1047 est actuellement à l'Assemblée de Californie pour un vote final et pourrait être sur le bureau de Newsom d'ici la fin du mois. Newsom n’a pas encore exprimé son point de vue sur le projet de loi, mais sa décision a été largement observée par la Silicon Valley et la communauté technologique américaine.