nouvelles

récemment, les nations unies ont publié un rapport important sur la gouvernance de l’intelligence artificielle (ia), appelant la communauté internationale à travailler ensemble pour établir un mécanisme véritablement mondial de supervision et de gouvernance de l’ia.

le rapport, rédigé par l’organe consultatif de haut niveau du secrétaire général des nations unies sur l’ia, présente une série de recommandations pour faire face aux risques posés par l’ia tout en garantissant que son potentiel de transformation soit exploité de manière équitable à l’échelle mondiale.

le rapport souligne que la nécessité d’une gouvernance mondiale de l’ia est incontestable. les matières premières pour la technologie de l’ia, depuis les minéraux clés jusqu’aux données d’entraînement, proviennent du monde entier.

la technologie générale de l’ia sera déployée au-delà des frontières nationales, créant ainsi une variété d’applications dans le monde entier. dans le même temps, le développement rapide de l’ia a concentré le pouvoir et la richesse à l’échelle mondiale, apportantgéopolitiqueet l'impact économique.

de plus, personne ne comprend actuellement pleinement le fonctionnement interne de l’ia, ni ne peut contrôler pleinement ses résultats ou prédire son évolution.

dans le même temps, les décideurs ne sont pas responsables du développement, du déploiement ou de l’utilisation de systèmes qu’ils ne comprennent pas. ces décisions sont susceptibles d’avoir des effets négatifs à l’échelle mondiale et des impacts en aval.

pour combler les lacunes existantes dans les dispositifs de gouvernance de l’ia, l’organisme consultatif a formulé plusieurs recommandations clés :

• créer un groupe scientifique international indépendant sur l’ia composé d’experts de différentes disciplines qui serviront sur une base volontaire à titre individuel.

• lancer un dialogue biennal intergouvernemental et multipartite sur la politique de gouvernance de l’ia, qui pourrait se tenir en marge des réunions existantes de l’onu, offrant une plate-forme permettant aux 193 états membres de l’onu de discuter des risques et de parvenir à un consensus pour l’action.

• un « ai standards group » a été créé pour développer et maintenir un manuel qui définit et applique des normes d’évaluation des systèmes d’ia.

• la création d'un fonds mondial pour l'ia, qui devrait être géré par une nouvelle structure de gouvernance indépendante, vise à combler le fossé dans le développement de l'ia, en particulier pour soutenir le développement des pays de l'hémisphère sud.

• développer un cadre mondial de données sur l'ia et établir un « mécanisme de gestion et d'échange de données qui façonne le marché » pour promouvoir le développement florissant des écosystèmes locaux et mondiaux de l'ia.

• créer un bureau d’ia au sein du secrétariat des nations unies pour mieux unifier ces initiatives dans une structure légère et flexible.

le rapport recommande également que les nations unies se concentrent sur les pays les plus pauvres, en particulier ceux du sud, pour leur permettre de bénéficier de l’ia et de participer à sa gouvernance.

ces mesures comprennent l’établissement de normes en matière d’ia et de systèmes de partage de données, ainsi que l’allocation de ressources de formation et d’éducation pour aider les pays dans la gouvernance de l’ia.

certaines des recommandations pourraient être mises en œuvre dans le cadre du pacte numérique mondial existant, qui vise à réduire la fracture numérique et en matière de données entre les pays.

wendy hall, professeur émérite d'informatique à l'université de southampton, au royaume-uni, est la seule experte britannique membre de l'organisme consultatif. elle a souligné : « l'ia doit être développée pour le bénéfice de l'humanité. sans gouvernance, elle peut être nuisible. à la société." voie d'évolution.

nous avons besoin de toute urgence d’une approche mondiale pour relever les défis de l’ia et garantir qu’elle profite à tous. "

cependant, la gouvernance de l’ia ne constitue pas actuellement un débat véritablement mondial. le rapport souligne que même si des centaines de lignes directrices, cadres et principes sur la gouvernance de l’ia ont été adoptés par les gouvernements, les entreprises, les alliances et les organisations internationales, aucun n’a véritablement d’influence mondiale. cela entraîne des problèmes de représentation, de coordination et d’exécution.

cette répartition inégale du pouvoir se reflète également dans l’ensemble du système international.

le secrétaire général de l’onu, antónio guterres, a souligné lors du forum économique mondial de davos en janvier 2024 que de nombreux états membres étaient encore sous domination coloniale lors de la création de l’onu et qu’ils « ont donc très peu de poids dans les discussions d’aujourd’hui ».

il a appelé à une réforme du système international établi après la seconde guerre mondiale afin de prendre des mesures efficaces face aux défis mondiaux.

en mars 2024, les états-unis ont soumis une résolution aux nations unies appelant les états membres à adopter le développement d’une « ia sûre, fiable et digne de confiance ».

en juillet de la même année, la chine a proposé sa propre résolution mettant l’accent sur la coopération dans le développement de l’ia et rendant la technologie largement disponible. tous les états membres de l'onu ont signé les deux accords.

les différences de points de vue sur l’ia entre les pays riches ont provoqué des divisions sur le marché. l'union européenne a introduit des réglementations radicales en matière d'ia et ses contrôles sur l'utilisation des données ont incité certaines entreprises américaines à limiter la disponibilité de leurs produits.

l’approche de laissez-faire adoptée par le gouvernement américain a également conduit la californie à proposer ses propres réglementations plus strictes en matière d’ia.

face à ces défis, le rapport du conseil consultatif des nations unies sur l’ia ouvre la voie à l’établissement d’une position commune.

chris russell, professeur à l'université d'oxford, estime : « ancrer l'analyse dans les droits de l'homme est très convaincant.

il fournit un travail vaste et puissantdroit internationalfondation et se concentrer sur les préjudices spécifiques subis par les personnes. "

cependant, l’ia progresse à un rythme si rapide que les nations unies ne seront pas en mesure de gérer seules la coopération mondiale.

« les nations unies ont évidemment un rôle important dans la gouvernance de l’ia, mais il faut qu’elle repose sur une architecture distribuée », a-t-il déclaré. « les pays doivent également être directement impliqués. »

enfin, même si les gouvernements peuvent considérer l’ia comme un moyen d’obtenir un avantage stratégique, de nombreux scientifiques s’accordent sur leurs préoccupations concernant l’ia.

plus tôt cette semaine, un groupe d’éminents universitaires occidentaux et chinois ont appelé conjointement à une plus grande coopération sur les questions de sécurité de l’ia à la suite d’une conférence sur la sécurité de l’ia à vienne, en autriche.

dans l’ensemble, ce rapport des nations unies fournit un modèle de coopération de la communauté internationale en matière de gouvernance de l’ia.

cependant, comme l’a déclaré alondra nelson, membre du comité consultatif : « le diable est dans les détails ».

à l’avenir, la manière dont les nations unies et leurs états membres choisiront de mettre en œuvre ce plan de coopération déterminera le succès ou l’échec de la gouvernance mondiale de l’ia.

références :

https://arstechnica.com/ai/2024/09/united-nations-wants-to-treat-ai-with-same-urgency-as-climate-change/

https://www.un.org/techenvoy/ai-advisory-body

https://www.computerweekly.com/news/366611263/un-body-urges-globally-inclusive-and-distributed-ai-governance

opération/composition : he chenlong