forum xiangshan de pékin | comment rendre les technologies émergentes bonnes ? la coopération internationale doit être renforcée pour élaborer conjointement des normes de sécurité
2024-09-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
sur le champ de bataille du conflit russo-ukrainien, un drone suicide ukrainien survolait les positions militaires russes. la caméra du drone était dirigée vers les tranchées et balayée en permanence. lorsqu'une activité humaine était détectée, l'intelligence artificielle l'identifiait rapidement puis plongeait. commettre un attentat suicide.
la caméra s'est tournée vers le ciel au-dessus des positions militaires ukrainiennes sur le champ de bataille russo-ukrainien. un avion de reconnaissance sans pilote russe a effectué une reconnaissance au-dessus des positions militaires ukrainiennes. après avoir découvert des chars et des véhicules blindés, le personnel arrière a rapidement transmis cette information au contrôle de l'armée ukrainienne. missile de croisière "lancet". le missile de croisière "lancet" vole à proximité de la position où se trouve la cible. le missile de croisière est également équipé d'un système d'intelligence artificielle, qui peut identifier rapidement les chars et les véhicules blindés, et les verrouiller. sur la cible. même s'il rencontre des interférences, au final également capable d'attaques autonomes.
ce qui précède concerne les images de combat de drones et de missiles de croisière diffusées par les armées russe et ukrainienne. les performances remarquables de la technologie de l'intelligence artificielle (ia) dans le conflit russo-ukrainien ont attiré une grande attention et favoriseront également grandement son application. technologie dans le domaine militaire. avec le développement rapide des technologies émergentes telles que l'intelligence artificielle, la manière de garantir l'application sûre de ces technologies est devenue la priorité de divers pays lors de ce forum xiangshan de pékin.
le 12 septembre, une session spéciale a été organisée pour des entretiens haut de gamme lors du forum consacré à la sécurité de l'intelligence artificielle. le 13 septembre, la sixième réunion de groupe du forum, « les technologies émergentes pour le bien », a été consacrée aux échanges et aux discussions sur la manière dont les technologies émergentes telles que l'intelligence artificielle et la biologie synthétique peuvent être utilisées pour le bien.
la technologie de l’intelligence artificielle entre sur le champ de bataille
en 2021, l'ancien secrétaire d'état américain kissinger a publié le livre « l'ère de l'intelligence artificielle et l'avenir de l'humanité », exposant son point de vue sur le développement et l'impact de l'intelligence artificielle. le livre propose que l'intelligence artificielle remodèlera la sécurité mondiale et l'ordre mondial, et fournit des idées et des avertissements sur la montée en puissance de l'intelligence artificielle. kissinger estime que les armes à intelligence artificielle ont trois caractéristiques que les armes nucléaires n'ont pas : elles sont concentrées dans les grandes entreprises et le secteur privé est plus facilement copié et donc plus facilement maîtrisé par les petits pays qui ont également la possibilité de le faire ; maîtrisez-le.
la deuxième année après la publication du livre, le conflit russo-ukrainien a éclaté. à mesure que le conflit progressait, de plus en plus d'armes équipées de technologies d'intelligence artificielle ont été mises sur le champ de bataille : drones, véhicules de combat sans pilote, bateaux sans pilote et missiles de croisière. etc. la technologie de l’intelligence artificielle intervient également dans la reconnaissance d’images satellitaires, l’aide à la décision, les contre-mesures réseaux et électroniques, etc.
meng xiangqing, professeur à l'université de la défense nationale, a souligné dans une interview avec the paper (www.thepaper.cn) que la première guerre mondiale est considérée comme le début de la guerre mécanisée, et que la guerre du golfe est considérée comme le début de l'information. guerre, et le conflit russo-ukrainien est considéré comme ayant le rideau s'est ouvert sur la guerre intelligente. bien que la technologie actuelle de l'intelligence artificielle ne renforce que légèrement les armes et les opérations et n'ait pas un grand impact sur la guerre, elle a déjà annoncé cette tendance.
actuellement, dans le conflit russo-ukrainien, de plus en plus d’armes alimentées par l’intelligence artificielle apparaissent sur le champ de bataille. en mars de cette année, le ministère britannique de la défense a annoncé qu'il augmenterait le nombre de drones aidant l'ukraine de 4 000 à 10 000, dont des milliers sont des drones équipés d'une technologie d'intelligence artificielle pour soutenir ses opérations sur le champ de bataille. ces drones embarqueront des capteurs et des systèmes d’armes avancés, disposeront d’un haut degré d’autonomie et d’intelligence et pourront effectuer diverses tâches telles que la reconnaissance, la frappe et la défense dans des environnements complexes.
en janvier 2023, un article intitulé « comment l'algorithme a-t-il rompu l'équilibre de la guerre russo-ukrainienne ? le rapport a révélé l'histoire intérieure des entreprises américaines de haute technologie qui coopèrent avec le département américain de la défense et les agences de renseignement pour s'impliquer profondément dans le conflit russo-ukrainien. le rapport mentionne que les logiciels d’intelligence artificielle fournis par les entreprises américaines de haute technologie sont largement utilisés pour interpréter les images satellite et découvrir des cibles précieuses.
selon certaines informations, l'armée ukrainienne aurait également largement utilisé le système d'information "meta-constellation" de la société américaine de logiciels civils palantir. grâce à ce système, diverses applications technologiques sophistiquées sont intégrées pour former une « chaîne de destruction » qui permet à l'ukraine et à ses alliés de consulter les données actuellement disponibles dans une zone de combat spécifique. la reconnaissance de cibles d'images satellites est un problème important et complexe. l'interprétation manuelle traditionnelle est confrontée à de nombreux défis, et la capacité de l'intelligence artificielle basée sur l'apprentissage profond peut jouer un rôle important dans l'interprétation des images satellites, fournissant une nouvelle solution pour le plan de reconnaissance de cibles d'images satellites.
la russie utilise également des armes dotées d'intelligence artificielle sur le champ de bataille du conflit russo-ukrainien. par exemple, l'intelligence artificielle embarquée du missile de croisière "lancet-3" est utilisée pour la recherche et l'identification de cibles et peut trouver et attaquer de manière indépendante. des objectifs prédéterminés. des véhicules de combat sans pilote russes sont également apparus sur le champ de bataille, comme le véhicule de déminage sans pilote mt-1 et le véhicule de combat sans pilote « mark ».
afin de s'adapter aux guerres futures, le ministère russe de la défense a créé en 2022 un département de recherche sur les armes à intelligence artificielle pour renforcer l'utilisation de la technologie de l'intelligence artificielle et développer de nouveaux équipements spéciaux.
un autre conflit très médiatisé, le conflit palestino-israélien, utilise également sur le champ de bataille de nombreuses armes équipées de la technologie de l’intelligence artificielle. selon certaines informations, lorsqu'israël a attaqué gaza, il a utilisé un système d'intelligence artificielle appelé "lavande" pour aider à identifier les militants du hamas. le nombre et la rapidité d'identification des cibles ont considérablement augmenté. dans le passé, les services de renseignement israéliens travaillaient en 10 jours. ils ont trouvé et approuvé 10 cibles en 10 jours de travail, et ils peuvent désormais trouver et approuver environ 100 cibles en 10 jours de travail.
en outre, l’intelligence artificielle modifie et génère des images et des vidéos – qui peuvent également être utilisées dans la guerre de l’information ou dans la guerre de l’opinion publique en temps de guerre. un article intitulé « l'intelligence artificielle générative joue un rôle surprenant dans la guerre de désinformation entre israël et le hamas » sur le site internet américain « wired » a déclaré que le déclenchement du conflit israélo-palestinien avait déclenché une « désinformation » sans précédent. brouillard de guerre » qui met les médias sociaux en difficulté.
l’élaboration conjointe de normes de sécurité est la voie à suivre
à l'heure actuelle, le développement rapide des technologies émergentes telles que l'intelligence artificielle et la biologie synthétique génère une énorme valeur d'application, mais entraîne également des risques et des défis imprévisibles, liés aux intérêts de l'humanité tout entière. devenir une préoccupation pour tous les pays.
dans une interview haut de gamme sur la « sécurité de l'intelligence artificielle » au forum xiangshan de pékin de cette année, le dr chandler, chercheur à l'institut d'analyse de la défense et ancien secrétaire adjoint à la défense des états-unis, a déclaré que les drones contrôlés par l'intelligence artificielle ont a été utilisée sur le champ de bataille russo-ukrainien et à gaza, les militaires d'autres pays envisagent également des applications liées à l'intelligence artificielle, mais maintenant les gens discutent également de la sécurité et de la gouvernance de l'intelligence artificielle, qui est également un domaine qui n'a pas encore été utilisé. été impliqué.
en ce qui concerne la sécurité et les risques de l'intelligence artificielle, des questions telles que la capacité de l'intelligence artificielle à prendre des décisions autonomes, sa fiabilité et la manière de gérer les risques qu'elle peut engendrer ont attiré beaucoup d'attention.
l’opacité de la « boîte noire » des algorithmes d’intelligence artificielle entraîne des risques pour la sécurité et rend les questions de confiance sociale de plus en plus complexes. à cet égard, hu ang, professeur distingué à l'institut de technologie de production de l'université de tokyo et académicien étranger de l'académie japonaise d'ingénierie, a déclaré que la question ultime était de savoir si la « boîte noire » de l'intelligence artificielle était digne de confiance. selon lui, le cerveau humain est irremplaçable. « au moins dans un court laps de temps, l'intelligence artificielle sera difficile à remplacer le cerveau humain dans la prise de décision ».
lampros stégioulas, chaire unesco en intelligence artificielle et science des données pour le développement social et professeur de science des données à l'université des sciences appliquées de la haye aux pays-bas, a souligné : « les techniciens humains font tous des erreurs, sans parler des machines. « l'intelligence artificielle est-elle une chose ? problème ? être capable de remplacer le cerveau humain dans la prise de décision autonome est une question philosophique autant que pratique.
reference news network a rapporté en juillet de cette année que le site web américain fun science avait publié en juin un article « erreurs désastreuses commises par l'intelligence artificielle ». l'article énumérait des exemples « catastrophiques » d'intelligence artificielle et rappelait que les risques de l'intelligence artificielle ne peuvent être ignorés.
une enquête de la bbc aurait révélé que les plateformes sociales utilisent l’ia pour supprimer des vidéos d’éventuels crimes de guerre, actions qui pourraient priver les victimes d’un recours légitime à l’avenir. les plateformes sociales jouent un rôle clé dans les guerres et les troubles sociaux, souvent comme moyen de communication pour les personnes à risque. l'enquête a révélé que même si des contenus graphiques d'intérêt public pouvaient rester sur le site, les vidéos sur les attaques en ukraine avaient été rapidement supprimées.
ces exemples « catastrophiques » apparaissent également dans la vie quotidienne des gens. google images a dû supprimer cette fonctionnalité après l'apparition d'images de personnes noires lors de la recherche de gorilles sur son logiciel d'ia. d'autres sociétés, dont apple, ont fait l'objet de poursuites judiciaires pour des allégations similaires.
shi chande estime que les questions de sécurité liées à l’intelligence artificielle touchent tous les aspects, y compris la défense nationale et les moyens de subsistance de la population. par conséquent, il a suggéré que les pays concluent des accords multilatéraux pour atténuer les risques de sécurité liés à l’intelligence artificielle.
selon dai qionghai, doyen de l'école des sciences et technologies de l'information de l'université tsinghua et académicien de l'académie chinoise d'ingénierie, le développement de l'intelligence artificielle entrera sur la voie rapide au cours des trois prochaines années. en raison de l'imprévisibilité du développement de l'intelligence artificielle, l'éthique et la gouvernance doivent être au premier plan, et les risques de sécurité des applications de l'intelligence artificielle doivent être réduits afin qu'elles puissent profiter à l'humanité.
selon les experts, il est particulièrement important de renforcer la coopération internationale dans le domaine de l'intelligence artificielle, en particulier la coopération entre les grands pays. la formulation conjointe de normes de sécurité peut permettre à l'intelligence artificielle de mieux profiter à l'humanité.
le 14 mai de cette année, la première réunion du dialogue intergouvernemental sino-américain sur l'intelligence artificielle s'est tenue à genève, en suisse. les deux parties ont présenté leurs points de vue respectifs et leurs mesures de gouvernance sur les risques liés à la technologie de l'intelligence artificielle, ainsi que les mesures prises pour promouvoir l'intelligence artificielle afin de favoriser le développement économique et social. les deux parties ont reconnu que le développement de la technologie de l'intelligence artificielle comporte à la fois des opportunités et des risques, et ont réitéré leur engagement continu à mettre en œuvre l'important consensus atteint par les deux chefs d'état à san francisco.
selon shi chande, la chine et les états-unis doivent veiller à ce que la communication puisse se poursuivre. « dans le domaine des nouvelles technologies, les deux parties atteignent progressivement un certain degré de parité ou d'équilibre, ce qui pourrait conduire à des conversations plus franches et plus approfondies entre les deux parties. nous devons veiller à ce qu'elles continuent à travailler dur pour maintenir la communication. ", a déclaré shizande.
le journaliste du journal xie ruiqiang
(cet article provient de the paper. pour plus d'informations originales, veuillez télécharger l'application « the paper »)
