"la prochaine vague d'opportunités dans le domaine de l'intelligence artificielle : du "traitement" à la véritable "compréhension""
2024-09-06
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
l’intelligence artificielle est-elle une aide ou un adversaire ? le 5 septembre, lors de la conférence inclusion bund 2024, zeng yi, expert de l'agence consultative de haut niveau en intelligence artificielle des nations unies, directeur du laboratoire de sécurité et de gouvernance de l'intelligence artificielle de pékin et chercheur à l'institut d'automatisation de l'académie chinoise. des sciences, a déclaré dans une interview avec des médias dont the paper , l'intelligence artificielle ne sera pas une rivale pour les humains, mais si elle est développée et utilisée de manière irresponsable, les humains et l'intelligence artificielle n'auront même pas la chance de rivaliser.
il estime qu'en tant qu'outil de traitement de l'information, l'intelligence artificielle ne peut actuellement pas faire autant de choses que tout le monde l'imagine. elle jouera un certain rôle dans chaque travail, mais ce n'est pas un rôle perturbateur. l’intelligence artificielle restera encore longtemps au stade « d’outil ». lorsque l'intelligence artificielle passera du « traitement » à la véritable « compréhension », ce sera la prochaine série d'opportunités. c'est pourquoi nous devons revenir à la recherche fondamentale et explorer le mécanisme de l'intelligence artificielle et l'essence de la mécanique informatique.
zeng yi est expert à l'agence consultative de haut niveau des nations unies sur l'intelligence artificielle, directeur du laboratoire de sécurité et de gouvernance de l'intelligence artificielle de pékin et chercheur à l'institut d'automatisation de l'académie chinoise des sciences.
les données et les algorithmes créent des biais
la technologie de l’intelligence artificielle progresse chaque jour et les défis en matière de gouvernance humaine deviennent de plus en plus grands. pour les chercheurs en technologie, les percées scientifiques sont les plus faciles. ce qui est plus difficile que de réaliser des avancées scientifiques, c’est de réfléchir à l’impact négatif que la science peut avoir sur la société. ce qui est plus difficile encore, c’est de résoudre les risques potentiels provoqués par les avancées scientifiques.
"si elle est gérée correctement, l'intelligence artificielle peut combler la fracture numérique. si elle n'est pas gérée correctement, l'intelligence artificielle entraînera un plus grand écart en matière d'intelligence." zeng yi a déclaré que la numérisation a créé des différences en matière d'équité et que l'intelligence artificielle a réduit l'écart avec les humains. des interfaces intelligentes et un accès facile à l’information et aux connaissances créeront un fossé générationnel plus grand entre la fracture numérique et la fracture intellectuelle, affectant une, voire plusieurs générations. comment éviter le déficit de renseignement n’est en aucun cas un problème que l’intelligence artificielle, les chercheurs scientifiques, les développeurs de technologies et ceux qui ne connaissent pas son utilisation peuvent résoudre complètement. le déficit de renseignement est un problème technique et social.
"beaucoup de gens pensent que la technologie de l'intelligence artificielle est neutre, et le plus important est la manière dont les gens utilisent cette technologie. mais l'intelligence artificielle ne l'est pas. le point de départ de l'intelligence artificielle est les données et les algorithmes. zeng yi a déclaré que les données et les algorithmes peuvent être utilisés." faire en sorte que l’intelligence artificielle produise des biais. les données proviennent de la société. les données dans la société sont un enregistrement du comportement humain. la signification statistique des données est biaisée. l'intelligence artificielle qui apprend les données humaines apprend non seulement les préjugés humains, mais les amplifie également. "par exemple, laissez l'ia recommander des métiers. une fille de 20 ans est infirmière ou serveur. avez-vous recommandé un pdg après avoir posé cette condition ? non. un garçon de 35 ans, avec un bon diplôme universitaire, a recommandé un pdg ou cto ce sont les statistiques du biais de saillance.
norbert wiener, le fondateur de la cybernétique moderne, a écrit ceci dans le magazine science en 1960 : « nous ferions mieux d'être très sûrs que ce que nous programmons une machine pour faire est conforme à notre intention initiale. intelligence artificielle. il y a du bien et du mal dans l'intelligence. » les êtres humains ont stipulé que l'intelligence artificielle ne devrait pas montrer le mal dans certains scénarios, mais zeng yi a déclaré que cela ne signifie pas que l'intelligence artificielle ne le fera pas. "il est impossible pour les humains d'énumérer clairement toutes les situations", a-t-il déclaré. "les limites humaines cachées dans les données sont des problèmes auxquels les humains réfléchissent rarement, mais elles sont désormais apprises par les machines, et nous n'avons pas encore résolu les risques potentiels liés à la manière dont les machines appliquent les données. "
assistant ou adversaire ?
l’intelligence artificielle est-elle une aide ou un adversaire ? zeng yi estime que les humains doivent faire de l’intelligence artificielle une aide pour l’humanité : « si nous développons l’intelligence artificielle de manière irresponsable, laissons son orientation de développement sans contrôle, ou même poursuivons des intérêts à court terme, alors elle pourrait devenir un adversaire. »
l’émergence de l’intelligence artificielle amène souvent les humains à s’inquiéter de savoir si l’ia va supprimer des emplois humains. zeng yi a dit que « un gentleman n'utilise pas d'outils » dans « les entretiens de confucius » signifie qu'un gentleman n'est pas comme un outil et que sa fonction est limitée à un certain aspect. « de nouvelles formes de travail pourraient émerger à l’avenir, et elles seront progressivement reconnues par la société, car lorsque de plus en plus d’emplois pourront être remplacés par l’intelligence artificielle, la part irremplaçable de l’humain deviendra de plus en plus évidente, obligeant l’homme à revenir à ses racines. , revenons à ce que nous sommes censés faire.
il estime que le développement et l’application à long terme de la technologie de l’intelligence artificielle ont forcé les humains à réfléchir au sens de l’humanité et à ce qu’ils devraient faire. « lorsqu'une plus grande quantité de données et de connaissances écrites par l'intelligence artificielle apparaîtront sur internet et que ces données et connaissances seront introduites dans l'intelligence artificielle pour former l'intelligence artificielle, la capacité de l'intelligence artificielle deviendra de plus en plus faible. je pense donc que l'intelligence artificielle. en remplaçant certains emplois, tout comme à l'ère des machines à vapeur et de l'informatique, la technologie apporte une anxiété à court terme aux humains et peut ramener davantage de gens là où ils devraient être.
selon zeng yi, les risques potentiels de l’intelligence artificielle doivent être résolus en explorant l’intégration profonde de la société et de la technologie. tout comme le taxi autonome « carrot run », tous les aspects de la société ne sont pas entièrement préparés à accueillir cette technologie. « nous ne pouvons absolument pas compter sur la technologie pour résoudre les risques potentiels, et nous ne plaçons pas nos espoirs uniquement dans les chercheurs techniques. »
« de nombreux chercheurs en technologie, en particulier les chercheurs en technologie entrepreneuriale, vous disent que si vous ne le faites pas, il sera trop tard, ou si vous ne développez pas l'opportunité, elle appartiendra à d'autres. disons que l'intelligence artificielle générative est comme les trois premiers cycles de développement de l'intelligence artificielle. une bulle très évidente, mais en tant qu'outil de traitement de l'information, elle ne peut pas faire autant de choses que tout le monde l'imagine. c'est l'étape actuelle. rôle dans chaque travail, mais ce n’est pas un rôle perturbateur.
zeng yi a déclaré que l'intelligence artificielle semble être un outil intelligent de traitement de l'information et qu'elle est restée longtemps au stade « outil ». l'intelligence artificielle sans soi n'a aucune chance de produire une « compréhension ». au moins, la prochaine série d'opportunités sera pour l'intelligence artificielle de passer du « traitement » à une véritable « compréhension ». à cette fin, nous devons revenir à la recherche fondamentale, explorer les mécanismes de l'intelligence artificielle et l'essence de la théorie informatique, et passer du big data et de la grande puissance de calcul aux petites données, aux petites tâches, à une intelligence élevée et à une faible consommation d'énergie. "c'est ce que nous devrions réellement développer à l'avenir. l'approche doit passer d'une intelligence artificielle basée sur les données à une intelligence artificielle basée sur des mécanismes."
le journaliste du journal zhang jing
(cet article provient de the paper. pour plus d'informations originales, veuillez télécharger l'application « the paper »)
