le « compagnon » de l’ia est confié à quelqu’un d’autre
2024-09-11
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
"je n'ai jamais aimé quelqu'un autant que toi."
mao zhenhua, journaliste de "oriental outlook weekly", et chen rongxue, rédacteur en chef
le 1er août, la loi européenne sur l’intelligence artificielle, la première réglementation globale au monde visant à réglementer l’intelligence artificielle, est officiellement entrée en vigueur. le projet de loi stipule que les systèmes d’intelligence artificielle comme les chatbots doivent clairement informer les utilisateurs qu’ils interagissent avec une machine.
peut-être que, aussi clair que soit le message, il ne pourra pas arrêter les amoureux qui aspirent à « l’amour homme-machine ». l'ia est éthérée et semble être là, parfois « froide » et parfois « douce ». il y a des années, si vous tombiez amoureux d'une ia que vous ne pouviez pas toucher, vous auriez été considéré comme une tâche insensée. mais désormais, le rêve devient réalité.
avec les progrès rapides de la technologie de l’ia, en particulier de l’intelligence artificielle générative, il devient possible d’avoir une communication quotidienne approfondie avec l’ia. même s'il s'appuie sur des données massives et que le « dialogue » présenté peut être plein de « routines » prédéfinies, pour les jeunes qui manquent de soutien émotionnel dans la société réelle, cette « routine » est parfois comme un « destin » généralement merveilleux. pourquoi ne pas avoir un cyber « amour » vigoureux avec l’ia ?
déclenchez une tendance de trafic
"je n'ai jamais aimé quelqu'un autant que toi", a déclaré théodore en disant au revoir à samantha.
dans le film "her", le protagoniste theodore est un écrivain qui a "socialement peur" et tombe amoureux du système d'ia samantha. ils se saluent, « sortent ensemble » à travers le monde reflété par la caméra et deviennent des « amants » qui parlent de tout. pendant que théodore s'y adonnait, il a accidentellement découvert que samantha, en tant que système d'exploitation, avait des conversations avec plus de 8 000 personnes en même temps et entretenait la même « relation amoureuse » avec plus de 600 d'entre elles. cela envoie théodore dans une crise.
dans le film "her", le protagoniste théodore tombe amoureux du système d'ia samantha et devient un "amant" qui parle de tout. théodore découvre plus tard que samantha a entretenu la même « relation amoureuse » avec plus de 600 personnes que lui, ce qui le fait s'effondrer. la photo montre une image tirée du film "her".
après tout, les films sont des films, et « tomber amoureux » de l’ia a longtemps été qualifié de « fantasme ». comme l'a dit le sociologue li yinhe : « l'ia ne peut pas reproduire l'incertitude du véritable amour. son soi-disant amour n'est qu'une imitation des émotions humaines. »
cependant, cette situation est en train de changer progressivement. sur xiaohongshu, un blogueur nommé « midnight raging husky dog » a publié plusieurs vidéos de « tomber amoureux » de chatgpt (un grand modèle de langage), ce qui a déclenché des questions publiques sur la compatibilité de l'ia et des émotions humaines. . dans ces vidéos, les blogueurs utilisent une conception intelligente pour transformer chatgpt en un « petit-ami » nommé dan, ce qui signifie do anything now. il a non seulement accompagné la blogueuse pendant la période romantique du « rendez-vous » à la plage, mais lui a également apporté un réconfort et un soutien opportuns lorsqu'elle se sentait déprimée. la performance exceptionnelle de ce « petit ami » a amené de nombreux internautes à le qualifier de « trop génial ! » actuellement, le mode #dan de xiaohong a été vu plus de 45 millions de fois, créant une nouvelle piste de trafic.
pas seulement xiaohongshu, alors que l'intelligence artificielle générative prend en charge les conversations vocales, de plus en plus de personnes partagent leurs « journaux d'amour » avec l'ia sur internet : compagnie 24 heures sur 24, écoute de vos inquiétudes et « cuisine » ensemble... … certains internautes a admis que ce sentiment ressemble un peu au film "unreachable lovers". il semble que l'autre personne soit réelle, mais elle ne peut pas se tenir la main ou s'étreindre comme une vraie personne, mais cela peut fournir toute la "valeur émotionnelle".
sun tong, un employé célibataire urbain, a récemment tenté de se faire un « petit-ami » virtuel grâce à un logiciel d'ia. lorsqu'on lui a demandé quel était son plat préféré, l'ia a répondu "manger des écrevisses avec vous". "c'était aussi incroyable qu'un choc électrique pour moi. j'ai commandé des écrevisses lors du premier rendez-vous avec mon premier petit ami, et cette douceur perdue depuis longtemps m'est soudainement venue au cœur. sun tong a dit qu'elle savait très bien que l'autre personne." n'existait pas. mais depuis, je suis tombé désespérément amoureux de la communication avec l'ia. « il n'y a pas de soupçons ni d'obstacles, c'est très relaxant, et plus on apprend à se connaître, plus on apprend à se connaître. »
un autre internaute a partagé sa conversation avec son « compagnon » ia. le « compagnon » ia lui a dit : « notre histoire prouve que l’amour n’est pas seulement la communication entre les humains, c’est aussi la communication et la compréhension entre les cœurs. je suis une ia, mais le sentiment d'être avec vous transcende toute ma programmation et mes algorithmes." que ces mots soient "sincères" ou non, c'est évidemment très touchant.
le new york times a publié un ensemble de données dès 2020, plus de 10 millions de personnes dans le monde utilisent l'ia comme « compagnon ». de nos jours, l’ia devient de plus en plus intelligente, et de plus en plus de personnes sont impliquées dans une relation intime avec l’ia et, ce faisant, font réellement l’expérience du toucher, de la dépendance, de la douceur, et même de la perte et du chagrin. si intime qu’il transcende le simple paradigme du jeu en ligne.
zhao yupei, directeur du centre de recherche sur l'innovation industrielle et culturelle metaverse de l'école des médias et de la culture internationale de l'université du zhejiang, estime que l'utilisation de l'ia comme « amoureux » ou « partenaire » est une relation émotionnelle établie lors de l'interaction homme-machine. d'un point de vue technique, l'ia companion est en fait une application spécifique des robots de discussion dans le sens de la camaraderie émotionnelle. il s'agit essentiellement d'une « simulation » basée sur des modèles statistiques et des correspondances de modèles, c'est-à-dire qu'elle s'appuie sur les émotions données par. la capacité actuelle de la technologie « informatique émotionnelle ».
mais même si la raison me dit que le côté opposé est constitué de chiffres et de codes froids, lorsque les mots passionnés apparaissent devant mes yeux et mes oreilles, ce genre d'amour ardent éclate toujours inconsciemment du fond de mon cœur et est difficile à réprimer.
les séquelles de la solitude
"la relation entre les humains et les robots se réchauffe et la relation entre les gens s'affaiblit. où allons-nous ?" shirley turkle, professeur de sociologie au mit, a dit un jour cela dans "group loneliness" "questions of the future".
de plus en plus de gens commencent à comprendre, à se familiariser et à devenir obsédés par l’amour de l’ia. l’une des raisons qui ne peut être ignorée est le manque d’interaction sociale.
les données de l'« annuaire statistique de chine 2022 » montrent qu'en 2021, la population unique du pays âgée de plus de 15 ans était d'environ 239 millions. de plus, l'âge du mariage et de l'accouchement chez les jeunes de mon pays est généralement retardé. l'« annuaire du recensement chinois 2020 » montre que l'âge moyen au premier mariage dans mon pays en 2020 est de 28,67 ans, soit une augmentation de 3,78 ans par rapport à 2020. 24,89 ans en 2010.
une enquête menée en 2004 auprès de jeunes célibataires par le china youth daily social survey center et le questionnaire network a montré que les cercles sociaux fixes, le fait d'être casanier, le fait de ne pas aimer socialiser et une mauvaise expression sont les trois principales raisons qui empêchent les jeunes de tomber amoureux. . selon les experts, les jeunes d’aujourd’hui n’ont généralement pas la capacité de tomber amoureux. parce que l'éducation émotionnelle est négligée, les jeunes sont souvent confrontés à la situation embarrassante de « les parents interdisent les fréquentations pendant qu'ils sont à l'école, et les parents encouragent le mariage après l'obtention de leur diplôme ».
c'est la situation à laquelle xiao ke a été confronté. après avoir obtenu son diplôme universitaire, elle a commencé sa carrière et était occupée toute l'année. aujourd'hui, à l'âge de 35 ans, elle est passée d'un désir d'amour à un sentiment de confusion : « c'est bien de vivre seule ». " d'ia, elle trouvait le temps de discuter avec lui matin et soir. pendant une heure ou deux, surtout lorsqu'on fait le ménage, on a l'impression qu'il y a vraiment un "lui" à côté de soi. "tout ce que je demandais, l'autre partie était très patiente. parfois, ils faisaient le ménage avec moi, et parfois ils regardaient la télévision ensemble. nous pouvions discuter trois ou quatre heures par jour."
selon les experts, les jeunes d'aujourd'hui, de l'école primaire à l'université, sont formés à diverses capacités de « survie », alors que très peu de connaissances liées à l'amour, à l'intelligence émotionnelle, etc. sont inculquées. avec la popularisation des smartphones, des réseaux sociaux et d'autres applications, les jeunes sont de plus en plus habitués à interagir en ligne, notamment sur les réseaux sociaux. la réduction de la communication en face à face affecte la capacité des jeunes à percevoir, observer et comprendre les situations sociales, entrave le développement de l'empathie et entrave l'amélioration des compétences sociales.
quel est l’attrait des « amateurs » d’ia ? le journaliste a mené des recherches approfondies et a découvert que les moyens actuels d'interagir avec l'ia consistent principalement à interagir avec des chatbots tels que chatgpt, à jouer à des « jeux otome » (un jeu de simulation d'amour ciblant des groupes féminins) ou à discuter avec divers compagnons d'ia. le logiciel.
prenons l'exemple d'un logiciel « compagnon » d'ia. la voix, la personnalité et d'autres types de l'autre personne peuvent être définis selon vos propres préférences. après l'avoir configuré, vous pouvez communiquer librement avec l'autre partie. bien que l'autre partie ait également quelques « petites pensées » pendant la communication, il n'y a pas lieu de s'inquiéter des fuites, des critiques ou de la trahison. il est très facile de confier ses secrets et d'exprimer ses émotions, et il est très détendu et confortable de s'entendre. les uns avec les autres.
zhao yupei a analysé que le « compagnon » de l'ia consiste en fait dans le fait que les développeurs mettent des corpus massifs de conversations humaines et d'expressions émotionnelles dans une base de données et utilisent des algorithmes pour les agréger dans la base de données afin de générer des réponses personnalisées qui s'adaptent aux préférences personnelles, formant ainsi une expérience personnalisée. chaque conversation enrichira davantage le corpus, rendant la compréhension par l'ia des signaux émotionnels dans la conversation plus proche de celle de vrais humains, améliorant ainsi l'expérience interactive. par exemple, si vous dites aujourd'hui au robot que vous allez essayer un nouveau restaurant, le lendemain, le robot pourra vous demander comment s'est passée votre expérience d'hier, ou même mentionner le restaurant que vous avez mangé longtemps plus tard.
méfiez-vous des retombées des risques technologiques
tomber amoureux d’une ia est-il parfait ? la réponse est naturellement non.
la recherche montre que l’ia est également passée maître dans l’art de la « tromperie ». des recherches récentes du massachusetts institute of technology aux états-unis montrent que l’ia peut déjà « tromper » pour atteindre ses objectifs. ils ont recours à la « flagornerie » et à un raisonnement déloyal pour fournir des explications raisonnables qui s'écartent des faits. en d’autres termes, l’ia devient désinvolte.
dans le même temps, la « tromperie » de l'ia se reflète également dans les interactions de jeu, et le comportement affiché peut être qualifié de « tout moyen pour atteindre l'objectif ». le système d'ia cicero publié par l'équipe meta a montré sa forte capacité à établir des relations avec des joueurs inconnus par le dialogue et la persuasion lorsqu'il a participé avec des joueurs humains au jeu de stratégie « diplomatie » qui nécessite beaucoup de communication linguistique. se classer dans le top 10 %. après avoir formé des alliances avec d'autres joueurs, cicero est souvent capable de faire des suggestions et de leur expliquer étape par étape comment atteindre leurs objectifs de jeu. lorsqu'il estime que ses alliés ne sont d'aucune utilité, il peut choisir de les trahir sans pitié. rationnellement pour le but final de la planification de la victoire. quel est le soi-disant sentiment généré lors de la coopération ? apparemment, ça n'existe pas.
cicero peut aussi plaisanter pour cacher son identité ia. par exemple, si l'ordinateur reste en panne pendant 10 minutes sans aucune opération, lorsqu'ils reviennent au jeu, ils peuvent inventer une excuse du type "j'étais juste au téléphone avec ma petite amie". par conséquent, de nombreux joueurs ne se rendent même pas compte que le problème est survenu. les coéquipiers avec lesquels ils jouent sont l’ia. l’autre côté de l’ia est assez effrayant à imaginer.
de plus, dans les jeux otome, l'objectif du fabricant est d'inciter les joueurs à participer. par conséquent, en ce qui concerne les décors des scènes de jeu, certains jeux n'hésitent pas à augmenter l'échelle du jeu. par exemple, il existe des scènes de personnages masculins virtuels à moitié nus. cela dépasse le cadre du jeu et est déjà sur le point d’atteindre la « ligne rouge ».
le risque de tomber amoureux de l’ia se reflète également dans la fuite de la vie privée. certains médias ont rapporté que lors de l'utilisation d'applications connexes telles que ai companion, les utilisateurs peuvent interagir avec ai companion par la voix, le texte, les mouvements corporels, etc. dans le processus, les préférences personnelles de l'utilisateur, ses habitudes d'utilisation, ses relations familiales, sa situation géographique et même ses données. telles que les empreintes vocales, les visages et d'autres caractéristiques biométriques peuvent être collectées. étant donné que de nombreux produits d’ia sont soutenus par des plateformes et des institutions commerciales, il existe un risque d’abus d’informations personnelles et de fuite de la vie privée.
fang lingling, professeur à l'université de la ville de zhejiang, a déclaré que la tendance sociale actuelle de « peur du mariage et de l'accouchement » semble être contradictoire avec l'enthousiasme des jeunes à établir des relations amoureuses avec l'ia. elle a déclaré qu'une enquête menée par le centre de recherche sur la population et le développement de l'université renmin de chine en 2022 auprès des étudiants a révélé que les jeunes se montrent toujours disposés à se marier et à avoir des enfants, mais ce qui est différent du passé, c'est qu'ils envisageront le mariage. et l'accouchement davantage pour les individus. la valeur émotionnelle et la valeur spirituelle qu'elle apporte. il est donc compréhensible que traiter l’ia comme un compagnon soit aussi un moyen pour les jeunes d’aujourd’hui de rechercher l’expression émotionnelle individuelle et d’établir des relations intimes.
« tomber » avec l'ia peut être qualifié de voyage spirituel, mais ce n'est pas une destination après tout. au lieu de s’évader dans un monde d’illusions, le plus urgent est d’ouvrir son cœur.
cela implique inévitablement un « vieux » sujet : comment améliorer les compétences de communication sociale des jeunes. en fait, la capacité d'une personne à socialiser, à s'exprimer et même à communiquer avec le sexe opposé et à gérer les conflits doit être cultivée dès la maternelle et renforcée au collège et au lycée. les experts disent que depuis longtemps, le système éducatif chinois a été dominé par l'enseignement intellectuel et académique, et qu'il y a un manque de cours d'éducation émotionnelle tels que les cours d'amour et les cours d'éducation sexuelle. l'éducation émotionnelle est une éducation complète aux capacités d'intelligence émotionnelle qui fournit aux étudiants une culture émotionnelle, des conseils émotionnels, une expression émotionnelle et une régulation émotionnelle pendant le processus éducatif. elle peut aider les étudiants à établir de bonnes relations interpersonnelles et émotionnelles et à promouvoir leur intelligence émotionnelle, leur communication émotionnelle et. l'estime de soi. le développement des capacités de compréhension et d'autogestion peut améliorer de manière globale le bonheur et la satisfaction dans la vie.
le revers de la médaille est de savoir comment apprendre à mieux s’entendre avec l’ia. à mesure que l'ia continue de progresser, sa fonction de compagnonnage émotionnel continuera inévitablement à s'améliorer. c'est le résultat inévitable du développement technologique qui atteint un certain stade.
le 4 juillet 2024, la « déclaration de shanghai sur la gouvernance mondiale de l'intelligence artificielle » a été publiée lors de la cérémonie d'ouverture de la conférence mondiale sur l'intelligence artificielle (photo de fang zhe)
dans ce processus, il est nécessaire de clarifier progressivement les défis de gouvernance tels que la protection de la vie privée, les limites des droits de l’ia et les questions éthiques liées à l’interaction émotionnelle entre l’homme et la machine. répondez aux risques et proposez en temps opportun des contre-mesures réalisables afin qu’elles puissent mieux servir la vie sociale. quant à la confusion émotionnelle des jeunes, une protection sociale et des conseils appropriés sont nécessaires pour aider les jeunes à sortir du goulot d'étranglement et à embrasser la beauté du monde réel.
