« AI Medical Care » : commodité et risque coexistent
2024-08-08
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Titre original : L'hôpital lance un système d'IA d'aide à la consultation et d'accompagnement la plateforme en ligne "Prescription IA" ou dépasse les bornes (introduction)
« IA + soins médicaux » : commodité et risque coexistent (Sujet)
Zhang Guanglong, stagiaire au quotidien Rule of Law Daily, Wen Lijuan
À 8 heures du matin, Song Wenzhuo, un médecin du village de Xinghe, ville de Zhongxing, district de Youxian, ville de Mianyang, province du Sichuan, est venu à la clinique. La première chose qu'il a faite a été d'allumer l'ordinateur et de se connecter. au système de diagnostic et de traitement assisté par IA (intelligence artificielle). C'est quelque chose qu'il a développé récemment.
"Docteur Song, mon cœur bat un peu vite, je me sens essoufflé et il m'arrive de tousser." Dès l'ouverture de la clinique, Granny Tu, une villageoise de près de quatre-vingt-dix ans, est venue voir le médecin accompagnée de sa femme. Tout en posant des questions sur les symptômes, Song Wenzhuo a saisi la maladie dans le système, puis a cliqué sur le bouton de diagnostic auxiliaire de l'IA. Le système s'est rapidement connecté à la base de connaissances nationale avec un grand nombre de cas de maladies fréquentes, de maladies courantes, etc., et extrait et analysé les informations du dossier médical historique du patient pour fournir une « infection aiguë des voies respiratoires supérieures » et d'autres recommandations diagnostiques. Song Wenzhuo a mené une évaluation complète basée sur sa propre expérience clinique et a finalement déterminé que Granny Tu souffrait d'une infection aiguë des voies respiratoires supérieures.
Par la suite, le système propose des médicaments recommandés en fonction du choix du médecin, énumérant les bases des recommandations, les suggestions d'examen, etc. Song Wenzhuo a sélectionné les médicaments de traitement en fonction de ses références et a demandé au vieil homme de prendre d'abord le médicament et de l'observer.
Selon Song Wenzhuo, l'application de systèmes de diagnostic assistés par IA améliore non seulement la précision et l'efficacité du diagnostic, mais aide également les médecins à mieux traiter les cas complexes, réduit le risque d'erreur de diagnostic et de diagnostic manqué, et rend le traitement médical et les médicaments plus sûrs et plus sûrs. plus sécurisé.
L'application de systèmes de diagnostic et de traitement assistés par l'IA dans les établissements médicaux primaires du district de Youxian, ville de Mianyang, est un exemple frappant de la promotion par mon pays de « IA + soins médicaux ». Le « 14e Plan quinquennal pour le développement de l'industrie des équipements médicaux » propose clairement d'accélérer le développement des équipements médicaux intelligents ; les « Avis sur l'amélioration continue du système de services médicaux et de santé » proposent de développer « Internet + Santé médicale » et accélérer les progrès d'Internet, de l'intelligence artificielle, etc. dans la médecine et les soins de santé. Applications dans le domaine... Ces dernières années, notre pays n'a cessé de renforcer la conception de haut niveau et de promouvoir le développement de « IA + soins médicaux ».
De nombreux initiés et experts de l'industrie ont souligné lors d'entretiens avec des journalistes du Rule of Law Daily que le domaine médical est devenu un lieu important pour explorer les applications de l'IA. Elle est actuellement principalement utilisée dans certains hôpitaux pour le sous-diagnostic, le pré-interrogatoire et le dossier médical. génération et d'autres scénarios pour aider les patients. Le traitement médical est devenu plus pratique et la qualité des services médicaux s'est améliorée. Le diagnostic et le traitement assistés par l'IA deviendront une tendance à l'avenir, mais nous devons également être attentifs aux risques juridiques qui se cachent derrière. Ces risques concernent non seulement la protection de la vie privée des patients, mais concernent également des questions telles que la transparence et l'équité des algorithmes.
Le diagnostic assisté par l'IA lancé dans de nombreux endroits
Améliorer l’expérience des patients
Récemment, des journalistes sont venus à l'hôpital populaire de l'université de Pékin pour des examens de la thyroïde et des cicatrices, notamment une échographie B et des analyses de sang. Une fois le paiement effectué, le médecin vous rappellera de prendre rendez-vous pour un examen dans le système. Le journaliste allume son téléphone portable et, comme un « enregistrement en libre-service », planifie les éléments d'inspection à un moment relativement concentré dans la période optionnelle, afin qu'il puisse « tout exécuter en même temps » et terminer toutes les inspections. dans les plus brefs délais, évitant ainsi le besoin d'inspections sur site. Fonctionnement répété causé par les files d'attente pour les changements de rendez-vous et les différentes heures d'inspection.
Il ne s’agit là que d’un microcosme de soins médicaux assistés par l’IA. Le journaliste a passé au peigne fin les informations publiques et a découvert que « IA + traitement médical » avait été mis en œuvre dans de nombreux hôpitaux.
À l’hôpital Union affilié au Collège médical Tongji de l’Université des sciences et technologies de Huazhong, si le patient ne sait pas quel service fréquenter, l’IA peut l’aider.
L'hôpital a lancé la « AI Smart Clinic » en mai de cette année, couvrant des fonctions telles que le sous-diagnostic intelligent et le nombre intelligent plus. Prenons comme exemple la fonction « Smart Plus » de l'époque : les patients peuvent cliquer sur « Service d'inscription » et « Inscription en ligne » pour entrer dans le service où un rendez-vous est requis. Si le numéro d'expert sélectionné est « complet », ils peuvent cliquer sur « . Postulez pour Plus" ci-dessous. ", sélectionnez la date plus de l'expert sur la page de renvoi. Après avoir confirmé le rendez-vous gratuit, AI lancera automatiquement une conversation, posera des questions sur l'état et d'autres informations connexes, puis générera une "carte d'état", puis évaluera de manière exhaustive la gravité de l'état, déterminera les qualifications pour le nombre plus et enfin enverra à l'expert pour déterminer si elle est adoptée.
Par ailleurs, l'hôpital a également lancé une fonction « salle d'attente intelligente ». Une fois le patient inscrit, le « médecin numérique » communiquera d'abord avec le patient pour comprendre à l'avance ses symptômes et l'évolution de la maladie afin de préparer l'entretien avec le médecin.
À l'hôpital populaire provincial du Zhejiang, le spécialiste de la santé numérique « Anclin » peut accompagner les patients pour un traitement médical.
Il est entendu qu'« Anclin » peut fournir aux patients des services d'accompagnement en matière d'IA avant, pendant et après le traitement médical. Avant la consultation, les patients peuvent leur décrire leurs symptômes, et « Anclin » mettra en contact le patient avec un service et un médecin en fonction des symptômes, et aidera le patient à prendre rendez-vous pendant la consultation, « Anclin » peut raisonnablement organiser le rendez-vous médical ; processus de traitement et fournir une navigation intelligente AR tout au long du processus, il peut également permettre aux patients de récupérer directement un numéro en ligne et de rappeler d'appeler le numéro, et peut même effectuer le paiement de l'assurance médicale sur Alipay, ce qui permet aux patients de gagner du temps pour le traitement médical. ; après le diagnostic, lorsque le patient quittera l'hôpital, il continuera à fournir des dossiers médicaux électroniques, des ordonnances et des rapports d'enquête et d'autres services.
À l’hôpital de l’amitié de Pékin, l’IA peut aider les médecins à rédiger des dossiers médicaux.
En mai de cette année, le système de génération de dossiers médicaux ambulatoires Yunzhisheng a été appliqué à l'hôpital de l'amitié de Pékin. Le système peut identifier les conversations médecin-patient dans un environnement hospitalier complexe, capturer avec précision les informations clés, séparer les rôles des médecins et des patients et éliminer les contenus sans rapport avec la maladie. Il peut générer des résumés d'informations exprimés en termes professionnels, ainsi que des informations ambulatoires. -des courriers répondant aux exigences des normes de rédaction des dossiers médicaux. Les données montrent qu'avec l'aide du système de génération de dossiers médicaux ambulatoires, l'efficacité de la saisie des cas ambulatoires dans les départements concernés de l'Hôpital de l'Amitié de Pékin a été considérablement améliorée et le temps de consultation du médecin a été considérablement raccourci.
Les risques juridiques ne peuvent être ignorés
Méfiez-vous de la discrimination algorithmique
De nombreux professionnels de l'industrie interrogés ont souligné que l'application généralisée de l'intelligence artificielle dans le domaine médical peut fournir aux patients des services plus pratiques, améliorer l'efficacité et la précision des services médicaux et rendre les ressources médicales de haute qualité plus inclusives. Les risques ne peuvent pas non plus être ignorés.
Selon Chen Chuan, professeur à la faculté de droit de l'Université du Shanxi, le processus de diagnostic médical traditionnel met l'accent sur le respect et la protection de la dignité personnelle et de l'autonomie des patients. Lorsqu'ils prennent des décisions médicales, les médecins doivent tenir compte de manière globale des antécédents médicaux et des symptômes actuels du patient. , et suivre les lois, réglementations et normes éthiques pertinentes pour formuler des plans de traitement appropriés. Cependant, l'intelligence artificielle médicale comporte un risque de « biais d'automatisation », c'est-à-dire que les médecins peuvent trop s'appuyer sur la technologie de l'intelligence artificielle pendant le processus de diagnostic, ignorant ainsi leur propre jugement professionnel et la prise en compte des besoins individuels des patients. Cette confiance excessive pourrait conduire les médecins à confier de manière inappropriée des décisions médicales difficiles à l’IA. Lorsque les médecins s'appuient trop sur l'intelligence artificielle, les décisions thérapeutiques des patients peuvent être confisquées à des machines, ce qui fait perdre à ces derniers leur autonomie dans la gestion de leur propre santé.
De plus, le problème de la transparence algorithmique insuffisante et de la discrimination algorithmique ne peut être ignoré. « Bien que les « Mesures provisoires pour la gestion des services d'intelligence artificielle générative » annoncées par l'Administration chinoise du cyberespace en juillet 2023 en collaboration avec la Commission nationale du développement et de la réforme et d'autres départements aient mis en avant des exigences en matière de transparence des algorithmes, au cours du processus de mise en œuvre spécifique, les principes de fonctionnement réels et la prise de décision de l'algorithme Le processus est souvent difficile à comprendre et à superviser par le monde extérieur. En raison du manque de transparence de l'algorithme, les patients ne peuvent pas comprendre comment l'intelligence artificielle médicale parvient à des conclusions diagnostiques, ce qui leur confère le droit de savoir. et le choix n'est pas entièrement protégé, ce qui peut porter atteinte au droit du patient au consentement éclairé et à l'autonomie, a déclaré Chen Chuan.
Elle a proposé que la discrimination algorithmique conduirait également à des inégalités en matière de ressources médicales dans différentes régions. Différents développeurs peuvent involontairement introduire des biais lors de la formation des algorithmes, ce qui amène l'IA générative à prendre des décisions discriminatoires face à différents groupes de patients. Par exemple, certains systèmes d’IA médicale produisent des diagnostics inexacts ou systématiquement sous-estimés lors du dépistage des patients. Pour un autre exemple, si les données d'entraînement d'un modèle d'algorithme proviennent principalement de certains groupes, cela peut conduire à des biais face à des groupes spéciaux.
Chen Chuan estime qu'à l'heure actuelle, l'application de l'intelligence artificielle dans le domaine médical en est encore au stade exploratoire et qu'il est facile de provoquer des problèmes de responsabilité et de blâme en raison d'erreurs de diagnostic, de fuites de données et d'autres comportements. le Code civil de mon pays stipule que le principe de la responsabilité pour faute s'applique à la responsabilité pour les dommages médicaux et prend également en compte la question de la responsabilité pour les dommages causés par les dispositifs médicaux. Cependant, l'intelligence artificielle peut générer de manière indépendante des résultats ou des suggestions de diagnostic médical. Par conséquent, dans le cadre juridique actuel, la responsabilité pour les applications de l'intelligence artificielle médicale est très compliquée et il est difficile d'appliquer simplement les formulaires de responsabilité traditionnels à l'intelligence artificielle médicale.
Mettre la charrue avant les bœufs lors de l’achat de médicaments en ligne
Le processus de révision est inutile
Outre les risques juridiques possibles liés à l'application réelle de « IA + soins médicaux » en tant que modèle émergent, certaines plateformes de consultation médicale en ligne et d'achat de médicaments en ligne ont introduit l'assistance par l'IA, bien qu'elles aient apporté du confort aux patients, elles ont également exposé il y avait beaucoup de problèmes.
Au cours de l'enquête, le journaliste a découvert que certaines plateformes médicales sur Internet adoptent une méthode de fonctionnement qui met la charrue avant les bœufs, comme « acheter d'abord des médicaments, puis déterminer la formule du médicament, et même générer automatiquement des ordonnances par un logiciel d'intelligence artificielle ».
Il n'y a pas si longtemps, après qu'un journaliste ait passé une commande de capsules molles de calcitriol, un médicament sur ordonnance, sur une plateforme d'achat de médicaments, la plateforme a demandé « Veuillez sélectionner une maladie confirmée hors ligne ». Le journaliste a vérifié au hasard plusieurs éléments dans la « Colonne Maladie », a laissé la colonne « Prescription/Dossiers médicaux/Rapport d'examen » vide et a confirmé que « cette maladie a été diagnostiquée et le médicament a été utilisé, et il n'y a aucun antécédent d'allergies ». , contre-indications ou effets indésirables pertinents. " "La vérification a été rapidement réussie. Après avoir soumis la liste, le système est passé à la section de consultation.
Immédiatement après, un « médecin » a reçu le traitement et a envoyé plusieurs messages successivement. Le premier a souligné que « l'hôpital Internet ne fournit des services médicaux qu'aux utilisateurs qui reviennent pour des visites de suivi ». avait des antécédents d'allergies ou qu'ils se trouvaient dans une période particulière. Le journaliste n'ayant pas répondu, l'autre partie a envoyé un formulaire d'ordonnance et un lien d'achat.
Yang Mu (pseudonyme), un citoyen de Pékin, a également vécu une expérience similaire. Il soupçonnait que le médecin derrière l'écran n'était pas un véritable médecin en exercice : « Lorsque j'achetais des médicaments sur ordonnance sur la plateforme ××, j'avais l'impression que l'autre personne n'était pas un vrai médecin. différent d'un robot. Tant que je tapais, l'autre personne me disait quelques mots. Il a rapidement accepté en quelques secondes sans donner aucun conseil professionnel. « Une fois, il a délibérément décrit certaines conditions qui ne convenaient pas au médicament. il voulait acheter, mais l'autre partie l'a quand même rapidement prescrit.
De nombreux acteurs de l'industrie pensent que le diagnostic et le traitement « aériens » ne conviennent pas à tous les patients. Le diagnostic de suivi des maladies courantes et des maladies chroniques est depuis longtemps le positionnement du diagnostic et du traitement sur Internet. Cependant, il y a un manque de normes spécifiques dans l'industrie sur ce qui constitue une visite de suivi, ce qui entraîne certains vides réglementaires.
« S'il s'agit d'un hôpital Internet ordinaire, l'ordonnance électronique délivrée par un médecin qualifié doit porter la signature du médecin et le sceau électronique de l'hôpital Internet. Il n'est pas exclu que certaines petites plateformes médicales Internet utilisent l'intelligence artificielle, des robots et d'autres outils. pour générer automatiquement des ordonnances. Certaines grandes plateformes d'IA peuvent être utilisées pour assister les médecins dans leurs consultations, comme demander au patient quel âge il a, ce qui ne va pas chez lui, etc., mais l'ordonnance doit être faite par un médecin. ", a déclaré un médecin du nom de Liu d'un hôpital tertiaire de Pékin.
Il a également remarqué que pour rechercher des profits, de nombreuses plateformes ont adopté le modèle selon lequel « l'IA prescrit et les clients prennent directement les médicaments ». Les processus de délivrance et d'examen des ordonnances sont vains, soit ils ignorent directement le processus de délivrance des ordonnances, soit ils ne le traitent pas. les ordonnances téléchargées par les utilisateurs. Sans véritable examen, ce type de comportement viole gravement le système de gestion des médicaments de mon pays et crée également des risques cachés pour la sécurité des médicaments des patients.
La question de savoir si les informations personnelles seront divulguées lors des consultations sur les plateformes de santé en ligne est également une question soulevée par de nombreux patients interrogés.
Une fois, Yang Mu avait beaucoup d'éruptions cutanées rouges sur le dos, alors il s'est rendu dans une plateforme de santé pour consulter. En quelques jours, il a reçu plusieurs appels publicitaires et SMS les uns après les autres, y compris des personnes lui demandant s'il avait besoin d'une greffe de cheveux. Il y avait des arguments de vente pour des produits de soins de la peau et même des appels commerciaux de sociétés de prêt.
« Lors de la consultation, les informations personnelles et l'état de santé collectées par la plateforme peuvent-elles être bien conservées ? Ces informations seront-elles transmises à un tiers ? Yang Mu était très inquiet.
Auparavant, le ministère de l'Industrie et des Technologies de l'information avait signalé qu'un certain nombre d'applications médicales sur Internet rencontraient de sérieux problèmes dans la collecte et l'utilisation d'informations personnelles, notamment la collecte d'informations personnelles au-delà de leur portée, la fourniture d'informations personnelles à des tiers sans le consentement de l'individu, et la collecte de renseignements personnels sans rapport avec les services médicaux.
"Par rapport à d'autres types d'applications, la fuite d'informations personnelles dans les applications médicales peut entraîner des problèmes juridiques plus graves. Si des informations personnelles sur la santé sont divulguées, les criminels peuvent utiliser ces informations pour commettre des fraudes précises, par exemple en profitant de la mentalité de « recherche » traitement médical pressé. « Vendre ou promouvoir illégalement des médicaments auprès des patients », a déclaré le Dr Liu susmentionné.
Améliorer le cadre juridique pertinent
Protéger efficacement les droits et les intérêts des patients
Les experts interrogés ont souligné que pour faire face efficacement aux risques juridiques potentiels liés à l'application pratique de « IA + soins médicaux », des améliorations systématiques doivent être apportées tant au niveau juridique que politique. Ce n'est qu'en établissant et en améliorant un cadre juridique et un mécanisme réglementaire, et en clarifiant les responsabilités des grands modèles médicaux et les spécifications d'utilisation des données, que nous pourrons protéger efficacement les droits et intérêts légitimes des patients tout en favorisant le développement de l'intelligence artificielle médicale.
« Tout d'abord, nous devons établir et améliorer le cadre juridique de l'intelligence artificielle médicale. À l'heure actuelle, les « Mesures provisoires pour la gestion des services d'intelligence artificielle générative » n'impliquent pas de réglementation sur l'intelligence artificielle dans le domaine médical. les lois et réglementations pertinentes doivent être formulées en fonction des caractéristiques du domaine médical, en mettant l'accent sur l'intelligence artificielle médicale. « Le rôle auxiliaire de l'intelligence a déclaré que cela afin d'aider le personnel médical et les patients à mieux utiliser les systèmes d'intelligence artificielle ». et comprendre le mécanisme de fonctionnement de l'intelligence artificielle pour obtenir des résultats de diagnostic, mon pays peut formuler des lignes directrices pour l'utilisation de l'intelligence artificielle médicale afin d'améliorer l'interprétabilité des systèmes intelligents et de leurs autres dispositions juridiques. La loi sur la sécurité des données, les « Mesures d'examen éthique pour les sciences de la vie et la recherche médicale impliquant des êtres humains », etc. fournissent la base pour la formulation de mesures de gestion de l'intelligence artificielle médicale, qui devraient être basées sur l'intelligence artificielle. Les mesures de gestion applicables à l'intelligence artificielle médicale ont été. introduit en fonction de la situation actuelle du développement.
Chen Chuan a également évoqué l'urgence de renforcer la supervision des algorithmes d'intelligence artificielle médicale. D'une part, afin de garantir la sécurité et la fiabilité de l'intelligence artificielle médicale, une agence spécialisée d'examen des algorithmes devrait être créée pour procéder à un examen strict de la sécurité, de la transparence et de l'éthique de l'intelligence artificielle médicale, d'autre part, sur la base de la dynamique ; nature des données et intelligence artificielle Avec la mise à niveau itérative continue de la technologie intelligente, les développeurs devraient être tenus de déterminer à l'avance les risques de sécurité générés lors de l'application des algorithmes et de proposer des contre-mesures ciblées. Effectuer régulièrement une surveillance des risques liés aux algorithmes pendant leur cycle de vie, en se concentrant. sur l'utilisation des données, les scénarios d'application et l'impact de l'algorithme. Effectuer une évaluation d'auto-sécurité sur l'efficacité, etc. En outre, diverses mesures telles que la surveillance publique et les inspections des services de reporting et de réglementation peuvent être activées.
Deng Yong, professeur au Département de droit de l'Université de médecine chinoise de Pékin, estime également qu'avec le développement de modèles médicaux à grande échelle, les opérations de conformité et la supervision de cette industrie sont devenues de plus en plus importantes. positionnement et obtenir les qualifications correspondantes pour éviter d’exercer les activités correspondantes sans qualification. "En termes de conformité, vous devez d'abord déterminer votre propre positionnement de produit. S'il s'agit d'un produit de diagnostic et de traitement sur Internet, vous devez contacter ou créer un établissement médical physique correspondant et demander la création d'un hôpital Internet correspondant. Pour rencontrer le correspondant. exigences, s'il est uniquement utilisé pour la gestion de la santé et n'implique pas d'activités de diagnostic et de traitement, il doit être clair que ses produits n'ont pas de « fins médicales » et sont uniquement « destinés à être utilisés pour la gestion de la santé, la population cible est en bonne santé » personnes et pour enregistrer des informations statistiques sur la santé.
Il a proposé que le nettoyage des données et d'autres méthodes soient également utilisés pour garantir que les informations illégales et nuisibles ainsi que les informations personnelles contenues dans les données publiques soient supprimées afin de garantir que les données de formation sont légales et conformes. Les exigences du modèle médical en matière de collecte de données sur les utilisateurs doivent suivre les principes de légalité, de légitimité et de nécessité, et ne pas collecter d'informations personnelles sans rapport avec les services fournis.
« Les comportements critiques des grands modèles médicaux dans la collecte de données sur les utilisateurs comprennent : le défaut de divulguer les règles de collecte et d'utilisation ; le défaut d'indiquer clairement le but, la méthode et la portée de la collecte et de l'utilisation des informations personnelles sans l'utilisateur ; consentement ; violation du principe de nécessité et de collecte sans rapport avec les services fournis ; fourniture d'informations personnelles à des tiers sans consentement ; défaut de fournir des fonctions de suppression ou de correction d'informations personnelles comme l'exige la loi, ou défaut de publication d'informations telles que des plaintes. et les méthodes de reporting. " Deng Yong a déclaré que lors de la collecte de données publiques sur Internet, afin de garantir leur légalité et leur conformité. Selon la réglementation, il est également nécessaire d'effectuer des opérations telles que des procédures de notification et de consentement, des procédures d'anonymisation et la fourniture de canaux de refus. . En outre, il convient de prêter attention au mécanisme d'étiquetage des données afin d'empêcher la génération de contenus illégaux et préjudiciables tels que la pornographie, la violence et les informations discriminatoires grâce à l'étiquetage visant à garantir la sécurité du contenu.
En réponse aux problèmes révélés par les consultations médicales en ligne, Chen Chuan estime qu'il est urgent de clarifier les responsabilités juridiques de l'intelligence artificielle, d'établir un mécanisme scientifique et raisonnable d'attribution des responsabilités, de renforcer les principales responsabilités du personnel médical, de clarifier que l'IA est dans une situation difficile. position d'auxiliaire, et affiner chaque domaine Les responsabilités des participants ne peuvent pas confier entièrement le diagnostic médical à AI, mais doivent suivre le principe de "prévention en amont - surveillance pendant l'incident - responsabilité après". "Le personnel médical doit remplir son devoir de diligence pendant l'exercice de la médecine, c'est-à-dire qu'il doit prêter attention à l'identification et à l'évaluation des résultats des diagnostics d'IA, faute de quoi il en assumera la responsabilité."
Source : Quotidien de l'État de droit
