“Atención médica de IA”: la comodidad y el riesgo coexisten
2024-08-08
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Título original: El hospital lanza un sistema de IA para ayudar en la consulta y acompañar la plataforma online "Prescripción de IA" o cruza la línea (introducción)
“IA + atención médica”: la conveniencia y el riesgo coexisten (tema)
Wen Lijuan, pasante del reportero del Rule of Law Daily, Zhang Guanglong
A las 8 de la mañana, Song Wenzhuo, un médico de la aldea de Xinghe, ciudad de Zhongxing, distrito de Youxian, ciudad de Mianyang, provincia de Sichuan, llegó a la clínica. Lo primero que hizo fue encender la computadora e iniciar sesión. al sistema de diagnóstico y tratamiento asistido por IA (inteligencia artificial) Esto es algo que ha desarrollado como un nuevo hábito.
"Doctor Song, mi corazón late un poco rápido, me falta el aire y de vez en cuando toso". Tan pronto como abrió la clínica, Granny Tu, una aldeana de casi noventa años, vino a ver al médico acompañada por su esposa. Mientras preguntaba sobre los síntomas, Song Wenzhuo ingresó la condición en el sistema y luego hizo clic en el botón de diagnóstico auxiliar de IA. El sistema se conectó rápidamente con la base de conocimientos central nacional con una gran cantidad de casos de enfermedades frecuentes y comunes. etc., y extrajo y analizó la información histórica del historial médico del paciente para proporcionar "Infección aguda del tracto respiratorio superior" y otras recomendaciones de diagnóstico. Song Wenzhuo realizó una evaluación exhaustiva basada en su propia experiencia clínica y finalmente determinó que Granny Tu tenía una infección aguda del tracto respiratorio superior.
Posteriormente, el sistema proporciona medicamentos recomendados según la elección del médico, enumerando las bases de las recomendaciones, sugerencias de exámenes, etc. Song Wenzhuo seleccionó los medicamentos de tratamiento según su referencia y le pidió al anciano que tomara el medicamento primero y observara.
En opinión de Song Wenzhuo, la aplicación de sistemas de diagnóstico asistidos por IA no solo mejora la precisión y la eficiencia del diagnóstico, sino que también ayuda a los médicos a abordar mejor los casos complejos, reduce el riesgo de diagnósticos erróneos y erróneos y hace que el tratamiento médico y la medicación sean más seguros y más seguro.
La aplicación de sistemas de diagnóstico y tratamiento asistidos por IA en instituciones médicas primarias en el distrito de Youxian, ciudad de Mianyang, es un vívido epítome de la promoción de mi país de la "IA + atención médica". El "Decimocuarto Plan Quinquenal para el Desarrollo de la Industria de Equipos Médicos" propone claramente acelerar el desarrollo de equipos médicos inteligentes; las "Opiniones sobre la mejora adicional del sistema de servicios médicos y de salud" proponen desarrollar "Internet + Salud Médica" y acelerar el avance de Internet, la inteligencia artificial, etc. en aplicaciones médicas y sanitarias en el campo... En los últimos años, nuestro país ha fortalecido continuamente el diseño de alto nivel y promovido el desarrollo de la "IA + atención médica".
Muchos expertos y conocedores de la industria señalaron en entrevistas con periodistas del Rule of Law Daily que el campo médico se ha convertido en un lugar importante para explorar las aplicaciones de IA. Actualmente, se utiliza principalmente en algunos hospitales para ayudar a los pacientes en escenarios como el subdiagnóstico. El tratamiento médico, el interrogatorio previo y la generación de registros médicos se han vuelto más convenientes y la calidad de los servicios médicos ha mejorado. El diagnóstico y el tratamiento asistidos por IA se convertirán en una tendencia en el futuro, pero también debemos estar alerta a los riesgos legales. escondido detrás de ellos. Estos riesgos no solo implican la protección de la privacidad personal de los pacientes, sino que también se relacionan con cuestiones como la transparencia y la equidad del algoritmo.
Lanzamiento del diagnóstico asistido por IA en muchos lugares
Mejorar la experiencia del paciente
Recientemente, periodistas acudieron al Hospital Popular de la Universidad de Pekín para realizar exámenes de tiroides y cicatrices, incluidos ultrasonido B y análisis de sangre. Una vez completado el pago, el médico le recordará que programe una cita para un examen en el sistema. El reportero enciende su teléfono móvil y, como un "registro de autoservicio", programa los elementos de inspección en un momento relativamente concentrado en el período de tiempo opcional, de modo que pueda "ejecutarlo todo a la vez" y completar todas las inspecciones. en el menor tiempo, evitando la necesidad de inspecciones in situ repetidas causadas por colas para cambios de cita y diferentes horarios de inspección.
Esto es sólo un microcosmos de la atención médica asistida por IA. El periodista examinó la información pública y descubrió que en muchos hospitales se ha implementado "tratamiento médico AI +".
En Union Hospital, afiliado a la Facultad de Medicina Tongji de la Universidad de Ciencia y Tecnología de Huazhong, si el paciente no sabe a qué departamento asistir, la IA puede ayudar.
El hospital lanzó la "Clínica Inteligente de IA" en mayo de este año, que cubre funciones como el subdiagnóstico inteligente y el número plus inteligente. Tome la función "Smart Plus" en ese momento como ejemplo: los pacientes pueden hacer clic en "Servicio de registro" y "Registro en línea" para ingresar al departamento donde se requiere una cita. Si el número de experto seleccionado está "completo", pueden hacer clic en ". Solicite Plus" a continuación.", seleccione la fecha plus del experto en la página de salto. Después de confirmar la cita gratuita, AI iniciará automáticamente una conversación, preguntará sobre la afección y otra información relacionada, luego generará una "tarjeta de afección", luego evaluará exhaustivamente la gravedad de la afección, determinará las calificaciones para el número plus y finalmente enviará al perito para determinar si se aprueba.
Además, el hospital también puso en marcha una función de "sala de espera inteligente". Después de que el paciente se registre, la "persona médica digital" se comunicará primero con el paciente para comprender sus síntomas y el curso de la enfermedad con anticipación y prepararse para la entrevista con el médico.
En el Hospital Popular Provincial de Zhejiang, la persona de salud digital "Anclin" puede acompañar a los pacientes para recibir tratamiento médico.
Se entiende que "Anclin" puede proporcionar a los pacientes servicios de acompañamiento de IA que abarquen antes, durante y después del tratamiento médico. Antes de la consulta, los pacientes pueden describirles sus síntomas, y "Anclin" conectará al paciente con un departamento y un médico según los síntomas, y ayudará al paciente a programar una cita durante la consulta, "Anclin" puede organizar razonablemente la cita médica; proceso de tratamiento y proporciona navegación inteligente AR durante todo el proceso, también puede permitir a los pacientes seleccionar directamente un número en línea y proporcionar un recordatorio para llamar al número, e incluso puede completar el pago del seguro médico en Alipay, ahorrando tiempo a los pacientes para el tratamiento médico. ; después del diagnóstico, cuando el paciente abandone el hospital, se continuará brindando registros médicos electrónicos, recetas e informes de consultas y otros servicios.
En el Hospital de la Amistad de Beijing, la IA puede ayudar a los médicos a redactar registros médicos.
En mayo de este año, se aplicó el sistema de generación de registros médicos para pacientes ambulatorios de Yunzhisheng en el Hospital de la Amistad de Beijing. El sistema puede identificar conversaciones médico-paciente en un entorno hospitalario complejo, capturar con precisión información clave, separar los roles de médicos y pacientes y eliminar contenido irrelevante para la afección. Puede generar resúmenes de información expresada en términos profesionales, así como información ambulatoria. -correos electrónicos que cumplan con los requisitos de las normas de redacción de registros médicos. Los datos muestran que con la ayuda del sistema de generación de registros médicos para pacientes ambulatorios, la eficiencia del ingreso de casos de pacientes ambulatorios en los departamentos pertinentes del Hospital de la Amistad de Beijing ha mejorado considerablemente y el tiempo de consulta médica se ha acortado considerablemente.
Los riesgos legales no se pueden ignorar
Tenga cuidado con la discriminación algorítmica
Muchos expertos de la industria entrevistados señalaron que la aplicación generalizada de la inteligencia artificial en el campo médico puede brindar a los pacientes servicios más convenientes, mejorar la eficiencia y precisión de los servicios médicos y hacer que los recursos médicos de alta calidad sean más inclusivos. Los riesgos tampoco pueden ignorarse.
Según Chen Chuan, profesor de la Facultad de Derecho de la Universidad de Shanxi, el proceso de diagnóstico médico tradicional enfatiza el respeto y la protección de la dignidad personal y la autonomía de los pacientes. Al tomar decisiones médicas, los médicos deben considerar de manera integral el historial médico del paciente y sus síntomas actuales. y seguir las leyes, reglamentos y normas éticas pertinentes para formular planes de tratamiento adecuados. Sin embargo, la inteligencia artificial médica conlleva el riesgo de "sesgo de automatización", es decir, los médicos pueden confiar demasiado en la tecnología de inteligencia artificial durante el proceso de diagnóstico, ignorando así su propio juicio profesional y la consideración de las necesidades individuales de los pacientes. Esta dependencia excesiva podría llevar a los médicos a entregar de manera inapropiada decisiones médicas difíciles a la IA. Cuando los médicos dependen demasiado de la inteligencia artificial, las decisiones de tratamiento de los pacientes pueden ser arrebatadas y entregadas a las máquinas, lo que hace que los pacientes pierdan su autonomía en el manejo de su propia salud.
Además, no se puede ignorar el problema de la transparencia algorítmica insuficiente y la discriminación algorítmica. "Aunque las "Medidas provisionales para la gestión de servicios de inteligencia artificial generativa" anunciadas por la Administración del Ciberespacio de China en julio de 2023 junto con la Comisión Nacional de Desarrollo y Reforma y otros departamentos presentaron requisitos para la transparencia de los algoritmos, durante el proceso de implementación específico, Los principios de funcionamiento reales y la toma de decisiones del algoritmo. El proceso a menudo es difícil de entender y supervisar por parte del mundo exterior. Debido a la insuficiente transparencia del algoritmo, los pacientes no pueden entender cómo la inteligencia artificial médica llega a conclusiones diagnósticas, lo que resulta en su derecho a saber. y la elección no está totalmente protegida, lo que puede infringir el derecho del paciente al consentimiento informado y a la autonomía", afirmó Chen Chuan.
Propuso que la discriminación algorítmica también conducirá a desigualdades en los recursos médicos en diferentes regiones. Diferentes desarrolladores pueden introducir involuntariamente sesgos al entrenar algoritmos, lo que hace que la IA generativa tome decisiones discriminatorias al enfrentarse a diferentes grupos de pacientes. Por ejemplo, algunos sistemas médicos de IA producen diagnósticos inexactos o sistemáticamente subestimados al evaluar a los pacientes. Por poner otro ejemplo, si los datos de entrenamiento de un modelo de algoritmo provienen principalmente de ciertos grupos, puede generar sesgos al enfrentarse a grupos especiales.
Chen Chuan cree que en la actualidad, la aplicación de la inteligencia artificial en el campo médico aún se encuentra en la etapa exploratoria y es fácil causar problemas de responsabilidad y culpa debido a diagnósticos erróneos, filtración de datos y otros comportamientos. El Código Civil de mi país estipula que el principio de responsabilidad por culpa se aplica a la responsabilidad por daños médicos y también tiene en cuenta la cuestión de la responsabilidad por daños causados por dispositivos médicos. Sin embargo, la inteligencia artificial puede generar de forma independiente resultados o sugerencias de diagnósticos médicos. Por lo tanto, según el marco legal actual, la responsabilidad de las aplicaciones de inteligencia artificial médica es muy complicada y es difícil aplicar simplemente los formularios de responsabilidad tradicionales a la inteligencia artificial médica.
Poner el carro delante del caballo al comprar medicamentos online
El proceso de revisión es inútil.
Además de los posibles riesgos legales en la aplicación real de la "IA + atención médica" como modelo emergente, algunas plataformas de consulta médica y compra de medicamentos en línea han introducido la asistencia de IA, aunque han brindado comodidad a los pacientes, también han expuesto. Hubo muchos problemas.
Durante la investigación, el periodista descubrió que algunas plataformas médicas de Internet adoptan un método operativo que pone el carro delante del caballo, como "primero comprar medicamentos, luego determinar la fórmula del medicamento e incluso generar recetas automáticamente mediante software de inteligencia artificial".
No hace mucho, después de que un periodista realizó un pedido de cápsulas blandas de calcitriol, un medicamento recetado, en una plataforma de compra de medicamentos, la plataforma solicitó "Seleccione una enfermedad confirmada fuera de línea". El periodista verificó al azar varios elementos en la "Columna de enfermedades", dejó vacía la "Columna de informes de recetas/registros médicos/exámenes" y confirmó que "esta enfermedad ha sido diagnosticada y el medicamento se ha utilizado, y no hay antecedentes de alergias". , contraindicaciones relevantes o reacciones adversas." "La verificación fue aprobada rápidamente. Luego de enviar la lista, el sistema saltó a la sección de consulta.
Inmediatamente después, un "médico" recibió el tratamiento y envió varios mensajes seguidos. El primero enfatizó que "el hospital de Internet sólo brinda servicios médicos a los usuarios que regresan". Los mensajes posteriores fueron para confirmar si había antecedentes de alergias o alguna enfermedad. período especial. Cuando el periodista no respondió, la otra parte envió un formulario de receta y un enlace de compra.
Yang Mu (seudónimo), ciudadano de Beijing, también tuvo una experiencia similar. Sospechaba que el médico detrás de la pantalla no era un verdadero médico en ejercicio: “Cuando compraba medicamentos recetados en la plataforma ××, sentía que la otra persona no lo era. A diferencia de un robot, siempre que escribiera, la otra persona me diría qué hacer. Él aceptó rápidamente en cuestión de segundos sin dar ningún consejo profesional. "Una vez describió deliberadamente algunas condiciones que no eran adecuadas para el medicamento. Quería comprar, pero la otra parte lo recetó rápidamente.
Mucha gente en la industria cree que el diagnóstico y tratamiento "a través del aire" no es adecuado para todos los pacientes. El diagnóstico de seguimiento de enfermedades comunes y crónicas ha sido el posicionamiento del diagnóstico y tratamiento en Internet durante mucho tiempo. Sin embargo, ha habido una falta de estándares específicos en la industria para lo que constituye una visita de seguimiento, lo que ha resultado en algunos vacíos regulatorios.
"Si se trata de un hospital de Internet normal, la receta electrónica emitida por un médico cualificado debe tener la firma del médico y el sello electrónico del hospital de Internet. No se descarta que algunas pequeñas plataformas médicas de Internet utilicen inteligencia artificial, robots y otras herramientas Para generar recetas automáticamente, algunas plataformas grandes pueden utilizar IA para ayudar a los médicos en sus consultas, como preguntar al paciente cuántos años tiene, qué le pasa, etc., pero la receta debe ser hecha por un médico. ", dijo un médico de apellido Liu de un hospital terciario de Beijing.
También señaló que para buscar ganancias, muchas plataformas adoptaron el modelo de "la IA prescribe y los clientes toman medicamentos directamente". Los procesos de emisión y revisión de recetas son en vano. O se saltan directamente el proceso de emisión de recetas o no lo procesan. las recetas cargadas por los usuarios sin una revisión real, este tipo de comportamiento viola gravemente el sistema de gestión de medicamentos de mi país y también crea riesgos ocultos para la seguridad de los medicamentos de los pacientes.
Muchos pacientes entrevistados también se preguntan si se divulgará información personal durante las consultas en plataformas de salud en línea.
Una vez, Yang Mu tenía muchas erupciones rojas en la espalda, por lo que acudió a una plataforma de salud para realizar una consulta. A los pocos días, recibió múltiples llamadas publicitarias y mensajes de texto, uno tras otro, incluidas personas que le preguntaban si necesitaba un trasplante de cabello. Hubo argumentos de venta de productos para el cuidado de la piel e incluso llamadas de ventas de empresas crediticias.
"Durante la consulta, ¿se puede mantener bien la información personal y el estado de salud recopilados por la plataforma? ¿Esta información fluirá a un tercero?", Yang Mu estaba muy preocupado.
Anteriormente, el Ministerio de Industria y Tecnología de la Información informó que varias aplicaciones médicas de Internet tienen serios problemas en la recopilación y el uso de información personal, incluida la recopilación de información de privacidad personal más allá del alcance, el suministro de información personal a otros sin el consentimiento del individuo, y recopilar información personal no relacionada con los servicios médicos.
"En comparación con otros tipos de aplicaciones, la filtración de información personal en aplicaciones médicas puede dar lugar a problemas legales más graves. Si se filtra información personal de salud, los delincuentes pueden utilizar esta información para llevar a cabo fraudes precisos, como aprovecharse de la mentalidad de 'buscar tratamiento médico a toda prisa' Venta o promoción ilegal de medicamentos a los pacientes”, afirmó el citado Dr. Liu.
Mejorar el marco legal pertinente.
Proteger eficazmente los derechos e intereses de los pacientes
Los expertos entrevistados señalaron que para abordar eficazmente los posibles riesgos legales en la aplicación práctica de "IA + atención médica", es necesario realizar mejoras sistemáticas tanto desde el nivel legal como político. Sólo estableciendo y mejorando un marco legal y un mecanismo regulatorio, y aclarando las responsabilidades de los grandes modelos médicos y las especificaciones de uso de datos, podremos proteger eficazmente los derechos e intereses legítimos de los pacientes y al mismo tiempo promover el desarrollo de la inteligencia artificial médica.
"En primer lugar, debemos establecer y mejorar el marco legal para la inteligencia artificial médica. Actualmente, las "Medidas provisionales para la gestión de servicios de inteligencia artificial generativa" no implican regulaciones sobre inteligencia artificial en el campo médico. Sobre esta base, Es necesario formular leyes y regulaciones pertinentes en función de las características del campo médico, destacando el énfasis en la inteligencia artificial médica. "El papel auxiliar de la inteligencia, dijo, para ayudar al personal médico y a los pacientes a utilizar mejor los sistemas de inteligencia artificial". y comprender el mecanismo operativo de la inteligencia artificial para obtener resultados de diagnóstico, mi país puede formular directrices de apoyo para el uso de la inteligencia artificial médica para mejorar la interpretabilidad de los sistemas inteligentes y sus resultados. La Ley de seguridad de datos y las "Medidas de revisión ética para las ciencias biológicas y la investigación médica con seres humanos", etc., proporcionan la base para formular medidas de gestión para la inteligencia artificial médica, que deben basarse en las medidas de gestión aplicables a la inteligencia artificial médica. introducido en función de la situación de desarrollo actual.
Chen Chuan también mencionó que es urgente fortalecer la supervisión de los algoritmos de inteligencia artificial médica. Por un lado, para garantizar la seguridad y confiabilidad de la inteligencia artificial médica, se debe establecer una agencia de revisión de algoritmos especializada para llevar a cabo una revisión estricta de seguridad, transparencia y ética de la inteligencia artificial médica, por otro lado, basada en la dinámica; naturaleza de los datos y la inteligencia artificial Con la actualización iterativa continua de la tecnología inteligente, se debe exigir a los desarrolladores que determinen de antemano los riesgos de seguridad generados durante la aplicación de algoritmos y propongan contramedidas específicas. Llevar a cabo periódicamente un seguimiento de los riesgos de los algoritmos durante el ciclo de vida del algoritmo, centrándose. sobre el uso de datos, los escenarios de aplicación y el impacto del algoritmo. Realizar una evaluación de autoseguridad sobre la efectividad, etc. Además, se pueden habilitar diversas medidas, como la supervisión pública y la presentación de informes y las inspecciones del departamento regulatorio.
Deng Yong, profesor del Departamento de Derecho de la Universidad de Medicina China de Beijing, también cree que con el desarrollo de modelos médicos a gran escala, las operaciones de cumplimiento y supervisión de esta industria se han vuelto cada vez más importantes para determinar su propio producto. posicionamiento y obtener las calificaciones correspondientes para evitar realizar las actividades correspondientes sin calificación. “En términos de cumplimiento, primero debe determinar el posicionamiento de su propio producto. Si se trata de un producto de diagnóstico y tratamiento de Internet, debe comunicarse o establecer una institución médica física correspondiente y solicitar la creación de un hospital de Internet correspondiente. requisitos, si sólo se utiliza para la gestión de la salud y no involucra actividades de diagnóstico y tratamiento, debe quedar claro que sus productos no tienen "fines médicos" y sólo están "destinados a ser utilizados para la gestión de la salud, la población objetivo es sana". personas y registrar información estadística de salud".
Propuso que también se deberían utilizar la limpieza de datos y otros métodos para garantizar que la información ilegal y dañina y la información personal de los datos públicos se eliminen para garantizar que los datos de capacitación sean legales y cumplan con las normas. Los requisitos del modelo médico para la recogida de datos de los usuarios deben seguir los principios de licitud, legitimación y necesidad, y no recoger información personal ajena a los servicios prestados.
“Los comportamientos de línea roja de los grandes modelos médicos al recopilar datos de los usuarios incluyen: no revelar las reglas de recopilación y uso; no establecer claramente el propósito, el método y el alcance de la recopilación y el uso de información personal sin el usuario; consentimiento; violación del principio de necesidad y recopilación no relacionada con los servicios prestados; proporcionar información personal a otros sin consentimiento; no proporcionar funciones para eliminar o corregir información personal según lo exige la ley, o no publicar información como quejas. y métodos de presentación de informes ", dijo Deng Yong, al recopilar datos públicos de Internet, para garantizar su legalidad y cumplimiento. Según las regulaciones, también es necesario realizar operaciones como procedimientos de notificación y consentimiento, procedimientos de anonimización y provisión de canales de rechazo. . Además, se debe prestar atención al mecanismo de etiquetado de datos para evitar la generación de contenido ilegal y dañino como pornografía, violencia e información discriminatoria mediante el etiquetado para lograr la seguridad del contenido.
En respuesta a los problemas expuestos por las consultas médicas en línea, Chen Chuan cree que es urgente aclarar las responsabilidades legales de la inteligencia artificial, establecer un mecanismo científico y razonable de asignación de responsabilidades, fortalecer las principales responsabilidades del personal médico, aclarar que la IA se encuentra en un puesto auxiliar y perfeccionar cada campo Las responsabilidades de los participantes no pueden traspasar completamente el diagnóstico médico a la IA, sino que deben seguir el principio de "prevención de antemano, seguimiento durante el incidente y responsabilidad posterior". "El personal médico debe cumplir con su deber de cuidado durante la práctica de la medicina, es decir, el personal médico debe prestar atención a identificar y evaluar los resultados del diagnóstico de IA; de lo contrario, asumirá la responsabilidad".
Fuente: Diario del Estado de Derecho
