“AI Medical Care”: Conveniência e Risco Coexistem
2024-08-08
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Título original: O hospital lança sistema de IA para auxiliar na consulta e acompanhamento da plataforma online “prescrição de IA” ou ultrapassa os limites (introdução)
“IA + Assistência Médica”: Conveniência e Risco Coexistem (Tópico)
Estado de Direito Repórter diário Wen Lijuan, estagiário Zhang Guanglong
Às 8 horas da manhã, Song Wenzhuo, um médico da vila de Xinghe, cidade de Zhongxing, distrito de Youxian, cidade de Mianyang, província de Sichuan, veio à clínica. A primeira coisa que fez foi ligar o computador e fazer login. ao sistema de diagnóstico e tratamento assistido por IA (inteligência artificial). Isso é algo que ele desenvolveu recentemente.
“Doutor Song, meu coração está batendo um pouco rápido, sinto falta de ar e ocasionalmente tosse. Assim que a clínica abriu, vovó Tu, uma aldeã de quase noventa anos, veio ver o médico acompanhada por.” sua esposa. Ao perguntar sobre os sintomas, Song Wenzhuo inseriu a condição no sistema e, em seguida, clicou no botão de diagnóstico auxiliar de IA. O sistema conectou-se rapidamente à base de conhecimento central nacional com um grande número de casos de doenças de ocorrência frequente, doenças comuns, etc., e extraiu e analisou as informações históricas do prontuário médico do paciente para fornecer "Infecção aguda do trato respiratório superior" e outras recomendações diagnósticas. Song Wenzhuo conduziu uma avaliação abrangente com base em sua própria experiência clínica e finalmente determinou que a vovó Tu tinha uma infecção aguda do trato respiratório superior.
Posteriormente, o sistema fornece medicamentos recomendados com base na escolha do médico, listando as bases para recomendações, sugestões de exames, etc. Song Wenzhuo selecionou os medicamentos de tratamento com base em sua referência e pediu ao velho que tomasse o remédio primeiro e observasse.
Na opinião de Song Wenzhuo, a aplicação de sistemas de diagnóstico assistidos por IA não só melhora a precisão e a eficiência do diagnóstico, mas também ajuda os médicos a lidar melhor com casos complexos, reduz o risco de diagnósticos errados e perdidos e torna o tratamento médico e a medicação mais seguros e mais seguro.
A aplicação de sistemas de diagnóstico e tratamento assistidos por IA em instituições médicas primárias no distrito de Youxian, cidade de Mianyang, é um epítome vívido da promoção de "IA + cuidados médicos" em meu país. O "14º Plano Quinquenal para o Desenvolvimento da Indústria de Equipamentos Médicos" propõe claramente acelerar o desenvolvimento de equipamentos médicos inteligentes; os "Pareceres sobre a Melhoria Adicional do Sistema de Serviços Médicos e de Saúde" propõem desenvolver "Internet + Saúde Médica" e acelerar o avanço da Internet, inteligência artificial, etc. em aplicações médicas e de saúde... Nos últimos anos, nosso país tem fortalecido continuamente o design de alto nível e promovido o desenvolvimento de "AI + cuidados médicos".
Muitos membros e especialistas do setor apontaram em entrevistas com repórteres do Rule of Law Daily que a área médica se tornou um lugar importante para explorar aplicações de IA. Atualmente, ela é usada principalmente em alguns hospitais para auxiliar pacientes em cenários como subdiagnóstico. , pré-interrogatório e geração de registros médicos O tratamento médico tornou-se mais conveniente e a qualidade dos serviços médicos melhorou, o diagnóstico e o tratamento assistidos por IA se tornarão uma tendência no futuro, mas também precisamos estar atentos aos riscos legais. escondidos por trás deles. Esses riscos não envolvem apenas a proteção da privacidade pessoal dos pacientes, mas também estão relacionados a questões como transparência e justiça de algoritmos.
Diagnóstico assistido por IA lançado em muitos lugares
Melhore a experiência do paciente
Recentemente, repórteres foram ao Hospital Popular da Universidade de Pequim para exames de tireoide e cicatrizes, incluindo ultrassonografia B e exames de sangue. Após a finalização do pagamento, o médico irá lembrá-lo de marcar uma consulta para exame no sistema. O repórter liga seu celular e, como um “check-in de autoatendimento”, agenda os itens de fiscalização em um horário relativamente concentrado no período opcional, para que possa “fazer tudo de uma vez” e concluir todas as inspeções no menor tempo, evitando a necessidade de inspeções no local causadas por filas para mudanças de compromissos e diferentes tempos de inspeção.
Este é apenas um microcosmo de cuidados médicos assistidos por IA. O repórter vasculhou informações públicas e descobriu que “IA + tratamento médico” foi implementado em muitos hospitais.
No Union Hospital, afiliado ao Tongji Medical College da Huazhong University of Science and Technology, se o paciente não souber qual departamento frequentar, a IA pode ajudar.
O hospital lançou a "AI Smart Clinic" em maio deste ano, abrangendo funções como subdiagnóstico inteligente e número plus inteligente. Tomemos como exemplo a função "Smart Plus" da época: os pacientes podem clicar em "Serviço de Cadastro" e "Registro Online" para entrar no departamento onde é necessária a consulta. Se o número do especialista selecionado estiver "completo", eles podem clicar em ". Inscreva-se no Plus" abaixo. ”, selecione a data positiva do especialista na página de salto. Depois de confirmar a consulta gratuita, a IA iniciará automaticamente uma conversa, perguntará sobre a condição e outras informações relacionadas, gerará um "cartão de condição", avaliará de forma abrangente a gravidade da condição, determinará as qualificações para o número positivo e, finalmente, enviará ao especialista para determinar se foi aprovado.
Além disso, o hospital também lançou a função “sala de espera inteligente”. Após o registro do paciente, o "médico digital" se comunicará primeiro com o paciente para entender os sintomas do paciente e o curso da doença com antecedência, a fim de se preparar para a entrevista com o médico.
No Hospital Popular da Província de Zhejiang, o profissional de saúde digital "Anclin" pode acompanhar os pacientes para tratamento médico.
Entende-se que a “Anclin” pode fornecer aos pacientes serviços de acompanhamento de IA cobrindo antes, durante e após o tratamento médico. Antes da consulta, os pacientes podem descrever seus sintomas para eles, e "Anclin" irá combinar o paciente com um departamento e médico com base nos sintomas, e ajudar o paciente a marcar uma consulta durante a consulta, "Anclin" pode agendar razoavelmente o médico; processo de tratamento e fornecer navegação inteligente AR durante todo o processo, também pode permitir que os pacientes escolham diretamente um número on-line e fornecer um lembrete para ligar para o número, e pode até mesmo concluir o pagamento do seguro médico no Alipay, economizando tempo dos pacientes para tratamento médico. ; após o diagnóstico, quando o paciente sair do hospital, continuará fornecendo prontuários eletrônicos, receitas e laudos, consultas e outros serviços.
No Beijing Friendship Hospital, a IA pode ajudar os médicos a redigir registros médicos.
Em maio deste ano, o sistema de geração de registros médicos ambulatoriais de Yunzhisheng foi aplicado no Hospital da Amizade de Pequim. O sistema pode identificar conversas médico-paciente em um ambiente hospitalar complexo, capturar com precisão informações importantes, separar as funções de médicos e pacientes e eliminar conteúdo irrelevante para a condição. Ele pode gerar resumos de informações expressas em termos profissionais, bem como em termos ambulatoriais. -mails que atendam aos requisitos dos padrões de redação de registros médicos. Os dados mostram que, com a ajuda do sistema de geração de registros médicos ambulatoriais, a eficiência da entrada de casos ambulatoriais nos departamentos relevantes do Hospital da Amizade de Pequim melhorou bastante e o tempo de consulta médica foi bastante reduzido.
Os riscos legais não podem ser ignorados
Tenha cuidado com a discriminação algorítmica
Muitos membros da indústria entrevistados apontaram que a aplicação generalizada da inteligência artificial na área médica pode fornecer aos pacientes serviços mais convenientes, melhorar a eficiência e a precisão dos serviços médicos e tornar os recursos médicos de alta qualidade mais inclusivos. Os riscos também não podem ser ignorados.
De acordo com Chen Chuan, professor da Faculdade de Direito da Universidade de Shanxi, o processo tradicional de diagnóstico médico enfatiza o respeito e a proteção da dignidade pessoal e da autonomia dos pacientes. Ao tomar decisões médicas, os médicos precisam considerar de forma abrangente o histórico médico passado do paciente e os sintomas atuais. e siga as leis, regulamentos e normas éticas relevantes para formular planos de tratamento apropriados. No entanto, a inteligência artificial médica acarreta o risco de "viés de automação", ou seja, os médicos podem confiar demasiado na tecnologia de inteligência artificial durante o processo de diagnóstico, ignorando assim o seu próprio julgamento profissional e a consideração das necessidades individuais dos pacientes. Este excesso de confiança pode levar os médicos a entregar indevidamente decisões médicas difíceis à IA. Quando os médicos confiam demasiado na inteligência artificial, as decisões de tratamento dos pacientes podem ser retiradas e entregues às máquinas, fazendo com que os pacientes percam a autonomia na gestão da sua própria saúde.
Além disso, o problema da transparência algorítmica insuficiente e da discriminação algorítmica não pode ser ignorado. "Embora as "Medidas Provisórias para a Gestão de Serviços Gerativos de Inteligência Artificial" anunciadas pela Administração do Ciberespaço da China em julho de 2023 em conjunto com a Comissão Nacional de Desenvolvimento e Reforma e outros departamentos apresentem requisitos para a transparência do algoritmo, durante o processo de implementação específico, os princípios reais de funcionamento e a tomada de decisões do algoritmo O processo é muitas vezes difícil de compreender e supervisionar pelo mundo exterior. Devido à transparência insuficiente do algoritmo, os pacientes não conseguem compreender como a inteligência artificial médica chega a conclusões diagnósticas, resultando no seu direito de saber. e a escolha não ser totalmente protegida, o que pode infringir o direito do paciente ao consentimento informado e à autonomia, o direito de decidir", disse Chen Chuan.
Ela propôs que a discriminação algorítmica também levará a desigualdades nos recursos médicos em diferentes regiões. Diferentes desenvolvedores podem introduzir involuntariamente preconceitos ao treinar algoritmos, fazendo com que a IA generativa tome decisões discriminatórias ao enfrentar diferentes grupos de pacientes. Por exemplo, alguns sistemas médicos de IA produzem diagnósticos imprecisos ou sistematicamente subestimados durante a triagem de pacientes. Por outro exemplo, se os dados de treinamento de um modelo de algoritmo vierem principalmente de determinados grupos, isso poderá levar a preconceitos ao enfrentar grupos especiais.
Chen Chuan acredita que, atualmente, a aplicação da inteligência artificial na área médica ainda está em fase exploratória e é fácil causar problemas de responsabilização e culpa devido a erros de diagnóstico, vazamento de dados e outros comportamentos. o Código Civil do meu país estipula que o princípio da responsabilidade por culpa se aplica à responsabilidade por danos médicos e também leva em consideração a questão da responsabilidade por danos causados por dispositivos médicos. No entanto, a inteligência artificial pode gerar de forma independente resultados ou sugestões de diagnósticos médicos. Portanto, no quadro jurídico atual, a responsabilização pelas aplicações de inteligência artificial médica é muito complicada e é difícil simplesmente aplicar formulários de responsabilidade tradicionais à inteligência artificial médica.
Colocar a carroça na frente dos bois ao comprar remédios online
O processo de revisão é inútil
Além dos possíveis riscos legais na aplicação real de "IA + cuidados médicos" como um modelo emergente, algumas plataformas de consulta médica online e de compra de medicamentos online introduziram assistência de IA, embora tenham trazido conveniência aos pacientes, também expuseram Há foram muitos problemas.
Durante a investigação, o repórter descobriu que algumas plataformas médicas da Internet adotam um método de operação que coloca a carroça na frente dos bois, como “primeiro compre medicamentos, depois determine a fórmula do medicamento e até mesmo gere prescrições automaticamente por software de inteligência artificial”.
Não muito tempo atrás, depois que um repórter fez um pedido de cápsulas moles de calcitriol, um medicamento prescrito, em uma plataforma de compra de medicamentos, a plataforma solicitou "Selecione uma doença confirmada off-line". O repórter verificou aleatoriamente vários itens da “Coluna de Doenças”, deixou vazia a “Coluna de Prescrição/Registros Médicos/Relatório de Exame” e confirmou que “esta doença foi diagnosticada e o medicamento foi usado, e não há histórico de alergias , contra-indicações ou reações adversas relevantes." "A verificação foi aprovada rapidamente. Após o envio da lista, o sistema saltou para a seção de consultas.
Imediatamente a seguir, um “médico” recebeu o tratamento e enviou várias mensagens sucessivas. A primeira enfatizou que “o hospital da Internet só presta serviços médicos a utentes recorrentes”. período especial. Como o repórter não respondeu, a outra parte enviou um formulário de prescrição e um link de compra.
Yang Mu (pseudônimo), um cidadão de Pequim, também teve uma experiência semelhante. Ele suspeitava que o médico por trás da tela não fosse um verdadeiro médico praticante: “Ao comprar medicamentos prescritos na plataforma ××, senti que a outra pessoa não era. diferente de um robô. Enquanto eu digitava, a outra pessoa me dizia o que fazer. Ele concordou rapidamente em segundos, sem dar nenhum conselho profissional "Uma vez, ele descreveu deliberadamente algumas condições que não eram adequadas para o medicamento. ele queria comprar, mas a outra parte ainda assim o prescreveu rapidamente.
Muitas pessoas na indústria acreditam que o diagnóstico e o tratamento "baseados no ar" não são adequados para todos os pacientes. O diagnóstico de acompanhamento de doenças comuns e crônicas tem sido o posicionamento do diagnóstico e tratamento pela Internet há muito tempo. No entanto, tem havido falta de normas específicas na indústria para o que constitui uma visita de acompanhamento, resultando em alguns vazios regulamentares.
“Se for um hospital regular da Internet, a prescrição eletrônica emitida por um médico habilitado deverá ter a assinatura do médico e o selo eletrônico do hospital da Internet. Não está descartado que algumas pequenas plataformas médicas da Internet utilizem inteligência artificial, robôs e outras ferramentas para gerar prescrições automaticamente Algumas grandes plataformas podem usar IA para auxiliar os médicos em suas consultas, como perguntar ao paciente quantos anos ele tem, o que há de errado com ele, etc., mas a prescrição deve ser feita por um médico. ", disse um médico de sobrenome Liu, de um hospital terciário em Pequim.
Ele também percebeu que, para buscar lucro, muitas plataformas adotaram o modelo “A IA prescreve e os clientes tomam os medicamentos diretamente”. Os processos de emissão e revisão de receitas são em vão. as prescrições enviadas pelos utilizadores Sem uma revisão real, este tipo de comportamento viola gravemente o sistema de gestão de medicamentos do meu país e também cria riscos ocultos para a segurança dos medicamentos dos pacientes.
Se as informações pessoais serão divulgadas durante as consultas nas plataformas de saúde online também é uma questão levantada por muitos pacientes entrevistados.
Certa vez, Yang Mu tinha muitas erupções vermelhas nas costas, então foi a uma plataforma de saúde para consulta. Em poucos dias, recebeu várias ligações publicitárias e mensagens de texto, uma após a outra, incluindo pessoas perguntando se ele precisava de um transplante de cabelo. Houve discursos de vendas de produtos para a pele e até ligações de vendas de empresas de crédito.
“Durante a consulta, as informações pessoais e o estado de saúde coletados pela plataforma podem ser mantidos bem? Essas informações fluirão para terceiros?” Yang Mu estava muito preocupado.
Anteriormente, o Ministério da Indústria e Tecnologia da Informação relatou que vários aplicativos médicos da Internet apresentam sérios problemas na coleta e uso de informações pessoais, incluindo a coleta de informações de privacidade pessoal além do escopo, o fornecimento de informações pessoais a terceiros sem o consentimento do indivíduo, e coleta de informações pessoais não relacionadas a serviços médicos.
"Em comparação com outros tipos de aplicativos, o vazamento de informações pessoais em aplicativos médicos pode levar a problemas jurídicos mais sérios. Se houver vazamento de informações pessoais de saúde, os criminosos podem usar essas informações para realizar fraudes precisas, como aproveitar a mentalidade de 'buscar tratamento médico com pressa' Venda ou promoção ilegal de medicamentos aos pacientes”, disse o já mencionado Dr.
Melhorar o quadro jurídico relevante
Proteger eficazmente os direitos e interesses dos pacientes
Os especialistas entrevistados salientaram que, para lidar eficazmente com os potenciais riscos jurídicos na aplicação prática da «IA + cuidados médicos», é necessário fazer melhorias sistemáticas, tanto a nível jurídico como político. Somente estabelecendo e melhorando um quadro jurídico e um mecanismo regulador, e clarificando as responsabilidades dos grandes modelos médicos e das especificações de utilização de dados, poderemos proteger eficazmente os direitos e interesses legítimos dos pacientes, promovendo ao mesmo tempo o desenvolvimento da inteligência artificial médica.
"Em primeiro lugar, devemos estabelecer e melhorar o quadro jurídico para a inteligência artificial médica. Actualmente, as "Medidas Provisórias para a Gestão de Serviços de Inteligência Artificial Gerativa" não envolvem regulamentos sobre inteligência artificial na área médica. Nesta base, leis e regulamentos relevantes precisam ser formulados com base nas características da área médica, destacando a ênfase na inteligência artificial médica "O papel auxiliar da inteligência, disse que, para ajudar a equipe médica e os pacientes, use melhor os sistemas de inteligência artificial." e compreender o mecanismo de funcionamento da inteligência artificial para obter resultados de diagnóstico, o meu país pode formular directrizes de apoio para a utilização da inteligência artificial médica para melhorar a interpretabilidade dos sistemas inteligentes e dos seus resultados. A Lei de Segurança de Dados, as "Medidas de Revisão Ética para Ciências da Vida e Pesquisa Médica Envolvendo Seres Humanos", etc. fornecem a base para a formulação de medidas de gestão para inteligência artificial médica, que devem ser baseadas em inteligência artificial. As medidas de gestão aplicáveis à inteligência artificial médica foram. introduzidas com base na actual situação de desenvolvimento.
Chen Chuan também mencionou que é urgente fortalecer a supervisão dos algoritmos médicos de inteligência artificial. Por um lado, a fim de garantir a segurança e a fiabilidade da inteligência artificial médica, deve ser criada uma agência especializada de revisão de algoritmos para conduzir uma revisão rigorosa da segurança, transparência e ética da inteligência artificial médica, por outro lado, com base na dinâmica; natureza dos dados e inteligência artificial Com a atualização iterativa contínua da tecnologia inteligente, os desenvolvedores devem ser obrigados a determinar antecipadamente os riscos de segurança gerados durante a aplicação de algoritmos e propor contramedidas direcionadas Realizar regularmente o monitoramento de risco do algoritmo durante o ciclo de vida do algoritmo, com foco. sobre o uso de dados, cenários de aplicação e impacto do algoritmo Realizar uma avaliação de autossegurança sobre a eficácia, etc. Além disso, várias medidas, como supervisão e relatórios públicos e inspeções dos departamentos reguladores, podem ser ativadas.
Deng Yong, professor do Departamento de Direito da Universidade de Medicina Chinesa de Pequim, também acredita que, com o desenvolvimento de modelos médicos em grande escala, as operações de conformidade e supervisão desta indústria tornaram-se cada vez mais importantes. posicionar-se e obter as qualificações correspondentes para evitar a realização de atividades correspondentes sem qualificações. “Em termos de conformidade, você deve primeiro determinar o posicionamento do seu próprio produto. Se for um produto de diagnóstico e tratamento na Internet, você precisa entrar em contato ou estabelecer uma instituição médica física correspondente e solicitar a criação de um hospital na Internet correspondente. requisitos, se for utilizado apenas para a gestão da saúde e não envolver atividades de diagnóstico e tratamento, deve ficar claro que os seus produtos não têm "fins médicos" e são apenas "destinados a serem utilizados para a gestão da saúde, a população-alvo é saudável pessoas e registrar informações estatísticas de saúde."
Ele propôs que a limpeza de dados e outros métodos também deveriam ser usados para garantir que informações ilegais e prejudiciais e informações pessoais em dados públicos sejam removidas para garantir que os dados de treinamento sejam legais e conformes. As exigências do modelo médico para coleta de dados dos usuários devem seguir os princípios de legalidade, legitimidade e necessidade, e não coletar informações pessoais não relacionadas aos serviços prestados.
“Os comportamentos de risco dos grandes modelos médicos na recolha de dados dos utilizadores incluem: falha na divulgação das regras de recolha e utilização; consentimento; violação do princípio da necessidade e coleta de informações pessoais não relacionadas aos serviços prestados; fornecimento de informações pessoais a terceiros sem consentimento; e métodos de relatório. "Deng Yong disse que ao coletar dados públicos da Internet, a fim de garantir sua legalidade e conformidade. De acordo com os regulamentos, também é necessário realizar operações como procedimentos de notificação e consentimento, procedimentos de anonimato e fornecimento de canais de recusa. . Além disso, deve ser dada atenção ao mecanismo de rotulagem de dados para evitar a geração de conteúdos ilegais e prejudiciais, como pornografia, violência e informações discriminatórias, através da rotulagem para garantir a segurança do conteúdo.
Em resposta aos problemas expostos pelas consultas médicas online, Chen Chuan acredita que é urgente esclarecer as responsabilidades legais da inteligência artificial, estabelecer um mecanismo de atribuição de responsabilidades científico e razoável, fortalecer as principais responsabilidades do pessoal médico, esclarecer que a IA está em um posição auxiliar e refinar cada campo As responsabilidades dos participantes não podem entregar completamente o diagnóstico médico à IA, mas devem seguir o princípio de "prevenção prévia - monitoramento durante o incidente - responsabilização depois". “O pessoal médico deve cumprir o seu dever de cuidado durante a prática da medicina, ou seja, o pessoal médico deve estar atento à identificação e avaliação dos resultados do diagnóstico de IA, caso contrário será responsável”.
Fonte: Diário do Estado de Direito
