notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

coisas inteligentes
Compilado por Chen Junda
Editar Panken

Zhidongzhi informou em 15 de julho que, na semana passada, o CEO da OpenAI, Sam Altman, fundou uma empresa médica e de saúde de IA.Thrive AI Health (Thrive para abreviar) Causou preocupação generalizada. Esta startup pretende mudar os comportamentos e hábitos dos pacientes através de treinadores de saúde com IA para resolver a crise de doenças crónicas que assola 127 milhões de pessoas nos Estados Unidos. Também recebeu investimento da mulher mais rica dos Estados Unidos.

A assistência médica sempre foi uma questão social de grande preocupação para a sociedade americana e é também uma questão fundamental nas eleições deste ano nos EUA. Um sistema médico ineficiente e caro torna difícil para muitos americanos obter serviços médicos eficazes. Como uma figura importante na indústria de IA atual, Altman optou por ingressar nos cuidados médicos de IA neste momento, o que naturalmente atraiu a atenção de muitas pessoas.

Outro fundador da Thirve que fundou a Thirve com Altman é Arianna Huffington, fundadora da empresa de tecnologia de mudança de comportamento Thrive Global. Os dois foram entrevistados pelo The Atlantic em 11 de julho, revelando mais detalhes sobre este empreendimento.

Os dois disseram que a Thrive se concentrará em fornecer conselhos de saúde e evitar trabalhos de diagnóstico médico nos quais a IA não seja boa no momento. No futuro, será possível integrar informações de saúde em cenários de trabalho.

Porém, diante das dúvidas do entrevistador, elesNão explicou claramente de que forma o produto será implementado e que medidas específicas serão tomadas para garantir a segurança dos dados dos utilizadores.

Altmann também disse na entrevista"talvez"As informações no processo de comunicação entre humanos e IA deveriam ser protegidas por cláusulas de confidencialidade semelhantes às entre advogados e clientes, mas ele acredita que isso deve ser decidido pela sociedade.

Vale ressaltar que o que a nova empresa de Altmann, Thrive, pode obterOs dados de saúde da IA ​​são extremamente privados e têm um valor económico significativo. As seguradoras podem usar essas informações para ajustar o preço de uma apólice específica ou decidir se reembolsam um determinado medicamento. Houve vazamentos recentes de tais informações nos Estados Unidos, causando paralisações generalizadas do sistema médico.

1. Concentrando-se nos conselhos de saúde e não no diagnóstico médico, o desempenho do modelo já é “suficientemente bom”

O maior ponto de venda do Thrive, um produto de saúde de IA, é “coaching de saúde de IA altamente personalizado”. A Thrive fornecerá aos usuários conselhos de saúde personalizados e instantâneos, coletando informações sobre sono, alimentação, exercícios, estresse e interações sociais dos usuários, combinadas com experiência em registros médicos e mudanças de comportamento.

Altman e Huffington acreditam que a saúde da IA ​​​​é de grande importância para melhorar o atual sistema médico crivado nos Estados Unidos. Atualmente, 90% das despesas do sistema de seguro médico dos EUA são gastos no tratamento de doenças crônicas, e espera-se que a Thrive o faça. reduzir significativamente esta despesa.

Altman e Huffington compararam esta tecnologia ao New Deal de Roosevelt, dizendo que “a IA se tornará parte de uma infraestrutura médica mais eficiente e continuará a apoiar a saúde das pessoas na vida diária”.

Mas a aplicação da IA ​​na indústria médica e de saúde não é novidade. A IA já desempenhou um papel importante na reconstrução da tomografia computadorizada, no desenvolvimento de medicamentos, no diagnóstico auxiliar e em outros campos.

▲NVIDIA lançou o produto médico de IA Clara (Fonte: NVIDIA)

Atualmente, as aplicações médicas e de saúde de IA são direcionadas principalmente a médicos e pessoal de P&D com conhecimento profissional, e não aos pacientes com doenças visados ​​por este Thrive.A maioria dos pacientes não possui conhecimentos médicos suficientes, pelo que é provável que não sejam capazes de fazer julgamentos eficazes sobre os conselhos de saúde ou diagnósticos médicos fornecidos pela IA, e é difícil para os produtos de IA garantir que não cometerão erros.

Em entrevistas ao The Atlantic, Altman e Huffington abordaram questões sobre a segurança do produto. Eles acreditam que o desempenho atual dos modelos de IA é bom o suficiente.Concentre-se apenas em “conselhos de saúde” em vez de “diagnóstico médico”, e treinado com dados revisados ​​por pares, o modelo pode fornecer sugestões boas o suficiente.

No entanto, nem Huffington nem Altman puderam comentar sobre a forma que o produto acabaria assumindo. Eles disseram que o produto seria lançado como um aplicativo, mas Huffington também disse que o produto estaria disponível em todos os modos possíveis e poderia até ser integrado a cenários de trabalho por meio de aplicativos como o Microsoft Teams.

2. Coletar dados não é um problema, Altman disse que os usuários estão dispostos a compartilhá-los

Este produto hiperpersonalizado precisa convencer os usuários a entregar ativamente uma grande quantidade de informações privadas para que a IA possa ter informações suficientes para tomar decisões. Em entrevista ao The Atlantic Monthly,Altman não acha que este será um grande desafio.

Altman compartilhou que parte do motivo pelo qual ele iniciou a nova empresa foi que muitas pessoas já usavam o ChatGPT para diagnosticar problemas médicos, e ele também ouviu falar de muitas pessoas que confiaram nas recomendações do ChatGPT, realizaram testes relevantes e receberam tratamento. Ele acredita que os usuários estão realmente dispostos a compartilhar informações muito detalhadas e privadas com o LLM.

O repórter da Atlantic Monthly ficou chocado com esta abordagem porque o conselho médico retornado pelo ChatGPT pode conter alucinações de IA e representar uma ameaça à saúde do paciente. Os pacientes que confiam nestas informações falsas também têm grande probabilidade de ter conflitos com médicos profissionais.

O repórter também acredita que, uma vez vazado informação médica, isso pode prejudicar seriamente os direitos e interesses pessoais dos usuários. No entanto, Altmann não é firme na sua resposta ao risco de fuga de informação, acreditando que esta questão deve ser deixada ao cuidado da sociedade.

Ele disse que o conteúdo da comunicação entre médicos e pacientes, advogados e clientes está atualmente protegido por lei, e que “talvez” devesse haver proteção semelhante na comunicação das pessoas com a IA “Talvez a sociedade decida se estabelecerá alguma forma de privilégios de IA. " ". Por outras palavras, podem não promover ativamente proteções semelhantes, deixando a decisão para a sociedade.

Mas a protecção dos dados de saúde atingiu um nível urgente.Apenas em fevereiro deste ano, a Change Healthcare, uma gigante americana de tecnologia de saúde afiliada ao grupo segurador americano UnitedHealth Group, sofreu um ataque de ransomware em grande escala, causando um desligamento em grande escala do sistema de seguro médico. terço dos americanos corria o risco de vazar.

E o histórico da OpenAI em proteção de dados não é perfeito.No início de 2023, o sistema interno da OpenAI foi atacado por um ataque cibernético e os registros de bate-papo dos funcionários da empresa sobre discussões sobre sistemas avançados de IA vazaram.

Além disso, de acordo com um relatório da mídia de tecnologia Engadget no início de 2023,ChatGPT sofreu sérios vazamentos de informações.Naquela época, ocorreram algumas falhas na página do ChatGPT, que fizeram com que os títulos das conversas de alguns usuários aparecessem em outras caixas de bate-papo, e também vazaram informações de identidade e de cartão bancário de alguns usuários.

Apesar disso, Altman ainda apelou à sociedade para lhes dar “confiança” nesta entrevista, o que é completamente contrário às suas observações no Bloomberg Technology Summit em 2023, quando apelou a todos para não confiarem nele e na OpenAI.

▲Altmann no Bloomberg Technology Summit 2023 (Fonte: Bloomberg)

Altman acredita que é expectativa comum das pessoas deixar a tecnologia de IA melhorar a sua saúde, e esta é uma das poucas áreas de aplicação onde a IA pode ser usada para mudar o mundo. Mais tarde, ele acrescentou que, para conseguir que a IA melhore a saúde humana,“É preciso uma certa dose de fé”, o que significa que as pessoas têm de confiar que a nova empresa fará o trabalho com responsabilidade.

Num artigo de coautoria na revista Time, Altman e Huffington explicaram essas “crenças”. Eles acreditam que para alcançar uma “mudança de comportamento impulsionada pela IA” e reverter a tendência crescente de doenças crónicas, precisam principalmente de confiança em três aspectos.

Por um lado, está a crença dos decisores políticos de que precisam de criar um “ambiente regulamentar que promova a inovação da IA”. Os médicos também precisam confiar nas ferramentas de IA e integrar a tecnologia de IA nas suas práticas. Finalmente, os indivíduos também precisam confiar na IA para lidar com os seus dados privados de forma responsável.Este é realmente um grande pedido para uma empresa que ainda não possui nenhum produto e não se comprometeu com medidas de segurança específicas.

Conclusão: pode ser muito cedo para entregar a saúde à IA, e a IA não deve se tornar um jogo de fé

Falando sobre a implementação de produtos de saúde de IA, Altman e Huffington descreveram o seguinte cenário em seu artigo em coautoria na Time Magazine: "Os treinadores de saúde de IA fornecerão sugestões muito precisas para todos: coloque a sessão da tarde Substitua três refrigerantes por água e limão; faça uma caminhada de 10 minutos com seus filhos depois de buscá-los na escola às 15h15; comece sua rotina de relaxamento às 22h. prolongando a vida humana.

No entanto, serão os vários comportamentos “não saudáveis” que as pessoas têm na vida um problema de hábitos pessoais ou um problema social mais amplo?Deveríamos deixar a crise das doenças crónicas para os indivíduos e a IA resolverem, ou deveríamos levar a cabo uma prevenção sistemática através da investigação e da intervenção de governos e instituições médicas?Essas questões podem ser o que as pessoas precisam considerar antes que a chamada infraestrutura médica de IA se torne uma realidade.

Na entrevista, Altman falou sobre como a realização da visão de saúde da IA ​​requer a crença das pessoas até certo ponto, mas em uma tecnologia de longo alcance como a IA e em um campo com risco de vida como a assistência médica,O que realmente precisamos pode não ser de um jogo de crenças, mas de uma tecnologia verificável e explicável.

Fonte: O Atlântico, Tempo