nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

des choses intelligentes
Compilé par Chen Junda
ModifierPanken

Zhidongzhi a rapporté le 15 juillet que la semaine dernière, le PDG d'OpenAI, Sam Altman, avait fondé une société d'IA médicale et de santé.Thrive AI Health (Prospérer en abrégé) A suscité une inquiétude généralisée. Cette startup vise à changer les comportements et les habitudes des patients grâce à des coachs de santé IA pour résoudre la crise des maladies chroniques qui touchent 127 millions de personnes aux États-Unis. Elle a également reçu un investissement de la femme la plus riche des États-Unis.

Les soins médicaux ont toujours été une question sociale très préoccupante pour la société américaine, et ils constituent également un enjeu clé des élections américaines de cette année. Un système médical inefficace et coûteux fait qu’il est difficile pour de nombreux Américains d’obtenir des services médicaux efficaces. En tant que figure de proue de l'industrie actuelle de l'IA, Altman a choisi de se lancer dans les soins médicaux en IA à cette époque, ce qui a naturellement attiré l'attention de nombreuses personnes.

Une autre fondatrice de Thirve qui a fondé Thirve avec Altman est Arianna Huffington, fondatrice de la société de technologie de changement de comportement Thrive Global. Les deux ont été interviewés par The Atlantic le 11 juillet, révélant plus de détails sur cette entreprise.

Les deux ont déclaré que Thrive se concentrerait sur la fourniture de conseils en matière de santé et éviterait les travaux de diagnostic médical pour lesquels l'IA n'est pas actuellement performante. À l'avenir, il sera possible d'intégrer des informations sur la santé dans des scénarios de travail.

Cependant, face aux doutes de l'intervieweur, ilsIl n'a pas expliqué clairement sous quelle forme le produit sera mis en œuvre et quelles mesures spécifiques seront prises pour garantir la sécurité des données des utilisateurs.

Altmann a également déclaré dans l'interview"peut-être"Les informations contenues dans le processus de communication entre les humains et l’IA devraient être protégées par des clauses de confidentialité similaires à celles qui existent entre les avocats et les clients, mais il estime que cela devrait être décidé par la société.

Il convient de mentionner que ce que la nouvelle société d’Altmann, Thrive, peut obtenirLes données de santé de l’IA sont extrêmement privées et ont une valeur économique importante. Les assureurs peuvent utiliser ces informations pour ajuster le prix d'une police spécifique ou décider de rembourser ou non un médicament donné. De telles informations ont récemment été divulguées aux États-Unis, provoquant des fermetures généralisées du système médical.

1. En se concentrant sur les conseils de santé plutôt que sur le diagnostic médical, les performances du modèle sont déjà « assez bonnes »

Le principal argument de vente de Thrive, un produit de santé IA, est « un coaching de santé IA hautement personnalisé ». Thrive fournira aux utilisateurs des conseils de santé personnalisés et instantanés en collectant des informations sur le sommeil, la nourriture, l'exercice, le stress et les interactions sociales des utilisateurs, combinées à une expertise en matière de dossiers médicaux et de changement de comportement.

Altman et Huffington estiment que la santé de l'IA est d'une grande importance pour améliorer le système médical actuel aux États-Unis. Actuellement, 90 % des dépenses du système d'assurance maladie américain sont consacrées au traitement des maladies chroniques, et Thrive devrait y parvenir. réduire considérablement ces dépenses.

Altman et Huffington ont comparé cette technologie au New Deal de Roosevelt, affirmant que « l'IA fera partie d'une infrastructure médicale plus efficace et continuera à soutenir la santé des gens dans la vie quotidienne ».

Mais l’application de l’IA dans l’industrie médicale et de la santé n’a rien de nouveau. L’IA a déjà joué un rôle important dans la reconstruction CT, le développement de médicaments, le diagnostic auxiliaire et dans d’autres domaines.

▲NVIDIA a lancé le produit médical IA Clara (Source : NVIDIA)

À l’heure actuelle, les applications médicales et de santé de l’IA s’adressent principalement aux médecins et au personnel de R&D possédant des connaissances professionnelles, plutôt qu’aux patients ciblés par ce Thrive.La plupart des patients n'ont pas de connaissances médicales suffisantes, ils sont donc probablement incapables de porter un jugement efficace sur les conseils de santé ou le diagnostic médical fournis par l'IA, et il est difficile pour les produits d'IA de garantir qu'ils ne commettront pas d'erreurs.

Dans des entretiens avec The Atlantic, Altman et Huffington ont répondu à des questions sur la sécurité du produit. Ils estiment que les performances actuelles des modèles d’IA sont suffisamment bonnes pour If Thrive.Se concentrer uniquement sur les « conseils de santé » plutôt que sur le « diagnostic médical », et formé à l'aide de données évaluées par des pairs, le modèle peut fournir des suggestions suffisamment bonnes.

Cependant, ni Huffington ni Altman n’ont pu commenter la forme que prendrait finalement le produit. Ils ont déclaré que le produit serait lancé sous forme d'application, mais Huffington a également déclaré que le produit serait disponible dans tous les modes possibles et pourrait même être intégré dans des scénarios de travail via des applications telles que Microsoft Teams.

2. La collecte de données n'est pas un problème, Altman a déclaré que les utilisateurs sont prêts à les partager

Ce produit hyper-personnalisé doit convaincre les utilisateurs de transmettre activement une grande quantité d’informations privées afin que l’IA puisse disposer de suffisamment d’informations pour prendre des décisions. Dans une interview avec The Atlantic Monthly,Altman ne pense pas que cela constituera un énorme défi.

Altman a expliqué qu'une partie de la raison pour laquelle il a créé la nouvelle entreprise était que de nombreuses personnes utilisaient déjà ChatGPT pour diagnostiquer des problèmes médicaux, et il a également entendu de nombreuses personnes qui faisaient confiance aux recommandations de ChatGPT, effectuaient des tests pertinents et recevaient un traitement. Il pense que les utilisateurs sont en fait très disposés à partager des informations très détaillées et privées avec LLM.

Le journaliste d'Atlantic Monthly a été choqué par cette approche car les conseils médicaux renvoyés par ChatGPT peuvent contenir des hallucinations d'IA et constituer une menace pour la santé du patient. Les patients qui s’appuient sur ces fausses informations sont également très susceptibles d’avoir des conflits avec les médecins professionnels.

Le journaliste estime également qu'une fuite d'informations médicales pourrait gravement nuire aux droits et intérêts personnels des utilisateurs. Cependant, Altmann n'est pas ferme dans sa réponse au risque de fuite d'informations, estimant que cette question devrait être laissée à la société.

Il a déclaré que le contenu des communications entre médecins et patients, avocats et clients est actuellement protégé par la loi, et que « peut-être » devrait-il y avoir une protection similaire dans la communication des personnes avec l'IA. « Peut-être que la société décidera d'établir une certaine forme de privilèges pour l'IA. " ". En d’autres termes, ils ne promeuvent pas activement des protections similaires, laissant la décision à la société.

Mais la protection des données de santé a atteint un niveau d’urgence.En février de cette année seulement, Change Healthcare, un géant américain des technologies de la santé affilié au groupe d'assurance américain UnitedHealth Group, a subi une attaque de ransomware à grande échelle, provoquant un arrêt à grande échelle du système d'assurance médicale. un tiers des Américains risquaient d'être divulgués.

Et le bilan d’OpenAI en matière de protection des données n’est pas parfait.Début 2023, le système interne d'OpenAI a été attaqué par une cyberattaque et les enregistrements des discussions des employés de l'entreprise sur les systèmes d'IA avancés ont été divulgués.

De plus, selon un rapport du média technologique Engadget début 2023,ChatGPT a connu de graves fuites d'informations.À cette époque, il y avait quelques problèmes sur la page Web de ChatGPT, qui faisaient apparaître les titres de conversation de certains utilisateurs dans d'autres boîtes de discussion, et les informations d'identité et de carte bancaire de certains utilisateurs ont également été divulguées.

Malgré cela, Altman a quand même appelé la société à leur accorder « confiance » dans cette interview, ce qui est complètement contraire à ses propos lors du Bloomberg Technology Summit en 2023, lorsqu'il appelait tout le monde à ne pas lui faire confiance ni à OpenAI.

▲Altmann au Bloomberg Technology Summit 2023 (Source : Bloomberg)

Altman estime que les gens s’attendent généralement à ce que la technologie de l’IA améliore leur santé, et qu’il s’agisse de l’un des rares domaines d’application dans lesquels l’IA peut être utilisée pour changer le monde. Il a ajouté plus tard que pour que l’IA améliore la santé humaine,"Cela demande une certaine confiance", ce qui signifie que les gens doivent faire confiance à la nouvelle entreprise pour faire le travail de manière responsable.

Dans un article co-écrit dans Time, Altman et Huffington ont exposé ces « croyances ». Ils estiment que pour parvenir à un « changement de comportement piloté par l'IA » et inverser la tendance croissante des maladies chroniques, ils ont principalement besoin de confiance dans trois aspects.

D’un côté, les décideurs politiques croient qu’ils doivent créer un « environnement réglementaire qui favorise l’innovation en matière d’IA ». Les médecins doivent également faire confiance aux outils d’IA et intégrer la technologie de l’IA dans leurs pratiques. Enfin, les individus doivent également faire confiance à l’IA pour gérer leurs données privées de manière responsable.Il s’agit en effet d’une demande importante pour une entreprise qui ne dispose pas encore de produits et ne s’est pas engagée à prendre des mesures de sécurité spécifiques.

Conclusion : il est peut-être trop tôt pour confier la santé à l’IA, et l’IA ne doit pas devenir un jeu de foi

Parlant de la mise en œuvre de produits de santé IA, Altman et Huffington ont décrit le scénario suivant dans leur article co-écrit dans Time Magazine : « Les coachs santé IA fourniront des suggestions très précises à chacun : mettez la séance de l'après-midi à remplacer trois sodas par de l'eau et du citron ; faites une promenade de 10 minutes avec vos enfants après les avoir récupérés à l'école à 15h15 ; commencez votre routine de relaxation à 22h00 "Ce coach de santé IA finira par changer certaines des mauvaises habitudes tenaces des gens, améliorant ainsi la santé humaine globale et prolonger la durée de vie humaine.

Cependant, les divers comportements « malsains » que les gens ont dans la vie sont-ils un problème d'habitudes personnelles ou un problème social plus vaste ?Devons-nous laisser la crise des maladies chroniques aux individus et à l’IA résoudre le problème, ou devrions-nous procéder à une prévention systématique par la recherche et l’intervention des gouvernements et des institutions médicales ?Ces questions sont peut-être ce que les gens doivent considérer avant que cette infrastructure médicale dite d’IA ne devienne une réalité.

Dans l’interview, Altman a expliqué que la réalisation de la vision de l’IA en matière de santé nécessite dans une certaine mesure la confiance des gens, mais dans une technologie de grande envergure comme l’IA et dans un domaine potentiellement mortel comme les soins médicaux,Ce dont nous avons vraiment besoin n’est peut-être pas d’un tel jeu de croyance, mais d’une technologie vérifiable et explicable.

Source : L'Atlantique, Time