„AI Medical Care“: Bequemlichkeit und Risiko koexistieren
2024-08-08
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Originaltitel: Das Krankenhaus führt ein KI-System zur Unterstützung bei der Beratung und Begleitung der Online-Plattform „KI-Verschreibung“ ein oder überschreitet die Grenze (Einleitung)
„KI + medizinische Versorgung“: Bequemlichkeit und Risiko koexistieren (Thema)
Der Reporter des Rule of Law Daily, Wen Lijuan, Praktikant Zhang Guanglong
Um 8 Uhr morgens kam Song Wenzhuo, ein Dorfarzt aus dem Dorf Xinghe, Stadt Zhongxing, Bezirk Youxian, Stadt Mianyang, Provinz Sichuan, in die Klinik. Das erste, was er tat, war, den Computer einzuschalten und sich anzumelden zum KI-gestützten Diagnose- und Behandlungssystem hat er in letzter Zeit eine neue Gewohnheit entwickelt.
„Doktor Song, mein Herz schlägt etwas schneller, ich fühle mich außer Atem und huste gelegentlich.“ Sobald die Klinik eröffnet wurde, kam Oma Tu, eine fast neunzigjährige Dorfbewohnerin, in Begleitung des Arztes seine Frau. Während er nach den Symptomen fragte, gab Song Wenzhuo den Zustand in das System ein und klickte dann auf die Schaltfläche „KI-Hilfsdiagnose“. Das System stellte schnell eine Verbindung zur nationalen Kernwissensdatenbank mit einer großen Anzahl von Fällen häufig auftretender Krankheiten und häufiger Krankheiten her. usw. und extrahierte und analysierte die historischen Krankenakteninformationen des Patienten, um „Akute Infektionen der oberen Atemwege“ und andere diagnostische Empfehlungen bereitzustellen. Song Wenzhuo führte eine umfassende Untersuchung auf der Grundlage seiner eigenen klinischen Erfahrung durch und kam schließlich zu dem Schluss, dass Granny Tu an einer akuten Infektion der oberen Atemwege litt.
Anschließend gibt das System auf der Grundlage der Wahl des Arztes empfohlene Medikamente aus und listet die Grundlage für Empfehlungen, Untersuchungsvorschläge usw. auf. Song Wenzhuo wählte anhand seiner Referenz Medikamente aus und bat den alten Mann, zuerst das Medikament einzunehmen und zu beobachten.
Nach Ansicht von Song Wenzhuo verbessert der Einsatz KI-gestützter Diagnosesysteme nicht nur die Genauigkeit und Effizienz der Diagnose, sondern hilft Ärzten auch, komplexe Fälle besser zu bewältigen, verringert das Risiko von Fehldiagnosen und verpassten Diagnosen und macht medizinische Behandlung und Medikamente sicherer und sicherer sicherer.
Der Einsatz KI-gestützter Diagnose- und Behandlungssysteme in primärmedizinischen Einrichtungen im Bezirk Youxian, Stadt Mianyang, ist ein anschauliches Beispiel für die Förderung von „KI + medizinischer Versorgung“ in meinem Land. Der „14. Fünfjahresplan für die Entwicklung der Medizingeräteindustrie“ schlägt eindeutig vor, die Entwicklung intelligenter medizinischer Geräte zu beschleunigen; die „Stellungnahmen zur weiteren Verbesserung des Medizin- und Gesundheitsdienstleistungssystems“ schlagen die Entwicklung von „Internet + medizinischer Gesundheit“ vor Beschleunigen Sie die Weiterentwicklung des Internets, der künstlichen Intelligenz usw. in der Medizin und im Gesundheitswesen. In den letzten Jahren hat unser Land das Spitzendesign kontinuierlich gestärkt und die Entwicklung von „KI + medizinischer Versorgung“ vorangetrieben.
Viele Brancheninsider und Experten wiesen in Interviews mit Reportern der Rule of Law Daily darauf hin, dass der medizinische Bereich zu einem wichtigen Ort für die Erforschung von KI-Anwendungen geworden sei. Sie wird derzeit in einigen Krankenhäusern hauptsächlich für Unterdiagnosen, Vorbefragungen und Krankenakten eingesetzt Generation und andere Szenarien zur Unterstützung von Patienten sind komfortabler geworden und die Qualität medizinischer Dienstleistungen hat sich in Zukunft verbessert. Allerdings müssen wir uns auch der dahinter liegenden rechtlichen Risiken bewusst sein Diese Risiken betreffen nicht nur den Schutz der Privatsphäre der Patienten, sondern beziehen sich auch auf Themen wie Algorithmentransparenz und Fairness.
KI-gestützte Diagnose vielerorts eingeführt
Verbessern Sie das Patientenerlebnis
Kürzlich kamen Reporter zur Schilddrüsen- und Narbenuntersuchung, einschließlich B-Ultraschall und Blutuntersuchungen, in das Volkskrankenhaus der Universität Peking. Nach Abschluss der Zahlung erinnert Sie der Arzt daran, einen Untersuchungstermin im System zu vereinbaren. Der Reporter schaltet sein Mobiltelefon ein und plant wie bei einem „Selbstbedienungs-Check-in“ die Inspektionspunkte zu einem relativ konzentrierten Zeitpunkt im optionalen Zeitraum ein, sodass er „alles auf einmal ausführen“ und alle Inspektionen abschließen kann in kürzester Zeit, wodurch wiederholte Vor-Ort-Kontrollen durch Warteschlangen bei Terminänderungen und unterschiedliche Inspektionszeiten entfallen.
Dies ist nur ein Mikrokosmos der KI-gestützten medizinischen Versorgung. Der Reporter durchforstete öffentliche Informationen und stellte fest, dass in vielen Krankenhäusern „KI + medizinische Behandlung“ implementiert wurde.
Wenn der Patient im Union Hospital des Tongji Medical College der Huazhong University of Science and Technology nicht weiß, welche Abteilung er aufsuchen soll, kann KI helfen.
Das Krankenhaus startete im Mai dieses Jahres die „AI Smart Clinic“, die Funktionen wie intelligente Unterdiagnose und intelligente Plus-Nummer abdeckt. Nehmen Sie als Beispiel die Funktion „Smart Plus“: Patienten können über „Anmeldeservice“ und „Online-Anmeldung“ die Abteilung eingeben, in der ein Termin erforderlich ist. Wenn die ausgewählte Expertennummer „voll“ ist, können sie auf „Anmeldeservice“ klicken. Bewerben Sie sich unten für Plus. Wählen Sie auf der Sprungseite den Plus-Termin des Experten aus. Nach Bestätigung des kostenlosen Termins leitet die KI automatisch ein Gespräch ein, fragt nach der Erkrankung und anderen damit zusammenhängenden Informationen, erstellt dann eine „Zustandskarte“, bewertet dann umfassend den Schweregrad der Erkrankung, ermittelt die Qualifikationen für die Pluszahl und sendet sie schließlich Übergeben Sie es an den Sachverständigen, um festzustellen, ob es bestanden wird.
Darüber hinaus hat das Krankenhaus die Funktion „Intelligentes Wartezimmer“ eingeführt. Nachdem sich der Patient registriert hat, kommuniziert die „digitale Person des Arztes“ zunächst mit dem Patienten, um die Symptome und den Krankheitsverlauf des Patienten im Voraus zu verstehen und sich auf das Arztgespräch vorzubereiten.
Im Volkskrankenhaus der Provinz Zhejiang kann die digitale Gesundheitsperson „Anclin“ Patienten zur medizinischen Behandlung begleiten.
Es versteht sich, dass „Anclin“ Patienten vor, während und nach der medizinischen Behandlung KI-begleitende Dienstleistungen anbieten kann. Vor der Konsultation können Patienten ihnen ihre Symptome schildern, und „Anclin“ wird den Patienten anhand der Symptome einer Abteilung und einem Arzt zuordnen und dem Patienten helfen, einen Termin während der Konsultation zu vereinbaren. „Anclin“ kann die medizinische Versorgung angemessen organisieren Es ermöglicht den Patienten außerdem, direkt online eine Nummer auszuwählen und sie daran zu erinnern, die Nummer anzurufen. Außerdem kann die Zahlung der Krankenversicherung über Alipay abgeschlossen werden, wodurch Patienten Zeit für die medizinische Behandlung sparen ; nach der Diagnose, wenn der Patient das Krankenhaus verlässt, werden ihm weiterhin elektronische Krankenakten, Rezepte und Berichte zur Verfügung gestellt.
Im Beijing Friendship Hospital kann KI Ärzten beim Verfassen von Krankenakten helfen.
Im Mai dieses Jahres wurde das Yunzhisheng-System zur Erstellung ambulanter Krankenakten im Beijing Friendship Hospital eingesetzt. Das System kann Arzt-Patienten-Gespräche in einer komplexen Krankenhausumgebung identifizieren, wichtige Informationen genau erfassen, die Rollen von Ärzten und Patienten trennen und für die Erkrankung irrelevante Inhalte eliminieren -Mails, die den Anforderungen der Standards für das Verfassen von Krankenakten entsprechen. Die Daten zeigen, dass mit Hilfe des Systems zur Erstellung ambulanter Krankenakten die Effizienz der ambulanten Fallerfassung in den relevanten Abteilungen des Beijing Friendship Hospital erheblich verbessert und die Zeit für die Arztkonsultation erheblich verkürzt wurde.
Rechtliche Risiken können nicht ignoriert werden
Seien Sie vorsichtig bei algorithmischer Diskriminierung
Viele befragte Brancheninsider wiesen darauf hin, dass der weit verbreitete Einsatz künstlicher Intelligenz im medizinischen Bereich den Patienten komfortablere Dienstleistungen bieten, die Effizienz und Genauigkeit medizinischer Dienstleistungen verbessern und hochwertige medizinische Ressourcen integrativer gestalten kann Auch die Risiken dürfen nicht ignoriert werden.
Laut Chen Chuan, einem Dozenten an der juristischen Fakultät der Shanxi-Universität, legt der Arzt bei der traditionellen medizinischen Diagnose großen Wert auf den Respekt und den Schutz der persönlichen Würde und Autonomie des Patienten. Bei medizinischen Entscheidungen müssen Ärzte die medizinische Vorgeschichte und die aktuellen Symptome des Patienten umfassend berücksichtigen und befolgen Sie relevante Gesetze, Vorschriften und ethische Normen, um geeignete Behandlungspläne zu formulieren. Medizinische künstliche Intelligenz birgt jedoch das Risiko eines „Automatisierungsbias“, d. h. Ärzte verlassen sich während des Diagnoseprozesses möglicherweise zu sehr auf die Technologie der künstlichen Intelligenz und ignorieren so ihr eigenes professionelles Urteilsvermögen und die Berücksichtigung individueller Patientenbedürfnisse. Dieses übermäßige Vertrauen könnte dazu führen, dass Ärzte schwierige medizinische Entscheidungen unangemessen der KI überlassen. Wenn sich Ärzte zu sehr auf künstliche Intelligenz verlassen, können die Behandlungsentscheidungen der Patienten von Maschinen übernommen werden, was dazu führt, dass die Patienten ihre Autonomie bei der Verwaltung ihrer eigenen Gesundheit verlieren.
Darüber hinaus kann das Problem unzureichender algorithmischer Transparenz und algorithmischer Diskriminierung nicht ignoriert werden. „Obwohl die „Interim Measures for the Management of Generative Artificial Intelligence Services“, die von der Cyberspace Administration of China im Juli 2023 in Zusammenarbeit mit der Nationalen Entwicklungs- und Reformkommission und anderen Abteilungen angekündigt wurden, Anforderungen an die Algorithmentransparenz stellen, stellen sie während des spezifischen Implementierungsprozesses Anforderungen an die Algorithmentransparenz. Die tatsächlichen Funktionsprinzipien und Entscheidungsfindung des Algorithmus Der Prozess ist für die Außenwelt oft schwer zu verstehen und zu überwachen. Aufgrund der unzureichenden Transparenz des Algorithmus können Patienten nicht nachvollziehen, wie medizinische künstliche Intelligenz zu diagnostischen Schlussfolgerungen gelangt, was zu ihrem Recht auf Information führt und die Wahlmöglichkeiten sind nicht vollständig geschützt, was das Recht des Patienten auf Einwilligung und Autonomie, das Recht zu entscheiden, verletzen kann“, sagte Chen Chuan.
Sie schlug vor, dass algorithmische Diskriminierung auch zu Ungleichheiten bei den medizinischen Ressourcen in verschiedenen Regionen führen werde. Verschiedene Entwickler können beim Training von Algorithmen unbeabsichtigt Voreingenommenheit hervorrufen, was dazu führen kann, dass die generative KI bei verschiedenen Patientengruppen diskriminierende Entscheidungen trifft. Beispielsweise stellen einige medizinische KI-Systeme beim Screening von Patienten ungenaue oder systematisch unterschätzte Diagnosen. Wenn beispielsweise die Trainingsdaten eines Algorithmusmodells hauptsächlich von bestimmten Gruppen stammen, kann dies zu einer Verzerrung bei der Konfrontation mit bestimmten Gruppen führen.
Chen Chuan glaubt, dass sich die Anwendung künstlicher Intelligenz im medizinischen Bereich derzeit noch im Forschungsstadium befindet und es aufgrund von Fehldiagnosen, Datenlecks und anderen Verhaltensweisen leicht zu Verantwortungs- und Schuldzuweisungsproblemen kommen kann. Das Bürgerliche Gesetzbuch meines Landes schreibt vor, dass für die Haftung für medizinische Schäden der Grundsatz der Verschuldenshaftung gilt und berücksichtigt auch die Frage der Haftung für Schäden, die durch medizinische Geräte verursacht werden. Künstliche Intelligenz kann jedoch unabhängig medizinische Diagnoseergebnisse oder Vorschläge generieren. Daher ist die Verantwortlichkeit für Anwendungen medizinischer künstlicher Intelligenz im aktuellen Rechtsrahmen sehr kompliziert und es ist schwierig, herkömmliche Haftungsformen einfach auf medizinische künstliche Intelligenz anzuwenden.
Beim Online-Kauf von Medikamenten muss man das Pferd von hinten aufzäumen
Der Überprüfungsprozess ist nutzlos
Zusätzlich zu den möglichen rechtlichen Risiken bei der tatsächlichen Anwendung von „KI + medizinischer Versorgung“ als aufstrebendem Modell haben einige Plattformen für medizinische Online-Beratung und Online-Arzneimitteleinkauf KI-Unterstützung eingeführt, obwohl sie den Patienten Komfort gebracht haben, haben sie sie auch dort zur Schau gestellt gab es viele Probleme.
Während der Untersuchung stellte der Reporter fest, dass einige medizinische Internetplattformen eine Betriebsmethode anwenden, die den Karren vor das Pferd spannt, wie zum Beispiel „Erst Medikamente kaufen, dann die Medikamentenformel bestimmen und sogar automatisch Rezepte durch Software mit künstlicher Intelligenz erstellen“.
Vor nicht allzu langer Zeit, nachdem ein Reporter auf einer Arzneimitteleinkaufsplattform eine Bestellung für das verschreibungspflichtige Medikament Calcitriol-Weichkapseln aufgegeben hatte, wurde auf der Plattform die Meldung angezeigt: „Bitte wählen Sie eine offline bestätigte Krankheit aus.“ Der Reporter überprüfte nach dem Zufallsprinzip mehrere Punkte in der Spalte „Krankheit“, ließ die Spalte „Spalte „Verschreibung/medizinische Unterlagen/Untersuchungsbericht““ leer und bestätigte, dass „diese Krankheit diagnostiziert und das Medikament verwendet wurde und keine Allergien in der Vorgeschichte vorliegen.“ , relevante Kontraindikationen oder Nebenwirkungen.“ „Nachdem die Liste übermittelt wurde, sprang das System in den Beratungsbereich.
Unmittelbar danach nahm ein „Arzt“ die Behandlung entgegen und verschickte mehrere Nachrichten nacheinander. In der ersten wurde betont, dass „das Internet-Krankenhaus nur medizinische Dienstleistungen für Benutzer erbringt, die zu Nachuntersuchungen zurückkehren“. Vorgeschichte von Allergien oder dass sie sich in einem besonderen Zeitraum befanden. Als der Reporter nicht antwortete, schickte die andere Partei ein Rezeptformular und einen Kauflink.
Auch Yang Mu (Pseudonym), ein Pekinger Bürger, hatte eine ähnliche Erfahrung. Er vermutete, dass der Arzt hinter dem Bildschirm kein wirklich praktizierender Arzt war: „Als ich verschreibungspflichtige Medikamente auf der ××-Plattform kaufte, hatte ich das Gefühl, dass die andere Person nein war Anders als ein Roboter. Solange ich eintippte, sagte mir die andere Person schnell und ohne jeglichen professionellen Rat. „Einmal beschrieb er absichtlich einige Bedingungen, die für das Medikament nicht geeignet waren er wollte kaufen, aber die andere Partei verordnete es ihm trotzdem schnell.
Viele Menschen in der Branche glauben, dass die „luftbasierte“ Diagnose und Behandlung nicht für alle Patienten geeignet ist. Die Folgediagnose häufiger Krankheiten und chronischer Krankheiten ist seit langem die Positionierung der Internetdiagnose und -behandlung. Allerdings mangelt es in der Branche an spezifischen Standards für einen Folgebesuch, was zu einigen regulatorischen Lücken geführt hat.
„Wenn es sich um ein normales Internetkrankenhaus handelt, sollte das von einem qualifizierten Arzt ausgestellte elektronische Rezept die Unterschrift des Arztes und das elektronische Siegel des Internetkrankenhauses tragen. Es ist nicht ausgeschlossen, dass einige kleine medizinische Internetplattformen künstliche Intelligenz, Roboter und andere Tools verwenden.“ Um Rezepte automatisch zu erstellen, können einige große Plattformen KI verwenden, um Ärzte bei ihren Konsultationen zu unterstützen, z. B. um den Patienten zu fragen, wie alt er oder sie ist, was mit ihm los ist usw., aber das Rezept muss von einem Arzt ausgestellt werden „, sagte ein Arzt mit Nachnamen Liu aus einem tertiären Krankenhaus in Peking.
Er bemerkte auch, dass viele Plattformen, um Gewinne zu erzielen, das Modell „KI verschreibt Medikamente und Kunden nehmen Medikamente direkt“ übernommen haben. Die Prozesse zur Ausstellung und Überprüfung von Rezepten sind vergeblich. Sie überspringen den Prozess der Rezeptausstellung entweder direkt oder führen keine Bearbeitung durch Ohne tatsächliche Überprüfung der von Benutzern hochgeladenen Rezepte verstößt diese Art von Verhalten ernsthaft gegen das Arzneimittelmanagementsystem meines Landes und birgt auch versteckte Risiken für die Medikamentensicherheit der Patienten.
Auch die Frage, ob bei Beratungsgesprächen auf Online-Gesundheitsplattformen personenbezogene Daten preisgegeben werden, wird von vielen befragten Patienten aufgeworfen.
Einmal hatte Yang Mu viele rote Ausschläge auf dem Rücken, also ging er zur Beratung auf eine Gesundheitsplattform. Innerhalb weniger Tage erhielt er nacheinander mehrere Werbeanrufe und Textnachrichten, darunter auch die Frage, ob er eine Haartransplantation benötige. Es gab Verkaufsgespräche für Hautpflegeprodukte und sogar Verkaufsgespräche mit Kreditunternehmen.
„Können die von der Plattform gesammelten persönlichen Daten und der Gesundheitszustand während der Konsultation gut aufbewahrt werden? Werden diese Informationen an Dritte weitergegeben?“
Zuvor berichtete das Ministerium für Industrie und Informationstechnologie, dass bei einer Reihe medizinischer Internet-Apps schwerwiegende Probleme bei der Erhebung und Nutzung personenbezogener Daten auftreten, darunter die Erhebung personenbezogener Daten über den Rahmen hinaus, die Weitergabe personenbezogener Daten an andere ohne Zustimmung des Einzelnen, und das Sammeln personenbezogener Daten, die nicht mit medizinischen Dienstleistungen in Zusammenhang stehen.
„Im Vergleich zu anderen Arten von Apps kann die Preisgabe persönlicher Daten in medizinischen Apps zu schwerwiegenderen rechtlichen Problemen führen. Wenn persönliche Gesundheitsdaten preisgegeben werden, können Kriminelle diese Informationen nutzen, um konkreten Betrug zu begehen, indem sie beispielsweise die Mentalität des ‚Suchens‘ ausnutzen.“ medizinische Behandlung in Eile‘ Medikamente illegal an Patienten verkaufen oder dafür werben“, sagte der bereits erwähnte Dr. Liu.
Verbessern Sie die relevanten rechtlichen Rahmenbedingungen
Schützen Sie die Rechte und Interessen der Patienten wirksam
Die befragten Experten wiesen darauf hin, dass für den wirksamen Umgang mit potenziellen rechtlichen Risiken in der praktischen Anwendung von „KI + medizinischer Versorgung“ systematische Verbesserungen sowohl auf rechtlicher als auch auf politischer Ebene erforderlich seien. Nur durch die Schaffung und Verbesserung eines Rechtsrahmens und Regulierungsmechanismus sowie die Klärung der Verantwortlichkeiten großer medizinischer Modelle und Datennutzungsspezifikationen können wir die legitimen Rechte und Interessen der Patienten wirksam schützen und gleichzeitig die Entwicklung medizinischer künstlicher Intelligenz fördern.
„Zunächst müssen wir die rechtlichen Rahmenbedingungen für medizinische künstliche Intelligenz schaffen und verbessern. Derzeit handelt es sich bei den „Übergangsmaßnahmen zum Management generativer künstlicher Intelligenzdienste“ nicht um Regelungen zu künstlicher Intelligenz im medizinischen Bereich. Auf dieser Grundlage Relevante Gesetze und Vorschriften müssen auf der Grundlage der Merkmale des medizinischen Bereichs formuliert werden, wobei der Schwerpunkt auf der medizinischen künstlichen Intelligenz liegt. „Die unterstützende Rolle der Intelligenz besteht darin, dem medizinischen Personal und den Patienten zu helfen, Systeme der künstlichen Intelligenz besser zu nutzen.“ und den Wirkmechanismus der künstlichen Intelligenz zur Erlangung diagnostischer Ergebnisse zu verstehen, kann mein Land unterstützende Richtlinien für den Einsatz medizinischer künstlicher Intelligenz formulieren, um die Interpretierbarkeit intelligenter Systeme und ihrer Ergebnisse zu verbessern Das Datensicherheitsgesetz, die „Ethischen Überprüfungsmaßnahmen für Biowissenschaften und medizinische Forschung unter Einbeziehung von Menschen“ usw. bilden die Grundlage für die Formulierung von Managementmaßnahmen für medizinische künstliche Intelligenz, die auf künstlicher Intelligenz basierende Managementmaßnahmen sein sollten basierend auf der aktuellen Entwicklungslage eingeführt.
Chen Chuan erwähnte auch, dass es dringend notwendig sei, die Aufsicht über medizinische Algorithmen für künstliche Intelligenz zu stärken. Um einerseits die Sicherheit und Zuverlässigkeit der medizinischen künstlichen Intelligenz zu gewährleisten, sollte eine spezialisierte Algorithmus-Überprüfungsagentur eingerichtet werden, die andererseits eine strenge Sicherheits-, Transparenz- und ethische Überprüfung der medizinischen künstlichen Intelligenz durchführt Natur von Daten und künstlicher Intelligenz Mit der kontinuierlichen iterativen Weiterentwicklung intelligenter Technologie sollten Entwickler dazu verpflichtet werden, die bei der Anwendung von Algorithmen entstehenden Sicherheitsrisiken im Voraus zu ermitteln und gezielte Gegenmaßnahmen vorzuschlagen zur Datennutzung, Anwendungsszenarien und Auswirkungen des Algorithmus. Führen Sie eine Selbstsicherheitsbewertung zur Wirksamkeit usw. durch. Darüber hinaus können verschiedene Maßnahmen wie öffentliche Aufsicht und Berichterstattung sowie Inspektionen der Aufsichtsbehörden ermöglicht werden.
Deng Yong, Professor an der Fakultät für Rechtswissenschaften der Universität für Chinesische Medizin, glaubt auch, dass mit der Entwicklung groß angelegter medizinischer Modelle die Einhaltung von Vorschriften und die Überwachung dieser Branche immer wichtiger geworden sind Es ist notwendig, sein eigenes Produkt zu bestimmen Positionierung und Erwerb entsprechender Qualifikationen, um die Ausübung entsprechender Tätigkeiten ohne Qualifikation zu vermeiden. „Im Hinblick auf die Compliance sollten Sie zunächst Ihre eigene Produktpositionierung festlegen. Wenn es sich um ein Internet-Diagnose- und Behandlungsprodukt handelt, müssen Sie sich an eine entsprechende physische medizinische Einrichtung wenden und die Einrichtung eines entsprechenden Internet-Krankenhauses beantragen Wenn es nur dem Gesundheitsmanagement dient und keine Diagnose- und Behandlungstätigkeiten umfasst, muss klar sein, dass seine Produkte keine „medizinischen Zwecke“ haben und nur „dazu bestimmt sind, zum Gesundheitsmanagement verwendet zu werden, die Zielgruppe ist gesund“. Menschen und zur Erfassung statistischer Gesundheitsinformationen.
Er schlug vor, dass auch Datenbereinigung und andere Methoden eingesetzt werden sollten, um sicherzustellen, dass illegale und schädliche Informationen sowie persönliche Informationen in öffentlichen Daten entfernt werden, um sicherzustellen, dass die Trainingsdaten legal und konform sind. Die Anforderungen des medizinischen Modells an die Erhebung von Benutzerdaten müssen den Grundsätzen der Rechtmäßigkeit, Legitimität und Notwendigkeit entsprechen und es dürfen keine personenbezogenen Daten erfasst werden, die nicht im Zusammenhang mit den erbrachten Dienstleistungen stehen.
„Zu den kritischen Verhaltensweisen großer medizinischer Unternehmen bei der Erfassung von Benutzerdaten gehören: die Nichtoffenlegung der Erfassungs- und Verwendungsregeln; die fehlende klare Angabe des Zwecks, der Methode und des Umfangs der Erfassung und Verwendung personenbezogener Daten durch den Benutzer; Einwilligung; Verstoß gegen den Grundsatz der Notwendigkeit und Erhebung personenbezogener Daten ohne Einwilligung; Bereitstellung von Funktionen zur Löschung oder Berichtigung personenbezogener Daten, wie z. B. Beschwerden und Meldemethoden. „Deng Yong sagte, dass bei der Erhebung öffentlicher Daten im Internet deren Rechtmäßigkeit und Einhaltung sichergestellt werden soll. Gemäß den Vorschriften ist es auch erforderlich, Vorgänge wie Benachrichtigungs- und Einwilligungsverfahren, Anonymisierungsverfahren und die Bereitstellung von Ablehnungskanälen durchzuführen.“ . Darüber hinaus sollte auf den Datenkennzeichnungsmechanismus geachtet werden, um durch Kennzeichnung die Entstehung illegaler und schädlicher Inhalte wie Pornografie, Gewalt und diskriminierende Informationen zu verhindern und so die Sicherheit der Inhalte zu gewährleisten.
Als Reaktion auf die Probleme, die durch medizinische Online-Konsultationen aufgedeckt werden, ist Chen Chuan der Ansicht, dass es dringend erforderlich ist, die rechtlichen Verantwortlichkeiten der künstlichen Intelligenz zu klären, einen wissenschaftlichen und angemessenen Mechanismus zur Verantwortungsverteilung einzurichten, die Hauptverantwortung des medizinischen Personals zu stärken und klarzustellen, dass KI in einem ist Hilfsposition und verfeinern Sie jeden Bereich. Die Verantwortlichkeiten der Teilnehmer können die medizinische Diagnose nicht vollständig der KI überlassen, sondern sollten dem Prinzip „Vorbeugung vorher – Überwachung während des Vorfalls – Verantwortlichkeit danach“ folgen. „Medizinisches Personal muss seiner Fürsorgepflicht während der ärztlichen Tätigkeit nachkommen, das heißt, medizinisches Personal muss darauf achten, KI-Diagnoseergebnisse zu ermitteln und zu bewerten, andernfalls trägt es die Verantwortung.“
Quelle: Rule of Law Daily
