利便性とリスクが共存する「AI医療」
2024-08-08
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
原題：病院が相談支援・オンラインプラットフォーム「AI処方」に付随するAIシステムを導入、あるいは一線を越える（はじめに）
「AI＋医療」利便性とリスクの共存（テーマ）
法治日報記者の温立娟インターン、張光龍さん
朝8時、四川省綿陽市中興鎮星河村の村医師、宋文卓さんが診療所にやって来た。彼が最初にしたのは、コンピューターの電源を入れてログインしたことだった。 AI（人工知能）支援の診断と治療システムへの取り組みは、彼が最近開発した新しい習慣です。
「ソン先生、少し心臓が高鳴り、息が切れて、時々咳き込むんです。診療所が開くとすぐに、90歳近い村民のトゥおばあちゃんが付き添って診察に来ました。」彼女の妻。宋文卓氏は症状について尋ねながら、その症状をシステムに入力し、AI補助診断ボタンをクリックすると、システムは頻繁に発生する病気、一般的な病気、その他の疾患の多数の症例を含む国家の中核知識ベースにすぐに接続しました。などを作成し、患者の過去の医療記録情報を抽出および分析して、「急性上気道感染症」およびその他の診断上の推奨事項を提供します。宋文卓氏は自身の臨床経験に基づいて総合的な評価を行い、最終的に屠おばあちゃんは急性上気道感染症を患っていると判断した。
その後、システムは医師の選択に基づいて推奨薬を提供し、推奨の根拠や検査の提案などをリストします。宋文卓さんは参考資料に基づいて治療薬を選び、老人にまず薬を飲んで観察するように頼んだ。
Song Wenzhuo 氏の見解では、AI 支援診断システムの適用は、診断の精度と効率を向上させるだけでなく、医師が複雑な症例に適切に対処できるようになり、誤診や診断漏れのリスクを軽減し、治療と投薬をより安全にし、より安全な。
綿陽市優県区の一次医療機関におけるAI支援診断・治療システムの適用は、我が国の「AI＋医療」推進の鮮やかな典型である。 「医療機器産業発展のための第 14 次 5 か年計画」では、インテリジェント医療機器の開発を加速することが明確に提案されており、「医療および健康サービス システムのさらなる改善に関する意見」では、「インターネット + 医療健康」の開発が提案されています。インターネットや人工知能等の医療・健康分野への応用が加速する近年、我が国はトップレベルデザインを継続的に強化し、「AI＋医療」の発展を推進しています。
多くの業界関係者や専門家は、Rule of Law Daily の記者とのインタビューで、医療分野が AI の応用を検討する重要な場所になっていると指摘し、現在、AI は主に一部の病院で二次診断などのシナリオで患者を支援するために使用されています。医療はますます便利になり、AIを活用した診断や治療の質も向上していきますが、法的なリスクにも注意する必要があります。これらのリスクは患者の個人的なプライバシーの保護だけでなく、アルゴリズムの透明性や公平性などの問題にも関係します。
AI支援診断が各地で開始
患者エクスペリエンスの向上
最近、記者らはB超音波検査と血液検査を含む甲状腺と傷跡の検査のために北京大学人民医院を訪れた。支払いが完了すると、医師はシステムで検査の予約をするよう通知します。記者は携帯電話の電源を入れ、「セルフサービスチェックイン」のように、任意の時間帯の比較的集中した時間に検査項目をスケジュールし、「一度にすべて実行」してすべての検査を完了することができます。最短の時間で検査を完了できるため、予約変更や検査時間の変更による繰り返しの検査が不要になります。
これはまさにAI支援医療の縮図です。記者が公開情報をくまなく調べたところ、多くの病院で「AI＋医療」が導入されていることがわかった。
華中科技大学同済医科大学付属のユニオン病院では、患者がどの科に通えばよいかわからない場合、AI がサポートします。
同院は今年5月、インテリジェントサブ診断やインテリジェントプラスナンバーなどの機能を網羅した「AIスマートクリニック」を開始した。当時の「スマートプラス」機能を例に挙げると、患者は「登録サービス」「オンライン登録」をクリックして予約が必要な診療科に入ることができ、選択した専門医番号が「満席」の場合は「」をクリックすることができる。プラスのお申し込みは「下記」からジャンプページでエキスパートのプラス日を選択してください。無料予約確認後、AIが自動的に会話を開始し、症状やその他の関連情報を尋ね、「症状カード」を生成し、症状の重症度を総合的に評価してプラス番号の資格を決定し、最終的に送信します。合格するかどうかは専門家に判断してもらいます。
さらに同病院は「スマート待合室」機能も開始した。患者登録後、まず「ドクターデジタルパーソン」が患者とコミュニケーションをとり、患者の症状や病気の経過を事前に把握し、医師の問診に備える。
浙江省人民病院では、デジタル保健担当者「アンクリン」が患者に同行して治療を受けることができる。
「Aclin」では、患者に対して治療前・治療中・治療後のAI付随サービスを提供できることが分かった。受診前に患者様が症状を説明し、「アンクリン」が症状に応じて診療科・医師をマッチングし、診察中の予約をお手伝いします。治療プロセスを管理し、プロセス全体にわたって AR インテリジェント ナビゲーションを提供します。また、患者がオンラインで番号を直接取得し、その番号に電話するようリマインダーを提供することもできます。また、Alipay で医療保険の支払いを完了することもでき、患者の治療時間を節約できます。 ; 診断後、患者が退院した後も、電子カルテ、処方箋、レポート、およびその他のサービスを提供し続けます。
北京友誼病院では、AI が医師の医療記録作成を支援しています。
今年5月、雲志生外来医療記録生成システムが北京友誼病院に導入された。このシステムは、複雑な病院環境における医師と患者の会話を識別し、重要な情報を正確に取得し、医師と患者の役割を分離し、病状に無関係な内容を排除することができます。また、外来患者向けの用語だけでなく、専門用語で表現された情報の概要も生成できます。 - 医療記録作成基準の要件を満たすメール。データによると、外来医療記録生成システムの活用により、北京友好病院の関連部門における外来症例入力の効率が大幅に向上し、医師の診察時間が大幅に短縮されました。
法的リスクも無視できない
アルゴリズムによる差別に注意してください
インタビューを受けた多くの業界関係者は、医療分野での人工知能の広範な適用により、患者により便利なサービスが提供され、医療サービスの効率と精度が向上し、高品質の医療リソースがより包括的になる可能性があると指摘しましたが、その背後には法律があります。リスクも無視できません。
山西大学法科大学院講師のチェン・チュアン氏によると、伝統的な医療診断プロセスでは、医師が患者の個人の尊厳と自主性を尊重し保護することが重視されており、医師は医療上の決定を下す際、患者の過去の病歴と現在の症状を総合的に考慮する必要がある。 、関連する法律、規制、倫理規範に従い、適切な治療計画を策定します。しかし、医療用人工知能には「自動化バイアス」のリスクが伴います。つまり、医師が診断プロセス中に人工知能テクノロジーに依存しすぎて、医師自身の専門的な判断や個々の患者のニーズの考慮が無視される可能性があります。この過剰な依存により、医師が難しい医学的決定を不適切に AI に引き渡す可能性があります。医師が人工知能に依存しすぎると、患者の治療決定が奪われて機械に引き渡され、患者が自分の健康を管理する自主性を失う可能性があります。
さらに、アルゴリズムの透明性とアルゴリズムの差別が不十分であるという問題も無視できません。 「2023年7月に中国サイバースペース局が国家発展改革委員会およびその他の部門と協力して発表した「生成型人工知能サービスの管理に関する暫定措置」では、アルゴリズムの透明性に関する要件が提示されていますが、具体的な実装プロセスにおいて、アルゴリズムの実際の動作原理と意思決定 このプロセスは、外部からの理解や監視が困難なことが多く、アルゴリズムの透明性が不十分であるため、患者は医療用人工知能がどのように診断の結論に達するかを理解できず、その結果、患者の知る権利が損なわれます。そして選択が完全に保護されておらず、患者のインフォームド・コンセントと自主決定の権利が侵害される可能性がある」とチェン・チュアン氏は述べた。
彼女は、アルゴリズムによる差別も地域ごとの医療資源の不平等につながると提案した。異なる開発者がアルゴリズムをトレーニングする際に意図せずバイアスを導入し、異なる患者グループに直面したときに生成 AI が差別的な決定を下してしまう可能性があります。たとえば、一部の医療 AI システムは、患者のスクリーニング時に不正確な診断や体系的に過小評価された診断を生成します。別の例として、アルゴリズム モデルのトレーニング データが主に特定のグループから得られた場合、特別なグループに直面したときにバイアスが生じる可能性があります。
チェン・チュアン氏は、現時点では医療分野における人工知能の応用はまだ模索段階にあり、誤診やデータ漏洩などの行為により説明責任や責任問題が生じやすいと考えている。私の国の民法は、過失責任の原則が医療損害賠償責任に適用されると規定しており、医療機器によって引き起こされた損害賠償責任の問題も考慮に入れています。しかし、人工知能は独自に医療診断の結果や提案を生成することができるため、現在の法的枠組みの下では、医療用人工知能のアプリケーションに対する責任は非常に複雑であり、従来の責任形式を医療用人工知能に単純に適用することは困難です。
医薬品をオンラインで購入する場合の本末転倒
レビュープロセスは役に立たない
新興モデルとしての「AI＋医療」を実際に適用する際に起こり得る法的リスクに加え、一部のオンライン診療プラットフォームやオンライン医薬品購入プラットフォームではAI支援が導入されており、患者に利便性をもたらしたものの、リスクも露呈している。たくさんの問題がありました。
記者が調査したところ、一部のインターネット医療プラットフォームでは「まず薬を購入し、次に薬の処方を決定し、さらには人工知能ソフトによって処方箋を自動生成する」といった本末転倒な運用方法が採用されていることが判明した。
少し前、記者が医薬品購入プラットフォームで処方薬カルシトリオールのソフトカプセルを注文した後、プラットフォームは「オフラインで確認されている疾患を選択してください」というプロンプトを表示しました。記者は、「病気欄」のいくつかの項目をランダムにチェックし、「処方箋・診療録・検査報告欄」を空欄にし、「この病気と診断され薬を使用しており、アレルギー歴はない」ことを確認した。 、関連する禁忌または副作用。」 「リストを提出すると、すぐに検証が完了し、相談セクションに進みました。
その直後、「医師」が治療を受け、「インターネット病院は再診者のみに医療サービスを提供する」と強調するメッセージを続けて送った。特別な期間。記者が応答しないと、相手は処方箋と購入リンクを送ってきた。
北京市民のヤン・ムーさん（仮名）も同様の経験をしており、画面の向こうにいる医師は本物の医師ではないのではないかと疑った。ロボットとは異なり、私が入力する限り、相手は専門的なアドバイスをまったく与えずに、数秒以内にすぐに同意しました。彼は購入したかったのですが、相手はそれでもすぐにそれを処方しました。
業界の多くの人々は、「空気ベースの」診断と治療はすべての患者に適しているわけではないと考えており、一般的な病気や慢性疾患の追跡診断は長い間、インターネット診断と治療の位置づけとなってきました。しかし、業界では何がフォローアップ訪問を構成するのかについての具体的な基準が欠如しており、その結果、いくつかの規制上の空白が生じています。
「通常のインターネット病院の場合、資格のある医師が発行する電子処方箋には医師の署名とインターネット病院の電子印鑑が必要です。一部の小規模なインターネット医療プラットフォームでは、人工知能、ロボット、その他のツールが使用されている可能性も排除されません」一部の大規模なプラットフォームでは、患者に何歳か、どこが悪いのかなどを尋ねるなど、医師の診察を支援するために AI を使用できますが、処方箋は医師が作成する必要があります。 」と北京の三次病院の劉という名の医師は語った。
また、多くのプラットフォームは利益を追求するために、「AIが処方し、顧客が直接薬を服用する」というモデルを採用しており、処方箋の発行や審査のプロセスが直接スキップされているか、処理されていないことに気づいた。ユーザーがアップロードした処方箋を実際に審査しないと、この種の行為は我が国の医薬品管理システムに重大な違反をするだけでなく、患者の医薬品の安全性にも隠れたリスクをもたらします。
オンライン医療プラットフォームでの診察中に個人情報が開示されるかどうかも、面接を受けた多くの患者から提起された疑問です。
かつて、楊牧さんは背中に赤い発疹がたくさんできたので、健康プラットフォームに相談に行きました。数日以内に、植毛が必要かどうかを尋ねる電話やテキストメッセージが次々と届きました。スキンケア製品の売り込みや、金融会社からの営業電話もあった。
「相談中、プラットフォームによって収集された個人情報と健康状態は適切に保管されますか？この情報は第三者に流れるのでしょうか？」とYang Mu氏は非常に心配していました。
以前、工業情報化部は、多くのインターネット医療アプリには、範囲を超えて個人のプライバシー情報を収集したり、個人の同意なしに他人に個人情報を提供したりするなど、個人情報の収集と使用に重大な問題があると報告した。医療サービスに関係のない個人情報の収集。
「他の種類のアプリと比較して、医療アプリでの個人情報の漏洩は、より深刻な法的問題につながる可能性があります。個人の健康情報が漏洩すると、犯罪者はその情報を利用して、例えば「捜索」の心理を利用するなど、精密な詐欺を実行する可能性があります。 「急いで治療を行うこと」患者に薬物を違法に販売または宣伝する」と前述のLiu医師は述べた。
関連する法的枠組みを改善する
患者の権利と利益を効果的に保護する
取材した専門家らは、「AI＋医療」の実用化における潜在的な法的リスクに効果的に対処するには、法的・政策的両面からの体系的な改善が必要であると指摘した。法的枠組みと規制メカニズムを確立および改善し、大規模な医療モデルとデータ使用仕様の責任を明確にすることによってのみ、医療用人工知能の開発を促進しながら、患者の正当な権利と利益を効果的に保護することができます。
「まず第一に、医療用人工知能に関する法的枠組みを確立し、改善しなければなりません。現時点では、「生成的人工知能サービスの管理に関する暫定措置」には医療分野における人工知能に関する規制は含まれていません。これを踏まえて、陳川氏は、医療現場の特性に基づいて関連法規を策定する必要があり、医療スタッフと患者が人工知能システムをより適切に利用できるようにするためには、「知能の補助的な役割」を強調した。診断結果を取得するための人工知能の動作メカニズムを理解することで、我が国は医療人工知能の使用に関するサポートガイドラインを策定し、インテリジェントシステムとその結果の解釈可能性を改善する必要があります。データセキュリティ法や「人を対象とする生命科学及び医学研究の倫理審査措置」等により、医療用人工知能に基づく管理措置が定められている。現在の開発状況を踏まえてご紹介します。
陳川氏はまた、医療用人工知能アルゴリズムの監督を強化することが急務であると述べた。一方では、医療用人工知能の安全性と信頼性を確保するために、専門的なアルゴリズム審査機関を設立し、医療用人工知能の厳格な安全性、透明性、倫理審査を実施する必要があります。データと人工知能の性質 インテリジェント テクノロジーの継続的な反復アップグレードに伴い、開発者は、アルゴリズムの適用中に発生するセキュリティ リスクを事前に判断し、対象を絞った対策を提案する必要があります。アルゴリズムのライフ サイクル中、重点を置いてアルゴリズム リスクのモニタリングを定期的に実行する必要があります。データの使用状況、アプリケーションのシナリオ、アルゴリズムの影響などについての自己安全性評価を実施します。さらに、公的監視や報告、規制部門の検査などのさまざまな措置を有効にすることができます。
北京中医薬大学法学部の鄧勇教授も、大規模な医療モデルの開発に伴い、この業界のコンプライアンス業務と監督がますます重要になっており、独自の製品を決定する必要があると考えています。資格を持たずに該当する活動を行うことを避けるために、適切な資格を取得して位置付けます。 「コンプライアンスの観点から、まず自社の製品の位置付けを決定する必要があります。インターネット診断および治療製品の場合、対応する物理的な医療機関に連絡または設立し、対応するインターネット病院の設立を申請する必要があります。」要件に基づき、健康管理のみに使用され、診断や治療活動を含まない場合、その製品には「医療目的」がなく、「健康管理に使用することのみを目的としており、対象となる人々は健康である」ことを明確にする必要があります。統計的な健康情報を記録するためです。」
同氏は、トレーニングデータが合法かつ準拠していることを保証するために、データクリーニングやその他の方法を使用して、公開データ内の違法で有害な情報や個人情報も確実に削除する必要があると提案しました。ユーザーデータを収集するための医療モデルの要件は、合法性、正当性、必要性の原則に従う必要があり、提供されるサービスに無関係な個人情報を収集しない必要があります。
「ユーザーデータを収集する際の医療ビッグモデルの危険な行為には、収集と使用のルールを開示しないこと、個人情報の収集と使用の目的、方法、範囲をユーザーなしで明示しないこと、同意、必要性の原則に違反し、提供するサービスとは無関係に個人情報を収集する。鄧勇氏は、インターネットの公開データを収集する際には、その合法性とコンプライアンスを確保するために、通知と同意の手続き、匿名化の手続き、拒否チャネルの提供などの作業も行う必要があると述べた。 。また、コンテンツの安全性を確保するため、ラベリングを通じてポルノ、暴力、差別情報などの違法かつ有害なコンテンツの生成を防止するデータラベリングの仕組みにも留意する必要がある。
オンライン診療によって明らかになった問題に対応して、Chen Chuan 氏は、人工知能の法的責任を明確にし、科学的かつ合理的な責任配分メカニズムを確立し、医療従事者の主な責任を強化し、AI が困難な状況にあることを明確にすることが急務であると考えています。参加者の責任は、医学的診断をAIに完全に引き継ぐことはできませんが、「事前の予防 - 事故時の監視 - 事後責任」の原則に従う必要があります。 「医療従事者は、医療行為に際し注意義務を果たさなければならない。つまり、医療従事者はAIの診断結果の特定と評価に注意を払わなければならず、そうでなければ責任を負う。」
出典: 法の支配日刊紙
