편의성과 리스크가 공존하는 'AI 의료'
2024-08-08
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
원제: 병원이 상담을 지원하는 AI 시스템을 출시하고 온라인 플랫폼 "AI 처방"을 동반하거나 선을 넘습니다(소개)
“AI+의료”: 편리함과 위험이 공존한다(주제)
법치일보 기자 Wen Lijuan 인턴 Zhang Guanglong
오전 8시, 쓰촨성 몐양시 유현구 중싱진 싱허촌 마을 의사 송원주오가 가장 먼저 진료소에 와서 컴퓨터를 켜고 로그인했다. AI(인공지능) 보조 진단 및 치료 시스템이 그가 최근에 개발한 새로운 습관이다.
"송 박사님, 심장이 조금 빨리 뛰고 숨이 차고 가끔 기침이 나요." 진료소가 열리자마자 90세에 가까운 마을 주민 투 할머니가 동행하여 의사를 찾아왔습니다. 그녀의 아내. 송원주는 증상을 묻던 중 시스템에 상태를 입력한 뒤 AI 보조진단 버튼을 눌렀다. 시스템은 다발성 질환, 일반질병, 등을 수집하고, 환자의 과거 의무기록 정보를 추출, 분석하여 "급성상기도감염" 및 기타 진단 권고사항을 제공합니다. Song Wenzhuo는 자신의 임상 경험을 바탕으로 종합적인 평가를 실시한 결과, 최종적으로 Tu 할머니가 급성 상기도 감염을 앓고 있다는 결론을 내렸습니다.
그 후, 시스템은 의사의 선택에 따라 권장 약물을 제공하고 권장 사항의 근거, 검사 제안 등을 나열합니다. 송원주는 자신의 참고자료를 바탕으로 치료약을 선택하고 노인에게 먼저 약을 먹고 관찰해 달라고 부탁했다.
Song Wenzhuo의 견해에 따르면 AI 보조 진단 시스템의 적용은 진단의 정확성과 효율성을 향상시킬 뿐만 아니라 의사가 복잡한 사례를 더 잘 처리하고, 오진 및 진단 누락의 위험을 줄이고, 치료와 약물 치료를 보다 안전하고 안전하게 만드는 데 도움이 됩니다. 더 안전합니다.
몐양시 유현구의 1차 의료기관에 AI 보조 진단 및 치료 시스템을 적용한 것은 중국의 'AI + 의료' 홍보를 생생하게 보여주는 사례입니다. '의료기기 산업 발전을 위한 14차 5개년 계획'에서는 지능형 의료기기 개발을 가속화할 것을 명확하게 제안하고 있으며, '의료 및 보건 서비스 시스템을 더욱 개선하기 위한 의견'에서는 '인터넷 + 의료 건강'을 개발할 것을 제안하고 있습니다. 의료·헬스케어 분야에서 인터넷, 인공지능 등의 고도화를 가속화한다. 분야에서의 응용... 최근 우리나라는 지속적으로 최상위 디자인을 강화하고 'AI+의료' 발전을 추진해왔다.
많은 업계 관계자와 전문가들은 법치일보 기자와의 인터뷰에서 의료 분야가 AI 애플리케이션을 탐색하는 중요한 장소가 되었다고 지적했습니다. 현재 일부 병원에서는 하위 진단, 사전 심문, 의료 기록을 위해 주로 사용되고 있습니다. 의료는 더욱 편리해지고 의료 서비스의 질도 향상되었습니다. 앞으로는 AI를 이용한 진단과 치료가 대세로 자리잡겠지만, 그 이면에 숨어 있는 법적 위험도 경각심이 필요합니다. 이러한 위험은 환자의 개인정보 보호뿐만 아니라 알고리즘 투명성 및 공정성과도 관련됩니다.
AI 지원 진단이 여러 곳에서 시작되었습니다.
환자 경험 개선
최근 기자들은 B초음파와 혈액검사를 포함한 갑상선 및 흉터 검사를 위해 북경대 인민병원을 찾았다. 지불이 완료되면 의사는 시스템에서 검사 예약을 하도록 상기시켜 줄 것입니다. 신고자는 휴대폰을 켜고 '셀프 체크인'처럼 선택 시간대에 상대적으로 집중된 시간에 검사 항목을 스케줄링해 '한 번에 실행'해 모든 검사를 완료할 수 있다. 약속 변경 및 검사 시간 차이로 인한 반복적인 점검이 필요하지 않습니다.
이는 AI 기반 의료의 축소판일 뿐이다. 기자는 공개 정보를 샅샅이 뒤져 많은 병원에서 'AI+진료'가 시행되고 있는 것을 발견했다.
화중과기대 통지의과대학 부속 유니온병원에서는 환자가 어느 학과에 가야 할지 모르는 경우 AI가 도움을 줄 수 있다.
병원은 올해 5월 지능형 하위 진단, 지능형 플러스 넘버 등 기능을 갖춘 'AI 스마트 클리닉'을 출시했다. 이때의 "스마트 플러스" 기능을 예로 들어보겠습니다. 환자는 "등록 서비스" 및 "온라인 등록"을 클릭하여 예약이 필요한 부서에 들어갈 수 있습니다. 선택한 전문가 번호가 "정원"인 경우 "를 클릭할 수 있습니다. 아래 '플러스' 신청하세요. ”, 점프 페이지에서 전문가 플러스 날짜를 선택하세요. 무료 약속을 확인한 후 AI는 자동으로 대화를 시작하고 조건 및 기타 관련 정보에 대해 질문한 다음 "조건 카드"를 생성한 다음 조건의 심각도를 종합적으로 평가하고 플러스 번호에 대한 자격을 결정한 후 마지막으로 전송합니다. 통과 여부는 전문가에게 문의하세요.
이와 함께 병원은 '스마트 대기실' 기능도 출시했다. 환자 등록 후 '의사디지털사람'이 환자와 먼저 소통해 환자의 증상과 질병 경과를 사전에 파악하고 면담을 준비한다.
절강성인민병원에서는 디지털 의료인 '안클린(Anclin)'이 환자와 함께 진료를 받을 수 있다.
'안클린'은 환자에게 진료 전, 진료 중, 진료 후까지 AI 동반 서비스를 제공할 수 있는 것으로 이해된다. 상담 전 환자분은 자신의 증상을 설명해주시면, "안클린"은 증상에 따라 환자분을 진료과, 의사와 연결해 드리고, 상담 시 환자의 진료예약을 합리적으로 도와드립니다. 치료 과정 전반에 걸쳐 AR 지능형 내비게이션을 제공하고, 환자가 온라인으로 직접 번호를 선택할 수 있고, 해당 번호로 전화하라는 알림을 제공할 수 있으며, Alipay에서 의료 보험 지불을 완료할 수도 있어 환자의 치료 시간을 절약할 수 있습니다. ; 진단 후 환자가 퇴원할 때 전자 의료 기록, 처방전, 보고서 조회 및 기타 서비스를 계속 제공합니다.
베이징 우호병원(Beijing Friendship Hospital)에서는 AI가 의사들이 의료 기록을 작성하는 데 도움을 줄 수 있습니다.
올해 5월에는 베이징 우호병원에 윈즈성 외래 진료 기록 생성 시스템이 적용됐다. 이 시스템은 복잡한 병원 환경에서 의사와 환자의 대화를 식별하고, 핵심 정보를 정확하게 포착하며, 의사와 환자의 역할을 분리하고, 상태와 관련 없는 내용을 제거할 수 있으며, 외래 환자뿐만 아니라 전문적인 용어로 표현된 정보 요약을 생성할 수 있습니다. - 의무기록 작성기준에 부합하는 우편물. 데이터에 따르면 외래 진료 기록 생성 시스템의 도움으로 베이징 우호 병원 관련 부서의 외래 환자 접수 효율성이 크게 향상되었으며 의사 상담 시간도 크게 단축되었습니다.
법적 리스크도 무시할 수 없습니다
알고리즘 차별에 주의하세요
인터뷰에 응한 많은 업계 관계자들은 인공지능이 의료 분야에 널리 적용되면 환자에게 보다 편리한 서비스를 제공하고, 의료 서비스의 효율성과 정확성을 향상시키며, 고품질 의료 자원을 보다 포용적으로 만들 수 있다고 지적했습니다. 리스크도 무시할 수 없습니다.
Shanxi University Law School의 Chen Chuan 강사에 따르면 전통적인 의료 진단 과정에서는 의사의 존중과 환자의 개인 존엄성 및 자율성 보호를 강조합니다. 의사는 의료 결정을 내릴 때 환자의 과거 병력과 현재 증상을 종합적으로 고려해야 합니다. , 관련 법률, 규정 및 윤리 규범을 준수하여 적절한 치료 계획을 수립합니다. 그러나 의료용 인공지능은 '자동화 편향'의 위험을 안고 있습니다. 즉, 의사가 진단 과정에서 인공지능 기술에 너무 많이 의존하여 환자 개개인의 요구에 대한 자신의 전문적 판단과 고려를 무시할 수 있다는 것입니다. 이러한 과도한 의존으로 인해 의사는 어려운 의학적 결정을 부적절하게 AI에 넘길 수 있습니다. 의사가 인공지능에 너무 많이 의존하면 환자의 치료 결정이 빼앗기고 기계에 넘겨져 환자가 자신의 건강 관리에 대한 자율성을 잃게 될 수 있습니다.
또한, 알고리즘의 투명성과 알고리즘의 차별성이 부족하다는 문제도 무시할 수 없습니다. "2023년 7월 중국 사이버 공간 관리국이 국가 발전 개혁 위원회 및 기타 부서와 함께 발표한 "생성 인공 지능 서비스 관리를 위한 임시 조치"에서는 특정 구현 과정에서 알고리즘 투명성에 대한 요구 사항을 제시했지만, 알고리즘의 실제 작동 원리와 의사결정 과정은 외부 세계에서 이해하고 감독하기 어려운 경우가 많습니다. 알고리즘의 투명성이 부족하기 때문에 환자는 의료용 인공지능이 어떻게 진단 결론에 도달하는지 이해할 수 없으므로 알 권리가 있습니다. 첸 추안(Chen Chuan)은 “선택권이 완전히 보호되지 않아 환자의 동의권과 자율권이 침해될 수 있다”고 말했다.
그녀는 알고리즘 차별이 다양한 지역의 의료 자원 불평등으로 이어질 것이라고 제안했습니다. 다양한 개발자가 알고리즘을 훈련할 때 의도치 않게 편견을 도입하여 생성 AI가 다양한 환자 그룹을 마주할 때 차별적인 결정을 내릴 수 있습니다. 예를 들어, 일부 의료 AI 시스템은 환자를 선별할 때 부정확하거나 체계적으로 과소평가된 진단을 내립니다. 또 다른 예로, 알고리즘 모델의 훈련 데이터가 주로 특정 집단에서 나온다면, 특정 집단을 상대할 때 편향이 발생할 수 있습니다.
Chen Chuan은 현재 의료 분야에 인공 지능을 적용하는 것은 아직 탐색 단계에 있으며, 오진, 데이터 유출 및 기타 행위로 인해 책임과 비난 문제가 발생하기 쉽다고 믿습니다. 우리나라 민법에서는 의료손해배상책임에 과실책임원칙을 적용한다고 규정하고 있으며, 의료기기로 인한 손해배상책임 문제도 고려하고 있다. 그러나 인공지능은 독립적으로 의료 진단 결과나 제안을 생성할 수 있기 때문에 현행 법적 틀에서는 의료 인공지능 애플리케이션에 대한 책임 소재가 매우 복잡하고 단순히 의료 인공지능에 전통적인 책임 형식을 적용하기가 어렵습니다.
온라인으로 약을 구입할 때 말보다 카트를 먼저 놓는다
검토 과정이 쓸모가 없습니다
신흥 모델인 'AI+의료'를 실제로 적용할 때 발생할 수 있는 법적 위험 외에도 일부 온라인 의료 상담 및 온라인 의약품 구매 플랫폼에서는 AI 지원을 도입했지만 환자에게 편의를 제공했지만 노출되는 부분도 있다. 문제가 많았습니다.
조사 과정에서 기자는 일부 인터넷 의료 플랫폼이 "약물을 먼저 구매한 후 약품 처방을 결정하고 심지어 인공지능 소프트웨어를 통해 자동으로 처방전을 생성하는 등 카트를 앞세우는 운영 방식을 채택하고 있는 것을 발견했다"고 밝혔다.
얼마 전 한 의약품 구매 플랫폼에서 기자가 전문의약품인 칼시트리올 연질캡슐을 주문하자 해당 플랫폼에서는 '오프라인에서 확인된 질병을 선택해 주세요'라는 메시지가 떴다. 기자는 '질병란'의 여러 항목을 무작위로 체크하고, '처방/의료기록/검사보고란'을 비워두고, '이 질병이 진단되어 해당 약을 사용했으며, 알레르기 병력이 없음을 확인했습니다. , 관련 금기 사항이나 부작용." "검증은 목록 제출 후 신속하게 상담 섹션으로 이동했습니다.
곧바로 '의사'가 진료를 받고 여러 차례 메시지를 보냈다. 첫 번째는 "인터넷 병원은 후속 방문을 위해 내원한 이용자에게만 의료 서비스를 제공한다"는 점을 강조한 내용이었다. 알레르기 병력이 있거나 특별한 기간에 있었던 것입니다. 기자가 답장을 하지 않자 상대방은 처방전 양식과 구매 링크를 보냈다.
베이징 시민인 양무(가명)도 비슷한 경험을 했다. 그는 화면 뒤의 의사가 실제 개업 의사가 아니라고 의심했다. 내가 입력하기만 하면 상대방이 몇 마디만 말해주곤 했다. 그는 전문적인 조언도 전혀 하지 않고 몇 초 안에 빠르게 동의했다”고 말했다. 그는 사고 싶었지만 상대방은 여전히 빨리 처방했습니다.
업계의 많은 사람들은 "공기 기반" 진단 및 치료가 모든 환자에게 적합하지 않다고 생각합니다. 일반적인 질병과 만성 질환에 대한 추적 진단은 오랫동안 인터넷 진단 및 치료의 입장이었습니다. 그러나 업계에서는 후속 방문을 구성하는 구체적인 기준이 부족하여 일부 규제 공백이 발생했습니다.
"일반 인터넷병원이라면 자격을 갖춘 의사가 발급한 전자처방전에는 의사의 서명과 인터넷병원의 전자인감이 있어야 합니다. 일부 소규모 인터넷 의료 플랫폼이 인공지능, 로봇 등 도구를 사용하는 경우도 배제할 수 없습니다. 일부 대형 플랫폼에서는 AI를 사용하여 환자에게 나이가 몇 살인지, 무슨 문제가 있는지 묻는 등 의사의 상담을 지원할 수 있지만 처방은 반드시 의사가 해야 합니다. "라고 베이징의 한 3차 병원 의사 Liu라는 사람이 말했습니다.
그는 또한 많은 플랫폼이 이익을 추구하기 위해 "AI가 처방하고 고객이 직접 약을 복용하는" 모델을 채택하고 있다는 점에 주목했습니다. 처방전 발급 및 검토 과정이 직접 생략되거나 처리되지 않습니다. 실제 검토 없이 이러한 유형의 행위는 우리나라의 의약품 관리 시스템을 심각하게 위반하는 것이며 환자의 의약품 안전에 숨겨진 위험을 초래합니다.
온라인 건강 플랫폼 상담 시 개인정보 공개 여부 역시 인터뷰에 응한 많은 환자들이 제기하는 질문입니다.
한번은 양무 씨가 등에 붉은 발진이 많이 나서 상담을 받으러 헬스장에 갔는데, 며칠 사이에 모발 이식이 필요한지 묻는 사람들이 잇달아 광고 전화와 문자 메시지를 받았습니다. 스킨 케어 제품에 대한 판매 안내가 있었고 심지어 대출 회사의 판매 전화도있었습니다.
"상담 과정에서 플랫폼에서 수집한 개인정보와 건강상태가 잘 보관될 수 있을까? 이 정보가 제3자에게 전달될까?"라고 양무는 걱정했다.
앞서 산업정보부는 다수의 인터넷 의료 앱이 범위를 넘어서 개인정보를 수집하고, 본인의 동의 없이 개인정보를 타인에게 제공하는 등 개인정보 수집 및 이용에 심각한 문제가 있다고 보고한 바 있다. 의료서비스와 관련 없는 개인정보 수집
“다른 유형의 앱에 비해 의료용 앱에서 개인정보가 유출되면 더 심각한 법적 문제가 발생할 수 있다. 개인 건강정보가 유출될 경우 범죄자는 이 정보를 이용해 ‘찾아내려는’ 심리를 이용하는 등 정밀한 사기 행위를 할 수 있다. 급하게 진료를 받는 행위' 환자에게 불법적으로 약품을 판매하거나 홍보하는 것”이라고 앞서 언급한 류 박사가 말했다.
관련 법적 프레임워크 개선
환자의 권리와 이익을 효과적으로 보호합니다.
인터뷰에 참여한 전문가들은 'AI+의료'의 실제 적용에 있어 잠재적인 법적 리스크에 효과적으로 대처하기 위해서는 법적, 정책적 차원 모두에서 체계적인 개선이 필요하다고 지적했다. 법적 프레임워크와 규제 메커니즘을 구축 및 개선하고 대규모 의료 모델의 책임과 데이터 사용 사양을 명확히 해야만 환자의 합법적인 권익을 효과적으로 보호하는 동시에 의료용 인공 지능의 개발을 촉진할 수 있습니다.
“우선 의료 인공지능에 대한 법적 틀을 확립하고 개선해야 한다. 현재 ‘생성인공지능 서비스 관리에 관한 임시조치’에는 의료 분야 인공지능에 대한 규제가 포함되어 있지 않다. 의료 분야의 특성에 맞춰 관련 법률과 규정을 마련해야 하며 의료 인공지능에 중점을 두어야 한다. Chen Chuan은 의료진과 환자가 인공지능 시스템을 더 잘 사용할 수 있도록 돕기 위해서는 인공지능의 보조적 역할을 강조했다. 진단 결과를 얻기 위한 인공지능의 작동 메커니즘을 이해하면, 우리나라는 의료 인공지능의 사용에 대한 지원 지침을 마련하여 지능형 시스템과 그 결과의 해석성을 향상시킬 수 있습니다. 데이터 보안법, '인간을 대상으로 하는 생명과학과 의학 연구에 대한 윤리적 검토 대책' 등은 인공지능에 적용할 수 있는 관리 대책을 마련하기 위한 근거를 제공하고 있다. 현재 개발상황을 토대로 소개합니다.
Chen Chuan은 의료용 인공지능 알고리즘에 대한 감독 강화가 시급하다고도 언급했습니다. 한편으로는 의료인공지능의 안전성과 신뢰성을 확보하기 위해서는 전문적인 알고리즘 심사기관을 설립하여 역동성을 바탕으로 의료인공지능에 대한 엄격한 안전성, 투명성, 윤리적 심사를 수행해야 한다. 데이터의 본질과 인공지능 지능형 기술의 지속적인 반복적 업그레이드로 인해 개발자는 알고리즘 적용 중에 발생하는 보안 위험을 사전에 파악하고 타겟 대책을 제안해야 하며, 알고리즘 수명 주기 동안 알고리즘 위험 모니터링을 정기적으로 수행해야 합니다. 데이터 사용, 적용 시나리오 및 알고리즘의 영향에 대한 효율성 등에 대한 자체 안전성 평가를 수행합니다. 또한 공공 감독 및 보고, 규제 부서 검사 등 다양한 조치가 가능해집니다.
베이징 중의과대학 법학과 교수인 Deng Yong은 대규모 의료 모델의 개발로 인해 이 산업에 대한 규정 준수 운영 및 감독이 점점 더 중요해지고 있다고 믿습니다. 자격 없이 해당 활동을 수행하지 않도록 해당 자격을 포지셔닝하고 획득합니다. “규정 준수 측면에서 먼저 자신의 제품 포지셔닝을 결정해야 합니다. 인터넷 진단 및 치료 제품인 경우 해당 물리적 의료 기관에 문의하거나 설립하고 해당 인터넷 병원 설립을 신청해야 합니다. 요구 사항에 따라 건강 관리에만 사용되고 진단 및 치료 활동을 포함하지 않는 경우 해당 제품은 "의학적 목적"이 없으며 "건강 관리에만 사용하려는 의도이며 대상 인구는 건강합니다"라는 점을 분명히 해야 합니다. 통계적인 건강 정보를 기록합니다."
그는 훈련 데이터가 합법적이고 규정을 준수하는지 확인하기 위해 데이터 클리닝 및 기타 방법을 사용하여 공공 데이터에 있는 불법적이고 유해한 정보와 개인 정보를 제거해야 한다고 제안했습니다. 사용자 데이터 수집에 대한 의료 모델의 요구 사항은 합법성, 적법성, 필요성의 원칙을 따라야 하며, 제공되는 서비스와 관련 없는 개인정보를 수집하지 않습니다.
“사용자 데이터 수집 시 의료 빅모델의 한계 행동에는 수집 및 사용 규칙을 공개하지 않는 것, 사용자 없이 개인 정보를 수집하고 사용하는 목적, 방법 및 범위를 명확하게 명시하지 않는 것, 동의 없이 개인정보를 제공하는 서비스와 무관한 수집 원칙을 위반하는 행위 Deng Yong은 인터넷 공공 데이터를 수집할 때 적법성과 규정 준수를 보장하기 위해 규정에 따라 통지 및 동의 절차, 익명화 절차, 거부 채널 제공 등의 작업도 수행해야 한다고 말했습니다. . 또한 라벨링을 통해 음란물, 폭력, 차별적 정보 등 불법적이고 유해한 콘텐츠의 생성을 방지하는 데이터 라벨링 메커니즘에 주목하여 콘텐츠 안전성을 확보해야 합니다.
온라인 의료 상담에서 드러난 문제에 대응하여 Chen Chuan은 인공 지능의 법적 책임을 명확히 하고, 과학적이고 합리적인 책임 배분 메커니즘을 확립하고, 의료진의 주요 책임을 강화하고, AI가 참여자의 책임을 AI에게 완전히 맡길 수는 없지만 '사전 예방-사고 발생 중 모니터링-사후 책임'을 원칙으로 해야 한다. "의료인은 의료 행위 중 주의 의무를 다해야 합니다. 즉, 의료인은 AI 진단 결과를 식별하고 평가하는 데 주의를 기울여야 합니다. 그렇지 않으면 책임을 져야 합니다."
출처: 법치일보
