«Медицинская помощь с помощью искусственного интеллекта»: удобство и риск сосуществуют
2024-08-08
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Оригинальное название: Больница запускает систему искусственного интеллекта для помощи в консультировании и сопровождении онлайн-платформы «Назначение рецептов с использованием искусственного интеллекта» или переходит черту (введение)
«ИИ + медицинская помощь»: удобство и риск сосуществуют (тема)
Репортер газеты Rule of Law Daily Вэнь Лицзюань, стажер Чжан Гуанлун
В 8 часов утра Сун Вэньчжуо, деревенский врач из деревни Синхэ города Чжунсин района Юсянь города Мяньян провинции Сычуань, пришёл в клинику. Первое, что он сделал, это включил компьютер и вошёл в систему. к системе диагностики и лечения с использованием искусственного интеллекта. Недавно у него появилась новая привычка.
«Доктор Сун, мое сердце бьется немного быстрее, я чувствую одышку и иногда кашляю». Как только клиника открылась, Бабушка Ту, жительница деревни, которой было почти девяносто лет, пришла на прием к врачу в сопровождении. ее жена. Спрашивая о симптомах, Сун Вэньчжуо ввел состояние в систему, а затем нажал кнопку вспомогательной диагностики искусственного интеллекта. Система быстро соединилась с основной национальной базой знаний с большим количеством случаев часто встречающихся заболеваний, распространенных заболеваний. и т. д., а также извлекли и проанализировали историю болезни пациента, чтобы предоставить «Острую инфекцию верхних дыхательных путей» и другие диагностические рекомендации. Сун Вэньчжо провел комплексное обследование, основанное на собственном клиническом опыте, и наконец определил, что у бабушки Ту острая инфекция верхних дыхательных путей.
В дальнейшем система выдает рекомендованные лекарства на основании выбора врача, перечисляя основания для рекомендаций, предложения по обследованию и т. д. Сун Вэньчжуо выбрал лечебные препараты на основе своих рекомендаций и попросил старика сначала принять лекарство и понаблюдать.
По мнению Сун Вэньчжуо, применение диагностических систем с помощью искусственного интеллекта не только повышает точность и эффективность диагностики, но также помогает врачам лучше справляться со сложными случаями, снижает риск ошибочного диагноза и пропуска диагноза, а также делает лечение и лекарства более безопасными и безопасными. более безопасный.
Применение систем диагностики и лечения с помощью искусственного интеллекта в учреждениях первичной медицинской помощи района Юсянь города Мяньян является ярким примером продвижения в моей стране принципа «ИИ + медицинская помощь». В «14-й пятилетке развития индустрии медицинского оборудования» четко предлагается ускорить разработку интеллектуального медицинского оборудования; «Заключения о дальнейшем совершенствовании системы медицинского и медицинского обслуживания» предлагают развивать «Интернет + Медицинское здравоохранение» и ускорить развитие Интернета, искусственного интеллекта и т. д. в области медицины и здравоохранения. Приложения в этой области... В последние годы наша страна постоянно укрепляет дизайн высшего уровня и способствует развитию «ИИ + медицинская помощь».
Многие инсайдеры отрасли и эксперты отметили в интервью репортерам Rule of Law Daily, что медицина стала важным местом для изучения приложений ИИ. В настоящее время он в основном используется в некоторых больницах для оказания помощи пациентам в таких сценариях, как субдиагностика. Медицинское лечение стало более удобным, а качество медицинских услуг улучшилось. Диагностика и лечение с помощью искусственного интеллекта станут тенденцией в будущем, но нам также необходимо учитывать юридические риски. Эти риски связаны не только с защитой личной жизни пациентов, но и с такими вопросами, как прозрачность и справедливость алгоритмов.
Диагностика с помощью искусственного интеллекта запущена во многих местах
Улучшите качество обслуживания пациентов
Недавно репортеры приехали в Народную больницу Пекинского университета для обследования щитовидной железы и шрамов, включая УЗИ B и анализы крови. После оплаты врач напомнит вам о необходимости записи на обследование в системе. Репортер включает свой мобильный телефон и, подобно «регистрации самообслуживания», планирует объекты проверки на относительно сконцентрированное время в дополнительный период времени, чтобы он мог «провести все сразу» и завершить все проверки. в кратчайшие сроки, что позволяет избежать необходимости повторных проверок на месте, вызванных очередями при смене назначений и разным сроками проверок.
Это всего лишь микрокосм медицинской помощи с помощью искусственного интеллекта. Репортер изучил общественную информацию и обнаружил, что во многих больницах внедрена технология «ИИ + медицинское лечение».
В больнице Юнион, входящей в состав медицинского колледжа Тунцзи Хуачжунского университета науки и технологий, если пациент не знает, какое отделение ему посещать, искусственный интеллект может помочь.
В мае этого года больница запустила «Умную клинику AI», охватывающую такие функции, как интеллектуальная дополнительная диагностика и интеллектуальный плюсовой номер. В качестве примера возьмем функцию «Smart Plus»: пациенты могут нажать «Служба регистрации» и «Онлайн-регистрация», чтобы войти в отделение, куда требуется запись. Если выбранный номер эксперта «полный», они могут нажать «. Подать заявку на плюс» ниже. », выберите дату плюса эксперта на странице перехода. После подтверждения бесплатного приема ИИ автоматически инициирует разговор, спрашивает о состоянии и другую соответствующую информацию, затем создает «карту состояния», затем всесторонне оценивает серьезность состояния, определяет квалификацию для плюсового числа и, наконец, отправляет его эксперту, чтобы определить, прошел ли он.
Кроме того, в больнице также заработала функция «умной комнаты ожидания». После того, как пациент зарегистрируется, «цифровой человек-врач» сначала свяжется с пациентом, чтобы заранее понять симптомы пациента и течение заболевания, чтобы подготовиться к собеседованию с врачом.
В Народной больнице провинции Чжэцзян цифровой медицинский работник «Аньклин» может сопровождать пациентов на лечении.
Предполагается, что «Анклин» может предоставлять пациентам сопутствующие услуги ИИ до, во время и после лечения. Перед консультацией пациенты могут описать им свои симптомы, и «Анклин» подберет пациенту отделение и врача на основании симптомов и поможет пациенту записаться на прием во время консультации, «Анклин» может разумно организовать медицинское обслуживание; Процесс лечения и обеспечить интеллектуальную навигацию AR на протяжении всего процесса, он также может позволить пациентам напрямую набирать номер онлайн и напоминать о необходимости позвонить по номеру, а также может даже совершать оплату медицинской страховки на Alipay, экономя пациентам время на лечение. ; после постановки диагноза, когда пациент покинет больницу, он продолжит предоставлять электронные медицинские записи, рецепты и отчеты для справок и других услуг;
В Пекинской больнице дружбы искусственный интеллект может помочь врачам вести медицинские записи.
В мае этого года система формирования амбулаторных медицинских карт Yunzhisheng была применена в Пекинской больнице дружбы. Система может идентифицировать разговоры врача и пациента в сложной больничной среде, точно собирать ключевую информацию, разделять роли врачей и пациентов и исключать контент, не имеющий отношения к состоянию. -почтовые сообщения, соответствующие требованиям стандартов оформления медицинских записей. Данные показывают, что с помощью системы создания амбулаторных медицинских карт эффективность регистрации амбулаторных случаев в соответствующих отделениях Пекинской больницы дружбы была значительно улучшена, а время консультации врача значительно сократилось.
Правовые риски нельзя игнорировать
Будьте осторожны с алгоритмической дискриминацией
Многие опрошенные инсайдеры отрасли отметили, что широкое применение искусственного интеллекта в медицинской сфере может предоставить пациентам более удобные услуги, повысить эффективность и точность медицинских услуг, а также сделать высококачественные медицинские ресурсы более инклюзивными. Однако за этим стоят законы. Риски также нельзя игнорировать.
По словам Чэнь Чуаня, преподавателя юридического факультета Университета Шаньси, традиционный процесс медицинской диагностики подчеркивает уважение и защиту личного достоинства и автономии пациентов. При принятии медицинских решений врачи должны всесторонне учитывать прошлую историю болезни пациента и текущие симптомы. и соблюдать соответствующие законы, правила и этические нормы для разработки соответствующих планов лечения. Однако медицинский искусственный интеллект несет в себе риск «предвзятости автоматизации», то есть врачи могут слишком полагаться на технологию искусственного интеллекта в процессе диагностики, игнорируя тем самым свои собственные профессиональные суждения и учет индивидуальных потребностей пациентов. Такая чрезмерная уверенность может привести к тому, что врачи будут ненадлежащим образом передавать сложные медицинские решения ИИ. Когда врачи слишком полагаются на искусственный интеллект, решения о лечении пациентов могут быть отняты и переданы машинам, в результате чего пациенты теряют автономию в управлении своим здоровьем.
Кроме того, нельзя игнорировать проблему недостаточной алгоритмической прозрачности и алгоритмической дискриминации. «Хотя «Временные меры по управлению службами генеративного искусственного интеллекта», объявленные Администрацией киберпространства Китая в июле 2023 года совместно с Национальной комиссией по развитию и реформам и другими ведомствами, выдвигают требования по прозрачности алгоритмов, в ходе конкретного процесса реализации, Фактические принципы работы и принятие решений алгоритма. Этот процесс часто трудно понять и контролировать со стороны внешнего мира. Из-за недостаточной прозрачности алгоритма пациенты не могут понять, как медицинский искусственный интеллект делает диагностические выводы, что приводит к их праву знать. и выбор не полностью защищен, что может ущемить право пациента на информированное согласие и автономию», — сказал Чэнь Чуань.
Она предположила, что алгоритмическая дискриминация также приведет к неравенству в медицинских ресурсах в разных регионах. Разные разработчики могут непреднамеренно вносить предвзятость при обучении алгоритмов, заставляя генеративный ИИ принимать дискриминационные решения при работе с разными группами пациентов. Например, некоторые медицинские системы искусственного интеллекта при обследовании пациентов выставляют неточные или систематически заниженные диагнозы. Другой пример: если данные обучения модели алгоритма в основном поступают от определенных групп, это может привести к предвзятости при работе с особыми группами.
Чэнь Чуань считает, что в настоящее время применение искусственного интеллекта в медицинской сфере все еще находится на стадии изучения, и легко вызвать проблемы с ответственностью и обвинением из-за неправильного диагноза, утечки данных и других действий. Гражданский кодекс моей страны предусматривает, что принцип ответственности за вину применяется к ответственности за медицинский ущерб, а также учитывает вопрос ответственности за ущерб, причиненный медицинскими устройствами. Однако искусственный интеллект может самостоятельно генерировать результаты или предложения медицинского диагноза. Поэтому в соответствии с действующей правовой базой ответственность за применение медицинского искусственного интеллекта очень сложна, и трудно просто применить традиционные формы ответственности к медицинскому искусственному интеллекту.
Ставить телегу впереди лошади при покупке лекарств в Интернете
Процесс проверки бесполезен
В дополнение к возможным правовым рискам при фактическом применении «ИИ + медицинская помощь» в качестве новой модели, некоторые онлайн-платформы медицинских консультаций и онлайн-покупок лекарств внедрили помощь ИИ, хотя они принесли удобство пациентам, они также подвергли риску было много проблем.
В ходе расследования репортер обнаружил, что некоторые медицинские интернет-платформы используют метод работы, при котором телега ставится впереди лошади, например, «сначала покупайте лекарства, затем определяем формулу лекарства и даже автоматически генерируем рецепты с помощью программного обеспечения искусственного интеллекта».
Не так давно, после того как репортер разместил заказ на мягкие капсулы рецептурного препарата кальцитриол на платформе для закупок лекарств, платформа предложила: «Пожалуйста, выберите заболевание, подтвержденное в автономном режиме». Репортер наугад проверил несколько пунктов в столбце «Болезни», оставил столбец «Предписания/медицинские записи/отчет об обследовании» пустым и подтвердил, что «эта болезнь была диагностирована, препарат использовался, и в анамнезе нет аллергии». , соответствующие противопоказания или побочные реакции.» «Проверка прошла быстро. После отправки списка система перешла к разделу консультаций.
Сразу после этого «врач» получил лечение и отправил несколько сообщений подряд. В первом подчеркивалось, что «интернет-больница предоставляет медицинские услуги только вернувшимся пользователям». Последующие сообщения должны были подтвердить, была ли в анамнезе аллергия. особый период. Когда репортер не ответил, другая сторона прислала форму рецепта и ссылку для покупки.
Ян Му (псевдоним), гражданин Пекина, также имел аналогичный опыт. Он подозревал, что врач за ширмой не был настоящим практикующим врачом: «Покупая лекарства по рецепту на платформе ××, я чувствовал, что другой человек — никакой. В отличие от робота. Пока я печатал, другой человек говорил мне, что делать. Он быстро согласился в течение нескольких секунд, вообще не давая никаких профессиональных советов: «Однажды он намеренно описал некоторые состояния, которые не подходят для лекарства. он хотел купить, но другая сторона все равно быстро прописала его.
Многие представители отрасли считают, что «воздушная» диагностика и лечение подходят не для всех пациентов. Последующая диагностика распространенных и хронических заболеваний долгое время была позиционированием интернет-диагностики и лечения. Однако в отрасли отсутствовали конкретные стандарты того, что представляет собой последующий визит, что привело к возникновению некоторого нормативного вакуума.
«Если это обычная интернет-больница, то электронный рецепт, выданный квалифицированным врачом, должен иметь подпись врача и электронную печать интернет-больницы. Не исключено, что некоторые небольшие интернет-медицинские платформы используют искусственный интеллект, роботов и другие инструменты. для автоматического создания рецептов. Некоторые крупные платформы с искусственным интеллектом могут использоваться для оказания помощи врачам во время консультаций, например, для того, чтобы спросить пациента, сколько ему лет, что с ним не так и т. д., но рецепт должен выписывать врач. ", - сказал врач по фамилии Лю из больницы третичного уровня в Пекине.
Он также заметил, что в целях получения прибыли многие платформы приняли модель «ИИ выписывает рецепты, а клиенты напрямую принимают лекарства». Процессы выдачи и проверки рецептов напрасны. Они либо напрямую пропускают процесс выдачи рецептов, либо не обрабатывают их. рецепты, загруженные пользователями. Без фактического рассмотрения такое поведение серьезно нарушает систему управления лекарствами в моей стране, а также создает скрытые риски для безопасности лекарств пациентов.
Будет ли раскрыта личная информация во время консультаций на онлайн-платформах здравоохранения, также является вопросом, который поднимают многие опрошенные пациенты.
Однажды у Ян Му на спине было много красных высыпаний, поэтому он обратился за консультацией на платформу здравоохранения. В течение нескольких дней он получил одно за другим несколько рекламных звонков и текстовых сообщений, в том числе людей, спрашивающих, нужна ли ему пересадка волос. Были предложения по продаже средств по уходу за кожей и даже звонки от кредитных компаний.
«Можно ли во время консультации сохранить личную информацию и состояние здоровья, собранную платформой? Будет ли эта информация передана третьей стороне?» Ян Му был очень обеспокоен?
Ранее Министерство промышленности и информационных технологий сообщало, что ряд медицинских интернет-приложений имеют серьезные проблемы со сбором и использованием личной информации, в том числе со сбором информации о личной жизни, выходящей за рамки установленных требований, предоставлением личной информации другим лицам без согласия человека, и сбор личной информации, не связанной с медицинскими услугами.
«По сравнению с другими типами приложений, утечка личной информации в медицинских приложениях может привести к более серьезным юридическим проблемам. медицинская помощь в спешке. «Незаконная продажа или реклама лекарств пациентам», — сказал вышеупомянутый доктор Лю.
Улучшить соответствующую правовую базу
Эффективно защищать права и интересы пациентов
Опрошенные эксперты отметили, что для эффективной борьбы с потенциальными правовыми рисками при практическом применении «ИИ + медицинская помощь» необходимо проводить систематические улучшения как на правовом, так и на политическом уровне. Только создав и улучшив правовую базу и механизм регулирования, а также прояснив обязанности крупных медицинских моделей и спецификаций использования данных, мы сможем эффективно защитить законные права и интересы пациентов, одновременно способствуя развитию медицинского искусственного интеллекта.
«Прежде всего, мы должны создать и усовершенствовать правовую базу для медицинского искусственного интеллекта. В настоящее время «Временные меры по управлению службами генеративного искусственного интеллекта» не предполагают регулирования искусственного интеллекта в медицинской сфере. На этом основании соответствующие законы и правила должны быть сформулированы с учетом особенностей области медицины, подчеркнув упор на медицинский искусственный интеллект. «Вспомогательная роль интеллекта» сказала, что для того, чтобы помочь медицинскому персоналу и пациентам лучше использовать системы искусственного интеллекта. и понять механизм работы искусственного интеллекта для получения диагностических результатов, моя страна может сформулировать вспомогательные рекомендации по использованию медицинского искусственного интеллекта для улучшения интерпретируемости интеллектуальных систем и других правовых положений. Закон о безопасности данных, «Меры этической проверки в области наук о жизни и медицинских исследований с участием людей» и т. д. обеспечивают основу для разработки мер управления медицинским искусственным интеллектом, которые должны быть основаны на искусственном интеллекте. Меры управления, применимые к медицинскому искусственному интеллекту, были разработаны. вводится с учетом текущей ситуации развития.
Чэнь Чуань также отметил, что необходимо срочно усилить надзор за алгоритмами медицинского искусственного интеллекта. С одной стороны, чтобы обеспечить безопасность и надежность медицинского искусственного интеллекта, необходимо создать специализированное агентство по проверке алгоритмов, которое будет проводить строгую проверку безопасности, прозрачности и этики медицинского искусственного интеллекта, с другой стороны, на основе динамики; природа данных и искусственный интеллект. При постоянном итеративном обновлении интеллектуальных технологий разработчики должны быть обязаны заранее определять риски безопасности, возникающие во время применения алгоритмов, и предлагать целевые контрмеры. Регулярно проводить мониторинг рисков алгоритма в течение жизненного цикла алгоритма, уделяя особое внимание. об использовании данных, сценариях применения и влиянии алгоритма. Проведите самооценку безопасности, эффективности и т. д. Кроме того, могут быть задействованы различные меры, такие как общественный надзор и отчетность, а также проверки регулирующих органов.
Дэн Юн, профессор юридического факультета Пекинского университета китайской медицины, также считает, что с развитием крупномасштабных медицинских моделей соблюдение требований и надзор за этой отраслью становятся все более важными. Необходимо определить свой собственный продукт. позиционирование и получение соответствующей квалификации, чтобы избежать выполнения соответствующей деятельности без квалификации. «Что касается соответствия, вам следует сначала определить позиционирование своего продукта. Если это продукт для интернет-диагностики и лечения, вам необходимо связаться или создать соответствующее медицинское учреждение и подать заявку на создание соответствующей интернет-больницы. требованиям, если он используется только для управления здравоохранением и не включает в себя диагностические и лечебные мероприятия, должно быть ясно, что его продукция не имеет «медицинских целей» и «предназначена только для использования в целях управления здравоохранением, целевая группа населения здорова». людей и записывать статистическую информацию о здоровье».
Он предложил также использовать очистку данных и другие методы для обеспечения удаления незаконной и вредной информации и личной информации из общедоступных данных, чтобы гарантировать, что данные обучения являются законными и соответствуют требованиям. Требования медицинской модели к сбору пользовательских данных должны соответствовать принципам законности, легитимности и необходимости и не предусматривать сбор личной информации, не связанной с предоставляемыми услугами.
«Красная черта поведения крупных медицинских моделей при сборе пользовательских данных включает в себя: нераскрытие правил сбора и использования; неспособность четко указать цель, метод и объем сбора и использования личной информации, сбор и использование личной информации без участия пользователя; согласие; нарушение принципа необходимости и сбора личной информации, не связанной с предоставляемыми услугами; предоставление личной информации другим лицам без согласия; непредоставление функций по удалению или исправлению личной информации, как того требует закон, или неопубликование такой информации, как жалобы; и методы отчетности». Дэн Юн сказал, что при сборе общедоступных данных в Интернете необходимо обеспечить их законность и соответствие. Согласно правилам, также необходимо выполнять такие операции, как процедуры уведомления и согласия, процедуры анонимизации и предоставление каналов отказа. . Кроме того, следует уделить внимание механизму маркировки данных, чтобы предотвратить создание незаконного и вредного контента, такого как порнография, насилие и дискриминационная информация, посредством маркировки для обеспечения безопасности контента.
В ответ на проблемы, выявленные онлайн-медицинскими консультациями, Чэнь Чуань считает, что необходимо срочно разъяснить юридическую ответственность искусственного интеллекта, создать научный и разумный механизм распределения ответственности, усилить основные обязанности медицинского персонала, разъяснить, что ИИ находится в вспомогательное положение и уточнение каждого поля. Обязанности участников не могут полностью передать медицинский диагноз ИИ, но должны следовать принципу «предупреждение заранее – мониторинг во время инцидента – ответственность потом». «Медицинский персонал должен выполнять свою обязанность по уходу во время медицинской практики, то есть медицинский персонал должен уделять внимание выявлению и оценке результатов диагностики ИИ, в противном случае он несет ответственность».
Источник: Верховенство закона Daily.
