“Perawatan Medis AI”: Kenyamanan dan Risiko Hidup Berdampingan
2024-08-08
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Judul asli: Rumah sakit meluncurkan sistem AI untuk membantu konsultasi dan mendampingi platform online "peresepan AI" atau melintasi batas (pengantar)
“AI + Perawatan Medis”: Kenyamanan dan Risiko Hidup Berdampingan (Topik)
Reporter Harian Rule of Law, Wen Lijuan magang, Zhang Guanglong
Pada jam 8 pagi, Song Wenzhuo, seorang dokter desa dari Desa Xinghe, Kota Zhongxing, Distrik Youxian, Kota Mianyang, Provinsi Sichuan, datang ke klinik ke sistem diagnosis dan pengobatan yang dibantu AI (kecerdasan buatan). Ini adalah kebiasaan baru yang dia kembangkan.
“Dokter Song, jantung saya berdebar kencang, saya merasa sesak napas, dan sesekali batuk.” Begitu klinik dibuka, Nenek Tu, seorang penduduk desa yang berusia hampir sembilan puluh tahun, datang menemui dokter ditemani istrinya. Sambil menanyakan gejalanya, Song Wenzhuo memasukkan kondisi tersebut ke dalam sistem, lalu mengklik tombol diagnosis tambahan AI. Sistem dengan cepat terhubung dengan basis pengetahuan inti nasional dengan sejumlah besar kasus penyakit yang sering terjadi, penyakit umum, dan penyakit umum lainnya. dll., dan mengekstraksi serta menganalisis informasi riwayat medis pasien untuk memberikan "Infeksi saluran pernapasan atas akut" dan rekomendasi diagnostik lainnya. Song Wenzhuo melakukan evaluasi komprehensif berdasarkan pengalaman klinisnya sendiri dan akhirnya menentukan bahwa Nenek Tu menderita infeksi saluran pernapasan atas akut.
Selanjutnya, sistem memberikan rekomendasi obat berdasarkan pilihan dokter, mencantumkan dasar rekomendasi, saran pemeriksaan, dll. Song Wenzhuo memilih obat pengobatan berdasarkan referensinya dan meminta lelaki tua itu untuk meminum obatnya terlebih dahulu dan mengamatinya.
Dalam pandangan Song Wenzhuo, penerapan sistem diagnosis berbantuan AI tidak hanya meningkatkan akurasi dan efisiensi diagnosis, namun juga membantu dokter menangani kasus-kasus kompleks dengan lebih baik, mengurangi risiko kesalahan diagnosis dan kesalahan diagnosis, serta membuat perawatan medis dan pengobatan lebih aman dan lebih aman.
Penerapan sistem diagnosis dan perawatan yang dibantu AI di institusi medis primer di Distrik Youxian, Kota Mianyang adalah contoh nyata dari promosi "perawatan medis AI +" di negara saya. "Rencana Lima Tahun ke-14 untuk Pengembangan Industri Peralatan Medis" dengan jelas mengusulkan untuk mempercepat pengembangan peralatan medis yang cerdas; "Pendapat tentang Peningkatan Lebih Lanjut Sistem Pelayanan Medis dan Kesehatan" mengusulkan untuk mengembangkan "Internet + Kesehatan Medis" dan mempercepat kemajuan Internet, kecerdasan buatan, dll. di bidang medis dan perawatan kesehatan. Penerapan di lapangan... Dalam beberapa tahun terakhir, negara kita terus memperkuat desain tingkat atas dan mendorong pengembangan "AI + perawatan medis".
Banyak orang dalam dan pakar industri menyatakan dalam wawancara dengan wartawan dari Rule of Law Daily bahwa bidang medis telah menjadi tempat penting untuk mengeksplorasi aplikasi AI. Saat ini, bidang ini terutama digunakan di beberapa rumah sakit untuk sub-diagnosis, pra-interogasi, dan rekam medis generasi dan skenario lain untuk membantu pasien. Perawatan medis menjadi lebih nyaman dan kualitas layanan medis telah meningkat. Diagnosis dan pengobatan yang dibantu AI akan menjadi tren di masa depan, namun kita juga perlu waspada terhadap risiko hukum yang tersembunyi di baliknya. Risiko ini tidak hanya melibatkan perlindungan privasi pribadi pasien, namun juga berkaitan dengan isu-isu seperti transparansi dan keadilan algoritma.
Diagnosis dengan bantuan AI diluncurkan di banyak tempat
Meningkatkan pengalaman pasien
Baru-baru ini, wartawan datang ke Rumah Sakit Rakyat Universitas Peking untuk pemeriksaan tiroid dan bekas luka, termasuk USG B dan tes darah. Setelah pembayaran selesai, dokter akan mengingatkan Anda untuk membuat janji pemeriksaan di sistem. Reporter menyalakan ponselnya dan, seperti "check-in mandiri", menjadwalkan item inspeksi pada waktu yang relatif terkonsentrasi dalam jangka waktu opsional, sehingga dia dapat "menjalankan semuanya sekaligus" dan menyelesaikan semua inspeksi dalam waktu sesingkat-singkatnya, menghindari perlunya pemeriksaan di tempat berulang-ulang yang disebabkan oleh antrian untuk perubahan janji temu dan waktu pemeriksaan yang berbeda.
Ini hanyalah mikrokosmos dari perawatan medis yang dibantu AI. Reporter menelusuri informasi publik dan menemukan bahwa "perawatan medis AI +" telah diterapkan di banyak rumah sakit.
Di Rumah Sakit Union yang Berafiliasi dengan Tongji Medical College di Universitas Sains dan Teknologi Huazhong, jika pasien tidak mengetahui departemen mana yang harus dihadiri, AI dapat membantu.
Rumah sakit ini meluncurkan "AI Smart Clinic" pada bulan Mei tahun ini, yang mencakup fungsi-fungsi seperti sub-diagnosis cerdas dan angka plus cerdas. Ambil contoh fungsi "Smart Plus" saat itu: pasien dapat mengklik "Layanan Pendaftaran" dan "Pendaftaran Online" untuk masuk ke departemen yang memerlukan janji temu. Jika nomor ahli yang dipilih "penuh", mereka dapat mengklik " Ajukan permohonan Plus" di bawah.", pilih tanggal plus pakar di halaman lompat. Setelah mengonfirmasi janji temu gratis, AI akan secara otomatis memulai percakapan, menanyakan kondisi dan informasi terkait lainnya, kemudian membuat "kartu kondisi", kemudian mengevaluasi secara komprehensif tingkat keparahan kondisi, menentukan kualifikasi untuk nomor plus, dan terakhir mengirimkan kepada ahlinya untuk menentukan apakah lolos.
Selain itu, rumah sakit juga meluncurkan fungsi “ruang tunggu pintar”. Setelah pasien mendaftar, "dokter digital orang" akan berkomunikasi dengan pasien terlebih dahulu untuk memahami gejala pasien dan perjalanan penyakitnya terlebih dahulu untuk mempersiapkan wawancara dokter.
Di Rumah Sakit Rakyat Provinsi Zhejiang, petugas kesehatan digital "Anclin" dapat menemani pasien untuk perawatan medis.
Dapat dipahami bahwa "Anclin" dapat memberikan pasien layanan AI yang mencakup sebelum, selama, dan setelah perawatan medis. Sebelum konsultasi, pasien dapat menjelaskan gejalanya kepada mereka, dan "Anclin" akan mencocokkan pasien dengan departemen dan dokter berdasarkan gejalanya, dan membantu pasien membuat janji selama konsultasi, "Anclin" dapat mengatur perawatan medis secara wajar; proses pengobatan dan menyediakan navigasi cerdas AR selama proses berlangsung, hal ini juga memungkinkan pasien untuk langsung mengambil nomor secara online, dan memberikan pengingat untuk menghubungi nomor tersebut, dan bahkan dapat menyelesaikan pembayaran asuransi kesehatan di Alipay, sehingga menghemat waktu pasien untuk perawatan medis. ; setelah diagnosis, ketika pasien meninggalkan rumah sakit, ia akan terus menyediakan catatan medis elektronik, resep dan laporan Penyelidikan dan layanan lainnya.
Di Rumah Sakit Persahabatan Beijing, AI dapat membantu dokter menulis rekam medis.
Pada bulan Mei tahun ini, sistem pembuatan rekam medis rawat jalan Yunzhisheng diterapkan di Rumah Sakit Persahabatan Beijing. Sistem ini dapat mengidentifikasi percakapan dokter-pasien di lingkungan rumah sakit yang kompleks, secara akurat menangkap informasi penting, memisahkan peran dokter dan pasien, dan menghilangkan konten yang tidak relevan dengan kondisi tersebut. Sistem ini dapat menghasilkan ringkasan informasi yang diungkapkan dalam istilah profesional, serta rawat jalan e -surat yang memenuhi persyaratan standar penulisan rekam medis. Data menunjukkan bahwa dengan bantuan sistem pembuatan rekam medis rawat jalan, efisiensi entri kasus rawat jalan di departemen terkait Rumah Sakit Persahabatan Beijing telah meningkat pesat, dan waktu konsultasi dokter telah sangat dipersingkat.
Risiko hukum tidak dapat diabaikan
Berhati-hatilah terhadap diskriminasi algoritmik
Banyak orang dalam industri yang diwawancarai menunjukkan bahwa penerapan kecerdasan buatan secara luas di bidang medis dapat memberikan layanan yang lebih nyaman kepada pasien, meningkatkan efisiensi dan keakuratan layanan medis, dan membuat sumber daya medis berkualitas tinggi menjadi lebih inklusif Risikonya juga tidak bisa diabaikan.
Menurut Chen Chuan, dosen di Fakultas Hukum Universitas Shanxi, proses diagnosis medis tradisional menekankan rasa hormat dokter dan melindungi martabat dan otonomi pribadi pasien. Saat membuat keputusan medis, dokter perlu mempertimbangkan riwayat kesehatan pasien di masa lalu dan gejala saat ini secara komprehensif , dan mengikuti undang-undang, peraturan, dan norma etika yang relevan untuk merumuskan rencana perawatan yang tepat. Namun, kecerdasan buatan medis membawa risiko "bias otomasi", yaitu dokter mungkin terlalu mengandalkan teknologi kecerdasan buatan selama proses diagnosis, sehingga mengabaikan penilaian profesional mereka sendiri dan mempertimbangkan kebutuhan masing-masing pasien. Ketergantungan yang berlebihan ini dapat menyebabkan dokter secara tidak tepat menyerahkan keputusan medis yang sulit kepada AI. Ketika dokter terlalu mengandalkan kecerdasan buatan, keputusan pengobatan pasien mungkin diambil alih dan diserahkan ke mesin, sehingga menyebabkan pasien kehilangan otonomi dalam mengelola kesehatannya sendiri.
Selain itu, masalah kurangnya transparansi algoritmik dan diskriminasi algoritmik tidak dapat diabaikan. "Meskipun" Tindakan Sementara untuk Pengelolaan Layanan Kecerdasan Buatan Generatif "yang diumumkan oleh Administrasi Ruang Siber Tiongkok pada Juli 2023 bersama dengan Komisi Pembangunan dan Reformasi Nasional dan departemen lain mengajukan persyaratan untuk transparansi algoritme, selama proses penerapan spesifik, prinsip kerja sebenarnya dan pengambilan keputusan dari algoritme Prosesnya seringkali sulit untuk dipahami dan diawasi oleh dunia luar karena kurangnya transparansi algoritme, pasien tidak dapat memahami bagaimana kecerdasan buatan medis mencapai kesimpulan diagnostik, sehingga mengakibatkan hak mereka untuk mengetahui dan pilihan tidak dilindungi sepenuhnya, yang mungkin melanggar hak pasien atas persetujuan dan otonomi.
Ia mengusulkan bahwa diskriminasi algoritmik juga akan menyebabkan kesenjangan sumber daya medis di berbagai wilayah. Pengembang yang berbeda mungkin secara tidak sengaja menimbulkan bias saat melatih algoritme, sehingga menyebabkan AI generatif membuat keputusan yang diskriminatif saat menghadapi kelompok pasien yang berbeda. Misalnya, beberapa sistem AI medis menghasilkan diagnosis yang tidak akurat atau terlalu diremehkan secara sistematis saat menyaring pasien. Contoh lain, jika data pelatihan suatu model algoritma sebagian besar berasal dari kelompok tertentu, hal ini dapat menimbulkan bias ketika menghadapi kelompok khusus.
Chen Chuan meyakini saat ini penerapan kecerdasan buatan di bidang medis masih dalam tahap penjajakan, dan mudah menimbulkan masalah akuntabilitas dan menyalahkan akibat kesalahan diagnosis, kebocoran data, dan perilaku lainnya. KUH Perdata negara saya mengatur bahwa prinsip tanggung jawab kesalahan berlaku untuk tanggung jawab kerusakan medis, dan juga memperhitungkan masalah tanggung jawab atas kerusakan yang disebabkan oleh peralatan medis. Namun, kecerdasan buatan dapat secara mandiri menghasilkan hasil atau saran diagnosis medis. Oleh karena itu, berdasarkan kerangka hukum saat ini, akuntabilitas penerapan kecerdasan buatan medis sangatlah rumit, dan sulit untuk hanya menerapkan bentuk pertanggungjawaban tradisional pada kecerdasan buatan medis.
Menempatkan kereta di depan kuda saat membeli obat secara online
Proses peninjauan tidak ada gunanya
Selain kemungkinan risiko hukum dalam penerapan aktual "perawatan medis AI +" sebagai model yang sedang berkembang, beberapa platform konsultasi medis online dan pembelian obat online telah memperkenalkan bantuan AI, meskipun memberikan kenyamanan bagi pasien, mereka juga telah terpapar. banyak masalah.
Selama penyelidikan, reporter menemukan bahwa beberapa platform medis Internet mengadopsi metode operasi yang mengutamakan kepentingan, seperti "membeli obat terlebih dahulu, kemudian menentukan formula obat, dan bahkan secara otomatis membuat resep dengan perangkat lunak kecerdasan buatan."
Belum lama ini, setelah seorang reporter memesan kapsul lunak obat resep kalsitriol pada platform pembelian obat, platform tersebut meminta "Silakan pilih penyakit yang dikonfirmasi secara offline." Pelapor secara acak memeriksa beberapa item di "Kolom Penyakit", membiarkan "Kolom Resep/Rekam Medis/Laporan Pemeriksaan" kosong, dan memastikan bahwa "penyakit ini telah didiagnosis dan obat telah digunakan, dan tidak ada riwayat alergi. , kontraindikasi yang relevan atau reaksi merugikan." "Verifikasi dengan cepat berlalu. Setelah mengirimkan daftar, sistem melompat ke bagian konsultasi.
Segera setelah itu, seorang "dokter" menerima perawatan dan mengirimkan beberapa pesan secara berurutan. Yang pertama menekankan bahwa "rumah sakit Internet hanya menyediakan layanan medis kepada pengguna yang kembali untuk kunjungan tindak lanjut." apakah ada riwayat alergi atau sedang dalam periode khusus. Ketika pelapor tidak membalas, pihak lain mengirimkan formulir resep dan link pembelian.
Yang Mu (nama samaran), seorang warga negara Beijing, juga memiliki pengalaman serupa. Ia curiga bahwa dokter di balik layar bukanlah seorang dokter praktik sungguhan: “Saat membeli obat resep di platform ××, saya merasa orang lain itu bukan siapa-siapa. berbeda dengan robot. Selama saya mengetik, orang lain akan memberi tahu saya beberapa patah kata. Dia setuju dengan cepat dalam hitungan detik tanpa memberikan nasihat profesional sama sekali. "Suatu kali, dia dengan sengaja menjelaskan beberapa kondisi yang tidak sesuai untuk obat dia ingin membeli, tetapi pihak lain tetap segera meresepkannya.
Banyak orang di industri ini percaya bahwa diagnosis dan pengobatan "berbasis udara" tidak cocok untuk semua pasien. Diagnosis lanjutan untuk penyakit umum dan penyakit kronis telah menjadi posisi diagnosis dan pengobatan di Internet sejak lama. Namun, industri ini masih kekurangan standar spesifik mengenai apa yang dimaksud dengan kunjungan tindak lanjut, sehingga mengakibatkan beberapa kekosongan peraturan.
“Jika ini adalah rumah sakit Internet biasa, resep elektronik yang dikeluarkan oleh dokter yang memenuhi syarat harus memiliki tanda tangan dokter dan stempel elektronik rumah sakit Internet. Tidak menutup kemungkinan bahwa beberapa platform medis Internet kecil menggunakan kecerdasan buatan, robot, dan alat lainnya. untuk menghasilkan resep secara otomatis di beberapa platform besar, AI dapat digunakan untuk membantu dokter dalam konsultasinya, seperti menanyakan pasien berapa usianya, apa yang salah dengan dirinya, dll., namun resepnya harus dibuat oleh dokter. ," kata seorang dokter bermarga Liu dari rumah sakit tersier di Beijing.
Ia juga memperhatikan bahwa untuk mencari keuntungan, banyak platform mengadopsi model "AI meresepkan dan pelanggan langsung meminum obat". Proses penerbitan dan peninjauan resep sia-sia. Mereka langsung melewatkan proses penerbitan resep, atau tidak memprosesnya resep yang diunggah oleh pengguna. Tanpa tinjauan sebenarnya, perilaku seperti ini sangat melanggar sistem pengelolaan obat di negara saya dan juga menimbulkan risiko tersembunyi bagi keselamatan pengobatan pasien.
Apakah informasi pribadi akan diungkapkan selama konsultasi di platform kesehatan online juga merupakan pertanyaan yang diajukan oleh banyak pasien yang diwawancarai.
Suatu kali, Yang Mu mengalami banyak ruam merah di punggungnya, jadi dia pergi ke platform kesehatan untuk berkonsultasi. Dalam beberapa hari, dia menerima banyak panggilan iklan dan pesan teks satu demi satu, termasuk orang-orang yang menanyakan apakah dia memerlukan transplantasi rambut. Ada promosi penjualan untuk produk perawatan kulit dan bahkan panggilan penjualan dari perusahaan pemberi pinjaman.
"Selama konsultasi, apakah informasi pribadi dan status kesehatan yang dikumpulkan oleh platform dapat disimpan dengan baik? Apakah informasi ini akan mengalir ke pihak ketiga?"
Sebelumnya, Kementerian Perindustrian dan Teknologi Informasi melaporkan bahwa sejumlah aplikasi medis Internet mengalami masalah serius dalam pengumpulan dan penggunaan informasi pribadi, termasuk mengumpulkan informasi privasi pribadi di luar cakupan, memberikan informasi pribadi kepada orang lain tanpa persetujuan individu, dan mengumpulkan informasi pribadi yang tidak terkait dengan layanan medis.
Dibandingkan dengan jenis aplikasi lainnya, membocorkan informasi pribadi di aplikasi medis dapat mengakibatkan masalah hukum yang lebih serius. Jika informasi kesehatan pribadi bocor, penjahat dapat menggunakan informasi ini untuk melakukan penipuan, seperti memanfaatkan mentalitas 'mencari'. perawatan medis terburu-buru' Menjual atau mempromosikan obat secara ilegal kepada pasien,” kata Dr. Liu yang disebutkan di atas.
Memperbaiki kerangka hukum yang relevan
Secara efektif melindungi hak dan kepentingan pasien
Para ahli yang diwawancarai menunjukkan bahwa untuk secara efektif menangani potensi risiko hukum dalam penerapan praktis "perawatan medis AI +", perbaikan sistematis perlu dilakukan baik di tingkat hukum maupun kebijakan. Hanya dengan menetapkan dan meningkatkan kerangka hukum dan mekanisme peraturan, serta memperjelas tanggung jawab model medis besar dan spesifikasi penggunaan data, kita dapat secara efektif melindungi hak dan kepentingan sah pasien sambil mendorong pengembangan kecerdasan buatan medis.
“Pertama-tama, kita harus menetapkan dan meningkatkan kerangka hukum untuk kecerdasan buatan medis. Saat ini, “Tindakan Sementara untuk Pengelolaan Layanan Kecerdasan Buatan Generatif” tidak melibatkan peraturan tentang kecerdasan buatan di bidang medis. Atas dasar ini, undang-undang dan peraturan yang relevan perlu dirumuskan berdasarkan karakteristik bidang medis, dengan menekankan penekanan pada kecerdasan buatan medis. "Peran tambahan dari kecerdasan mengatakan bahwa untuk membantu staf medis dan pasien menggunakan sistem kecerdasan buatan dengan lebih baik." dan memahami mekanisme pengoperasian kecerdasan buatan untuk memperoleh hasil diagnostik, negara saya dapat merumuskan pedoman pendukung penggunaan kecerdasan buatan medis untuk meningkatkan interpretasi sistem cerdas dan ketentuan hukum lainnya perlu ditingkatkan Undang-undang Keamanan Data, "Tindakan Tinjauan Etis untuk Ilmu Hayati dan Penelitian Medis yang Melibatkan Manusia", dll. memberikan dasar untuk merumuskan langkah-langkah manajemen untuk kecerdasan buatan medis, yang harus didasarkan pada langkah-langkah manajemen yang diterapkan pada kecerdasan buatan medis diperkenalkan berdasarkan situasi perkembangan saat ini.
Chen Chuan juga menyebutkan pentingnya memperkuat pengawasan algoritma kecerdasan buatan medis. Di satu sisi, untuk memastikan keamanan dan keandalan kecerdasan buatan medis, badan peninjau algoritma khusus harus dibentuk untuk melakukan tinjauan keamanan, transparansi, dan etika yang ketat terhadap kecerdasan buatan medis; sifat data dan kecerdasan buatan Dengan peningkatan teknologi cerdas yang terus menerus, pengembang harus diminta untuk menentukan terlebih dahulu risiko keamanan yang ditimbulkan selama penerapan algoritme dan mengusulkan tindakan pencegahan yang ditargetkan. Secara teratur melakukan pemantauan risiko algoritme selama siklus hidup algoritme, dengan fokus tentang penggunaan data, skenario aplikasi, dan dampak algoritme. Melakukan penilaian keselamatan mandiri mengenai efektivitas, dll. Selain itu, berbagai tindakan seperti pengawasan dan pelaporan publik serta inspeksi departemen regulasi dapat dilakukan.
Deng Yong, seorang profesor di Departemen Hukum di Universitas Pengobatan Tiongkok Beijing, juga percaya bahwa dengan pengembangan model medis skala besar, operasi kepatuhan dan pengawasan industri ini menjadi semakin penting untuk menentukan produknya sendiri memposisikan dan memperoleh kualifikasi yang sesuai untuk menghindari pelaksanaan aktivitas terkait tanpa kualifikasi. “Dalam hal kepatuhan, Anda harus terlebih dahulu menentukan positioning produk Anda sendiri. Jika itu adalah produk diagnosis dan perawatan Internet, Anda perlu menghubungi atau mendirikan institusi medis fisik yang sesuai dan mengajukan permohonan untuk mendirikan rumah sakit Internet yang sesuai persyaratannya, jika hanya digunakan untuk pengelolaan kesehatan dan tidak melibatkan kegiatan diagnosa dan pengobatan, maka harus jelas bahwa produknya tidak mempunyai “tujuan medis” dan hanya “dimaksudkan untuk digunakan untuk pengelolaan kesehatan, populasi sasarannya sehat. orang, dan untuk mencatat informasi kesehatan statistik."
Dia mengusulkan agar pembersihan data dan metode lain juga harus digunakan untuk memastikan bahwa informasi ilegal dan berbahaya serta informasi pribadi dalam data publik dihapus untuk memastikan bahwa data pelatihan legal dan patuh. Persyaratan model medis untuk mengumpulkan data pengguna harus mengikuti prinsip legalitas, legitimasi, dan kebutuhan, serta tidak mengumpulkan informasi pribadi yang tidak terkait dengan layanan yang diberikan.
“Perilaku garis merah dari model besar medis dalam mengumpulkan data pengguna meliputi: kegagalan untuk mengungkapkan aturan pengumpulan dan penggunaan; kegagalan untuk menyatakan dengan jelas tujuan, metode dan ruang lingkup pengumpulan dan penggunaan informasi pribadi; pengumpulan dan penggunaan informasi pribadi tanpa pengguna; persetujuan; pelanggaran prinsip kebutuhan dan pengumpulan yang tidak terkait dengan layanan yang diberikan. memberikan informasi pribadi kepada orang lain tanpa izin; gagal menyediakan fungsi untuk menghapus atau memperbaiki informasi pribadi sebagaimana diwajibkan oleh hukum, atau gagal mempublikasikan informasi seperti keluhan dan metode pelaporan. "Deng Yong mengatakan bahwa ketika mengumpulkan data publik Internet, untuk memastikan legalitas dan kepatuhannya. Menurut peraturan, perlu juga melakukan operasi seperti prosedur pemberitahuan dan persetujuan, prosedur anonimisasi, dan penyediaan saluran penolakan. . Selain itu, perhatian harus diberikan pada mekanisme pelabelan data untuk mencegah pembuatan konten ilegal dan berbahaya seperti pornografi, kekerasan, dan informasi diskriminatif melalui pelabelan untuk mencapai keamanan konten.
Menanggapi masalah yang terungkap dalam konsultasi medis online, Chen Chuan percaya bahwa sangat mendesak untuk memperjelas tanggung jawab hukum kecerdasan buatan, menetapkan mekanisme alokasi tanggung jawab yang ilmiah dan masuk akal, memperkuat tanggung jawab utama tenaga medis, dan mengklarifikasi bahwa AI berada dalam situasi yang sulit. posisi pembantu, dan menyempurnakan masing-masing bidang Tanggung jawab peserta tidak dapat sepenuhnya menyerahkan diagnosis medis kepada AI, tetapi harus mengikuti prinsip "pencegahan sebelumnya - pemantauan saat kejadian - akuntabilitas setelahnya". “Tenaga medis harus memenuhi tugas kehati-hatiannya selama melakukan praktik kedokteran, yaitu tenaga medis harus memperhatikan identifikasi dan penilaian hasil diagnosis AI, jika tidak maka merekalah yang bertanggung jawab.”
Sumber: Harian Rule of Law
