«AI Medical Care»: Η ευκολία και ο κίνδυνος συνυπάρχουν
2024-08-08
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Πρωτότυπος τίτλος: Το νοσοκομείο λανσάρει ένα σύστημα τεχνητής νοημοσύνης για να βοηθήσει στη διαβούλευση και να συνοδεύει την ηλεκτρονική πλατφόρμα "AI prescripting" ή ξεπερνά τα όρια (εισαγωγή)
«AI + Ιατρική Περίθαλψη»: Η ευκολία και ο κίνδυνος συνυπάρχουν (Θέμα)
Ο ημερήσιος δημοσιογράφος του κράτους δικαίου Wen Lijuan ασκούμενος Zhang Guanglong
Στις 8 το πρωί, ο Song Wenzhuo, ένας γιατρός του χωριού από το χωριό Xinghe, την πόλη Zhongxing, την περιοχή Youxian, την πόλη Mianyang, στην επαρχία Sichuan, ήρθε στην κλινική Το πρώτο πράγμα που έκανε ήταν να ανοίξει τον υπολογιστή και να συνδεθεί στο σύστημα διάγνωσης και θεραπείας με τη βοήθεια τεχνητής νοημοσύνης. Αυτό είναι κάτι που ανέπτυξε πρόσφατα.
«Γιατρέ Σονγκ, η καρδιά μου χτυπά λίγο γρήγορα, νιώθω ότι μου κόβεται η ανάσα και περιστασιακά βήχω, μόλις άνοιξε η κλινική, η γιαγιά Του, μια χωρική που ήταν σχεδόν ενενήντα χρονών, ήρθε να δει τον γιατρό συνοδευόμενη από». η γυναίκα της. Ενώ ρωτούσε για τα συμπτώματα, ο Song Wenzhuo εισήγαγε την πάθηση στο σύστημα και στη συνέχεια έκανε κλικ στο κουμπί βοηθητικής διάγνωσης AI. κ.λπ., και εξήγαγε και ανέλυσε τις πληροφορίες ιστορικού ιατρικού αρχείου του ασθενούς για να παράσχει "Οξεία λοίμωξη του ανώτερου αναπνευστικού συστήματος" και άλλες διαγνωστικές συστάσεις. Ο Song Wenzhuo πραγματοποίησε μια ολοκληρωμένη αξιολόγηση με βάση τη δική του κλινική εμπειρία και τελικά διαπίστωσε ότι η γιαγιά Tu είχε οξεία λοίμωξη του ανώτερου αναπνευστικού.
Στη συνέχεια, το σύστημα δίνει συνιστώμενα φάρμακα με βάση την επιλογή του γιατρού, παραθέτοντας τη βάση για συστάσεις, προτάσεις εξέτασης κ.λπ. Ο Song Wenzhuo επέλεξε φάρμακα θεραπείας με βάση την αναφορά του και ζήτησε από τον γέρο να πάρει πρώτα το φάρμακο και να παρατηρήσει.
Κατά την άποψη του Song Wenzhuo, η εφαρμογή συστημάτων διάγνωσης με τη βοήθεια AI όχι μόνο βελτιώνει την ακρίβεια και την αποτελεσματικότητα της διάγνωσης, αλλά βοηθά επίσης τους γιατρούς να αντιμετωπίζουν καλύτερα περίπλοκες περιπτώσεις, μειώνει τον κίνδυνο λανθασμένης διάγνωσης και μη διάγνωσης και καθιστά ασφαλέστερη την ιατρική θεραπεία και τη φαρμακευτική αγωγή και πιο ασφαλής.
Η εφαρμογή συστημάτων διάγνωσης και θεραπείας με τη βοήθεια τεχνητής νοημοσύνης σε πρωτοβάθμια ιατρικά ιδρύματα στην περιφέρεια Youxian, στην πόλη Mianyang είναι μια ζωντανή επιτομή της προώθησης της χώρας μου "AI + ιατρική περίθαλψη". Το «14ο Πενταετές Σχέδιο για την Ανάπτυξη της Βιομηχανίας Ιατρικού Εξοπλισμού» προτείνει ξεκάθαρα την επιτάχυνση της ανάπτυξης ευφυούς ιατρικού εξοπλισμού. επιταχύνουν την πρόοδο του Διαδικτύου, της τεχνητής νοημοσύνης κ.λπ. στην ιατρική και υγειονομική περίθαλψη Εφαρμογές στον τομέα... Τα τελευταία χρόνια, η χώρα μας ενισχύει συνεχώς τον σχεδιασμό ανώτατου επιπέδου και προωθεί την ανάπτυξη «AI + ιατρική περίθαλψη».
Πολλοί εμπειρογνώμονες του κλάδου επεσήμαναν σε συνεντεύξεις με δημοσιογράφους από το Rule of Law Daily ότι ο ιατρικός τομέας έχει γίνει σημαντικός χώρος για την εξερεύνηση εφαρμογών τεχνητής νοημοσύνης Επί του παρόντος, χρησιμοποιείται κυρίως σε ορισμένα νοσοκομεία για να βοηθήσει τους ασθενείς σε σενάρια όπως η υποδιάγνωση , η προανάκριση και η δημιουργία ιατρικών φακέλων έχει γίνει πιο βολική και η ποιότητα των ιατρικών υπηρεσιών με τη βοήθεια τεχνητής νοημοσύνης θα γίνει τάση στο μέλλον, αλλά πρέπει επίσης να είμαστε σε εγρήγορση για τους νομικούς κινδύνους. Αυτοί οι κίνδυνοι δεν αφορούν μόνο την προστασία του προσωπικού απορρήτου των ασθενών, αλλά σχετίζονται και με ζητήματα όπως η διαφάνεια και η δικαιοσύνη.
Η διάγνωση με τη βοήθεια AI ξεκίνησε σε πολλά μέρη
Βελτιώστε την εμπειρία του ασθενούς
Πρόσφατα, δημοσιογράφοι ήρθαν στο Πανεπιστημιακό Λαϊκό Νοσοκομείο του Πεκίνου για εξετάσεις θυρεοειδούς και ουλής, συμπεριλαμβανομένου του υπερηχογραφήματος Β και εξετάσεων αίματος. Αφού ολοκληρωθεί η πληρωμή, ο γιατρός θα σας υπενθυμίσει να κλείσετε ραντεβού για εξέταση στο σύστημα. Ο ρεπόρτερ ανοίγει το κινητό του και, σαν ένα "self-service check-in", προγραμματίζει τα στοιχεία επιθεώρησης σε σχετικά συγκεντρωμένο χρόνο στην προαιρετική χρονική περίοδο, ώστε να μπορεί να "τρέξει όλα ταυτόχρονα" και να ολοκληρώσει όλες τις επιθεωρήσεις στο συντομότερο χρονικό διάστημα, αποφεύγοντας την ανάγκη για επιτόπιες επιθεωρήσεις.
Αυτό είναι απλώς ένας μικρόκοσμος ιατρικής περίθαλψης με τη βοήθεια AI. Ο δημοσιογράφος χτένισε τις δημόσιες πληροφορίες και διαπίστωσε ότι το "AI + ιατρική περίθαλψη" έχει εφαρμοστεί σε πολλά νοσοκομεία.
Στο Νοσοκομείο Union που είναι συνδεδεμένο με το Ιατρικό Κολλέγιο Tongji του Πανεπιστημίου Επιστήμης και Τεχνολογίας Huazhong, εάν ο ασθενής δεν ξέρει σε ποιο τμήμα να παρακολουθήσει, η τεχνητή νοημοσύνη μπορεί να βοηθήσει.
Το νοσοκομείο ξεκίνησε την «AI Smart Clinic» τον Μάιο του τρέχοντος έτους, καλύπτοντας λειτουργίες όπως η έξυπνη υποδιάγνωση και ο ευφυής συν αριθμός. Πάρτε για παράδειγμα τη λειτουργία "Smart Plus" εκείνη τη στιγμή: οι ασθενείς μπορούν να κάνουν κλικ στην "Υπηρεσία εγγραφής" και "Διαδικτυακή εγγραφή" για να εισέλθουν στο τμήμα όπου απαιτείται ραντεβού Εάν ο επιλεγμένος αριθμός ειδικού είναι "πλήρης", μπορούν να κάνουν κλικ στο ". Κάντε αίτηση για Plus" παρακάτω. », επιλέξτε την ημερομηνία συν του ειδικού στη σελίδα μετάβασης. Αφού επιβεβαιώσει το δωρεάν ραντεβού, η τεχνητή νοημοσύνη θα ξεκινήσει αυτόματα μια συνομιλία, θα ρωτήσει για την κατάσταση και άλλες σχετικές πληροφορίες, στη συνέχεια θα δημιουργήσει μια "κάρτα κατάστασης", θα αξιολογήσει διεξοδικά τη σοβαρότητα της κατάστασης, θα καθορίσει τα προσόντα για τον αριθμό συν και, τέλος, θα στείλει στον εμπειρογνώμονα για να καθορίσει εάν έχει περάσει.
Επιπλέον, το νοσοκομείο ξεκίνησε επίσης μια λειτουργία «έξυπνης αίθουσας αναμονής». Αφού εγγραφεί ο ασθενής, ο «ψηφιακός γιατρός» θα επικοινωνήσει πρώτα με τον ασθενή για να κατανοήσει τα συμπτώματα του ασθενούς και την πορεία της νόσου εκ των προτέρων για να προετοιμαστεί για τη συνέντευξη του γιατρού.
Στο Επαρχιακό Λαϊκό Νοσοκομείο Zhejiang, το άτομο ψηφιακής υγείας "Anclin" μπορεί να συνοδεύει ασθενείς για ιατρική περίθαλψη.
Εννοείται ότι η «Anclin» μπορεί να παρέχει στους ασθενείς συνοδευτικές υπηρεσίες AI που καλύπτουν πριν, κατά τη διάρκεια και μετά την ιατρική θεραπεία. Πριν από τη διαβούλευση, οι ασθενείς μπορούν να τους περιγράψουν τα συμπτώματά τους και το "Anclin" θα ταιριάξει τον ασθενή με ένα τμήμα και έναν γιατρό με βάση τα συμπτώματα και θα βοηθήσει τον ασθενή να κλείσει ραντεβού κατά τη διάρκεια της διαβούλευσης, το "Anclin" μπορεί εύλογα να κανονίσει την ιατρική διαδικασία θεραπείας και παρέχει έξυπνη πλοήγηση AR σε όλη τη διάρκεια της διαδικασίας, μπορεί επίσης να επιτρέψει στους ασθενείς να παραλάβουν έναν αριθμό απευθείας στο διαδίκτυο και να παρέχουν μια υπενθύμιση για να καλέσουν τον αριθμό και μπορεί ακόμη και να ολοκληρώσει την πληρωμή ιατρικής ασφάλισης στο Alipay, εξοικονομώντας χρόνο στους ασθενείς για ιατρική περίθαλψη. Μετά τη διάγνωση, όταν ο ασθενής φύγει από το νοσοκομείο, θα συνεχίσει να παρέχει ηλεκτρονικά ιατρικά αρχεία, συνταγές και αναφορές Έρευνα και άλλες υπηρεσίες.
Στο Beijing Friendship Hospital, η τεχνητή νοημοσύνη μπορεί να βοηθήσει τους γιατρούς να συντάξουν ιατρικά αρχεία.
Τον Μάιο του τρέχοντος έτους, το σύστημα δημιουργίας ιατρικών αρχείων εξωτερικών ασθενών Yunzhisheng εφαρμόστηκε στο Νοσοκομείο Φιλίας του Πεκίνου. Το σύστημα μπορεί να αναγνωρίσει συνομιλίες γιατρού-ασθενούς σε ένα περίπλοκο νοσοκομειακό περιβάλλον, να συλλάβει με ακρίβεια βασικές πληροφορίες, να διαχωρίσει τους ρόλους των γιατρών και των ασθενών και να εξαλείψει περιεχόμενο άσχετο με την πάθηση. Μπορεί να δημιουργήσει περιλήψεις πληροφοριών που εκφράζονται με επαγγελματικούς όρους - μηνύματα που πληρούν τις απαιτήσεις των προτύπων συγγραφής ιατρικών αρχείων. Τα δεδομένα δείχνουν ότι με τη βοήθεια του συστήματος δημιουργίας ιατρικών αρχείων εξωτερικών ασθενών, η αποτελεσματικότητα της εισαγωγής περιστατικών εξωτερικών ασθενών στα σχετικά τμήματα του Beijing Friendship Hospital έχει βελτιωθεί σημαντικά και ο χρόνος συμβουλευτικής γιατρού έχει μειωθεί σημαντικά.
Οι νομικοί κίνδυνοι δεν μπορούν να αγνοηθούν
Να είστε προσεκτικοί με τις αλγοριθμικές διακρίσεις
Πολλοί εμπειρογνώμονες του κλάδου που συμμετείχαν σε συνέντευξη τόνισαν ότι η ευρεία εφαρμογή της τεχνητής νοημοσύνης στον ιατρικό τομέα μπορεί να προσφέρει στους ασθενείς πιο βολικές υπηρεσίες, να βελτιώσει την αποτελεσματικότητα και την ακρίβεια των ιατρικών υπηρεσιών και να καταστήσει τους ιατρικούς πόρους υψηλής ποιότητας πιο περιεκτικούς Ούτε οι κίνδυνοι μπορούν να αγνοηθούν.
Σύμφωνα με τον Chen Chuan, λέκτορα στη Νομική Σχολή του Πανεπιστημίου Shanxi, η παραδοσιακή διαδικασία ιατρικής διάγνωσης δίνει έμφαση στο σεβασμό και την προστασία της προσωπικής αξιοπρέπειας και της αυτονομίας των ασθενών από τους γιατρούς και ακολουθήστε τους σχετικούς νόμους, κανονισμούς και ηθικούς κανόνες για να διαμορφώσετε κατάλληλα σχέδια θεραπείας. Ωστόσο, η ιατρική τεχνητή νοημοσύνη ενέχει τον κίνδυνο της «προκατάληψης αυτοματισμού», δηλαδή, οι γιατροί μπορεί να βασίζονται υπερβολικά στην τεχνολογία τεχνητής νοημοσύνης κατά τη διαδικασία διάγνωσης, αγνοώντας έτσι τη δική τους επαγγελματική κρίση και τη συνεκτίμηση των μεμονωμένων αναγκών του ασθενούς. Αυτή η υπερβολική εξάρτηση θα μπορούσε να οδηγήσει τους γιατρούς να παραδίδουν ακατάλληλα δύσκολες ιατρικές αποφάσεις στην τεχνητή νοημοσύνη. Όταν οι γιατροί βασίζονται πάρα πολύ στην τεχνητή νοημοσύνη, οι αποφάσεις θεραπείας των ασθενών μπορεί να αφαιρεθούν και να παραδοθούν σε μηχανές, με αποτέλεσμα οι ασθενείς να χάσουν την αυτονομία τους στη διαχείριση της υγείας τους.
Επιπλέον, το πρόβλημα της ανεπαρκούς αλγοριθμικής διαφάνειας και της αλγοριθμικής διάκρισης δεν μπορεί να αγνοηθεί. «Παρόλο που τα «Ενδιάμεσα μέτρα για τη διαχείριση των υπηρεσιών γενετικής τεχνητής νοημοσύνης» που ανακοινώθηκαν από τη Διοίκηση Κυβερνοχώρου της Κίνας τον Ιούλιο του 2023 σε συνεργασία με την Εθνική Επιτροπή Ανάπτυξης και Μεταρρύθμισης και άλλα τμήματα πρότειναν απαιτήσεις για διαφάνεια αλγορίθμων, κατά τη συγκεκριμένη διαδικασία υλοποίησης, οι πραγματικές αρχές λειτουργίας και η λήψη αποφάσεων του αλγορίθμου Η διαδικασία είναι συχνά δύσκολο να κατανοηθεί και να εποπτεύεται από τον έξω κόσμο Λόγω της ανεπαρκούς διαφάνειας του αλγορίθμου, οι ασθενείς δεν μπορούν να κατανοήσουν πώς η ιατρική τεχνητή νοημοσύνη καταλήγει σε διαγνωστικά συμπεράσματα, με αποτέλεσμα το δικαίωμά τους να γνωρίζουν. και η επιλογή να μην προστατεύεται πλήρως, γεγονός που μπορεί να παραβιάζει το δικαίωμα του ασθενούς για ενημερωμένη συγκατάθεση και την αυτονομία του», είπε ο Τσεν Τσουάν.
Πρότεινε ότι η αλγοριθμική διάκριση θα οδηγήσει επίσης σε ανισότητες στους ιατρικούς πόρους σε διάφορες περιοχές. Διαφορετικοί προγραμματιστές ενδέχεται να εισάγουν ακούσια μεροληψία κατά την εκπαίδευση αλγορίθμων, με αποτέλεσμα η γενετική τεχνητή νοημοσύνη να λαμβάνει διακρίσεις όταν αντιμετωπίζει διαφορετικές ομάδες ασθενών. Για παράδειγμα, ορισμένα ιατρικά συστήματα τεχνητής νοημοσύνης παράγουν ανακριβείς ή συστηματικά υποτιμημένες διαγνώσεις κατά τον έλεγχο ασθενών. Για ένα άλλο παράδειγμα, εάν τα δεδομένα εκπαίδευσης ενός μοντέλου αλγορίθμου προέρχονται κυρίως από συγκεκριμένες ομάδες, μπορεί να οδηγήσει σε προκατάληψη όταν αντιμετωπίζετε ειδικές ομάδες.
Ο Τσεν Τσουάν πιστεύει ότι επί του παρόντος, η εφαρμογή της τεχνητής νοημοσύνης στον ιατρικό τομέα βρίσκεται ακόμη σε διερευνητικό στάδιο και είναι εύκολο να προκληθούν ζητήματα λογοδοσίας και ευθυνών λόγω λανθασμένης διάγνωσης, διαρροής δεδομένων και άλλων συμπεριφορών. Ο Αστικός Κώδικας της χώρας μου ορίζει ότι η αρχή της ευθύνης λόγω υπαιτιότητας ισχύει για την ευθύνη για ιατρικές ζημίες και λαμβάνει επίσης υπόψη το ζήτημα της ευθύνης για ζημίες που προκαλούνται από ιατροτεχνολογικά προϊόντα. Ωστόσο, η τεχνητή νοημοσύνη μπορεί να δημιουργήσει ανεξάρτητα αποτελέσματα ή προτάσεις ιατρικής διάγνωσης. Ως εκ τούτου, σύμφωνα με το ισχύον νομικό πλαίσιο, η λογοδοσία για εφαρμογές ιατρικής τεχνητής νοημοσύνης είναι πολύ περίπλοκη και είναι δύσκολο να εφαρμοστούν απλά οι παραδοσιακές μορφές ευθύνης στην ιατρική τεχνητή νοημοσύνη.
Τοποθετώντας το κάρο μπροστά από το άλογο όταν αγοράζετε φάρμακα μέσω Διαδικτύου
Η διαδικασία αναθεώρησης είναι άχρηστη
Εκτός από τους πιθανούς νομικούς κινδύνους στην πραγματική εφαρμογή του "AI + ιατρική περίθαλψη" ως αναδυόμενο μοντέλο, ορισμένες διαδικτυακές πλατφόρμες ιατρικών συμβουλών και ηλεκτρονικών αγορών φαρμάκων έχουν εισαγάγει βοήθεια με τεχνητή νοημοσύνη, αν και έχουν προσφέρει ευκολία στους ασθενείς, έχουν επίσης εκθέσει υπήρχαν πολλά προβλήματα.
Κατά τη διάρκεια της έρευνας, ο δημοσιογράφος διαπίστωσε ότι ορισμένες ιατρικές πλατφόρμες του Διαδικτύου υιοθετούν μια μέθοδο λειτουργίας που βάζει το καρότσι πριν από το άλογο, όπως «πρώτα αγοράζεις φάρμακα, μετά προσδιορίζεις τη φόρμουλα του φαρμάκου και ακόμη και αυτόματα παράγει συνταγές από λογισμικό τεχνητής νοημοσύνης».
Πριν από λίγο καιρό, αφού ένας δημοσιογράφος έκανε παραγγελία για το συνταγογραφούμενο φάρμακο calcitriol μαλακές κάψουλες σε μια πλατφόρμα αγορών φαρμάκων, η πλατφόρμα προκάλεσε "Παρακαλώ επιλέξτε μια επιβεβαιωμένη ασθένεια εκτός σύνδεσης". Ο δημοσιογράφος έλεγξε τυχαία πολλά στοιχεία στη "Στήλη ασθενειών", άφησε κενή τη "Στήλη συνταγών/ιατρικών αρχείων/αναφοράς εξέτασης" και επιβεβαίωσε ότι "αυτή η ασθένεια έχει διαγνωστεί και το φάρμακο έχει χρησιμοποιηθεί και δεν υπάρχει ιστορικό αλλεργιών , σχετικές αντενδείξεις ή ανεπιθύμητες ενέργειες." "Η επαλήθευση πέρασε γρήγορα μετά την υποβολή της λίστας, το σύστημα μεταπήδησε στην ενότητα διαβούλευσης.
Αμέσως μετά, ένας «γιατρός» έλαβε τη θεραπεία και έστειλε πολλά μηνύματα διαδοχικά ειδική περίοδος. Όταν ο δημοσιογράφος δεν απάντησε, το άλλο μέρος έστειλε μια φόρμα συνταγής και έναν σύνδεσμο αγοράς.
Ο Yang Mu (ψευδώνυμο), ένας πολίτης του Πεκίνου, είχε επίσης μια παρόμοια εμπειρία. Υποψιάστηκε ότι ο γιατρός πίσω από την οθόνη δεν ήταν πραγματικός ασκούμενος γιατρός: «Όταν αγόραζα συνταγογραφούμενα φάρμακα στην πλατφόρμα ××, ένιωσα ότι το άλλο άτομο δεν ήταν. Διαφορετικό από ένα ρομπότ ήθελε να αγοράσει, αλλά το άλλο μέρος το συνταγογραφούσε γρήγορα.
Πολλοί άνθρωποι στον κλάδο πιστεύουν ότι η διάγνωση και η θεραπεία με «αέρα» δεν είναι κατάλληλη για όλους τους ασθενείς Η παρακολούθηση της διάγνωσης κοινών ασθενειών και χρόνιων ασθενειών ήταν η τοποθέτηση της διάγνωσης και θεραπείας μέσω Διαδικτύου για μεγάλο χρονικό διάστημα. Ωστόσο, υπήρξε έλλειψη συγκεκριμένων προτύπων στον κλάδο για το τι συνιστά επίσκεψη παρακολούθησης, με αποτέλεσμα ορισμένα κανονιστικά κενά.
«Αν πρόκειται για κανονικό διαδικτυακό νοσοκομείο, η ηλεκτρονική συνταγή που εκδίδεται από ειδικευμένο γιατρό θα πρέπει να φέρει την υπογραφή του γιατρού και την ηλεκτρονική σφραγίδα του διαδικτυακού νοσοκομείου. Δεν αποκλείεται ορισμένες μικρές ιατρικές πλατφόρμες του Διαδικτύου να χρησιμοποιούν τεχνητή νοημοσύνη, ρομπότ και άλλα εργαλεία Για την αυτόματη δημιουργία συνταγών, ορισμένες μεγάλες πλατφόρμες θα μπορούν να χρησιμοποιηθούν για να βοηθήσουν τους γιατρούς στις διαβουλεύσεις τους, όπως να ρωτήσουν τον ασθενή πόσο χρονών είναι, τι συμβαίνει με αυτόν, κ.λπ., αλλά η συνταγή πρέπει να γίνεται από γιατρό. », είπε ένας γιατρός με το επώνυμο Liu από τριτοβάθμιο νοσοκομείο στο Πεκίνο.
Παρατήρησε επίσης ότι για να επιδιώξουν κέρδη, πολλές πλατφόρμες υιοθέτησαν το μοντέλο «Η τεχνητή νοημοσύνη συνταγογραφεί και οι πελάτες παίρνουν άμεσα φάρμακα. Οι διαδικασίες έκδοσης συνταγών και αναθεώρησης είναι μάταιες». Οι συνταγές που ανεβάζουν οι χρήστες Χωρίς πραγματική αναθεώρηση, αυτός ο τύπος συμπεριφοράς παραβιάζει σοβαρά το σύστημα διαχείρισης φαρμάκων της χώρας μου και δημιουργεί επίσης κρυφούς κινδύνους για την ασφάλεια των φαρμάκων των ασθενών.
Το αν προσωπικές πληροφορίες θα αποκαλυφθούν κατά τη διάρκεια διαβουλεύσεων σε διαδικτυακές πλατφόρμες υγείας είναι επίσης ένα ερώτημα που τίθεται από πολλούς ασθενείς που ερωτήθηκαν.
Κάποτε, ο Yang Mu είχε πολλά κόκκινα εξανθήματα στην πλάτη του, οπότε πήγε σε μια πλατφόρμα υγείας για διαβούλευση μέσα σε λίγες μέρες, έλαβε πολλαπλές διαφημιστικές κλήσεις και μηνύματα κειμένου το ένα μετά το άλλο, συμπεριλαμβανομένων ανθρώπων που τον ρωτούσαν αν χρειαζόταν μεταμόσχευση μαλλιών. Υπήρχαν θέσεις πώλησης για προϊόντα περιποίησης δέρματος, ακόμη και κλήσεις πωλήσεων από εταιρείες δανεισμού.
"Κατά τη διάρκεια της διαβούλευσης, μπορούν να διατηρηθούν καλά οι προσωπικές πληροφορίες και η κατάσταση της υγείας που συλλέγονται από την πλατφόρμα; Θα μεταφερθούν αυτές οι πληροφορίες σε ένα τρίτο μέρος;"
Προηγουμένως, το Υπουργείο Βιομηχανίας και Πληροφορικής ανέφερε ότι ορισμένες ιατρικές εφαρμογές του Διαδικτύου αντιμετωπίζουν σοβαρά προβλήματα στη συλλογή και χρήση προσωπικών πληροφοριών, συμπεριλαμβανομένης της συλλογής προσωπικών πληροφοριών απορρήτου πέρα από το πεδίο εφαρμογής, της παροχής προσωπικών πληροφοριών σε άλλους χωρίς τη συγκατάθεση του ατόμου, και συλλογή προσωπικών πληροφοριών που δεν σχετίζονται με ιατρικές υπηρεσίες.
"Σε σύγκριση με άλλους τύπους εφαρμογών, η διαρροή προσωπικών πληροφοριών σε ιατρικές εφαρμογές μπορεί να οδηγήσει σε πιο σοβαρά νομικά προβλήματα. Εάν διαρρεύσουν προσωπικές πληροφορίες υγείας, οι εγκληματίες μπορούν να χρησιμοποιήσουν αυτές τις πληροφορίες για να πραγματοποιήσουν ακριβή απάτη, όπως για παράδειγμα να εκμεταλλευτούν τη νοοτροπία "αναζήτησης ιατρική περίθαλψη σε βιαστική» Παράνομη πώληση ή προώθηση φαρμάκων σε ασθενείς», είπε ο προαναφερθείς Δρ. Liu.
Βελτίωση του σχετικού νομικού πλαισίου
Προστατέψτε αποτελεσματικά τα δικαιώματα και τα συμφέροντα των ασθενών
Οι εμπειρογνώμονες που συμμετείχαν στη συνέντευξη τόνισαν ότι για την αποτελεσματική αντιμετώπιση πιθανών νομικών κινδύνων στην πρακτική εφαρμογή της «AI + ιατρική περίθαλψη», πρέπει να γίνουν συστηματικές βελτιώσεις τόσο από το νομικό όσο και από το επίπεδο πολιτικής. Μόνο με τη θέσπιση και τη βελτίωση ενός νομικού πλαισίου και ρυθμιστικού μηχανισμού και αποσαφηνίζοντας τις ευθύνες των μεγάλων ιατρικών μοντέλων και των προδιαγραφών χρήσης δεδομένων, μπορούμε να προστατεύσουμε αποτελεσματικά τα νόμιμα δικαιώματα και συμφέροντα των ασθενών, προωθώντας παράλληλα την ανάπτυξη ιατρικής τεχνητής νοημοσύνης.
"Πρώτα από όλα, πρέπει να δημιουργήσουμε και να βελτιώσουμε το νομικό πλαίσιο για την ιατρική τεχνητή νοημοσύνη. Επί του παρόντος, τα "Ενδιάμεσα μέτρα για τη διαχείριση των υπηρεσιών γενετικής τεχνητής νοημοσύνης" δεν περιλαμβάνουν κανονισμούς για την τεχνητή νοημοσύνη στον ιατρικό τομέα. Οι σχετικοί νόμοι και οι κανονισμοί πρέπει να διατυπωθούν με βάση τα χαρακτηριστικά του ιατρικού τομέα, τονίζοντας την έμφαση στην ιατρική τεχνητή νοημοσύνη "Ο βοηθητικός ρόλος της νοημοσύνης Chen Chuan είπε ότι για να βοηθήσει το ιατρικό προσωπικό και τους ασθενείς να χρησιμοποιήσουν καλύτερα τα συστήματα τεχνητής νοημοσύνης." και κατανοώ τον μηχανισμό λειτουργίας της τεχνητής νοημοσύνης για τη λήψη διαγνωστικών αποτελεσμάτων, η χώρα μου μπορεί να διαμορφώσει υποστηρικτικές οδηγίες για τη χρήση της ιατρικής τεχνητής νοημοσύνης Ο νόμος για την ασφάλεια των δεδομένων, τα «Μέτρα δεοντολογίας για τις επιστήμες της ζωής και την ιατρική έρευνα που περιλαμβάνουν ανθρώπους», κ.λπ εισήχθη με βάση την τρέχουσα αναπτυξιακή κατάσταση.
Ο Τσεν Τσουάν ανέφερε επίσης ότι είναι επείγον να ενισχυθεί η εποπτεία των αλγορίθμων ιατρικής τεχνητής νοημοσύνης. Αφενός, προκειμένου να διασφαλιστεί η ασφάλεια και η αξιοπιστία της ιατρικής τεχνητής νοημοσύνης, θα πρέπει να δημιουργηθεί μια εξειδικευμένη υπηρεσία αναθεώρησης αλγορίθμων για τη διεξαγωγή αυστηρής ασφάλειας, διαφάνειας και ηθικής επανεξέτασης της ιατρικής τεχνητής νοημοσύνης, αφετέρου, με βάση τη δυναμική φύση των δεδομένων και τεχνητή νοημοσύνη Με τη συνεχή επαναληπτική αναβάθμιση της έξυπνης τεχνολογίας, οι προγραμματιστές θα πρέπει να υποχρεούνται να προσδιορίζουν εκ των προτέρων τους κινδύνους ασφαλείας που δημιουργούνται κατά την εφαρμογή των αλγορίθμων και να προτείνουν στοχευμένα αντίμετρα σχετικά με τη χρήση δεδομένων, τα σενάρια εφαρμογής και τον αντίκτυπο του αλγορίθμου Διεξαγωγή αξιολόγησης αυτοασφάλειας σχετικά με την αποτελεσματικότητα, κ.λπ. Επιπλέον, μπορούν να ενεργοποιηθούν διάφορα μέτρα, όπως η δημόσια εποπτεία και η υποβολή εκθέσεων και οι επιθεωρήσεις του ρυθμιστικού τμήματος.
Ο Deng Yong, καθηγητής στο Τμήμα Νομικής στο Πανεπιστήμιο Κινεζικής Ιατρικής του Πεκίνου, πιστεύει επίσης ότι με την ανάπτυξη ιατρικών μοντέλων μεγάλης κλίμακας, οι λειτουργίες συμμόρφωσης και η επίβλεψη αυτής της βιομηχανίας έχουν γίνει ολοένα και πιο σημαντικές τοποθέτηση και απόκτηση των αντίστοιχων προσόντων για την αποφυγή διεξαγωγής αντίστοιχων δραστηριοτήτων χωρίς προσόντα. «Σε ό,τι αφορά τη συμμόρφωση, θα πρέπει πρώτα να καθορίσετε τη θέση του προϊόντος σας, εάν πρόκειται για προϊόν διάγνωσης και θεραπείας στο Διαδίκτυο, πρέπει να επικοινωνήσετε ή να δημιουργήσετε ένα αντίστοιχο φυσικό ίδρυμα και να κάνετε αίτηση για τη δημιουργία ενός αντίστοιχου νοσοκομείου Διαδικτύου απαιτήσεις, εάν χρησιμοποιείται μόνο για τη διαχείριση της υγείας και δεν περιλαμβάνει δραστηριότητες διάγνωσης και θεραπείας, πρέπει να είναι σαφές ότι τα προϊόντα της δεν έχουν "ιατρικούς σκοπούς" και ότι "προορίζονται μόνο να χρησιμοποιηθούν για διαχείριση υγείας, ο πληθυσμός-στόχος είναι υγιής άτομα και να καταγράφει στατιστικές πληροφορίες υγείας».
Πρότεινε επίσης να χρησιμοποιούνται καθαρισμός δεδομένων και άλλες μέθοδοι για να διασφαλιστεί ότι οι παράνομες και επιβλαβείς πληροφορίες και οι προσωπικές πληροφορίες στα δημόσια δεδομένα αφαιρούνται για να διασφαλιστεί ότι τα δεδομένα εκπαίδευσης είναι νόμιμα και συμβατά. Οι απαιτήσεις του ιατρικού μοντέλου για τη συλλογή δεδομένων χρήστη πρέπει να ακολουθούν τις αρχές της νομιμότητας, της νομιμότητας και της αναγκαιότητας και δεν συλλέγουν προσωπικές πληροφορίες που δεν σχετίζονται με τις παρεχόμενες υπηρεσίες.
«Οι κόκκινες συμπεριφορές των μεγάλων ιατρικών μοντέλων στη συλλογή δεδομένων των χρηστών περιλαμβάνουν: αδυναμία αποκάλυψης κανόνων συλλογής και χρήσης, αποτυχία σαφούς δήλωσης του σκοπού, της μεθόδου και του εύρους συλλογής και χρήσης προσωπικών πληροφοριών χωρίς χρήστη παραβίαση της αρχής της αναγκαιότητας και της συλλογής που δεν σχετίζονται με τις παρεχόμενες προσωπικές πληροφορίες, χωρίς τη συγκατάθεση να παρέχει λειτουργίες για τη διαγραφή ή τη διόρθωση των προσωπικών πληροφοριών, όπως απαιτείται από το νόμο. και τις μεθόδους αναφοράς "Ο Deng Yong είπε ότι κατά τη συλλογή δημόσιων δεδομένων στο Διαδίκτυο, προκειμένου να διασφαλιστεί η νομιμότητα και η συμμόρφωσή τους. Σύμφωνα με τους κανονισμούς, είναι επίσης απαραίτητο να εκτελούνται λειτουργίες όπως διαδικασίες κοινοποίησης και συναίνεσης, διαδικασίες ανωνυμοποίησης και παροχή καναλιών άρνησης. . Επιπλέον, θα πρέπει να δοθεί προσοχή στον μηχανισμό επισήμανσης δεδομένων για την πρόληψη της δημιουργίας παράνομου και επιβλαβούς περιεχομένου όπως η πορνογραφία, η βία και οι πληροφορίες που εισάγουν διακρίσεις μέσω της επισήμανσης για την επίτευξη ασφάλειας περιεχομένου.
Ως απάντηση στα προβλήματα που προκύπτουν από τις διαδικτυακές ιατρικές διαβουλεύσεις, ο Chen Chuan πιστεύει ότι είναι επείγον να διευκρινιστούν οι νομικές ευθύνες της τεχνητής νοημοσύνης, να δημιουργηθεί ένας επιστημονικός και εύλογος μηχανισμός κατανομής ευθυνών, να ενισχυθούν οι κύριες αρμοδιότητες του ιατρικού προσωπικού, να διευκρινιστεί ότι η τεχνητή νοημοσύνη βρίσκεται σε βοηθητική θέση, και τελειοποιήστε κάθε πεδίο Οι ευθύνες των συμμετεχόντων δεν μπορούν να παραδώσουν πλήρως την ιατρική διάγνωση στην τεχνητή νοημοσύνη, αλλά θα πρέπει να ακολουθούν την αρχή της «πρόληψης εκ των προτέρων - παρακολούθησης κατά τη διάρκεια του συμβάντος - λογοδοσίας μετά». «Το ιατρικό προσωπικό πρέπει να εκπληρώνει το καθήκον του περίθαλψης κατά την άσκηση της ιατρικής, δηλαδή, το ιατρικό προσωπικό πρέπει να δίνει προσοχή στον εντοπισμό και την αξιολόγηση των αποτελεσμάτων διάγνωσης AI, διαφορετικά φέρει ευθύνη».
Πηγή: Rule of Law Daily
