Shi Qian και Xiao Chao｜Χτίζοντας μια σταθερή γραμμή άμυνας για το σύστημα εποπτείας ασφάλειας τεχνητής νοημοσύνης
2024-08-11
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Η εικόνα δείχνει το ρομπότ Tesla Optimus Prime. Φωτογραφία από τον ρεπόρτερ μας Yuan Jing
Η Τρίτη Ολομέλεια της 20ης Κεντρικής Επιτροπής του Κομμουνιστικού Κόμματος της Κίνας πρότεινε: «Ενίσχυση της κατασκευής του συστήματος ασφάλειας δικτύου και δημιουργία ενός συστήματος εποπτείας ασφάλειας τεχνητής νοημοσύνης Αυτή είναι μια σημαντική ανάπτυξη που έγινε από την Κεντρική Επιτροπή του Κόμματος για τον συντονισμό της ανάπτυξης». και ασφάλεια και να ανταποκρίνονται ενεργά στους κινδύνους ασφάλειας της τεχνητής νοημοσύνης. Προκειμένου να προβλέψουμε και να ανταποκριθούμε αποτελεσματικά στους κινδύνους που προκύπτουν από την ανάπτυξη της τεχνολογίας τεχνητής νοημοσύνης, καθώς και στον πραγματικό αντίκτυπο που επιφέρει η εφαρμογή της τεχνητής νοημοσύνης, και για να προωθήσουμε αποτελεσματικά την εφαρμογή και την ανάπτυξη της τεχνολογίας τεχνητής νοημοσύνης, πρέπει να αναλύσουμε σε βάθος Τα νέα χαρακτηριστικά των κοινωνικών κινδύνων που προκαλούνται από την έξυπνη τεχνολογία και προσβλέπουν σε κοινωνικούς κινδύνους Απαιτούνται πρόβλεψη, επιστημονική συγκράτηση και σωστή καθοδήγηση για τη δημιουργία ενός ολοκληρωμένου συστήματος διαχείρισης κοινωνικών κινδύνων τεχνητής νοημοσύνης που λαμβάνει υπόψη την ανάπτυξη και την ασφάλεια και δίνει ώθηση στη βελτίωση. την αποτελεσματικότητα της κοινωνικής διακυβέρνησης.
Τέσσερα νέα χαρακτηριστικά των κοινωνικών κινδύνων στην εποχή της τεχνητής νοημοσύνης
Επί του παρόντος, ο κόσμος έχει εισέλθει σε μια εποχή «κοινωνίας κινδύνου» με υψηλή αβεβαιότητα. Η τεχνολογία τεχνητής νοημοσύνης αλλάζει τη λογική και τους κανόνες της σύγχρονης κοινωνίας Παρουσιάζει κυρίως τέσσερα νέα χαρακτηριστικά: spread, cascade, παράγωγο και υστέρηση:
Πρώτον, η τεχνητή νοημοσύνη έχει αυξήσει την ταχύτητα και το εύρος της διάδοσης των πληροφοριών κινδύνου και οι κοινωνικοί κίνδυνοι είναι μεταδοτικοί. Η τεχνολογία τεχνητής νοημοσύνης μειώνει τη δυσκολία δημιουργίας πληροφοριών και αυξάνει το εύρος και το βάθος της διάχυσης πληροφοριών διευρύνει το εύρος των επιπτώσεων των γεγονότων κινδύνου, διαμορφώνοντας έναν εξαιρετικά μεταδοτικό χαρακτήρα. Ταυτόχρονα, η τεχνητή νοημοσύνη μπορεί να εντοπίσει και να ενισχύσει τα συναισθήματα και τις συμπεριφορές των χρηστών μέσω της ανάλυσης συναισθημάτων και της πρόβλεψης συμπεριφοράς. Εάν ένας τύπος γεγονότος κινδύνου πυροδοτεί έντονες συναισθηματικές αντιδράσεις, όπως πανικό και θυμό, το σύστημα τεχνητής νοημοσύνης μπορεί να δώσει προτεραιότητα στη σύσταση και στη διάδοση αυτού του τύπου πληροφοριών, επιδεινώνοντας περαιτέρω το δημόσιο αίσθημα και καθιστώντας τις πληροφορίες κινδύνου εξαιρετικά μεταδοτικές και μεταδοτικές Η αποτελεσματική εποπτεία και ο έλεγχος θα έχει μεγάλο αντίκτυπο στην κοινωνική ασφάλιση και την κοινωνική τάξη.
Δεύτερον, η τεχνητή νοημοσύνη θολώνει τα εικονικά και τα πραγματικά όρια των κοινωνικών συστημάτων και οι κοινωνικοί κίνδυνοι είναι διαδοχικοί. Η τεχνολογία τεχνητής νοημοσύνης κάνει τους ανθρώπους και τους ανθρώπους, τους ανθρώπους και τα πράγματα, και τα πράγματα και τα πράγματα να συνδέονται σε μεγάλο βαθμό Τα όρια μεταξύ του εικονικού κόσμου και του πραγματικού κόσμου γίνονται ασαφή, σχηματίζοντας ένα περίπλοκο σύστημα δικτύου. Πολλές κοινωνικές δραστηριότητες διεξάγονται μέσω εικονικών πλατφορμών και ενσωματώνονται σε πραγματικές καταστάσεις Η διαρροή δεδομένων στον εικονικό κόσμο μπορεί να οδηγήσει σε κλοπή ταυτότητας στον πραγματικό κόσμο . Αντίθετα, τα περιστατικά ασφάλειας στον πραγματικό κόσμο θα επηρεάσουν επίσης την ασφάλεια του εικονικού κόσμου μέσω της μετάδοσης δεδομένων και η αλληλεπίδραση μεταξύ εικονικού και πραγματικού θα προκαλέσει μια κλιμακωτή επίδραση κοινωνικών κινδύνων. Εξουσιοδοτημένα από την έξυπνη τεχνολογία, διαφορετικά κοινωνικά συστήματα διασυνδέονται σε μεγάλο βαθμό και πολλές διαδικασίες λήψης αποφάσεων είναι αυτοματοποιημένες, ωστόσο, εσφαλμένες αποφάσεις από αυτοματοποιημένα συστήματα μπορεί να προκαλέσουν μια σειρά αλυσιδωτών αντιδράσεων, οδηγώντας σε διαδοχική διάδοση κινδύνων.
Τρίτον, η τεχνητή νοημοσύνη έχει πυροδοτήσει μια σειρά από δευτερεύοντες κινδύνους και αλυσίδες κινδύνου και οι κοινωνικοί κίνδυνοι είναι παράγωγοι. Η εφαρμογή της τεχνολογίας τεχνητής νοημοσύνης μπορεί να προκαλέσει αρχικούς κινδύνους και κατά τη διαδικασία επίλυσης ή μετριασμού των κινδύνων, θα προκαλέσει περαιτέρω μια σειρά από δευτερεύοντες κινδύνους, σχηματίζοντας μια σύνθετη αλυσίδα κινδύνου. Τα συμβάντα κινδύνου μπορούν να εξαπλωθούν γρήγορα μεταξύ διαφορετικών πεδίων και να μεταδοθούν σε πολλαπλά επίπεδα, σχηματίζοντας δευτερεύοντες κινδύνους. Για παράδειγμα, οι επιθέσεις στον κυβερνοχώρο όχι μόνο οδηγούν σε διαρροή πληροφοριών, αλλά μπορεί επίσης να προκαλέσουν πραγματικά ατυχήματα, όπως κυκλοφοριακή συμφόρηση και βλάβες ιατρικού εξοπλισμού, επηρεάζοντας το Διαδίκτυο των Πραγμάτων. Τα σφάλματα δεδομένων ή οι ακατάλληλοι αλγόριθμοι μπορεί επίσης να προκαλέσουν μια σειρά από δευτερεύοντες κινδύνους. Πάρτε για παράδειγμα την αλγοριθμική μεροληψία Ο άδικος μηχανισμός λήψης αποφάσεων που προκαλείται συχνά οδηγεί σε κοινωνική δυσαρέσκεια και σύγκρουση. Τα γεγονότα κινδύνου συνήθως προκαλούν αλλαγές στη δημόσια συμπεριφορά και την ψυχολογία, προκαλώντας περαιτέρω νέους δευτερεύοντες κινδύνους και σχηματίζοντας μια αλυσίδα κινδύνου.
Τέταρτον, η τεχνητή νοημοσύνη κρύβει τον αντίκτυπο ορισμένων γεγονότων κινδύνου και οι κοινωνικοί κίνδυνοι έχουν υστέρηση. Η τεχνολογία τεχνητής νοημοσύνης βασίζεται σε μεγάλες ποσότητες δεδομένων για την εκπαίδευση και τις λειτουργίες, και βασίζεται σε αλγόριθμους για τη λήψη αποφάσεων , αλλά με την πάροδο του χρόνου, η κατάχρηση δεδομένων μπορεί και τα σωρευτικά αποτελέσματα της αλγοριθμικής μεροληψίας θα εμφανιστούν με την πάροδο του χρόνου. Ταυτόχρονα, η τεχνολογία τεχνητής νοημοσύνης εξαρτάται επίσης σε μεγάλο βαθμό από την τεχνική υποδομή και τα συστήματα αυτοματισμού. . Η εφαρμογή της ευφυούς τεχνολογίας έχει βαθύ αντίκτυπο στην κοινωνική συμπεριφορά και την ψυχολογία. Για παράδειγμα, η μακροχρόνια χρήση έξυπνων συστημάτων συστάσεων μπορεί να οδηγήσει σε ένα φαινόμενο κουκούλι πληροφοριών, περιορίζοντας το όραμα του χρήστη, επηρεάζοντας έτσι την ποικιλομορφία και την ένταξη της κοινωνίας.
Τέσσερις στρατηγικές για την επίτευξη «διακυβέρνησης προσανατολισμένης στην τεχνητή νοημοσύνη»
Προκειμένου να ανταποκριθεί αποτελεσματικά στους κοινωνικούς κινδύνους και τα νέα χαρακτηριστικά που μπορεί να προκληθούν από την ανάπτυξη της τεχνολογίας τεχνητής νοημοσύνης, το παραδοσιακό μοντέλο διακυβέρνησης κινδύνων πρέπει να αλλάξει με στοχευμένο τρόπο, χρησιμοποιώντας ταυτόχρονα την τεχνολογία τεχνητής νοημοσύνης για τη βελτίωση της αποτελεσματικότητας της αναγνώρισης κινδύνου και έγκαιρη προειδοποίηση και επίτευξη του στόχου της «διακυβέρνησης με βάση την τεχνητή νοημοσύνη» Ταυτόχρονα, θα πρέπει να προλαμβάνουμε αποτελεσματικά και να προειδοποιούμε για πιθανούς κινδύνους που προκαλούνται από την εφαρμογή της τεχνολογίας τεχνητής νοημοσύνης, να συνειδητοποιούμε «διακυβέρνηση προσανατολισμένη στην τεχνητή νοημοσύνη» και να οικοδομήσουμε μια λογική αμφίδρομης διακυβέρνησης στην οποία «η τεχνολογία ενδυναμώνει την κοινωνική διακυβέρνηση και η διακυβέρνηση αποτρέπει την κατάχρηση τεχνολογίας».
Πρώτον, χρησιμοποιήστε πολυτροπικά δεδομένα για να εντοπίσετε πολύπλοκες διαδραστικές σχέσεις και να βελτιώσετε την ακρίβεια του εντοπισμού κινδύνου και της έγκαιρης προειδοποίησης. Τα πολυτροπικά δεδομένα αναφέρονται σε δεδομένα που λαμβάνονται από διαφορετικά πεδία ή προοπτικές για το ίδιο αντικείμενο περιγραφής και χρησιμοποιούνται για την αναπαράσταση διαφορετικών μορφών δεδομένων ή διαφορετικών μορφών της ίδιας μορφής. Η τεχνολογία πολυτροπικής σύντηξης δεδομένων μπορεί να εξορύξει πλήρως και να χρησιμοποιήσει συμπληρωματικές πληροφορίες μεταξύ των δεδομένων, να χαρακτηρίσει πιο ολοκληρωμένα τα χαρακτηριστικά των αντικειμένων, να εντοπίσει ή να συναγάγει πιο περίπλοκες διαδραστικές σχέσεις και να επιτύχει αντίληψη σε πραγματικό χρόνο, ανάλυση συσχέτισης και πρόβλεψη κατάστασης περίπλοκων κοινωνικών γιγάντων συστημάτων μπορεί να βελτιώσει την ακρίβεια του εντοπισμού κινδύνου, να δημιουργήσει ένα πιο ευέλικτο πλαίσιο αξιολόγησης κινδύνου και έγκαιρης προειδοποίησης, να πραγματοποιήσει μακροπρόθεσμη και δυναμική διαχείριση και έλεγχο κινδύνου και μπορεί επίσης να ενσωματώσει αποτελεσματικά τις ανεξάρτητες διαδικασίες λήψης αποφάσεων στη διαδικασία προειδοποίησης και απόκρισης κινδύνου για να παρέχει διαφορετικές οντότητες λήψης αποφάσεων με Παροχή βασικών μεθόδων και εργαλείων για συνεργασία. Ως εκ τούτου, είναι δυνατή η συνολική ανάλυση δεδομένων από διαφορετικούς τρόπους, όπως κείμενο, εικόνες, ήχος και δεδομένα αισθητήρων, ενσωματώνοντας διαφορετικά δεδομένα από διαφορετικά πεδία και εφαρμόζονται τεχνολογίες όπως η μηχανική μάθηση και η βαθιά μάθηση για τον εντοπισμό πολύπλοκων διαδραστικών σχέσεων μεταξύ δεδομένων. . Προώθηση της πολυκομματικής συνεργασίας μεταξύ κυβερνήσεων, επιχειρήσεων, κοινωνικών οργανώσεων, ακαδημαϊκών ιδρυμάτων κ.λπ., δημιουργία μηχανισμού ανταλλαγής πληροφοριών μεταξύ τμημάτων, ενσωμάτωση πόρων δεδομένων πολλαπλών μέσων, δημιουργία συστήματος έγκαιρης προειδοποίησης σε πραγματικό χρόνο και έγκαιρη ανακάλυψη και προειδοποίηση πιθανών κινδύνους.
Δεύτερον, αναπτύξτε εξατομικευμένα σχέδια διαχείρισης κινδύνου που βασίζονται στο επίπεδο ανάπτυξης και εφαρμογής της έξυπνης τεχνολογίας για την πρόληψη της συγκέντρωσης του στρες κινδύνου. Λόγω των διαφορών στην οικονομική και κοινωνική ανάπτυξη και στα επίπεδα εφαρμογής της τεχνολογίας τεχνητής νοημοσύνης μεταξύ διαφορετικών περιοχών, που με τη σειρά τους οδηγεί σε ασυνέπειες στις δυνατότητες αντιμετώπισης κινδύνων, η διαπεριφερειακή εξάπλωση και εξέλιξη των κοινωνικών κινδύνων είναι άνιση. Είναι απαραίτητο να διαμορφωθούν εξατομικευμένα σχέδια διαχείρισης κινδύνων με βάση την πραγματική περιφερειακή ανάπτυξη, να μειωθεί το τοπικό άγχος μέσω πολυπρακτορικής και πολυπεριφερειακής συνεργασίας και να αποφευχθεί η δομική ζημιά στο κοινωνικό σύστημα. Ως εκ τούτου, η διακυβέρνηση κινδύνου της τεχνολογίας τεχνητής νοημοσύνης πρέπει πρώτα να αξιολογήσει το επίπεδο εφαρμογής της τεχνολογίας τεχνητής νοημοσύνης σε διαφορετικές περιοχές, να αναλύσει τις δυνατότητες αντιμετώπισης κινδύνου, συμπεριλαμβανομένων των πόρων έκτακτης ανάγκης, της τεχνικής υποδομής και των δυνατοτήτων διαχείρισης, και να εντοπίσει τα δυνατά σημεία και τις αδυναμίες της περιφερειακής απόκρισης κινδύνου. Αναπτύξτε εξατομικευμένες στρατηγικές διαχείρισης κινδύνου με βάση τις ειδικές συνθήκες των διαφορετικών περιοχών. Για παράδειγμα, οι οικονομικά ανεπτυγμένες περιοχές μπορούν να επικεντρωθούν στην ενίσχυση της τεχνικής ασφάλειας και της προστασίας δεδομένων, ενώ οι οικονομικά υπανάπτυκτες περιοχές πρέπει να βελτιώσουν την κατασκευή υποδομών και τη διάδοση της τεχνολογίας. Μέσω της υποστήριξης πολιτικής και των επενδύσεων κεφαλαίου, θα προωθήσουμε τη βελτίωση του επιπέδου εφαρμογής της ευφυούς τεχνολογίας σε τεχνολογικά καθυστερημένες περιοχές και θα περιορίσουμε το τεχνολογικό χάσμα και τις δυνατότητες αντιμετώπισης κινδύνων μεταξύ των περιφερειών.
Τρίτον, πρέπει να εξισορροπήσουμε την τεχνολογική ανάπτυξη και τη ρύθμιση των κινδύνων, να βελτιστοποιήσουμε το συνολικό κόστος της διαχείρισης κινδύνου και να διασφαλίσουμε ότι η τεχνολογία ψηφιακής νοημοσύνης είναι ταυτόχρονα «διαχειρίσιμη» και «ευέλικτη». Η διακυβέρνηση κινδύνου της τεχνητής νοημοσύνης πρέπει να λαμβάνει υπόψη τόσο την "ασφάλεια" και την "ανάπτυξη", όχι μόνο για την αποφυγή οικονομικών και κοινωνικών απωλειών που προκαλούνται από αποτυχία διακυβέρνησης, αλλά και για την πρόληψη της μείωσης των οικονομικών και κοινωνικών οφελών που προκαλούνται από την υπερβολική διακυβέρνηση. Το κόστος της διακυβέρνησης κινδύνου τεχνητής νοημοσύνης περιλαμβάνει πολλούς παράγοντες κόστους, όπως το κόστος πρόληψης κινδύνου όταν ο μηχανισμός διακυβέρνησης είναι σε ισχύ και αποτυγχάνει, το κόστος κοινωνικής αποτυχίας και το κόστος απώλειας κοινωνικού οφέλους. Η ένταση της επίβλεψης μπορεί να προσαρμοστεί έγκαιρα ανάλογα με την ωριμότητα της τεχνολογίας και τα σενάρια εφαρμογής. Στο αρχικό στάδιο της τεχνολογίας, η χαλαρή εποπτεία υιοθετείται για την ενθάρρυνση της καινοτομίας στο ώριμο στάδιο της τεχνολογίας, η εποπτεία ενισχύεται για να διασφαλιστεί η ασφάλεια και η τυποποίηση. Κατά τη διαμόρφωση στρατηγικών διακυβέρνησης κινδύνου, είναι απαραίτητο να ποσοτικοποιούνται διαφορετικά στοιχεία κόστους, να διεξάγεται ανάλυση κόστους-οφέλους και να επιλέγεται το βέλτιστο σχέδιο διακυβέρνησης για τον αποτελεσματικό έλεγχο των κινδύνων και την αποφυγή περιττών δαπανών διακυβέρνησης. Ταυτόχρονα, προκειμένου να μειωθεί αποτελεσματικά το κόστος διαχείρισης κινδύνων, μπορεί να παρασχεθεί πολιτική και οικονομική υποστήριξη για την ενθάρρυνση των επιχειρήσεων και των επιστημονικών ερευνητικών ιδρυμάτων να πραγματοποιήσουν καινοτομίες τεχνολογίας ασφάλειας και, παράλληλα με την προώθηση της καινοτομίας τεχνολογίας τεχνητής νοημοσύνης, να εξασφαλίσουν την ταυτόχρονη ανάπτυξη μέτρων ασφαλείας .
Τέλος, πρέπει να μελετήσουμε και να κρίνουμε εκ των προτέρων τους κοινωνικούς κινδύνους που μπορεί να προκύψουν από την ανάπτυξη της τεχνολογίας τεχνητής νοημοσύνης και να διαμορφώσουμε σωστά συστήματα και πρότυπα εποπτείας κοινωνικών κινδύνων τεχνητής νοημοσύνης. Η ταχεία ανάπτυξη και επανάληψη της τεχνολογίας τεχνητής νοημοσύνης είναι συχνά ταχύτερη από τη διαμόρφωση και προσαρμογή πολιτικών και νόμων, με αποτέλεσμα μια ορισμένη υστέρηση στα πρότυπα πολιτικής διακυβέρνησης για την τεχνητή νοημοσύνη. Ως εκ τούτου, είναι απαραίτητο να ενσωματωθεί η εφαρμογή της τεχνολογίας τεχνητής νοημοσύνης στην κοινωνική διακυβέρνηση, να διαμορφωθούν σχετικά συστήματα εποπτείας ασφάλειας και βιομηχανικά πρότυπα για τους κοινωνικούς κινδύνους τεχνητής νοημοσύνης και να διασφαλιστεί ότι οι πολιτικές και οι νόμοι μπορούν να συμβαδίζουν με την τεχνολογική ανάπτυξη, ενώ προάγουν την κατασκευή και την ανάπτυξη σενάρια εφαρμογής ευφυούς τεχνολογίας. Οι τάσεις ανάπτυξης της τεχνολογίας τεχνητής νοημοσύνης θα πρέπει να αναλύονται τακτικά, θα πρέπει να γίνονται ολοκληρωμένες αξιολογήσεις από πολλαπλές διαστάσεις όπως η τεχνολογία, η ηθική, το δίκαιο, η οικονομία και η κοινωνία, θα πρέπει να δημιουργηθεί ένας μηχανισμός έγκαιρης προειδοποίησης κινδύνου τεχνητής νοημοσύνης, θα πρέπει να ανακαλυφθούν οι πιθανοί κίνδυνοι που προκαλούν οι αναδυόμενες τεχνολογίες και να προβλεφθεί εγκαίρως, και να διεξαχθεί έρευνα και διατύπωση. Ευέλικτες και στραμμένες προς το μέλλον πολιτικές και κανονισμοί. Επιπλέον, θα πρέπει να συμμετάσχουμε ενεργά στη διαμόρφωση διεθνών προτύπων και κανονισμών, να δημιουργήσουμε μια πλατφόρμα διακρατικής συνεργασίας, να προωθήσουμε τη συνεργασία και τις ανταλλαγές μεταξύ χωρών στη διακυβέρνηση της τεχνητής νοημοσύνης και να ανταποκριθούμε από κοινού σε παγκόσμιους τεχνολογικούς κινδύνους και προκλήσεις.
(Σύνδεσμος συγγραφέα: Σχολή Οικονομικών και Διοίκησης, Πανεπιστήμιο Tongji)
συγγραφέας:
Κείμενο: Shi Qian Xiao Chao Εικόνα: Yuan Jing Επιμέλεια: Chen Yu Επιμέλεια: Yang Yiqi
Παρακαλούμε αναφέρετε την πηγή κατά την επανεκτύπωση αυτού του άρθρου.
