Νέα

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Πηγή: Rule of Law Daily

Ο δημοσιογράφος Zhang Shoukun

«Υπάρχουν φωτογραφίες και η αλήθεια, και όλα είναι πιστοποιημένα από ειδικούς».

Πρόσφατα, η πολίτης Tianjin Li Meng (ψευδώνυμο) είχε μια έντονη διαμάχη με τη μητέρα της για ένα "δημοφιλές επιστημονικό άρθρο": η μητέρα της πίστευε ακράδαντα ότι το άρθρο περιείχε βίντεο, εικόνες και ερευνητικά συμπεράσματα από διάφορους λεγόμενους γιατρούς και ιατρικές ομάδες. Μπορεί να είναι ψεύτικο, ο Λι Μενγκ αναγνώρισε προσεκτικά το άρθρο και διαπίστωσε ότι το άρθρο δημιουργήθηκε από την τεχνητή νοημοσύνη και η πλατφόρμα διέψευσε επίσης τη φήμη, επομένως πρέπει να είναι ψεύτικη.

Το περιεχόμενο αυτού του άρθρου σχετίζεται με γάτες - υπήρχε ένα κορίτσι που έπαιζε με μια γάτα και έπαθε μια θανατηφόρα ασθένεια που ονομάζεται "ασθένεια". Ακριβώς εξαιτίας αυτού του άρθρου η μητέρα της Λι Μενγκ εναντιώθηκε σθεναρά στο να μεγαλώσει μια γάτα γιατί φοβόταν ότι θα έπασχε και αυτή από «ασθένειες». Ο Λι Μενγκ δεν μπορούσε να γελάσει ή να κλάψει για αυτό, «Ελπίζω πραγματικά η μητέρα μου να μπορεί να χρησιμοποιεί λιγότερο το Διαδίκτυο».

Η μητέρα του Li Meng δεν είναι η μόνη που έχει εξαπατηθεί από φήμες AI. Πρόσφατα, οι υπηρεσίες δημόσιας ασφάλειας σε πολλά μέρη δημοσίευσαν μια σειρά από υποθέσεις που σχετίζονται με τη χρήση εργαλείων τεχνητής νοημοσύνης για τη διάδοση φημών. ψευδείς ειδήσεις σε μια μέρα στο αποκορύφωμά τους, με ημερήσιο εισόδημα 1 Πάνω από 10.000 γιουάν, και ο πραγματικός ελεγκτής της εταιρείας, ο Wang Moumou, λειτουργεί 5 τέτοια ιδρύματα με 842 λογαριασμούς λειτουργίας.

Εμπειρογνώμονες που πήραν συνέντευξη από δημοσιογράφους από την «Daily Rule of Law» επεσήμαναν ότι τα βολικά εργαλεία τεχνητής νοημοσύνης μείωσαν σημαντικά το κόστος κατασκευής των φημών και αύξησαν την τάξη μεγέθους και τη διάδοση φημών. Η διάδοση φημών τεχνητής νοημοσύνης έχει τα χαρακτηριστικά του χαμηλού ορίου, της παρτίδας παραγωγής και της δυσκολίας στον εντοπισμό.

Χρήση τεχνητής νοημοσύνης για την κατασκευή ψευδών ειδήσεων

Διαδόθηκε γρήγορα και πολλοί άνθρωποι εξαπατήθηκαν

Στις 20 Ιουνίου, η αστυνομία της Σαγκάης εξέδωσε ειδοποίηση ότι δύο έμποροι επωνυμίας κατασκεύασαν ψευδείς πληροφορίες όπως «Μαχαίρωσε κάποιον στο σταθμό του μετρό Zhongshan Park» για να κερδίσει δημοτικότητα. Στην έκθεση, μια λεπτομέρεια τράβηξε την προσοχή: ένας πλαστογράφος χρησιμοποίησε λογισμικό τεχνητής νοημοσύνης για να δημιουργήσει τεχνολογία βίντεο για να κατασκευάσει ψευδή βίντεο με επιθέσεις στο μετρό και άλλες ψευδείς πληροφορίες.

Ο δημοσιογράφος ανακάλυψε ότι τα τελευταία χρόνια, η χρήση της τεχνητής νοημοσύνης για τη διάδοση φημών έχει συμβεί συχνά και εξαπλώνεται πολύ γρήγορα Ορισμένες φήμες έχουν προκαλέσει σημαντικό κοινωνικό πανικό.

Πέρυσι, στην περίπτωση ενός αγνοούμενου κοριτσιού στη Σαγκάη, μια συμμορία κατασκεύασε κακόβουλα φήμες όπως «ο πατέρας του κοριτσιού είναι ο πατριός της» και «το κορίτσι μεταφέρθηκε στο Wenzhou» με τρόπο «clickbait» και «shock group». Η συμμορία χρησιμοποίησε εργαλεία τεχνητής νοημοσύνης και άλλα εργαλεία για να δημιουργήσει περιεχόμενο φημών Μέσω μιας μήτρας 114 λογαριασμών, δημοσίευσε 268 άρθρα σε 6 ημέρες, με πολλά άρθρα να έχουν περισσότερα από 1 εκατομμύριο κλικ.

Το Γραφείο Κυβερνοασφάλειας του Υπουργείου Δημόσιας Ασφάλειας ανακοίνωσε πρόσφατα μια υπόθεση. Από τον Δεκέμβριο του 2023, μια πληροφορία σχετικά με το "ζεστό νερό που αναβλύζει από το έδαφος στην περιοχή Huyi, στην πόλη Xi'an" έχει διαδοθεί συχνά στο Διαδίκτυο, με φήμες όπως "ζεστό νερό αναβλύζει από το έδαφος λόγω σεισμού "και "λόγω ρήξης υπόγειων θερμοσωλήνων". . Μετά από έρευνα, οι σχετικές φήμες δημιουργήθηκαν μέσω του καθαρισμού χειρογράφων AI.

Πρόσφατα, "ξέσπασε πυρκαγιά σε πολυώροφο κτίριο κατοικιών στο Τζινάν, και πολλοί άνθρωποι πήδηξαν για να γλιτώσουν" και "ένας πρωινής άσκησης ανακάλυψε έναν ζωντανό άνθρωπο σε έναν τάφο κοντά στο βουνό των Ηρώων στο Τζινάν"... Αυτά τα εξωφρενικά "blockbuster ειδήσεις» διαδόθηκαν ευρέως στο Διαδίκτυο και τράβηξαν μεγάλη προσοχή. Η Διοίκηση Κυβερνοχώρου της Δημοτικής Επιτροπής του Κόμματος Τζινάν διέψευσε αμέσως τις φήμες μέσω της Κοινής Διαδικτυακής Πλατφόρμας Διάψευσης Φήμων Τζινάν, αλλά πολλοί άνθρωποι εξακολουθούσαν να μπερδεύονται με την εμφάνιση «εικόνων και αλήθειας».

Μια έρευνα που δημοσιεύθηκε από το Κέντρο Ερευνών Νέων Μέσων της Σχολής Δημοσιογραφίας και Επικοινωνίας του Πανεπιστημίου Tsinghua τον Απρίλιο του τρέχοντος έτους έδειξε ότι μεταξύ των φημών τεχνητής νοημοσύνης τα τελευταία δύο χρόνια, οι οικονομικές και εταιρικές φήμες αντιπροσώπευαν το υψηλότερο ποσοστό, φτάνοντας το 43,71%. το περασμένο έτος, οικονομικές και εταιρικές φήμες Ο ρυθμός αύξησης των φημών τεχνητής νοημοσύνης φτάνει το 99,91%, μεταξύ των οποίων βιομηχανίες όπως το φαγητό σε πακέτο και το γρήγορο delivery είναι οι πιο πλήγματες από τις φήμες τεχνητής νοημοσύνης.

Πόσο εύκολο είναι λοιπόν να χρησιμοποιήσετε την τεχνητή νοημοσύνη για να δημιουργήσετε μια ψευδή είδηση;

Ο ρεπόρτερ δοκίμασε μια ποικιλία δημοφιλών λογισμικών τεχνητής νοημοσύνης στην αγορά και διαπίστωσε ότι εφόσον δίνονται οι λέξεις-κλειδιά, μπορεί να δημιουργηθεί αμέσως μια "ρεπορτάζ ειδήσεων" σε λίγα δευτερόλεπτα, συμπεριλαμβανομένων των λεπτομερειών του περιστατικού, των σχολίων και των προβολών. -επάνω ενέργειες, κ.λπ. Προσθέστε την ώρα και τον τόπο, τις εικόνες και τη μουσική υπόκρουση και μια αναφορά ειδήσεων που φαίνεται αληθινή και ψεύτικη ολοκληρώνεται.

Ο δημοσιογράφος διαπίστωσε ότι πολλές φήμες που δημιουργήθηκαν από την τεχνητή νοημοσύνη αναμειγνύονταν με περιεχόμενο όπως "σύμφωνα με αναφορές", "τα αρμόδια τμήματα διεξάγουν εις βάθος έρευνες για την αιτία του ατυχήματος και λαμβάνουν μέτρα για την πραγματοποίηση έκτακτων επισκευών" και "υπενθυμίζοντας στον γενικό κοινό να δίνει προσοχή στην ασφάλεια στην καθημερινή ζωή". Οι άνθρωποι συχνά δυσκολεύονται να διακρίνουν την αυθεντικότητα μετά τη δημοσίευσή της στο διαδίκτυο.

Εκτός από τις ειδήσεις τεχνητής νοημοσύνης, τα δημοφιλή επιστημονικά άρθρα, τις εικόνες, τα βίντεο μεταγλώττισης και τις μιμητές φωνές μετά την αντικατάσταση προσώπου, όλα αυτά μπορούν να δημιουργηθούν με τη χρήση τεχνητής νοημοσύνης και την ενσωμάτωση κάποιου πραγματικού περιεχομένου.

Ο Ζενγκ Τσι, ερευνητής στο Κέντρο Δημοσιογραφίας και Κοινωνικής Ανάπτυξης στο Πανεπιστήμιο Ρενμίν της Κίνας, είπε ότι η φύση της «γεννητικής τεχνητής νοημοσύνης» έχει ισχυρή συγγένεια με τις φήμες και οι δύο «δημιουργούν πράγματα από το τίποτα» – δημιουργώντας πληροφορίες που φαίνονται πραγματικό και λογικό. Η τεχνητή νοημοσύνη έχει κάνει πιο απλή και πιο «επιστημονική» τη δημιουργία φημών.

"Οι διαδικτυακές πλατφόρμες μπορούν να χρησιμοποιήσουν την τεχνολογία AI για να ανιχνεύσουν αντίστροφα το μάτισμα εικόνων και βίντεο, αλλά είναι δύσκολο να λογοκρίνουμε το περιεχόμενο. Προς το παρόν, οι άνθρωποι δεν έχουν τη δυνατότητα να υποκλέψουν πλήρως τις φήμες, για να μην αναφέρουμε ότι υπάρχουν πολλά μη επαληθευμένα ή μη επαληθεύσιμες και διφορούμενες πληροφορίες», είπε ο Zeng Chi.

Παραποίηση για να κερδίσει κυκλοφορία

ύποπτος για πολλαπλά εγκλήματα

Η «αποτελεσματικότητα της δημιουργίας φημών» ορισμένων λογισμικών τεχνητής νοημοσύνης είναι εκπληκτική. Για παράδειγμα, υπάρχει ψεύτικο λογισμικό που μπορεί να δημιουργήσει 190.000 άρθρα την ημέρα.

Σύμφωνα με την αστυνομία της Xi'an που κατέσχεσε το λογισμικό, εξήγαγε τα άρθρα που αποθηκεύτηκαν από το λογισμικό για 7 ημέρες και διαπίστωσαν ότι ο συνολικός αριθμός ξεπέρασε το 1 εκατομμύριο, καλύπτοντας τρέχουσες ειδήσεις, κοινωνικά καυτά θέματα, κοινωνική ζωή και άλλες πτυχές. Οι χρήστες του λογαριασμού δημοσιεύουν αυτές τις «ειδήσεις» σε σχετικές πλατφόρμες με οργανωμένο τρόπο και στη συνέχεια χρησιμοποιούν το σύστημα επιβράβευσης επισκεψιμότητας της πλατφόρμας για να αποκομίσουν κέρδη. Προς το παρόν, οι λογαριασμοί που εμπλέκονται στην υπόθεση έχουν αποκλειστεί από την πλατφόρμα, ενώ το σχετικό λογισμικό και οι διακομιστές έχουν επίσης κλείσει. Η αστυνομία συνεχίζει να ερευνά την υπόθεση.

Πίσω από πολλά περιστατικά φημών τεχνητής νοημοσύνης, τα κίνητρα των φημών είναι κυρίως να εκτρέπουν την κυκλοφορία και να αποκομίζουν κέρδη.

«Χρησιμοποιήστε την τεχνητή νοημοσύνη για να δημιουργήσετε μαζική δημιουργία κειμένων και ξαφνικά θα γίνετε πλούσιοι ο μεμονωμένος αριθμός μπορεί εύκολα να παράγει 500+ την ημέρα Λειτουργία πολλών λογαριασμών, οι αρχάριοι μπορούν εύκολα να ξεκινήσουν»... Η αναζήτηση του ρεπόρτερ διαπίστωσε ότι υπάρχουν παρόμοια άρθρα «πλουτισμού» που κυκλοφορούν σε πολλές πλατφόρμες κοινωνικής δικτύωσης και υπάρχουν πολλοί μπλόγκερ που πιέζουν. τους στην περιοχή σχολίων.

Τον Φεβρουάριο του τρέχοντος έτους, το Γραφείο Δημόσιας Ασφάλειας της Σαγκάης ανακάλυψε ότι ένα σύντομο βίντεο ενός καλλιτέχνη «δυστυχισμένου και πέθανε με λύπη» εμφανίστηκε σε μια πλατφόρμα ηλεκτρονικού εμπορίου, το οποίο προσέλκυσε μεγάλο αριθμό likes και αναδημοσιεύσεων.

Μετά από έρευνα διαπιστώθηκε ότι το περιεχόμενο του βίντεο ήταν πλαστό. Αφού ο εκδότης του βίντεο έφτασε στην υπόθεση, ομολόγησε ότι διατηρούσε ένα ηλεκτρονικό κατάστημα για τοπικές σπεσιαλιτέ σε μια πλατφόρμα ηλεκτρονικού εμπορίου. Λόγω των κακών πωλήσεων, δημιούργησε εντυπωσιακές ψευδείς ειδήσεις για να προσελκύσει επισκεψιμότητα στον λογαριασμό του στο ηλεκτρονικό του κατάστημα. Δεν ξέρει πώς να επεξεργάζεται βίντεο, επομένως χρησιμοποιεί τεχνολογία AI για να δημιουργήσει κείμενο και βίντεο.

Ο Zhang Qiang, συνεργάτης στο Beijing Yinghe Law Firm, είπε στους δημοσιογράφους ότι η χρήση τεχνητής νοημοσύνης για την κατασκευή διαδικτυακών φημών, ειδικά η κατασκευή και σκόπιμη διάδοση ψευδών κινδύνων, επιδημιών, καταστροφών και αστυνομικών πληροφοριών, μπορεί να θεωρηθεί ύποπτος για το έγκλημα της κατασκευής και της εσκεμμένης διάδοσης ψευδών πληροφοριών. σύμφωνα με το ποινικό δίκαιο. Εάν επηρεάζει τη φήμη ενός ατόμου ή μιας εταιρείας, μπορεί να θεωρηθεί ύποπτος για εγκληματική δυσφήμιση και βλάβη στην επιχειρηματική αξιοπιστία και φήμη. Εάν επηρεάζει τις συναλλαγές μετοχών και συμβολαίων μελλοντικής εκπλήρωσης και διαταράσσει την αγορά συναλλαγών, μπορεί να θεωρηθεί ύποπτο για κατασκευή και διάδοση ψευδών πληροφοριών σχετικά με τις συναλλαγές τίτλων και συμβολαίων μελλοντικής εκπλήρωσης σύμφωνα με το ποινικό δίκαιο.

Συνεχίστε να βελτιώνετε τον μηχανισμό διάψευσης φημών

Επισημάνετε με σαφήνεια το συνθετικό περιεχόμενο

Προκειμένου να ελεγχθεί η απάτη και το χάος της τεχνητής νοημοσύνης και να εμβαθύνει η διακυβέρνηση του διαδικτυακού οικοσυστήματος, τα σχετικά τμήματα και πλατφόρμες έχουν εισαγάγει μια σειρά από πολιτικές και μέτρα τα τελευταία χρόνια.

Ήδη από το 2022, η Διοίκηση Κυβερνοχώρου της Κίνας και άλλοι εξέδωσαν τους «Κανονισμούς για τη Διαχείριση Βαθιάς Σύνθεσης Υπηρεσιών Πληροφοριών Διαδικτύου», ο οποίος ορίζει ότι κανένας οργανισμός ή άτομο δεν μπορεί να χρησιμοποιεί υπηρεσίες βαθιάς σύνθεσης για την παραγωγή, αντιγραφή, δημοσίευση ή διάδοση πληροφοριών απαγορεύεται από νόμους και διοικητικούς κανονισμούς Οι υπηρεσίες Deep synthesis εμπλέκονται σε δραστηριότητες που απαγορεύονται από νόμους και διοικητικούς κανονισμούς, όπως θέτουν σε κίνδυνο την εθνική ασφάλεια και συμφέροντα, βλάπτουν την εικόνα της χώρας, προσβάλλουν κοινωνικά και δημόσια συμφέροντα, διαταράσσουν την οικονομική και κοινωνική τάξη, παραβιάζουν τα νόμιμα δικαιώματα. και συμφέροντα άλλων, κ.λπ. Οι πάροχοι και οι χρήστες υπηρεσιών Deep synthesis δεν επιτρέπεται να χρησιμοποιούν υπηρεσίες βαθιάς σύνθεσης για την παραγωγή, αντιγραφή, δημοσίευση ή διάδοση ψευδών πληροφοριών.

Τον Απρίλιο του τρέχοντος έτους, η Γραμματεία της Κεντρικής Επιτροπής Υποθέσεων Κυβερνοχώρου εξέδωσε την «Ειδοποίηση για τη Διεξαγωγή της Ειδικής Δράσης «Καθαρισμός και διόρθωση της απεριόριστης άφθονης επισκεψιμότητας «Αυτομέσα», απαιτώντας την ενίσχυση της επισήμανσης και της εμφάνισης των πηγών πληροφοριών . Εάν οι πληροφορίες δημιουργούνται με χρήση τεχνολογιών όπως η τεχνητή νοημοσύνη, πρέπει να επισημαίνονται με σαφήνεια ότι δημιουργούνται από την τεχνολογία. Οποιοδήποτε περιεχόμενο περιέχει μυθοπλασία, αφαίρεση κ.λπ. πρέπει να χαρακτηρίζεται σαφώς ως μυθοπλασία.

Για περιεχόμενο που είναι ύποπτο ότι χρησιμοποιεί τεχνολογία AI, ορισμένες πλατφόρμες θα δημοσιεύσουν μια υπενθύμιση παρακάτω ότι "το περιεχόμενο είναι ύποπτο ότι δημιουργείται από AI, παρακαλούμε ελέγξτε προσεκτικά" και θα προσθέσουν σαφώς μια ετικέτα φαντασίας σε περιεχόμενο που περιέχει μυθοπλασία, αφαίρεση κ.λπ. ., και να λάβει «μέτρα» για την απαγόρευση παράνομων λογαριασμών» και άλλα μέτρα. Ορισμένοι μεγάλοι προγραμματιστές μοντέλων δήλωσαν επίσης ότι θα υδατογραφήσουν το περιεχόμενο που δημιουργείται μέσω μεγάλων μοντέλων μέσω ρυθμίσεων παρασκηνίου για την ενημέρωση των χρηστών.

Κατά την άποψη του Zhang Qiang, οι άνθρωποι εξακολουθούν να μην έχουν αρκετή κατανόηση της γενετικής τεχνητής νοημοσύνης και δεν έχουν εμπειρία στην αντιμετώπισή της. Σε αυτή την περίπτωση, είναι πολύ απαραίτητο να υπενθυμίσουμε στους ανθρώπους μέσω των μέσων ενημέρωσης να δώσουν προσοχή στον έλεγχο των πληροφοριών AI. Ταυτόχρονα, είναι απαραίτητο να αυξηθούν οι προσπάθειες αντίδρασης σε επίπεδο επιβολής του νόμου και να διερευνηθούν άμεσα και να διορθωθούν συμπεριφορές όπως φήμες και απάτες μέσω τεχνητής νοημοσύνης.

Ο Zheng Ning, διευθυντής του Νομικού Τμήματος του School of Cultural Industry Management of Communication University of China, πιστεύει ότι ο υφιστάμενος μηχανισμός διάψευσης φημών θα πρέπει να βελτιωθεί περαιτέρω Μόλις αναγνωριστεί μια πληροφορία ως φήμη, θα πρέπει να επισημανθεί αμέσως ώθησε ξανά στους χρήστες που περιηγήθηκαν τη φήμη για να διαψεύσουν τη φήμη.

Αξίζει να σημειωθεί ότι ορισμένοι άνθρωποι μπορεί να μην έχουν καμία υποκειμενική επίγνωση της διάδοσης φημών, αλλά απλώς δημοσιεύουν περιεχόμενο που συντίθεται με τεχνητή νοημοσύνη στο Διαδίκτυο. Ως αποτέλεσμα, αναδημοσιεύεται σε μεγάλους αριθμούς και πολλοί άνθρωποι το πιστεύουν, προκαλώντας έτσι κακό.

Από αυτή την άποψη, ο Zeng πιστεύει ότι ο απλούστερος τρόπος για να το αποτρέψετε είναι η διαμόρφωση κανονισμών μέσω σχετικών τμημάτων ή πλατφορμών και όλο το περιεχόμενο που συντίθεται με τεχνητή νοημοσύνη πρέπει να επισημαίνεται με "αυτή η εικόνα/βίντεο έχει συντεθεί με AI".