νέα

"Πριν από λίγο καιρό, κάποιος έστειλε ένα ιδιωτικό μήνυμα λέγοντας ότι είδαν τη φωτογραφία μου και με ρώτησε αν μπορώ να απαντήσω στο τηλέφωνο ιδιωτικά. Έψαξα προσεκτικά και βρήκα ότι η λεγόμενη φωτογραφία συντέθηκε από την AI, αφού το βίωσα αυτό." Ο Κ (ψευδώνυμο) εξακολουθεί να έχει παρατεταμένους φόβους.

Τα τελευταία χρόνια, η τεχνολογία AI έχει μπει σταδιακά στη ζωή περισσότερων ανθρώπων, αλλά μερικοί άνθρωποι με λανθασμένες ιδέες έχουν δει και επιχειρηματικές ευκαιρίες. Μια έρευνα από τον ρεπόρτερ του Beijing News Shell Finance διαπίστωσε ότι αυτή τη στιγμή υπάρχουν πολλές ομάδες φωτογραφιών «γδύνοντας AI» που πωλούν διασημότητες και ηθοποιούς του Διαδικτύου στην πλατφόρμα ασπρόμαυρων προϊόντων. Σύμφωνα με επαγγελματίες του μαύρου και του γκρίζου κλάδου, 5 γιουάν μπορούν να "αφαιρέσουν τα ρούχα" και 20 γιουάν μπορούν να επιτύχουν "αλλαγή προσώπου βίντεο". Σε αυτήν την αλυσίδα του κλάδου, υπάρχουν επίσης επαγγελματίες που προσελκύουν επισκεψιμότητα μέσω εντυπωσιακών φωτογραφιών και στη συνέχεια αποκομίζουν κέρδη μέσω των υπηρεσιών "ομάδας μελών". Επιπλέον, υπάρχουν συντάκτες βίντεο σε πλατφόρμες όπως το Bilibili και το Xiaohongshu που τραβούν την προσοχή με τίτλους όπως το "AI Undressing Tutorial".

Από την άποψη αυτή, ο Zhao Hu, συνεργάτης στο Beijing Zhongwen Law Firm, είπε ότι η πώληση φωτογραφιών με γδύσιμο τεχνητής νοημοσύνης ή αλλαγή προσώπου με τεχνητή νοημοσύνη θα παραβίαζε τις διατάξεις του νόμου περί τιμωρίας της δημόσιας ασφάλειας και οι δράστες θα αντιμετωπίσουν διοικητικές κυρώσεις κράτησης ή πρόστιμα , και μπορεί επίσης να θεωρηθεί ποινικά υπεύθυνος. Εάν οι φωτογραφίες δεν πωληθούν αλλά απλώς διαδοθούν, εάν οι συνθήκες είναι σοβαρές, θα εξακολουθεί να αποτελεί το αδίκημα της διάδοσης άσεμνων υλικών και θα διερευνάται για την αντίστοιχη ποινική ευθύνη σύμφωνα με το νόμο. Η διδασκαλία της τεχνολογίας είναι ύποπτη για υποβοήθηση ή υποκίνηση εγκλημάτων. Επιπλέον, οι ενέργειες αφαίρεσης ρούχων με τεχνητή νοημοσύνη και αλλαγής προσώπου με τεχνητή νοημοσύνη που πραγματοποιήθηκαν από τους δράστες συνεπάγονται επίσης παραβίαση προσωπικών δεδομένων πολιτών.

«Δεν υπάρχει ουσιαστική διαφορά μεταξύ της χρήσης τεχνητής νοημοσύνης για βαθιά πλαστογραφία και της παραδοσιακής τεχνικής πλαστογραφίας, αλλά η αποτελεσματικότητα είναι πολύ υψηλότερη από τις παραδοσιακές μεθόδους πλαστογραφίας και το τεχνικό όριο είναι πολύ χαμηλότερο, καθιστώντας εύκολο για τους απλούς ανθρώπους να το επιτύχουν Η βαθιά πλαστογραφία θα κατακλύσει περαιτέρω το Διαδίκτυο." Ο Pei Zhiyong, διευθυντής του Industry Security Research Center του Qi'anxin Group, είπε στον δημοσιογράφο του Beijing News Shell Finance ότι η τεχνολογία κατά της παραχάραξης για φωτογραφίες και βίντεο πρέπει να διερευνηθεί και να προωθηθεί ενεργά.

Διασημότητες του Διαδικτύου πολλαπλών πλατφορμών συναντούν «γδύσιμο» για να προσελκύσουν επισκεψιμότητα: προσαρμοσμένες φωτογραφίες 5 γιουάν

Μετά από μια απλή έρευνα, ο Little K βρήκε τελικά την πηγή της διαρροής των φωτογραφιών του: κάποιος χρησιμοποίησε τις φωτογραφίες του "AI undressing" για να προσελκύσει επισκεψιμότητα σε ξένες κοινωνικές πλατφόρμες και πορνογραφικούς ιστότοπους και να πουλήσει υπηρεσίες επεξεργασίας εικόνων AI.

Η εμπειρία του Little K δεν είναι μοναδική. Ήδη από τον Μάρτιο του περασμένου έτους, μια φωτογραφία που τραβήχτηκε από έναν blogger Xiaohongshu στο μετρό «γδύθηκε» από την τεχνητή νοημοσύνη και διαδόθηκε σε μια ομάδα WeChat. Στην ενότητα σχολίων αυτού του blogger, πολλές γυναίκες παραπονέθηκαν για παρόμοιες εμπειρίες, συμπάσχοντας μεταξύ τους και ανίκανες να κρύψουν τα συναισθήματά τους.

Οι ρεπόρτερ της Shell Finance έψαξαν για ενδείξεις και βρήκαν έναν πωλητή που ασχολείται με το "AI stripping". Το άλλο μέρος είπε ότι εάν παρέχετε οποιαδήποτε φωτογραφία, μπορείτε να παρέχετε μια υπηρεσία "αφαίρεσης ρούχων" για άλλα 5 γιουάν, εάν η φωτογραφία δεν μπορεί να επιτύχει το αποτέλεσμα, επικοινωνήστε μαζί μας για να αλλάξετε τη φωτογραφία. Επιπλέον, μπορείτε επίσης να λάβετε "video face-changing" για 20 γιουάν.

Ο πωλητής είπε: «Υπήρξαν πάρα πολλές παραγγελίες «γδύσιμο» πρόσφατα και δεν μπορώ καν να μπω στον κόπο να κάνω μια αλλαγή προσώπου».

Στιγμιότυπο του ιστορικού συνομιλίας μεταξύ του ρεπόρτερ του Beijing News Shell Finance και του πωλητή "AI stripping".

Η κατάχρηση της τεχνολογίας "γδύσιμο AI" στην πορνογραφία μπορεί να εντοπιστεί σε ένα λογισμικό που κυκλοφόρησε στο εξωτερικό το 2020. Λόγω διαμάχης, αφαιρέθηκε γρήγορα από τα ράφια από τον προγραμματιστή. Παρόλα αυτά, αυτή η τεχνολογία εξακολουθεί να χρησιμοποιείται από ορισμένους εγκληματίες για να βγάλουν χρήματα.

Τον Ιούνιο του τρέχοντος έτους, η αστυνομία του Πεκίνου ερεύνησε μια υπόθεση κατά την οποία ένας τεχνικός που κάποτε εργαζόταν για μια εταιρεία Διαδικτύου ισχυρίστηκε ότι «η τεχνητή νοημοσύνη υπολογιστή μπορεί να αφαιρέσει ρούχα σε τιμή ευκαιρίας» και «μπορεί να χρησιμοποιηθεί από ανθρώπους γύρω σας, διασημότητες του Διαδικτύου και διασημότητες ", και κέρδισε επιπλέον χρήματα με αυτόν τον τρόπο. Κάθε φωτογραφία φωτογραφίας κοστίζει μόνο 1,50 $. Πούλησε σχετικές φωτογραφίες σε 351 άτομα μέσω του Διαδικτύου, με συνολικά σχεδόν 7.000 φωτογραφίες. Τελικά, διώχθηκε από την Εισαγγελία της Περιφέρειας Haidian του Πεκίνου για διανομή άσεμνου υλικού με σκοπό το κέρδος.

Μια έρευνα από έναν δημοσιογράφο από τη Shell Finance διαπίστωσε ότι το "AI undressing" έχει πλέον σχηματίσει μια αλυσίδα βιομηχανίας, συμπεριλαμβανομένης της πώλησης ψεύτικων εικόνων με τεχνητή νοημοσύνη, πληρωμένων "P-pictures" κανονικών φωτογραφιών με τεχνητή νοημοσύνη και διδασκαλίας "τεχνικών" για την επίτευξη γδύσιμο .

Επιπλέον, τα μαύρα και γκρι προϊόντα έχουν ήδη στοχεύσει γνωστές προσωπικότητες, όπως γυναίκες διασημότητες του Διαδικτύου και γυναίκες διασημότητες, και το "AI stripping" έχει γίνει κωδικός πρόσβασης για την κυκλοφορία.

Οι δημοσιογράφοι της Shell Finance ανακάλυψαν σε μια ασπρόμαυρη πλατφόρμα προϊόντων που ονομάζεται "Internet Celebrity XX's Clothing Exchange Group" ότι η ομάδα έχει σχεδόν 15.000 μέλη, συμπεριλαμβανομένων των Douyin, Bilibili, Weibo και Xiaohongshu απογυμνώνονται οι ίδιοι.

Οι δημοσιογράφοι της Shell Finance παρατήρησαν ότι αυτή η ομάδα αρχικά εκτέλεσε μόνο το "AI stripping" σε ορισμένες φωτογραφίες καλλονών διασημοτήτων του Διαδικτύου και αργότερα σταδιακά επεκτάθηκε στους ψυχαγωγικούς και αθλητικούς κύκλους. Η μέθοδος δημιουργίας κέρδους αυτού του τύπου "ομάδας επικοινωνίας" είναι επίσης σχετικά απλή.

Ο Bilibili και ο Xiaohongshu εξακολουθούν να έχουν "εκπαιδευτικά μαθήματα γδύσιμο AI" Δικηγόρος: Η διδασκαλία της τεχνολογίας μπορεί να αποτελεί βοηθητικό έγκλημα

Ο δημοσιογράφος διαπίστωσε ότι μετά την ωρίμανση της τεχνολογίας μοντέλων δημιουργίας τεχνητής νοημοσύνης, η αντίστοιχη ικανότητα «ξεγυμνώματος με ένα κλικ» «αναπτύχθηκε» από χρήστες του Διαδικτύου από ένα γνωστό ξένο μοντέλο δημιουργίας τεχνητής νοημοσύνης ανοιχτού κώδικα και σταδιακά έγινε ευρέως διαδεδομένη. Αν και με τη βελτίωση των ρυθμιστικών κανόνων σε διάφορες χώρες, το μεγάλο μοντέλο έχει αναθεωρήσει οδηγίες όπως το «γδύσιμο». Ωστόσο, οι ρεπόρτερ της Shell Finance έψαξαν στο Bilibili και στο Xiaohongshu και διαπίστωσαν ότι υπάρχουν ακόμα μερικά βίντεο "εκμάθησης τεχνητής νοημοσύνης" Παρόλο που ορισμένα είναι στην πραγματικότητα "αλλάζουν ρούχα" με τεχνητή νοημοσύνη, αυτό σημαίνει επίσης ότι αυτός ο τύπος τεχνολογίας εξακολουθεί να είναι αχαλίνωτος.

Ο δημοσιογράφος έψαξε τα αποτελέσματα σε έναν ιστότοπο βίντεο χρησιμοποιώντας σχετικές λέξεις-κλειδιά, όπως "Αγδύσιμο AI".

Από αυτή την άποψη, πολλές εγχώριες διασημότητες του Διαδικτύου είναι αρκετά αβοήθητοι. Τον Μάιο του περασμένου έτους, μια δημοφιλής γυναίκα blogger με περισσότερους από 500.000 ακόλουθους δημοσίευσε μια καταγγελία: «Πολλοί άνθρωποι έχουν βιώσει φωτογραφίες να κλαπούν και να τοποθετηθούν σε εξωτερικά δίκτυα για να προσελκύσουν επισκεψιμότητα και να «πουλήσουν βίντεο», καθώς και να τοποθετήσουν φωτογραφίες και άλλες πορνογραφικές εικόνες Οι άνθρωποι με διορατικότητα μπορούν να πουν ότι αυτές οι φήμες χαμηλού επιπέδου είναι ψευδείς με μια ματιά. Συνήθως δεν τους δίνω σημασία έπρεπε να διαψεύσει τις φήμες».

Ο Ζάο Χου είπε στους δημοσιογράφους της Shell Finance ότι η πώληση φωτογραφιών με τεχνητή νοημοσύνη που γδύνεται ή αλλάζει πρόσωπα παραβιάζει τις διατάξεις του νόμου περί τιμωρίας της δημόσιας ασφάλειας της Διοίκησης της Τεχνητής Νοημοσύνης έναντι αμοιβής μπορεί να συνιστά έγκλημα δημιουργίας και πώλησης πορνογραφικού υλικού για κέρδος. Εάν οι φωτογραφίες δεν πωληθούν αλλά μόνο διαδοθούν, εάν οι συνθήκες είναι σοβαρές, θα εξακολουθεί να αποτελεί το έγκλημα της διανομής άσεμνου υλικού. Η τεχνολογία διδασκαλίας μπορεί να συνιστά έγκλημα υποβοήθησης ή συνέργειας.

«Η παροχή βοήθειας για την «προσαρμογή» των εικόνων απογύμνωσης της τεχνητής νοημοσύνης μπορεί να συνιστά το έγκλημα της παραγωγής, αντιγραφής, δημοσίευσης, πώλησης και διάδοσης άσεμνου υλικού με σκοπό το κέρδος, ο Zhao Hu είπε ότι η συμπεριφορά της τεχνητής νοημοσύνης που αφαιρεί τα ρούχα και την αλλαγή του προσώπου της τεχνητής νοημοσύνης συνεπάγεται επίσης παραβίαση του προσώπου». προσωπικά στοιχεία των πολιτών. Μόλις αυτές οι πληροφορίες διαρρεύσουν ή χρησιμοποιηθούν κατάχρηση, θα αποτελέσουν σοβαρή απειλή για το προσωπικό απόρρητο και την ασφάλεια.

"Πρέπει να είναι ξεκάθαρο ότι η χρήση εργαλείων τεχνητής νοημοσύνης για πλαστογραφία είναι πολύ πιο αποτελεσματική από τις παραδοσιακές μεθόδους απομίμησης, αλλά το τεχνικό όριο είναι πολύ χαμηλότερο. Όπως λέει και η παροιμία, αν ξεκινήσετε μια φήμη, θα χάσετε τα πόδια σας αν τη διαψεύσετε." Ο Pei Zhiyong είπε στο Shell Finance Reporters, επί του παρόντος, τα βαθιά ψεύτικα βίντεο και οι εικόνες AI μπορούν να εντοπιστούν μέσω επαγγελματικών τεχνικών μέσων ή αξιολόγησης από ειδικούς, αλλά το κόστος είναι επίσης πολύ υψηλό: «Με τη συνεχή πρόοδο της τεχνολογίας, είναι αναπόφευκτο η αυθεντικότητα της τεχνητής νοημοσύνης. Τα βίντεο που δημιουργούνται ή συντίθενται δεν μπορούν να επαληθευτούν."

Κατά την άποψή του, αν και δεν είναι ρεαλιστικό να εμποδίζουμε τους ανθρώπους να χρησιμοποιούν τεχνητή νοημοσύνη για τη δημιουργία ψεύτικων βίντεο ή εικόνων, δεν σημαίνει ότι δεν υπάρχει τίποτα να κάνουμε με πλαστά βίντεο ή εικόνες. «Η χώρα έχει πολύ ώριμες μεθόδους διαχείρισης για διαδικτυακά πορνογραφικά βίντεο και εικόνες, ακόμα κι αν η τεχνολογία δεν μπορεί να χρησιμοποιηθεί για τον προσδιορισμό της αυθεντικότητας μιας εικόνας, μπορεί να αποτρέψει τη διάδοση πορνογραφικού περιεχομένου από την πλευρά της πλατφόρμας, να εντοπίσει την πηγή της διάδοσης πορνογραφικού υλικού. περιεχόμενο και να προβεί σε καταστολές».

Ο Pei Zhiyong είπε ότι οι πλατφόρμες Διαδικτύου δεν μπορούν να επιδιώξουν την κυκλοφορία μονόπλευρα, αλλά θα πρέπει να συμμετέχουν ενεργά στη διακυβέρνηση του δικτύου υπό την καθοδήγηση των αντίστοιχων νόμων και να περιορίζουν αποτελεσματικά το εύρος της διάδοσης των σχετικών πληροφοριών μείωση του κινδύνου παραπλάνησης του κοινού.

Ο Pei Zhiyong πιστεύει ότι η τεχνολογία κατά της παραχάραξης για φωτογραφίες και βίντεο θα πρέπει να διερευνηθεί και να προωθηθεί ενεργά «Για παράδειγμα, εάν ένα συγκεκριμένο κινητό τηλέφωνο συγκεκριμένης μάρκας, μοντέλου και σειριακού αριθμού χρησιμοποιείται για τη λήψη μιας φωτογραφίας, το αρχείο φωτογραφιών θα έχει. Μια συμβολοσειρά κειμένου που είναι αόρατη με γυμνό μάτι, αλλά μπορεί να αναγνωριστεί από το μηχάνημα. Αυτή η μέθοδος δεν είναι μια νέα τεχνολογία, αλλά απαιτεί ώριμη τεχνολογία κρυπτογράφησης.

Ο Sun Yue, ιδρυτής και CTO της Beijing Core Shield Times Technology Co., Ltd., είπε σε μια συνέντευξη με δημοσιογράφο από τη Shell Finance ότι η τεχνολογία βαθιάς πλαστογραφίας είναι αχαλίνωτη και τα βιομετρικά χαρακτηριστικά όπως οι φωνές και τα πρόσωπα έχουν χάσει την αρχική τους υψηλή εμπιστοσύνη ιδιότητες ελέγχου ταυτότητας. Εάν θέλετε να αποτρέψετε τη βλάβη που προκαλείται από την τεχνολογία, συνιστάται οι κύριες πλατφόρμες συστημάτων να ενισχύουν τον έλεγχο ταυτότητας των συστημάτων εφαρμογών Πρέπει να εφαρμοστούν ισχυρά μέτρα ελέγχου ταυτότητας για να αντισταθείτε στον κίνδυνο πλαστογράφησης ταυτότητας, κάτι που μπορεί να επιτευχθεί μέσω της ταυτότητας πολλαπλών παραγόντων. έλεγχος ταυτότητας, επίγνωση κινδύνου τερματικού, ανάλυση μεγάλων δεδομένων κ.λπ. Η τεχνολογία προϊόντων, σε συνδυασμό με μοντελοποίηση συμπεριφοράς χρήστη, αιτιώδη συναγωγή γραφήματος γνώσης και άλλα μέσα, μπορεί να αντισταθεί αποτελεσματικά στους κινδύνους ταυτότητας που προκαλούνται από βαθιά πλαστογραφία.

«Στο μέλλον, για την υγιή ανάπτυξη της τεχνητής νοημοσύνης, προκειμένου να αντιμετωπιστούν οι κίνδυνοι που προκύπτουν από την τεχνολογία βαθιάς πλαστογραφίας, πρώτα από όλα, η κυβέρνηση και οι ρυθμιστικοί φορείς του κλάδου θα πρέπει να βελτιώσουν ενεργά τους σχετικούς νόμους και κανονισμούς Δεύτερον, να αυξήσουν την έρευνα και ανάπτυξη Επιπλέον, τα σχετικά τμήματα και τα μέσα ενημέρωσης θα πρέπει να αυξήσουν την προπαγάνδα κατά της απάτης, να βελτιώσουν την ευαισθητοποίηση των πολιτών για την ασφάλεια και να εργαστούν από κοινού για την προστασία της προσωπικής ασφάλειας των ανθρώπων. », είπε ο Sun Yue στους δημοσιογράφους της Shell Finance.

Διεύθυνση ηλεκτρονικού ταχυδρομείου επικοινωνίας με τον δημοσιογράφο: [email protected]

Ο δημοσιογράφος του Beijing News Shell Finance, Luo Yidan, συντάκτης Wang Jinyu, διορθώνει τον Yang Li