νέα

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

το πρόσφατο περιστατικό «room n 2.0» στη νότια κορέα έφερε για άλλη μια φορά το κοινότοπο θέμα του deepfake στο προσκήνιο.

οι δράστες συγκεντρώθηκαν στο telegram και χρησιμοποίησαν τεχνητή νοημοσύνη για να συνθέσουν γυναικείες φωτογραφίες σε γυμνές φωτογραφίες, κάτι που δείχνει ότι ο κύκλος των deepfakes έχει ήδη επεκταθεί από αστέρια του θεάματος και πολιτικούς σε απλούς ανθρώπους όπως εσείς και εγώ.

σε αυτήν την εποχή που η τεχνητή νοημοσύνη έχει γίνει μια εξέχουσα επιστήμη, θέλουμε να καταλάβουμε πώς αυτή η τεχνολογία, η οποία δεν φαίνεται νέα αλλά έχει γίνει ολοένα και πιο δημοφιλής τα τελευταία χρόνια, επηρεάζει την καθημερινή ζωή.

σε ποιο βαθμό έχουν εξελιχθεί τα deepfakes και τι κακό θα προκαλέσουν; πώς να χρησιμοποιήσετε την τεχνολογία για την καταπολέμηση του deepfake; πώς προλαμβάνουν οι απλοί άνθρωποι τα deepfakes;

μιλήσαμε για αυτά τα θέματα με τον δρ chen peng, επιστήμονα στο ruilai intelligent algorithm. η ruilai wisdom ιδρύθηκε το 2018 και επωάστηκε από το ινστιτούτο ερευνών τεχνητής νοημοσύνης του πανεπιστημίου tsinghua.

ο chen peng μας είπε ότι οι απλοί άνθρωποι έχουν αποτύχει παταγωδώς στην αναγνώριση του deepfake και ότι το anti-deepfake εξακολουθεί να εξαρτάται από την τεχνητή νοημοσύνη.

μια φωτογραφία, λίγα δευτερόλεπτα, το deepfake γίνεται όλο και πιο εύκολο

το deepfake εμφανίστηκε για πρώτη φορά το 2017 στο reddit, την «αμερικανική εκδοχή του tieba».

σήμερα, η διάδοση φημών και η ενασχόληση με την πορνογραφία εξακολουθούν να είναι οι κύριες χρήσεις των deepfakes, αλλά μόλις έγιναν ευκολότερες.

ο chen peng εξήγησε ότι η συλλογή μιας φωτογραφίας είναι αρκετή για να αλλάξει το πρόσωπο. φυσικά, όσο περισσότερα δεδομένα συλλέγονται, οι λεπτομέρειες του προσώπου, όπως οι κρεατοελιές και τα χαρακτηριστικά του προσώπου, θα διαμορφώνονται καλύτερα και τόσο πιο ρεαλιστικό θα είναι το αποτέλεσμα που αλλάζει το πρόσωπο. .

τον απρίλιο του τρέχοντος έτους, το έργο performance art δύο γερμανών καλλιτεχνών είναι ένα ζωντανό παράδειγμα.

σχεδίασαν μια κάμερα τεχνητής νοημοσύνης nuca το σώμα της κάμερας είναι 3d εκτυπωμένο και έχει ενσωματωμένο ευρυγώνιο φακό 37 mm. να "βγάλετε" σε λιγότερο από 10 δευτερόλεπτα.

η nuca στην πραγματικότητα δεν ξέρει πώς μοιάζει το γυμνό σώμα σας. αναλύει μόνο το φύλο, το πρόσωπο, την ηλικία, το σχήμα του σώματός σας κ.λπ. για να παρουσιάσει το γυμνό σας σώμα στα μάτια της τεχνητής νοημοσύνης.

τραχύς; ίσως δεν πειράζει σε λίγα δευτερόλεπτα, έχετε εκτεθεί στην τεχνητή νοημοσύνη και άλλοι μπορεί να πιστέψουν ότι είστε εσείς.

το "room n 2.0" της νότιας κορέας έχει επίσης εκτεθεί με παρόμοιες λεπτομέρειες: ένα δωμάτιο συνομιλίας στο telegram με 227.000 άτομα, ένα ενσωματωμένο ρομπότ που συνθέτει γυναικείες φωτογραφίες σε γυμνές φωτογραφίες και μπορεί να προσαρμόσει το στήθος και δημιουργεί βαθύ ψεύτικο περιεχόμενο σε 5 έως 7 δευτερόλεπτα.

▲ στιγμιότυπο οθόνης του chat room, που εξηγεί πώς να χρησιμοποιήσετε το deepfake

το να αλλάζετε πρόσωπα και να βγάζετε ρούχα είναι μόνο μία εφαρμογή του deepfake.

η χρήση μοντέλων τεχνητής νοημοσύνης (gan, vae, μοντέλο διάχυσης κ.λπ.) για τη σύνθεση ή τη δημιουργία ρεαλιστικού περιεχομένου, συμπεριλαμβανομένων κειμένου, εικόνων, ήχου και βίντεο, μπορεί να ονομαστεί deepfake.

μεταξύ αυτών, το audio deepfake είναι επίσης αρκετά κοινό.

στις αρχές του 2023, ο τεχνολογικός ρεπόρτερ τζόζεφ κοξ κάλεσε την αυτοματοποιημένη τηλεφωνική γραμμή εξυπηρέτησης της τράπεζας, έπαιξε τη φωνή ai «my voice is my password» που κλωνοποιήθηκε από την elevenlabs και ζήτησε να ελέγξει την ισορροπία.

ο chen peng είπε ότι αυτό δεν προκαλεί έκπληξη στο παρελθόν, χρειάζονταν αρκετά λεπτά ή δεκάδες λεπτά για να καταγράψουμε τις πληροφορίες του φωνητικού αποτυπώματος μας, αλλά τώρα μπορούν να ληφθούν χονδρικά σε μισό λεπτό ή σε δεκάδες δευτερόλεπτα. εάν λάβουμε μερικές ακόμη ενοχλητικές κλήσεις, οι φωνές μας μπορεί να διαρρεύσουν.

φυσικά, εάν θέλετε να κάνετε κλωνοποίηση με μεγαλύτερη ακρίβεια και να αντιγράψετε τον τόνο και άλλα στυλ ομιλίας, όπως να αφήσετε τον guo degang να μιλήσει στα αγγλικά ή να αφήσετε τη swift να μιλήσει κινέζικα, χρειάζεστε ακόμα περισσότερο υλικό.

ακόμη και το κείμενο είναι ένας τομέας που είναι βαθιά παραποιημένος. κείμενο που δημιουργείται από την τεχνητή νοημοσύνη υπάρχει εδώ και πολύ καιρό παντού και έχει χρησιμοποιηθεί από μαθητές για να εξαπατήσουν και να αντιμετωπίσουν την εργασία τους, προκαλώντας πονοκεφάλους στους δασκάλους, αλλά μπορεί να μην γνωρίζουμε τους κινδύνους πίσω από αυτό.

οι ψευδείς ειδήσεις και οι φήμες είναι οι περιοχές που επλήγησαν περισσότερο για το deepfake κειμένου, ο chen peng είπε ότι στο παρελθόν, οι άνθρωποι χρειάζονταν ακόμα να γράψουν το αντίγραφο μόνοι τους, αλλά τώρα, η τεχνητή νοημοσύνη μπορεί να δημιουργήσει διάφορα σχόλια για ένα συγκεκριμένο γεγονός και στη συνέχεια να τα δημοσιεύσει αυτόματα στα μέσα κοινωνικής δικτύωσης. .

το deepfake είναι πιο γρήγορο και απλούστερο σύμφωνα με τον chen peng, υπάρχουν τρεις κύριοι λόγοι.

πρώτον, υπήρξαν ανακαλύψεις σε τεχνολογίες τεχνητής νοημοσύνης που δημιουργούνται, όπως το vincent pictures και το vincent videos.

ένα άλλο πολύ σημαντικό σημείο είναι ότι η τεχνολογία deepfake έχει βελτιστοποιηθεί σε διάφορα εργαλεία με χαμηλότερα όρια.

πάρτε για παράδειγμα την αλλαγή προσώπου υπάρχουν πολλά έργα ανοιχτού κώδικα για το deepfake, όπως το deepfacelive και το deep-live-cam στο github.

▲ ai musk ζωντανή μετάδοση, χρησιμοποιώντας deep-live-cam

εάν οι αρχάριοι που δεν καταλαβαίνουν την τεχνολογία εξακολουθούν να δυσκολεύονται, υπάρχουν επίσης επαγγελματίες που βάζουν το ρύζι κατευθείαν στο στόμα τους, ενσωματώνουν τα μοντέλα και γράφουν απλό και εύχρηστο λογισμικό για να το κατεβάσουν οι παίκτες δωρεάν και κερδίζουν μερικά διαφημιστικά τέλη από μόνα τους, συμπεριλαμβανομένων πολλών εφαρμογών με ένα κλικ για απογύμνωση.

όσον αφορά το audio deepfake, υπάρχουν ήδη ώριμες εμπορικές εταιρείες που επιτρέπουν στους χρήστες να χρησιμοποιούν εύκολα υπηρεσίες με τη μορφή sdk (κιτ ανάπτυξης) ή api (διεπαφή προγραμματισμού εφαρμογών).

οι χρήστες δεν χρειάζονται καν μια συσκευή με κάρτα γραφικών για να αναπτύξουν το πρόγραμμα, αλλά αντ' αυτού ανεβάζουν περιεχόμενο όπως ήχο στον ιστότοπο, περιμένουν να δημιουργηθούν τα αποτελέσματα και στη συνέχεια κάνουν λήψη τους.

ως εκ τούτου, πολύπλοκες τεχνικές αρχές κρύβονται στα παρασκήνια και αυτό που βρίσκεται μπροστά στους χρήστες είναι «εκτός πλαισίου» διεπαφές ακόμη και οι έφηβοι μπορούν να δημιουργήσουν ψευδείς πληροφορίες κατά βούληση.

με λίγα λόγια, το συμπέρασμα του chen peng είναι:

το deepfake έχει φτάσει στο σημείο που οι απλοί άνθρωποι μπορούν εύκολα να το αποκτήσουν.

οι άνθρωποι μπορεί να έχουν αποτύχει τελείως στην αναγνώριση του deepfake με γυμνό μάτι

όταν μια τεχνολογία «πετάει στα σπίτια των απλών ανθρώπων», οι άνθρωποι που είναι πιο πιθανό να επηρεαστούν είναι απλοί άνθρωποι.

η απάτη είναι ένας από τους πιο συνηθισμένους τρόπους με τους οποίους τα deepfakes κάνουν κακό.

στις αρχές του τρέχοντος έτους, το υποκατάστημα μιας πολυεθνικής εταιρείας στο χονγκ κονγκ υπέστη απάτη 25 εκατομμυρίων δολαρίων ηπα λόγω τεχνητής νοημοσύνης. το θύμα συμμετείχε σε μια τηλεδιάσκεψη και οι υπόλοιποι ήταν απατεώνες που είχαν υποβληθεί σε «αλλαγή προσώπου ai» και «αλλαγή φωνής ai».

▲η αστυνομία έδειξε πώς να χρησιμοποιήσετε το deepfake για να παραποιήσετε μια βιντεοδιάσκεψη πολλών ατόμων

τώρα που τα πράγματα έχουν φτάσει ως εδώ, τι μπορούμε να κάνουμε για να προστατευτούμε;

εάν κάποιος χρησιμοποιεί το deepfake για να σας εξαπατήσει, το να εκμεταλλευτείτε τα κενά της τεχνητής νοημοσύνης είναι ένας από τους τρόπους, αλλά έχει διάρκεια ζωής.

για παράδειγμα, κατά τη διάρκεια μιας βιντεοκλήσης, εάν υποπτευόμαστε ότι το πρόσωπο του άλλου μέρους έχει αντικατασταθεί από τεχνητή νοημοσύνη, μπορούμε να καθοδηγήσουμε το άλλο μέρος να κάνει συγκεκριμένες ενέργειες, όπως να τοποθετήσει το χέρι του μπροστά από το πρόσωπό του και να σύρει μερικές φορές γρήγορα, ή γυρίζοντας το κεφάλι του σημαντικά.

εάν το μοντέλο πίσω από την αντικατάσταση προσώπου ai δεν έχει βελτιστοποιηθεί ειδικά για απόφραξη χεριού, θα εκτεθεί και το πρόσωπο μπορεί να εμφανιστεί στο πίσω μέρος του χεριού ή μπορεί ξαφνικά να παραμορφωθεί.

η αρχή της περιστροφής της κεφαλής είναι η ίδια εάν κατά τη διάρκεια του σταδίου συλλογής δεδομένων, το άλλο μέρος δεν συλλέξει σκόπιμα υλικό περιστροφής κεφαλής μεγαλύτερο από 45 μοίρες, τότε η εφαρμογή του προσώπου θα είναι αφύσικη.

αλλά στο μέλλον, τέτοια ελαττώματα ορατά με γυμνό μάτι σίγουρα θα μειωθούν σταδιακά.

▲τεστ «αντιμετώπισης προβλημάτων» του northwestern university: δημιουργία τεχνητής νοημοσύνης ή πραγματική;

ο τσεν πενγκ αστειεύτηκε ότι αν οι απατεώνες πιστεύουν ότι είστε ένα χοντρό πρόβατο που περιμένει να σφαγιαστεί και σκόπιμα θέλουν να σας εξαπατήσουν, να αφαιρέσουν τις πληροφορίες σας στα μέσα κοινωνικής δικτύωσης και να περάσουν αρκετές ημέρες βελτιστοποιώντας το μοντέλο σας, τότε αυτές οι μέθοδοι δεν είναι εγγυημένο ότι θα είναι αποτελεσματικές.

εάν ένα βίντεο δεν έχει αυτά τα ελαττώματα, σημαίνει ότι είναι πραγματικό βίντεο; αυτό δεν είναι αλήθεια.

όσο για το αν είναι αποτελεσματικό ή όχι, σίγουρα δεν μπορεί να είναι εντελώς αποτελεσματικό ή 100% αποτελεσματικό, αλλά είναι αποτελεσματικό ως ένα βαθμό.

για να το θέσουμε με πιο επαγγελματικούς όρους, η ανθρώπινη οπτική αντίληψη έχει πολύ καλή απόδοση σε σημασιολογικό επίπεδο, όπως το να μπορεί εύκολα να διακρίνει το νόημα αντικειμένων ή σκηνών, αλλά όταν πρόκειται για επεξεργασία αποχρώσεων χαμηλού επιπέδου σε επίπεδο pixel, η αντίληψη η ικανότητα δεν είναι τόσο καλή όσο αυτή του ai.

από αυτή την άποψη, ο chen peng πιστεύει ότι οι απλοί άνθρωποι έχουν αποτύχει παταγωδώς στο να διακρίνουν το deepfake οι ειδικοί μπορεί να εξακολουθούν να είναι σε θέση να πολεμήσουν, επειδή έχουν δει πάρα πολλά και έχουν σχετικά ολοκληρωμένες δυνατότητες ανάλυσης και μπορούν να δουν ότι κάτι δεν συμμορφώνεται με τους κανόνες.

κανείς μας δεν είναι leeuwenhoek, ούτε έχουμε κοφτερά μάτια, αλλά η ανθρώπινη φύση παραμένει αμετάβλητη. επομένως, μπορούμε επίσης να τραβήξουμε την παραδοσιακή γραμμή ψυχολογικής άμυνας που δεν έχει καμία σχέση με την τεχνολογία - να είστε προσεκτικοί όταν ταξιδεύετε.

οι απάτες συχνά ακολουθούν το ίδιο μοτίβο: κλοπή ιδιωτικότητας, χρήση φόβου, απληστίας και συναισθηματικής αξίας για να φτιάξουν ιστορίες, προσποιούνται ότι είναι γνωστοί ή πακετάρουν τον εαυτό τους για να κερδίσουν εμπιστοσύνη, με απώτερο στόχο τα χρήματα.

▲το προϊόν realbelieve της realai smart θα εκδίδει έγκαιρες προειδοποιήσεις κατά τη διάρκεια βιντεοκλήσεων.

λάβετε αυτό υπόψη και, στη συνέχεια, να είστε πιο προσεκτικοί, μην κάνετε κλικ σε άγνωστους συνδέσμους, μην δίνετε κωδικούς επαλήθευσης τυχαία, προσπαθήστε να μην εκθέσετε υπερβολικά το πρόσωπό σας, τη φωνή, τα δακτυλικά αποτυπώματα και άλλες προσωπικές βιομετρικές πληροφορίες στο διαδίκτυο. και να έχετε πολλά μυαλά όταν πρόκειται για χρήματα τρόποι επαλήθευσης της ταυτότητας του άλλου, όπως να ρωτάτε πράγματα που μόνο ο ένας γνωρίζει.

όπως λέει και το παλιό ρητό, το καλύτερο που πρέπει να κάνουμε είναι να επιτεθούμε στην καρδιά.

η μαγεία εναντίον της μαγείας, το ai νικά το ai

η ευαισθητοποίηση κατά της απάτης δεν είναι αρκετή. οι άνθρωποι κάθονται στο σπίτι και οι γλάστρες έρχονται από τον παράδεισο.

τα θύματα των ψεύτικων γυμνών φωτογραφιών μπορεί να συναντήσουν "εκδικητική πορνό" - οι δράστες απειλούν να διαδώσουν ψεύτικο υλικό για να εκβιάσουν και να παρενοχλήσουν τα θύματα, προκαλώντας πιο σοβαρή δευτερεύουσα βλάβη.

αλλά αυτό το δρεπάνι μπορεί επίσης να σηκωθεί πάνω από τα κεφάλια μας: φανταστείτε ότι η συμμορία της απάτης πήρε τις φωτογραφίες σας από το πουθενά, τις συνδύασε σε χυδαία βίντεο, έστειλε μηνύματα κειμένου για να σας απειλήσει και αν δεν μεταφέρετε τα χρήματα, θα αποκαλυφθούν πώς μπορείτε να αποδείξετε τον εαυτό σας;

ο ruilai wisdom, όπου εργάζεται ο chen peng, έχει πράγματι αντιμετωπίσει αυτό το είδος προσωπικής δουλειάς το άλλο μέρος είπε ότι το πρόσωπό του άλλαξε σε ένα βίντεο και θα μπορούσε να τον καθαρίσει;

φυσικά υπάρχουν τρόποι: η μαγεία εναντίον της μαγείας, η τεχνητή νοημοσύνη να νικήσει την αι.

ο chen peng εισήγαγε ότι υπάρχουν δύο βασικοί τεχνικοί δρόμοι για την παραχάραξη της τεχνητής νοημοσύνης: ενεργητική άμυνα και παθητικός εντοπισμός.

ας μιλήσουμε πρώτα για την ενεργητική άμυνα όταν δημοσιεύουμε φωτογραφίες στα μέσα κοινωνικής δικτύωσης και δεν θέλουμε να χρησιμοποιηθούν από άλλους, μπορούμε να ενσωματώσουμε κάποιο οπτικά ανεπαίσθητο θόρυβο.

εάν κάποιος άλλος χρησιμοποιεί τις φωτογραφίες μας για να εκπαιδεύσει το μοντέλο, η τεχνητή νοημοσύνη δεν θα είναι σε θέση να εξαγάγει καλά την οπτική αναπαράσταση λόγω αυτής της αόρατης παρέμβασης και το τελικό αποτέλεσμα μπορεί να παραμορφωθεί ή να είναι θολό. "

το «ημιευάλωτο υδατογράφημα» είναι μια άλλη μέθοδος ενεργητικής άμυνας. αφού προσθέσουμε ένα υδατογράφημα, εάν κάποιος άλλος επεξεργαστεί τη φωτογραφία μας, το υδατογράφημα θα καταστραφεί και θα γνωρίζουμε ότι η εικόνα έχει υποστεί επεξεργασία και δεν είναι αξιόπιστη.

τα υδατογραφήματα δεν μπορούν να αποτρέψουν άμεσα τις εικόνες από το να είναι βαθιά ψεύτικα, αλλά μπορούν να εντοπίσουν και να πιστοποιήσουν την αυθεντικότητα των εικόνων.

▲υπάρχουν παρόμοιες εξερευνήσεις στο εξωτερικό που ξεκίνησε η adobe με το πρότυπο c2pa, χρησιμοποιώντας παραμέτρους μεταδεδομένων ως τρόπο προσδιορισμού της πηγής των εικόνων.

φυσικά, το κατώφλι για ενεργητική άμυνα είναι υψηλότερο, επομένως πρέπει να λάβουμε προφυλάξεις πριν συμβούν και να κάνουμε κάποια επεξεργασία στις φωτογραφίες εκ των προτέρων.

μια πιο συνηθισμένη κατάσταση είναι ότι δεν έχουμε τρόπο να το προβλέψουμε λαμβάνουμε «γυμνές φωτογραφίες» του εαυτού μας, αλλά είναι επίσης η πρώτη φορά που είμαστε «ειλικρινείς» με τον εαυτό μας. αυτή τη στιγμή, πρέπει να χρησιμοποιείται παθητική ανίχνευση.

η realai intelligence διαθέτει μια σειρά προϊόντων τεχνητής νοημοσύνης που είναι υπεύθυνα για τον εντοπισμό παραποίησης/απομίμησης, συμπεριλαμβανομένης της παραγωγικής πλατφόρμας ανίχνευσης περιεχομένου τεχνητής νοημοσύνης deepreal, του τείχους προστασίας τεχνητής νοημοσύνης προσώπου realguard και ούτω καθεξής.

▲deapreal

για να το θέσω απλά, η χρήση της τεχνητής νοημοσύνης για τον προσδιορισμό της τεχνητής νοημοσύνης χωρίζεται σε δύο βήματα πρώτα, εξάγετε έναν μεγάλο αριθμό χαρακτηριστικών πλαστογραφίας και, στη συνέχεια, μοντελοποιήστε με βάση αυτά τα δείγματα για να επιτρέψετε στην τεχνητή νοημοσύνη να μάθει τους κανόνες αναγνώρισης πλαστογραφίας.

παραμορφωμένα χρώματα, παράλογες υφές, αφύσικες εκφράσεις, μη συγχρονισμένος ήχος και βίντεο, ακανόνιστα σχήματα ίριδας και ασυνεπείς επισημάνσεις των δύο μαθητών είναι όλα εκπαιδευτικά υλικά για την τεχνητή νοημοσύνη.

μεταξύ αυτών, η ακρίβεια της παραχάραξης βίντεο μπορεί να είναι υψηλότερη από αυτή των εικόνων, επειδή το βίντεο αποτελείται από μια σειρά συνεχών εικόνων, οι οποίες παρέχουν περισσότερες πληροφορίες που μπορούν να χρησιμοποιηθούν για πλαστογράφηση από μια μεμονωμένη εικόνα, όπως η εμφάνιση ενός χαρακτήρα μεταξύ διαφορετικών πλαισίων.

στην ουσία, η παραχάραξη τεχνητής νοημοσύνης μοιάζει λίγο με τη χρήση ανθρώπινων ματιών για την εύρεση ελαττωμάτων και επίσης εκμεταλλεύεται τα ελαττώματα του ίδιου του μοντέλου ai.

▲ ερευνητές από την κινεζική ακαδημία επιστημών δημιούργησαν το μοντέλο ai για τον εντοπισμό του deepfake στον κόσμο

αλλά τα ελαττώματα σίγουρα θα βελτιωθούν σταδιακά, οπότε προκύπτει ένα πολύ κρίσιμο ερώτημα: υπάρχει πρώτα πλαστογραφία και μετά έλεγχος ταυτότητας; εάν ναι, η παραχάραξη δεν θα ήταν πάντα μισό βήμα πίσω από την πλαστογραφία;

ο chen peng απάντησε ότι η παραγόμενη τεχνολογία μπορεί να είναι ελαφρώς μπροστά από την τεχνολογία παραποίησης/απομίμησης, αλλά έχουν ένα εσωτερικό κόκκινο-μπλε εργαστήριο επίθεσης και άμυνας που προσομοιώνει το deepfake ενώ αμύνεται ενάντια στο deepfake και βελτιώνει συνεχώς τις δυνατότητες ανίχνευσης του deepfake.

εάν βγει κάποια νέα τεχνολογία deepfake, μπορούν να την αναπαράγουν γρήγορα και στη συνέχεια να την επαληθεύσουν στο προϊόν ανίχνευσης "όταν βγαίνει νέα τεχνολογία, ακόμα κι αν δεν την έχω δει, μπορώ ακόμα να την ανιχνεύσω σε κάποιο βαθμό."

επιπλέον, το ίδιο το μοντέλο έχει επίσης μια ορισμένη ικανότητα γενίκευσης έχει δει πολύ περιεχόμενο deepfake και μπορεί να το αναγνωρίσει και να το εντοπίσει με ακρίβεια σε κάποιο βαθμό, αν συναντήσει αόρατα.

▲ πλατφόρμες όπως το bilibili θα επισημαίνουν ψυχαγωγικό περιεχόμενο που αλλάζει πρόσωπο με τεχνητή νοημοσύνη

εν ολίγοις, η πλαστογραφία και η ανίχνευση πλαστών τεχνητής νοημοσύνης είναι ένα «παιχνίδι γάτας με ποντίκι» μακροχρόνιας αντιπαράθεσης και αμοιβαίου ανταγωνισμού.

αυτός είναι ο λόγος για τον οποίο ο chen peng μελετά αλγόριθμους απομίμησης τεχνητής νοημοσύνης:

το anti-deepfake είναι πολύ συγκρουσιακό και απαιτεί μακροπρόθεσμες επενδύσεις, σε αντίθεση με πολλά προϊόντα τεχνητής νοημοσύνης, μπορείτε να το ξεχάσετε αφού το ολοκληρώσετε.

παρά το γεγονός αυτό, εξακολουθεί να είναι σχετικά αισιόδοξος: "χρησιμοποιήστε νόμους και κανονισμούς για την επίβλεψη, οι πλατφόρμες διαχειρίζονται περιεχόμενο, η βιομηχανία παρέχει τεχνολογία και εργαλεία και τα μέσα ενημέρωσης ευαισθητοποιούν περισσότερους ανθρώπους για τους κινδύνους. εάν η πολύπλευρη διακυβέρνηση φτάσει σε ένα ορισμένο επίπεδο, θα σίγουρα θα είναι μια χαλάρωση».

στο μέλλον, όταν σερφάρουμε στο διαδίκτυο, μπορεί να πέσουμε σε ένα τόσο παράλογο σενάριο: ο κωδικός επαλήθευσης σάς επιτρέπει να αποδείξετε "είμαι άνθρωπος" και το deepfake σας επιτρέπει να αποδείξετε "δεν είμαι εγώ".

η τεχνολογία δεν μπορεί να εντοπίσει πλήρως όλες τις κακόβουλες προθέσεις, αλλά οι άνθρωποι δεν χρειάζεται να είναι πολύ ανήσυχοι η επιτυχία του deepfake είναι μόνο το τελικό αποτέλεσμα, αλλά η πρόληψη του deepfake μπορεί να ξεκινήσει ανά πάσα στιγμή.

όπως είπε ο chen peng, ακόμη και ένα πολύ απλό προϊόν ai είναι ένα πολύ συστηματικό έργο.

είμαστε μέρος ενός ευρύτερου συστήματος. αφήστε τους τραυματίες να μιλήσουν, αφήστε τους δράστες να τιμωρηθούν, αφήστε την τεχνολογία να σταματήσει τις κακές πράξεις και να αυξήσουμε την ιδέα της κοινωνίας κατά ένα εκατοστό χρήση του μέλλοντος.