νέα

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Ο ψεύτικος Musk που δημιουργήθηκε από την AI έχει γίνει ο μεγαλύτερος διαδικτυακός ψεύτης.

Αρχικός σύνδεσμος: https://mp.weixin.qq.com/s/NKmwfvHunBbEhE091RwD-A

Πηγή: NetEase Technology (αναγνωριστικό: tech_163)

Αυθεντικός τίτλος: Ο Fake Musk που δημιουργήθηκε από την AI έγινε ο μεγαλύτερος διαδικτυακός ψεύτης

Σύμφωνα με αναφορές των αμερικανικών μέσων ενημέρωσης, στις 15 Αυγούστου, η τεχνολογία deepfake τεχνητής νοημοσύνης (Deepfake) έχει χρησιμοποιηθεί ευρέως σε διαδικτυακές απάτες τα τελευταία χρόνια, ειδικά στη χρήση πλαστών βίντεο του Έλον Μασκ για τη διάπραξη απάτης. Τα βίντεο παραπλάνησαν τους επενδυτές προσομοιώνοντας τη φωνή και τις κινήσεις του Μασκ. Τέτοια βαθιά ψεύτικα βίντεο είναι φθηνά και διαδίδονται γρήγορα, επιτρέποντας στους απατεώνες να επεκτείνουν εύκολα το εύρος των δόλιων δραστηριοτήτων τους, με αποτέλεσμα πολλά θύματα να χάνουν τεράστια χρηματικά ποσά λόγω ψευδών επενδυτικών ευκαιριών. Καθώς οι κίνδυνοι των deepfakes γίνονται όλο και πιο εμφανείς, οι απώλειες λόγω απάτης που μπορεί να προκύψουν από αυτές αναμένεται να φτάσουν τα δισεκατομμύρια δολάρια κάθε χρόνο.

Ακολουθεί το πλήρες κείμενο της μετάφρασης:

Ο Steve Beauchamp, ένας 82χρονος συνταξιούχος, ήθελε να προσθέσει κάποιο εισόδημα στην οικογένειά του και εναποθέτησε τις ελπίδες του στον Elon Musk. Στα τέλη του περασμένου έτους, η Beacham βρήκε ένα βίντεο στο οποίο ο Μασκ φαινόταν να προτείνει ένα επιθετικό επενδυτικό σχέδιο που υπόσχεται γρήγορα κέρδη. Εμπνευσμένη από αυτό, η Beacham επικοινώνησε γρήγορα με την εταιρεία πίσω από το βίντεο και άνοιξε έναν επενδυτικό λογαριασμό για $248. Ωστόσο, τις επόμενες εβδομάδες, αύξησε σταδιακά τις επενδύσεις του, αντλώντας τελικά περισσότερα από 690.000 δολάρια από τον λογαριασμό συνταξιοδότησής του.

Αλλά αμέσως μετά, τα χρήματα εξαφανίστηκαν, έπεσαν στα χέρια μιας ομάδας απατεώνων που χρησιμοποιούσαν τεχνητή νοημοσύνη για να διαπράξουν ένα νέο είδος ψηφιακής απάτης. Οι απατεώνες άλλαξαν έξυπνα μια πραγματική συνέντευξη με τον Μασκ, χρησιμοποιώντας τεχνολογία AI για να αντικαταστήσουν τη φωνή του και να συντονίσουν το σχήμα του στόματός του ώστε να ταιριάζει με το νέο σενάριο που έγραψαν για τον ψηφιακό άνθρωπο. Για τον μέσο θεατή, αυτή η λειτουργία είναι σχεδόν ανεπαίσθητη.

Ο Beacham θυμήθηκε το βίντεο και είπε με συγκίνηση: "Έχει μια ξεχωριστή εικόνα στο βίντεο και μπορεί να αναγνωριστεί ως Musk με μια ματιά. Όσο για το αν ήταν η τεχνητή νοημοσύνη που τον έκανε να πει αυτά τα λόγια, δεν μπορώ να είμαι σίγουρος τώρα. Αλλά απλά "Όσον αφορά το βίντεο, αν κάποιος μου ζητούσε να τον αναγνωρίσω σε ένα πλήθος, θα μπορούσα σίγουρα να τον επισημάνω."

01

Ο Μασκ γίνεται συχνός επισκέπτης των deepfakes

Τους τελευταίους μήνες, το Διαδίκτυο έχει πλημμυρίσει με χιλιάδες τέτοια βίντεο με τεχνητή νοημοσύνη, γνωστά ως «deepfakes», στα οποία χρησιμοποιείται μια ψεύτικη εικόνα του Μασκ για να παραπλανήσει πιθανούς επενδυτές. Η Deloitte εκτιμά ότι αυτοί οι τύποι deepfakes με τεχνητή νοημοσύνη θα μπορούσαν να οδηγήσουν σε απώλειες δισεκατομμυρίων δολαρίων από απάτη κάθε χρόνο.

Αυτά τα βίντεο είναι εξαιρετικά φθηνά στην παραγωγή, μπορούν να ολοκληρωθούν σε λίγα λεπτά και προωθούνται μέσω των μέσων κοινωνικής δικτύωσης, συμπεριλαμβανομένης της πληρωμένης διαφήμισης στο Facebook, επεκτείνοντας σημαντικά την απήχησή τους. Ο Francesco Cavalli, συνιδρυτής και διευθυντής πληροφοριών απειλών στη Sensity, μια εταιρεία που παρακολουθεί και εντοπίζει βαθιά ψεύτικα βίντεο, προειδοποίησε: «Αυτή μπορεί να είναι η μεγαλύτερη απάτη βαθιάς ψευδούς ψεύτικης τεχνολογίας που έγινε ποτέ».

Τα βίντεο είναι συχνά ζωντανά, αποτυπώνοντας με ακρίβεια τους ασταθείς τόνους και τη νοτιοαφρικανική προφορά του Μασκ. Οι απατεώνες συνήθως ξεκινούν με ένα πραγματικό βίντεο, όπως μια συνέντευξη της Wall Street Journal, και η φωνή του ρεπόρτερ διατηρείται στο ψεύτικο βίντεο, γεγονός που ενισχύει την αυθεντικότητα του βίντεο.

Χρησιμοποιώντας προηγμένη τεχνολογία συγχρονισμού χειλιών, οι απατεώνες προσάρμοσαν τις κινήσεις του στόματος του Μασκ ώστε να ταιριάζουν απόλυτα με τις ψεύτικες γραμμές τους. Πρόσθεσαν επίσης ήχους AI χρησιμοποιώντας εργαλεία κλωνοποίησης ήχου, τα οποία μπορούν να αντιγράψουν οποιονδήποτε ήχο από ένα δείγμα κλιπ. Η τελική διαφήμιση μπορεί επίσης να περιλαμβάνει ψεύτικα γραφικά, που μιμούνται το στυλ ενός ειδησεογραφικού οργανισμού, κάτι που μπορεί να είναι αρκετά πειστικό για τον μέσο χρήστη του Διαδικτύου.

Σύμφωνα με την ανάλυση του Sensity, ο Μασκ είναι ο πιο κοινός ομιλητής σε αυτά τα βίντεο. Εμφανίστηκε σχεδόν στο ένα τέταρτο των deepfake απατών από σχεδόν 2.000 δείγματα που αναλύθηκαν, ειδικά από τα τέλη του περασμένου έτους. Μεταξύ αυτών των βίντεο με θέμα τα κρυπτονομίσματα, αυτό το ποσοστό φτάνει σχεδόν το 90%. Οι διαφημίσεις Deepfake χρησιμοποιούν επίσης συχνά διάσημους επενδυτές όπως ο Γουόρεν Μπάφετ και μεγιστάνες των επιχειρήσεων όπως ο ιδρυτής της Amazon, Τζεφ Μπέζος.

Αν και είναι δύσκολο να μετρήσουμε με ακρίβεια πόσα deepfakes κυκλοφορούν στο διαδίκτυο, μια αναζήτηση στη βιβλιοθήκη διαφημίσεων του Facebook για κοινή γλώσσα που σχετίζεται με την απάτη αποκάλυψε εκατοντάδες χιλιάδες διαφημίσεις, πολλές από τις οποίες περιλάμβαναν deepfake βίντεο. Ενώ το Facebook έχει αφαιρέσει μεγάλο μέρος του περιεχομένου που παραβίαζε τις πολιτικές του και απαγόρευσε τους σχετικούς λογαριασμούς, άλλα βίντεο παραμένουν στο δίκτυο και περισσότερα εμφανίζονται φαινομενικά καθημερινά.

Το YouTube είναι επίσης γεμάτο με ψεύτικο περιεχόμενο, συχνά με ετικέτα "ζωντανή". Στην πραγματικότητα, πρόκειται για προηχογραφημένα deepfake βίντεο. Αναζητήστε λέξεις-κλειδιά όπως "συνέδριο Elon Bitcoin" στο YouTube και μπορείτε να δείτε δεκάδες βίντεο μεταμφιεσμένα σε ζωντανές μεταδόσεις.

Μετά την ομιλία του πρώην προέδρου των ΗΠΑ, Ντόναλντ Τζ. Τραμπ, σε μια διάσκεψη για το Bitcoin, εμφανίστηκαν γρήγορα στο YouTube δεκάδες βίντεο με την ένδειξη "Live", που έδειχνε ένα προηχογραφημένο βίντεο του Musk, το οποίο ισχυρίζεται ότι διπλασιάζει κάθε κρυπτονόμισμα που αποστέλλεται στον λογαριασμό του. Ωστόσο, τα βίντεο προσέλκυσαν τεράστιο κοινό, με μερικά να αγγίζουν τις εκατοντάδες χιλιάδες προβολές. Ωστόσο, το YouTube είπε ότι οι απατεώνες μπορεί να χρησιμοποιούν διαδικτυακά τρολ για να διογκώσουν τεχνητά τον αριθμό των προβολών.

Σύμφωνα με μια αναφορά του Better Business Bureau, μιας μη κερδοσκοπικής ομάδας υπεράσπισης των καταναλωτών, ένας κάτοικος του Τέξας έχασε 36.000 $ τον Φεβρουάριο του 2023 αφού είδε ένα μήνυμα απάτης που υποτίθεται ότι ήταν ο Musk μέσω ενός λεγόμενου "ζωντανού" βίντεο στο YouTube. «Μετέφερα Bitcoin αλλά δεν έλαβα τίποτα», είπε ο κάτοικος.

02

Το FB και το YouTube έχουν πληγεί περισσότερο

Το YouTube ανέφερε σε δήλωση ότι μόνο από τον Ιανουάριο έως τον Μάρτιο του τρέχοντος έτους, η πλατφόρμα αφαίρεσε περισσότερα από 15,7 εκατομμύρια κανάλια και περισσότερα από 8,2 εκατομμύρια βίντεο, κυρίως για παραβίαση της πολιτικής της κατά του ανεπιθύμητου περιεχομένου.

Υπό το πρίσμα της εξάπλωσης της ψευδούς διαφήμισης, ο Αυστραλός δισεκατομμυριούχος Άντριου Φόρεστ κατέθεσε αγωγή κατά της μητρικής εταιρείας του Facebook, Meta, κατηγορώντας την για αμέλεια στη διαφημιστική της επιχείρηση, υποστηρίζοντας ότι αυτές οι διαφημιστικές επιχειρήσεις παραπλάνησαν αθώους χρήστες σε λανθασμένες επενδύσεις. Αναφέρεται ότι τα βίντεο του ίδιου του Forrest χρησιμοποιήθηκαν επίσης για τη δημιουργία ψεύτικων διαφημίσεων.

Η Meta απάντησε λέγοντας ότι εκπαιδεύει συστήματα αυτοματοποιημένης ανίχνευσης για τον εντοπισμό δόλιας δραστηριότητας στην πλατφόρμα, αλλά παραδέχτηκε ότι ήταν ένα πολύπλοκο παιχνίδι γάτας με το ποντίκι καθώς οι καλά χρηματοδοτούμενες συμμορίες απάτης αλλάζουν συνεχώς τις τακτικές τους για να αποφύγουν τον εντοπισμό. Το YouTube επανέλαβε την πολιτική του κατά της απάτης και της παραβίασης βίντεο και τον Μάρτιο του τρέχοντος έτους ζήτησε από όλους τους δημιουργούς να κάνουν σαφείς αποκαλύψεις όταν χρησιμοποιούν τεχνητή νοημοσύνη για τη δημιουργία ρεαλιστικού περιεχομένου.

Το Διαδίκτυο είναι γεμάτο από αναφορές για απάτες στις οποίες πολλοί άνθρωποι έχασαν τις οικονομίες τους. Η Επιτροπή Κεφαλαιαγοράς και Μελλοντικής Εκπλήρωσης του Χονγκ Κονγκ εξέδωσε προειδοποίηση τον Μάιο για δόλιες δραστηριότητες στις οποίες εμπλέκεται ο Μασκ. Νωρίτερα αυτό το έτος, η Ομοσπονδιακή Επιτροπή Εμπορίου και το FBI προειδοποίησαν επίσης τους Αμερικανούς για την αύξηση του εγκλήματος στον κυβερνοχώρο που βασίζεται στην τεχνητή νοημοσύνη και των ψεύτικων απατών.

«Οι εγκληματίες χρησιμοποιούν την τεχνητή νοημοσύνη ως ενισχυτή ισχύος για να κάνουν τις επιθέσεις στον κυβερνοχώρο και άλλες εγκληματικές δραστηριότητες πιο αποτελεσματικές και πιο δύσκολο να εντοπιστούν», τόνισε το FBI σε δήλωση που εστάλη μέσω email.

Οι ψηφιακές απάτες έχουν αυξηθεί παράλληλα με την ανάπτυξη του διαδικτύου. Αλλά ένα νέο κύμα deepfakes που χαρακτηρίστηκε από τον Musk εμφανίστηκε καθώς τα εξελιγμένα εργαλεία AI έγιναν διαθέσιμα στο κοινό πέρυσι απατεώνες και όλο και περισσότερες συμμορίες απάτης.

«Τα πράγματα αλλάζουν τώρα επειδή οι ομάδες οργανωμένου εγκλήματος ανακάλυψαν ότι μπορούν να κερδίσουν χρήματα με αυτόν τον τρόπο», δήλωσε ο Lou Steinberg, ιδρυτής του ερευνητικού εργαστηρίου ασφάλειας στον κυβερνοχώρο CTM Insights αποκλειστικός σκοπός της εξαπάτησης χρημάτων. "

Αν και τα βίντεο που δημιουργούνται από την τεχνητή νοημοσύνη δεν είναι τέλεια, για παράδειγμα, η φωνή του Μασκ μπορεί να ακούγεται ρομποτική σε ορισμένα βίντεο και το σχήμα του στόματός του δεν ταιριάζει πάντα με τις γραμμές. Ωστόσο, οι ειδικοί προειδοποιούν ότι τα βίντεο είναι αρκετά πειστικά για ορισμένους στόχους απάτης και ότι η τεχνολογία βελτιώνεται με την πάροδο του χρόνου.

Σύμφωνα με τον Cavalli του Sensity, η δημιουργία των βίντεο κοστίζει πολύ λίγο, περίπου 10 $, και οι περισσότεροι απατεώνες συγκεντρώνουν τα ψεύτικα βίντεο σε λιγότερο από 10 λεπτά χρησιμοποιώντας μια σειρά από δωρεάν ή φθηνά εργαλεία. Βρίσκονται κυρίως στην Ινδία, τη Ρωσία και την Ανατολική Ευρώπη.

«Λειτουργεί», είπε ο Καβάλι. «Ως αποτέλεσμα, θα συνεχίσουν να επεκτείνουν αυτή τη δραστηριότητα, να διασχίζουν τα σύνορα, να μεταφράζουν σε πολλές γλώσσες και να συνεχίσουν να διαδίδουν την απάτη σε περισσότερους στόχους».

03

Οι ηλικιωμένοι κάνουν τέλειους στόχους

Αυτός ο τύπος απάτης χρησιμοποιεί συχνά επενδυτικό λογισμικό τεχνητής νοημοσύνης υψηλής απόδοσης ως πρόσχημα για να παρακινήσει αρχικά τα θύματα να επενδύσουν μικρά χρηματικά ποσά - όπως 250 $. Στη συνέχεια, υπερβάλλοντας την επίδραση της επένδυσης στην προστιθέμενη αξία, οδηγούνται σταδιακά να αυξήσουν το ύψος της επένδυσης.

Ένα βίντεο από τη συνεδρίαση των μετόχων της Tesla ήταν επίσης πλαστό, στο οποίο ο Μασκ εξηγούσε ένα προϊόν αυτοματοποιημένης διαπραγμάτευσης που τροφοδοτείται από τεχνητή νοημοσύνη, ισχυριζόμενος ότι μπορεί να διπλασιάζει τις αποδόσεις της επένδυσης κάθε μέρα.

Οι ειδικοί που μελετούν την κοινότητα των κρυπτονομισμάτων επισημαίνουν ότι ο Μασκ έχει μια μοναδική ομάδα παγκόσμιων θαυμαστών που είναι ως επί το πλείστον συντηρητικοί, αντικαθεστωτικοί και λάτρεις των κρυπτονομισμάτων που συχνά αναζητούν μη παραδοσιακούς τρόπους πλούτου, γεγονός που τους καθιστά ιδανικό στόχο για απάτες. .

«Υπάρχει σίγουρα μια ομάδα ανθρώπων που πιστεύουν ότι το μυστικό του πλούτου κρύβεται», δήλωσε η Molly White, μια ερευνήτρια που μελετά την κοινότητα των κρυπτονομισμάτων. Τόνισε ότι μερικοί άνθρωποι πάντα φαντασιώνονται να κατακτήσουν το μυστικό του πλούτου, νομίζοντας ότι μόλις το βρουν, θα γίνουν πλούσιοι από τη μια μέρα στην άλλη.

Οι απατεώνες στοχεύουν ιδιαίτερα τους ηλικιωμένους χρήστες του Διαδικτύου που, ενώ γνωρίζουν τα κρυπτονομίσματα, την τεχνητή νοημοσύνη ή τον Musk, δεν είναι εξοικειωμένοι με τις ασφαλείς επενδυτικές μεθόδους.

«Οι ηλικιωμένοι ήταν πάντα στόχος απατεώνων, ακόμη και πριν από την άνοδο των μέσων κοινωνικής δικτύωσης», δήλωσε ο Finn Brunton, ερευνητής καθηγητής επιστήμης και τεχνολογίας στο Πανεπιστήμιο της Καλιφόρνια, Ειδικοί στην αγορά κρυπτογράφησης.

Ο Beacham ήταν ένας χήρος που εργάστηκε ως αντιπρόσωπος πωλήσεων για μια εταιρεία στο Οντάριο του Καναδά, μέχρι τη συνταξιοδότησή του σε ηλικία 75 ετών. Λίγο μετά την ένταξή του στο Facebook το 2023, αντιμετώπισε μια διαφημιστική απάτη. Αν και θυμήθηκε ότι είχε δει τον Μασκ στη ζωντανή μετάδοση του CNN, μια εκπρόσωπος του CNN είπε ότι ο Μασκ δεν είχε πάρει συνέντευξη στον σταθμό εδώ και χρόνια.

Τον Δεκέμβριο, ο Beacham έστειλε 27.216 $ σε μια εταιρεία που ονομάζεται Magna-FX, γεγονός που τον οδήγησε να πιστέψει ότι η αξία των επενδύσεών του αυξανόταν, σύμφωνα με τις ανταλλαγές email μεταξύ του ίδιου και της εταιρείας. Κατά τη διάρκεια αυτής της περιόδου, ένας αντιπρόσωπος πωλήσεων χρησιμοποίησε ακόμη και λογισμικό για τον απομακρυσμένο έλεγχο του υπολογιστή της Beacham και τη μεταφορά κεφαλαίων χωρίς εξουσιοδότηση.

Όταν ο Beacham προσπάθησε να αποσύρει τα χρήματά του, του είπαν ότι θα έπρεπε να πληρώσει μια αμοιβή διαχείρισης 3.500 $ και άλλα 3.500 δολάρια σε προμήθειες. Πλήρωσε τα χρήματα, αλλά αργότερα του είπαν ότι έπρεπε να πληρώσει 20.000 δολάρια για να αποδεσμεύσει περίπου 200.000 δολάρια από τα κεφάλαια. Παρόλο που είχε εξαντλήσει τις συνταξιοδοτικές του αποταμιεύσεις, είχε συμπληρώσει τις πιστωτικές του κάρτες, χρησιμοποίησε το πιστωτικό όριο και δανείστηκε χρήματα από την αδερφή του για να επενδύσει και να πληρώσει τα έξοδα, οι απατεώνες του ζήτησαν να πληρώσει περισσότερα. Μέχρι εκείνη τη στιγμή, ο Beacham είχε συνειδητοποιήσει τη σοβαρότητα του προβλήματος και επικοινώνησε με την αστυνομία.

Τα περισσότερα ίχνη του Magna-FX έχουν εξαφανιστεί από τον Ιστό, συμπεριλαμβανομένου του ιστότοπου της εταιρείας, των αριθμών τηλεφώνου και των διευθύνσεων ηλεκτρονικού ταχυδρομείου που χρησιμοποιήθηκαν από πράκτορες με τους οποίους είχε επικοινωνήσει η Beacham. Μια εταιρεία με παρόμοιο όνομα και υπηρεσίες δεν απάντησε σε αίτημα για σχολιασμό.

"Σε αυτό το σημείο, είμαι πρόθυμος να δεχτώ όλη την κριτική και τη γελοιοποίηση ως τιμωρία για την ευπιστία μου", δήλωσε ο Beacham σε μια αναφορά στο Better Business Bureau.

Είπε ότι βασιζόταν σε μικρότερο λογαριασμό συνταξιοδότησης και σύνταξη που δεν είχε αποκαλύψει στους απατεώνες για να τα βγάλουν πέρα ​​και ότι σχεδίαζε να χρησιμοποιήσει τις οικονομίες για να ταξιδέψει σε όλο τον κόσμο. Ο Beacham έχει αναφέρει το έγκλημα στην τοπική αστυνομία, αλλά η υπόθεση εξελίσσεται αργά.

«Η υπόθεσή μου τέθηκε στην ουρά γιατί υπήρχαν τόσες υποθέσεις απάτης», είπε «Δεν είχα μεγάλες ελπίδες.

*Πηγή εικόνας κεφαλίδας: Visual China

ρώτησε ο Γκικ

πλατφόρμα κοινωνικής δικτύωσης

Μπροστά στον πολλαπλασιασμό του ψεύτικο περιεχόμενο,

Ποιες είναι οι ευθύνες;

Cai Chongxin: Ένας καλός ηγέτης πρέπει να είναι ο πιο συνειδητοποιημένος άνθρωπος.

Κάντε like και followΛογαριασμός βίντεο Geek Park，