νέα

πρόσφατα, η αστυνομία του hangzhou αποκάλυψε την πρώτη περίπτωση στη χώρα χρήσης ενός μεγάλου μοντέλου τεχνητής νοημοσύνης για την αλλαγή προσώπων για την κλοπή του προσωπικού απορρήτου, κάτι που είναι τρομακτικό να σκεφτόμαστε.

οι εγκληματίες εισάγουν φωτογραφίες θυμάτων στο μοντέλο και στη συνέχεια ζητούν μέσω κειμένου και φωνής να δημιουργήσουν ένα ζωντανό βίντεο. αυτό το ζωντανό βίντεο μπορεί να μιμηθεί ένα ανθρώπινο πρόσωπο για να γνέφει, να αναβοσβήνει και να λοξά, να διαπερνά τον έλεγχο ταυτότητας προσώπου της πλατφόρμας, να σας αναγκάζει να συνδεθείτε σε λογαριασμούς άλλων ατόμων και να αποκτήσετε μεγάλο μέρος των ιδιωτικών δεδομένων του θύματος για να τα πουλήσετε με σκοπό το κέρδος.

αυτή είναι μόνο η κορυφή του παγόβουνου στο χάος των εφαρμογών τεχνολογίας ai. τα τελευταία χρόνια, η τεχνολογία τεχνητής νοημοσύνης έχει αναπτυχθεί ραγδαία, φέρνοντας περισσότερες νέες ευκαιρίες και πιο βολικές υπηρεσίες, ωστόσο, οι νέες τεχνολογίες χρησιμοποιούνται συχνά από ορισμένους εγκληματίες και γίνονται «συνένοχοι» σε εγκλήματα.

η τεχνητή νοημοσύνη «αλλάζει πρόσωπο» διαπράττει απάτη, η τεχνητή νοημοσύνη πλαστογραφεί φωτογραφίες για να διαδώσει φήμες και οι κλήσεις για πωλήσεις τεχνητής νοημοσύνης είναι ανησυχητικές... κάθε είδους χάος όχι μόνο παραβιάζει τα νόμιμα δικαιώματα και συμφέροντα των καταναλωτών, απειλεί την προσωπική και περιουσιακή ασφάλεια, αλλά και υγιής και ομαλή ανάπτυξη του κλάδου της τεχνητής νοημοσύνης.

δεν υπάρχει αμφιβολία ότι η τεχνητή νοημοσύνη είναι μια σημαντική κατεύθυνση για την επιστημονική και τεχνολογική ανάπτυξη και ένα τεχνολογικό υψίπεδο για τον ανταγωνισμό μεταξύ των χωρών. ωστόσο, κατά την ανάπτυξη της τεχνητής νοημοσύνης, δεν πρέπει να αγνοούμε τους κρυφούς κινδύνους της. δέστε τη «ζώνη ασφαλείας» για την αυξανόμενη τεχνητή νοημοσύνη και κάντε την «βοηθό» παρά «συνένοχο».

στην πρόσφατη εθνική εβδομάδα ευαισθητοποίησης για την ασφάλεια στον κυβερνοχώρο το 2024, το θέμα της εφαρμογής ασφάλειας τεχνητής νοημοσύνης έγινε καυτό θέμα. κατά τη διάρκεια αυτής της περιόδου, οι αρμόδιες υπηρεσίες κυκλοφόρησαν την έκδοση 1.0 του «artificial intelligence security governance framework», προτείνοντας κατευθυντήριες λύσεις, όπως αρχές διακυβέρνησης ασφάλειας τεχνητής νοημοσύνης. ορισμένες μαύρες τεχνολογίες για την αντιμετώπιση των κινδύνων ασφάλειας της τεχνητής νοημοσύνης παρουσιάστηκαν επίσης στην έκθεση cyber ​​​​security expo, όπως το σύστημα απομίμησης τεχνητής νοημοσύνης σε πραγματικό χρόνο, το οποίο μπορεί να εντοπίσει και να αντεπιτεθεί αποτελεσματικά τις ρουτίνες απάτης, όπως η αλλαγή προσώπου ai και η ονοματοποιία ai.

η τεχνολογία ήταν πάντα ένα «δίκοπο μαχαίρι» είτε είναι καλό είτε κακό, ωφέλιμο ή επιβλαβές, το κλειδί εξαρτάται από το πώς είναι έτοιμος να το χρησιμοποιήσει το άτομο που κρατά το σπαθί. όταν αναπτύσσουμε δυναμικά την τεχνητή νοημοσύνη, πρέπει να ενισχύσουμε την ευαισθητοποίηση για την ασφάλεια, να ενισχύσουμε την προώθηση και εφαρμογή σχετικών τεχνολογιών ασφάλειας και να προωθήσουμε τη διαμόρφωση συναίνεσης διακυβέρνησης μεταξύ όλων των μερών στην κοινωνία, ώστε η τεχνητή νοημοσύνη να ωφελήσει καλύτερα την ανθρωπότητα. (copywriter: ma ruohu)