σχολιάστε τώρα｜προσθέστε διακριτικά λογότυπα για να αποτρέψετε τη σύγχυση του περιεχομένου που δημιουργείται από ai με το πραγματικό.
2024-09-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
πόσες από τις τεράστιες εικόνες, κείμενο και βίντεο που βλέπουμε καθημερινά στο διαδίκτυο παράγονται και συντίθενται από την τεχνητή νοημοσύνη; πώς να διακρίνετε με ακρίβεια άρθρα τεχνητής νοημοσύνης, εικόνες τεχνητής νοημοσύνης και βίντεο τεχνητής νοημοσύνης;
στις 14 σεπτεμβρίου, η διοίκηση κυβερνοχώρου της κίνας κυκλοφόρησε τα «μέτρα για την επισήμανση συνθετικού περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη (σχέδιο για σχόλια)». ήχος, εικόνες και βίντεο, εικονικές σκηνές, κ.λπ., θα πρέπει να προστεθούν εμφανείς ενδείξεις σε κατάλληλες τοποθεσίες, όταν οι πάροχοι υπηρεσιών παρέχουν μεθόδους λήψης, αντιγραφής και εξαγωγής συνθετικού περιεχομένου. τις απαιτήσεις.
αυτή η διάταξη είναι πολύ ρεαλιστική και αναγκαία. τα τελευταία χρόνια, η τεχνολογία βαθιάς σύνθεσης τεχνητής νοημοσύνης έχει χρησιμοποιηθεί ευρέως σε πολλούς τομείς, από τη δημιουργία εικόνων, κειμένου και βίντεο έως διαδικτυακές ερωτήσεις και απαντήσεις, και διάφορες εφαρμογές αναδύονται ατελείωτα. δεν υπάρχει αμφιβολία ότι τα εργαλεία τεχνητής νοημοσύνης μπορούν να κάνουν την παραγωγή περιεχομένου και τη διάδοση της γνώσης μας πιο αποτελεσματική, και καθώς η μαθησιακή ικανότητα της τεχνητής νοημοσύνης γίνεται όλο και ισχυρότερη, οι ικανότητές της «παραγωγής» περιεχομένου θα ξεπεράσουν ακόμη και τους ανθρώπους στο μέλλον.
αλλά από την άλλη πλευρά, η επίδραση του βαθύ συνθετικού περιεχομένου είναι πιο ρεαλιστική και η παραγωγή είναι πιο αποτελεσματική, γεγονός που καθιστά επίσης δύσκολη τη διάκριση του συνθετικού περιεχομένου μεταξύ πραγματικού και ψεύτικου. όταν είναι δύσκολο να γίνει διάκριση μεταξύ αληθινού και ψευδούς και το να βλέπεις δεν είναι πλέον πίστη, η τεχνολογία τεχνητής νοημοσύνης είναι σαν ένα δίκοπο μαχαίρι, το οποίο θα φέρει επίσης προβλήματα όπως η παραμόρφωση των πληροφοριών και η γνωστική σύγχυση στην κοινωνία.
τον νοέμβριο του 2022, η διοίκηση κυβερνοχώρου της κίνας εξέδωσε τους «κανονισμούς για τη διαχείριση βαθιάς σύνθεσης υπηρεσιών πληροφοριών διαδικτύου», ο οποίος ορίζει τον σκοπό, την επισήμανση, το εύρος χρήσης και τις κυρώσεις για κατάχρηση περιεχομένου σε βάθος. αυτό το "σχέδιο για σχόλια" διευκρινίζει περαιτέρω ότι είτε πρόκειται για κείμενο, ήχο, εικόνες ή βίντεο, "πρέπει να προστεθούν εμφανείς πινακίδες υπενθύμισης σε κατάλληλες τοποθεσίες." αυτή είναι μια σαφής απαίτηση για τους παρόχους υπηρεσιών: εφόσον δημιουργείται από ένα εργαλείο τεχνητής νοημοσύνης, είτε πρόκειται για ένα άρθρο είτε για μια εικόνα, πρέπει να προστεθεί μια εμφανής ταυτότητα.
αυτό είναι στην πραγματικότητα μια υπενθύμιση στο κοινό ότι οι διαδικτυακές πληροφορίες είναι ανάμεικτες όταν βλέπετε "εκ των έσω" άρθρα, "καυτές" εικόνες ή "σοκαριστικά" βίντεο, πρέπει πρώτα να δώσετε προσοχή στο εάν δημιουργούνται από την τεχνητή νοημοσύνη και εάν πρέπει να γίνουν αποδεκτά. πώς να τα αναγνωρίσετε.
αξίζει να σημειωθεί ότι καθώς η τεχνολογία γίνεται σταδιακά «πολιτική», οι εγκληματίες μπορούν εύκολα να χρησιμοποιήσουν την τεχνητή νοημοσύνη για να διαδώσουν φήμες και να παράγουν ψεύτικες ειδήσεις. πριν από λίγο καιρό, ορισμένα μέσα κυκλοφόρησαν έναν οργανισμό mcn που μπορεί να χρησιμοποιήσει την τεχνητή νοημοσύνη για να δημιουργήσει 4.000-7.000 φήμες κάθε μέρα, χάρη στην ευλογία της τεχνολογίας ai, αυτά τα άρθρα φαίνονται πολύ "πραγματικά και λογικά" σε κοινό που δεν είναι εξοικειωμένο με την τεχνολογία του διαδικτύου. αφού δείτε αυτού του είδους τις πληροφορίες με "εικόνες και αλήθεια", είναι εύκολο να πιστέψετε ότι είναι αληθινές.
σύμφωνα με έρευνα μέσων ενημέρωσης, χρησιμοποιώντας μια εγχώρια τεχνητή νοημοσύνη, το κόστος ενός άρθρου τεχνητής νοημοσύνης είναι μόνο 0,00138 γιουάν και μπορούν να δημιουργηθούν 7 άρθρα για 1 σεντ. τέτοια "χωρίς κεφάλαιο και τεράστια κέρδη" μπορούν εύκολα να αξιοποιηθούν από εγκληματίες ψεύτικες εικόνες και βίντεο όπως "επίθεση στο μετρό", "έκρηξη στο xi'an", "έκρηξη σε ιδιωτικό σπίτι στο wuxi, chongqing", κ.λπ. είχε κακό κοινωνικό αντίκτυπο η αλήθεια πίσω από αυτό είναι οι φήμες για μαζική παραγωγή ai.
η καταγραφή τεχνητής νοημοσύνης για τη δημιουργία συνθετικού περιεχομένου δεν είναι τεχνικά δύσκολο να εφαρμοστεί. ορισμένοι ειδικοί προτείνουν ότι η πλατφόρμα μπορεί να συνδεθεί πλήρως με το μεγάλο σύστημα μοντέλων της πλατφόρμας παραγωγής περιεχομένου ai, να πραγματοποιήσει ταυτοποίηση και σύγκριση δεδομένων σε πραγματικό χρόνο και στη συνέχεια να επισυνάψει ένα μη αφαιρούμενο ψηφιακό υδατογράφημα ή περιγραφές κειμένου όπως "αυτή η εικόνα/ το βίντεο συντίθεται από ai».
αυτό το "πρόχειρο για σχόλια" τονίζει ότι "κανένας οργανισμός ή άτομο δεν θα διαγράφει, παραποιεί, πλαστογραφεί ή αποκρύπτει με κακόβουλο τρόπο τα αναγνωριστικά συνθετικού περιεχομένου που ορίζονται σε αυτά τα μέτρα για να υπενθυμίσει στους παρόχους υπηρεσιών τεχνητής νοημοσύνης και πλατφόρμες ότι δεν πρέπει να χρησιμοποιούν τεχνητή νοημοσύνη." εργαλεία για να πετύχουμε το «μέρισμα κυκλοφορίας», υιοθετούμε μια κατευναστική στάση του να κλείνουμε τα στραβά μάτια και να κλείνουμε το ένα μάτι. ένας καθαρός κυβερνοχώρος δεν πρέπει να επιτρέπει τη σύγχυση του περιεχομένου της τεχνητής νοημοσύνης και να θολώνει τα όρια της πραγματικότητας, εάν οποιαδήποτε πληροφορία προσδιορίζεται ως φήμες, η πλατφόρμα θα πρέπει αμέσως να την επισημάνει και να την καθαρίσει.
η ικανότητα της τεχνητής νοημοσύνης να δημιουργεί και να συνθέτει υπερβαίνει την παραδοσιακή γνώση, και μας κάνει επίσης να συνειδητοποιήσουμε: πολλά διαδικτυακά άρθρα φαίνονται πολύ "επιστημονικά" και πολλά διαδικτυακά βίντεο φαίνονται ιδιαίτερα "πραγματικά", αλλά μπορεί να μην είναι απαραίτητα αξιόπιστα, οπότε μην μην βιαστείτε να το πιστέψετε. μπορείτε επίσης να το αναζητήσετε πρώτα υπάρχει μια πινακίδα "αυτή η εικόνα/βίντεο συντίθεται από ai" σε περίοπτη θέση του περιεχομένου;
li qinyu, επικεφαλής σχολιαστής του the paper
(αυτό το άρθρο προέρχεται από το the paper. για περισσότερες πρωτότυπες πληροφορίες, κάντε λήψη της εφαρμογής "the paper")
