Ελέγξτε εάν το περιεχόμενο χρησιμοποιείταιChatGPT, η ακρίβεια είναι τόσο υψηλή όσο99.9%！

Αυτό το εργαλείο προέρχεται απόOpenAI。

Μπορεί να χρησιμοποιηθεί ειδικά για να ανιχνεύσει εάν ένα χαρτί/ανάθεση έχει παραβιαστεί χρησιμοποιώντας το ChatGPT. Οι ιδέες κυκλοφόρησαν ήδη από τον Νοέμβριο του 2022 (τον ίδιο μήνα που κυκλοφόρησε το ChatGPT).

αλλά!

Κάτι τόσο χρήσιμο, αλλά ήταν εσωτερικάΚρυμμένο στο χιόνι για 2 χρόνια, δεν έχει δημοσιοποιηθεί ακόμα.

Γιατί;

Το OpenAI διεξήγαγε μια έρευνα μεταξύ πιστών χρηστών και διαπίστωσε ότισχεδόν το ένα τρίτο Οι άνθρωποι είπαν ότι θα εγκατέλειπαν το ChatGPT εάν χρησιμοποιούνταν εργαλεία κατά της εξαπάτησης. Και μπορεί επίσης να έχει μεγαλύτερο αντίκτυπο σε μη εγγενείς αγγλόφωνους χρήστες.

Ωστόσο, ορισμένα άτομα στην εταιρεία έχουν επίσης προτείνει ότι η χρήση μεθόδων κατά της εξαπάτησης είναι επωφελής για το οικοσύστημα OpenAI.

Οι δύο πλευρές έχουν διαφωνήσει και το εργαλείο ανίχνευσης υδατογραφήματος δεν έχει κυκλοφορήσει.

Εκτός από το OpenAI, η Google και η Apple έχουν επίσης ετοιμάσει παρόμοια εργαλεία και ορισμένα έχουν ξεκινήσει εσωτερικές δοκιμές, αλλά κανένα δεν έχει κυκλοφορήσει επίσημα.

Οι συζητήσεις ξεκίνησαν πριν από την κυκλοφορία του ChatGPT

Αφού το ChatGPT έγινε δημοφιλές, πολλοί μαθητές γυμνασίου και φοιτητές το χρησιμοποίησαν για να κάνουν την εργασία τους, οπότε ο τρόπος αναγνώρισης του περιεχομένου που δημιουργείται από AI έχει γίνει ένα καυτό θέμα στον κύκλο.

Κρίνοντας από τις τελευταίες εκτεθειμένες πληροφορίες, το OpenAI έχει εξετάσει αυτό το ζήτημα πολύ πριν από την κυκλοφορία του ChatGPT.

Το άτομο που ανέπτυξε αυτή την τεχνολογία εκείνη την εποχή ήτανΣκοτ Άαρονσον, ο οποίος εργάζεται σε θέματα ασφάλειας στο OpenAI και είναι καθηγητής πληροφορικής στο Πανεπιστήμιο του Τέξας.

Στις αρχές του 2023, ένας από τους συνιδρυτές του OpenAIΤζον Σούλμαν, περιγράφοντας τα πλεονεκτήματα και τα μειονεκτήματα του εργαλείου σε ένα έγγραφο Google.

Στη συνέχεια, τα στελέχη της εταιρείας αποφάσισαν ότι θα ζητούσαν πληροφορίες από μια σειρά ανθρώπων πριν λάβουν περαιτέρω μέτρα.

Τον Απρίλιο του 2023, μια έρευνα που ανατέθηκε από την OpenAI έδειξε ότι υπήρχαν μόνο1/4των ατόμων που υποστηρίζουν την προσθήκη εργαλείων ανίχνευσης.

Τον ίδιο μήνα, το OpenAI ανακοίνωσε ένα άλλοΧρήστες ChatGPTΚάναμε μια έρευνα.

Τα αποτελέσματα δείχνουν ότι υπάρχουνσχεδόν 30%των χρηστών δήλωσαν ότι θα χρησιμοποιούσαν λιγότερο το ChatGPT εάν χρησιμοποιούσε υδατογραφήματα.

Από τότε, συνεχίστηκε η διαμάχη σχετικά με την τεχνική ωριμότητα του εργαλείου και τις προτιμήσεις των χρηστών.

Στις αρχές Ιουνίου του τρέχοντος έτους, το OpenAI κάλεσε ανώτερα στελέχη και ερευνητές για να συζητήσουν ξανά το έργο.

Λέγεται ότι τελικά όλοι συμφώνησαν ότι αν και η τεχνολογία έχει ωριμάσει, τα αποτελέσματα της περσινής έρευνας χρηστών του ChatGPT δεν μπορούν να αγνοηθούν.

Τα εσωτερικά έγγραφα δείχνουν ότι το OpenAI πιστεύει ότι χρειάζεταιπριν από αυτό το φθινόπωροΑναπτύξτε ένα σχέδιο για να επηρεάσετε την αντίληψη του κοινού για τη διαφάνεια της τεχνητής νοημοσύνης.

Ωστόσο, μέχρι να βγει η τρέχουσα είδηση, το OpenAI δεν έχει αποκαλύψει σχετικά αντίμετρα.

Γιατί να μην το δημοσιοποιήσετε;

Για να συνοψίσουμε τους λόγους για τους οποίους το OpenAI δεν έχει αποκαλύψει αυτήν την τεχνολογία για μεγάλο χρονικό διάστημα,Υπάρχουν κυρίως δύο πτυχές: Το ένα είναι η τεχνολογία και το άλλο η προτίμηση του χρήστη.

Ας μιλήσουμε πρώτα για την τεχνολογία Ήδη από τον Ιανουάριο του 2023, το OpenAI ανέπτυξε μια τεχνολογία για τον έλεγχο κειμένου από πολλά μοντέλα AI (συμπεριλαμβανομένου του ChatGPT).

Η τεχνολογία χρησιμοποιεί μια προσέγγιση που μοιάζει με «υδατογράφημα» για να ενσωματώσει αόρατους δείκτες στο κείμενο.

Με αυτόν τον τρόπο, όταν κάποιος αναλύει το κείμενο με ένα εργαλείο ανίχνευσης, ο ανιχνευτής μπορεί να παρέχει μια βαθμολογία που υποδεικνύει πόσο πιθανό είναι το κείμενο να δημιουργήθηκε από το ChatGPT.

Ωστόσο, το ποσοστό επιτυχίας εκείνη την εποχή ήταν μόνο 26% και το OpenAI το απέσυρε μετά από μόλις 7 μήνες.

Αργότερα, το OpenAI αύξησε σταδιακά το ποσοστό επιτυχίας της τεχνολογίας στο 99,9%.

Ωστόσο, μια άλλη διαμάχη γύρω από την τεχνολογία είναι ότι οι εσωτερικοί υπάλληλοι πιστεύουν ότι η τεχνολογία θα μπορούσε να βλάψειΠοιότητα γραφής ChatGPT。

Ταυτόχρονα, οι εργαζόμενοι εξέφρασαν επίσης ορισμένες ανησυχίες σχετικά με"Οι άνθρωποι μπορούν να παρακάμψουν τα υδατογραφήματα"πιθανούς κινδύνους.

Για παράδειγμα, η "τεχνική μετάφρασης" που εφαρμόζουν οι φοιτητές είναι να μεταφράζουν κείμενο σε άλλη γλώσσα και στη συνέχεια να το μεταφράζουν ξανά μέσω μιας μεθόδου παρόμοιας με το Google Translate, η οποία μπορεί να διαγραφεί.

Ένα άλλο παράδειγμα είναι ότι κάποιος έχει εφαρμόσει μια "πολιτική από πάνω και αντίμετρα από κάτω".

Εκτός από την τεχνολογία, ένα άλλο σημαντικό εμπόδιο είναι οι χρήστες Πολλαπλές έρευνες από το OpenAI δείχνουν ότι οι χρήστες δεν φαίνεται να είναι αισιόδοξοι για αυτήν την τεχνολογία.

Αυτό πρέπει επίσης να αναφέρει τους χρήστες.Τι κάνετε με το ChatGPT;？

Αυτή η ερώτηση μπορεί να αναφερθεί σε μια έρευνα της Washington Post. Εξέτασαν σχεδόν 200.000 εγγραφές συνομιλιών από το σύνολο δεδομένων WildChat. Αυτές οι συνομιλίες δημιουργήθηκαν από ανθρώπους και δύο ρομπότ.

Όπως φαίνεται, οι άνθρωποι χρησιμοποιούν κυρίως το ChatGPTΓραφή (21%)καθώςΒοήθεια με την εργασία (18%)。

Φαίνεται ότι δεν είναι δύσκολο να καταλάβουμε γιατί οι άνθρωποι αντιτίθενται σε αυτήν την τεχνολογία ανίχνευσης.

Λοιπόν, συμφωνείτε να προσθέσετε υδατογραφήματα όταν χρησιμοποιείτε εργαλεία όπως το ChatGPT;