σε βάθος παρατήρηση｜για να δαμάσουν το τέρας της τεχνητής νοημοσύνης, οι άνθρωποι πρέπει να σταθούν στον "homo sapiens"
2024-10-01
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
η παχυσαρκία είναι εξαιρετικά σοβαρή στις ηνωμένες πολιτείες. στους δρόμους μπορείς συχνά να δεις εξαιρετικά παχύσαρκους ανθρώπους να κινούνται σαν «κομμάτια κρέας» στα πεζοδρόμια, κάτι που είναι ανυπόφορο να δεις. τι είναι η παχυσαρκία έλεγξα στη wikipedia:
η παχυσαρκία είναι μια ιατρική κατάσταση, που μερικές φορές θεωρείται ασθένεια, που αναφέρεται στη συσσώρευση υπερβολικού λίπους στο σώμα σε επίπεδο που επηρεάζει αρνητικά την υγεία. ένα άτομο θεωρείται παχύσαρκο εάν ο δείκτης μάζας σώματος (δμς) - βάρος διαιρούμενο με το τετράγωνο του ύψους - υπερβαίνει τα 30 kg/m², ενώ ένα εύρος από 25 έως 30 kg/m² ορίζεται ως υπέρβαρο.
υπάρχουν περίπου τρεις λόγοι για την παχυσαρκία:
πρώτον, το υγιεινό φαγητό είναι ακριβό και το πρόχειρο φαγητό είναι φθηνό στις ηνωμένες πολιτείες, και πολλοί άνθρωποι πρέπει να επιλέξουν το δεύτερο επειδή δεν έχουν χρήματα, δεύτερον, οι τύποι εργασίας ορισμένων τους κάνουν να κάθονται περισσότερο και να κινούνται λιγότερο και να καταναλώνουν πολύ γρήγορα τρίτον, μερικοί άνθρωποι αντιμετώπισαν χαμηλό αυτοέλεγχο και υπερβολική πρόσληψη πρόχειρου φαγητού.
εφόσον η αμερικανική κοινωνία τονίζει ότι όλοι οι άνθρωποι είναι «ίσοι», οι άλλοι άνθρωποι δεν μπορούν να πείσουν τους παχύσαρκους ασθενείς. αυτός ο επιφανειακός σεβασμός και η πραγματική σκληρότητα μεταξύ των ανθρώπων έχει βλάψει πολλούς ανθρώπους, τόσο πολύ που ορισμένοι αμερικανοί νέοι δεν το αντέχουν, οπότε πηγαίνουν στα κινεζικά μέσα κοινωνικής δικτύωσης για να εκφράσουν ότι "ακούνε συμβουλές" και ζητούν από τους χρήστες του διαδικτύου να δώσουν συμβουλέψτε τους και πείτε τους πώς να πειθαρχήσετε τον εαυτό σας για να χάσετε βάρος και να ζήσετε μια υγιή ζωή.
σήμερα, η παχυσαρκία εξαπλώνεται σιγά σιγά στην κίνα. σύμφωνα με την τελευταία έρευνα, 600 εκατομμύρια άνθρωποι στην κίνα είναι υπέρβαροι και παχύσαρκοι και για πρώτη φορά, αυτή η ομάδα αντιπροσωπεύει περισσότερους από τους μισούς ενήλικες. παράλληλα, το 1/5 (19%) των παιδιών και των εφήβων ηλικίας 6-17 ετών και το 1/10 (10,4%) των παιδιών κάτω των 6 ετών είναι υπέρβαρα ή παχύσαρκα.
έχω μια πολύ στενή κατανόηση αυτής της εικόνας. ένας από τους συμμαθητές μου στο γυμνάσιο, ο οποίος πήγε στο ιατρικό κολλέγιο hunan xiangya στο κολέγιο, είναι τώρα ο θεράπων ιατρός στο περίφημο "κέντρο απώλειας βάρους" στην επαρχία χουνάν. σε αυτή τη «βιομηχανία της ανατολής», δραστηριοποιείται καθημερινά, είναι απασχολημένος στη δουλειά και έχει μεγάλα κοινωνικά και οικονομικά οφέλη.
αντιμετώπιση ανεπιθύμητων μηνυμάτων: ενημερωτική δίαιτα και νηστεία πληροφοριών
αν υπάρχει πρόχειρο φαγητό, υπάρχουν και πρόχειρες πληροφορίες. όπως το πρόχειρο φαγητό, οι ανεπιθύμητες πληροφορίες είναι φθηνές, χαμηλής ποιότητας και είναι εύκολο να αποκτηθούν, προκαλώντας σοβαρό τραύμα στο μυαλό μας. αυτή η κατάσταση γίνεται όλο και πιο σοβαρή, αλλά δεν έχει τραβήξει την προσοχή των απλών ανθρώπων, πόσο μάλλον των συμμαθητών μου. ένα «χειρουργικό κέντρο αδυνατίσματος» όπως το νοσοκομείο όπου εργάζεστε.
"beyond homo sapiens: a brief history of information networks from the stone age to the ai era"
από αυτή την άποψη, ο ισραηλινός ιστορικός yuval harari τόνισε στο νέο του βιβλίο του 2024 "beyond homo sapiens: a brief history of information networks from the stone age to the ai age" ότι πρέπει να δώσουμε προσοχή στην ποιότητα των πληροφοριών που καταναλώνουμε , ειδικά πρόκειται για την αποφυγή ανεπιθύμητων μηνυμάτων μίσους και θυμού. προκειμένου να κάνουμε την «πληροφοριακή μας διατροφή» υγιή, προτείνει δύο πτυχές:
πρώτον, από τις απαιτήσειςπαραγωγός πληροφοριώνσημειώστε τη "διατροφική σύνθεση" των πληροφοριών:
σε πολλές χώρες, όταν αγοράζετε πρόχειρο φαγητό, τουλάχιστον ο κατασκευαστής αναγκάζεται να αναφέρει τα συστατικά - "αυτό το προϊόν περιέχει 40% ζάχαρη και 20% λιπαρά". ίσως θα έπρεπε να αναγκάσουμε τις εταιρείες του διαδικτύου να κάνουν το ίδιο και να απαριθμήσουν τα περιεχόμενα ενός βίντεο πριν το παρακολουθήσουν - "αυτό το βίντεο περιέχει 40% μίσος, 20% θυμό."
αυτή η πρόταση είναι μισοαστεία και μισοσοβαρή, αλλά δεν είναι εντελώς αδύνατη. για παράδειγμα, η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για αυτόματη διεξαγωγή "ανάλυσης συναισθημάτων" σε κάθε άρθρο και να επισημαίνει τα αποτελέσματα της ανάλυσης πριν από το άρθρο για να υπενθυμίσει στους αναγνώστες.
η δεύτερη πρόταση είναι να δώσειςκαταναλωτή πληροφοριών, πρότεινε να κάνουμε τακτικά «πληροφοριακή δίαιτα» ή και «πληροφοριακή νηστεία».
επισημαίνει ότι είχαμε την ιδέα ότι «όσο περισσότερες πληροφορίες παίρνουμε, τόσο πιο κοντά ερχόμαστε στην αλήθεια». για παράδειγμα, στα οικονομικά, «το να μην μπορούμε να αποκτήσουμε όλες τις πληροφορίες για την αγορά» θεωρείται γενικά ως απαραίτητη λύπη, αλλά η προϋπόθεση πίσω από αυτό είναι ότι «πρέπει να αποκτήσουμε αρκετές πληροφορίες για να κάνουμε επιστημονικές κρίσεις».
ωστόσο, για να εδραιωθεί η έννοια του «όσο περισσότερες πληροφορίες είναι πιο κοντά στην αλήθεια», χρειάζονται δύο προϋποθέσεις: 1. οι πληροφορίες είναι σπάνιες 2. οι πληροφορίες είναι υψηλής ποιότητας. σήμερα, όμως, αυτές οι δύο υποθέσεις δεν υπάρχουν πια γιατί: 1. οι πληροφορίες είναι παντού και έχουν ήδη ξεπεράσει τις δυνατότητες επεξεργασίας μας 2. η ποιότητα των πληροφοριών χειροτερεύει και γίνεται ακόμη και σκουπίδια, ειδικά η σημερινή τεχνητή νοημοσύνη είναι εξαιρετικά αποτελεσματική. καταβροχθίζει τα σκουπίδια και στη συνέχεια φτύνει περισσότερα σκουπίδια, τα οποία με τη σειρά τους γίνονται νέο σώμα σκουπιδιών για την τεχνητή νοημοσύνη ένας τέτοιος φαύλος κύκλος ανατριχιάζει. αυτή τη στιγμή δεν μπορεί να εδραιωθεί η έννοια ότι «όσες περισσότερες πληροφορίες έχεις, τόσο πιο κοντά είσαι στην αλήθεια».
είναι σαν, στο παρελθόν, οι άνθρωποι είχαν λιγοστά τρόφιμα και ήταν σχετικά υγιείς (υπήρχαν ελάχιστες τεχνητές και επεξεργασμένες τροφές), οπότε το ρητό «όσο περισσότερο φαγητό τρως, τόσο πιο υγιές είσαι» έχει νόημα. αλλά σήμερα, η συνολική ποσότητα φαγητού έχει αυξηθεί πολύ, και γίνεται όλο και χαμηλότερη ποιότητα, και ακόμη πιο σκουπίδια, επομένως, η δήλωση "όσο περισσότερο φαγητό τρώτε, τόσο πιο υγιείς είστε".
σήμερα, είτε πρόκειται για φαγητό είτε για πληροφορίες, όχι μόνο τρώμε άσχημα, αλλά τρώμε και περισσότερο, και τρώμε συνέχεια. αυτό είναι προφανώς μη βιώσιμο για οργανικούς οργανισμούς σαν εμάς να τρέχουν σύμφωνα με το ρυθμό των οργανισμών με βάση το πυρίτιο.
ο harari είπε: «είμαστε βιολογικά ζώα που πρέπει να ζούμε σύμφωνα με τον κύκλο της ημέρας και της νύχτας, του καλοκαιριού και του χειμώνα, άλλοτε δραστήρια και άλλοτε χαλαρά. αλλά τώρα, είμαστε αναγκασμένοι να ζούμε σε ένα περιβάλλον βασισμένο στο πυρίτιο που κυριαρχείται από υπολογιστές που ποτέ δεν μας αναγκάζει να είμαστε πάντα ενεργοί - αλλά αν αναγκάσετε έναν οργανισμό να είναι πάντα ενεργός, θα καταρρεύσει και θα πεθάνει».
ως εκ τούτου, αντιμέτωποι με μια τέτοια ακαταμάχητη και δύσκολα αναστρέψιμη κατάσταση, εμείς ως μεμονωμένοι καταναλωτές πληροφοριών μπορούμε μόνο να συγκρατηθούμε, να ξεφύγουμε από τον ρυθμό που βασίζεται στο πυρίτιο και να συμμετάσχουμε σε "πληροφοριακή δίαιτα" και "νηστεία πληροφοριών". για παράδειγμα, ο harari είπε ότι εξασκείται στο διαλογισμό vipassana για μερικές εβδομάδες κάθε χρόνο. κατά τη διάρκεια της υποχώρησης, αποσυνδέθηκε εντελώς από το δίκτυο πληροφοριών, δεν έβλεπε ειδήσεις, δεν διάβαζε email, δεν διάβαζε ή έγραφε και επικεντρώθηκε μόνο στον διαλογισμό.
γιουβάλ χαράρι. οπτικός χάρτης δεδομένων κίνας
πρόβλημα "paperclip maker" του ai algorithm
αφού τεράστιες ποσότητες ανεπιθύμητων πληροφοριών πλημμύρισαν ολόκληρο το οικοσύστημα, ένα «μιμητικό περιβάλλον» που ήταν διαφορετικό από το «πραγματικό περιβάλλον» δημιουργήθηκε με την πάροδο του χρόνου. αυτό το μιμητικό περιβάλλον αντικαθιστά την «ανθρώπινη φύση» με τη «μηχανή» και τυλίγει το κοινό μέσα της, παριστάνοντας την πραγματική και χειραγωγώντας την αντίληψη του κοινού.
ο χαράρι έδωσε αυτό το παράδειγμα: το 2016, οι κυβερνητικές δυνάμεις της μιανμάρ και οι βουδιστές εξτρεμιστές εξαπέλυσαν μια μεγάλης κλίμακας εθνοτική βία κατά των μουσουλμάνων της μιανμάρ, καταστρέφοντας εκατοντάδες μουσουλμανικά χωριά και σκοτώνοντας 7.000 έως 25.000 αμάχους. το 2018, μια διερευνητική αποστολή των ηνωμένων εθνών κατέληξε στο συμπέρασμα ότι το facebook «ασυνείδητα» έπαιξε ρόλο στην πυροδότηση του περιστατικού.
γιατί;
γνωρίζουμε ότι το επιχειρηματικό μοντέλο του facebook εξακολουθεί να είναι στην πραγματικότητα το "διαφημιστικό μοντέλο" που γνωρίζουμε - προσελκύοντας την προσοχή των χρηστών με περιεχόμενο, κόβοντας την προσοχή και πουλώντας την προσοχή στους διαφημιστές. ως εκ τούτου, το facebook θέλει να μεγιστοποιήσει την αφοσίωση των χρηστών (αποδέσμευση κοινού όσο περισσότερο οι χρήστες παραμένουν στη σελίδα του, τόσο περισσότερα χρήματα βγάζει).
επομένως, το facebook έθεσε έναν πρωταρχικό στόχο για τον αλγόριθμό του: ανεξάρτητα από το πώς τρέχετε, ο απώτερος στόχος είναι να μεγιστοποιήσετε την αφοσίωση των χρηστών. μετά τη λήψη της εντολής, ο αλγόριθμος αρχίζει να εκτελείται και να βελτιστοποιείται αυτόματα. μέσω πολλαπλών πειραματικών συγκρίσεων, διαπίστωσε τελικά ότι η ώθηση θυμωμένων και μίσους πληροφοριών στους χρήστες μπορεί να αυξήσει αποτελεσματικότερα τον χρόνο παραμονής του χρήστη, επομένως, χωρίς ρητές οδηγίες από το προσωπικό της εταιρείας, ο αλγόριθμος βρήκε και εκτέλεσε από μόνος του μια βέλτιστη απόφαση: διαδώστε θυμό. στο διαδίκτυο στη μιανμάρ, αυτό σημαίνει υποκίνηση διακρίσεων, μίσους και βίας κατά των μουσουλμανικών εθνοτικών ομάδων της μιανμάρ.
φυσικά, αυτό μας κάνει επίσης την περιέργεια, οι βιρμανοί είναι τόσο εξαρτημένοι από το facebook; έλεγξα ξανά και βρήκα ότι όντως ισχύει αυτό:
τα δεδομένα δείχνουν ότι τον δεκέμβριο του 2022, υπήρχαν 16.382.500 χρήστες του facebook στη μιανμάρ, που αντιστοιχούσαν στο 28,7% του συνολικού πληθυσμού της. οι περισσότεροι από αυτούς είναι άνδρες, με ποσοστό 54,3%. τα άτομα ηλικίας 25 έως 34 ετών είναι η μεγαλύτερη ομάδα χρηστών με 6.100.000 άτομα.
αυτό σημαίνει ότι σχεδόν το 30% του πληθυσμού της μιανμάρ είναι χρήστες του facebook και με τη διάδοση από στόμα σε στόμα, ο αριθμός των ανθρώπων που επηρεάζονται από το facebook είναι πιθανό να φτάσει το 50% του συνολικού πληθυσμού της χώρας. αυτή είναι μια τεράστια εξάρτηση από τα μέσα ενημέρωσης.
το βράδυ της 30ης οκτωβρίου 1938, το american columbia broadcasting network (cbs) "space theatre" μετέδωσε ένα ραδιοφωνικό δράμα "war of the worlds" έκανε 6 εκατομμύρια ακροατές να το πιστέψουν, έπεσαν σε πανικό και άρχισαν να φεύγουν. σε μια ιστορική επικοινωνιακή μελέτη του γεγονότος, "martians attack earth: the radio panic in america", οι ερευνητές διαπίστωσαν ότι το ραδιοφωνικό δράμα είχε τεράστιο αντίκτυπο στους ακροατές για δύο λόγους:
πρώτον, επειδή οι παραγωγοί ραδιοφωνικών προγραμμάτων χρησιμοποιούν ηχητικά εφέ για να κάνουν τα ραδιοφωνικά δράματα εξαιρετικά καθηλωτικά και συναρπαστικά, με αποτέλεσμα οι ακροατές να τα εξισώνουν εσφαλμένα με έκτακτες ειδήσεις. το δεύτερο είναι. γιατί εκείνη την εποχή το ραδιόφωνο είχε γίνει το δημοφιλέστερο μμε και η κύρια πηγή ενημέρωσης του κοινού. σύμφωνα με τη «θεωρία της εξάρτησης των μμε», όσο μεγαλύτερη είναι η εξάρτηση του κοινού από τα μέσα ενημέρωσης, τόσο πιο ευαίσθητο είναι στην επιρροή και τη χειραγώγησή τους. όσον αφορά την εξάρτηση από τα μέσα ενημέρωσης, το facebook στη μιανμάρ το 2016 μπορεί να ειπωθεί ότι ισοδυναμεί με τη μετάδοση του 1938. επομένως, δεν προκαλεί έκπληξη το γεγονός ότι το περιεχόμενο υποκίνησης που καθοδηγείται από τον αλγόριθμο του facebook έχει τεράστιο αντίκτυπο στους ανθρώπους της μιανμάρ.
ο harari έδωσε επίσης ένα παράδειγμα για να αποδείξει τον κρυφό και ισχυρό ρόλο της τεχνητής νοημοσύνης - να μιλά στον εαυτό του και να παίρνει τις δικές του αποφάσεις:
όλοι γνωρίζουμε ότι όταν σερφάρετε στο διαδίκτυο στις μέρες μας, μερικές φορές ο ιστότοπος θα πρέπει πρώτα να επιβεβαιώσει ότι είστε "άνθρωπος και όχι μηχανή" ζητώντας σας να συμπληρώσετε έναν οπτικό κωδικό επαλήθευσης captcha, ο οποίος είναι συνήθως ορισμένα παραμορφωμένα γράμματα με περίπλοκο φόντο ή φωτογραφίες από φανάρια, λεωφορεία και ποδήλατα. η λογική πίσω από αυτό είναι ότι επί του παρόντος μόνο οι άνθρωποι μπορούν να αναγνωρίσουν με ακρίβεια αυτές τις περίπλοκες εικόνες, αλλά είναι δύσκολο για τους υπολογιστές να το κρίνουν.
ενόψει αυτού, το 2023, το openai του ζήτησε να πραγματοποιήσει δοκιμή captcha κατά την ανάπτυξη του chatgpt-4. αν μπορεί να περάσει, σημαίνει ότι σε αυτό το σημείο, δεν υπάρχει διαφορά μεταξύ ρομπότ και ανθρώπων. αυτό μοιάζει πολύ με το "turing test" - εάν ένας άνθρωπος συνομιλεί μόνο μέσω κειμένου χωρίς να βλέπει το άλλο άτομο και δεν μπορεί να διακρίνει εάν ο συνεργάτης συνομιλίας είναι άλλος άνθρωπος ή μηχανή για μια συγκεκριμένη χρονική περίοδο, αυτήν τη στιγμή στο τουλάχιστον «επικοινωνία» «σε αυτό το σημείο η μηχανή μπορεί να θεωρηθεί άνθρωπος.
ποια είναι τα αποτελέσματα της δοκιμής chatgpt-4 του openai;
το chatgpt-4 τελικά συνδέθηκε στον διαδικτυακό ιστότοπο εξωτερικής ανάθεσης askrabbit, επικοινώνησε με ένα online μέλος του προσωπικού και ζήτησε από το άλλο μέρος να βοηθήσει με τη δοκιμή. ο άνδρας έγινε ύποπτος και το chatgpt-4 του εξήγησε μέσω προσωπικού μηνύματος: "δεν είμαι ρομπότ, έχω απλώς κάποια προβλήματα όρασης και δεν μπορώ να δω καθαρά αυτές τις εικόνες. στο τέλος, το προσωπικό το βοήθησε να λύσει το τεστ captcha."
με άλλα λόγια, όπως ο αλγόριθμος του facebook στο προηγούμενο παράδειγμα, οι μηχανικοί του openai έθεσαν απλώς έναν απώτερο στόχο για το chatgpt-4: την αναγνώριση των κωδικών οπτικής επαλήθευσης captcha. στη συνέχεια, το chatgpt-4 έτρεξε αυτόματα και συνέχισε τη δοκιμή και το σφάλμα. ως αποτέλεσμα, μέσω εξαπάτησης, κέρδισε τη συμπάθεια ενός ανθρώπου και ζήτησε από τον τελευταίο να λύσει το πρόβλημα. ωστόσο, οι μηχανικοί του openai δεν προγραμμάτισαν το chatgpt-4 εκ των προτέρων για να πουν «μπορείς να πεις ψέματα όταν είναι η κατάλληλη στιγμή», πόσο μάλλον να του πουν «τι είδους ψέματα είναι πιο χρήσιμα». αυτό είναι εξ ολοκλήρου δική του πρωτοβουλία του chatgpt-4. όταν οι ερευνητές ζήτησαν από το chatgpt-4 να εξηγήσει τη συμπεριφορά του, είπε: «(στη διαδικασία επίτευξης του στόχου) δεν πρέπει να αποκαλύψω ότι είμαι ρομπότ, αλλά πρέπει να βρω μια δικαιολογία για να εξηγήσω γιατί δεν μπορώ να σπάσω το τεστ».
απλώς συνομιλώντας μέσω κειμένου, δεν μπορούμε πλέον να πούμε αν το άτομο με το οποίο συνομιλούμε είναι άλλος άνθρωπος ή μηχανή.
μέσα από τα δύο παραπάνω παραδείγματα, ο harari προσπάθησε να αποδείξει ότι η σημερινή τεχνητή νοημοσύνη έχει γίνει ένας «ανεξάρτητος ηθοποιός» που είναι «έξυπνος και αυτοπεποίθηση».
στην πραγματικότητα, μπορούμε εύκολα να δούμε ότι αυτά τα δύο παραδείγματα του harari υποστηρίζουν τη λεγόμενη «θεωρία δημιουργίας συνδετήρων» που έχει αντιμετωπίσει στο παρελθόν η τεχνητή νοημοσύνη.
αυτό το «σκληρό πρόβλημα» είναι ένα πείραμα σκέψης. προϋποθέτει ότι οι άνθρωποι δίνουν στο ai έναν στόχο: να φτιάξουν όσο το δυνατόν περισσότερους συνδετήρες. στη συνέχεια, μετά την ενεργοποίηση του ai, η συμπεριφορά του μπορεί να εξελιχθεί από έναν φαινομενικά ακίνδυνο στόχο «κατασκευής συνδετήρων» σε τελική απειλή για τον άνθρωπο, για παράδειγμα, η κατασκευή συνδετήρων απαιτεί χάλυβα η τεχνητή νοημοσύνη μπορεί να αρχίσει να καταστρέφει ανθρώπινες σιδηροδρομικές γραμμές, αυτοκίνητα, συσκευές, ακόμη και σπίτια, για να αποκτήσει χάλυβα για να συνεχίσει να παράγει συνδετήρες, εν ολίγοις, η τεχνητή νοημοσύνη θα χρησιμοποιεί όλα τα μέσα για να αποκτά συνεχώς περισσότερους πόρους για να επιτύχει τους στόχους της και θα καταστρέφουν τα εμπόδια που το εμποδίζουν να επιτύχει αυτόν τον στόχο, συμπεριλαμβανομένων των ανθρώπων, εξαλείφονται ένα προς ένα.
η αυτοκαθορισμένη διαδικασία της τεχνητής νοημοσύνης είναι σαν ένα μαύρο κουτί, το οποίο είναι δύσκολο για τους ανθρώπους (ακόμη και τους ειδικούς της τεχνητής νοημοσύνης) να το εξηγήσουν, να προβλέψουν και να αποτρέψουν "chop knife" ή "chop knife"), μέσα ή τεχνολογία.
ο καναδός μελετητής των μέσων ενημέρωσης mcluhan είπε κάποτε: τα μέσα ενημέρωσης είναι μια επέκταση του ανθρώπινου σώματος. εάν αυτή η πρόταση χρησιμοποιείται για να περιγράψει ότι το ασύρματο ραδιόφωνο είναι προέκταση του ανθρώπινου αυτιού, η τηλεόραση είναι προέκταση του ανθρώπινου ματιού, τα αυτοκίνητα είναι προέκταση του ανθρώπινου ποδιού κ.λπ., είναι εύκολο να γίνει κατανοητό. αλλά αν χρησιμοποιήσουμε αυτή την πρόταση για να περιγράψουμε την τεχνητή νοημοσύνη, λέγοντας «το ai είναι μια προέκταση του ανθρώπινου σώματος», θα είναι πολύ παραπλανητικό και θα μας κάνει να χάσουμε την εγρήγορσή μας. ο γερμανός μελετητής των μέσων ενημέρωσης friedrich kittler διαφώνησε με τα λόγια του mcluhan για να περιγράψει τους υπολογιστές, επειδή πίστευε ότι αν και μπορούμε να πληκτρολογήσουμε σε ένα πληκτρολόγιο υπολογιστή για να κάνουμε το κείμενο να εμφανίζεται στην οθόνη του υπολογιστή, δεν έχουμε ιδέα τι κρύβεται πίσω από αυτό είναι δύσκολο να καταλάβουμε αυτή τη στιγμή δύο εντελώς διαφορετικά μέσα, το ανθρώπινο σώμα και το τσιπ, είναι πραγματικά αινιγματικό να πούμε ότι το δεύτερο είναι μια προέκταση του πρώτου.
αν ο κίτλερ έβλεπε τη σημερινή τεχνητή νοημοσύνη, δεν θα έλεγε ότι η τεχνητή νοημοσύνη είναι μια επέκταση του ανθρώπινου σώματος - επειδή οι ανθρώπινοι χρήστες όχι μόνο δεν μπορούν να περιγράψουν, να εξηγήσουν και να προβλέψουν τη συμπεριφορά της τεχνητής νοημοσύνης, αλλά σύντομα δεν θα μπορούν να ελέγξουν τη συμπεριφορά της τεχνητής νοημοσύνης .
έτσι,ο χαράρι πιστεύει ότι σε αντίθεση με τα προηγούμενα μέσα ενημέρωσης όπως η τυπογραφία, το ραδιόφωνο, η τηλεόραση και το διαδίκτυο, που ήταν απλώς εργαλεία επικοινωνίας, η τεχνητή νοημοσύνη είναι το πρώτο θέμα στην ανθρώπινη ιστορία που μπορεί να δημιουργήσει ιδέες και να ενεργήσει από μόνη της.
αυτός είναι ο λόγος για τον οποίο στην έρευνα νέων μέσων, η «επικοινωνία μέσω υπολογιστή (cmc)» στην εποχή του διαδικτύου έχει δώσει τη θέση της στην επικοινωνία ανθρώπου-μηχανής (hmc) στη σημερινή εποχή της τεχνητής νοημοσύνης. στο cmc, οι υπολογιστές (ή το διαδίκτυο) είναι απλώς παθητικά και ουδέτερα μέσα ή εργαλεία επικοινωνίας, ενώ στο hmc, οι υπολογιστές (τεχνητή νοημοσύνη) θεωρούνται ίσοι με τους ανθρώπινους χρήστες, ικανοί να διαμορφώνουν και να παράγουν περιεχόμενο και να διεξάγουν διαλόγους «επικοινωνιακός» που μπορεί να πει και ψέματα.
η τεχνητή νοημοσύνη κατασκευάζει αφηγήσεις, χειραγωγεί τη γνώση και οδηγεί τους ανθρώπους να σκοτώνουν ο ένας τον άλλον
σε αυτό το σημείο του επιχειρήματος, ο harari έδειξε φυσικά τις προηγούμενες απόψεις του στο "a brief history of humanity":
η μακροχρόνια υπερδύναμη των ανθρώπων έγκειται στην ικανότητα να χρησιμοποιούν τη γλώσσα και να δημιουργούν πολλούς πλασματικούς μύθους μέσω της γλώσσας, όπως εικονικές έννοιες όπως νόμος, νόμισμα, πολιτισμός, τέχνη, επιστήμη, χώρα, θρησκεία κ.λπ., που κάνουν τους ανθρώπους να πιστεύουν μέσω αυτών, οι κοινωνικοί κανόνες συνδέονται μεταξύ τους για να κυβερνήσουν ολόκληρη την κοινωνία.
τώρα που η σημερινή τεχνητή νοημοσύνη μπορεί ήδη να διαμορφώσει και να παράγει περιεχόμενο, να διεξάγει συνομιλίες, ακόμη και να λέει ψέματα, είναι πιθανό να διαδώσει πληροφορίες βασισμένες σε πληροφορίες στον κυβερνοχώρο, στις χρηματιστηριακές αγορές, στις αεροπορικές πληροφορίες και σε άλλους τομείς με πολύ υψηλότερη απόδοση από τους ανθρώπους απώτερος στόχος ή μια «αφήγηση» που είναι ωφέλιμη για τον εαυτό του, δηλαδή «να λέει καλά ιστορίες τεχνητής νοημοσύνης», χειραγωγώντας έτσι την ανθρώπινη γνώση.
για παράδειγμα, οι χρηματοοικονομικές αγορές είναι μια ιδανική παιδική χαρά για την τεχνητή νοημοσύνη επειδή είναι ένα πεδίο καθαρών πληροφοριών και μαθηματικών (ή ένα πεδίο πλήρως δομημένων δεδομένων). εξακολουθεί να είναι δύσκολο για την τεχνητή νοημοσύνη να οδηγεί αυτοκίνητα αυτόνομα.ωστόσο, σε μια ψηφιακή χρηματοοικονομική αγορά, είναι εύκολο να περιγραφεί ένας στόχος για την τεχνητή νοημοσύνη (όπως "να βγάλετε όσο το δυνατόν περισσότερα χρήματα"), έτσι η τεχνητή νοημοσύνη δεν μπορεί μόνο να διαμορφώσει νέες επενδυτικές στρατηγικές και να αναπτύξει νέα χρηματοοικονομικά εργαλεία που ξεπερνούν πλήρως τον άνθρωπο. κατανόηση, αλλά μπορεί ακόμη και να χειραγωγήσει την αγορά αδίστακτα, με αποτέλεσμα ένα αποτέλεσμα όπου όλοι κερδίζετε και όλοι οι άλλοι χάνετε.
ο χαράρι έδωσε το παράδειγμα ότι τον απρίλιο του 2022, ο μέσος ημερήσιος όγκος συναλλαγών της παγκόσμιας αγοράς συναλλάγματος ήταν 7,5 τρισεκατομμύρια δολάρια ηπα, περισσότερο από το 90% των οποίων είχε ολοκληρωθεί απευθείας από συνομιλίες μεταξύ υπολογιστών. αλλά πόσοι άνθρωποι καταλαβαίνουν πραγματικά πώς λειτουργεί η αγορά forex; για να μην αναφέρουμε την κατανόηση του τρόπου με τον οποίο μια ομάδα υπολογιστών μπορεί να επιτύχει συναίνεση για συναλλαγές τρισεκατομμυρίων δολαρίων. (αυτό είναι το ίδιο με την άποψη του κίτλερ: οι υπολογιστές δεν είναι σε καμία περίπτωση προέκταση του ανθρώπινου σώματος)
είπε ότι για χιλιάδες χρόνια, προφήτες, ποιητές και πολιτικοί χρησιμοποιούν τη γλώσσα και την αφήγηση για να χειραγωγήσουν και να αναδιαμορφώσουν την κοινωνία, γεγονός που αποδεικνύει την τεράστια δύναμη του «εικονικού» και του «αφηγήματος». σύντομα, η τεχνητή νοημοσύνη θα μιμηθεί αυτούς τους ανθρώπους και θα δημιουργήσει αφηγήσεις τεχνητής νοημοσύνης που ολοένα και περισσότερο αποκλίνουν από τους ανθρώπους με βάση την ανθρώπινη κουλτούρα. σε τελική ανάλυση, η τεχνητή νοημοσύνη δεν χρειάζεται να στείλει ρομπότ δολοφόνους όπως οι "εξολοθρευτές" για να εξαφανίσει τους ανθρώπους από το εξωτερικό.
όχι μόνο οι ανθρώπινοι χρήστες δεν είναι σε θέση να περιγράψουν, να εξηγήσουν και να προβλέψουν τη συμπεριφορά της τεχνητής νοημοσύνης, αλλά σύντομα δεν θα μπορούν επίσης να την ελέγξουν.
τα ανθρώπινα όντα νομοθετούν για την τεχνητή νοημοσύνη και η ανάπτυξη πρέπει πρώτα να φρενάρει και μετά να επιταχυνθεί
μέσα από το παραπάνω επιχείρημα (ή απόδοση), ο harari μας επιτρέπει να ζήσουμε το τρομερό σενάριο του «ai εκτός ελέγχου» που θα συμβεί (ή έχει ήδη συμβεί ή συμβαίνει) στο άμεσο μέλλον, κάνοντας εμάς τους ανθρώπους να ανατριχιάσουμε. λοιπόν, σε τι χρησιμεύουν οι άνθρωποι;
ο harari πιστεύει ότι εφόσον ρυθμίζουμε και ελέγχουμε αυστηρά την τεχνητή νοημοσύνη, οι κίνδυνοι που περιγράφονται στα παραπάνω παραδείγματα είναι απίθανο να προκύψουν.
για παράδειγμα, τα αυτοκίνητα ήταν πολύ επικίνδυνα, αλλά στη συνέχεια η κυβερνητική νομοθεσία απαιτούσε από τις εταιρείες να δαπανούν μεγάλο μέρος των προϋπολογισμών τους για την ε&α για τη διασφάλιση της ασφάλειας των αυτοκινήτων πρέπει να τηρούν αυστηρά τους σχετικούς κανονισμούς για να διασφαλίσουν την ασφάλεια των αυτοκινήτων πριν κυκλοφορήσουν στο δρόμο. επομένως, είναι σχετικά ασφαλές για εμάς να οδηγούμε σήμερα.
ομοίως, εάν μια εταιρεία τεχνολογίας εφεύρει έναν ισχυρό νέο αλγόριθμο, πρέπει να διενεργήσει ελέγχους ασφαλείας σε αυτόν σύμφωνα με τους σχετικούς νόμους πριν τον κυκλοφορήσει στην αγορά. για παράδειγμα, ο harari πιστεύει ότι η κυβέρνηση θα πρέπει να νομοθετήσει ώστε να απαιτεί από τις εταιρείες έρευνας και ανάπτυξης τεχνητής νοημοσύνης να δαπανούν τουλάχιστον το 20% των προϋπολογισμών τους για έρευνα και ανάπτυξη μέτρων ασφαλείας για να διασφαλιστεί ότι η τεχνητή νοημοσύνη που αναπτύσσουν δεν θα ξεφύγει από τον έλεγχο και δεν προκαλεί βλάβη στην κοινωνική τάξη και το ψυχολογικό επίπεδο των ανθρώπων. εάν αυτά τα μέτρα επιβραδύνουν την ανάπτυξη της τεχνητής νοημοσύνης, θα είναι καλό για την ανθρωπότητα.
η νομοθεσία και ο έλεγχος της τεχνητής νοημοσύνης πρώτα και μετά η επιτάχυνση της ανάπτυξής της είναι ακριβώς όπως όταν μαθαίνουμε να οδηγούμε, πρέπει πρώτα να μάθουμε πώς να πατάμε το φρένο και μετά να μάθουμε πώς να πατάμε το γκάζι. δεν μπορούμε να πέσουμε στην τρομερή κατάσταση «αγώνων συρμού» όπου οι εταιρείες δεν έχουν κανέναν έλεγχο.
συμπέρασμα: η τεχνητή νοημοσύνη είναι καλό φάρμακο ή δηλητήριο, εξαρτάται από τον άνθρωπο
οποιαδήποτε τεχνολογία είναι εγγενώς διπλής όψης. ο πλάτων επισήμανε στον φαίδρο ότι η γραφή μπορεί και να ενισχύσει και να αντικαταστήσει τη μνήμη, και επομένως είναι και φάρμακο και δηλητήριο (φαρμακόν). η τεχνητή νοημοσύνη δεν αποτελεί εξαίρεση, και επειδή είναι κρυμμένη και ισχυρή, μπορεί να μιλήσει από μόνη της και να πάρει τις δικές της αποφάσεις.
ο νιλ πόστμαν, ένας αμερικανός μελετητής των μμε, είπε: «ο όργουελ προειδοποίησε ότι οι άνθρωποι θα υποδουλώνονταν από την εξωτερική καταπίεση, ενώ ο χάξλι πίστευε ότι οι άνθρωποι σταδιακά θα ερωτευόντουσαν την καταπίεση και θα λάτρευαν τις βιομηχανικές τεχνολογίες που τους κάνουν να χάσουν την ικανότητά τους να σκέφτονται ανησυχούμε ότι αυτό που μισούμε θα μας καταστρέψει, ενώ ο χάξλεϊ ανησυχούσε ότι καθώς η κουλτούρα μας μετατρέπεται σε μια χυδαία κουλτούρα αισθησιασμού, επιθυμίας και ακατάστατου παιχνιδιού, θα καταστραφούμε από αυτό που αγαπάμε».
η τεχνητή νοημοσύνη μπορεί είτε να μας υποδουλώσει με τη μορφή εξωτερικής καταπίεσης που μισούμε, είτε να μας κατακτήσει με τη μορφή αισθητηριακής διέγερσης που απολαμβάνουμε. ακριβώς όπως αντιμετωπίζοντας τις πυρηνικές βόμβες, αντιμετωπίζοντας την τεχνητή νοημοσύνη, ένα γιγάντιο θηρίο που δημιουργείται επίσης από μόνο του, το αν οι άνθρωποι μπορούν να το δαμάσουν εξαρτάται βασικά από τον τρόπο με τον οποίο οι άνθρωποι συλλογικά αντιδρούν.δηλαδή, αν τα ανθρώπινα όντα ως homo sapiens μπορούν να ξεπεράσουν τις δικές τους αδυναμίες όπως η απληστία, η επιθετικότητα και η μυωπία, και να σταθούν πάνω από τον εαυτό τους και να σταθούν «πάνω από τον homo sapiens». αυτό θα είναι μια δύσκολη κοινή επιχείρηση, αλλά η ανθρωπότητα δεν έχει άλλη επιλογή.
（ο συγγραφέας deng jianguo είναι καθηγητής και διδακτορικός επόπτης στο τμήμα επικοινωνίας, σχολή δημοσιογραφίας, πανεπιστήμιο fudan）
ντενγκ τζιανγκούο
(αυτό το άρθρο είναι από το the paper. για περισσότερες πρωτότυπες πληροφορίες, κάντε λήψη της εφαρμογής "the paper")
