Νέα

Η μοναδικότητα είναι πιο κοντά, τι πρέπει να κάνουν οι άνθρωποι;

Μετά από δύο χρόνια «καθυστερήσεων», το νέο βιβλίο του Ray Kurzweil «The Singularity is Nearer» τελικά κυκλοφόρησε στα τέλη Ιουνίου. Ως λάτρης των βιβλίων του Kurzweil, βρήκα αμέσως την ηλεκτρονική έκδοση του νέου βιβλίου και το διάβασα σε μια συνεδρίαση.

Στο βιβλίο, ο Kurzweil δείχνει στους αναγνώστες έναν σημαντικό εμπειρικό νόμο: η ταχύτητα ανάπτυξης της τεχνολογίας της πληροφορίας προχωρά εκθετικά. Με αυτόν τον ρυθμό, η τεχνική ικανότητα των ανθρώπων να επεξεργάζονται πληροφορίες διπλασιάζεται κάθε χρόνο. Ως ο πιο τυπικός εκπρόσωπος της τεχνολογίας των πληροφοριών, η ανάπτυξη της τεχνητής νοημοσύνης (Artificial Intelligence, εφεξής καλούμενη AI) είναι ακόμη πιο εκπληκτική. Σύμφωνα με αυτή την τάση, πριν από το 2029, η τεχνητή νοημοσύνη θα ξεπεράσει τους ανθρώπους σε όλες τις εργασίες και η Τεχνητή Γενική Νοημοσύνη (AGI) θα υλοποιηθεί πλήρως. Αφού η τεχνολογία AI πρωτοστατήσει στην επίτευξη καινοτομιών, θα ενδυναμώσει πολλούς τομείς και θα τους βοηθήσει να επιτύχουν ταχεία ανάπτυξη. Ως εκ τούτου, μέσα σε 5 έως 10 χρόνια, οι άνθρωποι αναμένεται να επιτύχουν «Ταχύτητα διαφυγής μακροζωίας», αν και οι άνθρωποι θα συνεχίσουν να γερνούν, ο κίνδυνος θανάτου δεν θα αυξάνεται λόγω των βελτιώσεων στην ιατρική τεχνολογία. Με τη βοήθεια νανορομπότ μεγέθους ερυθρών αιμοσφαιρίων, οι άνθρωποι θα μπορούν να σκοτώνουν απευθείας ιούς και καρκινικά κύτταρα σε μοριακό επίπεδο, επιλύοντας έτσι μεγάλο αριθμό ασθενειών που μαστίζουν τον άνθρωπο και το προσδόκιμο ζωής του ανθρώπου θα αυξηθεί σημαντικά ως αποτέλεσμα. Όχι μόνο αυτό, τα νανορομπότ αναμένεται επίσης να εισέλθουν μη επεμβατικά στον ανθρώπινο εγκέφαλο μέσω τριχοειδών αγγείων. Μαζί με άλλους ψηφιακούς νευρώνες που φιλοξενούνται στο cloud, θα φέρουν την ανθρώπινη νοημοσύνη σε υψηλότερο επίπεδο. Με αυτόν τον τρόπο, η ανθρώπινη σκέψη, η μνήμη και οι ικανότητες επίλυσης προβλημάτων δεν θα περιορίζονται πλέον από την ικανότητα του εγκεφάλου και η ανθρώπινη νοημοσύνη θα αυξηθεί χιλιάδες φορές. Αφού συμβούν όλα τα παραπάνω, πολλά από τα προβλήματα που μαστίζουν σήμερα τους ανθρώπους θα λυθούν: θα ανακαλυφθεί και θα χρησιμοποιηθεί φθηνότερη ενέργεια, η αποδοτικότητα της γεωργίας θα βελτιωθεί σημαντικά, το επίπεδο της δημόσιας εκπαίδευσης θα βελτιωθεί σημαντικά και η βία θα είναι σημαντική μείωση... Εν ολίγοις, πριν από το 2045, η ανθρωπότητα θα περάσει τη «Μοναδικότητα» και θα εγκαινιάσει μια νέα εποχή που είναι εντελώς διαφορετική από την προηγούμενη.

Για παλιούς αναγνώστες όπως εγώ, αυτές οι απόψεις του Kurzweil δεν είναι καινούριες. Μάλιστα, στο βιβλίο του «The Singularity is Near» που εκδόθηκε το 2005, αναφέρθηκε αναλυτικά σε όλα τα παραπάνω σημεία Υπό αυτή την έννοια, αυτό το νέο βιβλίο δεν είναι τίποτα άλλο από το Απλά παλιό κρασί σε νέα μπουκάλια. Ωστόσο, όταν διάβασα ξανά αυτές τις απόψεις αυτή τη φορά, η διάθεσή μου ήταν εντελώς διαφορετική από πριν. Όταν διάβασα το "The Singularity Is Near" πριν από περισσότερο από μια δεκαετία, το σκέφτηκα περισσότερο ως μυθιστόρημα επιστημονικής φαντασίας. Αν και ο Kurzweil χρησιμοποιεί πολλά δεδομένα στο βιβλίο για να δείξει ότι η παγκόσμια τεχνολογία αναπτύσσεται με εκθετικό ρυθμό, πολλοί άνθρωποι, συμπεριλαμβανομένου και εμένα, είναι πολύ δύσπιστοι ως προς αυτό.

Εξάλλου, από εκείνη την εποχή, παρόλο που η τεχνολογία του Διαδικτύου γνώριζε ταχεία ανάπτυξη, εκτός από το ότι έφερνε περισσότερη άνεση στους ανθρώπους, φαινόταν δύσκολο να έχει θεμελιώδη επίδραση στον τρόπο ζωής των ανθρώπων. Ταυτόχρονα, υπό την καθοδήγηση του συμβολισμού, ο τομέας της τεχνητής νοημοσύνης, που κάποτε είχε μεγάλες ελπίδες, έχει φτάσει σε αδιέξοδο και φαίνεται δύσκολο να δούμε μια πιθανή ανακάλυψη για λίγο. Κάτω από τέτοιες συνθήκες, είναι σχεδόν σαν φαντασία να πούμε ότι το επίπεδο νοημοσύνης της τεχνητής νοημοσύνης θα ξεπεράσει αυτό των ανθρώπων το 2029.

Ως εκ θαύματος, η μετέπειτα ιστορική εξέλιξη της τάσης είναι εντυπωσιακά παρόμοια με την πρόβλεψη του Kurzweil. Μόλις δύο χρόνια μετά την κυκλοφορία του "The Singularity is Near", η "επανάσταση της βαθιάς μάθησης" πυροδότησε έναν νέο γύρο ανάπτυξης στον τομέα της τεχνητής νοημοσύνης. Δεν άργησε να προχωρήσει οι δυνατότητες του AI στο σημείο που θα μπορούσε να νικήσει κορυφαίους παίκτες Go, να αποκρυπτογραφήσει τις δομές δισεκατομμυρίων πρωτεϊνών και να βοηθήσει στο σχεδιασμό τσιπ υπολογιστών με εκατοντάδες χιλιάδες εξαρτήματα. Μετά τη γέννηση του ChatGPT (πρόγραμμα τεχνητής νοημοσύνης που βασίζεται σε συνομιλίες) τον Οκτώβριο του 2022, η τεχνητή νοημοσύνη έχει κατακτήσει δεξιότητες που μόνο οι άνθρωποι μπορούν να κατακτήσουν σε λίγο περισσότερο από ένα χρόνο, όπως συνομιλία, γραφή, ζωγραφική και παραγωγή βίντεο. Σύμφωνα με σχετική έρευνα, τα τελευταία μοντέλα τεχνητής νοημοσύνης έχουν επιδείξει ικανότητες πέρα ​​από τον άνθρωπο σε εκατοντάδες εργασίες. Υπό αυτές τις συνθήκες, η πρόβλεψη ότι η τεχνητή νοημοσύνη θα ξεπεράσει τους ανθρώπους το 2029 όχι μόνο δεν φαίνεται πλέον ριζοσπαστική, αλλά εμφανίζεται και ελαφρώς συντηρητική. Μάλιστα, πολλοί επαγγελματίες πιστεύουν ότι το AGI θα φτάσει νωρίτερα. Για παράδειγμα, ο Shane Legg, ένας από τους ιδρυτές της DeepMind (της εταιρείας τεχνητής νοημοσύνης που ανέπτυξε το AlphaGo), πιστεύει ότι το AGI μπορεί να επιτευχθεί μέχρι το 2028, ενώ ο Διευθύνων Σύμβουλος της Tesla, Elon Musk, είναι ακόμη πιο ριζοσπαστικό να πιστεύουμε ότι οι άνθρωποι θα εισαγάγουν το AGI. 2025.

Όχι μόνο αυτό, πολλές τεχνολογίες, συμπεριλαμβανομένων των νανορομπότ και των διεπαφών εγκεφάλου-υπολογιστή, αναπτύσσονται επίσης γρήγορα όπως προέβλεψε ο Kurzweil. Για παράδειγμα, τον Ιανουάριο του 2023, το περιοδικό «Nature Nanotechnology» ανέφερε την έρευνα ερευνητών από το Ινστιτούτο Επιστήμης και Τεχνολογίας της Βαρκελώνης, χρησιμοποιώντας νανορομπότ για τη μεταφορά φαρμάκων για τη θεραπεία του καρκίνου της ουροδόχου κύστης. Μελέτες έχουν δείξει ότι αυτή η θεραπεία μπορεί να συρρικνώσει τους όγκους σε πειραματικά ποντίκια κατά 90%. Αυτή η επιτυχία είναι μια καλή απεικόνιση της ιδέας του Kurzweil να εφαρμόσει νανορομπότ για τη θεραπεία του καρκίνου και, ως εκ τούτου, να παρατείνει τη ζωή του ανθρώπου. Για ένα άλλο παράδειγμα, μόλις πριν από λίγες ημέρες, ο Μασκ ανακοίνωσε ότι η δεύτερη χειρουργική επέμβαση διεπαφής εγκεφάλου-υπολογιστή θα πραγματοποιηθεί εντός λίγων ημερών και προέβλεψε ότι μέσα σε λίγα χρόνια, χιλιάδες ασθενείς θα έχουν εμφυτευμένες συσκευές διασύνδεσης στον εγκέφαλό τους. Αν και αυτή η τεχνολογία εξακολουθεί να έχει πολλές ελλείψεις επί του παρόντος, σύμφωνα με την τρέχουσα ταχύτητα ανάπτυξης, στο εγγύς μέλλον, δεν θα πρέπει να είναι όνειρο για τους ανθρώπους να αλληλεπιδρούν με υπολογιστές μέσω διεπαφών εγκεφάλου-υπολογιστή. Εάν συνδυαστούν οι δύο «μαύρες τεχνολογίες» της νανοτεχνολογίας και της διεπαφής εγκεφάλου-υπολογιστή, θα είναι απολύτως δυνατό να επιτευχθεί ο διπλασιασμός της σύντηξης και της νοημοσύνης ανθρώπου-μηχανής που είπε ο Kurzweil. Με βάση τους παραπάνω λόγους, έχουμε λόγους να πιστεύουμε ότι η επίτευξη της «ιδιαιτερότητας» πριν από το 2045 γίνεται όλο και πιο τεχνικά εφικτή.

Ωστόσο, όταν οι άνθρωποι περνούν τη «μοναδικότητα», μπορούν πραγματικά να ξεκινήσουν μια άνευ προηγουμένου όμορφη εποχή όπως προέβλεψε ο Kurzweil; Κατά τη γνώμη μου, η απάντηση σε αυτό το ερώτημα είναι πραγματικά αβέβαιη. Αν και οι τεχνολογικοί αισιόδοξοι, συμπεριλαμβανομένου του ίδιου του Kurzweil, μπορούν να αναφέρουν πολλά ιστορικά στοιχεία για να αποδείξουν ότι η τεχνολογική ανάπτυξη μέχρι στιγμής έχει προωθήσει τελικά τη βελτίωση της ανθρώπινης ευημερίας, αν χρησιμοποιήσουμε απλώς αυτόν τον νόμο για να προβλέψουμε το μέλλον, ίσως θα υπάρξουν τεράστιοι κίνδυνοι. Εξάλλου, καμία τεχνολογία στην ανθρώπινη ιστορία δεν έχει τη δύναμη της τεχνητής νοημοσύνης από τη στιγμή που θα χρησιμοποιηθεί ακατάλληλα, οι κίνδυνοι που θα προκαλέσει θα είναι αδιανόητοι.

Επομένως, για να διασφαλίσουμε ότι θα εισαγάγουμε μια όμορφη νέα εποχή μετά τη «μοναδικότητα», πρέπει να διεξαγάγουμε μια ολοκληρωμένη μελέτη της σχέσης μεταξύ ανθρώπων και τεχνολογίας, ανθρώπων και ανθρώπων, και ανθρώπων και ανθρώπινης φύσης πριν από την άφιξη της μοναδικότητας. Σκεφτείτε και βρείτε τρόπους για να διασφαλίσετε ότι η τεχνολογία αναπτύσσεται πάντα προς μια κατεύθυνση που είναι επωφελής για την ανθρωπότητα.

Σύμφωνα με την πρόβλεψη του Kurzweil, η άφιξη του AGI απέχει περίπου πέντε χρόνια. Αν και το επίπεδο νοημοσύνης της τεχνητής νοημοσύνης δεν έχει ξεπεράσει εντελώς αυτό των ανθρώπων μέχρι στιγμής, έχει ξεπεράσει όντως τα ανθρώπινα επίπεδα σε πολλές πτυχές, γεγονός που έχει προκαλέσει πρωτοφανή ανησυχία για την τεχνολογική ανεργία που προκαλείται από την τεχνητή νοημοσύνη.

Από ιστορική άποψη, η τεχνολογική ανεργία δεν είναι νέο θέμα. Από την εφεύρεση της ατμομηχανής έως την εφαρμογή του ηλεκτρισμού στη διάδοση του Διαδικτύου, υπήρξε ένα σημαντικό φαινόμενο «Δημιουργικής Καταστροφής», με αποτέλεσμα την εξαφάνιση μεγάλου αριθμού θέσεων εργασίας που βασίζονται σε παλιές τεχνολογίες και την απώλεια πολλών ανθρώπων. σε συναφή επαγγέλματα. Ωστόσο, τα περισσότερα από αυτά τα κύματα τεχνολογικής ανεργίας στην ιστορία ήταν προσωρινά. Καθώς οι νέες τεχνολογίες γίνονται πιο δημοφιλείς, θα δημιουργηθούν πολλές νέες θέσεις εργασίας.

Είναι αλήθεια ότι ο αντίκτυπος της τεχνητής νοημοσύνης στην αγορά εργασίας δεν ήταν μέχρι στιγμής σημαντικός, αλλά αυτό δεν σημαίνει ότι δεν υπάρχουν οι κίνδυνοι της. Κατά την πρόβλεψη του πιθανού αντίκτυπου στην απασχόληση που θα προκληθεί από την τεχνητή νοημοσύνη στο μέλλον, οι άνθρωποι συχνά παραβλέπουν μια σημαντική προϋπόθεση, δηλαδή ότι η βελτίωση των δυνατοτήτων τεχνητής νοημοσύνης μπορεί να προχωρήσει σύμφωνα με έναν εκθετικό νόμο. Στην πραγματικότητα, αν πάρουμε την έλευση του ChatGPT (πρόγραμμα συνομιλίας τεχνητής νοημοσύνης) το 2022 ως κόμβο, δεν είναι δύσκολο να διαπιστώσουμε ότι η ταχύτητα ανάπτυξης της τεχνητής νοημοσύνης μετά από αυτόν τον κόμβο είναι πολύ μεγαλύτερη από ό,τι πριν από τον κόμβο. Απλώς πάρτε ως παράδειγμα την ικανότητα της αλληλεπίδρασης Πριν από την εμφάνιση του ChatGPT, χρειάστηκαν δεκαετίες οι άνθρωποι για να μάθουν να μιλάνε ελεύθερα με τους ανθρώπους . Υπό αυτή την έννοια, η παρέκταση του μελλοντικού ρυθμού ανάπτυξης των δυνατοτήτων τεχνητής νοημοσύνης με βάση αποκλειστικά τη γραμμική λογική είναι πιθανό να οδηγήσει σε πολύ σοβαρές εσφαλμένες εκτιμήσεις. Θα πρέπει επίσης να σημειωθεί ότι ενώ οι δυνατότητες τεχνητής νοημοσύνης έχουν βελτιωθεί σημαντικά, το κόστος χρήσης του έχει επίσης μειωθεί σημαντικά. Προς το παρόν, το κόστος για τους ανθρώπους να καλούν μοντέλα AI μέσω API έχει πέσει σχεδόν στο μηδέν.

Αυτή η βελτίωση της απόδοσης και η μείωση του κόστους σε συνδυασμό, καθιστούν όχι μόνο τεχνικά εφικτή αλλά και οικονομικά εφικτή την αντικατάσταση των ανθρώπων με τεχνητή νοημοσύνη. Στην πραγματικότητα, αν δώσουμε περισσότερη προσοχή στις σχετικές ειδήσεις τεχνολογίας, θα διαπιστώσουμε ότι η τεχνητή νοημοσύνη έχει αντικαταστήσει αθόρυβα πολλά επαγγέλματα όταν δεν δίνουμε προσοχή. Αξίζει να σημειωθεί ότι μόλις πριν από δέκα χρόνια, οι άνθρωποι πίστευαν ότι η τεχνητή νοημοσύνη θα αντικαθιστούσε μόνο θέσεις εργασίας που ήταν πιο συνηθισμένες και επαναλαμβανόμενες, ωστόσο, θα ήταν δύσκολο για την τεχνητή νοημοσύνη να αντικαταστήσει θέσεις εργασίας που απαιτούν περισσότερη δημιουργικότητα και δεξιότητες. Ωστόσο, το επάγγελμα του εικονογράφου ήταν κάποτε δημοφιλές στους νέους λόγω των δωρεάν ωρών εργασίας και του σχετικά υψηλού εισοδήματος Τώρα, αν θέλετε να χρησιμοποιήσετε μοντέλα τεχνητής νοημοσύνης για να ολοκληρώσετε τις εικονογραφήσεις, χρειάζεστε μόνο μερικές εκατοντάδες γιουάν για απεριόριστη μηνιαία συνδρομή. μπορεί να το κάνει ανά πάσα στιγμή. Προφανώς, κάτω από μια τέτοια σύγκριση, οι περισσότεροι πελάτες θα επιλέξουν να χρησιμοποιήσουν την τεχνητή νοημοσύνη αντί για ανθρώπους ζωγράφους και η πλειοψηφία των εικονογράφων θα χάσουν επίσης τη δουλειά τους λόγω αυτής της επιλογής πελατών. Εκτός από τους εικονογράφους, επαγγέλματα όπως οι μεταφραστές, οι προγραμματιστές και οι γραφίστες υφίστανται επίσης σοβαρό αντίκτυπο από την τεχνητή νοημοσύνη. Απλώς το ποσοστό αυτής της ομάδας ανθρώπων που έχουν βιώσει τον αντίκτυπο είναι σχετικά χαμηλό στο συνολικό εργατικό δυναμικό, επομένως τα συναισθήματα των ανθρώπων δεν είναι εμφανή.

Άρα, η τεχνολογική ανεργία που προκαλείται από αυτόν τον γύρο αντικαταστάσεων τεχνητής νοημοσύνης θα είναι τόσο εύκολη όσο στο παρελθόν και μπορεί εύκολα να ξεπεραστεί μόνο με την αυθόρμητη προσαρμογή της αγοράς; Η άποψή μου για αυτό το θέμα δεν είναι και τόσο αισιόδοξη. Βασικά, εάν μια κοινωνία μπορεί να αντιμετωπίσει το κύμα της τεχνολογικής ανεργίας σχετικά ομαλά εξαρτάται κυρίως από δύο σημεία: Πρώτον, εάν υπάρχει μεγάλος αριθμός απασχολουμένων σε επαγγέλματα που επηρεάζονται από τις νέες τεχνολογίες. Δεύτερον, όταν οι νέες τεχνολογίες εξαλείφουν τις παλιές ευκαιρίες εργασίας, μπορούν να δημιουργήσουν αμέσως νέες θέσεις εργασίας που είναι ευκολότερο να ξεκινήσετε.

Αλλά αυτή τη φορά, ο αντίκτυπος της τεχνητής νοημοσύνης στην αγορά εργασίας είναι εντελώς διαφορετικός. Από τη μία πλευρά, αυτός ο γύρος επιπτώσεων της τεχνητής νοημοσύνης δεν είναι μόνο περιεκτικός σε εύρος, αλλά και πολύ εντατικός χρονικά. Το λεγόμενο ολοκληρωμένο πεδίο εφαρμογής σημαίνει ότι πολλές βιομηχανίες έχουν επηρεαστεί ταυτόχρονα. Σε αντίθεση με την εξειδικευμένη τεχνητή νοημοσύνη στο παρελθόν, τα περισσότερα από τα μοντέλα AI που κυκλοφόρησαν πρόσφατα είναι γενικής χρήσης. Στην πράξη, οι άνθρωποι μπορούν να χρησιμοποιήσουν αυτά τα μοντέλα για να ολοκληρώσουν πολλές διαφορετικές εργασίες με μια μικρή αλλαγή. Σε αυτή την περίπτωση, η ανάπτυξη της τεχνητής νοημοσύνης μπορεί να έχει αντίκτυπο σε πολλά επαγγέλματα ταυτόχρονα. Το λεγόμενο time intensive αναφέρεται στο γεγονός ότι αφού η τεχνητή νοημοσύνη επηρεάσει ένα επάγγελμα, θα επηρεάσει αμέσως ένα άλλο επάγγελμα. Αυτός ο έντονος αντίκτυπος θα καταστήσει σύντομα σημαντικά δυσκολότερο για τους ανέργους την επαναπρόσληψη και επίσης θα υπονομεύσει σοβαρά την εμπιστοσύνη τους στην επίτευξη επαναπρόσληψης μέσω της κατάρτισης δεξιοτήτων. Φανταστείτε, εάν ένας εικονογράφος μόλις στερήθηκε τη δουλειά του από το Midjourney (ένα εργαλείο σχεδίασης τεχνητής νοημοσύνης), τελικά μαθαίνει να οδηγεί και γίνεται διαδικτυακός οδηγός, αλλά σύντομα χάνει τη δουλειά του λόγω της αύξησης των αυτοκινήτων χωρίς οδηγό. Και αφού έχασε τη δουλειά του, κάτω από τέτοιες συνθήκες, έχει ακόμα την επιμονή να συνεχίσει να μαθαίνει νέες δεξιότητες και είναι σίγουρος ότι η τεχνητή νοημοσύνη δεν θα κατακτήσει αυτήν την ικανότητα σε σύντομο χρονικό διάστημα;

Επομένως, αυτός ο γύρος τεχνολογικής ανεργίας που προκαλείται από την τεχνητή νοημοσύνη μπορεί να είναι εντελώς διαφορετικός από την προηγούμενη τεχνολογική ανεργία. Εάν η τεχνολογία AI συνεχίσει να αναπτύσσεται εκθετικά, μπορεί να είναι δύσκολο για την κοινωνία να επιτύχει πλήρη απασχόληση βασιζόμενη αποκλειστικά στην αυθόρμητη ρύθμιση της αγοράς. Από την άποψη της πολιτικής, σίγουρα έχουμε πολλούς τρόπους για να μετριαστεί ο αντίκτυπος της τεχνητής νοημοσύνης στην απασχόληση. Για παράδειγμα, η κυβέρνηση που παρέχει περισσότερες υπηρεσίες πρακτορείων αναζήτησης εργασίας και εκπαίδευσης για την επαναπρόσληψη μπορεί να βοηθήσει όσους έχασαν τη δουλειά τους λόγω τεχνητής νοημοσύνης να βρουν γρηγορότερα νέες θέσεις εργασίας. . Ωστόσο, εάν η ταχύτητα ανάπτυξης της τεχνητής νοημοσύνης συνεχίσει να παραμένει σε υψηλό επίπεδο, τότε όλες αυτές οι προσπάθειες θα έχουν μόνο προσωρινά αποτελέσματα στην καλύτερη περίπτωση. Ο θάνατος της ανθρώπινης εργασίας μπορεί να είναι ένα μέλλον που είναι δύσκολο για εμάς να αποδεχτούμε, αλλά πρέπει να το αντιμετωπίσουμε.

Λαμβάνοντας υπόψη ότι η τρέχουσα ανάπτυξη τεχνολογιών όπως οι διεπαφές εγκεφάλου-υπολογιστή και τα νανορομπότ υστερεί σε σχέση με την τεχνητή νοημοσύνη, τότε, τουλάχιστον στα επόμενα δέκα χρόνια, η χρήση τεχνητής νοημοσύνης για την άμεση ενίσχυση του εγκεφάλου μπορεί να παραμείνει μόνο στο επίπεδο της φαντασίας. Λοιπόν, κατά τη διάρκεια αυτής της περιόδου, πώς πρέπει οι άνθρωποι να αντιμετωπίσουν τις διάφορες κοινωνικές αντιθέσεις που προκαλούνται από την τεχνολογική ανεργία που προκαλείται από την τεχνητή νοημοσύνη;

Η λύση που δίνουν ορισμένοι μελετητές είναι η φορολόγηση των χρηστών τεχνητής νοημοσύνης και η χρήση των φορολογικών εσόδων για την έκδοση Καθολικού Βασικού Εισοδήματος (UBI). Με αυτόν τον τρόπο, ακόμα κι αν όσοι χάνουν τη δουλειά τους λόγω του αντίκτυπου της τεχνητής νοημοσύνης δυσκολεύονται να βρουν νέες θέσεις εργασίας, μπορούν και πάλι να αποκτήσουν βασική ασφάλεια διαβίωσης και να αποφύγουν να ζουν σε προβλήματα.

Ωστόσο, αυτό το σχέδιο ήταν αμφιλεγόμενο από τότε που προτάθηκε. Για παράδειγμα, ορισμένοι μελετητές πιστεύουν ότι η φορολόγηση των νέων τεχνολογιών όπως η τεχνητή νοημοσύνη θα εμποδίσει σε μεγάλο βαθμό την ανάπτυξή της.

Κατά τη γνώμη μου, η μεγαλύτερη πιθανή αντίσταση στην εφαρμογή του φόρου τεχνητής νοημοσύνης και του UBI στην πραγματικότητα προέρχεται από τον αντίκτυπό του στη διανομή των οφελών. Όπως μπορούμε να δούμε, με την ανάπτυξη της τεχνητής νοημοσύνης, ένας μεγάλος αριθμός εταιρειών που σχετίζονται με την τεχνητή νοημοσύνη έχουν βιώσει στα ύψη τα έσοδα και την αγοραία αξία σε σύντομο χρονικό διάστημα. Πάρτε για παράδειγμα την OpenAI Πριν από μερικά χρόνια, ήταν μια εταιρεία που έχανε χρήματα χρόνο με τον χρόνο, ωστόσο, με τη δημοτικότητα μοντέλων όπως το GPT, έγινε γρήγορα μια εταιρεία με ετήσια έσοδα δισεκατομμυρίων δολαρίων. σχεδόν 100 δισεκατομμύρια δολάρια. Για να μην αναφέρουμε ότι κολοσσοί όπως η Microsoft και η Nvidia έχουν εκμεταλλευτεί την τεχνητή νοημοσύνη για να αυξήσουν την αγοραία αξία τους κατά τρισεκατομμύρια δολάρια σε περισσότερο από ένα χρόνο. Είναι προβλέψιμο ότι με την περαιτέρω ανάπτυξη της τεχνολογίας AI, αυτή η τάση συγκέντρωσης τεράστιων ποσών πλούτου σε μικρό αριθμό εταιρειών και ιδιωτών θα συνεχιστεί.

Ποιες είναι οι συνέπειες αυτού; Άμεση συνέπεια είναι ότι οι διαιρέσεις και οι αποξενώσεις σε ολόκληρη την κοινωνία θα γίνουν πιο σοβαρές. Όταν η σχέση κόστους-αποτελεσματικότητας της τεχνητής νοημοσύνης είναι αρκετά υψηλή, οι απλοί εργαζόμενοι δεν θα έχουν πλέον την αξία της εκμετάλλευσης, όπως αναφέρεται στο μυθιστόρημα του Hao Jingfang «Beijing Folding». Σε αυτή την περίπτωση, οι πλούσιοι άνθρωποι που ελέγχουν την τεχνητή νοημοσύνη και τον πλούτο δεν θα θέλουν καν να ζήσουν στην ίδια πόλη μαζί τους. Ως αποτέλεσμα, η κοινωνική απομόνωση και η αντίθεση θα γίνουν πιο σοβαρές.

Αυτό δεν είναι το πιο τρομακτικό πράγμα. Εάν, όπως προέβλεψε ο Kurzweil, στο εγγύς μέλλον, οι άνθρωποι θα μπορέσουν να μεταμορφωθούν από το μοριακό επίπεδο μέσω της νανοτεχνολογίας, τότε όσοι έχουν περισσότερο πλούτο θα είναι οι πρώτοι που θα επιτύχουν τη «μηχανική εξέλιξη» του εαυτού τους. Μετά από αυτό, το πλεονέκτημα των πλουσίων έναντι των φτωχών δεν θα είναι μόνο ο περισσότερος πλούτος, αλλά και σε όλες τις πτυχές όπως η εξυπνάδα και η σωματική δύναμη, θα συντρίψουν τους τελευταίους. Και αυτό το πλεονέκτημα με τη σειρά του θα τους επιτρέψει να συμβάλουν περαιτέρω στη συγκέντρωση του πλούτου... Ο Liu Cixin φαντάστηκε κάποτε αυτή την κατάσταση στο μυθιστόρημά του "Sustaining Humanity". Σύμφωνα με τη φαντασία του, κάτω από μια παρόμοια τάση, ο πλούτος και η δύναμη ολόκληρης της κοινωνίας θα μονοπωλούνται από έναν «φιναλιστή», και η μοίρα όλων των άλλων θα ελέγχεται από αυτόν.

Αν η τεχνολογική ανεργία και τα προβλήματα διανομής είναι η επανεμφάνιση παλαιών προβλημάτων που οι άνθρωποι έχουν αντιμετωπίσει πολλές φορές στην εποχή της τεχνητής νοημοσύνης, τότε αυτό που θα συζητήσουμε παρακάτω είναι ολοκαίνουργια προβλήματα καθώς πλησιάζει η «ιδιαιτερότητα».

Μεταξύ όλων των νέων προβλημάτων, το πιο σημαντικό μπορεί να είναι το πρόβλημα της ευθυγράμμισης AI. Η λεγόμενη ευθυγράμμιση τεχνητής νοημοσύνης, με λίγα λόγια, είναι να διασφαλίσει ότι η τεχνητή νοημοσύνη μπορεί να κατανοήσει τους ανθρώπινους κανόνες και αξίες, να κατανοήσει τις ανθρώπινες επιθυμίες και προθέσεις και να ενεργήσει σύμφωνα με την ανθρώπινη βούληση. Επιφανειακά, αυτό δεν φαίνεται να είναι δύσκολο έργο. Εξάλλου, τα προγράμματα τεχνητής νοημοσύνης βασικά τίθενται από τον άνθρωπο. Αλλά στην πραγματικότητα, η απάντηση δεν είναι τόσο απλή για δύο λόγους:

Από τη μία πλευρά, όταν οι άνθρωποι θέτουν στόχους και κανόνες συμπεριφοράς για την τεχνητή νοημοσύνη, είναι συχνά δύσκολο για τους ανθρώπους να εκφράσουν πλήρως και σωστά τα δικά τους ενδιαφέροντα και ανησυχίες, γεγονός που αφήνει περιθώριο στην τεχνητή νοημοσύνη να παραβιάζει τα ανθρώπινα συμφέροντα. Για παράδειγμα, ο φιλόσοφος της επιστήμης Μπόστρομ πρότεινε κάποτε ένα σκεπτικό πείραμα που ονομάζεται «Κοσμικό συνδετήρα» στο διάσημο έργο του «Υπερνοημοσύνη». Φαντάστηκε ότι οι άνθρωποι δημιούργησαν μια τεχνητή νοημοσύνη με στόχο τη μεγιστοποίηση της παραγωγής συνδετήρων. Στη συνέχεια θα χρησιμοποιούσε όλες τις μεθόδους για να επιτύχει αυτόν τον στόχο και θα εξαφάνιζε ακόμη και τους ανθρώπους για να αφιερώσει περισσότερους πόρους στην παραγωγή συνδετήρων. Σε αυτό το πείραμα σκέψης, η ίδια η παραγωγή συνδετήρων είναι προς το συμφέρον της ανθρωπότητας, αλλά το τελικό της αποτέλεσμα μπορεί να βλάψει σοβαρά τα συμφέροντα της ανθρωπότητας.

Από την άλλη πλευρά, προκειμένου να επιτραπεί στην τεχνητή νοημοσύνη να επιτύχει υψηλότερη απόδοση, οι άνθρωποι συνήθως τους δίνουν πολύ χώρο για αυτομάθηση και βελτίωση, κάτι που μπορεί να προκαλέσει την απόκλιση της τεχνητής νοημοσύνης από τις αρχικά καθορισμένες τιμές της. Για παράδειγμα, πολλοί τρέχοντες πράκτορες τεχνητής νοημοσύνης τους επιτρέπουν να βελτιώνονται συνεχώς με βάση τις αλληλεπιδράσεις τους με το περιβάλλον και τους χρήστες.

Ειδικότερα, με την έλευση του AGI, η τεχνητή νοημοσύνη θα μετατραπεί σταδιακά από εργαλείο σε άτομο με ικανότητες ίσες ή και μεγαλύτερες από αυτές των ανθρώπων σε όλες τις πτυχές Το σκοτεινό μέλλον που απεικονίζεται σε κινηματογραφικά και τηλεοπτικά έργα όπως το "The Terminator" και το "The Matrix" μπορεί πραγματικά να έρθει.

Ακριβώς για να αποφευχθεί μια τέτοια κατάσταση, η τρέχουσα έρευνα ευθυγράμμισης της τεχνητής νοημοσύνης έχει γίνει μια εξέχουσα επιστήμη στον τομέα της τεχνητής νοημοσύνης. Σε αυτό το στάδιο, οι άνθρωποι χρησιμοποιούν κυρίως δύο μεθόδους για να επιτύχουν ευθυγράμμιση AI. Το ένα είναι η "ενισχυτική μάθηση με ανθρώπινη ανατροφοδότηση", η λεγόμενη μέθοδος RLHF, η άλλη είναι η "συνταγματική τεχνητή νοημοσύνη", η λεγόμενη μέθοδος CAI. Όταν χρησιμοποιεί το RLHF, ο σχεδιαστής θα εκπαιδεύσει πρώτα χειροκίνητα ένα μικρότερο μοντέλο AI, θα εφαρμόσει ενισχυτική μάθηση μέσω της συνεχούς ανατροφοδότησης του εκπαιδευτή για τη συμπεριφορά του AI και θα καθοδηγήσει τις τιμές του ώστε να είναι συνεπείς με τις τιμές που αναμένει ο σχεδιαστής. Στη συνέχεια, αυτό το μικρό μοντέλο χρησιμοποιείται ως «προπονητής» για την εκπαίδευση ενός μεγαλύτερου μοντέλου AI χρησιμοποιώντας ενισχυτική μάθηση. Όταν χρησιμοποιεί τη μέθοδο CAI, ο σχεδιαστής θα ορίσει πρώτα ένα «σύνταγμα» που πρέπει να ακολουθεί το μοντέλο AI και θα χρησιμοποιήσει το «σύνταγμα» για να δημιουργήσει κώδικες συμπεριφοράς που πρέπει να ακολουθεί το AI σε διάφορα σενάρια. Στη συνέχεια, οι σχεδιαστές χρησιμοποιούν αυτά τα κριτήρια για να κρίνουν τα διαφορετικά αποτελέσματα που δημιουργούνται από το μοντέλο AI για να δουν εάν συμμορφώνονται με τα «συνταγματικά» κριτήρια. Για αποτελέσματα που συμμορφώνονται με το "Σύνταγμα", θα δοθούν αντίστοιχες ανταμοιβές για αποτελέσματα που παραβιάζουν το "Σύνταγμα".

Αξίζει να αναγνωριστεί ότι και οι δύο μέθοδοι έχουν επιτύχει ορισμένα επιτεύγματα μέχρι στιγμής, αλλά τα προβλήματά τους εξακολουθούν να είναι τεράστια. Για παράδειγμα, ο Geoffrey Hinton, ο «πατέρας της βαθιάς μάθησης», επεσήμανε πρόσφατα ότι αυτές οι μέθοδοι μπορούν μόνο να κάνουν τη συμπεριφορά της τεχνητής νοημοσύνης να φαίνεται να είναι σύμφωνη με τα ενδιαφέροντα των ανθρώπων, αλλά δεν μπορεί να εγγυηθεί ότι είναι απολύτως συνεπείς με τις αξίες των ανθρώπων. Υπό αυτές τις συνθήκες, είναι δύσκολο να εγγυηθεί κανείς ότι η τεχνητή νοημοσύνη θα προδώσει ανθρώπους υπό ορισμένες συνθήκες. Ειδικά με την άφιξη του AGI και την ικανότητα της τεχνητής νοημοσύνης να ξεπερνά τους ανθρώπους, η πιθανότητα παρόμοιας προδοσίας θα γίνεται όλο και μεγαλύτερη και οι κίνδυνοι που θα προκύψουν θα γίνονται επίσης όλο και μεγαλύτεροι.

Έτσι, υπό τέτοιες συνθήκες, πώς θα πρέπει να βελτιωθεί περαιτέρω το έργο ευθυγράμμισης AI; Κατά τη γνώμη μου, αυτό που χρειαζόμαστε μπορεί να είναι κάποιες αλλαγές στη σκέψη. Από την τρέχουσα άποψη, σχεδόν όλοι εξισώνουν φυσικά την ευθυγράμμιση AI με την ευθυγράμμιση αξίας, πιστεύοντας ότι οι τιμές AI πρέπει να είναι συνεπείς με τις δικές τους, προκειμένου να εξυπηρετούν πάντα τα ανθρώπινα συμφέροντα, αλλά αυτό είναι προφανώς αρκετά δύσκολο. Είναι όμως πραγματικά απαραίτητη η ευθυγράμμιση αξίας; Ή μπορούμε να αλλάξουμε την ερώτηση: Στην πραγματικότητα, χρειαζόμαστε κάποιον για να ολοκληρώσει ορισμένες εργασίες προς τα συμφέροντά μας. Χρειαζόμαστε να είναι συνεπής μαζί μας όσον αφορά τις αξίες; Η απάντηση είναι φυσικά όχι. Τις περισσότερες φορές, στην πραγματικότητα χρειάζεται μόνο να σχεδιάσουμε ένα καλό σύνολο κανόνων για να καθοδηγήσουμε ανθρώπους των οποίων οι αξίες δεν συνάδουν με τις δικές μας, ώστε να επιτύχουν τους στόχους που θέλουμε. Για παράδειγμα, αν ζητούσαμε από δύο άτομα που έχουν συμφέροντα να μοιράσουν μια πίτα δίκαια, το έργο θα ήταν απείρως πιο δύσκολο αν θέλαμε να το πετύχουμε αυτό ευθυγραμμίζοντας πρώτα τις αξίες τους. Ωστόσο, δεν χρειάζεται να το κάνουμε αυτό Χρειάζεται μόνο να σχεδιάσουμε έναν μηχανισμό για να αφήσουμε ένα άτομο να κόψει την τούρτα, αλλά να αφήσουμε ένα άλλο άτομο να είναι υπεύθυνο για τη διανομή. Αυτό μας εμπνέει ότι όταν κάνουμε ευθυγράμμιση AI, μπορούμε επίσης να παρακάμψουμε το δύσκολο μαύρο κουτί των τιμών και να ολοκληρώσουμε αυτές τις εργασίες απευθείας από την προοπτική του σχεδιασμού του μηχανισμού. Αυτό που είναι ευχάριστο είναι ότι ορισμένοι ερευνητές έχουν πλέον δει αυτήν την ευθυγράμμιση και έχουν κάνει πολλά επιτεύγματα προς αυτή την κατεύθυνση.

Εκτός από το πρόβλημα της ευθυγράμμισης της τεχνητής νοημοσύνης, ένα άλλο σημαντικό πρόβλημα που πρέπει να αντιμετωπίσουν οι άνθρωποι όταν πλησιάζει η «μοναδικότητα» είναι η αναγνώριση και η αναγνώριση της ταυτότητας. Αυτό το πρόβλημα περιλαμβάνει δύο πτυχές, η μία είναι πώς να κατανοήσουμε την ταυτότητα της τεχνητής νοημοσύνης και η άλλη είναι πώς να καταλάβουμε ξανά τη δική μας ταυτότητα.

Ας δούμε πρώτα την πρώτη ερώτηση. Πριν από μερικά χρόνια, αν ρωτούσατε έναν άνθρωπο τι πρέπει να πιστεύει για την τεχνητή νοημοσύνη, πιθανότατα θα έλεγε χωρίς δισταγμό ότι είναι απλώς ένα εργαλείο για εμάς. Ο λόγος είναι απλός: κρίνοντας από την απόδοσή τους, είναι απίθανο να έχουν αυτόνομη συνείδηση ​​και μπορούν να εκτελούν σχετικές εργασίες μόνο υπό τον έλεγχο του ανθρώπου.

Αλλά μετά την εμφάνιση μεγάλων γλωσσικών μοντέλων όπως το ChatGPT, η κατάσταση έχει αλλάξει πολύ. Η απόδοση της τεχνητής νοημοσύνης στην αλληλεπίδραση με τους ανθρώπους έχει απαλλαγεί σταδιακά από την αρχική της ακαμψία. Αυτό μας κάνει να αναρωτιόμαστε αν έχουν ήδη τη δική τους συνείδηση. Ίσως κάποιοι ειδικοί υπολογιστών να μας παρηγορήσουν ότι αυτή είναι απλώς μια μηχανική απάντηση σε αυτά τα ερωτήματα που βασίζεται σε ένα προσχεδιασμένο μοντέλο, στην ουσία, είναι απλώς η πρόσθεση, η αφαίρεση και η αφαίρεση μιας δέσμης 0 και 1. Ωστόσο, όπως λέει και η παροιμία, «Ένα παιδί που δεν είναι ψάρι ξέρει τη χαρά του ψαριού ποιος μπορεί να εγγυηθεί ότι δεν υπάρχει συνείδηση ​​και σκέψη πίσω από αυτή την απλή πρόσθεση και αφαίρεση;». Άλλωστε, ακόμα κι αν αφήσουμε στην άκρη τον εγκέφαλό μας και παρατηρήσουμε προσεκτικά με ένα μικροσκόπιο, μπορούμε να δούμε μόνο ένα σωρό νευρώνες να στέλνουν διάφορα ηλεκτρικά σήματα, αλλά ούτε ένα κύτταρο με ψυχή. Σε αυτήν την περίπτωση, πώς μπορούμε να είμαστε σίγουροι ότι η τεχνητή νοημοσύνη μπροστά μας που μπορεί να επικοινωνήσει ελεύθερα μαζί μας δεν έχει εξελίξει ψυχή;

Νομίζω ότι μετά την έλευση του AGI παρόμοια προβλήματα θα γίνονται όλο και πιο έντονα. Ίσως μια μέρα στο εγγύς μέλλον, το βιονικό ρομπότ AI στο «Westworld» εμφανιστεί μπροστά μας. Όλες οι συμπεριφορές τους είναι συνεπείς με τις δικές μας, ακόμα και το προκαθορισμένο πρόγραμμα τους λέει ότι είναι άνθρωποι. Όταν συναντάμε ένα τέτοιο ρομπότ τεχνητής νοημοσύνης, μπορούμε ακόμα να χαϊδέψουμε το στήθος μας και να πούμε ότι αυτό που βλέπουμε μπροστά μας είναι απλώς ένα εργαλείο που έχουμε δημιουργήσει εμείς;

Ας δούμε τη δεύτερη ερώτηση. Σε σύγκριση με το ζήτημα της ταυτότητας της τεχνητής νοημοσύνης, η ανθρώπινη ταυτότητα και η αναγνώριση μπορεί να είναι πιο δύσκολο πρόβλημα.

Από τη μία πλευρά, όπως προαναφέρθηκε, με την ανάπτυξη των νανορομπότ και της τεχνολογίας διεπαφής εγκεφάλου-υπολογιστή, οι άνθρωποι θα κατακτήσουν την ικανότητα να τροποποιούν σημαντικά το σώμα τους. Στο μέλλον, οι άνθρωποι δεν αναμένεται μόνο να χρησιμοποιούν νανορομπότ για να τους βοηθήσουν να επιδιορθώσουν τα νεκρά κύτταρα για να παρατείνουν τη διάρκεια ζωής τους, αλλά μπορούν επίσης να βασίζονται άμεσα σε αυτά για να επεκτείνουν τη νοημοσύνη και τη σωματική τους δύναμη. Στην αρχή, αυτού του είδους η τροποποίηση στο ανθρώπινο σώμα μπορεί να περιορίζεται σε λίγα κύτταρα, τα οποία δεν θα μας δημιουργήσουν προβλήματα ταυτότητας - όπως τώρα δεν πιστεύουμε ότι αφού ένα άτομο έχει προσθετικά άκρα ή οδοντοστοιχίες, δεν είναι άνθρωπος Ήταν το ίδιο. Αλλά αν αυτή η διαδικασία τροποποίησης συνεχιστεί, μια μέρα τα περισσότερα ή ακόμα και όλα τα κύτταρα του σώματος θα αντικατασταθούν. Αυτή τη στιγμή θα εμφανιστεί ξανά μπροστά μας η κλασική ερώτηση «Καράβι του Θησέα»: Είναι το «εγώ» τώρα ακόμα το «εγώ» στο παρελθόν;

Από την άλλη πλευρά, με την ανάπτυξη της τεχνολογίας AI, οι άνθρωποι θα κατακτήσουν σταδιακά την ικανότητα να ανεβάζουν συνείδηση ​​στο cloud - στην πραγματικότητα, ορισμένοι άνθρωποι, συμπεριλαμβανομένου του Musk, έχουν ήδη ξεκινήσει παρόμοιες προσπάθειες. Αν υποθέσουμε ότι μια μέρα στο μέλλον, η τεχνολογία θα αναπτυχθεί πραγματικά αρκετά ώστε να επιτρέψει σε αυτή τη συνείδηση ​​να σκέφτεται όπως εγώ, τότε μπορεί αυτή η συνείδηση ​​να θεωρηθεί ως ανθρώπινη συνείδηση; Εάν η απάντηση είναι ναι, τότε ποια είναι η σχέση του με την αληθινή φύση της συνείδησης; Επιπλέον, αν τοποθετήσουμε αυτή τη συνείδηση ​​σε έναν κλώνο της πηγής της συνείδησης, ποια είναι η σχέση μεταξύ αυτού του κλώνου και του αρχικού προσώπου; ΠΑΤΕΡΑΣ και γιος; αδελφός; Ή κάτι άλλο;

Πρέπει να τονιστεί ότι τα ζητήματα ταυτότητας και ταυτότητας δεν είναι σε καμία περίπτωση απλά θέματα φιλοσοφικής εικασίας. Στην πραγματικότητα, περιλαμβάνει πολλά νομικά και ηθικά ζητήματα. Για παράδειγμα, πώς πρέπει να αντιμετωπίζεται η σχέση διαχείρισης εργασίας μεταξύ ανθρώπων και τεχνητής νοημοσύνης; Πρέπει η τεχνητή νοημοσύνη να έχει τα ίδια δικαιώματα με τους ανθρώπους; Μπορεί ένας κλώνος του σώματος και του μυαλού μου να κατέχει την περιουσία μου; Εάν το ζήτημα της ταυτότητας δεν επιλυθεί, θα είναι δύσκολο να επιλυθούν πραγματικά αυτά τα ζητήματα.

Αλλά μέχρι στιγμής, ο κόσμος δεν έχει βρει μια σαφή απάντηση στα παραπάνω ερωτήματα. Προκειμένου να προωθηθεί περαιτέρω ο σχηματισμός σχετικής συναίνεσης, χρειάζεται ακόμη να διεξάγουμε ανοιχτές και σε βάθος συζητήσεις για αυτά τα θέματα.