νέα

κείμενο: web3 sky city · city lord

έχει περάσει καιρός, αλλά κυκλοφόρησε ένα πλήρες βίντεο της συνέντευξης πρόσωπο με πρόσωπο του διευθύνοντος συμβούλου του openai, sam altman, μετά την επιστροφή του στο openai. αυτή είναι η εποχή που ο γκρεγκ είναι σε διακοπές, ιδρύεται η νέα εταιρεία του ilya και βγαίνουν νέα για τις συνεχιζόμενες απώλειες και τη νέα χρηματοδότηση του openai.

αυτή η συνέντευξη φιλοξενήθηκε από τον διάσημο οικοδεσπότη trevor cui wa. αυτό που προκαλεί έκπληξη είναι ότι ο trevor έχει πολύ βαθιά κατανόηση της τεχνολογίας ai, καλύτερα από το 95% των μη τεχνικών οικοδεσποτών.

σε αυτή τη συνέντευξη, ο trevor και ο sam είχαν μια ευρεία συνομιλία συζητώντας την τεχνητή νοημοσύνη, το openai και την προσωπική καριέρα και το ταξίδι του sam. ξεκινώντας από την επιστροφή του στο openai, ο sam μοιράστηκε πώς σκέφτηκε τη σχέση μεταξύ προσωπικών και εταιρικών αποστολών εν μέσω μιας σειράς χάους και αβεβαιότητας και μίλησε για τη μελλοντική κατεύθυνση ανάπτυξης του agi.

ο sam όχι μόνο ανέπτυξε τις τεράστιες δυνατότητες του agi στη γνώση, την παραγωγικότητα και τα κοινωνικά αποτελέσματα, αλλά ανταποκρίθηκε επίσης στις προκλήσεις της ασφάλειας της τεχνητής νοημοσύνης, των ηθικών ζητημάτων, των καπιταλιστικών ανταλλαγών και της τεχνολογικής επανάστασης. ταυτόχρονα, συζήτησε με ειλικρίνεια τις σκέψεις του για την εταιρική διακυβέρνηση του openai, τον τρόπο εξισορρόπησης της τεχνολογικής προόδου και της κοινωνικής ευθύνης και τόνισε τη σημασία της διαφάνειας και της δημοκρατικής διακυβέρνησης της τεχνολογίας.

το ταξίδι της ανάκτησης του τιμονιού του openai: ο sam altman σκέφτεται τη σύντομη αναχώρησή του και μοιράζεται πώς ανακάλυψε ξανά την αγάπη του για το openai και την αποστολή του κατά τη διάρκεια αυτής της αναταραχής. αν και απολύθηκε για λίγο, τόνισε ότι έμαθε από την εμπειρία και αισθάνθηκε τη σημασία του να συνεχίσει να προωθεί την ανάπτυξη της agi.

το μέλλον του agi και η τεχνολογική επανάσταση: ο sam altman πιστεύει ακράδαντα ότι η agi θα επιφέρει μια άνευ προηγουμένου τεχνολογική επανάσταση, αν και οι κοινωνικές και οικονομικές αλλαγές μπορεί να μην είναι τόσο γρήγορες όσο αναμενόταν. πιστεύει ότι παρόλο που η τεχνολογία θα πλησιάζει όλο και πιο κοντά στο agi, ο πραγματικός αντίκτυπός της στην κοινωνία θα είναι σταδιακός, επιτρέποντας στην κοινωνία να προσαρμοστεί σταδιακά στις αλλαγές που επιφέρουν οι νέες τεχνολογίες.

η ισορροπία μεταξύ καπιταλισμού και τεχνητής νοημοσύνης: στη συνέντευξη, ο sam altman συζητά λεπτομερώς πώς το openai λειτουργεί μέσα σε ένα καπιταλιστικό σύστημα, ενώ διατηρεί την αρχική του πρόθεση όταν δημιουργήθηκε, που είναι να διασφαλίσει ότι τα οφέλη του agi διανέμονται ευρέως. αν και το openai πρέπει να ανταγωνιστεί στον καπιταλισμό για να αποκτήσει τους πόρους που χρειάζονται για την ανάπτυξη, τόνισε ότι η τεχνολογική πρόοδος δεν πρέπει να είναι εις βάρος της ηθικής και της κοινωνικής ευθύνης.

δημοκρατική διακυβέρνηση και κοινωνικός αντίκτυπος της τν: ο sam altman επεσήμανε ένα σημαντικό σημείο, ότι δηλαδή η διακυβέρνηση της τεχνολογίας ai θα πρέπει να είναι πιο δημοκρατική. πιστεύει ότι το κοινό θα πρέπει να συμμετέχει περισσότερο στη λήψη αποφάσεων σχετικά με τον τρόπο χρήσης των συστημάτων τεχνητής νοημοσύνης και τον καθορισμό κανόνων και τόνισε τη σημασία της τεχνικής διαφάνειας και της ποικιλόμορφης διακυβέρνησης.

ανησυχίες σχετικά με την ασφάλεια και την ηθική της τεχνητής νοημοσύνης: στη συνέντευξη, ο sam altman παραδέχτηκε ότι αν και η τεχνητή νοημοσύνη έχει τεράστιες δυνατότητες, έχει επίσης πολλούς πιθανούς κινδύνους για την ασφάλεια. επισήμανε συγκεκριμένα τους κινδύνους της τεχνητής νοημοσύνης στην ασφάλεια των υπολογιστών, στη συνθετική βιολογία κ.λπ. και κάλεσε την κοινωνία να προωθήσει την τεχνολογική ανάπτυξη με υπεύθυνο τρόπο.

ένα ευρύτερο όραμα για την τεχνητή νοημοσύνη: ο sam altman είναι αισιόδοξος για το μέλλον. πιστεύει ότι καθώς το agi ωριμάζει, όλοι θα έχουν περισσότερες ευκαιρίες να επιδιώξουν προσωπικά ενδιαφέροντα και η τεχνολογία θα βελτιώσει σημαντικά τα παγκόσμια εκπαιδευτικά και ιατρικά πρότυπα. αν και η τεχνολογική καινοτομία θα επιφέρει αλλαγές στα εργασιακά και κοινωνικά πρότυπα, πιστεύει ότι τελικά το ανθρώπινο πνεύμα και η δημιουργικότητα θα μας ωθήσουν σε ένα πιο ευημερούν μέλλον.

τρέβορ:

σας ευχαριστούμε που αφιερώσατε χρόνο για να πάρετε συνέντευξη.

σαμ: ευχαριστώ.

trevor: δεν νομίζεις ότι είναι μια τρελή περίοδος;

sam: ένιωσα σαν την πιο τρελή στιγμή που έχω βιώσει ποτέ.

τρέβορ:

ναι, είσαι στο επίκεντρο όλων. αναρωτιέμαι πώς είναι αυτό. επειδή είμαι απλά ένας άπληστος παρατηρητής αυτού του πεδίου και αυτού του κόσμου, ξέρεις; νιώθω ότι είσαι εσύ αυτός που επηρεάζεται από όλο αυτό. εννοώ ότι ο σαμ άλτμαν είναι στη βραχεία λίστα του περιοδικού time για το πρόσωπο της χρονιάς.

sam: χαίρομαι που δεν το κατάλαβα.

trevor: χαίρομαι που δεν το κατάλαβες;

sam: ναι, φυσικά.

trevor: γιατί;

sam: έχω ήδη τραβήξει περισσότερη προσοχή φέτος από ό,τι σε όλη μου τη ζωή.

trevor: εντάξει, εντάξει. δηλαδή δεν σου αρέσει η προσοχή; δεν θέλεις την προσοχή;

σαμ:

όχι, αυτό είναι πολύ σκληρό. κατά κάποιο τρόπο είναι ενδιαφέρον. αυτό είναι χρήσιμο με κάποιους τρόπους. αλλά για την προσωπική ζωή, η ποιότητα ζωής σταθμίζεται. ναι, σίγουρα όχι. αλλά έτσι είναι τώρα. αυτό για το οποίο έγραψα.

trevor: ναι, τώρα είναι ώρα για φήμη.

sam: ναι.

trevor: σε αναγνωρίζει ο κόσμος στο δρόμο;

σαμ:αυτό είναι ένα πολύ κακό αντάλλαγμα. ναι, νιώθω ότι δεν είσαι ποτέ... είμαι σίγουρος ότι αυτό συμβαίνει και σε σένα, αλλά δεν μπορώ να μείνω πια ανώνυμος.

τρέβορ:ναι, αλλά ο κόσμος δεν με ρωτάει για το μέλλον.

σαμ:δεν σε ρωτάνε αν θα καταστρέψεις τον κόσμο.αυτό είναι σωστό. υπάρχει μια μικρή διαφορά. οι άνθρωποι μπορεί να θέλουν να βγάλουν μια φωτογραφία μαζί μου. αυτή είναι η έκταση. πολλές ομαδικές φωτογραφίες.

trevor: λοιπόν, συγχαρητήρια. είστε ο διευθύνων σύμβουλος της χρονιάς του περιοδικού time.

sam: ναι.

τρέβορ:

αυτή ήταν ίσως μια από τις πιο περίεργες στιγμές γιατί υποθέτω ότι ήταν περίπου την εποχή που το περιοδικό time έπαιρνε αυτή την απόφαση. πριν από μερικές εβδομάδες, μπορεί να μην ήσουν ο διευθύνων σύμβουλος της χρονιάς. δεν ξέρω αν μπορούν ακόμα να σου δώσουν αυτό το βραβείο. υποθέτω ότι είναι για την προηγούμενη δουλειά σου.

sam: ναι, δεν ξέρω. δεν ξέρω πώς λειτουργεί αυτό.

trevor: πώς νιώθεις να είσαι ξανά ceo;

σαμ:

εξακολουθώ να επαναπρογραμματίζω την πραγματικότητα, για να είμαι ειλικρινής. κατά κάποιο τρόπο, ένιωσα υπέροχα γιατί σε όλη τη διαδικασία, έμαθα πολλά για το πόσο αγαπώ αυτή την εταιρεία, την αποστολή της και τους ανθρώπους της. και, αρκετές φορές στην πορεία, βίωσα όλο το φάσμα των ανθρώπινων συναισθημάτων σε σύντομο χρονικό διάστημα. αλλά μια πολύ ξεκάθαρη στιγμή για μένα είναι ότι όλα αυτά συνέβησαν μια παρασκευή απόγευμα, μια παρασκευή το μεσημέρι. το επόμενο πρωί, σάββατο, πολλά μέλη του διοικητικού συμβουλίου με κάλεσαν και με ρώτησαν αν θα ήταν πρόθυμοι να συζητήσουν μια επιστροφή.

έχω πολύ ανάμεικτα συναισθήματα για αυτό. αλλά τελικά, μου έγινε πολύ ξεκάθαρο ότι ήθελα να επιστρέψω.

μου αρέσει πολύ αυτό το μέρος και αυτό που κάνουμε. νομίζω ότι είναι σημαντικό για τον κόσμο και είναι αυτό που με ενδιαφέρει περισσότερο.

τρέβορ:

στον κόσμο της τεχνολογίας, οι προσλήψεις και οι απολύσεις είναι κάτι που πρέπει να συνηθίσουν όλοι.

ξέρω ότι έχετε απολυθεί από το y combinator στο παρελθόν. όλοι σε αυτή την κατάσταση έχουν μια ιστορία.

sam: δεν θέλω να μιλήσω για αυτό.

trevor: πες μου, πες μου. αυτά τα πράγματα, κάνετε την έρευνά σας και πηγαίνετε από εκεί.

σαμ:

αποφάσισα περίπου ένα χρόνο πριν (φεύγοντας από το yc) ότι ήθελα να έρθω στο openai.

ήταν μια περίπλοκη μετάβαση. αλλά εργαζόμουν ταυτόχρονα στο openai και στο yc και ήμουν σίγουρος ότι ήθελα να έρθω στο openai. δεν το μετάνιωσα ποτέ αυτό.

τρέβορ:τότε δεν απολύθηκες ποτέ. είναι μια δύσκολη κατάσταση να βρίσκεσαι ως άνθρωπος.

sam: είναι απόλυση;

trevor: τι θα γινόταν αν σε απέλυαν και σε ξαναπροσλάβουν αμέσως;

σαμ:αυτό που επρόκειτο να πω ήταν κάτι περισσότερο από απλά... αυτό είναι απλώς βάναυσο... υποθέτω ότι δεν θα έπρεπε να μιλήσω για αυτό τώρα.

αυτό είναι πολύ οδυνηρό πράγμα. για μένα προσωπικά, ως άνθρωπο, ένιωσα πολύ άδικο και ο τρόπος που το χειρίστηκαν ήταν πραγματικά άδικος.

τρέβορ:

μπορώ να φανταστώ. πολλοί θα μιλήσουν για απόλυση.

αυτό έγινε τάση κατά τη διάρκεια της πανδημίας, ειδικά όταν οι άνθρωποι μιλούσαν για τη λήψη ενός email ή ενός βίντεο σε μια ομάδα, και στη συνέχεια χιλιάδες εργαζόμενοι απολύθηκαν.

σπάνια πιστεύετε ότι αυτό θα συνέβαινε στον ceo μιας εταιρείας. επιπλέον, δεν θα πιστεύατε ότι αυτό θα συνέβαινε στον ceo που πολλοί αποκαλούν «στιβ τζομπς» αυτής της γενιάς και του μέλλοντος.

παρεμπιπτόντως, δεν αποκαλείς τον εαυτό σου έτσι.

sam: φυσικά και όχι.

τρέβορ:

αυτό λένε πολλοί άνθρωποι για σένα, αλλά δεν νομίζω ότι είναι δίκαιο να σε αποκαλούμε steve jobs αυτής της γενιάς. κατά τη γνώμη μου, είσαι ο προμηθέας αυτής της γενιάς. πραγματικά είσαι.

μου φαίνεται ότι έκλεψες τη φωτιά από τον θεό. είστε στην πρώτη γραμμή αυτού του μετασχηματισμού και τώρα ζούμε μια εποχή όπου η τεχνητή νοημοσύνη ήταν κάποτε το υλικό της επιστημονικής φαντασίας και του θρύλου, και τώρα είστε στην πρώτη γραμμή σε κάτι που θα μπορούσε να αλλάξει τον πολιτισμό για πάντα.

πιστεύετε ότι το μέλλον θα αλλάξει σε γενικές γραμμές;

σαμ:

νομίζω πως ναι.

είναι απολύτως πιθανό να κάνω λάθος σε αυτό που πρόκειται να πω, αλλά η αίσθηση μου είναι ότι θα χτίσουμε κάτι στο οποίο συμφωνούν σχεδόν όλοι, που είναι το agi. ο ορισμός της τεχνητής γενικής νοημοσύνης (agi) είναι πολύ δύσκολος, αλλά θα δημιουργήσουμε ένα σύστημα που οι άνθρωποι θα κοιτάζουν και θα λένε, "εντάξει, το έκανες". αυτό το σύστημα είναι γενική τεχνητή νοημοσύνη, ένα σύστημα που βρίσκεται σε ή πέρα ​​από τα ανθρώπινα επίπεδα.

τρέβορ:

πριν το εξηγήσετε λεπτομερώς, ποια πιστεύετε ότι είναι η μεγαλύτερη διαφορά μεταξύ της αντίληψης των ανθρώπων για την τεχνητή νοημοσύνη και της τεχνητής γενικής νοημοσύνης;

σαμ:

καθώς πλησιάζουμε σε αυτό το πεδίο, ο τρόπος με τον οποίο τον ορίζουμε γίνεται πολύ σημαντικός και υπάρχουν διαφορές. για κάποιους, το agi αναφέρεται σε ένα σύστημα που μπορεί να εκτελέσει κάποιο σημαντικό μέρος της σημερινής ανθρώπινης εργασίας. φυσικά θα βρούμε νέες δουλειές και νέα πράγματα να κάνουμε. αλλά για άλλους, το agi αναφέρεται σε ένα σύστημα που μπορεί να βοηθήσει στην ανακάλυψη νέων επιστημονικών γνώσεων. αυτά είναι προφανώς πολύ διαφορετικά ορόσημα με πολύ διαφορετικές επιπτώσεις στον κόσμο.

παρόλο που έχω βαρεθεί τον όρο και δεν μπορώ καν να σταματήσω να τον χρησιμοποιώ, υπάρχει ένας λόγος που δεν μου αρέσει πια. ο όρος είναι agi. νομίζω ότι για τους περισσότερους ανθρώπους τώρα σημαίνει απλώς πολύ έξυπνη τεχνητή νοημοσύνη, αλλά πέρα ​​από αυτό έχει γίνει πολύ ασαφές. νομίζω ότι οφείλεται κυρίως στο ότι πλησιάζουμε.

αυτό που προσπαθώ να πω είναι ότι θα δημιουργήσουμε το agi, όπως θέλετε πείτε το. τουλάχιστον βραχυπρόθεσμα και μεσοπρόθεσμα, θα αλλάξει τον κόσμο πολύ λιγότερο από όσο πιστεύουν οι άνθρωποι. βραχυπρόθεσμα, νομίζω ότι η κοινωνία έχει μεγάλη αδράνεια, η οικονομία έχει μεγάλη αδράνεια και ο τρόπος που ζουν οι άνθρωποι τη ζωή τους έχει επίσης μεγάλη αδράνεια. αυτό μπορεί να είναι υγιές και ωφέλιμο καθώς διαχειριζόμαστε αυτήν τη μετάβαση. όλοι κάνουμε τα πράγματα με συγκεκριμένο τρόπο και το έχουμε συνηθίσει. η κοινωνία ως υπεροργανισμός συμπεριφέρεται επίσης με έναν συγκεκριμένο τρόπο και τον έχει συνηθίσει.

βλέποντας τι συνέβη με το gpt-4, νομίζω ότι είναι διδακτικό. όταν το λανσάραμε για πρώτη φορά, οι άνθρωποι είχαν μια στιγμή πραγματικού πανικού, όπως, "ουάου, δεν πίστευα ότι θα συνέβαινε αυτό, αλλά μετά συνέχισαν τη ζωή τους". αλλάζει τα πράγματα και οι άνθρωποι το χρησιμοποιούν. είναι καλύτερη τεχνική από το τίποτα. φυσικά, το gpt-4 δεν είναι πολύ καλό, 5, 6, 7, ανεξάρτητα από το ποιο, θα είναι πολύ καλύτερο. ωστόσο, η έκδοση 4 της διεπαφής chatgpt, νομίζω ότι είναι η στιγμή που πολλοί άνθρωποι την παίρνουν από το να μην την παίρνουν στα σοβαρά μέχρι να την παίρνουν πολύ στα σοβαρά. ωστόσο, η ζωή συνεχίζεται.

τρέβορ:

πιστεύετε ότι αυτό είναι καλό για την ανθρωπότητα και την κοινωνία; να συνεχίσει η ζωή έτσι; ως ένας από τους «πατέρες» αυτού του προϊόντος, ένας από τους «γονείς» αυτής της ιδέας, θα θέλατε όλοι να σταματήσουμε, να αφιερώσουμε λίγο χρόνο και να αξιολογήσουμε πού βρισκόμαστε αυτή τη στιγμή;

σαμ:

νομίζω ότι η ανθεκτικότητα των ανθρώπων ατομικά και συλλογικά είναι αξιοσημείωτη. είμαι πραγματικά ενθουσιασμένος για την ικανότητά μας να απορροφούμε και να προσαρμοζόμαστε στις νέες τεχνολογίες και τις αλλαγές και να τις κάνουμε να νιώθουν μέρος του κόσμου. είναι πραγματικά υπέροχο.

νομίζω ότι ο covid είναι το πιο πρόσφατο παράδειγμα όπου το βλέπουμε αυτό. ο κόσμος προσαρμόστηκε γρήγορα και σύντομα ένιωσε φυσιολογικό. ένα άλλο λιγότερο σοβαρό αλλά διδακτικό παράδειγμα είναι ο σωρός των ειδήσεων για τα ufo. αυτό ήταν πριν από μερικά χρόνια. πολλοί από τους φίλους μου που κάποτε ήταν εντελώς σκεπτικιστές θα έλεγαν ότι ίσως αυτοί ήταν πραγματικά ατια ή εξωγήινοι ή κάτι τέτοιο. ωστόσο, πήγαιναν στη δουλειά και έπαιξαν με τα παιδιά τους την επόμενη μέρα.

trevor: ναι, σκέφτηκα, τι άλλο μπορείς να κάνεις; αν πετούν, πετούν.

λοιπόν, θα ήθελα να είχαμε αφιερώσει περισσότερο χρόνο στην αξιολόγηση της προόδου; το κάνουμε αυτό ως κόσμος και νομίζω ότι είναι υπέροχο. πιστεύω ακράδαντα ότι η επαναληπτική ανάπτυξη αυτών των τεχνολογιών είναι σημαντική. δεν θέλουμε να αναπτύξουμε τεχνητή γενική νοημοσύνη (agi) σε ένα μυστικό εργαστήριο, κανείς δεν ξέρει ότι έρχεται, και μετά ξαφνικά να την απελευθερώσουμε στον κόσμο, έτσι ώστε οι άνθρωποι να πουν, χμ, εδώ είμαστε, λοιπόν. ..

τρέβορ:

πιστεύετε ότι πρέπει να προσαρμοστούμε σταδιακά σε αυτό και να αναπτυχθούμε με αυτό ως τεχνολογία;

σαμ:

ναί.

έτσι, η συζήτηση τώρα, όπου η κοινωνία και οι ηγέτες μας και οι θεσμοί μας χρησιμοποιούν στην πραγματικότητα αυτές τις τεχνολογίες για να αποκτήσουν μια αίσθηση για το τι μπορεί να κάνει, τι δεν μπορεί, πού είναι οι κίνδυνοι, ποια είναι τα οφέλη, νομίζω ότι είναι μεγάλη. νομίζω ότι κατά μία έννοια ίσως το καλύτερο πράγμα που έχουμε κάνει για την αποστολή μας είναι να επαναλάβουμε τη στρατηγική ανάπτυξής μας. θα μπορούσαμε να το χτίσουμε μυστικά και να ξοδέψουμε περισσότερα χρόνια για να το χτίσουμε και μετά να το εκτοξεύσουμε αμέσως, κάτι που θα ήταν τρομερό.

τρέβορ:

σήμερα μπήκαμε στο κτίριο openai, το οποίο μοιάζει λίγο με φρούριο και μοιάζει σαν ένα μελλοντικό σπίτι. είδα ότι είχατε μια ανάρτηση που έλεγε ότι μπήκατε ως καλεσμένος.

ήμουν σαν, θεέ μου, αυτό είναι περίεργο. είναι σαν να πηγαίνεις σπίτι, αλλά όχι σπίτι, αλλά ακόμα σπίτι.

σαμ:

θα πρέπει να νιώθω σαν μια πολύ περίεργη στιγμή, σαν να φοράς ένα σήμα επισκέπτη εδώ. αλλά νιώθω ότι όλοι είναι εξαντλημένοι και γεμάτοι αδρεναλίνη. πραγματικά δεν υπήρχε αυτή η αίσθηση μιας μεγάλης στιγμής που ήλπιζα. υπήρξαν σίγουρα κάποιες στιγμές που άξιζαν να αναλογιστούμε και να τις διηγηθούμε για εκείνη την ημέρα. για παράδειγμα, μια από τις πιο περήφανες στιγμές μου ήταν όταν ήμουν πολύ κουρασμένος και αποσπασμένος. νομίζαμε ότι το διοικητικό συμβούλιο θα με επανέφερε ως διευθύνων σύμβουλος εκείνη την ημέρα, αλλά σε περίπτωση που δεν το έκαναν, πήρα συνέντευξη για ένα l3, τη θέση μας στο χαμηλότερο επίπεδο μηχανικού λογισμικού, από έναν από τους καλύτερους ανθρώπους μας. μετά μου έδωσε μια σίγουρη απάντηση. ήταν μια πολύ περήφανη στιγμή.

το κομμάτι που ξεχωρίζει στη μνήμη μου εκείνη την ημέρα είναι ότι είχα ακόμα αυτή την ικανότητα. αν και το σήμα δεν είναι τόσο βαθύ όσο θα ήθελα.

τρέβορ:

θα ήθελα πολύ να μάθω τι πιστεύετε ότι έκανα σωστά ως διευθύνων σύμβουλος για να συγκεντρώσω την υποστήριξη που βλέπουμε δημόσια από τους υπαλλήλους του openai.

όταν αυτό ήρθε στο φως, δεν θα σας ρωτούσα για λεπτομέρειες γιατί ήξερα ότι δεν μπορούσατε να σχολιάσετε το περιεχόμενο της εσωτερικής έρευνας. αλλά ξέρω ότι μπορείς να μιλήσεις λίγο για τη συνολική αίσθηση της εταιρείας και για το τι συμβαίνει τελευταία. σπάνια βλέπουμε πράγματα να ξεδιπλώνονται όπως το openai. έχετε αυτή την εταιρεία και αυτή την ιδέα που, για τους περισσότερους ανθρώπους στον πλανήτη, δεν υπήρχε ούτε για ένα λεπτό. το επόμενο λεπτό, απελευθερώνετε το chatgpt αυτή η απλή προτροπή, απλώς ένα μικρό πλαίσιο συνομιλίας, αλλάζει τον κόσμο. νομίζω ότι πέτυχες 1 εκατομμύριο χρήστες με τον ταχύτερο χρόνο. νομίζω ήταν πέντε μέρες. ναι, πέντε μέρες. στη συνέχεια έφτασε γρήγορα τα 100 εκατομμύρια άτομα.

πολύ γρήγορα, ξέρω σε ανέκδοτο επίπεδο, για μένα, αυτό το πράγμα έγινε άγνωστο σε όλους στον κόσμο. το εξηγώ στους ανθρώπους, προσπαθώντας να τους κάνω να καταλάβουν. πρέπει να τους το δείξω σαν ποίηση και κάτι απλό που να μπορούν να καταλάβουν. τότε ο κόσμος άρχισε να μου λέει γι' αυτό. τώρα έχει γίνει μια πανταχού παρούσα έννοια, και οι άνθρωποι αγωνίζονται να καταλάβουν τι είναι και τι σημαίνει.

από την άλλη όμως, υπάρχει μια εταιρεία που προσπαθεί να ελέγξει και να διαμορφώσει το μέλλον με κάποιο τρόπο. και ο κόσμος σε στηρίζει. είδαμε την ιστορία, ο sam altman ήταν εκτός και δεν ήταν πλέον διευθύνων σύμβουλος. μετά όλα έγιναν ταραχώδη. δεν ξέρω αν έχετε δει κάποιες από τις φήμες. είναι απλά τρελοί. ένα από τα πιο τρελά πράγματα που έχω δει είναι κάποιος να λέει, αυτό είναι και γελοίο και αστείο. λένε, και γνωρίζω από αξιόπιστες πηγές, ότι ο sam απολύθηκε επειδή προσπάθησε να κάνει σεξ με ai.

σαμ:

δεν ξέρω καν πώς να απαντήσω. όταν είδα αυτό το μήνυμα, ήμουν σαν... υποθέτω ότι σε αυτό το σημείο, θα έπρεπε να το αρνηθώ επίσημα, απλά δεν συνέβη.

τρέβορ:

νομίζω ότι αυτό είναι απίθανο να συμβεί επειδή οι άνθρωποι δεν καταλαβαίνουν τον συνδυασμό των δύο. αλλά αυτό που μου κάνει εντύπωση είναι ότι ο εντυπωσιασμός αυτού του περιστατικού φαίνεται να έχει φέρει το openai σε διαφορετικό προσκήνιο σε μια διαφορετική στιγμή.

ένα από τα μεγάλα πράγματα είναι η υποστήριξη που λαμβάνετε από την ομάδα, έχοντας τους ανθρώπους να εντείνουν και να λένε, ό,τι κι αν συμβεί, θα στηρίξουμε τον sam. αυτή η κατάσταση δεν είναι συνηθισμένη στις εταιρείες. συχνά, οι διευθύνοντες σύμβουλοι και οι υπάλληλοι αποσυνδέονται σε κάποιο βαθμό.

αλλά είναι κάτι περισσότερο από μια ομάδα.

σαμ:

αυτό που ακολουθεί δεν είναι ψεύτικη σεμνότητα. υπάρχουν πολλά μέρη όπου θα δεχόμουν πολλούς επαίνους. αλλά σε αυτή την περίπτωση, εκτός από το ότι είμαι εκπρόσωπος, δεν φταίω αποκλειστικά εγώ. αλλά νομίζω ότι αυτό που κάνουμε καλά είναι ότι έχουμε μια αποστολή να πείσουμε πραγματικά τους ανθρώπους για τη σημασία του.

νομίζω ότι αυτό που συμβαίνει είναι ότι οι άνθρωποι συνειδητοποιούν ότι η αποστολή, η οργάνωση, η ομάδα για την οποία εργαζόμαστε τόσο σκληρά και σημειώνουμε τόση πρόοδο, αλλά υπάρχουν τόσα πολλά να κάνουμε, είναι υπό πραγματική απειλή όπως αυτή. νομίζω ότι αυτό πυροδότησε την αντίδραση. πραγματικά δεν με αφορά προσωπικά, αν και ελπίζω ότι οι άνθρωποι με συμπαθούν και πιστεύουν ότι κάνω καλή δουλειά. αφορά την κοινή πίστη που νιώθουμε όλοι και το αίσθημα ευθύνης να κάνουμε τα πράγματα και ελπίζουμε να μεγιστοποιήσουμε τις πιθανότητές μας να πετύχουμε αυτόν τον στόχο.

τρέβορ:

στο υψηλότερο επίπεδο, ποια πιστεύετε ότι είναι η αποστολή; φτάνει σε γενική τεχνητή νοημοσύνη;

σαμ:

αφήστε τα οφέλη του agi να διανεμηθούν όσο το δυνατόν ευρύτερα και να αντιμετωπίσετε με επιτυχία όλες τις προκλήσεις ασφαλείας.

τρέβορ:

αυτό είναι ένα ενδιαφέρον δεύτερο σημείο. θα ήθελα πολύ να συζητήσω μαζί σας αργότερα για να συζητήσουμε τις πτυχές ασφάλειας αυτού του θέματος σε μεγαλύτερο βάθος. όταν βλέπεις το openai ως οργανισμό, η γέννησή του είναι πράγματι περίεργη. μη διστάσετε να με διορθώσετε αν κάνω λάθος, αλλά, φαίνεται ότι ιδρύθηκε με ιδιαίτερη έμφαση στην ασφάλεια. συγκεντρώνετε μια ομάδα ανθρώπων και λέτε, θέλουμε να δημιουργήσουμε έναν οργανισμό, μια εταιρεία, μια συλλογικότητα που είναι αφοσιωμένη στη δημιουργία της πιο ηθικής τεχνητής νοημοσύνης προς όφελος της κοινωνίας. μπορείτε να το δείτε ακόμη και στην κατανομή των κερδών της εταιρείας, στον τρόπο με τον οποίο οι επενδυτές παίρνουν τα κέρδη τους και ούτω καθεξής.

αλλά ακόμη και το openai άλλαξε κάποια στιγμή. πιστεύετε ότι μπορείτε να αντισταθείτε στις δυνάμεις του καπιταλισμού; θέλω να πω, υπάρχουν τόσα πολλά χρήματα. πιστεύετε ότι μπορείτε πραγματικά να διατηρήσετε έναν κόσμο όπου τα χρήματα δεν καθορίζουν τι κάνετε και γιατί το κάνετε;

σαμ:

αυτό πρέπει να είναι ένας παράγοντας. όπως, αν σκεφτείτε απλώς το κόστος της εκπαίδευσης αυτών των συστημάτων, πρέπει να βρούμε κάποιον τρόπο να ανταγωνιστούμε, ελλείψει καλύτερου όρου, σε έναν καπιταλιστικό χώρο. αλλά δεν νομίζω ότι αυτό θα είναι το βασικό μας κίνητρο. παρεμπιπτόντως, αγαπώ τον καπιταλισμό. νομίζω ότι έχει τεράστια ελαττώματα, αλλά σε σχέση με οποιοδήποτε άλλο σύστημα έχει δοκιμάσει ο κόσμος, νομίζω ότι εξακολουθεί να είναι το καλύτερο πράγμα που έχουμε καταλήξει. αλλά αυτό δεν σημαίνει ότι δεν πρέπει να προσπαθήσουμε να τα πάμε καλύτερα. νομίζω ότι θα βρούμε τρόπους να ξοδέψουμε το τεράστιο κεφάλαιο που σπάει ρεκόρ που χρειαζόμαστε για να συνεχίσουμε να προωθούμε την αιχμή αυτής της τεχνολογίας. αυτή ήταν μια από τις πρώτες μάθησής μας. ωστόσο, αυτό το πράγμα είναι πολύ πιο ακριβό από όσο νομίζαμε.

ξέραμε κάπως ότι είχαμε αυτή την ιδέα για ένα διευρυμένο σύστημα, αλλά απλά δεν ξέραμε πώς θα πήγαινε.

τρέβορ:

πάντα ήσουν μεγάλος θαυμαστής των επεκτάσεων, το έχω διαβάσει για σένα. ένας από τους μέντοράς σας, ο οποίος είναι τώρα ένας από τους επενδυτικούς σας εταίρους στο injection, είπε ότι κάθε φορά που κάνετε μια ερώτηση στον sam, το πρώτο πράγμα που του έρχεται στο μυαλό είναι πώς λύνουμε αυτό το πρόβλημα; πώς το λύνουμε; το δεύτερο πράγμα που συνεχίζει να λέει είναι, πώς κλιμακώνουμε αυτές τις λύσεις;

sam: ποιος το είπε αυτό; δεν θυμάμαι. είμαι τρομερός με τα ονόματα.

trevor: ενδιαφέρον. αλλά ξέρω ότι ήταν κάποιος στη δουλειά σου που το είπε.

sam:

ενδιαφέρων. αλλά δεν άκουσα κανέναν να το λέει αυτό για μένα.

αλλά νομίζω ότι αυτή ήταν μια παρατήρηση που έχω κάνει σε πολλές διαφορετικές εταιρείες και τομείς, ότι η κλίμακα συχνά οδηγεί σε εκπληκτικά αποτελέσματα. έτσι, η μαζική κλιμάκωση αυτών των μοντέλων ai οδηγεί σε πολύ εκπληκτικά αποτελέσματα. η μαζική κλιμάκωση όχι μόνο το κάνει καλύτερο με όλους τους προφανείς τρόπους, αλλά και με ορισμένους μη προφανείς τρόπους. υπάρχουν μη προφανή οφέλη από την κλιμάκωση των εταιρειών. υπάρχουν διακριτικά οφέλη από την κλιμάκωση μιας εταιρείας όπως το y combinator. δεν νομίζω ότι αυτό λαμβάνεται σοβαρά υπόψη.

στην περίπτωσή μας, είναι σημαντικό να γνωρίζουμε πόσο σημαντικό είναι να κλιμακώνουμε στα αρχικά στάδια. αν σκεφτόμασταν πιο έξυπνοι ή είχαμε περισσότερο κουράγιο, θα κάναμε εξαρχής μεγαλύτερες κινήσεις. αλλά είναι πραγματικά δύσκολο να πω ότι πρόκειται να φτιάξω έναν μεγαλύτερο υπολογιστή 10 δισεκατομμυρίων δολαρίων. δεν το κάναμε λοιπόν. ήμασταν λίγο πιο αργοί να το καταλάβουμε αυτό από ό,τι θα έπρεπε, αλλά τελικά το καταλάβαμε. τώρα βλέπουμε πόση κλίμακα χρειαζόμαστε.

νομίζω ότι ο καπιταλισμός είναι καλός. δεν έχω τίποτα εναντίον του συστήματος. όχι, δεν είναι αλήθεια. έχω πολλές αντιρρήσεις για αυτό το σύστημα, αλλά πρέπει να παραδεχτώ ότι τίποτα καλύτερο από αυτό δεν έχει ακόμη ανακαλυφθεί.

trevor: έχετε ρωτήσει την chatgpt εάν θα μπορούσαν να σχεδιάσουν ένα σύστημα;

sam: έχω ένα διαφορετικό...ίσως δεν σχεδιάζω ένα νέο σύστημα. ναί. αλλά κάνω πολλές ερωτήσεις σχετικά με το πώς διασταυρώνονται η τεχνητή νοημοσύνη και ο καπιταλισμός και τι σημαίνει αυτό.

ένα από τα πράγματα είναι ότι είχαμε δίκιο για το πιο σημαντικό πράγμα σχετικά με τις αρχικές μας υποθέσεις, που ήταν ότι η τεχνητή νοημοσύνη επρόκειτο να συμβεί. η βαθιά μάθηση είναι δυνατή... και παρεμπιπτόντως, πολλοί γελούν με αυτό. αυτό ακριβώς είναι.

trevor: θεέ μου, μας γελούσαν αλύπητα.

σαμ:

ναί.

ακόμη και με κάποιες ιδέες για το πώς να το πετύχουμε αυτό, το καταλάβαμε σωστά. αλλά κάναμε λάθος για πολλές λεπτομέρειες, κάτι που είναι σύνηθες και φυσιολογικό στην επιστήμη. πριν τεθούν σε εφαρμογή τα γλωσσικά μοντέλα, είχαμε ένα πολύ διαφορετικό όραμα για την κατασκευή αυτού του συστήματος. είχαμε μια πολύ διαφορετική αντίληψη για την κατασκευή agi εκείνη την εποχή. δεν είχαμε την ιδέα ότι αυτό επρόκειτο να είναι ένα επαναληπτικό εργαλείο που βελτιώνεται συνεχώς και με το οποίο θα μπορούσατε να μιλήσετε σαν άνθρωπος. έτσι ήμασταν πολύ μπερδεμένοι σχετικά με το τι θα συνεπαγόταν η κατασκευή ενός agi. σκεφτόμαστε τον χρόνο πριν και μετά το agi. στη συνέχεια, πρέπει να το παραδώσετε σε άλλα συστήματα και άλλη διακυβέρνηση.

τώρα νομίζω ότι μπορεί, και είμαι πολύ χαρούμενος για αυτό γιατί πιστεύω ότι είναι πιο εύκολο να πλοηγηθείς. νομίζω ότι μπορεί να είναι, δεν θέλω να πω απλώς ένα άλλο εργαλείο γιατί είναι διαφορετικό από πολλές απόψεις, αλλά κατά μία έννοια έχουμε φτιάξει ένα νέο εργαλείο για την ανθρωπότητα. προσθέσαμε μερικά πράγματα στην εργαλειοθήκη. οι άνθρωποι θα κάνουν όλων των ειδών τα απίστευτα πράγματα με αυτό, αλλά θα συνεχίσουν οι άνθρωποι να σχεδιάζουν το μέλλον, όχι κάποια agi στον ουρανό. μπορείτε να κάνετε πράγματα που δεν μπορούσατε να κάνετε πριν. μπορώ επίσης να κάνω πράγματα που δεν μπορούσα να κάνω πριν. μπορούμε να κάνουμε περισσότερα. υπό αυτή την έννοια, μπορώ να φανταστώ έναν κόσμο όπου πετυχαίνουμε την αποστολή μας δημιουργώντας πραγματικά καλά εργαλεία που επηρεάζουν σε μεγάλο βαθμό τις ανθρώπινες δυνατότητες και όχι μόνο. είμαι πολύ ενθουσιασμένος με αυτό.

για παράδειγμα, μου αρέσει που προσφέρουμε δωρεάν chatgpt χωρίς διαφημίσεις. επειδή προσωπικά πιστεύω ότι η διαφήμιση ήταν πάντα ένα πρόβλημα στο διαδίκτυο. αλλά απλά βάλαμε αυτό το εργαλείο εκεί έξω. αυτό είναι το μειονέκτημα του καπιταλισμού, ναι, ναι. ένας από αυτούς. προσωπικά πιστεύω ότι υπάρχουν μεγαλύτερα μειονεκτήματα, αλλά βάζουμε αυτό το εργαλείο εκεί έξω και οι άνθρωποι μπορούν να το χρησιμοποιήσουν δωρεάν. δεν θέλουμε να τα μετατρέψουμε σε προϊόντα. δεν θέλουμε να χρησιμοποιήσουν λίγο παραπάνω. νομίζω ότι αυτό δείχνει μια ενδιαφέρουσα διαδρομή όπου μπορούμε να κάνουμε περισσότερα.

τρέβορ:

λοιπόν, ας το κάνουμε αυτό. υπάρχουν πολλά πράγματα που ελπίζω να καλύψω κατά τη διάρκεια της συνομιλίας μας και προφανώς δεν θα μπορέσουμε να τα απαντήσουμε όλα. υπάρχουν όμως κάποιες σκέψεις, κάποια σημεία και κάποιες περιοχές που ελπίζω να μπορέσουμε να εξερευνήσουμε. υποθέτω ότι η πρώτη και πιο επίκαιρη ερώτηση είναι, τι θα συμβεί στο μέλλον για την εταιρεία; πού πιστεύετε ότι θα πάει; ένα πράγμα που βρίσκω ιδιαίτερα ενδιαφέρον είναι η σύνθεση του νέου συμβουλίου, ειδικά για το openai, όπου παλαιότερα υπήρχαν γυναίκες στο διοικητικό συμβούλιο και τώρα δεν υπάρχουν, και δεν υπήρχαν οικονομικά κίνητρα για τα μέλη του διοικητικού συμβουλίου και τώρα υπάρχουν. αναρωτιέμαι αν ανησυχείτε ότι αυτή η προστασία που βοηθήσατε να δημιουργηθεί έχει πλέον εξαφανιστεί και ότι έχετε ένα διοικητικό συμβούλιο που δεν εστιάζει πλέον στην προστασία των ανθρώπων ή στον καθορισμό ενός ασφαλέστερου μέλλοντος, αλλά ένα διοικητικό συμβούλιο που επικεντρώνεται στο να βγάλει χρήματα και να γίνεις όσο πιο μεγάλος και δυνατός γίνεται;

σαμ:

πιστεύω ότι οι τρέχουσες και οι προηγούμενες δομές διακυβέρνησης και τα συμβούλια μας δεν λειτουργούν με κάποιους σημαντικούς τρόπους. υποστηρίζω λοιπόν πλήρως τον εντοπισμό τρόπων βελτίωσης και θα υποστηρίξω το διοικητικό συμβούλιο και το έργο του για να το πετύχουν αυτό.

σαφώς, το διοικητικό συμβούλιο πρέπει να αναπτυχθεί και να διαφοροποιηθεί, και νομίζω ότι αυτό θα συμβεί γρήγορα. πρέπει να ακούσουμε τις φωνές εκείνων που θα μιλήσουν για εκείνους που παραδοσιακά δεν υποστηρίζονταν και όχι μόνο να σκεφτούμε πολύ προσεκτικά την ασφάλεια της τεχνητής νοημοσύνης, αλλά και να μάθουμε από τα μαθήματα του παρελθόντος για το πώς να οικοδομήσουμε τις αλληλεπιδράσεις με όλους πτυχές της κοινωνίας πρόκειται για πολύ περίπλοκα συστήματα. κάνοντας την καλύτερη δυνατή δουλειά, μετριάζοντας τα αρνητικά αποτελέσματα και μοιράζεστε τα οφέλη, όλα πρέπει να εκπροσωπούνται.

λοιπόν, χαίρομαι που έχω μια δεύτερη ευκαιρία να διορθώσουμε όλα αυτά τα πράγματα που προφανώς κάναμε λάθος πριν. πράγματα όπως η ποικιλομορφία, η διασφάλιση ότι εκπροσωπούμε όλες τις βασικές ομάδες ενδιαφερομένων που πρέπει να εκπροσωπούνται, ανακαλύπτοντας πώς να το κάνουμε αυτό πιο δημοκρατικό, συνεχίζοντας να πιέζουμε την κυβέρνηση να λάβει κάποιες αποφάσεις για τη διαχείριση αυτής της τεχνολογίας. ξέρω ότι δεν είναι τέλειο, αλλά νομίζω ότι είναι καλύτερο από οτιδήποτε άλλο μπορούμε να σκεφτούμε αυτήν τη στιγμή. είναι σημαντικό να αλληλεπιδράσουμε περισσότερο με την κοινότητα των χρηστών μας και να τους αφήσουμε να βοηθήσουν να τεθούν όρια γύρω από τη χρήση αυτής της τεχνολογίας.

μια σημαντική μελλοντική κατεύθυνση θα είναι η επέκταση του διοικητικού συμβουλίου και της δομής διακυβέρνησης. και πάλι, ξέρω ότι το τρέχον συμβούλιο μας είναι μικρό, αλλά νομίζω ότι είναι πολύ αφοσιωμένοι σε όλα αυτά για τα οποία μόλις μιλήσατε.

και μετά υπάρχει μια άλλη μεγάλη κατηγορία ερωτήσεων. αν με ρωτούσατε πριν από μια εβδομάδα, θα έλεγα ότι η σταθεροποίηση της εταιρείας ήταν η πρώτη μου προτεραιότητα. αλλά τουλάχιστον εσωτερικά, νιώθω πολύ καλά. δεν χάσαμε πελάτη, δεν χάσαμε υπάλληλο. συνεχίζουμε να μεγαλώνουμε, κάτι που είναι εκπληκτικό. συνεχίζουμε να εισάγουμε νέα προϊόντα. οι βασικές μας συνεργασίες αισθάνονται ενισχυμένες, όχι παρεμποδισμένες. από αυτή την άποψη, όλα πήγαν σύμφωνα με το σχέδιο. και νομίζω ότι τα σχέδια έρευνας και προϊόντων για το πρώτο εξάμηνο του επόμενου έτους είναι καλύτερα και πιο στοχευμένα από ποτέ.

τρέβορ:

πάντα βρίσκω τον εαυτό μου να σε σκέφτομαι ως άτομο όταν συμβαίνει όλο αυτό το θέμα της αίθουσας συνεδριάσεων. κάθε φορά που υπάρχει καταιγίδα, πάντα με ενδιαφέρει τι συμβαίνει στο κέντρο της καταιγίδας. είμαι περίεργος, πού ήσουν όταν ξέσπασαν όλα αυτά; λοιπόν, τι έκανες; τι συμβαίνει στον κόσμο σας σε προσωπικό επίπεδο;

σαμ:

ο λόγος που γελάω είναι γιατί αυτό που λένε οι άνθρωποι για μένα είναι ότι νιώθω ότι είμαι στο μάτι ενός τυφώνα και όλα γυρίζουν γύρω μου και είμαι ακόμα πολύ ήρεμη. αυτή τη φορά τα πράγματα δεν εξελίχθηκαν όπως αναμενόταν.

είναι μια εμπειρία, σαν να βρίσκεσαι στο κέντρο μιας καταιγίδας, αλλά όχι ήρεμη. ήμουν στο λας βέγκας και παρακολουθούσα έναν αγώνα f1.

trevor: είσαι λάτρης της f1;

sam: είμαι.

trevor: ποια ομάδα υποστηρίζεις; έχετε κάποιο συγκεκριμένο αγαπημένο;

σαμ:

για να είμαι ειλικρινής, νομίζω ότι ο verstappen είναι τόσο καλός που είναι δύσκολο να πει κανείς ποια ομάδα να υποστηρίξει. αλλά νομίζω ότι αυτή είναι πιθανώς η απάντηση που θα έλεγαν όλοι.

τρέβορ:

πραγματικά, εξαρτάται από το πότε άρχισαν να προσέχουν την κίνηση. είμαι φαν του σουμάχερ γιατί τότε άρχισα να παρακολουθώ αγώνες. πρώτα ήταν ο nigel mansell, μετά ο ayrton senna, ξέρετε τι εννοώ;

ο verstappen είναι πολύ ακριβής και μπορώ να καταλάβω γιατί είναι τόσο δημοφιλής.

σαμ:

παρόλο που έχω βαρεθεί λίγο να τον βλέπω να κερδίζει τόσες φορές, είναι πραγματικά εκπληκτικός.

εκείνο το βράδυ, έφτασα αργά την πέμπτη. κάποιος ξέχασε να συγκολλήσει ένα κάλυμμα φρεατίου, οπότε στον πρώτο γύρο έσκασε, σαν να ανατίναξε έναν από τους κινητήρες της ferrari, με αποτέλεσμα να διακοπεί η πρακτική. δεν πρόλαβα να δω το παιχνίδι, δεν είδα καμία δράση όλο το σαββατοκύριακο.

πήρα μια κλήση στο δωμάτιο του ξενοδοχείου μου, δεν είχα ιδέα τι θα ήταν και απολύθηκα από τη δουλειά μου από το διοικητικό συμβούλιο. ένιωσα σαν όνειρο και ένιωσα μπερδεμένη. όλα ήταν μπερδεμένα και δεν φαινόταν αληθινά. ήταν προφανώς λυπηρό και οδυνηρό, αλλά το κυρίαρχο συναίσθημα εκείνη τη στιγμή ήταν η σύγχυση και ένιωθα σαν να ήμουν μέσα στην ομίχλη και τον καπνό. δεν έχω ιδέα απολύτως τι συμβαίνει.

ο τρόπος που συνέβη αυτό ήταν πρωτοφανής, ήταν τρελό. την επόμενη μισή ώρα, το τηλέφωνό μου έλαβε τόσα πολλά μηνύματα που το imessage χάλασε στο τηλέφωνό μου. αυτά τα μηνύματα προέρχονταν από όλους και το τηλέφωνο έγινε εντελώς άχρηστο καθώς οι ειδοποιήσεις συνέχιζαν να εμφανίζονται. το imessage έφτασε σε ένα σημείο όπου σταμάτησε για λίγο, τα μηνύματα καθυστέρησαν και μετά όλα τα μηνύματα επισημάνθηκαν ως αναγνωσμένα, οπότε δεν μπορούσα καν να καταλάβω με ποιον μιλούσα, ήταν χάος.

μιλούσα με την ομάδα εδώ, προσπαθώντας να καταλάβω τι συνέβαινε. όπως και η microsoft είναι επίσης στο τηλέφωνο, και άλλα μέρη είναι επίσης σε επαφή. η όλη κατάσταση ήταν πραγματικά ανησυχητική και δεν φαινόταν αληθινή. ηρέμησα λίγο και άρχισα να σκέφτομαι το μέλλον. θέλω πολύ να δουλέψω στο agi (artificial general intelligence). αν δεν τα καταφέρω στην αρχή, θα συνεχίσω να προσπαθώ. σκέφτομαι την καλύτερη προσέγγιση.

ο γκρεγκ τα παράτησε, μερικά άλλα άτομα τα παράτησαν και άρχισα να λαμβάνω μια πλημμύρα μηνυμάτων από ανθρώπους που ήθελαν να συνεργαστούν μαζί μου. εκείνη την εποχή, η επιστροφή στο openai ήταν εντελώς έξω από το μυαλό μου. μπορώ να φανταστώ τι επιφυλάσσει το μέλλον, αλλά δεν καταλαβαίνω πόσο μεγάλο είναι αυτό το γεγονός του κλάδου, επειδή δεν παρακολουθώ πραγματικά τις ειδήσεις. μπορώ απλώς να νιώσω τον συντριπτικό αριθμό των μηνυμάτων που λαμβάνονται.

τρέβορ:

γιατί κυριολεκτικά βρίσκεσαι στη μέση μιας καταιγίδας.

σαμ:

ναί. θέλω απλώς να υποστηρίξω το openai, να καταλάβω τι να κάνω στη συνέχεια, να προσπαθήσω να καταλάβω τι συμβαίνει. στη συνέχεια, επέστρεψα στην καλιφόρνια, γνώρισα μερικούς ανθρώπους και άρχισα να νιώθω πολύ συγκεντρωμένος στο μέλλον. αλλά εύχομαι επίσης στο openai ό,τι καλύτερο. υπήρχε λίγος ύπνος σχεδόν όλη τη νύχτα και πολλές συζητήσεις συνεχίζονταν ταυτόχρονα. αυτό που ακολούθησε ήταν ένα τρελό σαββατοκύριακο. είμαι βέβαιος ότι ακόμα δεν έχω συμβιβαστεί πλήρως με όλα αυτά και είμαι ακόμα λίγο ταραγμένος και ακόμα προσπαθώ να μαζέψω τα κομμάτια. είμαι σίγουρος ότι θα το νιώσω περισσότερο όταν έχω χρόνο να καθίσω και να το επεξεργαστώ.

τρέβορ:

νιώθεις ότι πρέπει να πηδήξεις ξανά σε όλα με τη μία; γιατί, σύμφωνα με εσάς, είστε σε αυτήν την αποστολή. μπορείτε να δείτε την κίνηση στα μάτια σας και ο κόσμος έχει φτάσει σε ένα σημείο χωρίς επιστροφή. κατευθύνεστε προς μια συγκεκριμένη κατεύθυνση και ξαφνικά, φαίνεται ότι δεν μπορείτε να το πετύχετε στον τομέα που βρίσκεστε. αλλά όπως είπατε, η microsoft παρενέβη και ο satya nadella είπε, ελάτε να δουλέψετε μαζί μας και θα ξαναχτίσουμε την ομάδα.

αν σε κάτι συμφωνούν οι άνθρωποι για τον σαμ άλτμαν, είναι ότι είναι επίμονος. είναι ασυμβίβαστος και πιστεύει ότι αν έχεις στόχο και πιστεύεις σε κάτι, δεν πρέπει να αφήσεις τη ζωή να μπει εμπόδιο. και φαίνεται ότι οδεύετε προς αυτή την κατεύθυνση. δεν έχετε πει τίποτα δημοσίως για το openai ή το απαξιώνετε με οποιονδήποτε τρόπο. αλλά αυτό φαίνεται να σας πιέζει πολύ.

σαμ:

σίγουρα. δεν νομίζω ότι είναι κάτι από το οποίο δεν μπορώ να συνέλθω, αλλά νομίζω ότι θα ήταν αδύνατο να το περάσω και να μην επηρεαστώ, αυτό θα ήταν πολύ περίεργο.

τρέβορ:

νιώθεις ότι έχεις χάσει ένα κομμάτι του εαυτού σου;

σαμ:

ναί. ξεκινήσαμε το openai στα τέλη του 2015. η πρώτη μέρα εργασίας ξεκίνησε ουσιαστικά το 2016.

το κάνω αυτό στο yc για λίγο, αλλά από τις αρχές του 2019 το κάνω με πλήρη απασχόληση. το agi και η οικογένειά μου είναι τα δύο πράγματα που με ενδιαφέρουν περισσότερο. έτσι, η απώλεια ενός από αυτά, για μένα, κατά μία έννοια, θα έπρεπε να πω, με έκανε πιο αφοσιωμένο στο agi και να νοιάζομαι περισσότερο για την αποστολή. αλλά φυσικά, νοιάζομαι επίσης για αυτόν τον οργανισμό, αυτούς τους ανθρώπους, τους χρήστες μας, τους μετόχους μας και όλα όσα χτίζουμε εδώ. οπότε, ήταν πραγματικά οδυνηρό.

η μόνη εμπειρία ζωής με την οποία μπορώ να τη συγκρίνω είναι όταν πέθανε ο πατέρας μου, που φυσικά ήταν πολύ χειρότερο. ήταν ένα πολύ ξαφνικό πράγμα, αυτό το αίσθημα σύγχυσης και απώλειας. σε αυτή την περίπτωση, ένιωσα ότι είχα λίγο χρόνο για να τα καταφέρω όλα. έμειναν όμως τόσα πολλά ακόμα και ήταν τόσο απροσδόκητο που έπρεπε να μαζέψω τα κομμάτια της ζωής του για λίγο. μόλις μια εβδομάδα μετά από αυτό, είχα πραγματικά χρόνο να αναπνεύσω και να σκεφτώ, θεέ μου, δεν μπορώ να πιστέψω ότι συμβαίνει αυτό. οπότε ναι, αυτό είναι σίγουρα πολύ χειρότερο. αλλά εδώ, υπάρχουν παρόμοιες απόηχοι.

τρέβορ:

καθώς κοιτάζετε το μέλλον της εταιρείας και τον ρόλο σας σε αυτό, πώς βρίσκετε την ισορροπία αυτή τη στιγμή μεταξύ της προώθησης της ανοιχτής τεχνητής νοημοσύνης προς τα εμπρός και της συνέχισης της κίνησης προς την κατεύθυνση που πιστεύετε; έχετε ακόμα φρένα έκτακτης ανάγκης; υπάρχει κάποιο είδος συστήματος εντός της εταιρείας που όταν αισθάνεστε ότι δημιουργούμε κάτι που μπορεί να έχει κακό αντίκτυπο στην κοινωνία, παρεμβαίνουμε και σταματάμε αυτή τη συμπεριφορά. έχετε αυτή την ικανότητα; και είναι ενσωματωμένο αυτό το σύστημα;

σαμ:

ναι φυσικά. είχαμε ένα τέτοιο σύστημα στο παρελθόν. για παράδειγμα, δημιουργούμε ορισμένα συστήματα αλλά επιλέγουμε να μην τα αναπτύξουμε. πιστεύω ότι θα το κάνουμε ξανά στο μέλλον. ή δημιουργούμε ένα σύστημα και λέμε, γεια, χρειαζόμαστε λίγο περισσότερο χρόνο για να το κάνουμε ασφαλές πριν μπορέσουμε να το αναπτύξουμε. όπως και στην περίπτωση του gpt-4, μας πήρε σχεδόν οκτώ μήνες για να ολοκληρώσουμε την εκπαίδευση πριν είμαστε έτοιμοι να το κυκλοφορήσουμε, με όλες τις δοκιμές ευθυγράμμισης και ασφάλειας. θυμάμαι ότι μίλησα με κάποια μέλη της ομάδας και αυτό δεν ήταν απόφαση του διοικητικού συμβουλίου, ήταν άνθρωποι εδώ που έκαναν τη δουλειά τους και ήταν αφοσιωμένοι στην αποστολή μας. αυτό λοιπόν θα συνεχιστεί.

αυτό που είμαι πολύ περήφανος για αυτή την ομάδα είναι η ικανότητά της να λειτουργεί καλά εν μέσω χάους, κρίσης, αβεβαιότητας και άγχους. τους δίνω α+, έκαναν πολύ καλή δουλειά. καθώς πλησιάζουμε σε πιο εύρωστα, πολύ στιβαρά συστήματα, νομίζω ότι η κουλτούρα και η ικανότητα των ομάδων που χτίζουμε είναι ίσως το πιο σημαντικό στοιχείο, όπως η παραμονή ήρεμη σε μια κρίση και η λήψη καλών, στοχαστικών αποφάσεων. νομίζω ότι η ομάδα εδώ έχει πραγματικά αποδείξει ότι μπορεί να το κάνει αυτό, πράγμα πολύ σημαντικό.

κάποιος είπε ότι ένα από τα πράγματα που μάθαμε για το openai είναι ότι ο sam μπορούσε να διευθύνει την εταιρεία χωρίς να έχει τίτλο εργασίας. νομίζω ότι αυτό είναι εντελώς λάθος και απλά δεν είναι αλήθεια. το σωστό μάθημα ήταν ότι η εταιρεία μπορούσε να λειτουργήσει χωρίς εμένα. αυτό είναι θέμα πολιτισμού και η ομάδα είναι έτοιμη και η κουλτούρα είναι έτοιμη. είμαι πολύ περήφανος για αυτό και πραγματικά ενθουσιασμένος που επιστρέφω και συνεχίζω να το κάνω.

το να βλέπω την ομάδα να τα διαχειρίζεται όλα με βοηθά να κοιμάμαι καλύτερα τη νύχτα καθώς αντιμετωπίζουμε τις προκλήσεις που έχουμε μπροστά μας. θα υπάρξουν μεγαλύτερες προκλήσεις από αυτήν στο μέλλον, αλλά ελπίζω και πιστεύω ότι αυτή είναι η πιο δύσκολη γιατί είμαστε απροετοίμαστοι. τώρα συνειδητοποιούμε τη σημασία, δεν είμαστε απλώς μια συνηθισμένη εταιρεία, μακριά από αυτήν.

τρέβορ:

ας μιλήσουμε για αυτό. chatgpt, openai, όπως και να λέγεται. έχετε dall·e, έχετε whisper, και όλα αυτά τα καταπληκτικά προϊόντα. εάν έχετε οποιεσδήποτε ιδέες για επωνυμίες ή αρχιτεκτονική εμπορικών σημάτων, θα με ενδιέφερε πολύ. νιώθω ότι το chatgpt το έκανε αυτό και τώρα είναι παντού. ναι, είναι ένα τρομερό όνομα, αλλά μπορεί να έχει γίνει πολύ συνηθισμένο για να το αλλάξουν. πιστεύετε ότι μπορεί να αλλάξει αυτή τη στιγμή; μπορούμε να το απλοποιήσουμε σε gpt ή απλώς να συνομιλήσουμε;

σαμ:

δεν ξέρω, ίσως όχι.

τρέβορ:

μερικές φορές αισθάνομαι ότι ένα προϊόν, ένα όνομα ή μια ιδέα ξεπερνά τα όνειρα των εμπόρων και οι άνθρωποι το ασπάζονται.

σαμ:

κανένας έμπορος δεν θα επέλεγε το chatgpt ως όνομα για αυτό, αλλά μάλλον έχουμε κολλήσει σε αυτό και μάλλον δεν πειράζει.

τρέβορ:

τώρα, με γοητεύει η πολυτροπική φύση του. θυμάμαι ακόμα όταν είδα για πρώτη φορά το dall·e να βγαίνει, ήταν απλώς μια ιδέα και να δω πώς λειτουργούσε και να δω ότι αυτό το πρόγραμμα μπορούσε να δημιουργήσει μια εικόνα από το τίποτα. προσπαθώ να το εξηγήσω στους ανθρώπους και ρωτούν, από πού προήλθε αυτή η εικόνα; ήμουν σαν, δεν υπάρχει φωτογραφία, καμία εικόνα πηγής. νομίζουν ότι είναι αδύνατο.

έβλεπε κάτι που, νόμιζα εκείνη τη στιγμή, ήταν δύσκολο να το εξηγήσω. μερικές φορές ακόμη και εγώ δυσκολεύομαι να το καταλάβω. αλλά όταν κοιτάμε τον κόσμο στον οποίο ζούμε αυτή τη στιγμή, μιλάμε για αυτούς με αριθμούς, gpt 3.5, gpt 4, gpt 5, 6, 7, ό,τι κι αν είναι. μου αρέσει να μιλάω περισσότερο για τις πραγματικές περιπτώσεις χρήσης του προϊόντος με τρόπο που αφαιρεί την τεχνική ορολογία.

μεταξύ διαφορετικών προϊόντων, από το chatgpt 3, 3.5 έως 4, βλέπουμε τις λεγόμενες δυνατότητες συλλογιστικής να φτάνουν σε υψηλότερο επίπεδο και ακόμη και να επιδεικνύουν δημιουργικότητα σε κάποιο βαθμό.

όταν κοιτάζω τα προϊόντα σε αυτόν τον κόσμο που δημιουργείτε τώρα, όπως μοντέλα μεγάλων γλωσσών γενικής χρήσης και τώρα εξειδικευμένα μεγάλα γλωσσικά μοντέλα, αναρωτιέμαι, πιστεύετε ότι οι περιπτώσεις χρήσης θα αλλάξουν δραματικά; πιστεύετε ότι μπορεί τώρα να είναι σαν ένα μικρό chatbot, αυτό που αρέσει σε όλους και είναι αυτή η τελική μορφή του προϊόντος; ή πιστεύετε ότι ο κόσμος θα γίνει ένας κόσμος όπου τα πάντα έχουν ένα εξειδικευμένο gpt; για παράδειγμα, ο trevor θα έχει ένα gpt που κάνει πράγματα γι 'αυτόν ή μια συγκεκριμένη εταιρεία θα έχει ένα gpt που κάνει πράγματα γι 'αυτήν. τι πιστεύετε για αυτό το θέμα;

προφανώς, η πρόβλεψη του μέλλοντος είναι δύσκολη. αλλά από εκεί που είμαστε τώρα, πού το βλέπετε να πηγαίνει;

σαμ:

νομίζω ότι θα είναι ένας συνδυασμός και των δύο. είναι πραγματικά δύσκολο να προβλέψεις το μέλλον, και μπορεί να κάνω λάθος, αλλά εξακολουθώ να είμαι πρόθυμος να προσπαθήσω. νομίζω ότι θα είναι ένας συνδυασμός των δύο πραγμάτων που μόλις αναφέρατε. πρώτον, το βασικό μοντέλο θα είναι τόσο καλό που μου είναι δύσκολο να πω με σιγουριά ότι υπάρχει κάτι που δεν μπορεί να κάνει. θα πάρει πολύ χρόνο, αλλά νομίζω ότι κινούμαστε προς αυτή την κατεύθυνση.

τρέβορ:

πόσο καιρό είναι ένας "μεγάλος χρόνος" στο χρονικό σας πλαίσιο; πώς το μετράτε;

σαμ:

όχι τα επόμενα χρόνια. θα γίνεται καλύτερο κάθε χρόνο για τα επόμενα χρόνια. αλλά όπως επρόκειτο να πω, είμαι σχεδόν σίγουρος ότι μέχρι το 2026, θα υπάρχουν ακόμα πολλά που αυτό το μοντέλο δεν μπορεί να κάνει.

τρέβορ:

αλλά αυτό το μοντέλο δεν σας εκπλήσσει συνέχεια; όταν μιλάω με μηχανικούς που εργάζονται σε αυτόν τον χώρο ή με οποιονδήποτε εμπλέκεται ή σχετίζεται με την τεχνητή νοημοσύνη, η μόνη λέξη που βγαίνει περισσότερο είναι «έκπληξη». οι άνθρωποι συνεχίζουν να λένε ότι το διδάσκουν αυτό, νομίζοντας ότι το chatgpt μαθαίνει για το πεδίο. ξαφνικά, αρχίζει να μιλάει μια νέα γλώσσα, ή νομίζαμε ότι το διδάσκαμε αυτό, και ξαφνικά χτίζει γέφυρες, κάτι τέτοιο.

σαμ:

επομένως, η υποκειμενική εμπειρία των περισσότερων ανθρώπων εδώ είναι πιθανώς κάποια στιγμή μεταξύ 2019 και 2022. αλλά τώρα, νομίζω ότι μάθαμε να σταματήσουμε να εκπλήσσουμε. σήμερα, η εμπιστοσύνη μας έχει αυξηθεί εκθετικά, και οι περισσότεροι το πιστεύουν. έτσι, το gpt-5, όπως και να το ονομάσουμε, θα διαπρέψει σε πολλές πτυχές. θα εκπλαγούμε από μερικά από τα συγκεκριμένα πράγματα που μπορεί να κάνει, και θα εκπλαγούμε επίσης από αυτά που δεν μπορεί να κάνει. κανείς δεν θα εκπλαγεί με το πόσο καλό είναι. σε αυτό το σημείο, νομίζω ότι έχουμε μια πολύ βαθιά κατανόηση αυτού.

το δεύτερο πράγμα που αναφέρατε είναι αυτά τα προσαρμοσμένα gpt. το πιο σημαντικό, αναφέρατε επίσης το προσωπικό gpt, όπως το trevor gpt. νομίζω ότι αυτό θα είναι μια μεγάλη τάση τα επόμενα χρόνια. αυτά τα μοντέλα θα μάθουν για εσάς, θα έχουν πρόσβαση στα προσωπικά σας δεδομένα, θα απαντούν σε ερωτήσεις όπως θέλετε και θα λειτουργούν στο περιβάλλον σας πολύ αποτελεσματικά. νομίζω ότι πολλοί άνθρωποι θα το θέλουν αυτό.

τρέβορ:

σχεδόν με κάνει να αναρωτιέμαι, εάν η νέα αγορά εργασίας γίνει ότι το gpt σας είναι σχεδόν το βιογραφικό σας, το gpt είναι σχεδόν κατά έναν περίεργο τρόπο πιο πολύτιμο από εσάς. με καταλαβαίνετε; είναι σαν ένας συνδυασμός όλων όσων σκέφτεσαι και όλων όσων έχεις σκεφτεί ποτέ, και του τρόπου με τον οποίο συνθέτεις τις ιδέες σου, καθώς και το δικό σου προσωπικό gpt... σκέφτομαι απλώς ένα τρελό μέλλον , όταν πηγαίνεις σε ένα δουλειά, σε ρωτάνε, ποιος είναι ο gpt σου; και λες, εντάξει, αυτό είναι δικό μου.

σαμ:

πάντα σκεφτόμαστε αυτά σαν πρακτορεία, αυτά τα εξατομικευμένα πρακτορεία, θα αφήσω αυτό το πράγμα να κάνει πράγματα για μένα. αλλά είναι ενδιαφέρον αυτό που λέτε για αυτό είναι αν δεν είναι έτσι αλλά πώς αλληλεπιδρούν οι άλλοι άνθρωποι μαζί σας. δικαίωμα. είναι σαν μια εντύπωση σου, ένα άβαταρ σου, μια ηχώ σου κ.λπ. έβλεπα ότι φτάνει σε αυτό το σημείο.

τρέβορ:

γιατί αν δεν είμαστε συνδυασμός όλων όσων είμαστε, τότε τι είμαστε; είναι περίεργη ιδέα, αλλά μπορώ να την πιστέψω. πάντα με γοήτευε πού μπορεί να πάει και τι μπορεί να κάνει.

ξέρετε γιατί; όταν το chatgpt ανατινάχθηκε τις πρώτες εβδομάδες, δεν θα ξεχάσω ποτέ πόσο γρήγορα συνειδητοποίησαν οι άνθρωποι, την επανάσταση των ρομπότ, ξέρω ότι δεν ήταν ρομπότ, αλλά για τους ανθρώπους, ήταν σαν την επανάσταση των ρομπότ, οι μηχανές δεν αντικαθιστούσαν τι νόμιζαν εργασίες που θα αντικατασταθούν. ξέρετε, ο κόσμος πίστευε ότι επρόκειτο να αντικαταστήσει τους οδηγούς φορτηγών και ούτω καθεξής. ωστόσο, διαπιστώσαμε ότι όχι, αυτές οι θέσεις εργασίας είναι στην πραγματικότητα πιο δύσκολο να αντικατασταθούν. στην πραγματικότητα, οι δουλειές που αντικαθίστανται από τις λεγόμενες «εγκεφαλικές δουλειές» είναι αυτές, όπως η δουλειά του λευκού γιακά. είσαι δικηγόρος; λοιπόν, όταν έχετε chatgpt 5, 6, 7, όπως και να το αποκαλείτε, μπορεί να μην χρειάζεστε τόσους πολλούς δικηγόρους. είσαι μηχανικός και είσαι σαν, ποια είναι η θέση σου... το ανθρώπινο σώμα είναι πραγματικά καταπληκτικό πράγμα.

πιστεύετε ότι υπάρχουν πρόοδοι που θα μπορούσαν να αντικαταστήσουν το ανθρώπινο σώμα; ή είμαστε ακόμα στην πνευματική σφαίρα;

σαμ:

όχι, νομίζω ότι τελικά θα βάλουμε τα ρομπότ να δουλέψουν, όπως τα ανθρωποειδή ρομπότ θα λειτουργήσουν τελικά. αλλά εργαζόμασταν σε αυτό στα πρώτα στάδια του openai, είχαμε ένα έργο ρομποτικής. δεν το ξέρω αυτό.

γνωρίζουμε ότι κατασκευάσαμε ένα ρομποτικό χέρι που μπορεί να χειριστεί τον κύβο του ρούμπικ σαν ένα χέρι. αυτό απαιτεί μεγάλη ευελιξία. νομίζω ότι εμπλέκονται πολλές διαφορετικές ιδέες, αλλά μία από αυτές είναι ότι είναι πολύ πιο εύκολο να σημειωθεί πρόοδος σε έναν κόσμο με bit παρά σε έναν κόσμο ατόμων.

για παράδειγμα, αυτό το ρομπότ είναι δύσκολο να κατασκευαστεί, αλλά για λάθος λόγους. η δυσκολία δεν είναι ότι μας βοηθά να προωθήσουμε κάποια ακανθώδη ερευνητικά ερωτήματα, αλλά ότι το ρομπότ συνεχίζει να σπάει, και δεν είναι πολύ ακριβές, και οι προσομοιωτές είναι τρομεροί. ενώ με ένα μοντέλο γλώσσας, μπορείτε να κάνετε όλα αυτά τα πράγματα σε ένα εικονικό περιβάλλον, μπορείτε να προχωρήσετε πολύ πιο γρήγορα. έτσι, η εστίαση στη γνωστική πτυχή μας βοηθά να λύνουμε πιο παραγωγικά προβλήματα πιο γρήγορα.

αλλά είναι επίσης μια πολύ σημαντική πτυχή, και νομίζω ότι η επίλυση γνωστικών εργασιών είναι το πιο σημαντικό πρόβλημα. για παράδειγμα, εάν κατασκευάσετε ένα ρομπότ, δεν θα καταλάβει απαραίτητα πώς θα σας βοηθήσει να δημιουργήσετε ένα σύστημα που εκτελεί γνωστικές εργασίες. αλλά αν δημιουργήσετε ένα σύστημα που εκτελεί γνωστικές εργασίες, μπορεί να σας βοηθήσει να καταλάβετε πώς να φτιάξετε ένα καλύτερο ρομπότ.

ναι, αυτό είναι λογικό. επομένως, νομίζω ότι η γνώση είναι το βασικό πράγμα στο οποίο θέλουμε να εστιάσουμε. νομίζω ότι αυτή είναι η σωστή απόφαση. ελπίζω όμως να μπορέσουμε να επιστρέψουμε στη ρομποτική.

τρέβορ:

έχετε αναρωτηθεί ποτέ πότε θα νομίζατε ότι έχει επιτευχθεί η τεχνητή γενική νοημοσύνη; όπως, πώς ξέρουμε; για μένα προσωπικά; λοιπόν, πότε αισθάνομαι ότι η εργασία ολοκληρώθηκε;

σαμ:

επειδή όλοι μιλούν για γενική τεχνητή νοημοσύνη, αλλά ρωτάω, πώς ξέρουμε τι είναι αυτό; οπότε επιστρέφει στο σημείο πριν, ο καθένας έχει διαφορετικό ορισμό. προσωπικά θα σας πω όταν θα ενθουσιαστώ πάρα πολύ. είμαι πολύ ενθουσιασμένος όταν έχουμε ένα σύστημα που βοηθά στην ανακάλυψη νέας φυσικής. αλλά αυτό μοιάζει πολύ πέρα ​​από τη γενική νοημοσύνη. φαίνεται ότι καταλαβαίνετε τι εννοώ; αυτό είναι πέρα ​​από αυτό που νομίζω ότι θα όριζαν οι περισσότεροι.

τρέβορ:

ίσως αυτό συμβαίνει επειδή μερικές φορές αναρωτιέμαι, πώς ορίζουμε τη γενική νοημοσύνη; το ορίζουμε ως ιδιοφυΐα σε έναν συγκεκριμένο τομέα; ή σαν ένα παιδί που είναι τεχνητή γενική νοημοσύνη; αυτό είναι σίγουρο. αλλά πρέπει να συνεχίσεις να το προγραμματίζεις, και όταν γεννιούνται δεν μπορούν να μιλήσουν, δεν μπορούν να περπατήσουν, δεν ξέρουν τίποτα. και συνεχίζετε να προγραμματίζετε αυτό το agi για να το φτάσετε εκεί που πρέπει.

έτσι, αν, ας πούμε, φτάσετε στο σημείο να έχετε μια εκδοχή ενός τετράχρονου παιδιού.

σαμ:

τι θα γινόταν αν είχαμε ένα σύστημα που θα μπορούσε να είναι έτσι, μόλις το είχα καταλάβει, ικανό να λειτουργεί αυτόνομα, με κάποια γονική βοήθεια και να κατανοεί τον κόσμο όπως κάνει ένα τετράχρονο παιδί. ναι, μπορούμε να το ονομάσουμε agi. εάν μπορούσαμε πραγματικά να αντιμετωπίσουμε αυτή την καθολική ικανότητα, θα μπορούσαμε να την καταλάβουμε μόνοι μας όταν προκύπτουν νέα προβλήματα. τα τετράχρονα δεν καταλαβαίνουν πάντα τα πράγματα τέλεια, αλλά μέχρι τότε προφανώς το καταλάβαμε.

τρέβορ:

μπορούμε να φτάσουμε σε αυτό το σημείο χωρίς να κατανοήσουμε ουσιαστικά τη φύση της σκέψης και της σκέψης; φαίνεται πιθανό. πιστεύετε ότι μπορούμε να φτάσουμε σε αυτό το σημείο; νομίζω ότι είναι εντάξει. ή μπορούμε να φτάσουμε σε ένα... οπότε είμαι σίγουρος ότι το ξέρεις αυτό.

μια από τις αγαπημένες μου ιστορίες στον τομέα της τεχνητής νοημοσύνης είναι ένα έργο στη microsoft. έχουν μια τεχνητή νοημοσύνη που προσπαθεί να μάθει να αναγνωρίζει αρσενικά και θηλυκά πρόσωπα, και είναι κάπως πολύ ακριβές, περίπου 99,9% ακριβές. ωστόσο, ανέκαθεν αντιπροσωπευόταν ελάχιστα όταν πρόκειται για μαύρους και ιδιαίτερα μαύρες γυναίκες, μπερδεύοντάς τις συνεχώς με άντρες. οι ερευνητές προσπαθούν πάντα να βελτιώνονται, και πάντα σκέφτονται, τι συμβαίνει;

για λίγο, έτσι είπα την ιστορία, μπορεί να είναι λίγο ανακριβής, αλλά τη βρήκα ενδιαφέρουσα. υπήρχε μια εποχή που «έστελναν» ai στην αφρική, νομίζω ότι ήταν η κένυα. έστειλαν ai στην αφρική και στη συνέχεια είπαν στην ερευνητική ομάδα στην κένυα, θα μπορούσαν να το χρησιμοποιήσουν για λίγο για να προσπαθήσουν να λύσουν αυτό το πρόβλημα; όταν αυτό το ai λειτουργούσε σε εκείνη την πλευρά του κόσμου, με τα δεδομένα του και τα αφρικανικά πρόσωπα, γινόταν όλο και πιο ακριβής στον εντοπισμό των μαύρων γυναικών ιδιαίτερα.

αλλά τελικά, διαπίστωσαν ότι η τεχνητή νοημοσύνη δεν γνώριζε ποτέ τη διαφορά μεταξύ ανδρικών και γυναικείων προσώπων. το μόνο που κάνει είναι να δημιουργεί συσχετισμούς μεταξύ των μακιγιάζ. ως αποτέλεσμα, η τεχνητή νοημοσύνη καθόρισε ότι το άτομο με κόκκινα χείλη, ροζ μάγουλα και πιθανώς μπλε βλέφαρα ήταν θηλυκό και τα άλλα ήταν αρσενικά. οι ερευνητές λένε, ναι, έχεις δίκιο. μόλις βρήκε αυτό που λέγεται "κωδικός εξαπάτησης", ξέρετε. είναι σαν, καταλαβαίνω ποια είναι τα πρότυπά σας για τους άνδρες και τις γυναίκες, και μετά διαφοροποιείται από αυτά τα πρότυπα.

και τότε συνειδητοποίησαν ότι επειδή οι μαύρες γυναίκες γενικά δεν εξυπηρετούνται σε ό,τι αφορά το μακιγιάζ, δεν φορούν πολύ μακιγιάζ, οπότε το σύστημα απλά δεν το ξέρει. αλλά δεν ξέρουμε ότι το σύστημα δεν γνωρίζει. σκεφτόμουν λοιπόν, πώς ξέρουμε αν η agi ξέρει ή δεν ξέρει κάτι; ή μήπως θα ανακαλύψουμε ότι απλώς εξαπάτησε με κάποιο τρόπο την απάντηση; πώς ξέρουμε;

όταν αυτή η αβεβαιότητα είναι συνυφασμένη με τόσες πολλές πτυχές της ζωής μας, ποιο είναι το κόστος της άγνοιάς μας; καταλαβαίνετε;

σαμ:

πιστεύω ότι θα σημειώσουμε πρόοδο στην κατανόηση του τι κάνουν αυτά τα συστήματα. επί του παρόντος, η ερμηνευτικότητα έχει σημειώσει κάποια πρόοδο. αυτός είναι ένας τομέας έρευνας σε αυτά τα μοντέλα και υπάρχουν διαφορετικοί τρόποι και διαφορετικά επίπεδα στα οποία μπορεί να γίνει αυτή η έρευνα. μπορείτε να προσπαθήσετε να καταλάβετε τι κάνει κάθε τεχνητός νευρώνας στο σύστημα ή μπορείτε να παρακολουθήσετε καθώς το σύστημα σκέφτεται βήμα προς βήμα και να δείτε με ποια βήματα διαφωνείτε. θα μάθουμε περισσότερα.

η ικανότητα να καταλαβαίνουμε τι κάνουν αυτά τα συστήματα και ελπίζουμε να μας εξηγούν γιατί καταλήγουν σε ορισμένα συμπεράσματα και να το κάνουν με ακρίβεια και σθεναρά. νομίζω ότι θα σημειώσουμε πρόοδο όχι μόνο στην κατανόηση του τρόπου με τον οποίο αυτά τα συστήματα κάνουν αυτό που κάνουν, αλλά και στην κατανόηση του πώς ο εγκέφαλός μας κάνει αυτό που κάνουν. οπότε πιστεύω ότι θα το καταλάβουμε τελικά. είμαι περίεργος, και είμαι σίγουρος ότι είσαι και εσύ.

κατά τη γνώμη μου, θα σημειώσουμε μεγαλύτερη πρόοδο στην εφαρμογή μεθόδων που γνωρίζουμε ότι λειτουργούν για να κάνουν αυτά τα συστήματα καλύτερα και καλύτερα και να μας βοηθήσουν να λύσουμε την πρόκληση της επεξήγησης. και, νομίζω ότι όσο αυτά τα συστήματα γίνονται πιο έξυπνα, θα ξεγελιούνται λιγότερο συχνά. επομένως, ένα πιο περίπλοκο σύστημα μπορεί να μην κάνει τέτοιες διακρίσεις αισθητικής και μπορεί να μάθει σε βαθύτερο επίπεδο. νομίζω ότι βλέπουμε κάποιες ενδείξεις ότι συμβαίνει αυτό.

τρέβορ:

με έκανες να σκεφτώ δύο πράγματα όταν είπες ότι δεν ξεγελιέμαι τόσο εύκολα. η μία είναι η πτυχή της ασφάλειας και η άλλη είναι η πτυχή της ακρίβειας. τα μμε μίλησαν για αυτό. θυμάστε, είπαν, το ai είχε παραισθήσεις, νόμιζε ότι θα με σκότωνε. θεωρώ ότι είναι ιδιαίτερα ενδιαφέρον το γεγονός ότι στους ανθρώπους αρέσει να χρησιμοποιούν τη λέξη «σκέφτομαι» για να περιγράψουν μεγάλα γλωσσικά μοντέλα. γιατί πάντα αισθάνομαι ότι οι δημοσιογράφοι πρέπει να προσπαθούν να καταλάβουν τι κάνει πριν το αναφέρουν. όταν όμως χρησιμοποιούν πολύ τη λέξη «σκέφτομαι», στην πραγματικότητα δίνουν στο κοινό μια παρεξήγηση. έχω συμπάθεια για αυτό.

σαμ:

πρέπει να χρησιμοποιούμε γνωστούς όρους, πρέπει να προσωποποιούμε. αλλά συμφωνώ μαζί σου ότι αυτό είναι παραπλανητικό.

τρέβορ:

επειδή λες ότι σκέφτεται, και μετά οι άνθρωποι θα σκεφτούν, σκέφτεται να με σκοτώσεις; δεν είναι έτσι, δεν είναι σκέψη, απλώς χρησιμοποιεί αυτό το μαγικό transformer για να καταλάβει ποιες λέξεις είναι πιο πιθανό να ταιριάζουν μεταξύ τους.

sam: τι νομίζεις ότι κάνεις;

τρέβορ:

τι κάνω; αυτή είναι μια ενδιαφέρουσα ερώτηση. αυτό λέω, είναι η ιδέα ότι μαζευτήκαμε.

μιλάμε για «παραισθήσεις». επιτρέψτε μου να ξεκινήσω με το πρώτο ημίχρονο. πιστεύετε ότι μπορούμε να επιτύχουμε τον στόχο να κάνουμε την τεχνητή νοημοσύνη μη παραισθησιογόνα;

σαμ:

νομίζω ότι το καλύτερο ερώτημα είναι, μπορούμε να διασφαλίσουμε ότι μια τεχνητή νοημοσύνη δεν έχει παραισθήσεις όταν δεν το θέλουμε, σε μια συχνότητα παρόμοια με το πόσο συχνά οι άνθρωποι δεν έχουν παραισθήσεις. σε αυτό, η απάντησή μου είναι ναι. αλλά στην πραγματικότητα, ένα από τα πράγματα που αγαπούν οι άνθρωποι σε αυτά τα συστήματα είναι η ικανότητά τους να κάνουν νέα πράγματα. μακάρι να... ναι, η ψευδαίσθηση είναι και χαρακτηριστικό και σφάλμα.

τρέβορ:

αυτό ακριβώς ρωτούσα. δεν είναι η ψευδαίσθηση μέρος της ευφυούς ύπαρξης;

σαμ:

εντελώς.

αν σκεφτείτε, ας πούμε, τον τρόπο με τον οποίο λειτουργεί ένας ερευνητής τεχνητής νοημοσύνης, εξετάζει πολλά δεδομένα, σκέφτεται μερικές ιδέες, διαβάζει πολλά πράγματα και μετά αρχίζει να σκέφτεται, ίσως αυτό ή εκείνο. ίσως θα έπρεπε να δοκιμάσω αυτό το πείραμα. τώρα έχω τα στοιχεία. έτσι, αυτό δεν λειτουργεί αρκετά. τώρα θα καταλήξω σε αυτή τη νέα ιδέα.

αυτή η ανθρώπινη ικανότητα να δημιουργεί νέες υποθέσεις, νέες εξηγήσεις, δεν υπήρξε ποτέ πριν, και οι περισσότερες από αυτές είναι λανθασμένες, αλλά στη συνέχεια υπάρχει μια διαδικασία και ένας βρόχος ανατροφοδότησης για να καταλάβουμε ποιες μπορεί να έχουν νόημα και τελικά να έχουν νόημα. αυτό είναι ένα από τα βασικά στοιχεία της ανθρώπινης προόδου.

τρέβορ:

πώς μπορούμε να αποτρέψουμε την τεχνητή νοημοσύνη από την είσοδο και την έξοδο σκουπιδιών; επί του παρόντος, η τεχνητή νοημοσύνη λειτουργεί σε πληροφορίες που δημιουργούνται με κάποιο τρόπο από τον άνθρωπο. είναι η μάθηση από υλικό που πιστεύουμε ότι μπορεί να μαθευτεί. με όλα τα νέα πράγματα που κυκλοφορούν τώρα, όπως το open ai, το anthropic, το lambda κ.λπ., νιώθουμε ότι μπαίνουμε σε έναν κόσμο όπου παράγονται περισσότερες πληροφορίες από την τεχνητή νοημοσύνη από ό,τι οι άνθρωποι και αυτές οι πληροφορίες μπορεί να μην τυγχάνουν του ελέγχου που τους αξίζει.

οπότε η τεχνητή νοημοσύνη βελτιώνεται όταν μαθαίνει από τον εαυτό της με τρόπο που μπορεί να μην λογοκρίνεται; με καταλαβαίνετε;

σαμ:

απόλυτα κατανοητό.

πώς λύνουμε αυτό το πρόβλημα; αυτό επιστρέφει στο θέμα της γνώσης του πώς να συμπεριφέρεσαι σε διαφορετικές καταστάσεις. για παράδειγμα, θέλετε κάποια φαντασία στη δημιουργική διαδικασία, αλλά δεν θέλετε αυτή τη φαντασία όταν προσπαθείτε να αναφέρετε τα ακριβή γεγονότα ενός γεγονότος. και τώρα αυτά τα συστήματα μπορούν να δημιουργήσουν νέες εικόνες που είναι όμορφες από μια σημαντική έννοια, εικόνες που είναι κατά κάποιο τρόπο φανταστικές, αλλά καλή φαντασία. αλλά και πάλι, έχει γίνει πολύ καλύτερο όταν θέλετε το σύστημα να παρέχει μόνο στοιχεία, αλλά υπάρχει ακόμη πολύς δρόμος από αυτή την άποψη.

δεν πειράζει. νομίζω ότι είναι καλό εάν αυτά τα συστήματα εκπαιδεύονται με τα δικά τους δεδομένα που δημιουργούνται, αρκεί να υπάρχει μια διαδικασία για αυτά τα συστήματα να μάθουν ποια δεδομένα είναι καλά και ποια κακά. και πάλι, η "ψευδαίσθηση" είναι μια ανεπαρκής περιγραφή αυτής της διαδικασίας, γιατί εάν προκάλεσε νέες επιστημονικές ιδέες, αυτές οι ιδέες θα μπορούσαν αρχικά να θεωρηθούν "παραισθήσεις". αυτό είναι πολύτιμο.

αλλά ξέρετε, τι είναι καλό και τι κακό. και πρέπει να υπάρχει αρκετή ανθρώπινη επίβλεψη για να διασφαλιστεί ότι όλοι εξακολουθούμε να έχουμε συλλογικό έλεγχο για το πού πηγαίνουν αυτά τα πράγματα. αλλά μέσα σε αυτούς τους περιορισμούς, νομίζω ότι είναι πολύ καλό που το σύστημα θα εκπαιδευτεί χρησιμοποιώντας τα δεδομένα που δημιουργούνται, και τα μελλοντικά συστήματα θα κάνουν το ίδιο.

και μετά μου θύμισες ένα άλλο πράγμα που σκεφτόμουν, δεν ξέρω πώς να το υπολογίσω, αλλά αναρωτιέμαι αν, ας πούμε, ένα σύστημα όπως το gpt-5 ή το 6 θα μπορέσει κάποια στιγμή να δημιουργήσει περισσότερες λέξεις από έναν άνθρωπο όλη η ιστορία μαζί. αυτό φαίνεται σαν ένα σημαντικό ορόσημο.

στην πραγματικότητα, ίσως δεν πειράζει που το λέω τώρα.

τρέβορ:

με ποιον τρόπο δημιουργήθηκε;

σαμ:

για παράδειγμα, το μοντέλο δημιουργεί περισσότερες λέξεις σε ένα χρόνο από όλη την ανθρωπότητα. υπάρχουν οκτώ δισεκατομμύρια άνθρωποι στον κόσμο, ή όποιος κι αν είναι ο αριθμός. μπορείτε να υπολογίσετε τον μέσο αριθμό λέξεων που λέγονται ανά έτος.

αλλά το ερώτημα είναι πού μας αφήνει αυτό; γι' αυτό έμεινα έκπληκτος αφού το είπα. για κάποιο λόγο αυτό μου φαίνεται σημαντικό ορόσημο, αλλά δεν μπορώ να σκεφτώ έναν συγκεκριμένο λόγο.

τρέβορ:

ίσως οι άνθρωποι είναι σαν μαϊμούδες που πληκτρολογούν συνέχεια. οπότε, νομίζω ότι αξίζει να το εξερευνήσετε.

σαμ:

αλλά δεν χρησιμοποιώ τη λέξη «σκέφτομαι» γιατί πιστεύω ότι έχετε δίκιο και δεν πρέπει να χρησιμοποιείτε αυτήν τη λέξη. ίσως μπορούμε να πούμε τον αριθμό των λέξεων που δημιουργούνται από την τεχνητή νοημοσύνη έναντι του αριθμού των λέξεων που δημιουργούνται από όλους τους ανθρώπους.

τρέβορ:

είμαι έτοιμος να τελειώσω. θέλω λοιπόν να κάνω μερικές ερωτήσεις, και αν δεν τις κάνω, οι άνθρωποι θα με σκοτώσουν.

μία από τις κύριες ερωτήσεις, και αυτή είναι η προσωπική μου ερώτηση, είναι ότι μιλάμε πάντα για τεχνητή νοημοσύνη που μαθαίνει από δεδομένα, τροφοδοτούνται σε σύνολα δεδομένων. για αυτό μιλάμε. γι' αυτό χρειάζεστε αυτούς τους υπερυπολογιστές δισεκατομμυρίων δολαρίων, ώστε οι υπολογιστές να μπορούν να μαθαίνουν.

πώς διδάσκουμε την τεχνητή νοημοσύνη να σκέφτεται καλύτερα από αυτούς που την τροφοδοτούν δεδομένα που είναι προφανώς ελαττωματικά; για παράδειγμα, πώς μαθαίνει η τεχνητή νοημοσύνη πέρα ​​από τα περιορισμένα δεδομένα που μας δίνονται; όσον αφορά τη φυλή, την οικονομική κατάσταση και τις αντιλήψεις, επειδή είμαστε περιορισμένοι, πώς θα το διδάξουμε να μην περιορίζεται από τα περιορισμένα δεδομένα που μας δίνονται;

σαμ:

δεν γνωρίζουμε ακόμα, αλλά είναι μια από τις μεγαλύτερες ερευνητικές κατευθύνσεις μπροστά μας, πώς να ξεπεράσουμε τα ανθρώπινα δεδομένα. ελπίζω αν ξανακάνουμε αυτό το q&a σε ένα χρόνο, θα μπορώ να σας πω την απάντηση, αλλά δεν ξέρω ακόμα. δεν ξέραμε ότι είχε μεγάλη σημασία.

ωστόσο, πιστεύω ότι αυτό θα είναι μια σημαντική δύναμη στον αγώνα κατά της αδικίας σε όλο τον κόσμο. δεν νομίζω ότι αυτά τα συστήματα θα έχουν αυτά τα βαθιά ελαττώματα που μοιράζονται όλοι οι άνθρωποι. θα μπορέσουν να γίνουν πολύ λιγότερο ρατσιστές, σεξιστές και προκατειλημμένοι. θα γίνουν μια δύναμη οικονομικής δικαιοσύνης στον κόσμο.

νομίζω ότι αν παρέχετε έναν καλό μέντορα τεχνητής νοημοσύνης ή έναν καλό ιατρικό σύμβουλο τεχνητής νοημοσύνης, βοηθάει το φτωχότερο μισό του κόσμου περισσότερο από το πλουσιότερο μισό, παρόλο που βοηθάει στην ανύψωση όλων των ανθρώπων.

δεν έχω λοιπόν σαφή απάντηση στο επιστημονικό ερώτημα που θίγετε, αλλά σε αυτό το σημείο, πιστεύω ότι αυτά τα συστήματα σίγουρα μπορούν, και πρέπει να κάνουμε κάποια σκληρή κοινωνική εργασία για να τα κάνουμε πραγματικότητα, αλλά έχουν δυνατότητα να είναι εξαιρετικά η γη προωθεί τη δικαιοσύνη στον κόσμο.

τρέβορ:

ίσως αυτό οδηγεί τέλεια στη δεύτερη ερώτηση, που είναι, τι κάνεις; τι κάνει το openai; εξετάζετε μέτρα για τον μετριασμό του χάσματος μεταξύ πλουσίων και φτωχών που δημιουργεί και πάλι αυτή η νέα τεχνολογία;

η εμφάνιση κάθε νέας τεχνολογίας είναι εκπληκτική για την κοινωνία στο σύνολό της, αλλά δεν μπορείτε να αρνηθείτε ότι θα δημιουργήσει μια στιγμή που αν την έχετε, έχετε τα πάντα. και αν δεν το κάνεις, είσαι έξω.

σαμ:

νομίζω ότι θα μάθουμε περισσότερα με τον καιρό, αλλά αυτή τη στιγμή, νομίζω ότι ένα από τα πραγματικά σημαντικά πράγματα που κάνουμε είναι να παρέχουμε μια πραγματικά δωρεάν υπηρεσία. αυτό σημαίνει ότι δεν υπάρχει υποστήριξη διαφημίσεων, απλώς μια δωρεάν υπηρεσία που χρησιμοποιείται από περισσότερα από 100 εκατομμύρια άτομα κάθε εβδομάδα. και, είναι δύσκολο να πει κανείς, γιατί σε ορισμένες χώρες είμαστε ακόμα αποκλεισμένοι ή εξακολουθούμε να είμαστε αποκλεισμένοι, αλλά προσπαθούμε να κάνουμε μια πραγματικά υψηλής ποιότητας, εύχρηστη υπηρεσία προσβάσιμη σε οποιονδήποτε, όπου κι αν μπορούμε. δωρεάν τεχνητή νοημοσύνη, η οποία είναι σημαντική για τον καθένα μας.

νομίζω ότι υπάρχουν και άλλα πράγματα που θέλουμε να κάνουμε με αυτήν την τεχνολογία. για παράδειγμα, εάν μπορούμε να χρησιμοποιήσουμε την τεχνητή νοημοσύνη για να βοηθήσουμε στη θεραπεία ασθενειών και να κάνουμε αυτές τις θεραπείες διαθέσιμες στον κόσμο, αυτό είναι προφανώς ωφέλιμο, αλλά το να θέσουμε αυτό το εργαλείο στα χέρια όσο το δυνατόν περισσότερων ανθρώπων και να τους αφήσουμε να το χρησιμοποιήσουν για να χτίσουν το μέλλον είναι πολύ σημαντικό. και νομίζω ότι μπορούμε να το προωθήσουμε ακόμη περισσότερο.

trevor: δύο ακόμη ερωτήσεις.

sam: μπορώ να προσθέσω ένα ακόμα;

trevor: ο χρόνος είναι όλος δικός σου.

σαμ:

ένα άλλο πράγμα που πιστεύω ότι είναι σημαντικό είναι ποιος έχει την εξουσία να αποφασίζει τι λένε αυτά τα συστήματα, δεν λένε, κάνουν και δεν κάνουν, ποιος θέτει αυτά τα όρια. αυτή τη στιγμή, βασικά είναι οι υπάλληλοι του openai που παίρνουν τις αποφάσεις και κανείς δεν θα έλεγε ότι αυτό είναι σαν μια δίκαιη αναπαράσταση του κόσμου. έτσι, όχι μόνο να σκεφτούμε πώς να εκδημοκρατίσουμε αυτήν την τεχνολογία, αλλά και να ανακαλύψουμε πώς να εκδημοκρατίσουμε τη διακυβέρνηση αυτής της τεχνολογίας, αυτό είναι μια μεγάλη πρόκληση για εμάς το επόμενο έτος.

τρέβορ:

αυτό συνδέεται ακριβώς με αυτό που επρόκειτο να σας ρωτήσω, την πτυχή της ασφάλειας όλων αυτών. μιλήσαμε για αυτό στην αρχή της συζήτησής μας. όταν σχεδιάζετε κάτι που αλλάζει τον κόσμο, πρέπει να αναγνωρίσετε το γεγονός ότι μπορεί να αλλάξει τον κόσμο με τον χειρότερο τρόπο ή προς τη χειρότερη κατεύθυνση. με κάθε άλμα στην τεχνολογία, το ίδιο συμβαίνει και με την ικανότητα κάποιου να προκαλεί μεγαλύτερη ζημιά.

είναι δυνατόν να γίνει η τεχνητή νοημοσύνη απόλυτα ασφαλής; και μετά το δεύτερο μέρος είναι, ποιο είναι το εφιαλτικό σας σενάριο; τι θα σας έκανε να πατήσετε ένα κόκκινο κουμπί για να κλείσετε το openai και όλα τα ai; όταν πας, το ξέρεις αυτό, αν είναι αυτό, αν μπορεί να συμβεί αυτό, πρέπει να τα κλείσουμε όλα. τι φοβάσαι;

η πρώτη ερώτηση είναι, μπορείτε να το κρατήσετε ασφαλές; το δεύτερο μέρος είναι, ποια είναι η πιο τρομακτική σκηνή σας;

σαμ:

νομίζω, καταρχάς, η επίγνωση που αναφέρατε, ότι ο αριθμός των ανθρώπων που μπορούν να προκαλέσουν καταστροφικές βλάβες μειώνεται κάθε δεκαετία περίπου, είναι ένα βαθύ γεγονός που πρέπει να αντιμετωπίσουμε ως κοινωνία.

δεύτερον, δεν νομίζω ότι έχει να κάνει με το πώς να κάνετε ένα σύστημα ασφαλές. όπως λέμε ότι τα αεροπλάνα είναι ασφαλή, τα αεροπλάνα εξακολουθούν να συντρίβονται περιστασιακά, παρόλο που είναι εξαιρετικά σπάνιο. λέμε ότι τα φάρμακα είναι ασφαλή, αλλά μερικές φορές ο fda εξακολουθεί να πιστοποιεί φάρμακα που μπορεί να προκαλέσουν θάνατο σε μερικούς ανθρώπους. επομένως, η ασφάλεια δεν αποφασίζεται μονομερώς, αλλά η κοινωνία αποφασίζει πόσο ασφαλές είναι κάτι αποδεκτό αφού σταθμίσει τους κινδύνους και τα οφέλη. νομίζω ότι μπορούμε να το κάνουμε αυτό, αλλά αυτό δεν σημαίνει ότι τα πράγματα δεν μπορούν να πάνε στραβά.

νομίζω ότι θα υπάρξουν μεγάλα προβλήματα με την τεχνητή νοημοσύνη από τα οποία πρέπει να προφυλαχθούμε. νομίζω ότι η κοινωνία έχει πράγματι μια αρκετά καλή, αν και ακατάστατη, διαδικασία για τη συλλογική απόφαση για τα όρια ασφαλείας που πρέπει να τεθούν. αυτή είναι μια περίπλοκη διαπραγμάτευση στην οποία συμμετέχουν πολλοί ενδιαφερόμενοι, και εμείς ως κοινωνία γινόμαστε καλύτεροι σε αυτήν με την πάροδο του χρόνου. αλλά πρέπει να προφυλαχθούμε από τους καταστροφικούς κινδύνους που αναφέρατε.

η πυρηνική ενέργεια είναι ένα παράδειγμα ο πυρηνικός πόλεμος είχε πολύ μεγάλο αντίκτυπο στον κόσμο. ο κόσμος το αντιμετωπίζει διαφορετικά και έχει κάνει μια εκπληκτική δουλειά τα τελευταία σχεδόν 80 χρόνια. νομίζω ότι παρόμοια κατάσταση θα συμβεί και με την τεχνητή νοημοσύνη. ένα παράδειγμα που συζητιέται συχνά είναι η χρήση τεχνητής νοημοσύνης για το σχεδιασμό και τη δημιουργία συνθετικών παθογόνων που μπορούν να προκαλέσουν τεράστια προβλήματα. ένα άλλο θέμα που συζητείται συχνά είναι το ζήτημα της ασφάλειας των υπολογιστών και της τεχνητής νοημοσύνης που μπορούν να παραβιάσουν πέρα ​​από κάθε ανθρώπινη ικανότητα.

επιπλέον, υπάρχει μια νέα κατάσταση όπου εάν το μοντέλο είναι αρκετά ισχυρό, μπορεί να βοηθήσει στο σχεδιασμό μεθόδων μεταφοράς των βαρών από τον διακομιστή, στη δημιουργία πολλών αντιγράφων και στην τροποποίηση της συμπεριφοράς του, κάτι που μοιάζει περισσότερο με σενάριο επιστημονικής φαντασίας. αλλά νομίζω ότι ως κόσμος, πρέπει να το δούμε κατάματα. ίσως όχι η συγκεκριμένη περίπτωση, αλλά η ιδέα είναι ότι υπάρχει ένας καταστροφικός ή ακόμη και δυνητικά υπαρξιακός κίνδυνος, και το ότι δεν μπορούμε να τον ορίσουμε με ακρίβεια δεν σημαίνει ότι μπορούμε να τον αγνοήσουμε.

κάνουμε λοιπόν πολλή δουλειά εδώ προσπαθώντας να προβλέψουμε και να μετρήσουμε ποια μπορεί να είναι αυτά τα ζητήματα, πότε μπορεί να προκύψουν και πώς μπορούμε να τα εντοπίσουμε έγκαιρα. νομίζω ότι όλοι αυτοί που λένε ότι δεν πρέπει να μιλάτε για αυτό το θέμα, μόνο για παραπληροφόρηση και μεροληψία και για τα θέματα της ημέρας, κάνουν λάθος. πρέπει να μιλήσουμε και για τα δύο και να παραμείνουμε ασφαλείς σε κάθε βήμα.

τρέβορ:

εντάξει, ήταν τόσο τρομακτικό όσο φανταζόμουν. λοιπόν, παρεμπιπτόντως, σκέφτεστε πραγματικά να υποβάλετε υποψηφιότητα για περιφερειάρχης; είναι αλήθεια αυτό;

σαμ:

όχι, όχι. το σκέφτηκα πολύ σύντομα το 2017 ή το 2016, ή ακόμα και χρόνια παρόμοια με αυτά. κι εγώ έτσι νομίζω.

αυτό ακούγεται σαν μια αόριστη ιδέα που είχα εδώ και μερικές εβδομάδες, για πλάκα.

τρέβορ:

ενταξει

υποθέτω ότι η τελευταία μου ερώτηση είναι, τι μετά; ποιο είναι το όνειρό σου; αν ο sam altman μπορούσε να κουνήσει ένα μαγικό ραβδί και να κάνει την τεχνητή νοημοσύνη όπως θα ήθελες να είναι, τι πιστεύεις ότι θα έφερνε στο μέλλον; ποια είναι τα πλεονεκτήματα; ποια είναι τα οφέλη για όλους; και σε κάθε επίπεδο, είναι σαν ένα πολύ ωραίο, θετικό πράγμα.

σαμ:

σας ευχαριστώ που κάνατε αυτήν την ερώτηση. νομίζω ότι πρέπει πάντα να τελειώνει κανείς με θετική νότα.

ναί. νομίζω ότι μπαίνουμε στην πιο γόνιμη περίοδο της ανθρώπινης ιστορίας. νομίζω ότι οι δύο βασικοί παράγοντες είναι η τεχνητή νοημοσύνη και η ενέργεια, αλλά θα υπάρξουν και άλλοι παράγοντες. αυτά τα δύο πράγματα, η ικανότητα να βρίσκεις οποιεσδήποτε ιδέες, η ικανότητα να εφαρμόζεις αυτές τις ιδέες και να το κάνεις σε κλίμακα, τα όρια του τι μπορούν να έχουν οι άνθρωποι θα είναι σαν αυτά που μπορούν να φανταστούν και με αυτά που διαπραγματευόμαστε ως κοινωνία κάτι. νομίζω ότι αυτό θα είναι υπέροχο.

απλώς μιλούσαμε για το, τι θα σήμαινε εάν κάθε μαθητής μπορούσε να έχει καλύτερη εκπαιδευτική εμπειρία από τους πλουσιότερους, με τους καλύτερους πόρους μαθητές σήμερα; τι θα σήμαινε αν όλοι είχαμε καλύτερη υγειονομική περίθαλψη από την καλύτερη υγειονομική περίθαλψη που είναι διαθέσιμη στους πλουσιότερους ανθρώπους σήμερα; τι θα σήμαινε εάν οι άνθρωποι ήταν γενικά ελεύθεροι να κάνουν τη δουλειά που θεωρούσαν πιο ικανοποιητική προσωπικά, ακόμα κι αν αυτό σήμαινε ότι έπρεπε να μετακινηθούν σε νέες κατηγορίες θέσεων εργασίας; τι θα σήμαινε αν ο καθένας μπορούσε να έχει μια δουλειά που αγαπούσε και να είχε τους ίδιους πόρους με μια μεγάλη εταιρεία ή ομάδα;

έτσι, ίσως αντί να έχουμε 800 άτομα στο openai, όλοι να έχουν 800 πιο έξυπνα συστήματα τεχνητής νοημοσύνης που μπορούν να κάνουν όλα αυτά τα πράγματα και οι άνθρωποι απλώς δημιουργούν και κάνουν όλα αυτά τα πράγματα, νομίζω ότι αυτό είναι πραγματικά αξιοσημείωτο. νομίζω ότι αυτός είναι ο κόσμος προς τον οποίο κινούμαστε. αυτό θα απαιτήσει πολλή δουλειά, εκτός από την τεχνολογία, για να γίνει, για παράδειγμα η κοινωνία θα πρέπει να κάνει κάποιες αλλαγές. αλλά το γεγονός ότι μπαίνουμε σε αυτή την εποχή της αφθονίας με κάνει πολύ χαρούμενο γι' αυτό.

τρέβορ:

μόνο αυτό θα πω εδώ. είμαι μεγάλος, μεγάλος, μεγάλος θαυμαστής των πιθανών πλεονεκτημάτων του openai. εργάζομαι στην εκπαίδευση στη νότια αφρική. το όνειρό μου ήταν πάντα να δώσω σε κάθε παιδί πρόσβαση στους καλύτερους δασκάλους. με καταλαβαίνετε; κυριολεκτικά κανένα παιδί δεν μένει πίσω καθώς μπορεί να μάθει με τον δικό του ρυθμό.

σαμ:

παρεμπιπτόντως, τι συμβαίνει με τα παιδιά που χρησιμοποιούν το chatgpt για να μάθουν πράγματα; αυτές οι ιστορίες είναι σαν αυτές που λαμβάνω στο ταχυδρομείο κάθε μέρα. αυτό είναι φοβερό.

τρέβορ:

πράγματι. αυτό είναι πραγματικά εκπληκτικό. ειδικά όταν η μάθηση γίνεται πιο πολυτροπική, όπως η προσθήκη βίντεο, γίνεται εκπληκτική.

ονειρεύομαι, όπως λες, ιατρική περίθαλψη. τα ονειρεύομαι όλα. ένα υπαρξιακό ερώτημα για το οποίο νομίζω ότι δεν μιλάμε αρκετά είναι, όταν η τεχνητή νοημοσύνη αντικαταστήσει αποτελεσματικά όλα αυτά τα πράγματα, πώς θα επαναπροσδιορίσουμε τον ανθρώπινο σκοπό; επειδή, είτε σας αρέσει είτε όχι, στη διάρκεια της ιστορίας θα διαπιστώσετε ότι οι στόχοι μας συχνά καθόρισαν την πρόοδό μας.

στόχος μας ήταν κάποτε μόνο η θρησκεία. καλώς ή κακώς, αν το καλοσκεφτείς, η θρησκεία είναι πολύ καλή στο να κάνει τους ανθρώπους να σκέφτονται και να ενεργούν προς μια συγκεκριμένη κατεύθυνση πέρα ​​από τον εαυτό τους. λένε: «αυτός είναι ο σκοπός μου ξυπνάω για να υπηρετήσω τον θεό, όποιον θεό σκέφτεσαι». ξυπνάω για να υπηρετήσω τον θεό. ξυπνάω για να ευχαριστήσω τον θεό. νομίζω ότι κάνει τους ανθρώπους να νιώθουν ότι προχωρούν προς έναν στόχο, αλλά τους δίνει επίσης την αίσθηση της κοινότητας και του ανήκειν.

καθώς προχωράμε σε έναν κόσμο όπου η τεχνητή νοημοσύνη το εξαλείφει αυτό, ελπίζω να μην ξεχνάμε πόσοι άνθρωποι έχουν ολόκληρη την ταυτότητά τους συνδεδεμένη με αυτό που κάνουν και όχι με το ποιοι είναι. μόλις αντικαταστήσουμε αυτούς τους ρόλους, όταν δεν έχετε υπαλλήλους, γραμματείς, χειριστές πίνακες διανομής, βοηθούς, εργάτες εργοστασίων, αυτό έχουμε δει να συμβαίνει τόσο συχνά στην ιστορία. όπως ο ριζοσπαστισμός που αναδύθηκε από το πουθενά, υπήρχε μαζική αντιπολίτευση. το έχεις σκεφτεί ποτέ αυτό; υπάρχει τρόπος να το αναχαιτίσουμε πριν συμβεί αυτό;

σαμ:

πώς θα περιγράφατε ποιοι είναι οι στόχοι μας τώρα;

τρέβορ:

νομίζω ότι αυτή τη στιγμή ο σκοπός μας είναι να επιβιώσουμε και αυτή η επιβίωση συνδέεται με κάποια μορφή δημιουργίας εισοδήματος γιατί έτσι μας λένε ότι η επιβίωση λειτουργεί, πρέπει να βγάλεις χρήματα για να επιβιώσεις. είδαμε όμως ότι αυτή η κατάσταση αλλάζει σε ορισμένες περιόδους. υπάρχει ένα εξαιρετικό παράδειγμα στη γαλλία, είχαν (και νομίζω ότι έχουν ακόμα μια εκδοχή του) ένα ταμείο καλλιτεχνών όπου έλεγαν, θα σε πληρώσουμε ως καλλιτέχνη και εσύ απλώς δημιουργήσεις για να κάνεις τη γαλλία να φαίνεται πιο όμορφη. είναι τόσο όμορφο.

ξέρω ότι είσαι λάτρης του ubi. ναι, δεν πρέπει να φύγουμε πριν το συζητήσετε.

σαμ:

δεν νομίζω ότι η επιβίωση των ανθρώπων πρέπει να συνδέεται με την προθυμία ή την ικανότητά τους να εργαστούν. νομίζω ότι είναι σαν σπατάλη ανθρώπινου δυναμικού. ναι, συμφωνώ απόλυτα μαζί σου.

τρέβορ:

περίμενε, να σε ρωτήσω αυτό πριν φύγεις. αυτός είναι ο λόγος που πιστεύετε ότι το καθολικό βασικό εισόδημα είναι τόσο σημαντικό; επειδή δεν θα σπαταλάτε χρόνο και χρήμα σε κάτι στο οποίο δεν πιστεύετε, ξοδεύετε πολύ χρόνο και χρήμα σε ένα καθολικό βασικό εισόδημα. το τελευταίο πράγμα που είδα, συμμετείχατε σε ένα έργο για περίπου σαράντα εκατομμύρια δολάρια. στην πραγματικότητα ήταν 60 εκατομμύρια δολάρια.

σαμ:

νομίζω ότι ένα καθολικό βασικό εισόδημα δεν είναι σίγουρα μια ολοκληρωμένη λύση στις προκλήσεις που έχουμε μπροστά μας, αλλά πιστεύω ότι η εξάλειψη της φτώχειας είναι αναμφίβολα καλό. νομίζω ότι η καλύτερη ανακατανομή των πόρων θα οδηγήσει σε μια καλύτερη κοινωνία για όλους. αλλά νομίζω ότι η αποστολή χρημάτων δεν είναι το βασικότερο κομμάτι η παροχή εργαλείων και η παροχή διακυβέρνησης, νομίζω ότι είναι πιο σημαντικό. οι άνθρωποι θέλουν να γίνουν αρχιτέκτονες του μέλλοντος και νομίζω ότι μπορώ να πω ότι υπάρχει ένα συνεχές νήμα νοήματος ή κάτι σαν μια αποστολή για την ανθρωπότητα.

από ατομική σκοπιά, σίγουρα έχει να κάνει με την επιβίωση και την ευημερία, αλλά συνολικά έχουμε μια συλλογική επείγουσα ανάγκη να κάνουμε το μέλλον καλύτερο. συχνά πηγαίνουμε σε εφαπτόμενες, αλλά η ανθρώπινη ιστορία είναι: να κάνουμε το μέλλον καλύτερο. αυτή είναι η τεχνολογία, αυτή είναι η διακυβέρνηση, έτσι συμπεριφερόμαστε ο ένας στον άλλον. είναι σαν να εξερευνάς τα αστέρια, αυτός είναι ο τρόπος για να καταλάβεις το σύμπαν, όποιο κι αν είναι αυτό. έχω μεγάλη εμπιστοσύνη και αυτή η εμπιστοσύνη είναι βαθιά μέσα μας. όποια εργαλεία κι αν αποκτήσουμε, αυτή η θεμελιώδης επιθυμία, αυτή η αποστολή της ανθρωπότητας να ανθίσει ως είδος και ως άτομα, δεν θα εξαφανιστεί ποτέ.

είμαι λοιπόν γεμάτος αισιοδοξία για τον κόσμο δύο γενιές από τώρα. αλλά αυτό είναι ένα πολύ σημαντικό σημείο που αναφέρετε, το οποίο είναι ότι οι άνθρωποι που είναι ήδη στην καριέρα τους και στην πραγματικότητα αρκετά ικανοποιημένοι, δεν θέλουν να αλλάξουν. η αλλαγή έρχεται. ένα από τα πράγματα που έχουμε δει σε προηγούμενες τεχνολογικές επαναστάσεις είναι ότι φαίνεται ότι μέσα σε περίπου δύο γενιές, η κοινωνία και οι άνθρωποι μπορούν να προσαρμοστούν σε οποιοδήποτε βαθμό αλλαγής στην εργασία. όχι όμως σε δέκα χρόνια, και σίγουρα όχι σε πέντε χρόνια.

θα το αντιμετωπίσουμε αυτό, και νομίζω ότι σε κάποιο βαθμό, όπως είπαμε και προηγουμένως, νομίζω ότι θα είναι πιο αργό από ό,τι πιστεύουν οι άνθρωποι, αλλά και πάλι πιο γρήγορα από ό,τι είχε να αντιμετωπίσει η κοινωνία στο παρελθόν. σίγουρα φοβάμαι λίγο τι σημαίνει αυτό και πώς προσαρμοζόμαστε σε αυτό. θα πρέπει να το αντιμετωπίσουμε και νομίζω ότι θα βρούμε μια λύση. είμαι σίγουρος ότι θα το καταλάβουμε.

πιστεύω επίσης ότι αν δώσουμε στα παιδιά και τα εγγόνια μας καλύτερα εργαλεία από αυτά που έχουμε, θα κάνουν πράγματα που θα μας καταπλήξουν. ελπίζω να αισθάνονται πολύ άσχημα για το πόσο απαίσια είναι η ζωή για όλους μας. ελπίζω το μέλλον να είναι απίστευτο. αυτό το ανθρώπινο πνεύμα και επιθυμία, αρέσκεται να εξερευνήσει και να εκφραστεί, να σχεδιάσει έναν όλο και καλύτερο κόσμο, ακόμα και πέρα ​​από αυτόν τον κόσμο. νομίζω ότι είναι υπέροχο και είμαι πολύ χαρούμενος γι' αυτό.

κατά μία έννοια, δεν πρέπει να παίρνουμε πολύ σοβαρά αυτό το μικρό πράγμα. στο star wars, υπάρχει ένας κακός που λέει: «μην εντυπωσιαστείτε πολύ με αυτόν τον τεχνολογικό τρόμο που δημιουργήσατε, νομίζω ότι ήταν ο darth vader». αυτό σημαίνει ότι αυτός ο τεχνολογικός τρόμος δεν ταιριάζει με τη δύναμη της δύναμης.

κατά μια σημαντική έννοια, αισθάνομαι το ίδιο για την τεχνητή νοημοσύνη. δεν πρέπει να μας εκπλήσσει πολύ αυτό. για παράδειγμα, το ανθρώπινο πνεύμα θα μας καθοδηγήσει στις δύσκολες στιγμές και είναι πολύ μεγαλύτερο από οποιαδήποτε τεχνολογική επανάσταση.

τρέβορ:

αυτό είναι ένα όμορφο μήνυμα ελπίδας.

ελπίζω να έχεις δίκιο γιατί μου αρέσει αυτή η τεχνολογία.

ένα πράγμα θέλω να σας πω, ως sam altman, ένας από τους διευθύνοντες συμβούλους της χρονιάς και πρόσωπο της χρονιάς του time, νομίζω ότι θα συνεχίσετε να είστε έτσι, ειδικά σε αυτόν τον ρόλο. λόγω του τεράστιου αντίκτυπου που πρόκειται να έχει το openai και η ίδια η τεχνητή νοημοσύνη σε εμάς, σας παρακαλώ να συνεχίσετε να θυμάστε πώς ένιωθες όταν απολύθηκες επειδή δημιουργείς μια τεχνολογία που θα φέρει πολλούς ανθρώπους σε παρόμοια θέση. βλέπω αυτή την ανθρωπιά σε εσάς και ελπίζω να το λαμβάνετε πάντα υπόψη σας καθώς δημιουργείτε.

σαμ:

ξέρεις τι έκανα το σάββατο το πρωί, σαν πολύ νωρίς, όταν δεν μπορούσα να κοιμηθώ; έγραψα τι μπορούσα να μάθω από αυτό, ώστε να μπορώ να τα καταφέρω καλύτερα όταν άλλοι περνούν παρόμοιες καταστάσεις και με κατηγορούν σαν να κατηγορώ τώρα τον πίνακα.

trevor: το κατάλαβες;

σαμ:

υπάρχουν πολλά χρήσιμα μεμονωμένα μαθήματα. αλλά η ενσυναίσθηση που κέρδισα από την όλη εμπειρία και την επανευθυγράμμιση των αξιών μου, αν και ήταν επώδυνα δαπανηρή, ήταν σίγουρα μια συγκαλυμμένη ευλογία. είμαι χαρούμενος που είχα αυτή την εμπειρία με αυτή την έννοια.

τρέβορ:

λοιπόν, σαμ, σε ευχαριστώ για τον χρόνο σου. σας ευχαριστώ πολύ, πραγματικά το απολαμβάνω. ελπίζω να μπορούμε να συζητήσουμε για όλες τις νέες εξελίξεις σε ένα χρόνο.

σαμ:

πρέπει οπωσδήποτε να το κάνετε αυτό, θα είναι διασκεδαστικό.

τρέβορ:

θα το κάνω αδερφέ. θαυμάσιος. ευχαριστώ.