νέα

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Αναφορά Machine Heart

Τμήμα Σύνταξης Machine Heart

«Αισθάνομαι πιο άνετα όταν ο Διευθύνων Σύμβουλος μιας εταιρείας AI μοιάζει περισσότερο με επιστήμονα υπολογιστών παρά με πωλητή».

Για την DeepMind, το 2023 είναι μια χρονιά γεμάτη αλλαγές. Τον Απρίλιο του τρέχοντος έτους, η Google ανακοίνωσε ότι θα συγχωνεύσει το Google Brain και το DeepMind για να σχηματίσουν ένα νέο τμήμα που ονομάζεται Google DeepMind. Το νέο τμήμα θα ηγηθεί της πρωτοποριακής έρευνας και προόδου προϊόντων τεχνητής νοημοσύνης, διατηρώντας παράλληλα τα ηθικά πρότυπα.

Google Brain και DeepMind - ο ένας δημιούργησε το Transformer, ο άλλος δημιούργησε το AlphaGo, το AlphaFold... Τα δύο τμήματα ένωσαν τις δυνάμεις τους για να δημιουργήσουν το Gemini στα τέλη του 2023 για να αξιολογήσουν το ChatGPT. Σήμερα, το Gemini κατατάσσεται τακτικά μεταξύ των τριών πρώτων στη μεγάλη κατάταξη μοντέλων LMSYS Chatbot Arena. Φαίνεται ότι η συγχώνευση των δύο έχει ορισμένα αποτελέσματα.

Λοιπόν, πού πηγαίνει το Google DeepMind από εδώ; Σε μια πρόσφατη συνομιλία με την Hannah Fry, αναπληρώτρια καθηγήτρια αστικών μαθηματικών στο Κέντρο Προηγμένης Χωρικής Ανάλυσης στο University College του Λονδίνου, ο Demis Hassabis, Διευθύνων Σύμβουλος και συνιδρυτής του Google DeepMind, αποκάλυψε ότι εξέφρασε επίσης τις απόψεις του για ορισμένα από τα σχέδια της εταιρείας και ορισμένα τρέχοντα ζητήματα στον τομέα της τεχνητής νοημοσύνης.

Επικοινωνήστε μαζί μας b393d7a9bd7caeafce2fcd71b6299e195df3e5a716cb840a401c85dc9efff669&token=899618486&lang=zh_CN#rd

Οι βασικές απόψεις του Hassabis είναι οι εξής:

• Βραχυπρόθεσμα, η τεχνητή νοημοσύνη είναι υπερδιαφημισμένη, αλλά μακροπρόθεσμα είναι υποτιμημένη. Όσο για το πώς να διακρίνετε τι είναι hype και τι είναι εφικτό στον τομέα της τεχνητής νοημοσύνης, ο Hassabis είπε ότι εκτός από την έρευνα, πρέπει επίσης να εξετάσετε το ιστορικό του ατόμου που κάνει τις παρατηρήσεις, πόσο γνώστης της τεχνολογίας και αν σπούδασαν μόλις πέρυσι σε άλλους τομείς Η κατεύθυνση πηγαίνει στην AI. Εάν το άτομο που κάνει το σχόλιο ακολουθεί απλώς την τάση, η πιθανότητα να έχει μια καλή ιδέα είναι σαν μια κλήρωση.
• Η συγχώνευση του DeepMind και του Google Brain φέρνει πολλές ευκαιρίες καινοτομίας και στόχος τους είναι να εφεύρουν την επόμενη αρχιτεκτονική που μπορεί να ωθήσει τα όρια της τεχνητής νοημοσύνης, όπως ακριβώς η Google Brain επινόησε την αρχιτεκτονική Transformer.
• Τα υπάρχοντα ακαδημαϊκά σημεία αναφοράς έχουν κορεστεί και δεν μπορούν να διακρίνουν λεπτές διαφορές μεταξύ κορυφαίων μοντέλων. Ο Hassabis πιστεύει ότι ο τομέας της τεχνητής νοημοσύνης χρειάζεται καλύτερα σημεία αναφοράς, ειδικά σε τομείς όπως η πολυτροπική κατανόηση, η μακροπρόθεσμη μνήμη και οι συλλογιστικές ικανότητες.
• Πολλά από τα σημερινά μοντέλα προέρχονται από τεχνολογίες που εφευρέθηκαν πριν από πέντε ή έξι χρόνια. Έτσι, αυτά τα μοντέλα εξακολουθούν να στερούνται πολλά πράγματα και έχουν παραισθήσεις, δεν είναι καλά στον μακροπρόθεσμο προγραμματισμό και δεν μπορούν να ολοκληρώσουν προληπτικά πολύπλοκες εργασίες. Ως απάντηση σε αυτά τα προβλήματα, η Google σκοπεύει να αναπτύξει συστήματα με ισχυρότερη συμπεριφορά πρακτόρων συνδυάζοντας την τεχνογνωσία της στους πράκτορες παιχνιδιών και μεγάλα γλωσσικά μοντέλα, όπως ο συνδυασμός των πλεονεκτημάτων του AlphaGo στον προγραμματισμό και τη λήψη αποφάσεων με μοντέλα πολλαπλών τρόπων, όπως το Gemini .
• Μιλώντας για ανοιχτό κώδικα, ο Hassabis είπε ότι έχουν πολλές τεχνολογίες ανοιχτού κώδικα, όπως το Transformer και το AlphaFold. Αλλά πιστεύει ότι τα μοντέλα αιχμής πρέπει να υποβληθούν σε περισσότερη αναθεώρηση και να είναι ανοιχτού κώδικα ένα έως δύο χρόνια μετά την κυκλοφορία, ένα μοντέλο που ακολουθεί και η Google. Η Google θα κάνει μοντέλα ανοιχτού κώδικα, αλλά θα είναι περίπου ένα χρόνο πίσω από μοντέλα τελευταίας τεχνολογίας. Ο Hassabis είπε περαιτέρω ότι το κύριο πρόβλημα με τον ανοιχτό κώδικα είναι ότι είναι σαν να περνάς από μια μονόδρομη πόρτα, αφού απελευθερωθεί, δεν μπορεί να αποσυρθεί. Επομένως, πρέπει να είστε πολύ προσεκτικοί πριν από τον ανοιχτό κώδικα.
• Η τεχνητή νοημοσύνη μπορεί να οδηγήσει σε ανακαλύψεις σε πολύπλοκα μαθηματικά προβλήματα, όπως η βοήθεια στην επίλυση διάσημων μαθηματικών εικασιών ή η καλή απόδοση σε διεθνείς διαγωνισμούς μαθηματικών. Ωστόσο, τα τρέχοντα συστήματα τεχνητής νοημοσύνης δεν είναι ακόμη ικανά να δημιουργήσουν μόνα τους νέες μαθηματικές υποθέσεις ή πρωτότυπες θεωρίες. Ο Hassabis πιστεύει ότι μια σημαντική δοκιμή του AGI θα είναι η ικανότητά του να δημιουργεί αυτόνομα εντελώς νέες υποθέσεις και θεωρίες όπως η γενική σχετικότητα.
• Σχετικά με τον τρόπο διασφάλισης ότι το AGI μπορεί να ωφελήσει όλους, ο Hassabis πιστεύει ότι είναι αδύνατο να συμπεριληφθούν όλες οι προτιμήσεις σε ένα σύστημα, αλλά μπορεί να δημιουργηθεί μια ασφαλής αρχιτεκτονική και στη συνέχεια οι άνθρωποι μπορούν να τη χρησιμοποιήσουν σύμφωνα με τις προτιμήσεις, τους σκοπούς χρήσης και τους σκοπούς ανάπτυξης. Αποφασίστε σε τι μπορεί και δεν μπορεί να χρησιμοποιηθεί το σύστημα AI.

Αφού παρακολούθησε τη συνέντευξη, ένα άτομο σχολίασε ότι τον έκανε να νιώθει άνετα επειδή ο Χασάμπις ακουγόταν περισσότερο σαν επιστήμονας υπολογιστών παρά ως πωλητής. Άλλοι λένε ότι η απόκτηση της DeepMind και η ελεύθερη ανάπτυξη τους είναι η καλύτερη απόφαση τεχνητής νοημοσύνης που έχει λάβει ποτέ η Google και ελπίζουν ότι η Google θα τους αφήσει να συνεχίσουν τη δουλειά τους χωρίς διακοπή όσο το δυνατόν περισσότερο.

Ακολουθεί το περιεχόμενο της συνέντευξης που συγκεντρώνει η Machine Heart.

Η ανάπτυξη του AI είναι απροσδόκητη

Frye: Όταν αρχίσαμε να σχεδιάζουμε αυτό το podcast το 2017, το DeepMind ήταν ένα σχετικά μικρό, εστιασμένο ερευνητικό εργαστήριο τεχνητής νοημοσύνης που μόλις εξαγοράστηκε από την Google και του είχε δοθεί η δύναμη να διεξάγει τη δική του μοναδική έρευνα από ασφαλή απόσταση στο Λονδίνο . Όμως τα πράγματα έχουν αλλάξει δραματικά από τότε. Από πέρυσι, η Google έχει αναδιοργανώσει ολόκληρη την αρχιτεκτονική της, θέτοντας τις ομάδες AI και DeepMind στον πυρήνα της στρατηγικής της.

Το Google DeepMind συνεχίζει την επιδίωξή του να προσφέρει νοημοσύνη σε ανθρώπινο επίπεδο σε τεχνητή νοημοσύνη, τη λεγόμενη τεχνητή γενική νοημοσύνη (AGI). Κυκλοφόρησε μια σειρά από ισχυρά νέα μοντέλα τεχνητής νοημοσύνης που ονομάζεται Gemini, καθώς και έναν πράκτορα AI που ονομάζεται Project Astra που μπορεί να επεξεργάζεται ήχο, βίντεο, εικόνες και κώδικα. Το εργαστήριο κάνει επίσης τεράστια άλματα στην εφαρμογή της τεχνητής νοημοσύνης σε πολλαπλά επιστημονικά πεδία, συμπεριλαμβανομένης της πρόβλεψης της δομής όλων των μορίων στο ανθρώπινο σώμα, όχι μόνο των πρωτεϊνών. Το 2021, δημιούργησαν επίσης μια νέα εταιρεία, την Isomorphic Labs, αφιερωμένη στην ανακάλυψη νέων φαρμάκων για τη θεραπεία ασθενειών. Το Google DeepMind ερευνά επίσης ισχυρούς πράκτορες τεχνητής νοημοσύνης που μπορούν να μάθουν να εκτελούν εργασίες μόνοι τους μέσω της ενισχυτικής μάθησης και συνεχίζει τον μύθο του Alpha Go να νικάει τους ανθρώπους στο παιχνίδι του Go.

Σήμερα καλέσαμε τον Ντέμη Χασάμπη, συνιδρυτή και Διευθύνοντα Σύμβουλο της DeepMind.

Αναρωτιέμαι, έχει γίνει η δουλειά σας πιο εύκολη ή πιο δύσκολη μετά την αύξηση του ενδιαφέροντος του κοινού για την τεχνητή νοημοσύνη;

Χασάμπης: Νομίζω ότι είναι δίκοπο μαχαίρι. Αυτό που είναι δύσκολο είναι ότι υπάρχει τόσος πολύς έλεγχος, προσοχή και πολύς θόρυβος σε όλο το πεδίο αυτή τη στιγμή. Προτιμώ όταν υπάρχουν λιγότεροι άνθρωποι και μπορούμε να επικεντρωθούμε περισσότερο στην επιστήμη. Αλλά από τη θετική πλευρά, δείχνει ότι η τεχνολογία είναι έτοιμη να επηρεάσει τον πραγματικό κόσμο με πολλούς διαφορετικούς τρόπους και να επηρεάσει την καθημερινή ζωή των ανθρώπων με θετικό τρόπο, οπότε νομίζω ότι αυτό είναι επίσης συναρπαστικό.

Frye: Έχετε εκπλαγεί ποτέ από το πόσο γρήγορα αιχμαλωτίστηκε η φαντασία του κοινού; Υποθέτω ότι περίμενες ότι θα καταλήξει έτσι, έτσι δεν είναι;

Χασάμπης: Μάλιστα. Όσοι από εμάς μελετάμε αυτόν τον τομέα για δεκαετίες, τελικά, κάποια στιγμή, θα συνειδητοποιήσουμε πόσο σημαντική θα γίνει η τεχνητή νοημοσύνη. Αλλά εξακολουθεί να είναι λίγο σουρεαλιστικό να τα βλέπεις όλα να υλοποιούνται και να συμβαίνουν με αυτόν τον τρόπο. Νομίζω ότι αυτό είναι πραγματικά λόγω της εμφάνισης των chatbot και της ανάπτυξης γλωσσικών μοντέλων, επειδή όλοι χρησιμοποιούν γλώσσα και όλοι μπορούν να κατανοήσουν τη γλώσσα, επομένως αυτός είναι ένας εύκολος τρόπος για το κοινό να κατανοήσει και να μετρήσει το επίπεδο ανάπτυξης της AI.

Frye: Σας άκουσα να περιγράφετε αυτά τα chatbots ως "εξαιρετικά αποτελεσματικά" Τι σημαίνει αυτό;

Χασάμπης: Θέλω να πω, αν κοιτάξετε πίσω πριν από 5 έως 10 χρόνια, οι άνθρωποι μπορεί να πίστευαν ότι για να επιτύχετε την ανάπτυξη της τεχνητής νοημοσύνης, θα πρέπει να δημιουργήσετε μια εκπληκτική αρχιτεκτονική και να επεκταθείτε πάνω από αυτό, χωρίς να χρειάζεται να λύσετε συγκεκριμένα αφηρημένες έννοιες συγκεκριμένες ερωτήσεις. Σε πολλές συζητήσεις πριν από 5 έως 10 χρόνια, οι άνθρωποι πίστευαν ότι χρειαζόταν ένας ειδικός τρόπος για να αντιμετωπίσουμε τις αφηρημένες έννοιες γιατί προφανώς έτσι λειτουργεί ο εγκέφαλος. Αλλά αν στα συστήματα τεχνητής νοημοσύνης δοθούν αρκετά δεδομένα, όπως τα δεδομένα από ολόκληρο το Διαδίκτυο, φαίνεται ότι μπορούν να μάθουν από αυτό και να γενικεύσουν τα μοτίβα, όχι μόνο μέσω της εκμάθησης κατά λάθος, αλλά στην πραγματικότητα καταλαβαίνουν σε κάποιο βαθμό τι επεξεργάζονται. περιεχόμενο. Είναι κάπως «εξαιρετικά αποτελεσματικό» γιατί δεν νομίζω ότι κάποιος θα πίστευε πριν από 5 χρόνια ότι θα ήταν τόσο αποτελεσματικό όσο είναι τώρα.

Frye: Λοιπόν, ήταν μια έκπληξη...

Χασάμπης: Ναι, μιλήσαμε για την έννοια και τη γείωση νωρίτερα - η τοποθέτηση της γλώσσας σε εμπειρίες του πραγματικού κόσμου, ίσως σε προσομοιώσεις ή ρομποτική ενσωματωμένη νοημοσύνη. Φυσικά, αυτά τα συστήματα δεν είναι ακόμα σε αυτό το επίπεδο, κάνουν πολλά λάθη, δεν έχουν ακόμη ένα αληθινό μοντέλο του κόσμου. αλλάΑπλώς μαθαίνοντας από τη γλώσσα, έχουν προχωρήσει περισσότερο από ό,τι περίμεναν。

Frye: Νομίζω ότι πρέπει να εξηγήσουμε την έννοια της γείωσης.

Χασάμπης:Το πρόβλημα της γείωσης είναι ένα ζήτημα που συναντάται σε κλασικά συστήματα AI που κατασκευάστηκαν σε μέρη όπως το MIT τις δεκαετίες του 1980 και του 1990. Μπορείτε να σκεφτείτε αυτά τα συστήματα ως τεράστιες λογικές βάσεις δεδομένων, με λέξεις συνδεδεμένες μεταξύ τους. Το πρόβλημα είναι ότι μπορείτε να πείτε "ο σκύλος έχει πόδια" και θα βρίσκεται στη βάση δεδομένων, αλλά όταν δείχνετε στο σύστημα μια εικόνα ενός σκύλου, δεν ξέρει πώς σχετίζεται αυτό το σωρό pixel με αυτό το σύμβολο. Αυτό είναι το πρόβλημα της γείωσης - έχετε αυτές τις συμβολικές, αφηρημένες αναπαραστάσεις, αλλά τι σημαίνουν πραγματικά στον πραγματικό κόσμο, ειδικά στον ακατάστατο πραγματικό κόσμο; Προσπάθησαν να λύσουν το πρόβλημα αλλά ποτέ δεν τα κατάφεραν.

Και τα σημερινά συστήματα, μαθαίνουν απευθείας από τα δεδομένα, οπότε κατά μια έννοια σχηματίζουν αυτή τη σύνδεση από την αρχή, αλλά αυτό που είναι ενδιαφέρον είναι ότι εάν μαθαίνει απλώς από τη γλώσσα, θεωρητικά θα λείπουν πολλά από αυτά που απαιτείται. , αλλά το αποτέλεσμα είναι ότι πολλές πληροφορίες γείωσης μπορούν με κάποιο τρόπο να συναχθούν.

Φράι: Γιατί το λες αυτό;

Χασάμπης: Θεωρητικά, επειδή αυτά τα αρχικά μεγάλα μοντέλα γλώσσας δεν υπήρχαν στον πραγματικό κόσμο, δεν ήταν συνδεδεμένα με τον προσομοιωτή, δεν ήταν συνδεδεμένα με το ρομπότ, δεν ήταν καν πολυτροπικά αρχικά -- δεν εκτέθηκαν σε όραμα ή οτιδήποτε άλλο, υπάρχουν μόνο στον γλωσσικό χώρο. Έτσι, μαθαίνονται στον αφηρημένο τομέα. Επομένως, είναι εκπληκτικό ότι μπορούν να συμπεράνουν κάτι για τον πραγματικό κόσμο από αυτόν τον τομέα.

Frye: Είναι λογικό να πούμε ότι η γείωση αποκτάται μέσω της αλληλεπίδρασης των ανθρώπων με το σύστημα...

Χασάμπης:πραγματικά. Έτσι, σίγουρα, εάν κάνουν λάθη όταν απαντούν σε ορισμένες ερωτήσεις, για παράδειγμα, οι πρώτες εκδόσεις απαντούσαν λανθασμένα σε ερωτήσεις όταν ασχολούνταν με το γάβγισμα των σκύλων στον πραγματικό κόσμο λόγω της έλλειψης γείωσης. Οι άνθρωποι τα διορθώνουν μέσω ανατροφοδότησης. Μέρος αυτής της ανατροφοδότησης προέρχεται από τη δική μας γνώση της πραγματικότητας. Έτσι μπήκε κάποια γείωση.

Frye: Θυμάμαι ότι είδα ένα πολύ ζωντανό παράδειγμα της διαφοράς μεταξύ "διασχίζοντας τη Μάγχη" και "περπάτημα στη Μάγχη".

Χασάμπης: Αυτό το παράδειγμα λειτουργεί. Αν απαντήσει λάθος, του λες ότι είναι λάθος και μετά πρέπει να καταλάβει -- δεν μπορείς να διασχίσεις τη Μάγχη.

Η τεχνητή νοημοσύνη είναι υπερβολικά διαφημισμένη ή λιγότερη;

Frye: Θα σας ρωτήσω λίγο για τη διαφημιστική εκστρατεία, πιστεύετε ότι, αυτή τη στιγμή, η τεχνητή νοημοσύνη είναι υπερβολική ή λανθασμένη ή απλώς διαφημίζεται προς τη λάθος κατεύθυνση;

Χασάμπης: Από τη μία πλευρά, βραχυπρόθεσμα, η τεχνητή νοημοσύνη είναι υπερβολική. Οι άνθρωποι ισχυρίζονται ότι μπορεί να κάνει πολλά πράγματα, αλλά στην πραγματικότητα δεν μπορεί, και υπάρχουν πολλές νεοφυείς επιχειρήσεις και VC που κυνηγούν μερικές τρελές ιδέες που δεν είναι αρκετά ώριμες ακόμα.

Από την άλλη πλευρά, νομίζω ότι η τεχνητή νοημοσύνη εξακολουθεί να είναι υποτιμημένη. Ίσως ο κόσμος να μην κατανοεί πλήρως τι συμβαίνει όταν φτάνουμε στο AGI και πόσο μεγάλη είναι η ευθύνη.

Frye: Είστε σε αυτόν τον χώρο για δεκαετίες και είναι εύκολο να δείτε ποιοι είναι οι ρεαλιστικοί στόχοι για το τι κυνηγούν αυτές οι νεοσύστατες επιχειρήσεις και οι VC και τι όχι. Πώς μπορούν όμως οι άλλοι να κάνουν τη διαφορά;

Χασάμπης: Προφανώς πρέπει να κάνετε κάποια τεχνική δέουσα επιμέλεια και να έχετε κάποια κατανόηση της τεχνολογίας και των τελευταίων τάσεων.Ταυτόχρονα, πρέπει επίσης να εξετάσετε το ιστορικό του ατόμου που έκανε το σχόλιο Πόσο ενημερωμένοι είναι για την τεχνολογία. Έκαναν κρυπτονομίσματα πέρυσι; Αυτά θα μπορούσαν να είναι κάποιες ενδείξεις ότι μπορεί να πηδήξουν στο συγκρότημα, δεν σημαίνει ότι θα έχουν κάποιες υπέροχες ιδέες, και ακόμα κι αν το κάνουν, πιθανότατα θα είναι λαχειοφόρος αγορά.

Νομίζω ότι αυτό συμβαίνει πάντα όταν ένας τομέας τραβάει ξαφνικά μεγάλη προσοχή, και μετά έρχεται η χρηματοδότηση και όλοι νιώθουν ότι δεν μπορούν να το χάσουν.

Αυτό δημιουργεί ένα περιβάλλον που είναι, ας πούμε, οπορτουνιστικό, το οποίο είναι λίγο αντίθετο με εκείνους που εργάζονται για τη βαθιά τεχνολογία, τη βαθιά επιστήμη για δεκαετίες, που νομίζω ότι είναι ο τρόπος με τον οποίο πρέπει να συνεχίσουμε να παραμένουμε καθώς προσεγγίζουμε το AGI.

Gemini: το πρώτο έργο φάρου μετά τη συγχώνευση της Google Brain και του DeepMind

Frye: Ας μιλήσουμε για τους Διδύμους στη συνέχεια. Με ποιους τρόπους διαφέρει το Gemini από άλλα μεγάλα γλωσσικά μοντέλα που κυκλοφορούν από άλλα εργαστήρια;

Χασάμπης: Από την αρχή, θέλαμε το Gemini να μπορεί να χειρίζεται πολλαπλούς τρόπους, ώστε να μπορεί να χειρίζεται όχι μόνο τη γλώσσα, αλλά και διάφορες λειτουργίες όπως ήχος, βίντεο, εικόνες, κώδικας κ.λπ. Ο λόγος για τον οποίο θέλουμε να το κάνουμε αυτό, πρώτα απ 'όλα, είναι επειδή πιστεύω ότι αυτός είναι ένας τρόπος για αυτά τα συστήματα να κατανοήσουν πραγματικά τον κόσμο γύρω τους και να δημιουργήσουν καλύτερα μοντέλα του κόσμου, κάτι που ανάγεται στο θέμα της γείωσης πριν.

Έχουμε επίσης ένα όραμα να έχουμε έναν καθολικό βοηθό. Φτιάξαμε ένα πρωτότυπο που ονομάζεται Astra που όχι μόνο καταλαβαίνει τι πληκτρολογείτε, αλλά κατανοεί πραγματικά το περιβάλλον στο οποίο βρίσκεστε. Ένας τέτοιος έξυπνος βοηθός θα ήταν πιο χρήσιμος. Έτσι δημιουργήσαμε την πολυτροπικότητα από την αρχή. Αυτό είναι ένα άλλο πράγμα που έκανε μόνο το μοντέλο μας εκείνη την εποχή, και τώρα άλλα μοντέλα προλαβαίνουν.

Οι άλλες μεγάλες καινοτομίες μας στη μνήμη, όπως τα μεγάλα πλαίσια, μπορούν πραγματικά να θυμούνται περίπου ένα εκατομμύριο ή δύο εκατομμύρια μάρκες. Έτσι, θα μπορούσατε να του δώσετε το War and Peace ή ολόκληρη την ταινία και να απαντήσει σε ερωτήσεις ή να βρει πράγματα στη ροή βίντεο.

Frye: Στο Google I/O, χρησιμοποιήσατε ένα παράδειγμα για το πώς το Astra σας βοηθά να θυμάστε πού βάζατε τα γυαλιά σας, σωστά; Αλλά αναρωτιέμαι αν αυτή είναι απλώς μια προηγμένη έκδοση αυτών των παλιών γυαλιών Google.

Χασάμπης: Φυσικά, η Google έχει μακρά ιστορία στην ανάπτυξη συσκευών Glass, η οποία στην πραγματικότητα χρονολογείται γύρω στο 2012, που ήταν πολύ μπροστά από την εποχή της. Αλλά μπορεί απλώς να τους λείπει η τεχνολογία για έναν πράκτορα ή έναν έξυπνο βοηθό για να καταλάβει πραγματικά τι λέτε. Έτσι, είμαστε πολύ ενθουσιασμένοι με τους ψηφιακούς βοηθούς που μπορούν να είναι μαζί σας ανά πάσα στιγμή και να κατανοήσουν τον κόσμο γύρω σας. Όταν το χρησιμοποιείτε, φαίνεται πραγματικά σαν μια φυσική περίπτωση χρήσης.

Frye: Στη συνέχεια, θέλω να πάω λίγο πίσω για την προέλευση του Gemini, άλλωστε προέρχεται από δύο διαφορετικά ερευνητικά τμήματα της Google.

Χασάμπης: Ναι, πέρυσι συγχωνεύσαμε τα δύο ερευνητικά τμήματα της Alphabet, ενσωματώνοντας το Google Brain και το DeepMind στο Google DeepMind. Το ονομάζουμε super unit, που συγκεντρώνει τα καλύτερα ταλέντα από όλη την εταιρεία σε ένα τμήμα. Αυτό σημαίνει ότι συνδυάζουμε τις καλύτερες γνώσεις που αποκτήθηκαν από όλες τις έρευνες, ειδικά στα γλωσσικά μοντέλα.

Ως εκ τούτου, παρουσιάσαμε μοντέλα όπως το Chinchilla και το Gopher και κατασκευάσαμε τα μοντέλα PaLM, LaMDA και άλλα πρώιμα μοντέλα. Κάθε ένα από αυτά τα μοντέλα έχει τα δικά του πλεονεκτήματα και μειονεκτήματα, έτσι τα ενσωματώσαμε στο Gemini και γίναμε το πρώτο Lighthouse Project που ξεκίνησε μετά τη συγχώνευση των τμημάτων. Στη συνέχεια, το άλλο σημαντικό πράγμα είναι να συγκεντρώσετε όλους τους υπολογιστικούς πόρους ώστε να μπορείτε να κάνετε πολύ μεγάλες προπονήσεις. Νομίζω ότι αυτά είναι υπέροχα.

Frye: Από πολλές απόψεις, το Google Brain και το DeepMind έχουν ελαφρώς διαφορετικές εστίες. Μπορώ να το πω αυτό;

Χασάμπης: Τα διάφορα τμήματα της Google επικεντρώνονται σαφώς στην αιχμή της τεχνητής νοημοσύνης και υπάρχει ήδη πολλή συνεργασία σε ατομικό ερευνητικό επίπεδο, αλλά είναι διαφορετικό σε στρατηγικό επίπεδο. Με την ενσωμάτωση του Google DeepMind, μου αρέσει να το περιγράφω ως το Engine Room της Google, λειτουργεί εξαιρετικά καλά. Νομίζω ότι υπάρχουν πολύ περισσότερες ομοιότητες παρά διαφορές στον τρόπο που εργαζόμαστε και θα συνεχίσουμε να διατηρούμε και να ενισχύουμε τα δυνατά μας σημεία σε τομείς όπως η βασική έρευνα.

Για παράδειγμα,Από πού θα προέλθει η επόμενη αρχιτεκτονική Transformer;Θέλουμε να το εφεύρουμε. Οι ερευνητές του Google Brain επινόησαν τη δημοφιλή πλέον αρχιτεκτονική Transformer. Συνδυάσαμε αυτή την αρχιτεκτονική με τη βαθιά ενισχυτική μάθηση, στην οποία πρωτοστατήσαμε. Νομίζω ότι χρειάζεται ακόμα περισσότερη καινοτομία. Υποστηρίζω να γίνει αυτό, όπως έκαναν οι ομάδες Google Brain και DeepMind τα τελευταία 10 χρόνια. Είναι συναρπαστικό.

Μελλοντική κατεύθυνση: Συνδυάζοντας το AlphaGo με το Gemini

Frye: Θέλω να μιλήσω για το Gemini, πώς λειτουργεί; Πώς συγκρίνεται με άλλα μοντέλα;

Χασάμπης: Αυτή η ερώτηση περιλαμβάνει σημεία αναφοράς,Νομίζω ότι ολόκληρος ο τομέας χρειάζεται καλύτερα σημεία αναφοράς. Υπάρχουν μερικά γνωστά ακαδημαϊκά σημεία αναφοράς εκεί έξω, αλλά είναι πλέον κορεσμένα και δεν διακρίνουν πραγματικά τις αποχρώσεις μεταξύ διαφορετικών κορυφαίων μοντέλων。

Κατά τη γνώμη μου,Αυτήν τη στιγμή υπάρχουν τρεις τύποι μοντέλων στην κορυφή και αιχμή, το Gemini μας, το GPT του OpenAI και το Anthropic's Claude. Επιπλέον, υπάρχουν πολλά μοντέλα που έχουν καλή απόδοση, όπως η σειρά Llama και τα μοντέλα της σειράς Mistral που λανσαρίστηκαν από τη Meta, τη Mistral κ.λπ. Είναι καλά σε διαφορετικές εργασίες. Εξαρτάται από το είδος των εργασιών που θέλετε να εκτελέσετε, επιλέξτε Claude για κωδικοποίηση, GPT για συλλογισμό και Gemini για μνήμη, μακρύ περιβάλλον και πολυτροπική κατανόηση.

Φυσικά, οι εταιρείες θα συνεχίσουν να βελτιώνουν τα μοντέλα τους. Το Gemini, για παράδειγμα, είναι απλώς ένα μοντέλο που είναι λιγότερο από ένα έτος. Νομίζω ότι βρισκόμαστε σε μια πολύ καλή τροχιά και ελπίζω την επόμενη φορά που θα μιλήσουμε, ο Δίδυμος θα είναι στην πρώτη γραμμή.

Frye: Ναι, τα μεγάλα μοντέλα έχουν ακόμη πολύ δρόμο μπροστά τους. Μήπως αυτό σημαίνει επίσης ότι αυτά τα μοντέλα δεν είναι πολύ καλά από ορισμένες απόψεις.

Χασάμπης:σίγουρα. Στην πραγματικότητα, αυτή είναι η μεγαλύτερη συζήτηση αυτή τη στιγμή. Πολλά από τα σημερινά μοντέλα προέρχονται από τεχνολογίες που εφευρέθηκαν πριν από πέντε ή έξι χρόνια. Έτσι, αυτά τα μοντέλα εξακολουθούν να στερούνται πολλά πράγματα, είναι παραισθησιογόνα και κακά στον προγραμματισμό.

Φράι: Ποιο είναι το σχέδιο;

Χασάμπης: Για παράδειγμα, σε κάποιο μακροπρόθεσμο σχεδιασμό, το μοντέλο δεν μπορεί να λύσει το πρόβλημα μακροπρόθεσμα. Του βάζεις έναν στόχο και δεν μπορούν πραγματικά να αναλάβουν δράση για σένα. έτσι,Το μοντέλο μοιάζει πολύ με ένα παθητικό σύστημα απάντησης ερωτήσεων. Κάνεις μια ερώτηση και σου δίνουν κάποιου είδους απάντηση, αλλά δεν σου λύνουν το πρόβλημα. Για παράδειγμα, θέλετε έναν ψηφιακό βοηθό για να σας βοηθήσει να κλείσετε ολόκληρες τις διακοπές σας στην Ιταλία, καθώς και να κλείσετε όλα τα εστιατόρια, τα μουσεία και πολλά άλλα. Δυστυχώς, δεν μπορεί να κάνει αυτά τα πράγματα.

Νομίζω ότι αυτό είναι ένα θέμα για την επόμενη εποχή της έρευνας, την οποία ονομάζουμε (σε μεγαλύτερο βαθμό) συστήματα που βασίζονται σε πράκτορες ή ευφυή συστήματα που έχουν συμπεριφορά παρόμοιο με τους πράκτορες. Φυσικά, σε αυτό είναι καλή η Google. Η Google έχει δημιουργήσει τον πράκτορα gaming AlphaGo και άλλους πράκτορες στο παρελθόν. έτσι,Πολλά από αυτά που κάνουμε είναι να συνδυάζουμε διάσημα έργα με νέα μεγάλης κλίμακας πολυτροπικά μοντέλα και να γίνουμε συστήματα επόμενης γενιάς, όπως ο συνδυασμός AlphaGo και Gemini.。

Frye: Νομίζω ότι το AlphaGo είναι πολύ καλό στον προγραμματισμό.

Χασάμπης: Ναι, το AlphaGo είναι πολύ καλό στον προγραμματισμό. Φυσικά, είναι μόνο στη σφαίρα του gaming. Επομένως, πρέπει να το γενικεύσουμε σε γενικούς τομείς όπως η καθημερινή εργασία και η γλώσσα.

Frye: Μόλις αναφέρατε ότι το Google DeepMind έχει γίνει πλέον το μηχανοστάσιο της Google. Αυτό είναι μια μεγάλη αλλαγή. Λοιπόν, κάνει η Google ένα μεγάλο στοίχημα στην τεχνητή νοημοσύνη;

Χασάμπης: Νομίζω πως ναι. Νομίζω ότι η Google καταλάβαινε πάντα τη σημασία της τεχνητής νοημοσύνης. Όταν ο Sundar ανέλαβε τη θέση του Διευθύνοντος Συμβούλου, είπε ότι η Google ήταν μια πρώτη εταιρεία με τεχνητή νοημοσύνη. Συζητήσαμε αυτό το θέμα νωρίς στη θητεία του και πιστεύει ότι η τεχνητή νοημοσύνη έχει τη δυνατότητα να είναι η επόμενη μεγάλη αλλαγή παραδείγματος μετά το κινητό Διαδίκτυο και έχει μεγαλύτερες δυνατότητες από πριν.

Ίσως τα τελευταία δύο χρόνια, αρχίσαμε πραγματικά να παίρνουμε μια γεύση του τι σημαίνει αυτό, όχι μόνο από ερευνητική σκοπιά, αλλά και όσον αφορά τα προϊόντα και άλλες πτυχές. Είναι πολύ συναρπαστικό, οπότε πιστεύω ότι είναι το σωστό για εμάς να συγκεντρώσουμε όλα τα ταλέντα και να κάνουμε ό,τι καλύτερο μπορούμε για να προωθήσουμε την τεχνητή νοημοσύνη.

Frye: Γνωρίζουμε ότι το Google DeepMind παίρνει πολύ σοβαρά την έρευνα και την επιστήμη. Αλλά καθώς γίνεται το μηχανοστάσιο της Google, αυτό σημαίνει ότι πρέπει να ασχολείται περισσότερο με εμπορικά συμφέροντα και όχι πλέον τα πιο αγνά πράγματα;

Χασάμπης: Ναι, σίγουρα μας απασχολούν περισσότερο τα εμπορικά συμφέροντα εντός των όρων εντολής. Αλλά στην πραγματικότητα, εδώ είναι μερικά πράγματα που έχω να πω. Αρχικά, θα συνεχίσουμε την επιστημονική μας εργασία για το AlphaFold, το οποίο κυκλοφόρησε το AlphaFold 3 πριν από λίγους μήνες. Επίσης διπλασιάζουμε την επένδυσή μας σε αυτό. Νομίζω ότι αυτή είναι η μοναδική δουλειά που κάνει το Google DeepMind.

Ξέρετε, ακόμη και οι ανταγωνιστές μας πιστεύουν ότι αυτό θα είναι ένα γενικό προϊόν τεχνητής νοημοσύνης. Δημιουργήσαμε μια νέα εταιρεία, την Isomorphic Labs, για τη διεξαγωγή της ανάπτυξης φαρμάκων. Είναι όλα πολύ συναρπαστικά και όλα πάνε πολύ καλά. Έτσι θα συνεχίσουμε να το κάνουμε. Ταυτόχρονα, έχουμε κάνει επίσης πολλή δουλειά στην πρόβλεψη του κλίματος και σε άλλες πτυχές.

Έχουμε μια μεγάλη ομάδα ώστε να μπορούμε να κάνουμε πολλές δουλειές ταυτόχρονα. Κατασκευάζουμε το μοντέλο μας μεγάλης κλίμακας Gemini et al. Δημιουργούμε μια ομάδα προϊόντων για να φέρουμε όλες αυτές τις εκπληκτικές τεχνολογίες σε όλες τις περιοχές όπου υπάρχει η Google. Έτσι, κατά κάποιο τρόπο, αυτό είναι ένα πλεονέκτημα για εμάς, καθώς μπορούμε να συνδέουμε όλη την τεχνολογία μας ανά πάσα στιγμή. Είναι πραγματικά ενθαρρυντικό ότι μπορούμε να εφεύρουμε κάτι που ένα δισεκατομμύριο άνθρωποι μπορούν να χρησιμοποιήσουν αμέσως.

Ένα άλλο πράγμα είναι,Τώρα χρειαζόμαστε πολύ μεγαλύτερο βαθμό ενοποίησης μεταξύ των τεχνολογιών AI που αναπτύχθηκαν για προϊόντα και της εργασίας που γίνεται για καθαρούς ερευνητικούς σκοπούς AGI. Πριν από πέντε χρόνια, έπρεπε να δημιουργήσετε κάποιο ειδικό AI για ένα προϊόν. Τώρα μπορείτε να διαχωρίσετε την κύρια έρευνα και, φυσικά, πρέπει να κάνετε κάποια εργασία για συγκεκριμένο προϊόν, αλλά αυτό είναι πιθανώς μόνο το 10% του συνόλου της εργασίας.

επομένως,Στην πραγματικότητα, δεν υπάρχει πλέον αντίφαση μεταξύ της ανάπτυξης προϊόντων AI και της κατασκευής AGI. Θα έλεγα ότι το 90% είναι το ίδιο ερευνητικό σχέδιο. Έτσι, αν λανσάρετε προϊόντα και τα βγάζετε στον κόσμο, θα μάθετε πολλά από αυτά. Το χρησιμοποιούν και οι άνθρωποι, ώστε να μαθαίνετε πολλά, όπως, για παράδειγμα, ότι οι εσωτερικές σας μετρήσεις δεν ταιριάζουν απόλυτα με αυτά που λένε οι χρήστες και, στη συνέχεια, μπορείτε να κάνετε ενημερώσεις. Αυτό είναι πολύ χρήσιμο για την έρευνά σας.

Πώς να δοκιμάσετε την τεχνολογία GenAI

Frye: Αναρωτιέμαι αν υπάρχει ένταση μεταξύ των ανακαλύψεων που εφαρμόζουν την τεχνητή νοημοσύνη στην επιστήμη και της κατάλληλης στιγμής να κυκλοφορήσουν αυτά τα πράγματα στο κοινό. Στο Google DeepMind, εργαλεία όπως μεγάλα γλωσσικά μοντέλα χρησιμοποιούνται για έρευνα και όχι ως πιθανά εμπορικά προϊόντα.

Χασάμπης: Έχουμε πάρει πολύ σοβαρά την ευθύνη και την ασφάλεια από την αρχή. Ακόμη και πριν από το 2010, η Google ενσωμάτωσε κάποιες βασικές ηθικές αρχές στις οδηγίες της για την τεχνητή νοημοσύνη. Έχουμε ευθυγραμμιστεί σε όλη την Google και θέλουμε να αναπτυχθούμε υπεύθυνα ως ένας από τους ηγέτες σε αυτόν τον χώρο.

Επομένως, είναι ενδιαφέρον τώρα να αρχίσουμε να λανσάρουμε πραγματικά προϊόντα με δυνατότητες GenAI. Υπάρχουν πραγματικά πολλά να μάθουμε και μαθαίνουμε γρήγορα, κάτι που είναι καλό. Ο κίνδυνος μας είναι σχετικά χαμηλός με τις τρέχουσες τεχνολογίες, οι οποίες δεν είναι ακόμη τόσο ισχυρές. Αλλά καθώς η τεχνολογία γίνεται πιο ισχυρή, πρέπει να είμαστε πιο προσεκτικοί.

Οι ομάδες προϊόντων και άλλες ομάδες μαθαίνουν πώς να δοκιμάζουν την τεχνολογία GenAI. Αυτές οι τεχνικές διαφέρουν από τις συνηθισμένες τεχνικές στο ότι δεν κάνουν πάντα το ίδιο πράγμα. Είναι σχεδόν σαν να δοκιμάζετε ένα παιχνίδι ανοιχτού κόσμου, τα πράγματα που μπορείτε να δοκιμάσετε να κάνετε με αυτό είναι σχεδόν απεριόριστα. Ήταν λοιπόν ενδιαφέρον να καταλάβουμε πώς να το ομαδοποιήσουμε με κόκκινο χρώμα.

Frye: Λοιπόν, το τεστ της κόκκινης ομάδας εδώ ανταγωνίζεστε ο ένας τον άλλον;

Χασάμπης:Ναί. Η δοκιμή Red team είναι όταν τραβάτε μια ειδική ομάδα από την τεχνική ομάδα ανάπτυξης για να δοκιμάσετε την τεχνολογία και να προσπαθήσετε να την σπάσετε με κάθε δυνατό τρόπο. Χρειάζεται πραγματικά να χρησιμοποιήσετε εργαλεία για την αυτοματοποίηση των δοκιμών, και ακόμα κι αν υπάρχουν χιλιάδες άνθρωποι που το κάνουν, αυτό δεν είναι αρκετό σε σύγκριση με δισεκατομμύρια χρήστες.

Επιπλέον, νομίζω ότι πρέπει να το κάνουμε σε φάσεις, συμπεριλαμβανομένης μιας πειραματικής φάσης, μιας κλειστής φάσης beta και στη συνέχεια μιας επανέκδοσης, όπως ακριβώς κάναμε με τα παιχνίδια στο παρελθόν. Έτσι μαθαίνεις σε κάθε βήμα. Νομίζω ότι αυτό που πρέπει να κάνουμε περισσότερο είναι να χρησιμοποιήσουμε την ίδια την τεχνητή νοημοσύνη για να μας βοηθήσει με τις εσωτερικές δοκιμές της κόκκινης ομάδας και στην πραγματικότητα να βρούμε αυτόματα κάποια σφάλματα ή να κάνουμε τριπλό έλεγχο. Με αυτόν τον τρόπο οι προγραμματιστές και οι δοκιμαστές μας μπορούν πραγματικά να επικεντρωθούν σε αυτές τις δύσκολες καταστάσεις.

Frye: Υπάρχει κάτι πολύ ενδιαφέρον εδώ, βρίσκεστε σε ένα χώρο υψηλότερων πιθανοτήτων. Έτσι, ακόμα κι αν κάτι έχει μια μικρή πιθανότητα να συμβεί, αν το δοκιμάσετε αρκετά, τελικά θα πάει στραβά. Νομίζω ότι έγιναν κάποια δημόσια λάθη.

Χασάμπης: Όπως ανέφερα, νομίζω ότι οι ομάδες προϊόντων έχουν συνηθίσει σε δοκιμές κάθε είδους. Ξέρουν ότι έχουν δοκιμάσει αυτό το υλικό, αλλά είναι τυχαίο και πιθανό. Στην πραγματικότητα, σε πολλές περιπτώσεις, αν είναι απλώς ένα κοινό λογισμικό, μπορείτε να πείτε ότι έχετε δοκιμάσει το 99,999% του πράγματος. Τότε συμπεράνετε ότι αυτό είναι αρκετό.

Ωστόσο, αυτό δεν συμβαίνει με τα συστήματα παραγωγής. Μπορούν να κάνουν όλα τα είδη των πραγμάτων που είναι λίγο έξω από τον κανόνα, λίγο έξω από αυτό που έχετε δει πριν. Εάν κάποιο έξυπνο άτομο ή αντίπαλος αποφασίσει να δοκιμάσει αυτά τα συστήματα με κάποιο τρόπο, όπως θα έκανε ένας χάκερ.

Αυτά τα συστήματα μπορεί να υπάρχουν σε συνδυασμούς που περιλαμβάνουν όλα όσα έχετε πει για αυτά πριν. Τότε είναι σε κάποια ειδική κατάσταση, ή η μνήμη είναι γεμάτη με ειδικά πράγματα, και γι' αυτό πρέπει να βγάζουν κάτι. Είναι περίπλοκο εδώ, και δεν είναι άπειρο. Υπάρχουν λοιπόν τρόποι επίλυσης αυτού του προβλήματος, αλλά υπάρχουν πολλές αποχρώσεις για την ανάπτυξη της κανονικής τεχνολογίας.

Frye: Θυμάμαι ότι είπες, νομίζω ότι ήταν η πρώτη φορά που σου πήρα συνέντευξη, ανέφερες ότι στην πραγματικότητα πρέπει να αναγνωρίσουμε ότι αυτός είναι ένας εντελώς διαφορετικός τρόπος υπολογισμού. Πρέπει να απομακρυνθείτε από τα ντετερμινιστικά πράγματα που κατανοούμε πλήρως και να προχωρήσετε προς κάτι πιο ακατάστατο, όπως το πιθανολογικό. Πιστεύετε ότι το κοινό πρέπει επίσης να αλλάξει λίγο την οπτική του για τους τύπους υπολογιστών;

Χασάμπης: Ναι, συμφωνώ. Ίσως αυτό είναι ένα άλλο πράγμα που πρέπει να σκεφτούμε, ενδιαφέροντα,Πριν απελευθερώσετε ένα σύστημα, μπορείτε πραγματικά να εκδώσετε ένα έγγραφο αρχών ή κάτι παρόμοιο, για να καταδείξει με σαφήνεια την προβλεπόμενη χρήση αυτού του συστήματος, τι έχει σχεδιαστεί να κάνει; Σε τι χρησιμεύει; Τι δεν μπορεί να κάνει; Νομίζω ότι υπάρχει πραγματικά ανάγκη για κάποιου είδους επίγνωση εδώ, όπως, αν το χρησιμοποιήσετε με αυτούς τους τρόπους, θα το βρείτε χρήσιμο, αλλά μην προσπαθήσετε να κάνετε άλλα πράγματα με αυτό γιατί απλά δεν θα λειτουργήσει.

Νομίζω ότι αυτό είναι κάτι που πρέπει να κάνουμε σε ορισμένους τομείς και οι χρήστες μπορεί να χρειαστούν εμπειρία και σε αυτόν τον τομέα. Είναι πραγματικά πολύ ενδιαφέρον, γι' αυτό πιθανώς τα ίδια τα chatbots εκπλήσσουν κάπως, ακόμη και για το OpenAI, συμπεριλαμβανομένου του ChatGPT. Έχουμε επίσης τα δικά μας chatbots και έχουμε παρατηρήσει ότι αυτά τα ρομπότ εξακολουθούν να έχουν ελαττώματα, όπως παραισθήσεις και άλλα θέματα.

Αλλά αυτό που δεν συνειδητοποιούμε είναι ότι παρά αυτά τα ελαττώματα, υπάρχουν στην πραγματικότητα πολλές εξαιρετικές περιπτώσεις χρήσης για chatbots. Στις μέρες μας οι άνθρωποι βρίσκουν μερικές πολύ πολύτιμες χρήσεις, όπως τη σύνοψη αρχείων και μεγάλων εγγράφων, τη σύνταξη email, τη συμπλήρωση εντύπων κ.λπ. Λόγω του μεγάλου εύρους των σεναρίων χρήσης, ακόμη και αν υπάρχουν κάποια μικρά σφάλματα, οι άνθρωποι στην πραγματικότητα δεν τους πειράζει να διορθώσουν αυτά τα σφάλματα και να εξοικονομήσουν πολύ χρόνο. Υποθέτω ότι αυτό είναι το εκπληκτικό που βρίσκουν οι άνθρωποι, όταν χρησιμοποιούνται, οι άνθρωποι βρίσκουν αυτές τις πολύτιμες περιπτώσεις χρήσης, παρόλο που αυτά τα συστήματα είναι ελαττωματικά με κάθε τρόπο που γνωρίζουμε.

Σχετικά με τον Ανοιχτό Κώδικα: Μόλις δημοσιευτεί, δεν μπορεί να αποσυρθεί

Frye: Αυτό με οδηγεί στην επόμενη ερώτηση που θέλω να κάνω, η οποία αφορά τον ανοιχτό κώδικα. Όπως αναφέρατε, όταν τα πράγματα είναι στα χέρια των ανθρώπων, συμβαίνουν πραγματικά εξαιρετικά πράγματα. Καταλαβαίνω ότι η DeepMind έχει στο παρελθόν πολλά έργα ανοιχτού κώδικα, αλλά αυτό φαίνεται να έχει αλλάξει με την πάροδο του χρόνου.

Χασάμπης: Ναι, υποστηρίζουμε πολύ τον ανοιχτό κώδικα και την ανοιχτή επιστήμη. Όπως γνωρίζετε, δημοσιοποιούμε σχεδόν ό,τι κάνουμε, όπως το Transformer, και η έρευνα για το AlphaGo και το AlphaFold δημοσιεύεται στο Nature και σε άλλα περιοδικά, ενώ το AlphaFold είναι επίσης ανοιχτού κώδικα. Με την ανταλλαγή πληροφοριών, η τεχνολογία και η επιστήμη μπορούν να προχωρήσουν γρήγορα. Έτσι, σχεδόν πάντα το κάνουμε, και πιστεύουμε ότι είναι πολύ ωφέλιμο να κάνουμε, και είναι ο τρόπος με τον οποίο λειτουργεί η επιστήμη.

Η μόνη εξαίρεση είναι ότι το AI, το AGI και το ισχυρό AI έχουν και τις δύο πλευρές. Το ερώτημα είναι ποιος το χρησιμοποιεί, οι επιστήμονες και οι τεχνολόγοι που στην πραγματικότητα ενεργούν με καλές προθέσεις και μπορούν να κάνουν εποικοδομητικές και κρίσιμες προτάσεις, που είναι ο ταχύτερος τρόπος για να προχωρήσει η κοινωνία. Αλλά το ερώτημα είναι πώς μπορείτε επίσης να περιορίσετε την πρόσβαση σε άτομα με κακές προθέσεις που μπορεί να χρησιμοποιούν τα ίδια συστήματα για κακούς σκοπούς, να τα κάνουν κατάχρηση, όπως οπλικά συστήματα, αλλά δεν μπορούμε να το προβλέψουμε εκ των προτέρων. Επιπλέον, το ίδιο το καθολικό σύστημα μπορεί να επαναχρησιμοποιηθεί με αυτόν τον τρόπο. Μπορούμε ακόμα να το κρατήσουμε σήμερα γιατί δεν νομίζω ότι τα συστήματα είναι τόσο ισχυρά ακόμα.

Μέσα στα επόμενα δύο έως τέσσερα χρόνια, ειδικά καθώς αρχίζουμε να αναπτύσσουμε συστήματα με συμπεριφορά πρακτόρων, εάν αυτά τα συστήματα γίνουν κακή χρήση από κάποιον, μπορεί να προκληθεί σοβαρή βλάβη. Αν και δεν έχουμε συγκεκριμένες λύσεις, ως κοινότητα πρέπει να σκεφτούμε τι σημαίνει αυτό για τον ανοιχτό κώδικα.

Ίσως τα μοντέλα αιχμής να πρέπει να υποβληθούν σε περισσότερες αναθεωρήσεις πριν γίνουν ανοιχτού κώδικα ένα ή δύο χρόνια μετά την κυκλοφορία. Αυτό το μοντέλο είναι αυτό που ακολουθούμε επειδή έχουμε το δικό μας μοντέλο ανοιχτού κώδικα που ονομάζεται Gemma. Αυτά τα μοντέλα είναι μικρότερα και όχι αιχμής, επομένως οι δυνατότητες τους εξακολουθούν να είναι πολύ χρήσιμες για τους προγραμματιστές και είναι εύκολο να εκτελεστούν σε φορητό υπολογιστή με λιγότερες παραμέτρους. Αυτές οι λειτουργίες είναι πλέον καλά κατανοητές. Ωστόσο, η απόδοση αυτών των μοντέλων δεν είναι τόσο καλή όσο τα τελευταία μοντέλα αιχμής, όπως το Gemini 1.5. Η τελική προσέγγιση που μπορούμε να ακολουθήσουμε είναι,Θα έχουμε μοντέλα ανοιχτού κώδικα, αλλά θα είναι περίπου ένα χρόνο πίσω από τα μοντέλα τελευταίας τεχνολογίας, ώστε να μπορούμε πραγματικά να αξιολογήσουμε τη χρήση αυτών των μοντέλων από τους χρήστες στο κοινό και να κατανοήσουμε τις δυνατότητες των μοντέλων αιχμής.

Το κύριο πρόβλημα με τον ανοιχτό κώδικα είναι ότι μόλις κυκλοφορήσει, δεν μπορεί να αποσυρθεί. Σε αντίθεση με τα ιδιόκτητα μοντέλα, οι προγραμματιστές δεν μπορούν απλώς να κλείσουν ένα μοντέλο ανοιχτού κώδικα εάν χρησιμοποιείται ακατάλληλα.Μόλις ανοίξει ο κώδικας, είναι σαν να περνάτε από μια μονόδρομη πόρτα, επομένως πρέπει να είστε πολύ προσεκτικοί πριν από τον ανοιχτό κώδικα.

Frye: Είναι δυνατόν να περιοριστεί η τεχνητή γενική νοημοσύνη (AGI) σε μια τάφρο μέσα σε έναν οργανισμό;

Χασάμπης: Αυτό είναι ακόμα ένα άλυτο ερώτημα. Δεν ξέρουμε πώς να το κάνουμε ακόμα, γιατί αυτό είναι κάτι που πρέπει να σκεφτούμε όταν αρχίζουμε να μιλάμε για τεχνητή νοημοσύνη υψηλού επιπέδου, που μοιάζει με άνθρωπο.

Frye: Τι γίνεται με το μεσαίο στρώμα;

Χασάμπης: Στη μεσαία βαθμίδα, έχουμε μερικές καλύτερες ιδέες για την αντιμετώπιση αυτών των ζητημάτων. Για παράδειγμα, μπορεί να δοκιμαστεί μέσω ενός ασφαλούς περιβάλλοντος sandbox. Αυτό σημαίνει δοκιμή της συμπεριφοράς του πράκτορα σε ένα περιβάλλον παιχνιδιού ή σε μια μερικώς συνδεδεμένη έκδοση του Διαδικτύου. Γίνεται ήδη πολλή δουλειά ασφαλείας σε αυτόν τον χώρο, καθώς και σε άλλους τομείς όπως το fintech. Θα μπορούσαμε να λάβουμε αυτές τις ιδέες και να δημιουργήσουμε συστήματα αναλόγως, έτσι δοκιμάζουμε τα πρώιμα πρωτότυπα συστήματα. Αλλά γνωρίζουμε επίσης ότι αυτά τα μέτρα μπορεί να μην είναι αρκετά για να περιορίσουν το AGI, ένα σύστημα που μπορεί να είναι πιο έξυπνο από εμάς. Επομένως, πρέπει να κατανοήσουμε καλύτερα αυτά τα συστήματα προκειμένου να σχεδιάσουμε πρωτόκολλα για το AGI. Μέχρι τότε, θα έχουμε καλύτερους τρόπους για να το ελέγξουμε και πιθανώς να αξιοποιήσουμε συστήματα και εργαλεία τεχνητής νοημοσύνης για την παρακολούθηση της επόμενης γενιάς συστημάτων τεχνητής νοημοσύνης.

Πώς να ρυθμίσετε το AI

Frye: Στο θέμα της ασφάλειας, πολλοί άνθρωποι φαίνεται να πιστεύουν ότι η λέξη ρύθμιση λύνει όλα τα προβλήματα. Πώς πιστεύετε ότι πρέπει να δομηθεί η ρύθμιση;

Χασάμπης: Η κυβέρνηση επιταχύνει την κατανόηση και τη συμμετοχή της στην τεχνολογία AI, κάτι που είναι θετικό φαινόμενο.Νομίζω ότι η διεθνής συνεργασία είναι απαραίτητη, ειδικά σε τομείς όπως οι ρυθμίσεις, τα μέτρα ασφαλείας και οι προδιαγραφές ανάπτυξης。

Καθώς προσεγγίζουμε το AGI, πρέπει να αναγνωρίσουμε ότι επειδή η τεχνολογία προχωρά με ταχείς ρυθμούς,Η ρυθμιστική μας προσέγγιση πρέπει επίσης να είναι ευέλικτη και να προσαρμόζεται γρήγορα στις πιο πρόσφατες τεχνολογικές εξελίξεις. Αν είχατε ρυθμίσει την τεχνητή νοημοσύνη πριν από πέντε χρόνια, θα ρυθμίζατε κάτι εντελώς διαφορετικό. Αυτό που βλέπουμε σήμερα είναι η γενετική τεχνητή νοημοσύνη, αλλά σε πέντε χρόνια από τώρα μπορεί να είναι διαφορετικά.

Επί του παρόντος, τα συστήματα που βασίζονται σε πράκτορες ενδέχεται να αποτελούν τον υψηλότερο κίνδυνο. Ως εκ τούτου, συνιστώ την ενίσχυση των υφιστάμενων κανονισμών σε ήδη ρυθμιζόμενους τομείς (όπως η υγεία, οι μεταφορές κ.λπ.) για την προσαρμογή τους στην εποχή της τεχνητής νοημοσύνης, όπως είχαν ενημερωθεί παλαιότερα οι κανονισμοί για κινητά και το Διαδίκτυο.

Το πρώτο πράγμα που θα έκανα είναι να μείνω συγκεντρωμένος και να βεβαιωθώ ότι κατανοούμε και δοκιμάζουμε συστήματα αιχμής. Καθώς η κατάσταση γίνεται πιο ξεκάθαρη και πρέπει να αρχίσουν να αναπτύσσονται κανονισμοί γύρω από αυτές τις καταστάσεις, μπορεί να είναι πιο λογικό να το κάνουμε σε λίγα χρόνια. Αυτό που μας λείπει αυτή τη στιγμή είναι η συγκριτική αξιολόγηση, η σωστή δοκιμή ικανοτήτων, συμπεριλαμβανομένου, όπως θέλει ο κλάδος να γνωρίζει, σε ποιο σημείο οι δυνατότητές μας ενδέχεται να αποτελούν σημαντικό κίνδυνο. Επί του παρόντος δεν υπάρχει απάντηση σε αυτό και οι δυνατότητες που βασίζονται σε πράκτορες που μόλις ανέφερα μπορεί να είναι το επόμενο όριο, αλλά δεν υπάρχει προς το παρόν αποδεκτή μέθοδος δοκιμής.

Μια πιθανή δοκιμή είναι να εντοπιστεί εάν το σύστημα έχει παραπλανητικές δυνατότητες. Εάν υπάρχει εξαπάτηση στο σύστημα, τότε τίποτα άλλο που αναφέρει δεν μπορεί να είναι αξιόπιστο. επομένως,Η δοκιμή εξαπάτησης θα πρέπει να αποτελεί κορυφαία προτεραιότητα για τις αναδυόμενες δυνατότητες. Επιπλέον, υπάρχουν πολλές άλλες ικανότητες που αξίζει να δοκιμαστούν, όπως η ικανότητα επίτευξης συγκεκριμένων στόχων, οι δυνατότητες αναπαραγωγής κ.λπ., και πολλές σχετικές εργασίες βρίσκονται σε εξέλιξη. Νομίζω ότι αυτά είναι βασικά όπου παίζουν ρόλο οι κρατικές υπηρεσίες. Νομίζω ότι θα ήταν υπέροχο να πιέσουν σκληρά σε αυτό, και φυσικά τα εργαστήρια θα πρέπει να συνεισφέρουν ό,τι ξέρουν.

Frye: Πού ταιριάζουν τα ιδρύματα στον κόσμο που περιγράφετε; Ακόμα κι αν φτάσουμε στο στάδιο όπου θα έχουμε AGI ικανό να υποστηρίξει όλη την επιστημονική έρευνα, θα έχουν ακόμα θέση τα ιδρύματα;

Χασάμπης: Νομίζω πως ναι. Για να φτάσουμε στο AGI, νομίζω ότι θα είναι μια συνεργασία μεταξύ της κοινότητας, της ακαδημαϊκής κοινότητας, της κυβέρνησης και των βιομηχανικών εργαστηρίων. Πιστεύω πραγματικά ότι αυτός είναι ο μόνος τρόπος για να φτάσουμε σε αυτό το τελικό στάδιο.

Τα πρότυπα δοκιμών του Καζακστάν για το AGI

Χασάμπης: Αν ρωτάτε τι συμβαίνει μετά το AGI, ένας από τους λόγους που πάντα ήθελα να δημιουργήσω το AGI είναι ότι μπορούμε να το χρησιμοποιήσουμε για να αρχίσουμε να απαντάμε σε μερικές από τις μεγαλύτερες, πιο θεμελιώδεις ερωτήσεις σχετικά με τη φύση, την πραγματικότητα, τη φυσική και τη συνείδηση . Ανάλογα με τη μορφή που έχει, θα μπορούσε να είναι ένας συνδυασμός ειδικών ανθρώπων και τεχνητής νοημοσύνης. Νομίζω ότι αυτό θα συνεχίσει να ισχύει για λίγο όσον αφορά την εξερεύνηση των επόμενων συνόρων.

Επί του παρόντος, αυτά τα συστήματα δεν μπορούν να καταλήξουν σε εικασίες ή υποθέσεις από μόνα τους. Ως έχει, μπορούν να σας βοηθήσουν να αποδείξετε ορισμένα προβλήματα, να κερδίσετε χρυσά μετάλλια σε Διεθνείς Μαθηματικές Ολυμπιάδες και ίσως ακόμη και να λύσετε διάσημες μαθηματικές εικασίες, αλλά δεν είναι ακόμη ικανοί να διατυπώσουν υποθέσεις όπως η υπόθεση Riemann ή η γενική σχετικότητα.Αυτό ήταν το πρότυπο δοκιμής μου για την αληθινή γενική τεχνητή νοημοσύνη- Θα μπορεί να το κάνει αυτό και ακόμη και να εφεύρει νέες θεωρίες. Δεν έχουμε ακόμη συστήματα και ίσως να μην ξέρουμε καν πώς να σχεδιάσουμε θεωρητικά ένα σύστημα που να το κάνει αυτό.

Frye: Ο επιστήμονας υπολογιστών Stuart Russell μού εξέφρασε την ανησυχία του ότι μόλις φτάσουμε στο στάδιο ανάπτυξης του AGI, μπορεί να καταλήξουμε όλοι να απολαμβάνουμε μια ζωή αχαλίνωτης πολυτέλειας χωρίς κανένα σκοπό στη ζωή. Αν και αυτού του είδους η ζωή είναι γεμάτη υλικές ανέσεις, δεν έχει βαθύ νόημα και σκοπό.

Χασάμπης: Αυτή είναι όντως μια ενδιαφέρουσα ερώτηση. Αυτό μάλλον είναι πέρα ​​από το AGI και μοιάζει περισσότερο με αυτό που οι άνθρωποι αποκαλούν μερικές φορές ASI. Μέχρι τότε θα πρέπει να έχουμε τεράστιους πόρους, και αν υποθέσουμε ότι μπορούμε να διασφαλίσουμε μια δίκαιη και ίση κατανομή αυτών των πόρων, θα είμαστε σε θέση όπου μπορούμε να επιλέξουμε ελεύθερα πώς να ενεργήσουμε και το «νόημα» θα γίνει ένα μεγάλο φιλοσοφικό ερώτημα. Νομίζω ότι θα χρειαστούμε φιλοσόφους, ίσως ακόμη και θεολόγους, και κοινωνικούς επιστήμονες για να αρχίσουμε να το σκεφτόμαστε αυτό τώρα. Τι φέρνει νόημα; Εξακολουθώ να πιστεύω ότι η αυτοπραγμάτωση είναι σημαντική και δεν νομίζω ότι όλοι θα βυθιστούμε απλώς στον διαλογισμό, ίσως θα παίξουμε παιχνίδια στον υπολογιστή. Αλλά ακόμα κι έτσι, είναι αυτό πράγματι κακό; Αυτό είναι ένα ερώτημα που αξίζει να διερευνηθεί.

Αν και το AGI θα επιφέρει τεράστιες αλλαγές, όπως η θεραπεία πολλών ή όλων των ασθενειών και η επίλυση ενεργειακών και κλιματικών προβλημάτων, μπορεί επίσης να μας κάνει να αντιμετωπίσουμε ένα βαθύτερο ερώτημα: Ποιο είναι το νόημα της ζωής; Ακριβώς όπως οι άνθρωποι που σκαρφαλώνουν στο Έβερεστ ή συμμετέχουν σε extreme sports, αυτές οι δραστηριότητες μπορεί να φαίνονται χωρίς νόημα στην επιφάνεια, αλλά στην πραγματικότητα είναι η επιδίωξη των ανθρώπων να προκαλέσουν τον εαυτό τους. Με την ανάπτυξη του AGI, μπορεί να έχουμε τα πάντα σε υλικό επίπεδο, αλλά μαζί του έρχεται μια επανεξέταση του νοήματος της ζωής. Αυτό το πρόβλημα υποτιμάται τόσο στα αρχικά όσο και στα τελευταία στάδια της ανάπτυξης της τεχνολογίας και πρέπει να επανεκτιμήσουμε τη λεγόμενη διαφημιστική εκστρατεία και τον πραγματικό αντίκτυπό της στο μέλλον μας.

Frye: Ας επιστρέψουμε στην ερώτηση για το AGI. Γνωρίζω ότι η μεγάλη αποστολή σας είναι να δημιουργήσετε AI που να ωφελεί όλους. Αλλά πώς μπορείτε να βεβαιωθείτε ότι ωφελεί πραγματικά όλους; Πώς να λάβετε υπόψη τις προτιμήσεις όλων και όχι μόνο των σχεδιαστών;

Χασάμπης: Δεν νομίζω ότι είναι δυνατό να συμπεριληφθούν όλες οι προτιμήσεις σε ένα σύστημα, επειδή οι άνθρωποι δεν μπορούν να συμφωνήσουν σε πολλά θέματα. Νομίζω ότι μπορεί να έχουμε μια ασφαλή αρχιτεκτονική πάνω στην οποία μπορεί να κατασκευαστεί εξατομικευμένη τεχνητή νοημοσύνη και στη συνέχεια οι άνθρωποι αποφασίζουν για ποιον σκοπό μπορεί και δεν μπορεί να χρησιμοποιηθεί το σύστημα τεχνητής νοημοσύνης με βάση τις δικές τους προτιμήσεις, τους σκοπούς χρήσης και τους σκοπούς ανάπτυξης. Γενικά, η αρχιτεκτονική πρέπει να διασφαλίζει την ασφάλεια και στη συνέχεια οι άνθρωποι μπορούν να κάνουν κάποιες παραλλαγές και αυξήσεις με βάση την αρχιτεκτονική.

Πιστεύω λοιπόν ότι όσο πλησιάζουμε στο AGI, πιθανότατα θα χρειαστεί να συνεργαστούμε πιο ιδανικά διεθνώς και στη συνέχεια να βεβαιωθούμε ότι χτίζουμε το AGI σε ένα ασφαλές περιβάλλον.

Μόλις ολοκληρώσουμε αυτήν την εργασία, ο καθένας μπορεί να έχει το δικό του εξατομικευμένο API τσέπης εάν θέλει.

Φράι: Εντάξει. Αλλά αυτό που εννοώ είναι ότι η τεχνητή νοημοσύνη μπορεί να παρουσιάσει κάποια κακή συμπεριφορά.

Χασάμπης: Ναι, κακές αναδυόμενες συμπεριφορές, ικανότητες. Η εξαπάτηση είναι ένα παράδειγμα. Πρέπει να κατανοήσουμε καλύτερα όλα αυτά τα ζητήματα.

Υπάρχουν δύο πράγματα για τα οποία πρέπει να ανησυχείτε: οι άνθρωποι μπορεί να κάνουν κακή χρήση της τεχνητής νοημοσύνης και την ίδια την τεχνητή νοημοσύνη (καθώς πλησιάζει περισσότερο το AGI, η απόδοσή του ξεφεύγει από τις ράγες). Νομίζω ότι αυτά τα δύο προβλήματα απαιτούν διαφορετικές λύσεις. Ναι, αυτό είναι που πρέπει να αντιμετωπίσουμε καθώς πλησιάζουμε όλο και πιο κοντά στο χτίσιμο του AGI.

Επιστρέφοντας στην άποψή σας σχετικά με το όφελος όλων, χρησιμοποιώντας το AlphaFold ως παράδειγμα, νομίζω ότι μπορούμε να θεραπεύσουμε τις περισσότερες ασθένειες μέσα στα επόμενα ή δύο χρόνια, εάν λειτουργήσει ο σχεδιασμός φαρμάκων με τεχνητή νοημοσύνη. Στη συνέχεια, μπορούν να μετατραπούν σε εξατομικευμένα φάρμακα για να ελαχιστοποιηθούν οι παρενέργειες για το άτομο, οι οποίες σχετίζονται, μεταξύ άλλων, με την ατομική νόσο του ατόμου και τον ατομικό μεταβολισμό. Αυτά είναι λοιπόν καταπληκτικά πράγματα, ξέρετε, η καθαρή ενέργεια, οι ανανεώσιμες πηγές ενέργειας, η τεχνολογία θα φέρει τεράστια οφέλη, αλλά πρέπει επίσης να μετριάζουμε τους κινδύνους.

Frye: Είπατε ότι ένας τρόπος με τον οποίο θέλετε να μειώσετε τον κίνδυνο ήταν ότι μια μέρα θα κάνατε βασικά μια επιστημονική έκδοση του "Avengers Assemble";

Χασάμπης:σίγουρα.

Frye: Λοιπόν, πώς ξέρετε πότε είναι η κατάλληλη στιγμή;

Χασάμπης: Λοιπόν, αυτό είναι μια μεγάλη ερώτηση. Δεν μπορείτε να το κάνετε πολύ νωρίς γιατί δεν θα κερδίσετε ποτέ την υποστήριξη ορισμένων από τους αρνητές. Σήμερα, βλέπετε μερικούς πολύ διάσημους ανθρώπους να λένε ότι η τεχνητή νοημοσύνη είναι ακίνδυνη. Και τότε άνθρωποι όπως ο Geoffrey Hinton λένε ότι υπάρχει μεγάλος κίνδυνος.

Frye: Θέλω να σας μιλήσω περισσότερο για τις νευροεπιστήμες. Πόσο σας εμπνέει ακόμα αυτό που κάνετε; Επειδή παρατήρησα ότι πριν από λίγες μέρες η DeepMind παρουσίασε ένα εικονικό ποντίκι με τεχνητό εγκέφαλο, το οποίο βοηθά στην αλλαγή της κατανόησής μας για το πώς ο εγκέφαλος ελέγχει την κίνηση. Θυμάμαι ότι μιλήσαμε πολύ για την έμπνευση απευθείας από τα βιολογικά συστήματα, εξακολουθεί να είναι αυτό στον πυρήνα της προσέγγισής σας;

Χασάμπης: Όχι, έχει εξελιχθεί τώρα και νομίζω ότι έχουμε μπει στο στάδιο της μηχανικής, όπως συστήματα μεγάλης κλίμακας, αρχιτεκτονική εκπαίδευσης μεγάλης κλίμακας. Η νευροεπιστήμη έχει λίγο λιγότερη επιρροή σε αυτό. Η νευροεπιστήμη είναι μια πηγή ιδεών, αλλά όταν ο όγκος της μηχανικής είναι μεγάλος, η νευροεπιστήμη έρχεται σε δεύτερη μοίρα. Οπότε τώρα μάλλον αφορά περισσότερο την εφαρμογή της τεχνητής νοημοσύνης στη νευροεπιστήμη. Νομίζω ότι όσο πλησιάζουμε στο AGI, η κατανόηση του εγκεφάλου θα είναι μια από τις πιο cool περιπτώσεις χρήσης για το AGI.

Frye: Αναρωτιέμαι αν φαντάζεστε επίσης ότι θα υπάρξουν πράγματα που είναι πέρα ​​από την ανθρώπινη κατανόηση που το AGI θα μας βοηθήσει να ανακαλύψουμε και να κατανοήσουμε;

Χασάμπης: Νομίζω ότι είναι δυνατό τα συστήματα AGI να κατανοήσουν υψηλότερα επίπεδα αφαίρεσης καλύτερα από ό,τι μπορούμε. Νομίζω ότι ένα σύστημα τεχνητής νοημοσύνης θα μπορούσε να έχει αποτελεσματικά οποιοδήποτε είδος προμετωπιαίου φλοιού, έτσι θα μπορούσε να φανταστεί υψηλότερα επίπεδα αφαίρεσης και μοτίβων και θα μπορούσε να δει το σύμπαν που δεν μπορούμε πραγματικά να καταλάβουμε ή να θυμηθούμε αμέσως.

Και τότε νομίζω ότι, από την άποψη της ερμηνευσιμότητας, δεν μπορούμε να κλιμακώσουμε τον εγκέφαλό μας άπειρα, αλλά θεωρητικά, δεδομένου του χρόνου, του SPE και της μνήμης, το AGI μπορεί να καταλάβει οτιδήποτε είναι υπολογίσιμο.

Frye: Είπατε ότι το DeepMind είναι ένα έργο 20 ετών. Πόσο κοντά είσαι στο να μπεις σε τροχιά;

Χασάμπης: Είμαστε σε καλό δρόμο.

Frye: Θα είναι διαθέσιμο το AGI το 2030;

Χασάμπης: Δεν θα εκπλαγώ αν κυκλοφορήσει μέσα στα επόμενα δέκα χρόνια.