Το Tao Le προέρχεται από τον ναό Aofei

Qubits | Δημόσιος λογαριασμός QbitAI

Μετασχηματιστής οκτώΟ Aidan Gomez, ο νεότερος στην ομάδα, θρηνούσε στην τελευταία συνέντευξη:

Δεν είναι πραγματικά κερδοφόρο να πουλάς απλά μοντέλα!

GoogleΟ Aidan Gomez, μια έκδοση του Transformer, είναι ένας από τους συγγραφείς του Transformer που είχε βαθιά επίδραση στον τομέα της AI.

Και τώρα η αποτίμηση του Aidan Gomez έχει εκτοξευθεί κατά 5,5 δισεκατομμύρια δολάρια ΗΠΑ.Cohere CompanyΣυνιδρυτής και Διευθύνων Σύμβουλος.(Προηγουμένως κυκλοφόρησε η σειρά Command R μεγάλων μοντέλων ανοιχτού κώδικα)

Σε αυτή τη συνομιλία με τον διευθυντή του 20VC, Harry Stebbings, ο Aidan Gomez μίλησε για τις τάσεις ανάπτυξης του AI.

Μερικά από αυτά τα θέματα έχουν προσελκύσει την προσοχή και τη συζήτηση μεταξύ των χρηστών του Διαδικτύου, όπως:

• Η βελτίωση της απόδοσης του μοντέλου, η κλίμακα δεν είναι ο μόνος τρόπος

• Μόνο που πωλούν μοντέλα δεν μπορούν να συνδυαστούν μεOpenAIυποστηρίζω

• Οι νεοφυείς επιχειρήσεις τεχνητής νοημοσύνης δεν πρέπει να βασίζονται σε προμηθευτές cloud

• Είναι αισιόδοξος για τον τομέα της ρομποτικής και προβλέπει ότι θα υπάρξει μεγάλη ανακάλυψη μέσα σε 5 χρόνια.

• Η ποιότητα των δεδομένων είναι κρίσιμη για τα μοντέλα

Για πιο συγκεκριμένο περιεχόμενο, ανατρέξτε στην παρακάτω έκδοση κειμένου~

Εκτός από την υπολογιστική ισχύ, η καινοτομία δεδομένων και μοντέλων μπορεί επίσης να βελτιώσει την απόδοση της τεχνητής νοημοσύνης

Q: Πριν ξεκινήσουμε, θέλω να σας κάνω μια ερώτηση Σου άρεσε να παίζεις παιχνίδια όταν ήσουν παιδί;

Aidan Gomez: Μου αρέσουν τα παιχνίδια και αγαπώ την τεχνολογία από παιδί.

Q: Αυτό σημαίνει ότι δεν θα ξεκινήσετε ποτέ ένα παιχνίδι με ένα πολύ δύσκολο πρώτο επίπεδο που κάνει τους ανθρώπους να νιώθουν ότι "είναι αδύνατο να τελειώσω, δεν θέλω να παίξω άλλο."

Aidan Gomez: Ναι, αυτό ονομάζεται "μάθηση μαθήματος" στη μηχανική μάθηση. Ξεκινάτε διδάσκοντας το μοντέλο να κάνει κάτι πολύ απλό και, στη συνέχεια, αυξάνετε σταδιακά την πολυπλοκότητα, βασιζόμενοι στην υπάρχουσα γνώση.

Είναι ενδιαφέρον ότι η μάθηση του προγράμματος σπουδών στην πραγματικότητα αποτυγχάνει στη μηχανική μάθηση. Αντί να κάνουμε πραγματικά ένα μάθημα, πετάξαμε το πιο δύσκολο και εύκολο υλικό στο μοντέλο και το αφήσαμε να το καταλάβει μόνο του.

Αλλά για τους ανθρώπους, αυτή η προσέγγιση λειτουργεί εξαιρετικά καλά και είναι ένα σημαντικό μέρος της μάθησής μας. Είναι πραγματικά ενδιαφέρον να το βλέπεις να μην πετυχαίνει στη μηχανική εκμάθηση.

Q: Μόλις μιλήσατε για το να ρίξετε τα πάντα στο μοντέλο Θέλω να ασχοληθώ απευθείας με αυτό το ζήτημα. Πιστεύετε ότι αυτό είναι σωστό; Έχουμε άλλους παράγοντες που περιορίζουν τις βελτιώσεις απόδοσης;

Aidan Gomez: Είναι αλήθεια ότι εάν προσθέσετε περισσότερη υπολογιστική ισχύ στο μοντέλο ή κάνετε το μοντέλο μεγαλύτερο, βελτιώνεται.Αυτός είναι ο πιο αξιόπιστος τρόπος για τη βελτίωση της απόδοσης του μοντέλου, αλλά είναι και ο πιο ανόητος.

Για όσους διαθέτουν επαρκή κεφάλαια, αυτή είναι μια πολύ ελκυστική στρατηγική με εξαιρετικά χαμηλό κίνδυνο. Ξέρετε ότι θα βελτιωθεί, απλώς επεκτείνετε το μοντέλο, ξοδέψτε περισσότερα χρήματα, αγοράστε περισσότερη υπολογιστική ισχύ. Το πιστεύω αυτό, απλώς το βρίσκω εξαιρετικά αναποτελεσματικό.

Υπάρχει καλύτερος τρόπος.Αν κοιτάξετε τον περασμένο ενάμιση χρόνο, απόChatGPTΔημοσιευμένο μέχρι τώραGPT-4Χρονική περίοδος κυκλοφορίας. Καθώς το GPT-4 έχει 1,7 τρισεκατομμύρια παραμέτρους, όπως λένε, είναι τεράστιοMoE。

Έχουμε καλύτερα μοντέλα από αυτό τώρα και έχουν μόνο 13 δισεκατομμύρια παραμέτρους.Οπότε η ταχύτητα αυτής της αλλαγής ή η ραγδαία μείωση του κόστους είναι απλά απίστευτη, έστω και λίγο σουρεαλιστική.

Οπότε, ναι, μπορείτε να επιτύχετε την ποιότητα του μοντέλου με την κλιμάκωση, αλλά μάλλον δεν θα έπρεπε.

Q: Θα συνεχιστεί αυτή η πρόοδος; Θέλω να πω, θα συνεχίσουμε να βλέπουμε πρόοδο σε αυτή την κλίμακα; Ή μήπως κάποια στιγμή θα φτάσει σε σημείο συμφόρησης;

Aidan Gomez: Ναι, απαιτεί εκθετική επένδυση. Πρέπει να διπλασιάζεις συνεχώς την υπολογιστική σου ισχύ για να διατηρήσεις τη γραμμική ανάπτυξη της νοημοσύνης. Αλλά αυτή η ανάπτυξη είναι πιθανό να συνεχιστεί για πολύ, πολύ, πολύ μεγάλο χρονικό διάστημα.

Θα γίνεται όλο και πιο έξυπνο. Θα αντιμετωπίσετε όμως οικονομικούς περιορισμούς. Όχι πολλοί άνθρωποι αγόρασαν το αρχικό GPT-4, ειδικά πολλές επιχειρήσεις επειδή ήταν πολύ μεγάλο, πολύ ακριβό, αναποτελεσματικό στη λειτουργία του, δαπανηρό και όχι αρκετά έξυπνο για να δικαιολογήσει το κόστος.

Επομένως, υπάρχει μεγάλη πίεση στην αγορά για να γίνουν τα μοντέλα μικρότερα και πιο αποτελεσματικά και να χρησιμοποιηθούν δεδομένα, αλγόριθμοι και μέθοδοι για να γίνουν τα μοντέλα πιο έξυπνα, αντί να βασίζονται απλώς στην επέκταση κλίμακας.

Q: Σε έναν κόσμο όπου ζούμε σε έναν κόσμο όπου υπάρχουν μικρότερα, πιο αποτελεσματικά, κάθετα προσανατολισμένα μοντέλα σχεδιασμένα για συγκεκριμένες περιπτώσεις χρήσης, θα υπάρχουν μερικά μεγάλα, κυρίαρχα μοντέλα; Ή θα είναι και τα δύο;

Aidan Gomez: Μια τάση που έχουμε δει τα τελευταία χρόνια είναι η προτίμηση για πρωτότυπα με ένα κοινό, έξυπνο μοντέλο. Δεν θέλουν να δημιουργήσουν πρωτότυπα με ένα συγκεκριμένο μοντέλο και να αφιερώσουν χρόνο για να τελειοποιήσουν το μοντέλο για να το κάνουν ιδιαίτερα καλό στα πράγματα που τους ενδιαφέρουν.

Αυτό που θέλουν είναι να αρπάξουν ένα μεγάλο, ακριβό μοντέλο, να το πρωτοτυπήσουν, να αποδείξουν ότι μπορεί να ολοκληρώσει τη δουλειά και στη συνέχεια να το βελτιώσουν σε ένα αποτελεσματικό μοντέλο που υπερέχει σε έναν συγκεκριμένο τομέα. Αυτό το μοτίβο λοιπόν αναδύεται πραγματικά.

Ως αποτέλεσμα, θα συνεχίσουμε να ζούμε σε έναν κόσμο πολλαπλών μοντέλων, άλλα κάθετα και εστιασμένα, άλλα εντελώς οριζόντια.

Q: Για παράδειγμα, το OpenAI κοστίζει τώρα 3 δισεκατομμύρια δολάρια. Πώς μπορείτε να κρατήσετε τη θέση σας σε αυτόν τον αγώνα εκτός και αν είστεMicrosoft、Amazon、Google、FacebookΤέτοια εταιρεία;

Aidan Gomez: Εάν κάνετε μόνο έργα μεγάλης κλίμακας, πρέπει πραγματικά να γίνετε μία από αυτές τις εταιρείες ή να γίνετε θυγατρική αυτών των εταιρειών. Ωστόσο, υπάρχουν πολλά άλλα πράγματα που μπορούν να γίνουν.

Εάν δεν βασίζεστε αποκλειστικά στην κλιμάκωση ως το μόνο μονοπάτι προς τα εμπρός,Εάν πιστεύετε στην καινοτομία δεδομένων ή στην καινοτομία μοντέλων και μεθόδων, υπάρχουν πολλές κατευθύνσεις προς εξερεύνηση.

Q: Μπορούμε να εξετάσουμε τι είναι η καινοτομία δεδομένων και η καινοτομία μοντέλων και μεθόδων;

Aidan Gomez：Σχεδόν όλες οι μεγάλες προόδους που βλέπουμε στον ανοιχτό κώδικα προέρχονται από βελτιώσεις στα δεδομένα.Με τη λήψη δεδομένων υψηλότερης ποιότητας από το Διαδίκτυο, τη βελτίωση των αλγορίθμων ανίχνευσης ιστού, την ανάλυση ιστοσελίδων, την εξαγωγή σημαντικών τμημάτων και την αύξηση του βάρους συγκεκριμένων τμημάτων του Διαδικτύου, επειδή υπάρχουν πολλές αντιγραφές και ανεπιθύμητα μηνύματα στο Διαδίκτυο.

Εξάγοντας τα πιο πολύτιμα, πλούσια σε γνώση μέρη και δίνοντάς τους έμφαση στο μοντέλο, καθώς και με τη δυνατότητα δημιουργίας συνθετικών δεδομένων, αυτά μας επιτρέπουν να λαμβάνουμε μεγάλες ποσότητες κειμένου ή περιεχομένου ιστού χωρίς ανθρώπινη συμμετοχή, το οποίο δημιουργείται αυτόματα από το μοντέλο .

Αυτές οι καινοτομίεςΕιδικότερα, η ικανότητα βελτίωσης της ποιότητας των δεδομένων οδηγεί σε μεγάλο μέρος της προόδου που βλέπουμε μέχρι στιγμής.

Q: Εντάξει, πρόκειται για καινοτομία δεδομένων, αλλά τι γίνεται με την καινοτομία μοντέλων;

Aidan Gomez: Αυτό περιλαμβάνει πράγματα όπως νέους αλγόριθμους μάθησης ενίσχυσης. Ξέρετε, υπάρχει πολύς θόρυβος γύρω από το Q* και τις αλλαγές που μπορεί να φέρει. Ιδέες γύρω από την αναζήτηση, όπως ο τρόπος αναζήτησης λύσεων.

Η τρέχουσα κατάσταση του μοντέλου είναι ότι σας κάνω μια ερώτηση και το μοντέλο σας πρέπει να δώσει αμέσως τη σωστή απάντηση. Αυτή είναι μια εξαιρετικά απαιτητική απαίτηση για ένα μοντέλο, σωστά;

Δεν μπορείς να το κάνεις αυτό σε έναν άνθρωπο, δεν μπορείς να κάνεις μια δύσκολη ερώτηση σε έναν άνθρωπο και να περιμένεις να φτύσει την απάντηση αμέσως. Χρειάζονται χρόνο για να σκεφτούν και να επεξεργαστούν.

Q: Χρειάζονται επίσης μερικές φορές λίγο χρόνο για καταιγισμό ιδεών.

Aidan Gomez: Ναι, είναι όντως απαραίτητο. Έτσι, ένα πολύ προφανές επόμενο βήμα στην ανάπτυξη μοντέλων είναι ότι πρέπει να τα κάνετε να σκεφτούν και να λύσουν προβλήματα. Πρέπει να τους αφήσετε να κάνουν λάθη, να δοκιμάσουν κάτι, να αποτύχουν, να καταλάβουν γιατί απέτυχε και μετά να κάνουν πίσω και να προσπαθήσουν ξανά.

Επί του παρόντος, δεν υπάρχει έννοια επίλυσης προβλημάτων στο μοντέλο.

Q: Όταν αναφέρατε την επίλυση προβλημάτων, είναι αυτή η ίδια έννοια με τη συλλογιστική;

Aidan Gomez:Ναί.

Q: Γιατί είναι τόσο δύσκολη η λογική; Γιατί δεν έχουμε ακόμη την έννοια του συλλογισμού;

Aidan Gomez：Το συμπέρασμα δεν είναι δύσκολο, αλλά η δυσκολία είναι ότι δεν έχουμε πολλά εκπαιδευτικά δεδομένα στο Διαδίκτυο που να δείχνουν τη διαδικασία εξαγωγής συμπερασμάτων.Τα περισσότερα από αυτά που υπάρχουν στο Διαδίκτυο είναι το αποτέλεσμα της διαδικασίας συλλογισμού.

Όταν γράφεις κάτι στο διαδίκτυο, δεν δείχνεις τη διαδικασία σκέψης σου, αλλά δείχνεις άμεσα τα συμπεράσματά σου, δείχνεις τις σκέψεις σου, και αυτά είναι τα αποτελέσματα πολλής σκέψης, εμπειρίας και συζήτησης.

Επομένως, μας λείπουν τέτοια δεδομένα εκπαίδευσης, δεν είναι ελεύθερα διαθέσιμα, πρέπει να τα φτιάξετε μόνοι σας. Επομένως, εταιρείες όπως η Cohere, η OpenAI καιΑνθρωπικόΑυτό που κάνουν τέτοιες εταιρείες είναι να συλλέγουν δεδομένα που καταδεικνύουν τις ανθρώπινες συλλογιστικές διαδικασίες.

Μόνο πουλώντας μοντέλα, δεν μπορείτε να ανταγωνιστείτε το OpenAI

Q: Μιλώντας για αυτό, αναρωτιέμαι πώς νιώθετε όταν ανταγωνίζεστε την πρωτοβουλία περιεχομένου που δημιουργείται από χρήστες του OpenAI;

Aidan Gomez: Είναι δύσκολο, ειδικά στον επιχειρηματικό χώρο, όπου αντιμετωπίζουμε μια τεράστια πρόκληση: τη διατήρηση ιδιωτικών και εμπιστευτικών δεδομένων πελατών.

Θεωρούν τα δεδομένα ως πνευματική ιδιοκτησία, που περιέχουν πολλές εμπιστευτικές πληροφορίες και επομένως δεν μας επιτρέπουν να χρησιμοποιήσουμε τα δεδομένα για εκπαίδευση. Καταλαβαίνω απόλυτα αυτή τη θέση. Για να γίνει αυτό, έχουμε στρέψει την προσοχή μας στα συνθετικά δεδομένα και έχουμε επενδύσει σημαντικούς πόρους σε αυτόν τον τομέα.

Συγκεντρώσαμε επίσης μια ομάδα ανθρώπων σχολιαστών και συνάψαμε συνεργασία με την Scale AI. Αν και αυτό μας ασκεί μεγάλη πίεση, επειδή δεν είμαστε μια εταιρεία που αντιμετωπίζει τους καταναλωτές, πρέπει να δημιουργήσουμε τα δεδομένα μόνοι μας.

Ευτυχώς, η εστίασή μας είναι σχετικά μικρή, εστιάζοντας κυρίως σε τομείς όπου οι επιχειρηματικές ανάγκες είναι σαφείς, όπως η αυτοματοποίηση των λειτουργιών οικονομικών και ανθρώπινων πόρων. Αυτό μας επιτρέπει να εμβαθύνουμε και να αντιμετωπίσουμε αυτές τις συγκεκριμένες ανάγκες.

Κοιτάζοντας μπροστά στα επόμενα δέκα χρόνια, πώς θα εξελιχθεί η αγορά για συνθετικά δεδομένα; Θα κυριαρχείται από λίγους προμηθευτές; Φαίνεται επί του παρόντος ότι η αγορά API μεγάλων μοντέλων γλώσσας καθοδηγείται κυρίως από συνθετικά δεδομένα, με πολλά να αξιοποιούν ακριβά μεγάλα μοντέλα για τη δημιουργία δεδομένων προκειμένου να βελτιστοποιήσουν μικρότερα, πιο αποτελεσματικά μοντέλα.

Το αν αυτό το μοντέλο είναι βιώσιμο είναι αβέβαιο, αλλά πιστεύω ότι καθώς συνεχίζουν να αναδύονται νέα καθήκοντα, νέα ερωτήματα και ανάγκες δεδομένων, είτε από μοντέλα είτε από ανθρώπους, πρέπει να προσαρμοστούμε και να ανταποκριθούμε σε αυτές τις ανάγκες.

Q: Πώς θα ήταν λοιπόν μια αγορά συνθετικών δεδομένων; Θα κυριαρχείται από δύο ή τρεις πωλητές;

Aidan Gomez: Έχω ακούσει ότι η τρέχουσα αγορά μεγάλων μοντέλων API κυριαρχείται από συνθετικά δεδομένα. Οι περισσότεροι άνθρωποι χρησιμοποιούν αυτά τα μεγάλα ακριβά μοντέλα για να δημιουργήσουν δεδομένα και στη συνέχεια χρησιμοποιούν τα δεδομένα για να τελειοποιήσουν μικρότερα, πιο αποτελεσματικά μοντέλα.

Οπότε ουσιαστικά βελτιώνουν το μεγαλύτερο μοντέλο. Δεν ξέρω αν αυτό το μοντέλο είναι βιώσιμο ως αγορά. Αλλά πιστεύω ότι θα υπάρχουν πάντα νέες εργασίες ή νέες ερωτήσεις ή νέες ανάγκες δεδομένων,Είτε αυτά τα δεδομένα προέρχονται από μοντέλα είτε από ανθρώπους, πρέπει να καλύψουμε αυτές τις ανάγκες.

Q: Υπάρχει ένα πράγμα που με ανησυχεί ή με κάνει να διστάζω. Βλέπετε το OpenAI να ανταγωνίζεται στην τιμή, βλέπετε πράγματα όπωςΜεταΤέτοιες εταιρείες κυκλοφορούν μοντέλα δωρεάν χωρίς να γνωστοποιούν ξεκάθαρα την αξία του ανοιχτού κώδικα και των ανοιχτών οικοσυστημάτων.

Βλέπουμε πραγματική πτώση στην αξία αυτών των μοντέλων; Είναι ένας αγώνας δρόμου για χαμηλότερες τιμές ή ακόμα και για μηδενισμό;

Aidan Gomez：Εάν πουλάτε απλά μοντέλα, θα είναι ένα πολύ δύσκολο παιχνίδι την επόμενη χρονική περίοδο. Αυτή δεν πρόκειται να είναι μια μικρή αγορά.

Q: Θα υπάρχει πολύς κόσμος που θα πουλήσει απλά μοντέλα, και κάποιοι που θα πουλήσουν μοντέλα και άλλα πράγματα.

Aidan Gomez: Δεν θέλω να αναφέρω ονόματα, αλλά μπορώ να πω ότι η Cohere, για παράδειγμα, πουλάει μόνο μοντέλα τώρα. Έχουμε ένα API μέσω του οποίου μπορείτε να έχετε πρόσβαση στα μοντέλα μας.

Αυτό μπορεί να αλλάξει σύντομα. Το τοπίο των προϊόντων θα αλλάξει και θα προσθέσουμε νέα πράγματα στα υπάρχοντα προϊόντα. Εάν πουλάτε μόνο μοντέλα, η κατάσταση θα είναι δύσκολη γιατί θα γίνει μια επιχείρηση μηδενικού περιθωρίου και θα υπάρχει υπερβολικός ανταγωνισμός στην τιμή. Πολλοί άνθρωποι παρέχουν μοντέλα δωρεάν.

Ωστόσο, θα είναι μεγάλη επιχείρηση και η ζήτηση αυξάνεται πολύ γρήγορα. Αλλά τουλάχιστον προς το παρόν, τα κέρδη θα είναι ελάχιστα.

Γι' αυτό υπάρχει πολύς ενθουσιασμός σε επίπεδο εφαρμογής. Η συζήτηση στην αγορά είναι σωστό να επισημάνουμε ότι η αξία συμβαίνει κάτω από το επίπεδο τσιπ, επειδή αρχικά όλοι επενδύουν πολλά χρήματα στο τσιπ για να δημιουργήσουν αυτά τα μοντέλα και μετά βλέπουν την αξία να αντικατοπτρίζεται σε επίπεδο εφαρμογής, όπως το ChatGPT , το οποίο βασίζεται σε χρεώσεις χρηστών είναι 20 $ ανά μήνα.

Εδώ φαίνεται να εμφανίζεται η τιμή αυτήν τη στιγμή. Το επίπεδο μοντέλου είναι μια ελκυστική επιχείρηση μακροπρόθεσμα, αλλά βραχυπρόθεσμα, σύμφωνα με το status quo,Είναι μια επιχείρηση πολύ χαμηλού περιθωρίου, εμπορευματοποιημένη.

Οι νεοσύστατες εταιρείες τεχνητής νοημοσύνης δεν πρέπει να γίνουν υποτελείς προμηθευτών cloud

Q: Πολλοί πιστεύουν πλέον ότι είναι πολύ αργά για startup να μπουν στον χώρο των μοντέλων AI. Ωστόσο, καθώς τα εμπόδια κόστους πέφτουν, διευκολύνει πράγματι αυτό για τις νεοφυείς επιχειρήσεις να εισέλθουν σε αυτόν τον χώρο;

Aidan Gomez: Είναι αλήθεια ότι κάθε χρόνο το κόστος κατασκευής του περσινού μοντέλου πέφτει 10 φορές ή και 100 φορές.Χάρη στα καλύτερα δεδομένα και τους φθηνότερους υπολογιστικούς πόρους, το εμπόδιο εισόδου για τα μοντέλα προηγούμενης γενιάς έχει μειωθεί.

Αλλά το πρόβλημα είναι ότι κανείς δεν ενδιαφέρεται πραγματικά για αυτά τα ξεπερασμένα μοντέλα. Το περσινό μοντέλο είναι σχεδόν άχρηστο σε σύγκριση με το φετινό μοντέλο. Κάθε τεχνολογική πρόοδος καθιστά τις παλιές τεχνολογίες γρήγορα παρωχημένες και το κόστος ανάπτυξης της τεχνητής νοημοσύνης αυξάνεται απότομα.

Μπορεί να κοστίσει μόνο 10 εκατομμύρια δολάρια για την ανάπτυξη της έκδοσης 1, αλλά για να βελτιωθεί ελαφρώς η έκδοση 2, μπορεί να χρειαστούν άλλα 1 έως 2 εκατομμύρια δολάρια. Τώρα, μπορεί να κοστίσει 3 δισεκατομμύρια δολάρια για την ανάπτυξη ενός νέου μοντέλου, και μπορεί να κοστίσει ακόμη και 5 δισεκατομμύρια δολάρια για την αναβάθμισή του.

Αυτή η αύξηση δεν είναι πλέον γραμμική, αλλά ποικίλλει ανά τάξεις μεγέθους. Δεν είμαι σίγουρος αν οι νεότερες γενιές τεχνολογίας είναι πάντα φθηνότερες στην ανάπτυξη από τις προηγούμενες γενιές. Πάρτε ως παράδειγμα τα τσιπ και άλλες σύνθετες τεχνολογίες Αν και το κόστος ανάπτυξης αυξάνεται, συνεχίζουμε να τις αναπτύσσουμε γιατί αξίζει τον κόπο.

Q: Δηλαδή λέτε ότι οι άνθρωποι δεν ενδιαφέρονται πραγματικά αν αυτές οι βελτιώσεις διαρκέσουν;

Aidan Gomez: Έτσι είναι. Αυτό που λέω είναι,Η βελτίωση αυτών των μοντέλων γίνεται όλο και πιο δύσκολη και συναντά αυξανόμενη αντίσταση.Ένα άλλο ενδιαφέρον φαινόμενο είναι ότι όσο τα μοντέλα γίνονται πιο έξυπνα, η ικανότητα των απλών ανθρώπων (συμπεριλαμβανομένου εμένα) να διακρίνουν τη διαφορά μεταξύ τους μειώνεται.

Επειδή η τεχνογνωσία μας στην ιατρική, τα μαθηματικά, τη φυσική κ.λπ. είναι περιορισμένη, δεν μπορούμε πραγματικά να αισθανθούμε αυτές τις αλλαγές. Το μοντέλο έχει κάνει πολύ καλή δουλειά στα βασικά, και μέχρι εκεί μπορούμε να φτάσουμε.

Επομένως, είναι δύσκολο να αισθανθούμε τις διαφορές μεταξύ διαφορετικών μοντέλων γενεών όταν αλληλεπιδρούμε μαζί τους. Αλλά στην πραγματικότητα, αυτά τα μοντέλα αντιπροσωπεύουν τεράστιες βελτιώσεις σε ορισμένες συγκεκριμένες δυνατότητες ή καθαρή νοημοσύνη.

Όσο για το αν αξίζει να συνεχίσουμε να επενδύουμε πολλά χρήματα για να προωθήσουμε την τεχνολογία, νομίζω ότι η απάντηση είναι ναι. Παρόλο που αυτές οι τεχνολογίες μπορεί να μην είναι σημαντικές για τον μέσο καταναλωτή, μπορεί να είναι εξαιρετικά πολύτιμες για τους ερευνητές σε ορισμένους εξειδικευμένους τομείς.

Τους βοηθάμε να σημειώσουν μεγαλύτερη πρόοδο παρέχοντας αυτά τα εργαλεία. Είναι σαν να ρωτάμε αν πρέπει να συνεχίσουμε να επενδύουμε στην τεχνολογία επόμενης γενιάς, όπως η δημιουργία ενός νέου υλικού για ένα διαστημόπλοιο για να βελτιώσει την αποτελεσματικότητά του όταν μπαίνει σε τροχιά.

Αν και αυτό μπορεί να μην έχει σημασία για τους περισσότερους ανθρώπους, είναι πολύ σημαντικό για εκείνους που το χρειάζονται, και υπάρχει ζήτηση της αγοράς, που είναι αυτό που διατηρεί την τεχνολογική πρόοδο σε εξέλιξη.

Q: Και πάλι επανερχόμαστε στο θέμα του κόστους. Σαφώς, το κόστος είναι υψηλό και θα συνεχίσει να αυξάνεται στο μέλλον. Αναφέρατε προηγουμένως την έννοια των «αποτελεσματικών θυγατρικών».

Πολλές εταιρείες εξαγοράζονται ή συγχωνεύονται τώρα και οι υπηρεσίες cloud προσελκύουν την προσοχή ως μοχλός συνεχούς ανάπτυξης. Πιστεύετε ότι στα επόμενα τρία με πέντε χρόνια, οι περισσότεροι μικροί πάροχοι μοντέλων θα εξαγοραστούν από μεγάλους παρόχους υπηρεσιών cloud;

Aidan Gomez: Νομίζω ότι αυτός ο τομέας θα περάσει πραγματικά από μια ενοποίηση, και αυτό έχει ήδη αρχίσει να συμβαίνει.Πολλοί προγραμματιστές μοντέλων έχουν απορροφηθεί από μεγάλους παρόχους υπηρεσιών cloud, όπως η Amazon.

Πιστεύω ότι θα υπάρξουν περισσότερα από αυτά στο μέλλον. Πρέπει όμως να σημειωθεί ότιΤο να γίνετε συνεργάτης ενός παρόχου υπηρεσιών cloud μπορεί να έχει κινδύνους. Αυτό δεν είναι καλό σημάδι για την ανάπτυξη των επιχειρήσεων.

Συχνά, για να συγκεντρώσετε κεφάλαιο, πρέπει να πείσετε τους επενδυτές που ενδιαφέρονται μόνο για την απόδοση του κεφαλαίου. Αλλά είναι μια εντελώς διαφορετική ιστορία όταν συγκεντρώνετε χρήματα από έναν πάροχο υπηρεσιών cloud.

Q: Λοιπόν, πιστεύετε ότι οι επενδυτές επιχειρηματικών συμμετοχών έχουν κερδίσει χρήματα από την επένδυση μοντέλων τα τελευταία χρόνια;

Aidan Gomez: Για τους επενδυτές της Cohere, είναι βέβαιο ότι θα βγάλουν πολλά χρήματα.

Χαίρομαι για όσους πιστεύουν σε εμάς. Ο πρώτος μας επενδυτής, ο Jordan Jacobs της Radical Ventures, εξακολουθεί να είναι στο διοικητικό μας συμβούλιο και συμμετέχει πολύ ενεργά στην οικοδόμηση της εταιρείας. Θα τον αποκαλούσα ακόμη και τον τέταρτο συνιδρυτή του Cohere.

Q: Υπάρχουν πρόσφατες αναφορές στα μέσα ενημέρωσης ότι η αξία της εταιρείας είναι ελαφρώς μεγαλύτερη από 550 εκατομμύρια δολάρια Σας ασκεί πίεση;

Aidan Gomez: Αυτό είναι πράγματι ένα είδος πίεσης, αλλά είναι και ένα είδος θετικής πίεσης. Σε τελική ανάλυση, κάθε εταιρεία θα βρεθεί αντιμέτωπη με πολλαπλές εκτιμήσεις εσόδων που τελικά θα συγκλίνουν με πολλαπλάσια της δημόσιας αγοράς.

Νομίζω ότι είμαστε στην πραγματικότητα σε πολύ καλύτερη θέση από πολλούς συνομηλίκους μας. Επειδή η αποτίμησή μας δεν έχει μεγαλώσει σαν τρελά όπως κάποιες άλλες εταιρείες. Φυσικά πρέπει να συνεχίσουμε να μεγαλώνουμε και να εξελισσόμαστε, αλλά έχω απόλυτη εμπιστοσύνη στην αγορά.

Τα περιθώρια βρίσκονται υπό κάποια πίεση αυτή τη στιγμή λόγω του ανταγωνισμού τιμών και της παρουσίας ελεύθερων μοντέλων, αλλά αυτό θα αλλάξει με την πάροδο του χρόνου. Ταυτόχρονα, το χαρτοφυλάκιο προϊόντων της Cohere θα συνεχίσει να εξελίσσεται και να αναπτύσσεται.

Τίποτα δεν μπορεί να αντικαταστήσει τους ανθρώπους

Q: Εάν είστε επενδυτής στα 20VC τώρα, πού πιστεύετε ότι είναι οι ευκαιρίες;

Aidan Gomez: Οι περιοχές προϊόντων και οι περιοχές εφαρμογής εξακολουθούν να είναι πολύ ελκυστικές. Αυτές οι τεχνολογίες θα οδηγήσουν σε νέα προϊόντα που θα μεταμορφώσουν τα μέσα κοινωνικής δικτύωσης. Οι άνθρωποι αγαπούν την αλληλεπίδραση με αυτά τα μοντέλα και οι ώρες χρήσης είναι εκπληκτικές.

Q: Πιστεύεις ότι αυτό είναι καλό; Δεν θέλω τα παιδιά μου να ζουν σε έναν κόσμο όπου αλληλεπιδρούν με γενετικά συστήματα και μιμούνται τους ανθρώπους. Δεν θέλω να πάρουν ικανοποίηση μιλώντας με ένα μοντέλο.

Aidan Gomez: Μπορεί να κάνεις λάθος. Ίσως θέλετε το παιδί σας να μπορεί να επικοινωνεί με έναν πράκτορα που είναι εξαιρετικά συμπονετικός, εξαιρετικά έξυπνος, γνώστης και ασφαλής.

Μπορεί να τους διδάξει πράγματα, να παίξει μαζί τους και δεν θα χάσει την ψυχραιμία του μαζί τους, δεν θα θυμώσει μαζί τους, δεν θα τους εκφοβίσει, δεν θα τους κάνει να νιώθουν ανασφάλεια.

σίγουρα,Τίποτα δεν μπορεί να αντικαταστήσει τους ανθρώπους. Τίποτα δεν μπορεί να αντικαταστήσει τον ανθρώπινο κόσμο και δεν θα αρχίσουμε όλοι ξαφνικά να βγαίνουμε με ChatBots, προκαλώντας πτώση του ποσοστού ανθρώπινης γεννητικότητας.

Δεν νομίζω ότι θα συμβεί αυτό, σωστά; Θέλω ένα παιδί και δεν μπορώ να κάνω ένα με ChatBot.

Ένας ανθρώπινος σύντροφος είναι πολύ πιο πολύτιμος για μένα από οποιοδήποτε ChatBot. Όπως και στον εργασιακό χώρο, δεν νομίζω ότι μπορούμε να αντικαταστήσουμε πλήρως τους ανθρώπους.Η τεχνητή νοημοσύνη θα ενισχύσει τις ανθρώπινες ικανότητες και θα κάνει τους ανθρώπους πιο αποτελεσματικούς, αλλά αυτό δεν σημαίνει ότι θα υπάρχουν λιγότερες θέσεις εργασίας.

Δεν μπορείς να αντικαταστήσεις τους ανθρώπους. Σκεφτείτε τις πωλήσεις, αν με πουλούσε ένα ρομπότ, δεν θα αγόραζα. Είναι τόσο απλό, δεν θέλω να μιλήσω σε μηχανή.

Σίγουρα, ορισμένες απλές αγορές μπορεί να διεκπεραιώνονται από ένα bot, αλλά για εκείνες που είναι πραγματικά σημαντικές για εμένα και την εταιρεία μου, θέλω το άλλο μέρος να είναι ένα πραγματικό άτομο που μπορεί να αναλάβει την ευθύνη.

Αν κάτι πάει στραβά, χρειάζομαι κάποιον με την εξουσία να παρέμβει. Οπότε πραγματικά σκέφτομαι, είτε είναι από την πλευρά των καταναλωτών, είτε πρόκειται να εθιστούμε στο να μιλάμε με ChatBots, είτε από την πλευρά της εργασίας, όπου οι θέσεις εργασίας θα εξαφανιστούν και θα υπάρξει μαζική ανεργία, δεν το κάνω. δεν το βλέπω να συμβαίνει.

Q: Συμφωνώ με την άποψή σας, αλλά ανησυχώ πραγματικά για θέσεις χαμηλού επιπέδου, για παράδειγμα, μια ομάδα εξυπηρέτησης πελατών μπορεί να χάσει το 70% έως το 80% των υπαλλήλων της και σίγουρα θα υπάρξουν μερικές αντικαταστάσεις.

Aidan Gomez: Σίγουρα θα υπάρξουν μερικές αλλαγές. Αλλά συνολικά,Αυτό θα είναι ανάπτυξη, όχι αντικατάσταση.Ορισμένοι ρόλοι είναι πραγματικά ευάλωτοι στην τεχνολογία και η υποστήριξη πελατών είναι ένας από αυτούς.

Αλλά τελικά, θα υπάρχουν ακόμα άνθρωποι που χρειάζονται για να κάνουν τη δουλειά, πιθανώς λιγότεροι από σήμερα. Αλλά η υποστήριξη πελατών είναι ένας δύσκολος ρόλος και είναι μια πολύ ψυχικά κουραστική δουλειά. Αν έχετε ακούσει ποτέ αυτά τα τηλεφωνήματα, ξέρετε ότι είναι μια συναισθηματικά κουραστική δουλειά.

Q: Ναι, μοιάζει λίγο με την εποπτεία περιεχομένου σε πλατφόρμες μέσων κοινωνικής δικτύωσης, που είναι επίσης τραυματικό από πολλές απόψεις.

Aidan Gomez: Κάθε μέρα ξυπνάς, πηγαίνεις στη δουλειά, σε μαλώνουν όλη μέρα και πρέπει να ζητάς συγγνώμη. Επομένως, ίσως θα έπρεπε να αφήσουμε τα μοντέλα να χειριστούν αυτές τις συνομιλίες και να αφήσουμε τους ανθρώπους να χειριστούν τα ζητήματα υποστήριξης πελατών που απαιτούν πραγματικά ανθρώπινη βοήθεια, όπως η επίλυση ενός προβλήματος χωρίς συναισθηματικό παράπονο, αλλά με την ευκαιρία να κάνουν τη διαφορά στη ζωή αυτού του ατόμου.

Η επόμενη μεγάλη ανακάλυψη στην τεχνητή νοημοσύνη θα έρθει στον τομέα της ρομποτικής

Q: Τι πιστεύετε ότι δεν μπορεί να κάνει η τεχνητή νοημοσύνη σήμερα, αλλά θα γίνει πραγματικότητα και θα επιφέρει τεράστιες αλλαγές σε τρία χρόνια;

Aidan Gomez：Η επόμενη μεγάλη ανακάλυψη στην τεχνητή νοημοσύνη θα έρθει στον τομέα της ρομποτικής.Το κόστος πρέπει να μειωθεί, αλλά ήδη μειώνεται. Τότε χρειαζόμαστε πιο ισχυρά μοντέλα.

Q：Γιατί πιστεύετε ότι θα υπάρξει μια μεγάλη ανακάλυψη στον τομέα της ρομποτικής;

Aidan Gomez：Γιατί έχουν εξαφανιστεί πολλά εμπόδια.Οι λογιστές και οι σχεδιαστές των προηγούμενων ρομπότ ήταν πολύ εύθραυστοι, έπρεπε να τους προγραμματίσετε για κάθε εργασία και ήταν κωδικοποιημένοι σε ένα συγκεκριμένο περιβάλλον.

Πρέπει λοιπόν να έχεις μια κουζίνα με την ίδια ακριβώς διάταξη, τις ίδιες διαστάσεις, τίποτα διαφορετικό, η οποία είναι πολύ εύθραυστη. Αλλά από την πλευρά της έρευνας, χρησιμοποιώντας υποκείμενα μοντέλα, γλωσσικά μοντέλα, οι άνθρωποι αναπτύσσουν στην πραγματικότητα καλύτερους σχεδιαστές που μπορούν να συλλογιστούν για τον κόσμο πιο φυσικά.

Έτσι, υπάρχουν ήδη πολλές εταιρείες που εργάζονται σε αυτήν την πτυχή, και κάποιος μπορεί σύντομα να λύσει το πρόβλημα των καθολικών ανθρωποειδών ρομπότ για να τα κάνει φθηνότερα και πιο σταθερά.

Αυτή θα είναι μια τεράστια αλλαγή. Δεν ξέρω αν πρόκειται να συμβεί τα επόμενα πέντε χρόνια ή αν πρόκειται να συμβεί σε 10 χρόνια, αλλά σίγουρα θα είναι σε αυτό το χρονικό πλαίσιο.

Η ποιότητα των δεδομένων δεν μπορεί να αγνοηθεί

Q: Είναι πολύ ενδιαφέρον να συνομιλώ μαζί σας σήμερα. θέλω να φτιάξω έναΓρήγορες ερωτήσεις και απαντήσεις, δίνω μια δήλωση και εσείς αμέσως κάνετε τις σκέψεις σας

Τι άλλαξε περισσότερο τη γνώμη σας τους τελευταίους 12 μήνες;

Aidan Gomez：Η σημασία των δεδομένων.Το υποτίμησα σοβαρά. Κάποτε πίστευα ότι όλα ήταν θέμα κλίμακας, αλλά πολλά πράγματα συνέβησαν μέσα στο Cohere που άλλαξαν εντελώς την κατανόησή μου για το τι ήταν σημαντικό για την κατασκευή αυτής της τεχνολογίας.

Η ποιότητα των δεδομένων είναι κρίσιμη.Η ποιότητα, για παράδειγμα, ανάμεσα σε δισεκατομμύρια σημεία δεδομένων, ένα λάθος παράδειγμα μπορεί να έχει σημαντικό αντίκτυπο στο μοντέλο. Είναι κάπως εξωπραγματικό, η ευαισθησία του μοντέλου στα δεδομένα είναι τόσο υψηλή και όλοι την υποτιμούν.

Q: Πόση χρηματοδότηση έχει συγκεντρώσει η εταιρεία σας μέχρι στιγμής;

Aidan Gomez: Περίπου 1 δισεκατομμύριο δολάρια.

Q: Ποιος γύρος είναι ο πιο εύκολος να σηκώσεις;

Aidan Gomez: Μάλλον ο πρώτος γύρος. Ήταν απλώς μια απλή συνομιλία και είπαν, «Δώσε σου μερικά εκατομμύρια δολάρια και δοκίμασέ το, οπότε σκέφτηκα ότι αυτός ο γύρος ήταν αρκετά εύκολος».

Q: Όταν συγκεντρώνετε 500 εκατομμύρια δολάρια, η διαδικασία είναι σίγουρα πιο περίπλοκη. Όταν είδατε να φτάνουν 500 εκατομμύρια δολάρια, ήταν λίγο απίστευτο;

Aidan Gomez: Λίγο μάλιστα. Για παράδειγμα, 25 εκατομμύρια δολάρια το χρόνο Αν και δεν είμαι σίγουρος για τον ακριβή αριθμό, είναι πολλά χρήματα. Ο Cohere άλλαξε την οπτική μου για τα οικονομικά και τα χρήματα, και τώρα τα 500 εκατομμύρια δολάρια δεν είναι μεγάλος αριθμός για μένα.

Q: Σε ανησυχεί αυτό;

Aidan Gomez: Όχι, αυτό είναι μέρος της στρατηγικής μας. Εάν είμαστε πρόθυμοι να αποδεχτούμε αυτόν τον όρο, μπορούμε να τον αποδεχτούμε. Αλλά η στρατηγική μας είναι να παραμείνουμε ανεξάρτητοι και να αναπτυχθούμε ανεξάρτητα.

Q: Αν μπορούσατε να επιλέξετε οποιοδήποτε μέλος του διοικητικού συμβουλίου παγκόσμιας κλάσης, ποιο θα ήταν αυτό;

Aidan Gomez: Mike Volpi και Jordan Jacobs, οι οποίοι είναι τώρα στο διοικητικό συμβούλιο μου.

Q: Γιατί πιστεύεις ότι ο Mike είναι καλό μέλος του διοικητικού συμβουλίου;

Aidan Gomez: Ο Mike είναι υπέροχος, φαίνεται να τα έχει περάσει όλα. Μπορώ να του κάνω σχεδόν οποιαδήποτε ερώτηση και έχει βιώσει παρόμοιες εμπειρίες και μπορεί να δώσει πολύτιμες συμβουλές.

Q: Jeff Hinton ή Yann LeCun, ποιον προτιμάτε;

Aidan Gomez: Σίγουρα Jeff, έχω πιο στενή προσωπική σχέση μαζί του.

Q: Πιστεύεις ότι ο Yann είναι πολύ αισιόδοξος;

Aidan Gomez: Όχι, συμφωνώ περισσότερο με την άποψη του Yann για την τεχνητή νοημοσύνη. Ο Jeff είναι πιο διατεθειμένος να προβλέψει την ημέρα της μοίρας, ενώ ο Yann είναι πιο αισιόδοξος. Αν και ο Yann μοιάζει λίγο με τον «αδελφό της απάντησης» του Elon Musk τώρα, ο Jeff είναι πράγματι ένας έξυπνος και στοχαστικός άνθρωπος.

Q: Τελευταία ερώτηση, ποια είναι μια ερώτηση που πιστεύετε ότι δεν σας έχουν κάνει ποτέ αλλά θα έπρεπε;

Aidan Gomez: Οι άνθρωποι πάντα με ρωτούν για το μέλλον της τεχνολογίας και τους πιθανούς κινδύνους, αλλά σπάνια συζητούν τις ευκαιρίες που παρουσιάζει.

Q: Πού θέλετε λοιπόν να πάει η τεχνολογία στο μέλλον;

Aidan Gomez: Νομίζω ότι πρέπει να χρησιμοποιήσουμε την τεχνολογία για να κάνουμε τον κόσμο πιο παραγωγικό, να αυξήσουμε την προσφορά και να κάνουμε τα πράγματα πιο άφθονα και φθηνότερα. Η παραγωγικότητα μπορεί να μην ακούγεται πολύ ελκυστική, αλλά αν εφαρμόσετε ένα κέρδος παραγωγικότητας 5% στο NHS.

Αυτό θα έχει σημαντικό αντίκτυπο στην κατάσταση της χώρας, στον προϋπολογισμό και στις ζωές εκατομμυρίων ανθρώπων. Επομένως, πιστεύω ότι η πρώτη μας προτεραιότητα πρέπει να είναι η παραγωγικότητα και η ανάπτυξη.

Διεύθυνση βίντεο:
https://www.youtube.com/watch?v=FUGosOgiTeI