Νέα

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Κείμενο |
Συντάκτης |. Liu Jing

Μεταξύ των επτά μεγάλων μοντέλων startups στην Κίνα, το DeepSeek είναι το λιγότερο διάσημο, αλλά μπορεί πάντα να το θυμόμαστε με απροσδόκητους τρόπους.

Πριν από ένα χρόνο, αυτή η έκπληξη προήλθε από το γεγονός ότι ο ποσοτικός κολοσσός των ιδιωτικών μετοχών Huan Fang ήταν η μόνη εταιρεία εκτός των μεγάλων κατασκευαστών που κράτησε 10.000 μάρκες A100 Ένα χρόνο αργότερα, προήλθε από το γεγονός ότι ήταν η πηγή του πόλεμος τιμών για τα μεγάλα μοντέλα της Κίνας.

Τον Μάιο, ο οποίος βομβαρδίστηκε συνεχώς από την AI, το DeepSeek έγινε διάσημο. Ο λόγος είναι ότι κυκλοφόρησαν ένα μοντέλο ανοιχτού κώδικα που ονομάζεται DeepSeek V2, το οποίο παρέχει μια άνευ προηγουμένου σχέση κόστους-αποτελεσματικότητας: το κόστος συμπερασμάτων μειώνεται σε μόνο 1 γιουάν ανά εκατομμύριο μάρκες, που είναι περίπου το ένα έβδομο του Llama3 70B, GPT-4 One- εβδομήντα του Turbo.

Ενώ το DeepSeek ονομάστηκε γρήγορα «Pinduoduo της βιομηχανίας AI», μεγάλοι κατασκευαστές όπως οι ByteDance, Tencent, Baidu και Alibaba επίσης δεν άντεξαν και μείωσαν τις τιμές ο ένας μετά τον άλλο. Ο μεγάλος πόλεμος τιμών μοντέλων της Κίνας πρόκειται να ξεσπάσει.

Ο καπνός των πυροβολισμών κρύβει στην πραγματικότητα το γεγονός ότι σε αντίθεση με πολλές μεγάλες εταιρείες που καίνε χρήματα για επιδοτήσεις, το DeepSeek είναι κερδοφόρο.

Πίσω από αυτό βρίσκεται η συνολική καινοτομία της DeepSeek στην αρχιτεκτονική μοντέλων. Προτείνει ένα ολοκαίνουργιο MLA (Ένας νέος μηχανισμός δυνητικής προσοχής για τους ταύρους) αρχιτεκτονική, μειώνοντας τη χρήση μνήμης στο 5%-13% της πιο συχνά χρησιμοποιούμενης αρχιτεκτονικής MHA στο παρελθόν. Ταυτόχρονα, η αρχική δομή DeepSeekMoESparse μειώνει επίσης τον όγκο των υπολογισμών στα άκρα, τα οποία τελικά συμβάλλουν στην μείωση του κόστους.

Στη Silicon Valley, το DeepSeek ονομάζεται «η μυστηριώδης δύναμη από την Ανατολή». Ο επικεφαλής αναλυτής της SemiAnalysis πιστεύει ότι το έγγραφο DeepSeek V2 «μπορεί να είναι το καλύτερο φέτος». Ο πρώην υπάλληλος του OpenAI, Andrew Carr, αποκάλεσε την εφημερίδα «γεμάτη εκπληκτική σοφία» και εφάρμοσε τις ρυθμίσεις εκπαίδευσης στο δικό του μοντέλο. Ο Jack Clark, πρώην διευθυντής πολιτικής του OpenAI και συνιδρυτής του Anthropic, πιστεύει ότι το DeepSeek «απασχολεί μια ομάδα απρόβλεπτων μάγων» και πιστεύει ότι τα μεγάλα μοντέλα που κατασκευάζονται στην Κίνα «θα γίνουν τόσο σημαντικά όσο τα drones και τα ηλεκτρικά αυτοκίνητα που δεν μπορούν να αγνοηθούν». δύναμη."

Αυτή είναι μια σπάνια κατάσταση στο κύμα AI όπου η Silicon Valley οδηγεί βασικά την ιστορία.Πολλοί γνώστες του κλάδου μας είπαν,Αυτή η ισχυρή ανταπόκριση πηγάζει από την καινοτομία σε αρχιτεκτονικό επίπεδο, η οποία είναι μια σπάνια προσπάθεια από εγχώριες μεγάλες εταιρείες μοντέλων και ακόμη και παγκόσμια μεγάλα μοντέλα με βάση ανοιχτού κώδικα. Ένας ερευνητής τεχνητής νοημοσύνης είπε ότι η αρχιτεκτονική Προσοχή έχει προταθεί εδώ και πολλά χρόνια, αλλά σχεδόν ποτέ δεν έχει τροποποιηθεί με επιτυχία, πόσο μάλλον μεγάλης κλίμακας επαλήθευση. «Είναι ακόμη και μια ιδέα που αποκόπτεται από τη λήψη αποφάσεων επειδή οι περισσότεροι άνθρωποι δεν έχουν εμπιστοσύνη».

Από την άλλη πλευρά, τα εγχώρια μεγάλα μοντέλα σπάνια έχουν εμπλακεί στο παρελθόν στην καινοτομία σε αρχιτεκτονικό επίπεδο, επίσης επειδή λίγοι άνθρωποι αναλαμβάνουν την πρωτοβουλία να σπάσουν ένα τέτοιο στερεότυπο:Οι Ηνωμένες Πολιτείες είναι καλύτερες στην τεχνολογική καινοτομία από 0-1, ενώ η Κίνα είναι καλύτερη στην καινοτομία εφαρμογών από 1-10. Επιπλέον, αυτού του είδους η συμπεριφορά είναι πολύ αντιοικονομική - μια νέα γενιά μοντέλων θα παραχθεί φυσικά από κάποιον σε λίγους μήνες, και οι κινεζικές εταιρείες πρέπει μόνο να την ακολουθήσουν και να την εφαρμόσουν καλά. Η καινοτομία της δομής του μοντέλου σημαίνει ότι δεν υπάρχει μονοπάτι που πρέπει να ακολουθήσετε, πρέπει να βιώσετε πολλές αποτυχίες και ότι ο χρόνος και το οικονομικό κόστος είναι τεράστιο.

Το DeepSeek είναι ξεκάθαρα επαναστάτης. Εν μέσω της κραυγής ότι οι τεχνολογίες μεγάλων μοντέλων θα συγκλίνουν αναπόφευκτα και θα ακολουθήσουν μια πιο έξυπνη συντόμευση, η DeepSeek εκτιμά την αξία που συσσωρεύεται στις "παρακάμψεις" και πιστεύει ότι εκτός από την καινοτομία εφαρμογών, οι μεγάλοι επιχειρηματίες μοντέλων της Κίνας μπορούν επίσης να ενταχθούν στην παγκόσμια τεχνολογική καινοτομία. ο χείμαρρος.

Πολλές από τις επιλογές του DeepSeek είναι μοναδικές. Από τώρα, μεταξύ των 7 μεγάλων μοντέλων startups στην Κίνα, είναι η μόνη που έχει εγκαταλείψει τη διαδρομή «ανάγκη και επιθυμία» και έχει επικεντρωθεί στην έρευνα και την τεχνολογία χωρίς να κάνει εφαρμογές toC που δεν έχει εξετάσει πλήρως την εμπορευματοποίηση και έχει επιλέξει σταθερά Υπάρχουν εταιρείες που δεν έχουν καν αντλήσει κεφάλαια από τη διαδρομή ανοιχτού κώδικα. Αυτά το κάνουν να ξεχνιέται συχνά έξω από το τραπέζι του πόκερ, αλλά από την άλλη πλευρά, συχνά διαδίδεται από τους χρήστες στην κοινότητα σαν "νερό της βρύσης".

Πώς φτιάχνεται το DeepSeek; Για το σκοπό αυτό, πήραμε συνέντευξη από τον Liang Wenfeng, τον ιδρυτή του DeepSeek που εμφανίζεται σπάνια.

Αυτός ο ιδρυτής της δεκαετίας του '80, ο οποίος μελετά την τεχνολογία στα παρασκήνια από την εποχή του Magic Square, συνεχίζει ακόμα το χαμηλών τόνων στυλ του στην εποχή του DeepSeek, όπως όλοι οι ερευνητές, "διαβάζει έγγραφα, γράφει κώδικα και συμμετέχει σε ομαδικές συζητήσεις". κάθε μέρα.

Σε αντίθεση με πολλούς ιδρυτές ποσοτικών αμοιβαίων κεφαλαίων που έχουν εμπειρία σε αμοιβαία κεφάλαια κινδύνου στο εξωτερικό και κυρίως ειδικεύονται στη φυσική, τα μαθηματικά κ.λπ., ο Liang Wenfeng ήταν πάντα από τοπικό υπόβαθρο και σπούδαζε τεχνητή νοημοσύνη στο Τμήμα Ηλεκτρονικής Μηχανικής του Πανεπιστημίου Zhejiang στα πρώτα του χρόνια. .

Πολλοί εμπειρογνώμονες του κλάδου και ερευνητές του DeepSeek μάς είπαν ότι ο Liang Wenfeng είναι ένα πολύ σπάνιο άτομο στην τρέχουσα κινεζική βιομηχανία τεχνητής νοημοσύνης που "έχει ισχυρές δυνατότητες μηχανικής υποδομής και ερευνητικές δυνατότητες μοντέλων και μπορεί να κινητοποιήσει πόρους", "μπορεί να κάνει ακριβείς κρίσεις από ψηλά , και μπορεί κάποιος που είναι "καλύτερος από τους ερευνητές πρώτης γραμμής στις λεπτομέρειες", έχει "τρομακτική ικανότητα μάθησης", και ταυτόχρονα, "δεν είναι καθόλου σαν αφεντικό, αλλά περισσότερο σαν geek."

Αυτή είναι μια ιδιαίτερα σπάνια συνέντευξη. Στη συνέντευξη, αυτός ο τεχνικός ιδεαλιστής έδωσε μια φωνή που είναι ιδιαίτερα σπάνια στους επιστημονικούς και τεχνολογικούς κύκλους της Κίνας:Είναι από τους λίγους ανθρώπους που βάζει την «άποψη του σωστού και του λάθους» πάνω από την «άποψη συμφερόντων», μας θυμίζει την αδράνεια των καιρών και βάζει στην ημερήσια διάταξη την «πρωτότυπη καινοτομία».

Πριν από ένα χρόνο, όταν το DeepSeek μόλις τελείωσε, πήραμε συνέντευξη από τον Liang Wenfeng για πρώτη φορά: "Crazy Magic Square: The Road to Large Models of an Invisible AI Giant".Αν πεις αυτή τη φράση εκείνη την ώρα«Πρέπει να είσαι τρελά φιλόδοξος, αλλά και τρελός ειλικρινής».Είναι ακόμα ένα όμορφο σύνθημα, αλλά ένα χρόνο μετά, έχει γίνει δράση.

Το παρακάτω είναι μέρος της συνομιλίας:

Πώς ξεκίνησε το πρώτο πλάνο του πολέμου τιμών;

"Υπό ρεύμα": Μετά την κυκλοφορία του μοντέλου DeepSeek V2, πυροδότησε γρήγορα έναν αιματηρό πόλεμο τιμών μοντέλων μεγάλης κλίμακας Μερικοί είπαν ότι είστε γατόψαρο.

Liang Wenfeng: Δεν θέλαμε να γίνουμε γατόψαρο, απλά γίναμε κατά λάθος.

«Υπό ρεύμα»: Σας εκπλήσσει αυτό το αποτέλεσμα;

Liang Wenfeng : Πολύ απροσδόκητο. Δεν περίμενα ότι η τιμή θα έκανε τους πάντες τόσο ευαίσθητους. Απλώς κάνουμε τα πράγματα με τον δικό μας ρυθμό και υπολογίζουμε το κόστος. Αρχή μας είναι να μην δίνουμε χρήματα ή να βγάζουμε τεράστια κέρδη. Αυτή η τιμή είναι επίσης ένα ελαφρύ κέρδος πάνω από το κόστος.

"Υπό ρεύμα": Η Zhipu AI ακολούθησε 5 ημέρες αργότερα, ακολουθούμενη από τις Byte, Alibaba, Baidu, Tencent και άλλες μεγάλες εταιρείες.

Liang Wenfeng : Το Zhipu AI είναι ένα βασικό προϊόν και τα μοντέλα του ίδιου επιπέδου με το δικό μας εξακολουθούν να είναι πολύ ακριβά. Ο Byte ήταν πραγματικά ο πρώτος που ακολούθησε. Το εμβληματικό μοντέλο έπεσε στην ίδια τιμή με το δικό μας, κάτι που στη συνέχεια ώθησε άλλους μεγάλους κατασκευαστές να μειώσουν τις τιμές τους. Επειδή το κόστος των μοντέλων μεγάλων κατασκευαστών είναι πολύ υψηλότερο από το δικό μας, δεν περιμέναμε ότι κάποιος θα έχανε χρήματα κάνοντας αυτό και τελικά έγινε η λογική των επιδοτήσεων που καίνε χρήματα στην εποχή του Διαδικτύου.

«Υπό ρεύμα»: Από έξω, οι περικοπές τιμών μοιάζουν σαν να προσπαθούν να αρπάξουν τους χρήστες, κάτι που συμβαίνει συνήθως με τους πολέμους τιμών στην εποχή του Διαδικτύου.

Liang Wenfeng : Η αρπαγή χρηστών δεν είναι ο κύριος σκοπός μας. Από τη μία πλευρά, μειώσαμε την τιμή επειδή διερευνούμε τη δομή του μοντέλου επόμενης γενιάς και το κόστος έχει πέσει πρώτα.

"Υπό ρεύμα": Πριν από αυτό, οι περισσότερες κινεζικές εταιρείες θα αντέγραφαν απευθείας αυτήν τη γενιά δομής Llama για εφαρμογή.

Liang Wenfeng : Εάν ο στόχος είναι να κάνετε εφαρμογές, τότε η χρήση της δομής Llama και των κοντών, επίπεδων και γρήγορων προϊόντων είναι επίσης μια λογική επιλογή. Αλλά ο προορισμός μας είναι το AGI, πράγμα που σημαίνει ότι πρέπει να μελετήσουμε νέες δομές μοντέλων για να επιτύχουμε ισχυρότερες δυνατότητες μοντέλων υπό περιορισμένους πόρους. Αυτή είναι μια από τις βασικές μελέτες που απαιτούνται για την κλιμάκωση σε ένα μεγαλύτερο μοντέλο. Εκτός από τη δομή του μοντέλου, έχουμε κάνει επίσης πολλές άλλες έρευνες, συμπεριλαμβανομένου του τρόπου δομής δεδομένων, του τρόπου με τον οποίο το μοντέλο μοιάζει περισσότερο με τους ανθρώπους, κ.λπ., οι οποίες αντικατοπτρίζονται στα μοντέλα που δημοσιεύσαμε. Επιπλέον, η δομή του Llama εκτιμάται ότι είναι δύο γενιές πίσω από τα προηγμένα ξένα επίπεδα όσον αφορά την αποτελεσματικότητα της εκπαίδευσης και το κόστος συμπερασμάτων.

«Υπόγειο ρεύμα»: Από πού προέρχεται κυρίως αυτό το χάσμα γενεών;

Liang Wenfeng : Πρώτον, υπάρχει ένα κενό στην αποτελεσματικότητα της προπόνησης. Εκτιμούμε ότι η δομή του μοντέλου και η δυναμική εκπαίδευσης μπορεί να είναι διπλάσια μεταξύ των καλύτερων εγχώριων μοντέλων και των καλύτερων ξένων μοντέλων Για αυτό και μόνο, πρέπει να καταναλώνουμε διπλάσια υπολογιστική ισχύ για να επιτύχουμε το ίδιο αποτέλεσμα. Επιπλέον, μπορεί να υπάρξει διπλασιασμός της απόδοσης δεδομένων, πράγμα που σημαίνει ότι πρέπει να καταναλώνουμε διπλάσια δεδομένα εκπαίδευσης και υπολογιστική ισχύ για να επιτύχουμε το ίδιο αποτέλεσμα. Συνολικά, καταναλώνει 4 φορές περισσότερη υπολογιστική ισχύ. Αυτό που πρέπει να κάνουμε είναι να συνεχίσουμε να μειώνουμε αυτά τα κενά.

"Υπό ρεύμα": Οι περισσότερες κινεζικές εταιρείες επιλέγουν να διαθέτουν τόσο μοντέλα όσο και εφαρμογές Γιατί η DeepSeek επιλέγει επί του παρόντος να κάνει μόνο έρευνα και εξερεύνηση;

Liang Wenfeng : Γιατί νιώθουμε ότι το πιο σημαντικό τώρα είναι να συμμετέχουμε στο κύμα της παγκόσμιας καινοτομίας. Τα τελευταία πολλά χρόνια, οι κινεζικές εταιρείες έχουν συνηθίσει άλλες να κάνουν τεχνολογικές καινοτομίες και εμείς να τις χρησιμοποιούμε για τη δημιουργία εσόδων από εφαρμογές, αλλά αυτό δεν είναι αυτονόητο. Σε αυτό το κύμα, η αφετηρία μας δεν είναι να εκμεταλλευτούμε την ευκαιρία να κάνουμε μια περιουσία, αλλά να πάμε στο προσκήνιο της τεχνολογίας για να προωθήσουμε την ανάπτυξη ολόκληρου του οικοσυστήματος.

"Υπό ρεύμα": Η αδρανειακή αντίληψη που έμεινε στους περισσότερους ανθρώπους στην εποχή του Διαδικτύου και του κινητού Διαδικτύου είναι ότι οι Ηνωμένες Πολιτείες είναι καλές στην τεχνολογική καινοτομία, ενώ η Κίνα είναι καλύτερη στις εφαρμογές.

Liang Wenfeng: Πιστεύουμε ότι με την οικονομική ανάπτυξη,Η Κίνα πρέπει επίσης να γίνει σταδιακά συνεισφέρων αντί να είναι πάντα ελεύθερος αναβάτης.Κατά τη διάρκεια του κύματος πληροφορικής των τελευταίων τριάντα περίπου ετών, ουσιαστικά δεν έχουμε συμμετάσχει στην πραγματική τεχνολογική καινοτομία. Έχουμε συνηθίσει τον νόμο του Moore να πέφτει από τον ουρανό και καλύτερο υλικό και λογισμικό θα βγει μετά από μόλις 18 μήνες στο σπίτι. Ο νόμος κλιμάκωσης αντιμετωπίζεται επίσης με αυτόν τον τρόπο.

Αλλά στην πραγματικότητα, αυτό είναι κάτι για το οποίο η τεχνολογική κοινότητα που κυριαρχείται από τη Δύση έχει εργαστεί ακούραστα για να δημιουργήσει για γενιές, μόνο και μόνο επειδή δεν συμμετείχαμε σε αυτή τη διαδικασία πριν, οπότε αγνοήσαμε την ύπαρξή της.

Το πραγματικό κενό δεν είναι ένα ή δύο χρόνια, αλλά η διαφορά μεταξύ πρωτοτυπίας και μίμησης

"Undercurrent": Γιατί το DeepSeek V2 θα εκπλήξει πολλούς ανθρώπους στη Silicon Valley;

Liang Wenfeng : Μεταξύ του μεγάλου αριθμού καινοτομιών που συμβαίνουν καθημερινά στις Ηνωμένες Πολιτείες, αυτή είναι μια πολύ συνηθισμένη.Ο λόγος που εξεπλάγησαν ήταν ότι επρόκειτο για κινεζική εταιρείαΛάβετε μέρος στο παιχνίδι τους ως καινοτόμος συνεργάτης.Εξάλλου, οι περισσότερες κινεζικές εταιρείες έχουν συνηθίσει να ακολουθούν και όχι να καινοτομούν.

"Υπόγειο ρεύμα": Αλλά στο κινεζικό πλαίσιο, αυτή η επιλογή είναι υπερβολικά υπερβολική. Το μεγάλο μοντέλο είναι ένα παιχνίδι βαρέων επενδύσεων και δεν έχουν όλες οι εταιρείες το κεφάλαιο για να ερευνήσουν μόνο την καινοτομία χωρίς πρώτα να σκεφτούν την εμπορευματοποίηση.

Liang Wenfeng : Το κόστος της καινοτομίας σίγουρα δεν είναι χαμηλό, και η προηγούμενη αδράνεια της ιδιοποίησης σχετίζεται επίσης με τις προηγούμενες εθνικές συνθήκες. Αλλά τώρα, είτε κοιτάξετε το οικονομικό μέγεθος της Κίνας είτε τα κέρδη μεγάλων εταιρειών όπως η Byte και η Tencent, δεν είναι χαμηλά στον κόσμο. Αυτό που μας λείπει στην καινοτομία σίγουρα δεν είναι το κεφάλαιο, αλλά η έλλειψη αυτοπεποίθησης και το να μην γνωρίζουμε πώς να οργανώσουμε ταλέντα υψηλής πυκνότητας για την επίτευξη αποτελεσματικής καινοτομίας.

«Υπό ρεύμα»: Γιατί οι κινεζικές εταιρείες, συμπεριλαμβανομένων των μεγάλων εταιρειών που δεν έχουν έλλειψη χρημάτων, θεωρούν τόσο εύκολα την ταχεία εμπορευματοποίηση ως πρώτη προτεραιότητα;

Liang Wenfeng : Τα τελευταία τριάντα χρόνια, τονίσαμε μόνο το να βγάζουμε χρήματα και αγνοήσαμε την καινοτομία. Η καινοτομία δεν καθοδηγείται αποκλειστικά από τις επιχειρήσεις, αλλά απαιτεί επίσης περιέργεια και δημιουργικότητα. Απλώς μας δεσμεύει η αδράνεια του παρελθόντος, αλλά είναι και φάση.

"Υπόγειο ρεύμα": Αλλά τελικά, είστε ένας εμπορικός οργανισμός, όχι ένας δημόσιος οργανισμός επιστημονικής έρευνας. Καινοτομίες όπως η αρχιτεκτονική MLA τον Μάιο θα αντιγραφούν σύντομα από άλλες εταιρείες, σωστά;

Liang Wenfeng:υπάρχει Μπροστά στις τεχνολογίες που προκαλούν αναστάτωση, η τάφρο που σχηματίζεται από κλειστή πηγή είναι βραχύβια. Ακόμα κι αν το OpenAI είναι κλειστού κώδικα, δεν μπορεί να αποτρέψει την υπέρβασή του από άλλους.Ως εκ τούτου, καταθέτουμε αξία στην ομάδα Οι συνάδελφοί μας αναπτύσσονται στη διαδικασία, συσσωρεύουν πολλή τεχνογνωσία και σχηματίζουν έναν οργανισμό και μια κουλτούρα που μπορεί να καινοτομεί, που είναι η τάφρο μας.

Στην πραγματικότητα, τίποτα δεν πάει χαμένο από ανοιχτού κώδικα και δημοσιεύσεις. Για το τεχνικό επιτελείο, το να ακολουθούνται είναι μια μεγάλη αίσθηση ολοκλήρωσης. Στην πραγματικότητα, το ανοιχτό κώδικα μοιάζει περισσότερο με πολιτιστική συμπεριφορά παρά με εμπορική συμπεριφορά. Το να δίνεις είναι στην πραγματικότητα μια επιπλέον τιμή. Μια εταιρεία που το κάνει αυτό θα έχει επίσης πολιτιστική απήχηση.

"Υπόγειο ρεύμα": Τι πιστεύετε για τους πιστούς της αγοράς όπως ο Zhu Xiaohu;

Liang Wenfeng: Ο Zhu Xiaohu είναι συνεπής στον εαυτό του, αλλά το στυλ παιχνιδιού του είναι πιο κατάλληλο για εταιρείες που κερδίζουν χρήματα γρήγορα.

"Υπό ρεύμα": Αλλά όταν πρόκειται για μοντέλα μεγάλης κλίμακας, είναι δύσκολο να σχηματίσετε ένα απόλυτο πλεονέκτημα απλώς και μόνο με την πρωτοπορία στην τεχνολογία Ποιο είναι το μεγαλύτερο πράγμα στο οποίο στοιχηματίζετε;

Liang Wenfeng：Αυτό που βλέπουμε είναι ότι η κινεζική τεχνητή νοημοσύνη δεν μπορεί πάντα να είναι σε θέση να ακολουθεί. Λέμε συχνά ότι υπάρχει ένα κενό ενός ή δύο ετών μεταξύ της τεχνητής νοημοσύνης της Κίνας και των Ηνωμένων Πολιτειών, αλλά το πραγματικό χάσμα είναι η διαφορά μεταξύ πρωτοτυπίας και μίμησης. Εάν αυτό δεν αλλάξει, η Κίνα θα είναι πάντα οπαδός, επομένως ορισμένες εξερευνήσεις είναι αναπόφευκτες.

Η ηγεσία της NVIDIA δεν είναι μόνο οι προσπάθειες μιας εταιρείας, αλλά το αποτέλεσμα των κοινών προσπαθειών ολόκληρης της δυτικής τεχνολογικής κοινότητας και βιομηχανίας. Μπορούν να δουν την επόμενη γενιά των τάσεων της τεχνολογίας και να έχουν έναν οδικό χάρτη στα χέρια τους. Η ανάπτυξη της τεχνητής νοημοσύνης στην Κίνα απαιτεί επίσης ένα τέτοιο οικοσύστημα. Πολλά εγχώρια τσιπ δεν μπορούν να αναπτυχθούν λόγω της έλλειψης υποστηρικτικών τεχνικών κοινοτήτων και μόνο μεταχειρισμένων πληροφοριών. Επομένως, η Κίνα πρέπει να έχει κάποιον στην πρώτη γραμμή της τεχνολογίας.

Περισσότερες επενδύσεις δεν οδηγούν απαραίτητα σε περισσότερη καινοτομία

"Υπό ρεύμα": Το σημερινό DeepSeek έχει ένα είδος ιδεαλιστικής ιδιοσυγκρασίας από τις πρώτες μέρες του OpenAI, και είναι επίσης ανοιχτού κώδικα. Θα επιλέξετε κλειστό κώδικα στο μέλλον; Τόσο το OpenAI όσο και το Mistral έχουν περάσει από τη διαδικασία μετάβασης από ανοιχτού κώδικα σε κλειστό κώδικα.

Liang Wenfeng : Δεν θα κλείσουμε την πηγή. Πιστεύουμε ότι είναι πιο σημαντικό να έχουμε πρώτα ένα ισχυρό τεχνικό οικοσύστημα.

«Υπόγειο ρεύμα»: Έχετε κάποιο σχέδιο χρηματοδότησης; Σύμφωνα με δημοσιεύματα των μέσων ενημέρωσης, η Huanfang έχει σχέδια να κάνει spin off και να καταγράψει ανεξάρτητα τις νεοσύστατες εταιρείες τεχνητής νοημοσύνης στη Silicon Valley θα δεσμευτεί αναπόφευκτα με τους μεγάλους κατασκευαστές.

Liang Wenfeng: Δεν υπάρχει σχέδιο χρηματοδότησης βραχυπρόθεσμα Το πρόβλημα που αντιμετωπίζουμε δεν ήταν ποτέ τα χρήματα, αλλά το εμπάργκο των μάρκες υψηλής ποιότητας.

"Υπό ρεύμα": Πολλοί άνθρωποι πιστεύουν ότι η εκτέλεση AGI και η ποσοτικοποίηση είναι δύο εντελώς διαφορετικά πράγματα Η ποσοτικοποίηση μπορεί να γίνει αθόρυβα, αλλά η AGI μπορεί να απαιτεί περισσότερες προσπάθειες και συμμαχίες υψηλού επιπέδου, οι οποίες μπορούν να αυξήσουν την επένδυσή σας.

Liang Wenfeng : Περισσότερες επενδύσεις δεν παράγουν απαραίτητα περισσότερη καινοτομία. Διαφορετικά, οι μεγάλοι κατασκευαστές μπορούν να αναλάβουν όλες τις καινοτομίες.

«Υπό ρεύμα»: Δεν κάνεις εφαρμογές τώρα, μήπως επειδή δεν έχεις τα γονίδια για να λειτουργήσεις;

Liang Wenfeng : Πιστεύουμε ότι το τρέχον στάδιο είναι μια περίοδος έκρηξης της τεχνολογικής καινοτομίας, όχι μια περίοδος έκρηξης εφαρμογών. Μακροπρόθεσμα, ελπίζουμε να διαμορφώσουμε ένα οικοσύστημα στο οποίο η βιομηχανία θα χρησιμοποιεί άμεσα την τεχνολογία και την παραγωγή μας. Είμαστε υπεύθυνοι μόνο για βασικά μοντέλα και καινοτομίες αιχμής, και στη συνέχεια άλλες εταιρείες δημιουργούν επιχειρήσεις toB και toC με βάση το DeepSeek. Εάν μπορούμε να δημιουργήσουμε μια πλήρη βιομηχανία ανάντη και κατάντη, δεν χρειάζεται να κάνουμε εφαρμογές μόνοι μας. Φυσικά, αν χρειαστεί, δεν υπάρχει κανένα εμπόδιο για να το εφαρμόσουμε, αλλά η έρευνα και η τεχνολογική καινοτομία θα είναι πάντα η πρώτη μας προτεραιότητα.

"Υπό ρεύμα": Αλλά όταν πρόκειται να επιλέξετε API, γιατί να επιλέξετε το DeepSeek αντί για μεγάλους κατασκευαστές;

Liang Wenfeng: Ο μελλοντικός κόσμος είναι πιθανόν να είναι ένας εξειδικευμένος καταμερισμός εργασίας. Τα βασικά μοντέλα μεγάλης κλίμακας απαιτούν συνεχή καινοτομία.

«Υπό ρεύμα»: Μπορεί όμως η τεχνολογία να διευρύνει πραγματικά το χάσμα Είπατε επίσης ότι δεν υπάρχουν απόλυτα τεχνικά μυστικά;

Liang Wenfeng : Δεν υπάρχει μυστικό στην τεχνολογία, αλλά η επαναφορά απαιτεί χρόνο και κόστος. Θεωρητικά, οι κάρτες γραφικών της NVIDIA δεν έχουν κανένα τεχνικό μυστικό και είναι εύκολο να αντιγραφούν, αλλά χρειάζεται χρόνος για να αναδιοργανωθεί η ομάδα και να καλυφθεί η τεχνολογία επόμενης γενιάς, επομένως η πραγματική τάφρο είναι ακόμα πολύ μεγάλη.

"Υπό ρεύμα": Αφού μειώσετε την τιμή, το Byte ακολούθησε πρώτα, κάτι που δείχνει ότι εξακολουθούν να αισθάνονται κάποιου είδους απειλή. Πώς σας φαίνεται η νέα λύση για startups να ανταγωνιστούν μεγάλες εταιρείες;

Liang Wenfeng : Για να είμαι ειλικρινής, δεν μας ενδιαφέρει πολύ αυτό το θέμα, απλώς το κάναμε. Η παροχή υπηρεσιών cloud δεν είναι ο κύριος στόχος μας. Στόχος μας εξακολουθεί να είναι η επίτευξη του AGI.

Δεν έχω δει νέες λύσεις μέχρι στιγμής, αλλά οι μεγάλοι κατασκευαστές δεν έχουν ούτε ένα σαφές πλεονέκτημα. Οι μεγάλοι κατασκευαστές έχουν έτοιμους χρήστες, αλλά οι ταμειακές ροές τους είναι επίσης ένα βάρος, γεγονός που τους καθιστά ευάλωτους σε ανατροπή ανά πάσα στιγμή.

"Undercurrent": Πώς πιστεύετε για το αποτέλεσμα των έξι startup μεγάλων μοντέλων εκτός από το DeepSeek;

Liang Wenfeng : Ίσως επιβιώσουν 2 ή 3 οικογένειες. Είμαστε ακόμα στο στάδιο της καύσης χρημάτων, επομένως όσοι έχουν σαφή αυτο-τοποθέτηση και πιο εκλεπτυσμένες λειτουργίες έχουν περισσότερες πιθανότητες να επιβιώσουν. Άλλες εταιρείες μπορεί να επανεφευρεθούν. Τα πράγματα που έχουν αξία δεν θα εξαφανιστούν, αλλά θα αλλάξουν.

«Υπόγειο ρεύμα»: Στην εποχή του μαγικού τετραγώνου, η στάση απέναντι στον ανταγωνισμό αξιολογούνταν ως «ακολουθεί το δρόμο του» και σπάνια δίνει σημασία σε οριζόντιες συγκρίσεις. Όσον αφορά τον ανταγωνισμό, ποια είναι η αφετηρία της σκέψης σας;

Liang Wenfeng : Αυτό που σκέφτομαι συχνά είναι εάν ένα πράγμα μπορεί να κάνει την κοινωνία πιο αποτελεσματική και αν μπορείτε να βρείτε μια θέση όπου να είστε καλοί σε αυτό στη βιομηχανική αλυσίδα της εργασίας της. Εφόσον το τελικό αποτέλεσμα είναι να γίνει η κοινωνία πιο αποτελεσματική, ισχύει. Υπάρχουν πολλά στάδια ενδιάμεσα και η υπερβολική προσοχή αναπόφευκτα θα σας ζαλίσει.

Μια παρέα νέων που κάνει «ανεξιχνίαστα» πράγματα

"Undercurrent": Ο Jack Clark, πρώην διευθυντής πολιτικής του OpenAI και συνιδρυτής του Anthropic, πιστεύει ότι το DeepSeek προσέλαβε "μια ομάδα απρόβλεπτων μάγων".

Liang Wenfeng: Δεν υπάρχουν μυστηριώδεις ιδιοφυΐες, είναι όλοι πρόσφατοι απόφοιτοι κορυφαίων πανεπιστημίων, ασκούμενοι με διδακτορικό 4 και 5 που δεν έχουν αποφοιτήσει και κάποιοι νέοι που έχουν αποφοιτήσει μόλις πριν από λίγα χρόνια.

"Υπόγειο ρεύμα": Πολλές μεγάλες εταιρείες μοντέλων είναι επίμονες στη λαθροθηρία στο εξωτερικό Πολλοί άνθρωποι πιστεύουν ότι τα 50 κορυφαία ταλέντα σε αυτόν τον τομέα μπορεί να μην βρίσκονται σε κινεζικές εταιρείες

Liang Wenfeng : Δεν υπάρχουν άνθρωποι που επέστρεψαν από το εξωτερικό στο μοντέλο V2, είναι όλοι ντόπιοι. Τα κορυφαία 50 ταλέντα μπορεί να μην βρίσκονται στην Κίνα, αλλά ίσως μπορούμε να φτιάξουμε τέτοιους ανθρώπους μόνοι μας.

"Υπόγειο ρεύμα": Πώς συνέβη αυτή η καινοτομία MLA; Άκουσα ότι η ιδέα προήλθε αρχικά από το προσωπικό ενδιαφέρον ενός νεαρού ερευνητή;

Liang Wenfeng : Αφού συνόψισε ορισμένες κύριες αλλαγές στην αρχιτεκτονική Προσοχή, θέλησε ξαφνικά να σχεδιάσει μια εναλλακτική. Ωστόσο, είναι μια μακρά διαδικασία από την ιδέα μέχρι την υλοποίηση. Φτιάξαμε μια ομάδα για αυτό και μας πήρε αρκετούς μήνες για να το ξεπεράσουμε.

"Υπό ρεύμα": Η γέννηση αυτής της αποκλίνουσας έμπνευσης σχετίζεται στενά με τη δομή του εντελώς καινοτόμου οργανισμού σας. Στην εποχή του Magic Square, σπάνια αναθέτετε στόχους ή εργασίες από πάνω προς τα κάτω. Αλλά η AGI, μια εξερεύνηση συνόρων γεμάτη αβεβαιότητα, απαιτεί περισσότερες διαχειριστικές ενέργειες;

Liang Wenfeng : Το DeepSeek είναι επίσης από κάτω προς τα πάνω. Επιπλέον, γενικά δεν προτάσσουμε τον καταμερισμό εργασίας, αλλά τον φυσικό καταμερισμό εργασίας. Ο καθένας έχει τη δική του μοναδική εμπειρία ανάπτυξης και έρχεται με τις δικές του ιδέες, επομένως δεν χρειάζεται να τους πιέσετε. Κατά τη διαδικασία εξερεύνησης, όταν αντιμετωπίζει προβλήματα, θα καλεί άλλους να τα συζητήσουν. Αλλά όταν μια ιδέα δείχνει δυνατότητες, θα διαθέσουμε πόρους από πάνω προς τα κάτω.

"Υπό ρεύμα": Άκουσα ότι το DeepSeek είναι πολύ ευέλικτο στην κινητοποίηση καρτών και ανθρώπων.

Liang Wenfeng : Καθένας από εμάς δεν έχει ανώτατο όριο στη μεταφορά καρτών και ατόμων. Εάν έχετε μια ιδέα, όλοι μπορούν να καλέσουν την κάρτα του προπονητικού συμπλέγματος ανά πάσα στιγμή χωρίς έγκριση. Ταυτόχρονα, επειδή δεν υπάρχουν ιεραρχίες και διατμήματα, μπορούν να κληθούν ευέλικτα όλοι αρκεί να ενδιαφέρεται και το άλλο μέρος.

"Υπό ρεύμα": Μια χαλαρή μέθοδος διαχείρισης εξαρτάται επίσης από την επιλογή μιας ομάδας ανθρώπων που οδηγούνται από ισχυρή αγάπη. Άκουσα ότι είστε πολύ καλοί στο να προσλαμβάνετε άτομα με βάση λεπτομέρειες και μπορείτε να επιλέξετε μερικά εξαιρετικά άτομα με βάση μη παραδοσιακούς δείκτες αξιολόγησης.

Liang Wenfeng : Τα κριτήριά μας για την επιλογή ανθρώπων ήταν πάντα η αγάπη και η περιέργεια, έτσι πολλοί άνθρωποι θα έχουν μερικές μοναδικές εμπειρίες, κάτι που είναι πολύ ενδιαφέρον. Πολλοί άνθρωποι επιθυμούν να κάνουν έρευνα πολύ περισσότερο από ό,τι ενδιαφέρονται για τα χρήματα.

"Undercurrent": Ο Transformer γεννήθηκε στο AI Lab της Google και το ChatGPT γεννήθηκε στο OpenAI Ποια πιστεύετε ότι είναι η διαφορά στην αξία της καινοτομίας μεταξύ του AILab μιας μεγάλης εταιρείας και μιας startup εταιρείας;

Liang Wenfeng : Είτε πρόκειται για Εργαστήρια Google, OpenAI, είτε ακόμη και για εργαστήρια τεχνητής νοημοσύνης μεγάλων κινεζικών εταιρειών, είναι όλα πολύτιμα. Στο τέλος, το OpenAI τα κατάφερε και ήταν επίσης ένα ιστορικό ατύχημα.

«Υπόγειο ρεύμα»: Είναι η καινοτομία σε μεγάλο βαθμό ένα ατύχημα; Βλέπω ότι η σειρά των αιθουσών συνεδριάσεων στη μέση του χώρου του γραφείου σας έχει πόρτες στα αριστερά και δεξιά που μπορούν να ανοίξουν κατά βούληση. Οι συνάδελφοί σας είπαν ότι αυτό είναι για να αφήσει περιθώριο στην τύχη. Στη γέννηση του μετασχηματιστή, υπήρχε μια ιστορία όπου άνθρωποι που περνούσαν τυχαία άκουσαν γι 'αυτό και συμμετείχαν, μετατρέποντάς το τελικά σε ένα παγκόσμιο πλαίσιο.

Liang Wenfeng : Νομίζω ότι η καινοτομία είναι πρώτα απ' όλα θέμα πίστης. Γιατί η Silicon Valley είναι τόσο πρωτοποριακή; Το πρώτο είναι να τολμήσεις. Όταν κυκλοφόρησε το Chatgpt, ολόκληρη η χώρα δεν είχε εμπιστοσύνη στην καινοτομία αιχμής Από τους επενδυτές μέχρι τους μεγάλους κατασκευαστές, όλοι ένιωθαν ότι το χάσμα ήταν πολύ μεγάλο, επομένως θα έπρεπε απλώς να κάνουν αιτήσεις. Αλλά η καινοτομία απαιτεί πρώτα εμπιστοσύνη. Αυτή η αυτοπεποίθηση είναι συνήθως πιο έντονη στα νεότερα άτομα.

"Υπό ρεύμα": Αλλά δεν συμμετέχετε στη χρηματοδότηση, σπάνια μιλάτε ανοιχτά στον έξω κόσμο και η κοινωνική σας φωνή σίγουρα δεν είναι τόσο καλή όσο εκείνες οι εταιρείες που δραστηριοποιούνται στη χρηματοδότηση Πώς μπορείτε να διασφαλίσετε ότι το DeepSeek είναι η πρώτη επιλογή άτομα που θέλουν να κατασκευάσουν μεγάλα μοντέλα;

Liang Wenfeng: Γιατί κάνουμε το πιο δύσκολο πράγμα.Αυτό που προσελκύει περισσότερο τα κορυφαία ταλέντα είναι σίγουρα η επίλυση των πιο δύσκολων προβλημάτων του κόσμου. Στην πραγματικότητα, τα κορυφαία ταλέντα υποτιμώνται στην Κίνα. Επειδή υπάρχουν πολύ λίγες σκληροπυρηνικές καινοτομίες σε ολόκληρο το κοινωνικό επίπεδο, δεν έχουν καμία πιθανότητα να εντοπιστούν. Κάνουμε το πιο δύσκολο πράγμα, που είναι ελκυστικό για αυτούς.

"Undercurrent": Η κυκλοφορία του OpenAI πριν από λίγο καιρό δεν περίμενε το GPT5.

Liang Wenfeng : Είμαστε αισιόδοξοι και ολόκληρος ο κλάδος φαίνεται να είναι σύμφωνος με τις προσδοκίες. Το OpenAI δεν είναι θεός και δεν μπορεί να είναι πάντα στην πρώτη γραμμή.

"Undercurrent": Πόσος χρόνος πιστεύετε ότι θα χρειαστεί για να πραγματοποιηθεί το AGI Προτού κυκλοφορήσετε το DeepSeek V2, κυκλοφόρησες τη δημιουργία κωδικών και μαθηματικών μοντέλων, καθώς και ποιες είναι οι συντεταγμένες του οδικού χάρτη AGI;

Liang Wenfeng : Μπορεί να είναι 2 χρόνια, 5 χρόνια ή 10 χρόνια, εν ολίγοις, θα πραγματοποιηθεί στη ζωή μας. Όσον αφορά τον οδικό χάρτη, ακόμη και εντός της εταιρείας μας, δεν υπάρχει συναίνεση. Αλλά ποντάραμε σε τρεις κατευθύνσεις. Το ένα είναι τα μαθηματικά και ο κώδικας, το δεύτερο είναι η πολυτροπικότητα και το τρίτο είναι η ίδια η φυσική γλώσσα. Τα μαθηματικά και ο κώδικας είναι το φυσικό πεδίο δοκιμών για το AGI Είναι ένα κλειστό και επαληθεύσιμο σύστημα και είναι δυνατό να επιτευχθεί υψηλή νοημοσύνη μέσω της αυτομάθησης. Από την άλλη πλευρά, η πολυτροπική μάθηση που εμπλέκει τους ανθρώπους στον πραγματικό κόσμο μπορεί επίσης να είναι απαραίτητη για το AGI. Είμαστε ανοιχτοί σε όλα τα ενδεχόμενα.

«Υπόγειο ρεύμα»: Πώς πιστεύεις ότι θα είναι το τέλος του μεγάλου μοντέλου;

Liang Wenfeng : Θα υπάρχουν εξειδικευμένες εταιρείες που θα παρέχουν βασικά μοντέλα και βασικές υπηρεσίες και θα υπάρχει μια μακρά αλυσίδα επαγγελματικού καταμερισμού εργασίας. Περισσότεροι άνθρωποι μπορούν να ανταποκριθούν στις διαφορετικές ανάγκες της κοινωνίας στο σύνολό της.

Όλες οι ρουτίνες είναι προϊόντα της προηγούμενης γενιάς

"Υπό ρεύμα": Τον περασμένο χρόνο, υπήρξαν πολλές αλλαγές στη μεγάλη επιχειρηματικότητα μοντέλου της Κίνας. Για παράδειγμα, ο Wang Huiwen, ο οποίος δραστηριοποιήθηκε στις αρχές του περασμένου έτους, αποχώρησε από την εταιρεία μεσοπρόθεσμα και οι εταιρείες στις οποίες προσχώρησε αργότερα. άρχισε να δείχνει διαφοροποίηση.

Liang Wenfeng : Ο Wang Huiwen πήρε μόνος του όλες τις απώλειες και άφησε τους άλλους να ξεφύγουν αλώβητοι. Έκανε μια επιλογή που ήταν πιο επιζήμια για τον εαυτό του, αλλά καλύτερη για όλους, επομένως είναι ένα πολύ ευγενικό άτομο, το οποίο θαυμάζω πολύ.

«Υπόγειο ρεύμα»: Πού εστιάζεις το μεγαλύτερο μέρος της ενέργειάς σου τώρα;

Liang Wenfeng : Η κύρια εστίαση είναι στην έρευνα της επόμενης γενιάς μεγάλων μοντέλων. Υπάρχουν ακόμη πολλά αναπάντητα ερωτήματα.

"Υπό ρεύμα": Αρκετές άλλες μεγάλες νεοσύστατες επιχειρήσεις επιμένουν να έχουν και τα δύο. Εξάλλου, η τεχνολογία δεν θα φέρει μόνιμα ηγετικά στοιχεία επειδή η ικανότητα του μοντέλου δεν είναι αρκετή;

Liang Wenfeng : Όλες οι ρουτίνες είναι προϊόντα της προηγούμενης γενιάς και ενδέχεται να μην ισχύουν στο μέλλον. Χρησιμοποιήστε την επιχειρηματική λογική του Διαδικτύου για να συζητήσετε το μελλοντικό μοντέλο κέρδους της τεχνητής νοημοσύνης, όπως όταν ο Ma Huateng ξεκίνησε την επιχείρησή του, συζητούσατε την General Electric και την Coca-Cola. Είναι πιθανώς ένα είδος σκαλίσματος μιας βάρκας για να αναζητήσετε ένα σπαθί.

"Υπόγειο ρεύμα": Στο παρελθόν, το Huanfang είχε ισχυρά γονίδια τεχνολογίας και καινοτομίας και η ανάπτυξή του ήταν σχετικά ομαλή. Γι' αυτό είστε αισιόδοξος;

Liang Wenfeng : Το Magic Square έχει ενισχύσει την εμπιστοσύνη μας στην καινοτομία που βασίζεται στην τεχνολογία σε κάποιο βαθμό, αλλά δεν είναι πάντα ομαλός δρόμος. Έχουμε περάσει από μια μακρά διαδικασία συσσώρευσης. Αυτό που βλέπουμε απ' έξω είναι το κομμάτι της Μαγικής Πλατείας μετά το 2015, αλλά στην ουσία το κάνουμε εδώ και 16 χρόνια.

"Υπόγειο ρεύμα": Επιστροφή στο θέμα της αρχικής καινοτομίας. Τώρα που η οικονομία έχει εισέλθει σε ύφεση και το κεφάλαιο έχει εισέλθει σε έναν ψυχρό κύκλο, θα επιφέρει περισσότερους περιορισμούς στην αρχική καινοτομία;

Liang Wenfeng : Δεν νομίζω. Η προσαρμογή της βιομηχανικής δομής της Κίνας θα βασίζεται περισσότερο στην καινοτομία σε τεχνολογίες σκληρού πυρήνα. Όταν πολλοί άνθρωποι ανακαλύπτουν ότι το να βγάλουν γρήγορα χρήματα στο παρελθόν ήταν πιθανό λόγω της τύχης των καιρών, θα είναι πιο πρόθυμοι να στηριχτούν και να κάνουν πραγματική καινοτομία.

«Υπόγειο ρεύμα»: Δηλαδή είστε και εσείς αισιόδοξος για αυτό το θέμα;

Liang Wenfeng : Μεγάλωσα σε μια πόλη πέμπτης κατηγορίας στο Γκουανγκντόνγκ τη δεκαετία του 1980. Ο πατέρας μου είναι δάσκαλος στο δημοτικό σχολείο τη δεκαετία του 1990, υπήρχαν πολλές ευκαιρίες για να βγάλω χρήματα στο Γκουανγκντόνγκ. Αλλά κοιτάζοντας πίσω τώρα, οι ιδέες μου έχουν αλλάξει. Επειδή είναι δύσκολο να βγάλω χρήματα, μπορεί να μην έχω καν την ευκαιρία να οδηγήσω ταξί. Αυτό αλλάζει σε μια γενιά.

Θα υπάρχουν όλο και περισσότερες σκληροπυρηνικές καινοτομίες στο μέλλον. Μπορεί να μην είναι εύκολο να το καταλάβουμε τώρα γιατί ολόκληρη η κοινωνική ομάδα πρέπει να εκπαιδευτεί για τα γεγονότα. Όταν αυτή η κοινωνία επιτρέπει στους σκληροπυρηνικούς καινοτόμους ανθρώπους να γίνουν επιτυχημένοι, η ομαδική σκέψη θα αλλάξει.Χρειαζόμαστε απλώς ένα σωρό γεγονότα και μια διαδικασία.