νέα

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

τι συνέβη με το openai;

το openai, το οποίο έχει εμπλακεί σε μια θύελλα παραιτήσεων στελεχών, έχει πρόσφατα πυροδοτήσει τον ενθουσιασμό των μαζών.

από τη μια πλευρά, αποκαλύφθηκε ότι η αποτίμηση μετά την επένδυση έφτασε τα 150 δισεκατομμύρια δολάρια, καθιστώντας το το πιο όμορφο κουτάβι μεταξύ των παγκόσμιων μονόκερων τεχνητής νοημοσύνης ο μόνος επιχειρηματίας που έχει απομείνει στο γραφείο είναι ο άλτμαν. αυτός είναι ένας εργένης διοικητής.

εικόνα μέσω @blizaine

οι παραιτήσεις στελεχών είναι κοινές σε κάθε εταιρεία τεχνητής νοημοσύνης, αλλά το διαφορετικό είναι ότι η «δικαστική μάχη» που έλαβε χώρα στο openai πέρυσι έδωσε αναμφίβολα σε αυτή τη θύελλα ένα στρώμα θεωρίας συνωμοσίας.

σύντομα, τα ξένα μέσα ενημέρωσης the information αποκάλυψαν την εσωτερική ιστορία του κύκλου εργασιών των εργαζομένων του openai.

ως συνήθως, ας μιλήσουμε πρώτα για το συμπέρασμα, το κύμα παραιτήσεων του openai μπορεί να χωριστεί κατά προσέγγιση σε δύο λόγους.πρώτον, τα στελέχη ένιωσαν αδικημένα και δεύτερον, δεν τους δόθηκαν αρκετά χρήματα.

νιώθω αδικημένος

είναι δύσκολο να φανταστεί κανείς ότι η κοινή γνώμη θα μπορούσε να αλλάξει τόσο γρήγορα για το ίδιο θέμα.

πέρυσι, ο διευθύνων σύμβουλος του openai sam altman έπαιζε ακόμα τον ρόλο του "wei guangzheng" στο "palace fight" εκείνη την εποχή, τα περισσότερα μέσα ενημέρωσης βαθμολόγησαν τον τιμονιέρη ως τον steve jobs της ai και μάλιστα τοποθετήθηκε στη θέση 2.0 μετά. ο jobs απομακρύνθηκε.

φέτος, καθώς ένας μεγάλος αριθμός στελεχών του openai έφευγαν το ένα μετά το άλλο, η κοινή γνώμη ξαφνικά στράφηκε στον altman.

οι φίλοι που δεν γνωρίζουν για αυτό το θέμα μπορούν να κάνουν κλικ για να διαβάσουν την χθεσινή μας αναφορά - δεν είναι πια ανοιχτό το openai; αναδιάρθρωση εταιρείας, σεισμός πολυώροφων, αλλά δεν είναι τόσο κακό

για να το θέσουμε απλά, τις πρώτες πρωινές ώρες χθες, η mira murati, η επικεφαλής τεχνολογίας του openai, ανακοίνωσε ξαφνικά την παραίτησή της.

λίγες ώρες αφότου ο murati ανακοίνωσε την παραίτησή του, ο επικεφαλής έρευνας του openai bob mcgrew και ο αντιπρόεδρος έρευνας barret zoph ανακοίνωσαν επίσης τα σχέδιά τους για παραίτηση.

εκείνη την εποχή, ο altman υπαινίχθηκε επίσης στην πλατφόρμα x ότι η mira, ο bob και ο barret έπαιρναν αυτές τις αποφάσεις ανεξάρτητα και φιλικά.σημειώστε ότι εδώ δίνεται έμφαση στο «ανεξάρτητο και φιλικό».

στην πραγματικότητα, το κύμα παραιτήσεων στο openai μπορεί να έχει να κάνει και με τον άλτμαν, τον άνθρωπο στο τιμόνι.

ξένα μέσα ενημέρωσης the information ανέφεραν ότι κάποιοι που συνεργάζονται απευθείας με τον altman ή τους αναπληρωτές του το πιστεύουνο άλτμαν τείνει να επιτείνει τους αγώνες εξουσίας μέσα στην εταιρεία.

όταν η ηγεσία της εταιρείας ζήτησε πρόσθετες προσλήψεις ή πόρους, ο altman απέφευγε να πάρει αυτές τις δύσκολες αποφάσεις, τόσο πολύ που άλλα στελέχη, όπως οι σημερινοί πρόεδροι brockman και murati, έπρεπε μερικές φορές να αναλάβουν αυτόν τον ρόλο.

τον μάιο, ο jan leike, ένας από τους πρώην ηγέτες της ομάδας super alignment στο openai, ανακοίνωσε επίσημα την παραίτησή του.

την ημέρα της παραίτησής του, ο jan leike δημοσίευσε πάνω από δέκα «μικρά δοκίμια» θυμωμένος.το νοητικό ταξίδι στοχεύει τα openai και altman, οι λέξεις γεμίζουν εντελώς απογοήτευση.

χθες ήταν η τελευταία μου μέρα ως επικεφαλής υπερ-ευθυγράμμισης, ανώτερη ηγεσία και μέλος της εκτελεστικής σουίτας στο openai.

η ομάδα μου βρίσκεται σε ένα πολύ συναρπαστικό ταξίδι τα τελευταία 3 περίπου χρόνια. παρουσιάζουμε το instructgpt, το πρώτο μεγάλο γλωσσικό μοντέλο (llm) που εκπαιδεύεται με ενισχυτική μάθηση με ανθρώπινη ανάδραση (rlhf), δημοσιεύουμε την πρώτη κλιμακούμενη εποπτευόμενη μελέτη για μεγάλα γλωσσικά μοντέλα και εργασίες για την αυτοματοποιημένη ερμηνευτικότητα και έχουν επιτευχθεί πρωτοποριακά αποτελέσματα αδύναμα προς ισχυρά σε γενίκευση. περισσότερα συναρπαστικά ερευνητικά αποτελέσματα θα ανακοινωθούν σύντομα.

αγαπώ πολύ την ομάδα μου. είμαι απίστευτα ευγνώμων που συνεργάζομαι με τόσους πολλούς σπουδαίους ανθρώπους, τόσο εντός της ομάδας super alignment όσο και με συνεργάτες εκτός της ομάδας. το openai φιλοξενεί απίστευτα έξυπνους, φιλικούς και αποτελεσματικούς ανθρώπους.

το να εγκαταλείψω αυτή τη δουλειά ήταν μια από τις πιο δύσκολες αποφάσεις της ζωής μου, επειδή πρέπει να βρούμε γρήγορα τρόπους να καθοδηγήσουμε και να ελέγξουμε συστήματα τεχνητής νοημοσύνης που είναι πολύ πιο έξυπνα από εμάς.

επέλεξα να συμμετάσχω στο openai γιατί πιστεύω ότι είναι το καλύτερο μέρος στον κόσμο για τη διεξαγωγή αυτής της έρευνας. ωστόσο, είχα μακροχρόνιες διαφωνίες με την ηγεσία του openai σχετικά με τις βασικές αναπτυξιακές προτεραιότητες της εταιρείας και οι διαφορές μας τελικά αυξήθηκαν σε σημείο που ήταν ασυμβίβαστες.

πιστεύω ακράδαντα ότι πρέπει να επενδύσουμε περισσότερους πόρους και ενέργεια για την προετοιμασία για τη νέα γενιά μοντέλων ai, συμπεριλαμβανομένης της ασφάλειας, της παρακολούθησης, της ετοιμότητας έκτακτης ανάγκης, της έρευνας ασφαλείας, της ευρωστίας σε επιθέσεις αντιπάλου, των ζητημάτων ευθυγράμμισης τεχνητής νοημοσύνης, της έρευνας για το απόρρητο, των κοινωνικών επιπτώσεων κ.λπ.

αυτά τα προβλήματα είναι πολύ περίπλοκα και δύσκολο να λυθούν, και ανησυχώ ότι η τρέχουσα αναπτυξιακή μας πορεία δεν θα επιτύχει με επιτυχία τους στόχους μας.

η ομάδα μου αντιμετωπίζει τεράστιες προκλήσεις τους τελευταίους μήνες.κατά καιρούς δυσκολευτήκαμε να αποκτήσουμε επαρκείς υπολογιστικούς πόρους, καθιστώντας όλο και πιο δύσκολη την ολοκλήρωση αυτής της κρίσιμης έρευνας.

η δημιουργία μηχανών που ξεπερνούν την ανθρώπινη νοημοσύνη είναι εγγενώς επικίνδυνο εγχείρημα. το openai αναλαμβάνει αυτή την τεράστια ευθύνη εκ μέρους όλης της ανθρωπότητας. ωστόσο, τα τελευταία χρόνια, η κουλτούρα και οι διαδικασίες ασφάλειας έχουν περιθωριοποιηθεί στην επιδίωξη μιας συναρπαστικής ανάπτυξης προϊόντων.

είναι καιρός να λάβουμε πολύ σοβαρά υπόψη τον εκτεταμένο αντίκτυπο της τεχνητής γενικής νοημοσύνης (agi). πρέπει να κάνουμε ό,τι καλύτερο μπορούμε για να δώσουμε προτεραιότητα στην προετοιμασία για το agi. μόνο με αυτόν τον τρόπο μπορούμε να διασφαλίσουμε ότι η γενική τεχνητή νοημοσύνη μπορεί να ωφελήσει όλη την ανθρωπότητα.

η openai πρέπει να μετατραπεί σε μια γενική εταιρεία τεχνητής νοημοσύνης που βάζει την ασφάλεια πρώτα.

θέλω να πω σε όλους τους υπαλλήλους του openai: μάθετε να αισθάνεστε για την τεχνητή γενική νοημοσύνη (agi). ενεργήστε με σοβαρότητα αντάξια αυτού που χτίζετε. πιστεύω ότι μπορείτε να "ξεκινήσετε" την πολιτιστική αλλαγή που απαιτείται. βασίζομαι σε σένα. όλος ο κόσμος υπολογίζει σε σας. :openai-heart:

η helen toner, μια από τις κινητήριες δυνάμεις πίσω από την επακόλουθη «πυροβολία» του altman, αποκάλυψε επίσης περισσότερες εσωτερικές πληροφορίες στον έξω κόσμο.

είπε ότι στον altman αρέσει να «κόβει πρώτα και μετά να το λέει αργότερα» όταν πρόκειται για θέματα ασφάλειας της εταιρείας:

σε πολλές περιπτώσεις, μας παρείχε ανακριβείς πληροφορίες σχετικά με τις επίσημες διαδικασίες ασφαλείας που είχε εφαρμόσει η εταιρεία.

αυτό σημαίνει ότι είναι ουσιαστικά αδύνατο για την πλακέτα να γνωρίζει πόσο καλά λειτουργούν αυτές οι διαδικασίες ασφαλείας ή ποιες αλλαγές μπορεί να χρειαστούν.

όσο για το γιατί ο άλτμαν επέστρεψε στο διοικητικό συμβούλιο εν μέσω της υποστήριξης των εργαζομένων, η έλεν είπε:

οι αναφορές των μέσων ενημέρωσης ήταν λάθος και πολλοί υπάλληλοι πίστευαν ότι το openai θα «καταστραφεί» εάν ο άλτμαν δεν επέστρεφε στο διοικητικό συμβούλιο.

πολλοί εργαζόμενοι δεν θέλουν να καταρρεύσει η εταιρεία, δεν θέλουν να χάσουν τη δουλειά τους και πρέπει να ρευστοποιήσουν τα ίδια κεφάλαιά τους.

οι εργαζόμενοι φοβούνται την αντίθεση με τον άλτμαν και φοβούνται αντίποινα εάν ο άλτμαν επιστρέψει στην εξουσία

ο άλτμαν έχει ιστορικό απόλυσης και κατηγορίας για ανάρμοστη συμπεριφορά

οι παραπάνω πληροφορίες μπορεί επίσης να μας επιτρέψουν να δούμε έναν πιο «τρισδιάστατο» άλτμαν.

επιπλέον, ένα άτομο που γνωρίζει το θέμα είπε ότι ο brockman και ο murati συχνά διαφωνούσαν σχετικά με τα σχέδια ανάπτυξης ai της εταιρείας.

αν και ο brockman, ως πρόεδρος της εταιρείας, είναι συνήθως υπεύθυνος για τον συνολικό στρατηγικό σχεδιασμό και τη λήψη αποφάσεων της εταιρείας, εμπλέκεται επίσης σε συγκεκριμένα έργα, όπως η μετατροπή των πρώιμων αποτελεσμάτων έρευνας ai σε πρακτικά πρωτότυπα προϊόντων.

αυτός ο αλληλοεπικαλυπτόμενος ρόλος τόσο του λήπτη αποφάσεων όσο και του εκτελεστή μπορεί εύκολα να οδηγήσει σε διαφωνίες με τις απόψεις και τα σχέδια του murati και της τεχνικής του ομάδας.

στο πιο σημαντικό συνέδριο του openai φέτος, ο murati υποστήριξε την κυκλοφορία του νέου μοντέλου gpt-4o.

αυτός είναι επίσης ένας σημαντικός ρόλος που έχει παίξει η murati στο παρελθόν, ο οποίος είναι να επιλύει τις διαφορές μεταξύ των ομάδων ασφάλειας και προϊόντων της εταιρείας πριν και μετά την κυκλοφορία των προϊόντων.

οι υπολογιστικοί πόροι είναι κρίσιμοι για την έρευνα της τεχνητής νοημοσύνης και ο πρώην στέλεχος mcgrew ήταν υπεύθυνος για την έγκριση των αιτημάτων των ερευνητών για πρόσθετους υπολογιστικούς πόρους. ο murati και ο mcgrew συμμετείχαν από κοινού σε αποφάσεις σχετικά με την ιεράρχηση προτεραιοτήτων και την επιλογή έργων των ερευνητικών περιοχών openai.

σύμφωνα με αναφορές, στη συνάντηση μετά την ανακοίνωση της παραίτησής του, ο mcgrew, ο οποίος εργαζόταν στο openai για σχεδόν οκτώ χρόνια, είπε στους συναδέλφους του ότι ένιωθε κουρασμένος και αποκάλυψε ότι παρόλο που είχε πισίνα στο σπίτι, είχε σπάνια την ευκαιρία να χρησιμοποιήσει λόγω δουλειάς.

και ορισμένοι υπάλληλοι είπαν ότι ο altman, που αγαπά την «πίεση», ωθεί επίσης μανιωδώς την ομάδα της εταιρείας να μετατρέψει τα πρωτοποριακά αποτελέσματα έρευνας σε προϊόντα το συντομότερο δυνατό, και είναι συνηθισμένο να εργάζεται μέρα και νύχτα.

αντιμέτωποι με τέτοια ένταση, ακόμη και στελέχη όπως ο murati και ο mcgrew αισθάνονται εξαντλημένοι.

σήμερα, με την αποχώρηση τεχνολογικών κολοσσών όπως ο mira και ο mcgrew, αυτό αναμένεται επίσης να έχει σημαντικό αντίκτυπο στη θέση του openai στον μεγάλο διαγωνισμό μοντέλων, ειδικά αφού το openai βρίσκεται στο στάδιο ανάπτυξης του μοντέλου orion της επόμενης γενιάς.

δεν υπάρχουν αρκετά χρήματα

στα τέλη του περασμένου έτους, το openai είχε μόνο περίπου 770 υπαλλήλους και μέχρι τώρα, ο αριθμός αυτός έχει ξεπεράσει τους 1.600.

η ταχέως αναπτυσσόμενη openai γίνεται μια μεγάλη εταιρεία που επικεντρώνεται ολοένα και περισσότερο στο να βγάζει χρήματα.

στο παρελθόν, πολλοί ερευνητές τεχνητής νοημοσύνης στον κλάδο ήθελαν να εργαστούν στο openai, επειδή επέτρεπε σε μικρές ομάδες λίγων ατόμων να εξερευνήσουν ερευνητικές ιδέες που δεν είχαν ακόμη αποδειχθεί.

αλλά τώρα, ο άλτμαν έχει να κάνει με το να κερδίζει χρήματα, να βγάζει χρήματα και να βγάζει χρήματα. η κυκλοφορία νέων προϊόντων που αποφέρουν χρήματα ή η βελτίωση της τεχνολογίας του chatgpt, του βασικού πυλώνα των κερδών, έχει γίνει η πρώτη του προτεραιότητα.

ο ερευνητικός οργανισμός futuresearch επισήμανε κάποτε ότι τα ετήσια επαναλαμβανόμενα έσοδα του openai έφτασαν τα 3,4 δισεκατομμύρια δολάρια ηπα. το 84% των εσόδων προέρχεται από χρήστες επί πληρωμή chatgpt, ενώ τα έσοδα από τη διεπαφή api αντιστοιχούν μόνο στο 15%.

καθώς η φήμη και η αποτίμηση του openai εκτινάσσονται στα ύψη, οι βασικοί ερευνητές είναι επίσης απρόθυμοι να παράγουν ηλεκτρική ενέργεια για αγάπη και φυσικά ελπίζουν να λάβουν περισσότερη αμοιβή.

σύμφωνα με την έκθεση, τα τελευταία χρόνια, υπάλληλοι του openai και πρώην υπάλληλοι έχουν εξαργυρώσει συνολική αξία άνω των 1,2 δισεκατομμυρίων δολαρίων πουλώντας τα «μερίδια κέρδους» τους (δηλαδή τα κέρδη που αποκομίζει η εταιρεία αφού βγάλει χρήματα) σε άλλους επενδυτές.

καθώς η τεχνολογία του openai συνεχίζει να προοδεύει, ορισμένοι ταλαντούχοι υπάλληλοι εξακολουθούν να ελπίζουν να λάβουν περισσότερη αποζημίωση, ακόμη και να φωνάζουν να εγκαταλείψουν την εταιρεία για χρήματα και άλλους λόγους.

ο μουράτι και άλλα στελέχη, όπως η οικονομική διευθύντρια σάρα φρίαρ, η οποία ανέλαβε τον ιούνιο, ασχολήθηκαν με αυτά τα θέματα τον περασμένο χρόνο.

επιπλέον, ανταγωνιστές όπως η safe super intelligence, μια startup τεχνητής νοημοσύνης που ιδρύθηκε από τον ilya sutskever, τον πρώην επικεφαλής επιστήμονα του openai, προσλαμβάνουν επίσης και το τεχνικό προσωπικό του openai είναι προφανώς περιζήτητο.

σύμφωνα με την έκθεση, ενόψει του «σκάσει» από παλιούς αντιπάλους, προκειμένου να διατηρήσει τους ερευνητές, η ηγεσία του openai δεν μπορεί παρά να υποσχεθεί βαριές πληρωμές και οφέλη.

τον μάιο του τρέχοντος έτους, αποκαλύφθηκε ότι το openai ανάγκασε τους αποχωρούντες υπαλλήλους να υπογράψουν εξαιρετικά σκληρές συμφωνίες απόλυσης.

αυτή η συμφωνία τους απαγορεύει να ασκούν ισόβια κριτική στο openai και ακόμη και να παραδεχτούν ότι υπάρχει αυτή η συμφωνία αποτελεί παραβίαση της συμφωνίας. εάν ο αποχωρών υπάλληλος αρνηθεί να υπογράψει το έγγραφο ή παραβιάσει το έγγραφο, το openai θα πάρει πίσω το μετοχικό κεφάλαιο αξίας έως και εκατομμυρίων δολαρίων που μπορεί να έχει λάβει ο αποχωρών υπάλληλος.

αν και ο άλτμαν διευκρίνισε γρήγορα,"είναι αλήθεια, αλλά δεν το γνωρίζω. δεν έχει εφαρμοστεί ποτέ στο παρελθόν και δεν θα γίνει στο μέλλον"., αλλά το ξένο μέσο vox αποκάλυψε ότι ένα από τα σχετικά έγγραφα της συμφωνίας φέρει ξεκάθαρα την υπογραφή του άλτμαν.

εκτός από πραγματικό σφυρί, αυτό το έγγραφο χτύπησε και δυνατά τον άλτμαν στο πρόσωπο.

η φάρσα με το χαστούκι προκάλεσε οργή στους υπαλλήλους του openai. σύμφωνα με αναφορές, πολλοί υπάλληλοι του openai όχι μόνο μοιράστηκαν την «απογοήτευσή» τους για το slack της δικής τους εταιρείας, αλλά εξέφρασαν επίσης τη στάση τους ιδιωτικά με αρκετά στελέχη της εταιρείας.

αντιμέτωπος με το κύμα των παραιτήσεων, ο άλτμαν, που κοντεύει να γίνει εργένης διοικητής, φαίνεται τουλάχιστον στον έξω κόσμο πολύ ήρεμος.

σε μια εκδήλωση στην ιταλία, υποβάθμισε σκόπιμα τη σημασία του περιστατικού, λέγοντας ότι η κίνηση ήταν μια μεγάλη «μετάβαση» για όλους τους εμπλεκόμενους και ότι ήλπιζε ότι το openai θα γινόταν ισχυρότερο ως αποτέλεσμα.

σε πρόσφατο σημείωμα προς τους υπαλλήλους, ο άλτμαν είπε ότι προηγουμένως ήταν υπεύθυνος για τη συγκέντρωση κεφαλαίων, τις συναλλαγές με κυβερνήσεις και τη δημιουργία συνεργασιών με εταιρείες όπως η microsoft και η apple.τώρα όμως αποφάσισε να ασχοληθεί περισσότερο με την ανάπτυξη τεχνολογίας και την παραγωγή προϊόντων της εταιρείας.

και χθες, ανέβασε και στην πλατφόρμα χ:

οι αλλαγές ηγεσίας είναι φυσιολογικές για εταιρείες, ειδικά για αυτές που αναπτύσσονται τόσο γρήγορα και απαιτητικές, αλλά δεν είμαστε μια συνηθισμένη εταιρεία.

νομίζω ότι οι λόγοι που μου εξήγησε η mira (δεν υπάρχει ποτέ καλή στιγμή, οτιδήποτε δεν βγαίνει από το μπλε διαρρέει, και ήθελε να το κάνει όσο το openai ήταν σε ανοδική πορεία) έχουν νόημα.