Νέα

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Αναφορά Μηχανικής Καρδιάς

Τμήμα Σύνταξης Machine Heart

Η ηγεσία του OpenAI έλαβε για άλλη μια φορά τρεις σημαντικές ειδήσεις για αλλαγές προσωπικού.

Πρώτον, ο πρόεδρος του OpenAI Γκρεγκ Μπρόκμαν, ένας από τους 11 συνιδρυτές, θα πάρει μακροχρόνια άδεια.

Το στέλεχος έπαιξε κρίσιμο ρόλο στη μετατροπή των πρωτοποριακών αποτελεσμάτων του OpenAI σε μοντέλα και προϊόντα τεχνητής νοημοσύνης μεγάλης κλίμακας όπως το ChatGPT, και χρησίμευσε ως η επιστροφή του Sam Altman στην εταιρεία μετά την εκδίωξή του από το διοικητικό συμβούλιο.

Η εκδοχή που είπε ο Greg Brockman στους υπαλλήλους ήταν ότι σχεδίαζε να επιστρέψει στην εταιρεία μετά από παρατεταμένη άδεια. Ωστόσο, οι μακροχρόνιες διακοπές για ανώτερα στελέχη σε βασικές θέσεις αναπόφευκτα θα οδηγήσουν σε κάποιες εικασίες από τον έξω κόσμο.

Επιπλέον, ένας άλλος συνιδρυτής, ο John Schulman, ανακοίνωσε τη μετάβασή του στην Anthropic, μια ανταγωνιστική εταιρεία που ιδρύθηκε από πρώην υπαλλήλους του OpenAI.

Ενώ βρισκόταν στο OpenAI, ο Schulman οδήγησε μια διαδικασία γνωστή ως "μετα-εκπαίδευση" για να βελτιώσει τα μεγάλα γλωσσικά μοντέλα πίσω από το ChatGPT και άλλα προϊόντα.

Ο Schulman ανέλαβε επίσης πρόσφατα τα απομεινάρια της ομάδας Hyper-Alignment, η οποία επικεντρώνεται στην πρόληψη της τεχνητής νοημοσύνης από το να προκαλεί βλάβη στην κοινωνία. Πριν από αυτό, επικεφαλής της ομάδας Super Alignment ήταν ο Jan Leike, ο οποίος ανακοίνωσε την παραίτησή του την ίδια μέρα με τον συνιδρυτή του OpenAI και επικεφαλής επιστήμονα Ilya Sutskever. Ο Ilya ίδρυσε μια startup επικεντρωμένη στην ασφάλεια μετά την αποχώρησή του από το OpenAI και ο Jan Leike εντάχθηκε στην Anthropic.

Σύμφωνα με άτομο με άμεση γνώση του θέματος, ο επικεφαλής προϊόντων Peter Deng, ο οποίος εντάχθηκε στην εταιρεία πέρυσι και προηγουμένως υπηρετούσε ως επικεφαλής προϊόντων στις Meta Platforms, Uber και Airtable, έφυγε. Η OpenAI προσέλαβε πρόσφατα τον πρώτο της οικονομικό διευθυντή και επικεφαλής προϊόντων και η άφιξή τους είναι πιθανό να επηρεάσει τον ρόλο του Deng.

Γνωρίζουμε επίσης έναν άλλο συνιδρυτή του OpenAI, τον Andrej Karpathy, ο οποίος έφυγε φέτος τον Φεβρουάριο και ίδρυσε μια startup εκπαίδευσης.

Αυτές οι ξαφνικές ειδήσεις παραιτήσεων δεν είναι απαραιτήτως σχετικές, αλλά τουλάχιστον δείχνουν ένα σημείο: από τότε που έλαβε χώρα η «Φάρσα μάχης του παλατιού» τον περασμένο Νοέμβριο, αν και ο Sam Altman επέστρεψε στο OpenAI και ανέλαβε την ευθύνη, η ηγεσία της εταιρείας παραμένει άστατη.

John Schulman: Αυτή είναι μια πολύ δύσκολη απόφαση

Στη συνέχεια, ο John Schulman αποκάλυψε την είδηση ​​της αποχώρησής του στο X και εξήγησε ότι επέλεξε να μεταβεί στο Anthropic επειδή ήθελε να εμβαθύνει στην ευθυγράμμιση της τεχνητής νοημοσύνης, που είναι η πρακτική της ευθυγράμμισης της τεχνητής νοημοσύνης με τις ανθρώπινες αξίες.

Για εκείνους τους συναδέλφους που πολέμησαν μαζί του, ο John Schulman άφησε ένα γράμμα:

Πήρα τη δύσκολη απόφαση να φύγω από το OpenAI. Αυτή η επιλογή προέκυψε από την επιθυμία μου να επικεντρωθώ περαιτέρω στην ευθυγράμμιση της τεχνητής νοημοσύνης και να ξεκινήσω ένα νέο κεφάλαιο στην καριέρα μου, επιστρέφοντας στην πρώτη γραμμή τεχνικής εργασίας. Αποφάσισα να επιδιώξω αυτόν τον στόχο στο Anthropic, όπου πίστευα ότι θα μπορούσα να αποκτήσω νέες προοπτικές και να διεξάγω έρευνα με ανθρώπους που εμβαθύνουν στα θέματα που με ενδιέφεραν περισσότερο. Για να είμαι σαφής, δεν φεύγω λόγω της έλλειψης υποστήριξης του OpenAI για την έρευνα ευθυγράμμισης. Αντίθετα, οι ηγέτες των εταιρειών έχουν δεσμευτεί πολύ να επενδύσουν σε αυτόν τον τομέα. Η απόφασή μου ήταν προσωπική με βάση το πού ήθελα να επικεντρωθώ στην επόμενη φάση της καριέρας μου.

Πριν από σχεδόν 9 χρόνια, μπήκα στο OpenAI μετά την αποφοίτησή μου από το μεταπτυχιακό και έγινα μέλος της ιδρυτικής ομάδας. Αυτή είναι η πρώτη και μοναδική εταιρεία στην οποία έχω εργαστεί ποτέ (εκτός από πρακτική άσκηση). Η δουλειά είναι επίσης πολύ ενδιαφέρουσα και είμαι ευγνώμων στον Σαμ και τον Γκρεγκ που με στρατολόγησαν από την αρχή και στη Μίρα και τον Μπομπ που με εμπιστεύτηκαν, μου έδωσαν πολλές ευκαιρίες και με βοήθησαν να αντιμετωπίσω με επιτυχία διάφορες προκλήσεις. Είμαι περήφανος για όσα καταφέραμε μαζί στο OpenAI, δημιουργήσαμε μια ασυνήθιστη, άνευ προηγουμένου εταιρεία με αποστολή δημόσιας ευημερίας.

Πιστεύω ότι το OpenAI και η ομάδα στην οποία είμαι μέλος θα συνεχίσουν να ευδοκιμούν ακόμη και χωρίς εμένα. Οι μεταγενέστερες προπονητικές εργασίες προχωρούν ομαλά και έχουμε μια ομάδα εξαιρετικών ταλέντων. ChatGPT — πολλή πίστωση. Ήταν φανταστικό που ο Barret, μαζί με τον Liam, τον Luke και άλλους, έχτισαν την ομάδα στην πολύ ικανή ομάδα που είναι τώρα. Χαίρομαι που βλέπω τη συντονιστική ομάδα να συνεργάζεται για να παραδώσει μερικά πολλά υποσχόμενα έργα. Υπό την ηγεσία των Mia, Boaz και άλλων, πιστεύω ότι η ομάδα θα είναι πολύ ικανή.

Είμαι εξαιρετικά ευγνώμων για την ευκαιρία να είμαι μέρος μιας τόσο σημαντικής στιγμής στην ιστορία και περήφανος για όσα καταφέραμε μαζί. Παρόλο που δούλευα αλλού, θα σας υποστήριζα όλους.

Με τον ίδιο γνώριμο τόνο, ο Ultraman Sam έστειλε έναν άλλο επιχειρηματικό συνεργάτη:

Ο ιδρυτής παραιτήθηκε και η ομάδα διαλύθηκε

Οι αλλαγές προσωπικού του OpenAI ξεκίνησαν με τη διαμάχη στην αίθουσα συνεδριάσεων.

Τον Νοέμβριο του περασμένου έτους, η OpenAI ανακοίνωσε ότι ο Sam Altman θα παραιτηθεί από τη θέση του Διευθύνοντος Συμβούλου και θα αποσυρθεί από το διοικητικό συμβούλιο επειδή ο Sam Altman δεν ήταν αρκετά ειλικρινής με το διοικητικό συμβούλιο. Ο πρώην επικεφαλής επιστήμονας του OpenAI, Ilya Sutskever, ήταν ο βασικός οδηγός όλου του περιστατικού.

Ωστόσο, λίγες μέρες αργότερα, ο Sam Altman επέστρεψε στο OpenAI ως Διευθύνων Σύμβουλος και η OpenAI ανακοίνωσε μια αναδιοργάνωση του διοικητικού συμβουλίου της.

Όταν έλαβε χώρα ένας «παλατικός αγώνας» στο OpenAI και ο Ultraman Sam αποβλήθηκε από το OpenAI, μερικοί άνθρωποι φήμες ότι ο Ilya «είδε κάτι» που ήταν αρκετά ισχυρό για να τον κάνει να ανησυχεί για το μέλλον της AI και να ξανασκεφτεί την ανάπτυξη του.

Μερικοί άνθρωποι το ερμήνευσαν ως εξής: Το OpenAI μπορεί να έχει εφαρμόσει το AGI εσωτερικά, αλλά δεν συγχρονίζει τις πληροφορίες σε περισσότερα άτομα έγκαιρα, προκειμένου να αποφευχθεί η εφαρμογή της τεχνολογίας σε μεγάλη κλίμακα χωρίς αξιολόγηση ασφάλειας, ο Ilya και άλλοι πίεσαν το κλειδί διακοπής έκτακτης ανάγκης. Αλλά αυτά είναι απλώς εικασίες.

Μετά από μια αναταραχή, ο Ultraman φαίνεται να μπορεί να διαχειρίζεται πιο ελεύθερα το OpenAI, ενώ ο Ilya Sutskever ντρέπεται.

Τον Μάιο του τρέχοντος έτους, ο συνιδρυτής του OpenAI και επικεφαλής επιστήμονας Ilya Sutskever ανακοίνωσε επίσημα την παραίτησή του. Η ομάδα Super Alignment του OpenAI διαλύθηκε.

Τον Ιούνιο, ο Ilya είπε στο X ότι είχε ιδρύσει μια νέα εταιρεία - την "Safe SuperIntelligence (SSI)".

Ο Jan Leike ανακοίνωσε επίσης στα τέλη Μαΐου ότι θα συμμετάσχει στον ανταγωνιστή του OpenAI Anthropic για να συνεχίσει να εργάζεται στην έρευνα υπερευθυγράμμισης. Αφού ο John Schulman ανακοίνωσε ότι μπήκε στους Anthropic, ο Jan Leike σχολίασε: «Είμαι πολύ χαρούμενος που θα συνεργαστούμε ξανά!».

Για λόγους ασφαλείας, το διοικητικό συμβούλιο του OpenAI ανακοίνωσε τον Μάιο τη σύσταση μιας νέας Επιτροπής Ασφάλειας και Ασφάλειας, με επικεφαλής τους διευθυντές Bret Taylor (πρόεδρος του διοικητικού συμβουλίου), Adam D'Angelo, Nicole Seligman και Sam Altman (CEO). Αυτή η επιτροπή είναι υπεύθυνη για τη διατύπωση συστάσεων προς το πλήρες Διοικητικό Συμβούλιο σχετικά με κρίσιμες αποφάσεις ασφάλειας για έργα και λειτουργίες OpenAI.

Ωστόσο, οι αλλαγές προσωπικού συνεχίστηκαν. Αυτό κάνει τους ανθρώπους να εικάζουν για το τι συμβαίνει μέσα στο OpenAI.

Λοιπόν, πόσο μακριά θα απέχει το μεγάλο μοντέλο τεχνητής νοημοσύνης επόμενης γενιάς του OpenAI από το AGI; Αξίζει να ανησυχείτε για την ασφάλεια των μεγάλων μοντέλων;

Αξίζει να σημειωθεί ότι το OpenAI φαίνεται να επιβραδύνει αργά. Τα νέα που κυκλοφόρησαν από το OpenAI στο DevDay αυτό το φθινόπωρο ανέφεραν ότι το GPT-5 δεν θα κυκλοφορήσει προς το παρόν, μειώνοντας τις προσδοκίες για μεγάλες εκδόσεις μοντέλων και θα επικεντρωθεί στην ενημέρωση του API και των υπηρεσιών προγραμματιστή.

Σύνδεσμος αναφοράς: https://www.theinformation.com/articles/trio-of-leaders-leave-openai?rc=ks2jbm