Νέα

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Ο Mengchen Crexi προέρχεται από τον ναό Aofei
  Qubits | Δημόσιος λογαριασμός QbitAI

Μόλις τώρα, έγινε ένας μεγάλος σεισμός στην κορυφή του OpenAI:

Lianchuang John SchulmanΠαραιτηθείτε και φύγετε,Lianchuang & Πρόεδρος Greg BrockmanΜΕΓΑΛΕΣ ΔΙΑΚΟΠΕΣ,Peter Deng, Αντιπρόεδρος ΠροϊόντοςΑποκαλύφθηκε επίσης ότι παραιτήθηκε.

Ο John Schulman, ο οποίος έχει ηγηθεί της ομάδας εκπαίδευσης ενίσχυσης OpenAI για πολλά χρόνια, είναι γνωστός ως "ChatGPT Architect”。

Ήταν επίσης αυτός που ανέλαβε προσωρινά την ομάδα Super Alignment μετά την αποχώρηση του Ilya Sustkever.

Τώρα ανακοίνωσε ότι «πήρε μια δύσκολη απόφαση» να ενταχθεί στην Anthropic, την ομάδα Claude της διπλανής πόρτας.

Την ίδια ώρα, ο πρόεδρος του OpenAI Γκρεγκ Μπρόκμαν ανακοίνωσε επίσης ότι θα κάνει διακοπές μεγάλης διάρκειας μέχρι το τέλος του χρόνου.

Το OpenAI σχεδιάζει να διοργανώσει ημέρες προγραμματιστών και άλλες εκδηλώσεις σε όλο τον κόσμο από την 1η Οκτωβρίου και θα απουσιάζει επίσης.

Ο Brockman είπε ότι ήταν η πρώτη φορά που χαλάρωσε μετά από εννέα συνεχόμενα χρόνια εργασίας, αλλά ήταν ασαφής σχετικά με τα σχέδιά του μετά το τέλος του έτους.

Είκοσι λεπτά μετά την επίσημη ανακοίνωση της παραίτησης του Σούμαν, ο Άλτμαν ευχαρίστησε τον Σούμαν για τη συμβολή του στην απάντησή του και θυμήθηκε τη σκηνή όταν οι δυο τους συναντήθηκαν για πρώτη φορά το 2015.

Αλλά μέχρι στιγμής, ο Ultraman δεν έχει απαντήσει στην άδεια του Brockman.

Ο Άλτμαν συνήθως έχει τη συνήθεια να πληκτρολογεί το πρώτο γράμμα των προτάσεων και το «i» χωρίς κεφαλαία γράμματα, αλλά όποτε ένας σημαντικός συνάδελφος επιλέξει να φύγει, θα συμπεριφέρεται πιο επίσημα.

Ο διάσημος λογαριασμός πληροφοριών OpenAI Apple Brother είπε: Τώρα που η ηγεσία έχει γίνει ένα άδειο κέλυφος, θα πρέπει να βιαστείτε και να κυκλοφορήσετε το προϊόν.

Ο αρχιτέκτονας του ChatGPT παραιτήθηκε

Ο Schumann σπούδασε ως προπτυχιακός στο Caltechη φυσικη, σπούδασε για λίγο στο UC BerkeleyΝευροεπιστήμη, αργότερα σπούδασε υπόενισχυτική μάθησηΟ Daniel Abbeel ολοκλήρωσε το διδακτορικό του στην επιστήμη των υπολογιστών.

Όταν έγινε συνιδρυτής του OpenAI, δεν είχε ακόμη αποφοιτήσει με Ph.D.

Η OpenAI είναι η πρώτη και μοναδική εταιρεία στην οποία έχει εργαστεί εκτός της πρακτικής του.

Το αριστούργημά του και το πιο δημοφιλές χαρτί τουΔΤΠ, ο οποίος είναι ο αλγόριθμος ενίσχυσης εκμάθησης που έχει επιλεγεί στην βασική τεχνολογία RLHF του ChatGPT.

Αργότερα, οδήγησε την ομάδα ευθυγράμμισης/μετά-εκπαίδευσης σε μια σειρά εργασιών από GPT-3.5, GPT-4 έως GPT-4o.

Ο λόγος της παραίτησής του αυτή τη φορά σχετίζεται και με αυτό:

Ελπίζω να εμβαθύνω την εστίασή μου στην ευθυγράμμιση της τεχνητής νοημοσύνης και να ξεκινήσω ένα νέο κεφάλαιο στην καριέρα μου όπου μπορώ να επιστρέψω στην πραγματική τεχνική εργασία.

Ωστόσο, έδωσε επίσης αρκετό πρόσωπο στο OpenAI, προσθέτοντας ότι«Δεν φεύγω λόγω της έλλειψης υποστήριξης του OpenAI για ασφαλείς προσπάθειες ευθυγράμμισης», μόνο από προσωπική επιθυμία εστίασης.

Στην ομιλία του στο ICML2023, ο Schumann περιέγραψε μία από τις επόμενες ερευνητικές του κατευθύνσεις:Πώς να αποφύγετε την υπερβολική βελτιστοποίηση。

• Ορισμένες ενοχλητικές συμπεριφορές στο ChatGPT (όπως η υπερβολική συγγνώμη) είναι αποτέλεσμα υπερβολικής βελτιστοποίησης.
• Το RLHF μπορεί εύκολα να υπερβελτιστοποιήσει σε περιορισμένες μετρήσεις, για παράδειγμα, το μοντέλο μπορεί να μάθει συντομεύσεις που αποφέρουν ανταμοιβές χωρίς να τις κατανοεί πραγματικά.
• Η σωστή εκπαίδευση για εργασίες συνομιλίας απαιτεί συλλογισμό, λήψη προοπτικής και γνώση, και οι ερευνητές πρέπει να σχεδιάσουν προσεκτικά διαδικασίες εκπαίδευσης, συναρτήσεις ανταμοιβής και σύνολα δεδομένων
• Τα σήματα ανταμοιβής πρέπει να αξιολογούν την ποιότητα ολόκληρης της συνομιλίας, όχι μόνο τα μεμονωμένα σχόλια.

Σε μια συνέντευξη με τον παρουσιαστή του podcast Dwarkesh Patel τον Μάιο του τρέχοντος έτους, ο Schumann είπε επίσης:Η υπολογιστική ισχύς θα πρέπει να μετατοπιστεί περισσότερο από την προ-εκπαίδευση στη μετα-προπόνηση。

Το OpenAI συνεχίζει να χάνει ταλέντα

Λόγω των διαφορών στις έννοιες ασφάλειας τεχνητής νοημοσύνης με το Ultraman, το OpenAI έχει βιώσει τεράστια απώλεια ταλέντων.

Τον Μάιο του τρέχοντος έτους, οι δύο ηγέτες της ομάδας Super Alignment-Chief ScientistIlya Sutskeverκαι ένας από τους εφευρέτες του RLHFΓιαν Λέικ, άφησε το OpenAI το ένα μετά το άλλο την ίδια μέρα.

Τότε είχε περάσει λιγότερο από ένας χρόνος από την ίδρυση της Super Alignment Team.

Μετά την αποχώρηση του Jan Leike, έστειλε περισσότερα από δώδεκα tweets στη σειρά, βομβαρδίζοντας μανιωδώς το OpenAI, κατηγορώντας το ότι δεν εκπλήρωσε την υπόσχεσή του για 20% υπολογιστική ισχύ και ότι έδινε πολύ λιγότερη προσοχή στην ασφάλεια από τα προϊόντα του.

Αργότερα, ο Jan Leike επέλεξε να συμμετάσχει στον ανταγωνιστή του OpenAI Anthropic για να συνεχίσει την έρευνα για την υπερευθυγράμμιση.

Συνοδηγεί τις προσπάθειες ευθυγράμμισης στο έργο GPT-4 με τον Jan LeikeΡάιαν Λόου, αποχώρησε επίσης από το OpenAI στα τέλη Μαρτίου.

Και ένα από τα σούπερ ευθυγραμμισμένα μέληΟυίλιαμ Σάντερς, και όσοι έχουν συμμετάσχει σε δοκιμές αντιπάλου GPT-4Daniel Kokotajlo, παραιτήθηκε επίσης από το OpenAI.

Για να μην αναφέρουμε τη διπλανή πόρταΑδελφός και αδελφή Dario Amodei και Daniela Amodei, ιδρυτές της Anthropic, επίσης από το OpenAI.

Πριν φύγει ο αδερφός του Ντάριο, ήταν αντιπρόεδρος έρευνας στο OpenAI και η αδελφή του Ντανιέλα ήταν αναπληρώτρια διευθύντρια του τμήματος ασφάλειας και στρατηγικής.Τομ Μπράουν, αρχιμηχανικός του GPT-3Το έφερα στο Anthropic με περισσότερους από δώδεκα υπαλλήλους.

Ένας από τους λόγους για τους οποίους επέλεξαν να φύγουν για να ξεκινήσουν μια επιχείρηση ήταν ότι το OpenAI κυκλοφόρησε απευθείας το GPT-3 χωρίς να λύσει το πρόβλημα ασφάλειας, το οποίο προκάλεσε τη δυσαρέσκειά τους.

Η έμφαση στην ασφάλεια, σε συνδυασμό με το ιστορικό του ιδρυτή, έχει επίσης κάνει το Anthropic ένα από τα κύρια μέρη για τους υπαλλήλους του OpenAI, συμπεριλαμβανομένων των Jan Leike και Schumann, που αποχώρησαν αυτή τη φορά.

Το OpenAI έχει επίσης κάνει κάποιες κινήσεις στο έργο ασφάλειας πρόσφατα——

Στα τέλη Ιουλίου, το OpenAI έβαλε τον ανώτερο διευθυντή του τμήματος ασφαλείαςAleksander MadryΜετατέθηκε από τη θέση ασφαλείας και επανατοποθετήθηκε στη δουλειά «Αιτιολόγηση».

Ωστόσο, το OpenAI είπε στα μέσα ενημέρωσης ότι ο Madry θα εξακολουθήσει να είναι αφοσιωμένος στην ασφάλεια της τεχνητής νοημοσύνης μετά την ανάληψη της νέας του θέσης.

Ο Διευθύνων Σύμβουλος Altman τόνισε επίσης ότι το OpenAI έδινε πάντα μεγάλη σημασία στο έργο της ασφάλειας και τηρούσε τη δέσμευσή του να «δώσει τουλάχιστον το 20% της υπολογιστικής ισχύος σε ολόκληρη την ομάδα ασφαλείας».

Αλλά οι οξυδερκείς χρήστες του Διαδικτύου σύντομα ανακάλυψαν ότι ο Ultraman είχε παίξει με ένα κύμα ύπουλων ιδεών.Η αρχική υπόσχεση ήταν να δοθεί το 20% της υπολογιστικής ισχύος στην ομάδα super alignment, αλλά άλλαξε κρυφά σε όλες τις ομάδες ασφαλείας.。

Επομένως, μετά το tweet του Ultraman, οι χρήστες του Διαδικτύου πρόσθεσαν αδίστακτα αυτές τις πληροφορίες φόντου και επισύναψαν τον επίσημο σύνδεσμο στο OpenAI εκείνη την εποχή.

εμμ...το Διαδίκτυο έχει ακόμα αναμνήσεις.

Ακόμη ένα πράγμα

Ενώ ένας μεγάλος αριθμός εσωτερικών ταλέντων χάνεται, ο "παλιός εχθρός" του OpenAI Musk έχει επίσης νέες ενέργειες -

Ο Μασκ μόλις πήγε ξανά το OpenAI στο δικαστήριο, οι κατηγορούμενοι είναι επίσης ο Ultraman και ο διευθύνων σύμβουλος Brockman.

Ο λόγος αυτής της αγωγής είναι ότι ο Μασκ πίστευε ότι «εξαπατήθηκε και εκβιάστηκε» από τον Άλτμαν και τον Μπρόκμαν όταν συμμετείχε στη δημιουργία του OpenAI.

Ο Μασκ είπε ότι αρχικά συμμετείχε και επένδυσε στο OpenAI επειδή πίστευε τα λόγια του Άλτμαν Εκείνη την εποχή, ο Άλτμαν υποσχέθηκε ότι το OpenAI θα ήταν ένας ασφαλής και ανοιχτός μη κερδοσκοπικός οργανισμός.

Αλλά αργότερα το OpenAI έγινε κερδοσκοπικός οργανισμός και πούλησε μέρος των μετοχών του στη Microsoft Αυτό έκανε τον Musk πολύ δυσαρεστημένο, νομίζοντας ότι είχε προδοθεί και κατήγγειλε τον Altman για «προδοσία».

Ο δικηγόρος του Μασκ, Marc Toberoff, είπε ότι η μήνυση ήταν σημαντικά διαφορετική από την προηγουμένως αποσυρθείσα αγωγή, θεωρώντας τους κατηγορούμενους «υπεύθυνους για εν γνώσει τους ψευδείς δηλώσεις στον Μασκ και το κοινό» και επιδίωξη «μαζικής ανάκτησης των δικαιωμάτων τους».

Ταυτόχρονα, το κατηγορητήριο απαιτεί και την ανάκληση της άδειας χρήσης που παραχώρησε η OpenAI στη Microsoft.

Σύνδεσμοι αναφοράς:
[1]https://www.bloomberg.com/news/articles/2024-08-06/openai-co-founder-john-schulman-departs-for-ai-rival-anthropic
[2]https://www.cnbc.com/2024/07/23/openai-removes-ai-safety-executive-aleksander-madry-from-role.html
[3]https://x.com/sama/status/1818867964369928387
[4]https://www.documentcloud.org/documents/25031741-elon-vs-openai-again
[5]https://www.nytimes.com/2024/08/05/technology/elon-musk-openai-lawsuit.html