uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Uusi viisausraportti

Toimittaja: Toimitusosasto

[Johdatus uuteen viisauteen]OpenAI on kokenut peräkkäisiä ydin- ja johtavien henkilöiden muutoksia Vaikeina aikoina ilmaantuu sankareita ja joukko nousevia tähtiä kantaa lippua.

Koska Ultraman erotettiin ja palautettiin marraskuussa 2023, OpenAI:ssa näyttää käyvän jatkuvaa valtataistelua.

Viime aikoina monet johtajat ovat eronneet peräkkäin. Financial Timesin mukaan vain kaksi OpenAI:n alkuperäisestä 11 perustajasta työskentelee edelleen OpenAI:ssa.

Altmanin lisäksi vain puolalainen tietojenkäsittelytieteilijä Wojciech Zaremba on edelleen OpenAI:ssa tutkijana.

OpenAI:n presidentti ja perustaja Greg Brockman, joka on työskennellyt rinnakkain Altmanin kanssa, jatkaa lomaansa tämän vuoden loppuun asti.

Toinen perustaja, John Schulman, lähti pysyvästi ja liittyi kilpailija Anthropiciin. Myös kuluttajatuotteiden varatoimitusjohtaja Peter Deng jätti OpenAI:n.

Tilastojen mukaan lähes 75 OpenAI:n ydintyöntekijää on eronnut ja perustanut noin 30 tekoälystartupia.

OpenAI:sta on tullut tekoälyteollisuuden "Whampoa Military Academy" ja sen entiset työntekijät ovat perustaneet omia yrityksiä kokemuksensa ja yhtiössä kertyneiden yhteyksien perusteella.

Vaikka tällainen lahjakkuus hyödyttää koko toimialan kehitystä, on se epäilemättä valtava menetys OpenAI:lle itselleen.

Rookie ottaa vallan

Vaikka kykyjä on menetetty, OpenAI käyttää edelleen runsaasti rahaa kykyjen rekrytointiin ja edistämiseen, ja muut ovat astuneet eteenpäin ottaakseen avoimia paikkoja.

Tällainen kohtaus saa ihmiset huokaisemaan: "Game of Thrones" tapahtuu todellisuudessa, ja "kaaos on nousun tikkaat".

Tässä on katsaus OpenAI:n uuteen johtajien joukkoon, joka perustuu keskusteluihin entisten ja nykyisten työntekijöiden ja muiden sisäpiiriläisten kanssa.

Jakub Pachocki - "nero tiedemies", joka seurasi Iljaa

Jakub Pachocki on tällä hetkellä OpenAI:n johtava tutkija ja veteraanityöntekijä, joka on työskennellyt OpenAI:ssa vuodesta 2017.

Pachockin aikaisemmasta kokemuksesta ja hänen rakettimaisesta promootionopeudestaan ​​OpenAI:ssa päätellen hän on "nero tiedemiehen" tittelin arvoinen.

Ennen OpenAI:han liittymistään Pachocki valmistui tohtoriksi CMU:sta vain kolmessa vuodessa ja suoritti tohtorintutkintoa Harvardin yliopistossa 7 kuukauden ajan.

Ensimmäiset viisi ja puoli vuotta liittymisen jälkeen Pachocki johti Dota-, päättely- ja syväoppimistiimejä, jotka kaikki olivat osa OpenAI:n transformatiivisia tutkimushankkeita.

Hän oli avainroolissa OpenAI:n Dota 2 -pelibotin kehittämisessä, joka pelasi itseään vastaan ​​ja saavutti lopulta ammattitason.

Vuodesta 2021 alkaen Pachocki ylennetään esimerkiksi tutkimusjohtajaksi ja tutkimusjohtajaksi. Hän on johtaja GPT-4:n ja OpenAI Fiven kehittämisessä optimointi.

Altman oli täynnä kiitosta hänestä ja kuvaili Pachockia "epäilemättä yhdeksi sukupolvemme suurimmista ajattelijoista", joka "valvoi monia tärkeimpiä projektejamme".

Pachockin panoksesta GPT-4-projektiin Altman sanoi kerran: "Jakub Pachockin osoittama erinomainen johtajuus ja tekninen visio ovat merkittäviä. Ilman hänen panostaan ​​emme pystyisi saavuttamaan sitä, mitä olemme tänään. Saavutus".

Edellisessä MIT:n haastattelussa Pachocki vertasi GPT-4:n kaltaisen kielimallin kehittämistä "avaruusaluksen rakentamiseen" - täytyy varmistaa, että jokainen osa on täydellinen.

Hän mainitsi myös, että GPT-mallien perusrakennemenetelmä ei ole juurikaan muuttunut sen jälkeen, kun ensimmäinen versio julkaistiin vuonna 2018.

Ilja Sutskeverin erottua tämän vuoden toukokuussa Pachocki otti virallisesti johtavan tutkijan tehtävään.

Pachockin kasvava vaikutusvalta edelsi hänen ylennystään nykyisten ja entisten työntekijöiden mukaan.

Ultraman arvosti Pachockia erittäin paljon ja oli aiemmin antanut hänelle samanlaisia ​​tehtäviä Iljalle, vaikka loogisesti katsottuna Pachockin oli raportoitava Iljalle, mikä aiheutti jännitteitä heidän välillään.

"Palace Fightin" aikana viime marraskuussa Ilja ja hallituksen jäsen Helen Toner aloittivat yhdessä toimenpiteen "Ultramanin karkottamiseksi". Pachocki ei kuitenkaan seurannut Iljaa ja seisoi lujasti Ultramania tukemassa.

Kuitenkin, kun Ilja ilmoitti virallisesti eroavansa, Pachockin twiitit osoittivat edelleen kunnioitusta ja ihailua tätä senioria kohtaan.

Ilja tutustutti minut syväoppimisen tutkimuksen maailmaan ja on ollut mentori ja loistava yhteistyökumppani useiden vuosien ajan. Hänen uskomaton näkemyksensä syväoppimisesta on perusta sille, mitä OpenAI ja tekoäly ovat nykyään. Olen äärimmäisen kiitollinen niistä lukemattomista keskusteluista, joita hän on käynyt kanssamme, korkean tason keskusteluista tekoälyn kehityksen tulevaisuudesta syvällisiin teknisiin tauluihin. Ilja – Tulen ikävä kanssasi työskentelemistä.

Työntekijät kertoivat, että Iljan lähdön jälkeen Pachocki sai Ultramanin tuen ja hänestä tuli tärkeä päätöksentekijä yrityksessä.

Pachocki syntyi Puolassa ja valmistui Varsovan yliopiston tietojenkäsittelytieteen laitokselta. Hän suoritti kandidaatin tutkinnon vain kolmessa vuodessa, ja hänellä oli myös kaksi työharjoittelukokemusta Facebookissa, ja hän osallistui myös lukuisiin ohjelmointikilpailuihin korkea-aikana. koulu ja korkeakoulu.

Jakub Pachocki (kolmas vasemmalta) ICPC 2012 -kilpailun aikana

Ohjelmointihallin tilastojen mukaan Pachocki edusti Varsovan yliopistoa kahdesti ACM-ICPC:n maailmanfinaaleissa vuosina 2011 ja 2012 ja voitti kultamitalin seuraavana vuonna.

Yksilökilpailussa Pachockin suoritus oli yhtä upea: hän voitti hopeamitalin IOI:ssa lukiossa ja voitti monta kertaa mitaleja Topcoderin, Facebookin ja Googlen isännöimistä ohjelmointikilpailuista.

Niistä paras tulos oli kultamitali vuoden 2012 Google Code Jam -kilpailussa 10 000 dollarin palkinnolla.

Hän mainitsi kerran haastattelussa, että ohjelmointikilpailut, kuten Google Code Jam, muistuttavat enemmän matematiikan kotitehtäviä tai logiikkaongelmien ratkaisemista, ja voittaminen vaatii erittäin korkeita kognitiivisia kykyjä.

Barret Zoph

Ennen kuin toinen perustaja John Schulman lähti, hän johti koulutuksen jälkeistä tiimiä ainoan suoran raportin, Barret Zophin, kanssa.

Työntekijän mukaan Schulman vastasi edellisen toimikautensa aikana korkean tason asialistan asettamisesta, kun taas Zoph vastasi tiimin päivittäisestä johtamisesta ja tutkimustyöstä varmistaen, että projekti valmistui ajallaan niin, että perusmalli voidaan ottaa sujuvasti käyttöön tuotteissa, kuten ChatGPT, sekä API:n kehittäjille.

Zophia arvostetaan hyvin OpenAI:ssa. Nyt kun hänen välitön pomonsa on eronnut, on loogista, että hänestä tulee joukkueen ainoa vastuuhenkilö.

Zoph valmistui Etelä-Kalifornian yliopistosta kandidaatin tutkinnolla. Opiskeluaikanaan hän tuli USC Information Sciences Instituten luonnollisen kielen ryhmään ja työskenteli tilastollisen konekääntämisen parissa kahden professorin, Kevin Knightin ja Daniel Marcun, kanssa.

Valmistuttuaan perustutkinnostaan ​​Zoph siirtyi Google Brainiin ja työskenteli tutkijana 6 vuotta ja 8 kuukautta omistautuen suurten kielimallien kouluttamiseen ja niiden soveltamiseen erilaisiin sovelluksiin.

Google Brainissa ollessaan Zoph saavutti monia akateemisia saavutuksia. Google Scholar osoittaa, että hänen kirjoituksiaan on siteerattu yhteensä 62 284 kertaa.

Elokuussa 2022 Zoph erosi Google Brainista ja liittyi OpenAI:hen osallistuakseen ChatGPT:n luomiseen. Hänen päätutkimussuuntansa on suurten harvalukuisten kielimallien ja AuoML:n, kuten hermorakennehaun (NAS) koulutus.

OpenAI:n toukokuun konferenssissa Zoph esitteli GPT-4o:n reaaliaikaista visiotoimintoa, jonka avulla GPT-4o voi ratkaista matemaattisia ongelmia reaaliajassa matkapuhelimen kameran kautta.

Mark Chen

Mark Chen on toiminut Frontier Researchin johtajana siitä lähtien, kun hän liittyi OpenAI:han vuonna 2018, ja hän on ohjannut työryhmää tutkimuksen varatoimitusjohtaja Bob McGrew'n johdolla.

Chen osoitti myös poikkeuksellisia kykyjä hyvin varhaisessa vaiheessa voittaen täydelliset pisteet matematiikan kilpailuissa, kuten AMC10, AMC12 ja AIME, mikä tasoitti hänelle tietä päästä MIT:ään.

Valmistuttuaan MIT:stä Chen suoritti kaksinkertaisen kandidaatin tutkinnon matematiikassa ja tietojenkäsittelytieteessä.

Valmistuttuaan perustutkinnostaan ​​Chen aloitti rahoitusalalla ja osallistui kvantitatiiviseen tutkimukseen, rakentaen koneoppimisalgoritmeja osake- ja futuurikaupankäyntiin.

Viimeisessä yrityksessä, Integral Technology, Chen on saavuttanut kumppanitason.

Tällä hetkellä hän toimii myös amerikkalaisen IOI-koulutusjoukkueen valmentajana.

Toki ihmiset, jotka ovat hyviä matematiikassa, voivat tehdä mitä tahansa helposti.

Lepää rauhassa, Jim Simons. Olet osoittanut omakohtaisesti, että todella hyvä matematiikassa on positiivinen vaikutus melkein kaikkeen muuhun.

Chen keskittyy OpenAI:n multimodaaliseen mallintamiseen ja johtopäätöstutkimukseen. Hän johti tiimiä, joka loi DALL·E:n, sekä tiimiä, joka integroi visuaalisen havainnon GPT-4:ään.

Chen johti myös Codexin kehitystä ja osallistui GPT-mallien kehittämiseen, mukaan lukien imago-GPT:n kehittämiseen, ja oli GPT-4o:n 17 hengen kultamitalitiimin jäsen.

Tämän vuoden toukokuussa pidetyssä lehdistötilaisuudessa Chen astui myös lavalle esittelemään GPT-4o:n äänitoimintoa.

Chenin vaikutus tuli vähitellen ilmi "Palace Fightin" aikana viime vuoden marraskuussa. Entisen työntekijän mukaan Chen oli tuolloin Barret Zophin ja koulutuksen jälkeisen tutkijan Liam Fedusin kanssa ensisijaisia ​​yhteyksiä johtajien ja työntekijöiden välillä.

Esimerkiksi nämä kolme henkilöä välittivät Ultramania tukevien työntekijöiden yhteisen kirjeen, josta tuli keskeinen osa Ultramanin palauttamisen edistämistä. Suurin osa kirjeen työntekijöistä sanoi, että he liittyisivät Microsoftiin, jos Altmania ei palauteta.

Lilian Weng

Lilian Weng on tällä hetkellä OpenAI-tietoturvajärjestelmän päällikkö ja keskittyy pääasiassa koneoppimiseen, syväoppimiseen ja muuhun tutkimukseen.

Weng valmistui Pekingin yliopistosta kandidaatin tutkinnolla tietojärjestelmistä ja tietojenkäsittelytieteestä. Hän meni Hongkongin yliopistoon lyhytaikaiseen vaihtoon ja suoritti sitten tohtorin tutkinnon Indiana University Bloomingtonista.

Tohtorintutkinnon aikana Wengin tutkimusala oli monimutkaiset järjestelmät ja verkostot, jotka keskittyivät sosiaaliseen mediaan, sosiaalisiin peleihin, ihmisen ja tietokoneen vuorovaikutukseen sekä monimutkaiseen tietoverkkojen mallintamiseen.

Kun avaat hänen Google Scholar -profiilinsa, näet myös Wengin meemissä ja sosiaalisissa verkostoissa julkaisemia artikkeleita.

Hän työskenteli kerran käyttäjäanalyysissä eBayssa, Mozillassa ja muissa yrityksissä, minkä jälkeen hän siirtyi menestyksekkäästi ohjelmistosuunnitteluun ja datatieteeseen Facebookissa ja Dropboxissa.

Vuodesta 2018 lähtien Weng on liittynyt OpenAI:han tutkijaksi Robotiikan tiimin teknisenä johtajana Weng keskittyy robottitehtävien koulutusalgoritmeihin.

Weng johti myöhemmin myös tekoälyä soveltavaa tutkimusryhmää ja on tällä hetkellä turvallisuustiimin johtaja.

Tämän vuoden heinäkuussa OpenAI siirsi turvallisuustiimin edellisen johtajan Aleksander Madryn peruspäättelytyötä tekevään tiimiin. Asiaan perehtynyt henkilö kertoi, että alun perin Madryn johtama turvaryhmä siirtyi Lilian Wengille.

Weng johtaa nyt ryhmiä, jotka keskittyvät sekä pitkän että lyhyen aikavälin tekoälyn turvallisuuteen, mikä on organisaatiopäätös, joka huolestuttaa joitain tutkijoita, koska pitkän ja lyhyen aikavälin turvallisuuden kannustimet voivat olla ristiriidassa keskenään.

On syytä mainita, että Wengin kirjoittamat blogiartikkelit ovat erittäin suosittuja. Ne ovat periaatteessa pitkiä 10 000 sanan artikkeleita.

Viitteet:

https://www.theinformation.com/articles/the-rising-guard-at-openai?rc=epv9gi

https://www.sahmcapital.com/news/content/meet-jakub-pachocki-openais-new-chief-scientist-after-ilya-sutskevers-exit-sam-altman-hails-him-as-one-of- sukupolvemme-suurimmat-mielit-2024-05-15