uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Koneen sydänraportti

Machine Heart -toimitusosasto

OpenAI:n johto sai jälleen kolme tärkeää uutista henkilöstömuutoksesta.

Ensinnäkin OpenAI:n presidentti Greg Brockman, yksi 11 perustajasta, jää pitkäaikaiselle virkavapaalle.

Johtajalla oli ratkaiseva rooli OpenAI:n läpimurtotulosten muuttamisessa suuriksi tekoälymalleiksi ja -tuotteiksi, kuten ChatGPT, ja hän toimi Sam Altmanin paluuna yritykseen sen jälkeen, kun hänet syrjäytettiin Ultraman Samin hallitukselta.

Greg Brockman kertoi työntekijöille, että hän aikoi palata yritykseen pitkän loman jälkeen. Avaintehtävissä olevien ylimmän johdon pitkäaikaiset lomat johtavat kuitenkin väistämättä spekulaatioihin ulkopuolelta.

Lisäksi toinen perustaja John Schulman ilmoitti siirtyvänsä Anthropiciin, kilpailevaan yritykseen, jonka entiset OpenAI:n työntekijät ovat perustaneet.

OpenAI:ssa Schulman johti prosessia, joka tunnetaan nimellä "jälkikoulutus" jalostaakseen ChatGPT:n ja muiden tuotteiden takana olevia suuria kielimalleja.

Schulman otti äskettäin haltuunsa myös Hyper-Alignment-tiimin jäännökset, joka keskittyy estämään tekoälyä aiheuttamasta vahinkoa yhteiskunnalle. Ennen tätä Super Alignment -tiimin päällikkönä oli Jan Leike, joka ilmoitti eroavansa samana päivänä OpenAI:n perustajista ja päätutkijasta Ilja Sutskeverista. Ilja perusti turvallisuuspainotteisen startup-yrityksen erottuaan OpenAI:sta, ja Jan Leike liittyi Anthropiciin.

Asiasta suoraan tietävän henkilön mukaan viime vuonna yritykseen liittynyt tuotejohtaja Peter Deng, joka toimi aiemmin tuotepäällikkönä Meta Platformsissa, Uberissa ja Airtablessa, on lähtenyt. OpenAI palkkasi äskettäin ensimmäisen talousjohtajansa ja tuotejohtajansa, ja heidän tulonsa vaikuttaa todennäköisesti Dengin rooliin.

Tunnemme myös toisen OpenAI:n perustajan, Andrej Karpathyn, joka lähti tämän vuoden helmikuussa ja perusti koulutusstartupin.

Nämä äkilliset irtisanomisuutiset eivät välttämättä ole relevantteja, mutta ainakin ne havainnollistavat yhtä asiaa: "Palace Fighting Farce" tapahtui viime marraskuussa, vaikka Sam Altman on palannut OpenAI:hen ja ottanut vastuun, yhtiön johto on edelleen epävarma.

John Schulman: Tämä on erittäin vaikea päätös

Myöhemmin John Schulman paljasti uutisen lähdöstään X:llä ja selitti, että hän päätti siirtyä Anthropiciin, koska hän halusi syventää tekoälyn suuntaamista, joka on käytäntö kohdistaa tekoäly ihmisten arvojen kanssa.

John Schulman jätti kirjeen niille kollegoille, jotka taistelivat hänen rinnallaan:

Olen tehnyt vaikean päätöksen lähteä OpenAI:sta. Tämä valinta johtui halustani keskittyä edelleen tekoälyn suuntaamiseen ja aloittaa urallani uusi luku palaamalla etulinjan tekniseen työhön. Päätin pyrkiä tähän tavoitteeseen Anthropicissa, jossa uskoin voivani saada uusia näkökulmia ja tehdä tutkimusta ihmisten kanssa, jotka syventyivät minua eniten kiinnostaviin aiheisiin. Selvyyden vuoksi en lähde, koska OpenAI ei tue kohdistustutkimusta. Päinvastoin, yritysten johtajat ovat olleet erittäin sitoutuneita investoimaan tälle alueelle. Päätökseni oli henkilökohtainen, koska halusin keskittyä urani seuraavaan vaiheeseen.

Melkein 9 vuotta sitten liityin OpenAI:hen valmistuttuani tutkijakoulusta ja liityin perustajatiimin jäseneksi. Tämä on ensimmäinen ja ainoa yritys, jossa olen työskennellyt (muu kuin työharjoittelu). Työ on myös erittäin mielenkiintoista, ja olen kiitollinen Samille ja Gregille siitä, että he rekrytoivat minut alusta lähtien, sekä Miralle ja Bobille siitä, että he luottivat minuun, antoivat minulle monia mahdollisuuksia ja auttoivat minua selviytymään erilaisista haasteista. Olen ylpeä siitä, mitä olemme saaneet aikaan OpenAI:ssa, olemme rakentaneet epätavallisen, ennennäkemättömän yrityksen, jolla on julkinen hyvinvointitehtävä.

Uskon, että OpenAI ja tiimi, johon olen osa, jatkavat menestystä myös ilman minua. Myöhempi koulutustyö etenee sujuvasti ja meillä on joukko huippuosaajia. ChatGPT – paljon luottoa. On ollut fantastista, että Barret yhdessä Liamin, Luken ja muiden kanssa on rakentanut joukkueesta erittäin kykenevän joukkueen, joka se nyt on. Olen iloinen nähdessäni koordinointiryhmän työskentelevän yhdessä lupaavien projektien toteuttamiseksi. Mian, Boazin ja muiden johdolla uskon joukkueen olevan erittäin pätevä.

Olen erittäin kiitollinen mahdollisuudesta olla osana näin tärkeää historian hetkeä ja ylpeä siitä, mitä olemme saaneet aikaan yhdessä. Vaikka olisin töissä muualla, tuen silti teitä kaikkia.

Samalla tutulla sävyllä Ultraman Sam lähetti toisen yrittäjäkumppanin:

Perustaja erosi ja tiimi hajosi

OpenAI:n henkilöstömuutokset alkoivat kokoushuonekiistasta.

Viime vuoden marraskuussa OpenAI ilmoitti, että Sam Altman eroaa toimitusjohtajan tehtävästä ja vetäytyy hallituksesta, koska Sam Altman ei ollut tarpeeksi rehellinen hallitukselle. Entinen OpenAI:n päätutkija Ilja Sutskever oli koko tapauksen avaintekijä.

Mutta muutamaa päivää myöhemmin Sam Altman palasi OpenAI:n toimitusjohtajaksi, ja OpenAI ilmoitti hallituksensa uudelleenjärjestelystä.

Kun "palatsitaistelu" tapahtui OpenAI:ssa ja Ultraman Sam potkaistiin OpenAI:sta, jotkut ihmiset huhuivat, että Ilja "näki jotain", joka oli tarpeeksi voimakas saamaan hänet murehtimaan tekoälyn tulevaisuutta ja miettimään tekoälyn kehitystä.

Jotkut jopa tulkitsevat sen seuraavasti: OpenAI saattoi toteuttaa AGI:n sisäisesti, mutta ei synkronoinut tietoa useammalle ihmiselle ajoissa. Ilja ja muut painostivat teknologian laajamittaista käyttöä hätäpysäytysavain. Mutta nämä ovat vain arvauksia.

Myrskyn jälkeen Ultraman näyttää pystyvän hallitsemaan OpenAI:ta vapaammin, kun taas Ilja Sutskever hämmentää.

Tämän vuoden toukokuussa OpenAI:n perustaja ja johtava tutkija Ilja Sutskever ilmoitti eroavansa samaan aikaan kuin Ilja, Super Alignment -tiimin toinen johtaja Jan Leike. OpenAI:n Super Alignment -tiimi hajotettiin.

Kesäkuussa Ilja sanoi X:llä, että hän oli perustanut uuden yrityksen - "Safe SuperIntelligence (SSI)".

Jan Leike ilmoitti myös toukokuun lopussa, että hän liittyy OpenAI-kilpailija Anthropiciin jatkamaan superkohdistustutkimusta. Kun John Schulman ilmoitti liittyneensä Anthropiciin, Jan Leike kommentoi: "Olen erittäin iloinen voidessani työskennellä jälleen yhdessä!"

Turvallisuussyistä OpenAI:n hallitus ilmoitti toukokuussa uuden turvallisuus- ja turvallisuuskomitean perustamisesta, jota johtivat johtajat Bret Taylor (hallituksen puheenjohtaja), Adam D'Angelo, Nicole Seligman ja Sam Altman (toimitusjohtaja). Tämä komitea on vastuussa suositusten tekemisestä koko hallitukselle kriittisistä OpenAI-projektien ja -toimintojen turvallisuuspäätöksistä.

Henkilöstömuutokset ovat kuitenkin jatkuneet. Tämä saa ihmiset spekuloimaan, mitä OpenAI:ssa tapahtuu.

Joten kuinka kaukana OpenAI:n seuraavan sukupolven AI-suuri malli on AGI:sta? Kannattaako suurten mallien turvallisuudesta huolehtia?

On syytä huomata, että OpenAI näyttää hidastuvan viime aikoina. OpenAI:n DevDaylla tänä syksynä julkaisema uutinen totesi, että GPT-5:tä ei julkaista toistaiseksi, mikä alentaa odotuksia suurille mallijulkaisuille ja keskittyy API- ja kehittäjäpalveluiden päivittämiseen.

Viitelinkki: https://www.theinformation.com/articles/trio-of-leaders-leave-openai?rc=ks2jbm