uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

• Mengchen Crexi tulee Aofein temppelistä
  Qubits |. Julkinen tili QbitAI

Juuri nyt OpenAI:n huipulla oli suuri maanjäristys:

Lianchuang John SchulmanEroa ja juokse karkuun,Lianchuang ja presidentti Greg Brockmanpitkä loma,Peter Deng, tuotejohtajaHän paljasti myös eronneen.

John Schulman, joka on johtanut OpenAI-vahvistusoppimistiimiä monta vuotta, tunnetaan nimellä "ChatGPT-arkkitehti”。

Hän otti myös väliaikaisesti Super Alignment -tiimin johtoon Ilja Sustkeverin lähtemisen jälkeen.

Nyt hän ilmoitti, että hän "teki vaikean päätöksen" liittyä naapuri Claude -tiimiin Anthropiciin.

Samaan aikaan OpenAI:n presidentti Greg Brockman ilmoitti myös pitävänsä pitkän loman vuoden loppuun asti.

OpenAI aikoo järjestää kehittäjäpäiviä ja muita tapahtumia ympäri maailmaa 1. lokakuuta alkaen, ja hän on myös poissa.

Brockman sanoi, että se oli ensimmäinen kerta, kun hän rentoutui yhdeksän peräkkäisen työvuoden jälkeen, mutta hän oli epämääräinen suunnitelmistaan ​​vuoden lopun jälkeen. Jotkut nettimiehet uskoivat sen johtuvan salassapitosopimuksesta.

Kaksikymmentä minuuttia sen jälkeen, kun Schumannin eroamisesta ilmoitettiin virallisesti, Altman kiitti Schumania hänen panoksestaan ​​​​vastauksessaan ja muistutti kohtauksesta, kun he tapasivat ensimmäisen kerran vuonna 2015.

Mutta toistaiseksi Ultraman ei ole vastannut Brockmanin lomalle.

Altmanilla on yleensä tapana kirjoittaa virkkeiden ensimmäinen kirjain ja "i" ilman isoja kirjaimia, mutta aina kun tärkeä kollega päättää lähteä, hän käyttäytyy muodollisemmin.

Kuuluisa OpenAI-sisäpiiritili Apple Brother sanoi: Nyt kun johtajuudesta on tullut tyhjä kuori, sinun tulee kiirehtiä vapauttamaan tuote.

ChatGPT-arkkitehti erosi

Schumann opiskeli perustutkinto-opiskelijana Caltechissafysiikka, opiskeli lyhyesti UC BerkeleyssäNeurotiede, opiskeli myöhemmin allevahvistava oppiminenDaniel Abbeel valmistui tietojenkäsittelytieteen tohtoriksi.

Kun hänestä tuli OpenAI:n perustaja, hän ei ollut vielä valmistunut tohtoriksi.

OpenAI on ensimmäinen ja ainoa yritys, jossa hän on työskennellyt työharjoittelunsa ulkopuolella.

Hänen mestariteoksensa ja eniten siteerattu paperiPPO, joka on ChatGPT:n ydinteknologiaan RLHF valittu vahvistusoppimisalgoritmi.

Myöhemmin hän johti linjaus-/koulutustiimiä sarjassa GPT-3.5, GPT-4 ja GPT-4o.

Syy eroon tällä kertaa liittyi myös tähän:

Toivon voivani syventää keskittymistäni tekoälyn suuntaamiseen ja aloittaa urallani uuden luvun, jossa voin palata varsinaiseen tekniseen työhön.

Hän kuitenkin antoi OpenAI:lle tarpeeksi kasvot ja lisäsi sen"Ei lähde, koska OpenAI ei tue turvallisia kohdistuspyrkimyksiä", vain henkilökohtaisesta halusta keskittyä.

ICML2023:ssa pitämässään puheessa Schumann kuvaili yhtä seuraavista tutkimussuunnistaan:Kuinka välttää liiallinen optimointi。

• Jotkut ChatGPT:n ärsyttävät käytökset (kuten liialliset anteeksipyynnöt) ovat seurausta liiallisesta optimoinnista.
• RLHF voi helposti ylioptimoida kapeita mittareita, esimerkiksi malli voi oppia pikakuvakkeita, jotka tuottavat palkintoja ymmärtämättä niitä.
• Oikea koulutus keskustelutehtäviin vaatii päättelyä, perspektiivin ottamista ja tietoa, ja tutkijoiden on suunniteltava huolellisesti koulutusmenettelyt, palkitsemistoiminnot ja tietojoukot.
• Palkintosignaalien on arvioitava koko keskustelun laatua, ei vain yksittäistä palautetta.

Tämän vuoden toukokuussa podcast-isäntä Dwarkesh Patelin haastattelussa Schumann sanoi myös,Laskentatehoa tulisi siirtää enemmän esiharjoittelusta harjoituksen jälkeen。

OpenAI menettää edelleen kykyjä

Tekoälyn turvallisuuskonseptien erojen vuoksi Ultramanin kanssa OpenAI on kokenut valtavan lahjakkuuden menetyksen.

Tämän vuoden toukokuussa kaksi Super Alignment Teamin johtajaa – Chief ScientistIlja Sutskeverja yksi RLHF:n keksijistäJan Leike, lähti OpenAI:sta peräkkäin samana päivänä.

Super Alignment Teamin perustamisesta oli tuolloin kulunut alle vuosi.

Jan Leiken lähdön jälkeen hän lähetti yli tusina twiittiä peräkkäin pommittaen kiihkeästi OpenAI:ta syyttäen sitä epäonnistuneesta lupauksestaan ​​20 prosentin laskentatehosta ja kiinnittämällä paljon vähemmän huomiota turvallisuuteen kuin sen tuotteisiin.

Myöhemmin Jan Leike päätti liittyä OpenAI:n kilpailijaan Anthropiciin jatkaakseen superkohdistuksen tutkimusta.

Johtaa GPT-4-projektin yhdenmukaistamista Jan Leiken kanssaRyan Lowe, poistui myös OpenAI:sta maaliskuun lopussa.

Ja yksi superlinjaisista jäsenistäWilliam Saunders, ja ne, jotka ovat osallistuneet GPT-4 kontradiktoriseen testaukseenDaniel Kokotajlo, erosi myös OpenAI:sta.

Naapurista puhumattakaanVeli ja sisar Dario Amodei ja Daniela Amodei, Anthropicin perustajat, myös OpenAI:lta.

Ennen kuin hänen veljensä Dario lähti, hän oli OpenAI:n tutkimusjohtaja ja hänen sisarensa Daniela oli turvallisuus- ja strategiaosaston apulaisjohtaja.Tom Brown, GPT-3:n pääinsinööriToin sen Anthropicille yli tusinan työntekijän kanssa.

Yksi syy siihen, miksi he päättivät lähteä perustamaan yritystä, oli se, että OpenAI julkaisi GPT-3:n suoraan ilman, että he ratkaisivat tietoturvaongelmaa, mikä herätti heidän tyytymättömyytensä.

Turvallisuuden korostaminen yhdistettynä perustajan taustaan ​​on tehnyt Anthropicista myös yhden OpenAI:n työntekijöiden, mukaan lukien tällä kertaa lähteneiden Jan Leike ja Schumann, tärkeimmistä paikoista.

OpenAI on myös tehnyt joitain liikkeitä tietoturvatyössä viime aikoina...

Heinäkuun lopussa OpenAI asetti turvallisuusosaston ylijohtajanAleksander MadryHänet siirrettiin turvatehtävistä ja määrättiin uudelleen "AI-päättely"-työhön.

Mutta OpenAI kertoi tiedotusvälineille, että Madry on edelleen sitoutunut tekoälyn turvallisuuteen uuden tehtävänsä jälkeen.

Toimitusjohtaja Altman korosti myös, että OpenAI on aina pitänyt tietoturvatyötä erittäin tärkeänä ja pitänyt kiinni sitoumuksestaan ​​"antaa vähintään 20% laskentatehosta koko tietoturvatiimille".

Mutta teräväsilmäiset nettimiehet huomasivat pian, että Ultraman oli leikkinyt harhaanjohtavien konseptien aallolla.Alkuperäinen lupaus oli antaa 20 % laskentatehosta superkohdistustiimille, mutta se muutettiin salaa kaikkiin tietoturvatiimeihin.。

Siksi nettimiehet lisäsivät Ultramanin twiitin jälkeen armottomasti tämän taustatiedon ja liittivät siihen aikaan virallisen linkin OpenAI:hen.

emm... Internetissä on vielä muistoja.

Yksi asia vielä

Vaikka suuri määrä sisäisiä kykyjä on menetetty, OpenAI:n "vanha vihollinen" Musk saa myös uusia tekoja -

Musk haastoi OpenAI:n taas oikeuteen, vastaajat ovat myös Ultraman ja toimitusjohtaja Brockman.

Syy tähän kanteeseen on se, että Musk uskoi, että Altman ja Brockman "pettivät ja kiristivät" hänet, kun hän osallistui OpenAI:n luomiseen.

Musk sanoi, että hän osallistui alun perin OpenAI:hen ja sijoitti siihen, koska hän uskoi Altmanin sanoihin Tuolloin Altman lupasi, että OpenAI olisi turvallinen ja avoin voittoa tavoittelematon organisaatio.

Mutta myöhemmin OpenAI:sta tuli voittoa tavoitteleva organisaatio ja se myi osan osakkeistaan ​​Microsoftille. Tämä teki Muskin erittäin tyytymättömäksi, koska hän ajatteli, että hänet oli petetty, ja tuomitsi Altmanin "petoksesta".

Muskin asianajaja Marc Toberoff sanoi, että oikeusjuttu poikkesi merkittävästi aiemmin peruutetusta kannesta ja piti vastaajia "vastuussa siitä, että he antoivat tietoisesti vääriä lausuntoja Muskille ja yleisölle" ja pyrkivät "valtaiseen oikeuksiensa takaisinperintään".

Samalla syyte vaatii myös OpenAI:n Microsoftille myöntämän lisenssin peruuttamista.

Viitelinkit:
[1]https://www.bloomberg.com/news/articles/2024-08-06/openai-co-founder-john-schulman-departs-for-ai-rival-anthropic
[2]https://www.cnbc.com/2024/07/23/openai-removes-ai-safety-executive-aleksander-madry-from-role.html
[3]https://x.com/sama/status/1818867964369928387
[4]https://www.documentcloud.org/documents/25031741-elon-vs-openai-again
[5]https://www.nytimes.com/2024/08/05/technology/elon-musk-openai-lawsuit.html