uutiset

”

reutersin mukaan safe superintelligence (ssi) perusti 5. syyskuuta openai:n entinen päätutkija ilja sutskever.1 miljardi dollaria käteistä kerätty. asiaan perehtyneet ihmiset paljastivat,rahoituksen jälkeen yhtiön arvo nousi 5 miljardiin dollariin.yhtiö aikoo käyttää varoja laskentatehon ostamiseen ja huippuosaajien palkkaamiseen auttaakseen kehittämään turvallisia tekoälyjärjestelmiä, jotka ylittävät huomattavasti ihmisen kyvyt. ssi:n viranomaiset ovat myös vahvistaneet uutisten pitävän paikkansa.

ssi perustettiin kesäkuussa 2024. perustajatiimiin kuuluvat ilya sutskever, daniel levy ja daniel gross. tällä hetkellä ilja sutskever toimii johtavana tutkijana, daniel levy toimii päätutkijana ja daniel gross toimii toimitusjohtajana, joka vastaa laskentatehosta ja varainhankinnasta. ssi:llä on tällä hetkellä 10 työntekijää ja se toimii perinteisen voittoa tavoittelevan rakenteen mukaisesti.

ssi ei ole julkaissut tuotteita ja sai korkean rahoituksen ja korkeat arvostukset, kun se perustettiin alle neljä kuukautta sitten. tämä johtuu juuri näiden kolmen henkilön vahvasta toimialataustasta. sijoittajat ovat valmiita lyömään ylimitoitettuja vetoja huippuosaajista, jotka keskittyvät tekoälyn perustutkimukseen.

ilya sutskever on yksi vaikutusvaltaisimmista teknisistä asiantuntijoista tekoälyn alalla. hän opiskeli geoffrey hintonin johdolla, joka tunnetaan "keinoälyn kummisetänä", ja oli laajennetun hypoteesin varhainen kannattaja. tämän hypoteesin mukaan tekoälyn suorituskyky paranee suuren laskentatehon kasvaessa, mikä myös luo pohjan generatiivisen tekoälyn räjähdysmäiselle kasvulle.

daniel gross oli applen tekoälyteknologian johtaja ja entinen y combinator -kumppani, kun taas daniel levy on openai:n entinen työntekijä.

toistaiseksi ssi keskittyy pienen tutkija- ja insinööriryhmän rakentamiseen kalifornian palo altoon ja israelin tel aviviin.

sijoittajia ovat huippusijoittajat andreessen horowitz, sequoia capital, dst global ja sv angel. mukana on myös nat friedmanin ja ssi:n toimitusjohtajan daniel grossin sijoituskumppanuus nfdg.

gross sanoi haastattelussa: "meille on tärkeää, että meillä on sijoittajia, jotka ymmärtävät, kunnioittavat ja tukevat tehtäväämme, joka on siirtyä suoraan turvalliseen superälyyn, erityisestivietämme useita vuosia tutkimus- ja kehitystyössä ennen kuin tuomme tuotteen markkinoille。”

ssi-rahoitustietojen julkistamisen jälkeen reuters keskusteli välittömästi perusteellisesti ilya sutskeverin kanssa myös kysymyksiin, onko ssi avointa lähdekoodia ja sen tulevaa kehitystä. haastattelusta näkyy, että hän pitää erittäin tärkeänä super agi:n turvallisuutta.

seuraavan on koonnut silicon rabbit vaikuttamatta alkuperäiseen tekstiin, nauti!

ilja: "löysimme vuoren, joka on hieman erilainen kuin se, jonka parissa olen työskennellyt aiemmin... kun kiipeät tämän vuoren huipulle, paradigma muuttuu... se, mitä tiedämme tekoälystä, muuttuu jälleen. tärkeintä on, että erittäin älykäs tietoturva tulee olemaan tärkeää."

"ensimmäinen tuotteemme tulee käsittelemään superälykkyyttä."

02

ilja: "luulen, että kysymys kuuluu: onko se turvallista? se on yksi maailman suurimmistaole kilttivoima? uskon, että maailma tulee olemaan niin erilainen, kun teemme niin, että on vaikea antaa sinulle selkeää suunnitelmaa.

voin kertoa, että maailma tulee olemaan hyvin erilainen. maailma tulee katsomaan tekoälyssä tapahtuvaa hyvin eri tavalla, ja sitä on vaikea ymmärtää.tästä tulee intensiivisempi keskustelu. se ei välttämättä riipu vain päätöksistä, joita teemme itse. "

03

ilja: "jotta voimme vastata kysymykseesi täydellisesti, meidän on tehtävä tärkeä tutkimus. varsinkin jos ajattelet kuten me, asiat tulevat muuttumaan paljon... paljon hienoja ideoita herää.

monet ihmiset ajattelevat,tekoälyn tehostuessa, mihin toimiin meidän on ryhdyttävä ja mitä testejä meidän on suoritettava?tämä on vähän hankalaa. tutkittavaa on vielä paljon. en halua sanoa, että nyt on selkeä vastaus. mutta se on yksi niistä asioista, jotka meidän on selvitettävä. "

ilja: "kaikki sanovat vain "laajennettu hypoteesi". kaikki laiminlyövät kysymisenmitä tarkalleen ottaen skaalaamme?syväoppimisen suurimmat läpimurrot viimeisen vuosikymmenen aikana perustuivat laajennetun hypoteesin erityiseen muotoiluun. mutta se muuttuu... ja kun se muuttuu, järjestelmän ominaisuudet kasvavat. turvallisuusongelmat tulevat olemaan vakavampia, ja siihen meidän on puututtava. "

ilja:"tällä hetkellä,kaikki tekoälyyritykset eivät avaa työtään avoimella lähdekoodilla, niin mekin. mutta uskon, että tietyistä tekijöistä johtuen (meillä) tulee olemaan paljon mahdollisuuksia avoimeen lähdekoodiin liittyvään superälykkyyteen liittyvään turvallisuustyöhön. ei ehkä kaikki, mutta osa varmasti. "

ilja: "pidän itse asiassa erittäin korkeasti tästä toimialasta. luulen, että kun ihmiset liikkuvat eteenpäin, kaikki eri yritykset ymmärtävät sen - ehkä hieman eri aikoina - kohtaamiensa haasteiden luonteen perusteella. emme siis aio emme usko, että kukaan voi tehdä sen, mutta uskomme, että voimme osallistua."

ilja: "jotkut ihmiset voivat tehdä pitkiä päiviä, mutta palaavat nopeasti takaisin raiteilleen. se ei oikein sovi tyyliimme. mutta jos olet hyvä siinätehdä jotain erilaista, niin sinulla on mahdollisuus tehdä jotain erityistä (kanssamme). "

”meidät innostaa, kun huomaat, että tämä työntekijä on kiinnostunut työstämme, ei trendistä tai jostain hype-sisällöstä.”

"vietämme tuntikausia "hyvän luonteen" ehdokkaiden tarkistamiseen ja etsimme ihmisiä, joilla on poikkeukselliset kyvyt, sen sijaan, että painottaisimme liikaa pätevyyttä ja kokemusta.

ilja："skaalaamme eri tavalla kuin openai."

yhtiö aikoo tehdä yhteistyötä pilvipalvelujen tarjoajien ja siruyritysten kanssa rahoittaakseen laskentatehotarpeensa, mutta ei ole vielä päättänyt, minkä yritysten kanssa se tekee yhteistyötä.

viitelinkit:

ilja sutskever siitä, kuinka tekoäly tulee muuttumaan, ja hänen uudesta startupistaan ​​safe superintelligence (reuters)