kalat ja lampaat ovat peräisin aofein temppelistä

qubits |. julkinen tili qbitai

yrityksessä on vain 10 henkilöä ja se on kerännyt siemenkierrosta rahoitusta.1 miljardi dollaria。

tällaista leuan pudottamista voi vain tapahtuailja sutskeverrungossa se näyttää hieman "normaalilta".

ilja, aikana, jolloin suuret mallit pyyhkäisevät maailmaa, hänen panoksensa tunnustetaan saavuttavaksimuuttaa maailmaataso:

hän on yksi kolmesta alexnetin kirjoittajasta sen jälkeen, kun hänet salametsätettiin googlelle mentorinsa hintonin kanssa, hän oli syvästi mukana alphago-projektissa, joka järkytti maailmaa.

vuonna 2015 hän osallistui openai:n perustamiseen ja toimi johtavana tutkijana. chatgpt muuttaa maailmaa jälleen, ja häntä pidetään yhtenä avainhenkilöistä sen takana.

viime vuoden marraskuusta lähtien iljan jokainen liike on nostettu etualalle ja kiinnittänyt maailmanlaajuisen teknologiapiirin huomion:

hänen käynnistämä sisätaistelu openai:n hallituksessa paljasti kiistan suurten mallien kehitysreitistä hänen erottuaan openai:sta tämän vuoden toukokuussa, kaikki odottavat hänen seuraavaa yrittäjyyttä.

nyt pöly laskeutuu. ilja itse, joka on aina ollut hillitty, jakoi myös lisää tietoa yrityksestään ssi:stä ja omasta ajattelustaan ​​agi:sta tässä vaiheessa.

reutersin kanssa käydyssä keskustelussa ilja vastasi kuuteen avainkysymykseen. alla alkuperäinen teksti:

miksi ssi luotiin?

olemme löytäneet "ison vuoren", joka on hieman erilainen kuin aikaisempi työni...kun saavut tämän vuoren huipulle, paradigma muuttuu…kaikki, mitä tiedämme tekoälystä, on pian muuttumassa.

siinä vaiheessa erittäin älykkäistä tietoturvatoimista tulee kriittisiä.

ensimmäinen tuotteemme on turvallinen superäly.

ennen superälyä julkaistaanko tekoäly, joka on yhtä älykäs kuin ihmiset?

mielestäni avain on: onko se turvallista? onko se hyvää edistävä voima maailmassa? uskon, että kun teemme niin, maailma muuttuu paljon. joten on melko vaikeaa antaa selkeää suunnitelmaa "mitä aiomme tehdä" juuri nyt.

voin kertoa teille, että maailmasta tulee hyvin erilainen paikka. ulkomaailman käsitys tekoälyn tapahtumista muuttuu dramaattisesti ja sitä on vaikea ymmärtää. tästä tulee intensiivisempi keskustelu. se ei välttämättä ole vain meidän päätöksestämme kiinni.

miten ssi määrittää, mikä on turvallinen tekoäly?

jotta voimme vastata tähän kysymykseen, meidän on suoritettava joitakin tärkeitä tutkimuksia. varsinkin jos olet kuten me ja luulet, että asiat muuttuvat paljon... monia mahtavia ideoita löytyy.

monet ihmiset miettivät, mitä testausta tekoälylle pitää tehdä, kun se tulee tehokkaammaksi? se on hieman hankala, ja tutkimusta on paljon tehtävänä.

en halua sanoa, että nyt on selkeä vastaus. mutta se on yksi niistä asioista, jotka meidän on selvitettävä.

tietoja mittakaava-oletuksista ja tekoälyn turvallisuudesta

kaikki puhuvat "skaalaushypoteesista", mutta kaikki jättävät huomiotta yhden kysymyksen: mitä skaalaamme?

valtava läpimurto syvässä oppimisessa viimeisen vuosikymmenen aikana oli mittakaavaoletuksen erityinen muotoilu. mutta se muuttuu... ja kun se muuttuu, järjestelmän ominaisuudet kasvavat, ja turvallisuuskysymyksistä tulee kaikkein kiireellisimpiä, ja siihen meidän on puututtava.

onko ssi avoin lähdekoodi?

tällä hetkellä kaikki tekoälyyritykset eivät käytä avointa hankintaa päätyössään, emmekä mekään. mutta uskon, että tietyistä tekijöistä riippuen tulee olemaan paljon mahdollisuuksia avoimen lähdekoodin superälykkääseen tietoturvatyöhön. ei ehkä kaikki, mutta osa varmasti.

ajatuksia muiden tekoälyyritysten tietoturvatutkimuksesta

itse asiassa minulla on erittäin korkea käsitys toimialasta. uskon, että kun ihmiset jatkavat edistymistä, kaikki yritykset ymmärtävät - luultavasti eri ajankohtina - kohtaamiensa haasteiden luonteen. emme siis ajattele, ettei kukaan muu voi tehdä sitä, vaan se, että ajattelemme, että voimme osallistua.

mihin miljardi dollaria käytetään?

lisää lopuksi taustatietoa iljan sanojen ulkopuolelta.

uutiset ssi:stä julkaistiin ensimmäisen kerran tämän vuoden kesäkuussa. tavoitteena on tehdä se, mitä ilja epäonnistui openai:ssa: rakentaa turvallista superälyä.

tällä hetkellä ssi:llä on vain 10 työntekijää varojen keräämisen jälkeen se aikoo käyttää varoja laskentatehon ostamiseen ja huippuosaajien palkkaamiseen.

ne, jotka ovat samaa mieltä ideoistaan ​​ja ovat henkisesti valmistautuneet siihen, että tekoäly ylittää jonain päivänä ihmisen älykkyyden.

toinen perustaja daniel gross paljasti myös, että he eivät kiinnitä liikaa huomiota pätevyyteen ja kokemukseen, vaan viettävät tuntikausia arvioidakseen, onko ehdokkailla "hyvä luonne".

laskentatehojen osalta ssi suunnittelee yhteistyötä pilvivalmistajien ja siruyritysten kanssa. vielä ei ole selvää, minkä yritysten kanssa ja miten yhteistyötä tehdään.

ssi:n perustajia ovat iljan lisäksi daniel gross ja daniel levy.

△ vasemmalla: daniel gross oikealla: daniel levy

daniel gross valmistui harvardin yliopiston tietojenkäsittelytieteen osastolta ja oli aiemmin yksi y combinatorin kumppaneista. hän perusti myös monia yrityksiä tai osallistui niiden perustamiseen, mukaan lukien citrus lane, writelatex (myöhemmin nimeltään overleaf).

time 100 -lehti listasi hänet yhdeksi "tekoälyn vaikutusvaltaisimmista ihmisistä".

daniel levy valmistui stanfordin tietojenkäsittelytieteen osastolta ja oli aiemmin openai-optimointitiimin päällikkö.