uutiset

teksti: web3 sky city · city lord

siitä on aikaa, mutta täydellinen video openai:n toimitusjohtajan sam altmanin kasvokkain haastattelusta openai:hen palattuaan on julkaistu. tämä on aika, jolloin greg on lomalla, iljan uusi yritys perustetaan ja openai:n jatkuvista tappioista ja uudesta rahoituksesta tulee uutisia.

tämän haastattelun isännöi kuuluisa isäntä trevor cui wa. hieman yllättävää on, että trevorilla on erittäin syvällinen käsitys tekoälytekniikasta, paremmin kuin 95 % ei-teknisistä isännistä.

tässä haastattelussa trevor ja sam kävivät laajan keskustelun tekoälystä, openai:sta ja samin henkilökohtaisesta urasta ja matkasta. aloittaen paluustaan ​​openai:hen sam kertoi, kuinka hän pohdiskeli henkilökohtaisten ja yritystehtävien välistä suhdetta kaaoksen ja epävarmuuden keskellä, ja puhui agi:n tulevasta kehityssuunnasta.

sam ei vain käsitellyt agi:n valtavaa potentiaalia kognition, tuottavuuden ja sosiaalisten vaikutusten alalla, vaan myös vastasi tekoälyn turvallisuuden, eettisten kysymysten, kapitalististen kompromissien ja teknologisen vallankumouksen haasteisiin. samalla hän keskusteli avoimesti ajatuksistaan ​​openai:n hallinto- ja ohjausjärjestelmästä, teknologian kehityksen ja sosiaalisen vastuun tasapainottamisesta sekä korosti läpinäkyvyyden ja demokraattisen teknologiajohtamisen merkitystä.

matka openai:n ruorin takaisin saamiseksi: sam altman pohtii lyhyttä lähtöään ja kertoo kuinka hän löysi uudelleen rakkautensa openai:ta ja sen tehtävää kohtaan tämän myllerryksen aikana. vaikka hänet erotettiin hetkeksi, hän korosti oppineensa kokemuksesta ja pitäneensä tärkeänä jatkaa agi:n kehitystä.

agi:n ja teknologisen vallankumouksen tulevaisuus: sam altman uskoo vakaasti, että agi saa aikaan ennennäkemättömän teknologisen vallankumouksen, vaikka sosiaaliset ja taloudelliset muutokset eivät ehkä olekaan niin nopeita kuin odotettiin. hän uskoo, että vaikka teknologia tulee yhä lähemmäksi agi:tä, sen todellinen vaikutus yhteiskuntaan on asteittainen, jolloin yhteiskunta voi asteittain sopeutua uusien teknologioiden tuomiin muutoksiin.

kapitalismin ja tekoälyn välinen tasapaino: haastattelussa sam altman keskustelee yksityiskohtaisesti siitä, kuinka openai toimii kapitalistisessa järjestelmässä säilyttäen samalla alkuperäisen tarkoituksensa sen luomishetkellä, eli varmistaa, että agi:n edut leviävät laajasti. vaikka openai:n on kilpailtava kapitalismissa saadakseen kehitykseen tarvittavat resurssit, hän korosti, ettei teknologian kehitystä saa tapahtua etiikan ja sosiaalisen vastuun kustannuksella.

tekoälyn demokraattinen hallinto ja sosiaaliset vaikutukset: sam altman esitti tärkeän asian, toisin sanoen tekoälyteknologian hallinnon tulisi olla demokraattisempaa. hän uskoo, että yleisön pitäisi olla enemmän mukana päättämässä tekoälyjärjestelmien käytöstä ja asettamasta sääntöjä, ja korosti teknisen läpinäkyvyyden ja monipuolisen hallinnon merkitystä.

huoli tekoälyn turvallisuudesta ja eettisyydestä: haastattelussa sam altman myönsi, että vaikka tekoälyllä on valtava potentiaali, sillä on myös monia mahdollisia turvallisuusriskejä. hän korosti erityisesti tekoälyn riskejä tietoturvassa, synteettisessä biologiassa jne. ja kehotti yhteiskuntaa edistämään teknologian kehitystä vastuullisesti.

laajempi visio tekoälystä: sam altman on optimistinen tulevaisuuden suhteen. hän uskoo, että agi:n kypsyessä jokaisella on enemmän mahdollisuuksia ajaa henkilökohtaisia ​​​​etuja ja teknologia parantaa huomattavasti globaalia koulutusta ja lääketieteellisiä standardeja. vaikka teknologiset innovaatiot tuovat muutoksia työelämään ja sosiaalisiin malleihin, hän uskoo, että viime kädessä ihmisen henki ja luovuus vievät meidät kohti vauraampaa tulevaisuutta.

trevor:

kiitos, että käytit aikaa haastatteluun.

sam: kiitos.

trevor: eikö tämä ole mielestäsi hullua aikaa?

sam: se tuntui hulluimmalta hetkeltä, jonka olen koskaan kokenut.

trevor:

kyllä, sinä olet kaiken keskellä. ihmettelen, miltä se tuntuu. koska olen vain tämän kentän ja tämän maailman innokas tarkkailija, tiedätkö? minusta tuntuu, että tämä kaikki vaikuttaa sinuun. tarkoitan, että sam altman on time-lehden vuoden henkilö -listalla.

sam: onneksi en ymmärtänyt sitä.

trevor: hyvä, ettet ymmärtänyt sitä?

sam: kyllä, tietysti.

trevor: miksi?

sam: olen jo saanut tänä vuonna enemmän huomiota kuin koko elämäni aikana.

trevor: okei, okei. et siis pidä huomiosta? etkö halua huomiota?

sam:

ei, tämä on liian julmaa. jollain tapaa se on mielenkiintoista. tämä on hyödyllistä jollain tapaa. mutta henkilökohtaisessa elämässä elämänlaatua punnitaan. joo, ei ehdottomasti. mutta siinä asiat nyt ovat. tähän kirjauduin mukaan.

trevor: joo, nyt on tunneisuuden aika.

sam: kyllä.

trevor: tunnistavatko ihmiset sinut kadulla?

sam:tämä on erittäin huono vaihtokauppa. joo, minusta tuntuu, ettet koskaan... olen varma, että tämä tapahtuu sinullekin, mutta en voi enää pysyä nimettömänä.

trevor:kyllä, mutta ihmiset eivät kysy minulta tulevaisuudesta.

sam:he eivät kysy sinulta, tuhoatko maailman.se on oikein. siinä on pieni ero. ihmiset saattavat haluta ottaa kuvan kanssani. se on sen laajuus. paljon ryhmäkuvia.

trevor: no, onnittelut. olet time-lehden vuoden toimitusjohtaja.

sam: kyllä.

trevor:

tämä oli luultavasti yksi oudoimmista hetkistä, koska luulisin, että se oli aika, jolloin time-lehti teki tämän päätöksen. muutama viikko sitten et ehkä ollut vuoden toimitusjohtaja. en tiedä, voivatko he vielä antaa sinulle tämän palkinnon. luulen, että se liittyy edelliseen työpaikkaasi.

sam: joo, en tiedä. en tiedä miten tämä toimii.

trevor: miltä tuntuu olla jälleen toimitusjohtaja?

sam:

rehellisesti sanottuna ohjelmoin edelleen todellisuutta uudelleen. se tuntui tavallaan hienolta, koska prosessin aikana opin paljon siitä, kuinka paljon rakastan tätä yritystä, sen tehtävää ja ihmisiä. ja useita kertoja matkan varrella koin kaikenlaisia ​​inhimillisiä tunteita lyhyessä ajassa. mutta minulle erittäin selkeä hetki on, että tämä kaikki tapahtui perjantai-iltapäivänä, perjantaina keskipäivällä. seuraavana aamuna, lauantaina, useat hallituksen jäsenet soittivat minulle ja kysyivät, olisivatko he valmiita keskustelemaan paluusta.

minulla on hyvin ristiriitaiset tunteet tästä. mutta lopulta minulle kävi hyvin selväksi, että halusin tulla takaisin.

rakastan todella tätä paikkaa ja sitä, mitä teemme. mielestäni se on tärkeää maailmalle, ja se on se, mistä välitän eniten.

trevor:

tekniikan maailmassa palkkaaminen ja irtisanominen on asia, johon jokaisen on totuttava.

tiedän, että sinut on erotettu y combinatorista aiemmin. jokaisella tässä tilanteessa olevalla on tarina.

sam: en halua puhua siitä.

trevor: kerro minulle, kerro minulle. nämä asiat, teet tutkimuksesi ja jatkat sieltä.

sam:

päätin noin vuotta aikaisemmin (lähtien yc:stä), että haluan tulla openai:lle.

se oli monimutkainen siirtymävaihe. mutta olin työskennellyt openai:n ja yc:n parissa samaan aikaan, ja olin melko varma, että halusin tulla openai:lle. en ole koskaan katunut tätä.

trevor:sitten sinua ei ole koskaan irtisanottu. on vaikea olla ihmisenä.

sam: onko tämä irtisanominen?

trevor: entä jos sinut irtisanottaisiin ja palkattaisiin välittömästi uudelleen?

sam:se mitä aioin sanoa, oli enemmän kuin vain...tämä on vain brutaalia...minun ei pitäisi puhua tästä juuri nyt.

tämä on erittäin kipeä asia. minusta henkilökohtaisesti ihmisenä se tuntui erittäin epäreilulta ja tapa, jolla se käsiteltiin, oli todella epäreilua.

trevor:

voin kuvitella. monet ihmiset puhuvat irtisanomisesta.

tästä tuli trendi pandemian aikana, varsinkin kun ihmiset puhuivat sähköpostin tai videon lähettämisestä ryhmälle, ja sitten tuhansia työntekijöitä irtisanottiin.

harvoin luulet, että näin tapahtuisi yrityksen toimitusjohtajalle. lisäksi et uskoisi, että näin tapahtuisi toimitusjohtajalle, jota monet kutsuvat tämän sukupolven ja tulevaisuuden "steve jobsiksi".

et muuten kutsu itseäsi sellaiseksi.

sam: ei tietenkään.

trevor:

näin monet ihmiset sanovat sinusta, mutta en usko, että on reilua kutsua sinua tämän sukupolven steve jobsiksi. mielestäni olet tämän sukupolven prometheus. olet todella.

minusta näyttää siltä, ​​että varastit tulen jumalalta. olet tämän muodonmuutoksen eturintamassa, ja elämme nyt aikakautta, jolloin tekoäly oli aikoinaan tieteisfiktiota ja legendaa, ja olet nyt sen eturintamassa, mikä voi muuttaa sivilisaatiota ikuisesti.

luuletko, että tulevaisuus muuttuu kautta linjan?

sam:

luulen niin.

on täysin mahdollista, että olen väärässä sanomassani, mutta minusta tuntuu, että aiomme rakentaa jotain, josta melkein kaikki ovat samaa mieltä, joka on agi. yleisen tekoälyn (agi) määrittäminen on erittäin vaikeaa, mutta rakennamme järjestelmän, jota ihmiset katsovat ja sanovat: "okei, teit sen." tämä järjestelmä on yleistä tekoälyä, järjestelmä, joka on ihmisen tasolla tai sen yläpuolella.

trevor:

ennen kuin selität sen yksityiskohtaisesti, mikä on mielestäsi suurin ero ihmisten käsityksen tekoälystä ja yleisestä tekoälystä?

sam:

kun pääsemme lähemmäksi tätä alaa, sen määrittelystä tulee erittäin tärkeää, ja eroja on. joillekin agi viittaa järjestelmään, joka voi suorittaa jonkin tärkeän osan nykypäivän ihmistyöstä. tottakai löydämme uusia töitä ja uutta tekemistä. mutta muille agi viittaa järjestelmään, joka voi auttaa löytämään uutta tieteellistä tietoa. nämä ovat selvästikin hyvin erilaisia ​​virstanpylväitä, joilla on hyvin erilaisia ​​vaikutuksia maailmaan.

vaikka olen kyllästynyt termiin enkä voi edes lopettaa sen käyttöä, minulla on syy, miksi en enää pidä siitä. termi on agi. luulen, että useimmille ihmisille se tarkoittaa nyt vain erittäin älykästä tekoälyä, mutta sen lisäksi siitä on tullut hyvin epämääräistä. luulen, että se johtuu pääasiassa siitä, että olemme lähentymässä.

yritän sanoa, että aiomme luoda agi:n, miksi haluatte sitä kutsua. ainakin lyhyellä ja keskipitkällä aikavälillä se muuttaa maailmaa paljon vähemmän kuin ihmiset luulevat. lyhyellä aikavälillä uskon, että yhteiskunnalla on paljon hitautta, taloudella on paljon hitautta, ja ihmisten elämäntavoilla on myös paljon hitautta. tämä voi olla terveellistä ja hyödyllistä, kun hallitsemme tätä siirtymää. me kaikki teemme asiat tietyllä tavalla ja olemme tottuneet siihen. yhteiskunta superorganismina myös käyttäytyy tietyllä tavalla ja on tottunut siihen.

katsoessani mitä tapahtui gpt-4:lle, se on mielestäni opettavaista. kun aloitimme sen ensimmäisen kerran, ihmisillä oli todellinen paniikki, jolloin he olivat kuin: "vau, en uskonut sen tapahtuvan, mutta sitten he jatkoivat elämäänsä." se muuttaa asioita ja ihmiset käyttävät sitä. se on parempi tekniikka kuin ei mitään. tietenkin, gpt-4 ei ole kovin hyvä, 5, 6, 7, ei väliä kumpi, on paljon parempi. luulen kuitenkin, että chatgpt-käyttöliittymän versio 4 on se hetki, jolloin monet ihmiset ottavat sen vakavasti ottamaan sen erittäin vakavasti. elämä kuitenkin jatkuu.

trevor:

onko tämä mielestäsi hyväksi ihmiskunnalle ja yhteiskunnalle? pitäisikö elämän jatkaa näin? yhtenä tämän tuotteen "isistä", yhtenä tämän idean "vanhemmista", haluaisitko meidän kaikkien pysähtyvän, pysähtyvän hetkeksi ja arvioida, missä olemme tällä hetkellä?

sam:

mielestäni ihmisten sietokyky yksilöllisesti ja kollektiivisesti on huomattavaa. olen todella innoissani kyvystämme omaksua uusia teknologioita ja muutoksia, mukautua niihin ja saada ne tuntemaan olevansa osa maailmaa. se on todella upeaa.

mielestäni covid on viimeisin esimerkki tästä. maailma sopeutui nopeasti ja se tuntui pian normaalilta. toinen vähemmän vakava, mutta opettavainen esimerkki on kasa uutisia ufoista. tämä oli muutama vuosi sitten. monet ystäväni, jotka olivat aikoinaan täydellisiä epäilijöitä, sanoisivat, että ehkä he olivat oikeita ufoja tai muukalaisia ​​tai jotain. silti he menivät töihin ja leikkivät lastensa kanssa seuraavana päivänä.

trevor: joo, ajattelin, mitä muuta voit tehdä? jos he lentävät, he lentävät.

toivon siis, että olisimme käyttäneet enemmän aikaa edistymisen arvioimiseen? teemme sitä koko maailmassa, ja se on mielestäni hienoa. uskon vakaasti, että näiden teknologioiden toistuva käyttöönotto on tärkeää. emme halua kehittää yleistä tekoälyä (agi) salaisessa laboratoriossa, kukaan ei tiedä sen olevan tulossa, ja sitten yhtäkkiä päästää se maailmaan niin, että ihmisten täytyy sanoa, että hyräillä, täällä ollaan, niin. ..

trevor:

pitäisikö meidän mielestäsi vähitellen sopeutua siihen ja kasvaa sen mukana teknologiana?

sam:

kyllä.

joten keskustelu nyt, jossa yhteiskunta ja johtajamme ja toimielimemme todella käyttävät näitä tekniikoita saadakseen käsityksen siitä, mitä se voi tehdä, mitä se ei voi tehdä, missä on riskejä, mitä hyötyä on, on mielestäni hienoa. mielestäni ehkä paras asia, jonka olemme tehneet tehtävämme hyväksi, on toistaa käyttöönottostrategiamme. olisimme voineet rakentaa sen salassa ja viettää vuosia sen rakentamiseen ja sitten käynnistää sen kerralla, mikä olisi ollut kauheaa.

trevor:

tänään kävelimme openai-rakennukseen, joka on vähän kuin linnoitus ja tuntuu tulevaisuuden kodilta. näin, että sinulla oli viesti, jossa kerrottiin, että tulit vieraana.

ajattelin, että voi luoja, se on outoa. se on kuin menisi kotiin, mutta ei kotiin, mutta silti kotiin.

sam:

sen pitäisi tuntua hyvin oudolta hetkeltä, kuin vierailijamerkin käyttäminen täällä. mutta minusta tuntuu, että kaikki ovat uupuneita ja täynnä adrenaliinia. ei todellakaan ollut sitä suuren hetken tunnetta, jota toivoin. tuosta päivästä oli ehdottomasti joitain hetkiä, joita kannattaa pohtia ja kertoa. esimerkiksi yksi ylpeimmistä hetkistäni oli, kun olin hyvin väsynyt ja hajamielinen. ajattelimme, että hallitus tuo minut takaisin toimitusjohtajaksi sinä päivänä, mutta siltä varalta, että he eivät tekisi niin, yksi parhaista ihmisistämme haastatteli minua l3:een, alimman tason ohjelmistoinsinöörin tehtävään. sitten hän antoi minulle selvän vastauksen. se oli erittäin ylpeä hetki.

se osa, joka jää mieleeni tuosta päivästä, on se, että minulla oli vielä tuo taito. vaikka merkki ei olekaan niin syvällinen kuin haluaisin.

trevor:

haluaisin tietää, mitä olen mielestäsi tehnyt oikein toimitusjohtajana saadakseni tukea, jota näemme julkisesti openai:n työntekijöiltä.

kun tämä tuli ilmi, en aikonut kysyä teiltä yksityiskohtia, koska tiesin, ettet voi kommentoida sisäisen tutkinnan sisältöä. mutta tiedän, että voit puhua hieman yrityksen yleisestä fiiliksestä ja siitä, mitä on tapahtunut viime aikoina. harvoin näemme asioita kehittyvän kuten openai. sinulla on tämä yritys ja tämä ajatus, jota suurin osa planeetan ihmisistä ei ollut olemassa hetkeäkään. seuraavalla minuutilla vapautat chatgpt:n tämä yksinkertainen kehote, vain pieni chat-laatikko, muuttaa maailman. luulen, että saavutat miljoona käyttäjää kaikkien aikojen nopeimmassa ajassa. luulen, että se oli viisi päivää. kyllä, viisi päivää. sitten se saavutti nopeasti 100 miljoonaa ihmistä.

hyvin nopeasti, tiedän anekdoottisella tasolla, minulle tämä asia muuttui tuntemattomaksi kaikille maailmassa. selitän sen ihmisille, yritän saada heidät ymmärtämään. minun on näytettävä se heille kuin runoutta ja jotain yksinkertaista, jonka he voivat ymmärtää. sitten ihmiset alkoivat kertoa minulle siitä. nyt siitä on tullut kaikkialla esiintyvä käsite, ja ihmiset kamppailevat selvittääkseen, mitä se on ja mitä se tarkoittaa.

mutta toisaalta on olemassa yritys, joka yrittää jollain tavalla hallita ja muokata tulevaisuutta. ja ihmiset tukevat sinua. näimme tarinan, sam altman oli poissa eikä enää toimitusjohtaja. sitten kaikki meni myrskyisäksi. en tiedä oletko nähnyt joitain huhuja. he ovat vain hulluja. yksi hulluimmista asioista, joita olen nähnyt, on joku sanonut, että tämä on sekä naurettavaa että hauskaa. he sanovat, ja tiedän luotettavista lähteistä, että sam erotettiin, koska hän yritti harrastaa seksiä tekoälyn kanssa.

sam:

en edes tiedä miten vastata. kun näin tuon viestin, olin kuin... luulen tässä vaiheessa, että minun pitäisi virallisesti kieltää tämä, sitä ei vain tapahtunut.

trevor:

mielestäni tämä on epätodennäköistä, koska ihmiset eivät ymmärrä näiden kahden yhdistelmää. mutta mikä minua hämmästyttää, on, että tämän tapauksen sensaatiomaisuus näyttää työntäneen openai:n eri valokeilaan eri hetkellä.

yksi suurista asioista on tiimiltä saamasi tuki, jossa ihmiset tulevat sanomaan, tapahtuipa mitä tahansa, me tuemme samia. tämä tilanne ei ole yleinen yrityksissä. usein toimitusjohtajat ja työntekijät ovat jossain määrin irti yhteyksistä.

mutta se tuntuu enemmän kuin pelkältä joukkueelta.

sam:

seuraava ei ole väärää vaatimattomuutta. on monia paikkoja, joissa otan vastaan ​​paljon kiitosta. mutta tässä tapauksessa, paitsi että olen tiedottaja, se ei ole täysin minun vikani. mutta mielestäni se, mitä teemme hyvin, on meidän tehtävämme todella vakuuttaa ihmiset sen tärkeydestä.

luulen, että ihmiset ymmärtävät, että tehtävä, organisaatio, tiimi, jonka parissa työskentelemme niin kovasti ja edistymme niin paljon, mutta paljon on vielä tehtävää, on todellisessa uhattuna. luulen, että se laukaisi reaktion. se ei todellakaan koske minua henkilökohtaisesti, vaikka toivottavasti ihmiset pitävät minusta ja ajattelevat, että teen hyvää työtä. kyse on yhteisestä uskollisuudesta, jota me kaikki tunnemme, ja vastuuntuntoa saada asiat tehtyä ja toivottavasti maksimoida mahdollisuutemme saavuttaa tämä tavoite.

trevor:

mikä sinun mielestäsi on korkeimmalla tasolla? pääseekö se yleiseen tekoälyyn?

sam:

anna agi:n edut levittää mahdollisimman laajasti ja vastata menestyksekkäästi kaikkiin tietoturvahaasteisiin.

trevor:

tämä on mielenkiintoinen toinen kohta. haluaisin keskustella kanssasi myöhemmin keskustellakseni tämän turvallisuusnäkökohdista tarkemmin. kun tarkastellaan openai:ta organisaationa, sen synty on todella outoa. voit vapaasti korjata, jos olen väärässä, mutta näyttää siltä, ​​​​että se perustettiin vahvasti turvallisuuteen. kokoatte joukon ihmisiä ja sanotte, että haluamme perustaa organisaation, yrityksen, kollektiivin, joka on omistautunut luomaan eettisintä tekoälyä yhteiskunnan hyödyksi. voit nähdä sen jopa näkyvän yrityksen voitonjaossa, tavassa, jolla sijoittajat saavat voittonsa ja niin edelleen.

mutta jopa openai muuttui jossain vaiheessa. luuletko pystyväsi vastustamaan kapitalismin voimia? tarkoitan, siinä on niin paljon rahaa. luuletko, että voit todella ylläpitää maailmaa, jossa raha ei määrittele mitä teet ja miksi teet sen?

sam:

tämän on oltava tekijä. kuten, jos vain ajattelee näiden järjestelmien koulutuksen kustannuksia, meidän on löydettävä jokin tapa kilpailla kapitalistisessa tilassa, paremman termin puuttuessa. mutta en usko, että se tulee olemaan tärkein motivaatiomme. muuten, rakastan kapitalismia. mielestäni siinä on valtavia puutteita, mutta verrattuna muihin järjestelmiin, joita maailma on kokeillut, se on mielestäni edelleen parasta mitä olemme keksineet. mutta se ei tarkoita, etteikö meidän pitäisi pyrkiä parempaan. uskon, että aiomme löytää tapoja käyttää valtava, ennätysmäinen pääoma, jota tarvitsemme jatkaaksemme tämän teknologian kärjessä. tämä oli yksi varhaisista oppimistamme. tämä asia on kuitenkin paljon kalliimpi kuin luulimme.

tiesimme, että meillä oli tämä idea laajennetusta järjestelmästä, mutta emme vain tienneet, miten se aikoo mennä.

trevor:

olet aina ollut suuri pidennysten fani, olen lukenut sen sinusta. yksi mentoreistasi, joka on nyt yksi sijoituskumppaneistasi injectionissa, sanoi, että aina kun kysyt samilta kysymyksen, hänen mieleensä tulee ensimmäisenä, kuinka ratkaisemme tämän ongelman? miten ratkaisemme sen? toinen asia, jonka hän jatkaa, on, kuinka skaalaamme nämä ratkaisut?

sam: kuka niin sanoi? en muista. olen kauhea nimien kanssa.

trevor: mielenkiintoista. mutta tiedän, että joku työpaikastasi sanoi sen.

sam:

mielenkiintoista. mutta en ole kuullut kenenkään sanovan niin minusta.

mutta mielestäni tämä on ollut havainto, jonka olen tehnyt monilla eri yrityksillä ja aloilla, että mittakaava johtaa usein hämmästyttäviin tuloksiin. joten näiden tekoälymallien massiivinen skaalaaminen johtaa hyvin yllättäviin tuloksiin. massiivinen skaalaus ei ainoastaan ​​tee sitä paremmaksi kaikilla ilmeisillä tavoilla, vaan myös joillain ei-ilmeisillä tavoilla. yritysten skaalautumisesta on ei-ilmeisiä etuja. y combinatorin kaltaisen yrityksen skaalaamisessa on hienoisia etuja. mielestäni tätä ei oteta vakavasti.

meidän tapauksessamme on tärkeää tietää, kuinka tärkeää on skaalata alkuvaiheessa. jos olisimme ajatellut viisaammin tai meillä olisi ollut enemmän rohkeutta, olisimme tehneet isompia liikkeitä alun perin. mutta on todella vaikea sanoa, että aion rakentaa 10 miljardia dollaria suuremman tietokoneen. joten emme tehneet sitä. ymmärsimme tämän hieman hitaammin kuin meidän olisi pitänyt olla, mutta lopulta saimme sen. nyt näemme, kuinka paljon mittakaavaa tarvitsemme.

minusta kapitalismi on siistiä. minulla ei ole mitään järjestelmää vastaan. ei, se ei ole totta. minulla on monia vastaväitteitä tätä järjestelmää kohtaan, mutta minun on myönnettävä, että mitään sen parempaa ei ole vielä löydetty.

trevor: oletko kysynyt chatgpt:ltä, voisiko he suunnitella järjestelmän?

sam: minulla on erilainen... ehkä en suunnittele uutta järjestelmää. kyllä. mutta kysyn paljon siitä, kuinka tekoäly ja kapitalismi kohtaavat ja mitä se tarkoittaa.

yksi asioista on se, että olimme oikeassa alkuperäisten olettamustemme tärkeimmän suhteen, eli tekoälyn tapahtuvan. syvä oppiminen on mahdollista... ja muuten, monet ihmiset nauravat tälle. juuri näin.

trevor: voi luoja, meille naurettiin armottomasti.

sam:

kyllä.

vaikka meillä olikin ideoita tämän saavuttamiseksi, onnistuimme siinä. mutta olimme väärässä monissa yksityiskohdissa, mikä on yleistä ja normaalia tieteessä. ennen kuin kielimallit tulivat peliin, meillä oli hyvin erilainen näkemys tämän järjestelmän rakentamisesta. meillä oli siihen aikaan hyvin erilainen konsepti agi:n rakentamisesta. emme ymmärtäneet, että tästä tulee iteratiivinen työkalu, joka kehittyy jatkuvasti ja jonka kanssa voisi puhua kuin ihmiselle. joten olimme hyvin hämmentyneitä siitä, mitä agi:n rakentaminen sisältäisi. ajattelemme aikaa ennen ja jälkeen agi:n. sitten sinun on luovutettava se muille järjestelmille ja muulle hallinnolle.

nyt luulen, että se voi, ja olen siitä erittäin iloinen, koska mielestäni se on helpompi navigoida. luulen, että se voi olla, en halua sanoa vain toista työkalua, koska se on erilainen monella tapaa, mutta tietyssä mielessä olemme tehneet ihmiskunnalle uuden työkalun. lisäsimme työkalupakkiin muutamia asioita. ihmiset tekevät kaikenlaisia ​​uskomattomia asioita sen kanssa, mutta silti ihmiset suunnittelevat tulevaisuutta, eivät jokin agi taivaalla. voit tehdä asioita, joita et voinut tehdä ennen. pystyn myös tekemään asioita, joita en ennen voinut tehdä. voimme tehdä enemmän. siinä mielessä voin kuvitella maailman, jossa saavutamme tehtävämme luomalla todella hyviä työkaluja, jotka vaikuttavat suuresti ihmisten kykyihin ja sen ulkopuolelle. olen erittäin innoissani tästä.

pidän esimerkiksi siitä, että tarjoamme ilmaisen, mainoksettoman chatgpt:n. koska olen henkilökohtaisesti sitä mieltä, että mainonta on aina ollut ongelma internetissä. mutta laitoimme vain tämän työkalun käyttöön. se on kapitalismin huono puoli, kyllä, kyllä. yksi heistä. henkilökohtaisesti uskon, että siinä on suurempia haittoja, mutta otamme tämän työkalun käyttöön ja ihmiset voivat käyttää sitä ilmaiseksi. emme halua muuttaa niitä tuotteiksi. emme halua heidän käyttävän vähän enemmän. mielestäni tämä osoittaa mielenkiintoisen polun, jolla voimme tehdä enemmän.

trevor:

joten, tehdään tämä. on monia asioita, joita toivon käsitteleväni keskustelumme aikana, emmekä tietenkään pysty vastaamaan niihin kaikkiin. mutta on joitain ajatuksia, kohtia ja alueita, joita toivottavasti voimme tutkia. luulen, että ensimmäinen ja ajankohtaisin kysymys on, mitä yritykselle tapahtuu tulevaisuudessa? minne luulet sen menevän? yksi asia, jota pidän erityisen mielenkiintoisena, on uuden hallituksen kokoonpano, erityisesti openai:lle, jossa ennen oli naisia ​​hallituksessa ja nyt ei ole, eikä aiemmin ollut taloudellisia kannustimia hallituksen jäsenille, ja nyt on. mietin, oletko huolissasi siitä, että suoja, jonka auttoi luomaan, on nyt poissa ja että sinulla on johtokunta, joka ei enää keskity ihmisten suojelemiseen tai turvallisemman tulevaisuuden määrittelemiseen, vaan keskittyy rahan ansaitsemiseen ja mahdollisimman iso ja vahva?

sam:

uskon, että nykyiset ja aiemmat hallintorakenteemme ja hallituksemme eivät toimi joillakin tärkeillä tavoilla. tuen siis täysin parannuskeinojen tunnistamista ja tuen hallitusta ja heidän työtään sen saavuttamiseksi.

on selvää, että hallituksen on kasvattava ja monipuolistettava, ja uskon, että se tapahtuu nopeasti. meidän on kuunneltava niiden ääniä, jotka puhuvat niiden puolesta, joita ei perinteisesti ole puolustettu, ja pohdittava tekoälyn turvallisuutta erittäin huolellisesti, vaan myös opittava menneisyyden opetuksista siitä, kuinka rakentaa vuorovaikutusta kaikkien kanssa. yhteiskunnan näkökohdat nämä ovat hyvin monimutkaisia ​​järjestelmiä. parhaan mahdollisen työn tekeminen samalla kun vähennetään haitallisia vaikutuksia ja jaetaan hyödyt, kaikkien on oltava edustettuina.

joten olen iloinen saadessani toisen mahdollisuuden saada kaikki nämä asiat kuntoon, jotka olemme ilmeisesti tehneet väärin aiemmin. asiat, kuten monimuotoisuus, sen varmistaminen, että edustamme kaikkia keskeisiä sidosryhmiä, jotka on edustettava, pohditaan, kuinka tehdä tästä demokraattisempi, ja jatkamme hallituksen työntämistä tekemään joitain päätöksiä tämän tekniikan hallitsemiseksi. tiedän, että se ei ole täydellinen, mutta mielestäni se on parempi kuin mikään muu, mitä voimme tällä hetkellä ajatella. on tärkeää olla enemmän tekemisissä käyttäjäyhteisömme kanssa ja antaa heidän auttaa asettamaan rajat tämän tekniikan käytölle.

merkittävä tulevaisuuden suunta on hallituksen ja hallintorakenteen laajentaminen. tiedän jälleen, että nykyinen johtokuntamme on pieni, mutta mielestäni he ovat hyvin sitoutuneita kaikkeen, mistä juuri puhuit.

ja sitten on toinen suuri kysymysryhmä. jos olisit kysynyt minulta viikko sitten, olisin sanonut, että yrityksen vakauttaminen oli tärkeintä. mutta ainakin sisäisesti oloni on hyvä. emme menettäneet asiakasta, emme työntekijää. jatkamme kasvua, mikä on hämmästyttävää. jatkamme uusien tuotteiden esittelyä. tärkeimmät kumppanuussuhteemme tuntuvat vahvistuneilta, ei esteiltä. tältä osin kaikki meni suunnitelmien mukaan. ja mielestäni ensi vuoden ensimmäisen puoliskon tutkimus- ja tuotesuunnitelmat tuntuvat paremmilta ja kohdistetuilta kuin koskaan.

trevor:

huomaan aina ajattelevani sinua ihmisenä, kun tämä koko kokoushuonejuttu tapahtuu. aina kun on myrsky, olen aina kiinnostunut siitä, mitä myrskyn keskellä tapahtuu. olen utelias, missä olit, kun tämä kaikki puhkesi? kuten, mitä sinä teit? mitä maailmassasi tapahtuu henkilökohtaisella tasolla?

sam:

syy, miksi nauran, johtuu siitä, että ihmiset sanovat minusta, että minusta tuntuu kuin olisin hurrikaanin silmässä ja kaikki pyörii ympärilläni ja olen edelleen hyvin rauhallinen. tällä kertaa asiat eivät menneet toivotulla tavalla.

se on kokemus, kuin olisi myrskyn keskellä, mutta ei tyyni. olin las vegasissa katsomassa f1-kisaa.

trevor: oletko f1-fani?

sam: olen.

trevor: mitä joukkuetta tuet? onko sinulla erityistä suosikkia?

sam:

ollakseni rehellinen, mielestäni verstappen on niin hyvä, että on vaikea sanoa, kumpaa joukkuetta kannattaisi. mutta minusta tuntuu, että tämä on luultavasti vastaus, jonka kaikki sanoisivat.

trevor:

oikeastaan ​​se riippuu siitä, milloin he alkoivat kiinnittää huomiota liikkeeseen. olen schumacher-fani, koska silloin aloin katsomaan kilpailuja. ensin se oli nigel mansell, sitten ayrton senna, tiedätkö mitä tarkoitan?

verstappen on erittäin tarkka ja ymmärrän miksi hän on niin suosittu.

sam:

vaikka olen hieman väsynyt katselemaan hänen voittoaan niin monta kertaa, hän on todella hämmästyttävä.

sinä iltana saavuin myöhään torstaina. joku unohti hitsata kaivon kannen kiinni, joten ensimmäisellä kierroksella se räjähti, kuin olisi räjäyttänyt yhden ferrarin moottoreista, jolloin harjoitukset keskeytettiin. en päässyt katsomaan peliä, en nähnyt mitään toimintaa koko viikonloppuna.

sain puhelun hotellihuoneeseeni, enkä tiennyt, mikä se olisi, ja johtokunta erotti työstäni. se tuntui unelta ja olin hämmentynyt. kaikki oli hämmentävää eikä tuntunut todelliselta. se oli selvästi surullista ja tuskallista, mutta hallitseva tunne oli silloin hämmennys, ja tuntui kuin olisin sumussa ja savussa. minulla ei ole aavistustakaan mitä tapahtuu.

tapa, jolla tämä tapahtui, oli ennennäkemätön, se oli hullua. seuraavan puolen tunnin aikana puhelimeeni tuli niin paljon viestejä, että imessage kaatui puhelimeeni. näitä viestejä tuli kaikilta ja puhelin muuttui täysin käyttökelvottomaksi, kun ilmoituksia ilmestyi jatkuvasti. imessage joutui siihen pisteeseen, että se pysähtyi hetkeksi, viestit viivästyivät ja sitten kaikki viestit merkittiin luetuiksi, joten en voinut edes sanoa kenelle puhuin, se oli kaaosta.

puhuin täällä joukkueen kanssa yrittäen selvittää, mitä oli tekeillä. kuten microsoft on myös puhelimessa, ja muut osapuolet ovat myös yhteydessä. koko tilanne oli todella huolestuttava eikä tuntunut todelliselta. rauhoituin ja aloin miettimään tulevaisuutta. haluan todella työskennellä agi:n (artificial general intelligence) parissa. jos en voi tehdä sitä aluksi, yritän silti jatkaa. ajattelen parasta lähestymistapaa.

greg erosi, muutama muu lopetti, ja aloin saada tulvan viestejä ihmisiltä, ​​jotka halusivat työskennellä kanssani. tuolloin openai:hun paluu oli täysin poissa mielessäni. voin kuvitella, mitä tulevaisuus tuo tullessaan, mutta en oikein ymmärrä, kuinka suuri alan tapahtuma tämä on, koska en oikeastaan ​​katso uutisia. tunnen vain kuinka valtava määrä viestejä on vastaanotettu.

trevor:

koska olet kirjaimellisesti keskellä myrskyä.

sam:

kyllä. haluan vain tukea openai:ta, selvittää, mitä tehdä seuraavaksi, yrittää ymmärtää, mitä tapahtuu. sitten lensin takaisin kaliforniaan, tapasin ihmisiä ja aloin keskittyä hyvin tulevaisuuteen. mutta toivon myös openai:lle kaikkea hyvää. melkein koko yön nukuttiin vähän ja puhuttiin paljon samaan aikaan. siitä seurasi hullu viikonloppu. olen varma, että en ole vieläkään täysin ymmärtänyt kaikkea ja olen edelleen hieman järkyttynyt ja yritän edelleen poimia palasia. olen varma, että tunnen sen enemmän, kun minulla on aikaa istua alas ja käsitellä sitä.

trevor:

tuntuuko sinusta siltä, ​​että sinun täytyy hypätä takaisin kaikkeen kerralla? koska sinun mukaan olet tällä tehtävällä. näet ajatuksen silmissäsi, ja maailma on saavuttanut pisteen, josta ei ole paluuta. olet menossa tiettyyn suuntaan ja yhtäkkiä näyttää siltä, ​​että et voi saavuttaa sitä sillä alalla, jolla olet. mutta kuten sanoit, microsoft astui väliin ja satya nadella sanoi, tule töihin kanssamme, niin rakennamme tämän tiimin uudelleen.

jos ihmiset ovat samaa mieltä sam altmanista, se on, että hän on sitkeä. hän on tinkimätön ja uskoo, että jos sinulla on tavoite ja uskot johonkin, sinun ei pidä antaa elämän olla tiellä. ja sinä näytät olevan menossa siihen suuntaan. et ole sanonut mitään julkisesti openai:sta etkä millään tavalla väheksynyt sitä. mutta se näyttää aiheuttavan sinulle paljon painetta.

sam:

varmasti. en usko, että se on jotain, josta en voi toipua, mutta mielestäni olisi mahdotonta käydä läpi tätä ja olla vaikuttamatta, se olisi hyvin outoa.

trevor:

tuntuuko sinusta siltä, ​​että olet menettänyt osan itsestäsi?

sam:

kyllä. aloitimme openai:n vuoden 2015 lopussa. ensimmäinen työpäivä alkoi itse asiassa vuonna 2016.

olen tehnyt tätä yc:llä jonkin aikaa, mutta vuoden 2019 alusta lähtien olen tehnyt sitä kokopäiväisesti. agi ja perheeni ovat kaksi asiaa, joista välitän eniten. joten yhden niistä menettäminen, minun pitäisi sanoa, teki minusta enemmän sitoutumista agi:hen ja enemmän välittämistä tehtävästä. mutta tietysti välitän myös tästä organisaatiosta, näistä ihmisistä, käyttäjistämme, osakkeenomistajistamme ja kaikesta mitä tänne rakennamme. se oli siis todella kipeä.

ainoa elämänkokemus, johon voin verrata sitä, on kun isäni kuoli, mikä oli tietysti paljon pahempaa. se oli hyvin äkillinen asia, se hämmennyksen ja menetyksen tunne. siinä tapauksessa minusta tuntui, että minulla oli vähän aikaa ottaa se kaikki mukaan. mutta paljon muuta oli tulossa, ja se oli niin odottamatonta, että minun piti poimia hänen elämänsä palaset hetkeksi. vasta noin viikko sen jälkeen minulla oli todella aikaa hengittää ja ajatella: voi luoja, en voi uskoa, että tätä tapahtuu. niin, se on ehdottomasti paljon pahempi. mutta täällä on samanlaisia ​​kaikuja.

trevor:

kun tarkastelet yrityksen tulevaisuutta ja rooliasi siinä, kuinka löydät juuri nyt tasapainon avoimen tekoälyn työntämisen eteenpäin ja jatkamisen välillä siihen suuntaan, johon uskot? onko sinulla vielä hätäjarrut? onko yrityksessä jokin järjestelmä, että kun tunnet, että luomme jotain, jolla voi olla huono vaikutus yhteiskuntaan, astumme väliin ja lopetamme sen käytöksen. onko sinulla tämä kyky? ja onko tämä järjestelmä sisäänrakennettu?

sam:

kyllä tietysti. meillä on ollut tällainen järjestelmä aiemmin. luomme esimerkiksi joitain järjestelmiä, mutta emme ota niitä käyttöön. uskon, että teemme tämän uudelleen tulevaisuudessa. tai luomme järjestelmän ja sanomme: hei, tarvitsemme hieman kauemmin varmistaaksemme sen, ennen kuin voimme ottaa sen käyttöön. aivan kuten gpt-4:n tapauksessa, koulutuksen suorittaminen kesti lähes kahdeksan kuukautta ennen kuin olimme valmiit julkaisemaan sen kaikkine kohdistuksineen ja turvatesteineen. muistan puhuneeni joidenkin tiimin jäsenten kanssa, ja tämä ei ollut hallituksen päätös, vaan ihmiset täällä tekivät työtään ja olivat sitoutuneet tehtäväämme. tämä siis jatkuu.

olen erittäin ylpeä tästä tiimistä sen kykyyn toimia hyvin kaaoksen, kriisin, epävarmuuden ja stressin keskellä. annan heille a+, he tekivät hienoa työtä. kun pääsemme lähemmäksi vankempia, erittäin vankempia järjestelmiä, uskon, että rakentamiemme tiimien kulttuuri ja kyky ovat luultavasti tärkein elementti, kuten pysyä rauhallisena kriisissä ja tehdä hyviä, harkittuja päätöksiä. mielestäni tiimi täällä on todella osoittanut pystyvänsä siihen, mikä on todella tärkeää.

joku sanoi, että yksi openai:sta oppimistamme asioista on se, että sam voisi johtaa yritystä ilman virkanimikettä. mielestäni se on täysin väärin eikä yksinkertaisesti totta. oikea opetus oli, että yritys saattoi toimia ilman minua. tämä on kulttuurikysymys ja tiimi on valmis ja kulttuuri on valmis. olen erittäin ylpeä siitä ja todella innoissani palattuani takaisin ja jatkaa sitä.

kun katson, kuinka tiimi hoitaa kaiken, se auttaa minua nukkumaan paremmin öisin, kun kohtaamme edessämme olevat haasteet. tulevaisuudessa on tätä suurempia haasteita, mutta toivon ja uskon, että tämä on vaikein, koska emme ole valmistautuneet. nyt ymmärrämme sen tärkeyden, emme ole vain tavallinen yritys, kaukana siitä.

trevor:

puhutaanpa tästä. chatgpt, openai, mikä tahansa sen nimi. sinulla on dall·e, sinulla on whisper ja kaikki nämä upeat tuotteet. jos sinulla on ideoita tuotenimistä tai brändiarkkitehtuurista, olisin erittäin kiinnostunut. minusta tuntuu, että chatgpt on tehnyt sen ja nyt se on kaikkialla. kyllä, se on kauhea nimi, mutta siitä on ehkä tullut liian yleinen vaihdettavaksi. luuletko, että sitä voidaan muuttaa tällä hetkellä? voimmeko yksinkertaistaa sen gpt:hen vai vain keskustella?

sam:

en tiedä, ehkä ei.

trevor:

joskus minusta tuntuu, että tuote, nimi tai idea ylittää markkinoijien unelmat, ja ihmiset ottavat sen vastaan.

sam:

yksikään markkinoija ei valitsisi chatgpt:tä tälle nimeksi, mutta olemme luultavasti juuttuneet siihen, ja se on luultavasti okei.

trevor:

nyt minua kiehtoo sen multimodaalinen luonne. muistan edelleen, kun näin ensimmäisen kerran dall·e:n ilmestyvän, se oli vain idea, ja kun näin, kuinka se toimii, ja näin, että tämä ohjelma pystyi luomaan kuvan tyhjästä. yritän selittää sen ihmisille ja he kysyvät, mistä tuo kuva on peräisin? olin kuin, ei valokuvaa, ei lähdekuvaa. heidän mielestään se on mahdotonta.

se näki jotain, mitä, ajattelin tuolloin, oli vaikea selittää. joskus jopa minun on vaikea ymmärtää sitä. mutta kun katsomme maailmaa, jossa tällä hetkellä elämme, puhumme niistä numeroina, gpt 3.5, gpt 4, gpt 5, 6, 7, mikä tahansa se on. haluan puhua enemmän tuotteen todellisista käyttötapauksista tavalla, joka poistaa teknisen ammattikieltä.

eri tuotteiden välillä, chatgpt 3:sta 3.5:een 4:ään, näemme niin sanottujen päättelykykyjen nousevan korkeammalle tasolle ja jopa osoittavan jossain määrin luovuutta.

kun katson tämän maailman tuotteita, joita olet nyt luomassa, kuten yleiskäyttöisiä suuria kielimalleja ja nyt erikoistuneita suuria kielimalleja, ihmettelen, muuttuvatko käyttötapaukset mielestäsi dramaattisesti? luuletko, että se voisi olla kuin pieni chatbot, josta kaikki pitävät nyt, ja onko tämä tuotteen lopullinen muoto? vai luuletko, että maailmasta tulee maailma, jossa kaikella on erikoistunut gpt? esimerkiksi trevorilla on gpt, joka tekee asiat hänen puolestaan, tai tietyllä yrityksellä on gpt, joka tekee asiat heidän puolestaan. mitä mieltä olet tästä asiasta?

on selvää, että tulevaisuuden ennustaminen on vaikeaa. mutta missä olemme nyt, mihin näet sen menevän?

sam:

luulen, että se on näiden kahden yhdistelmä. tulevaisuutta on todella vaikea ennustaa, ja saatan olla väärässä, mutta olen silti valmis yrittämään. luulen, että se tulee olemaan yhdistelmä kahdesta juuri mainitsemastasi asiasta. ensinnäkin perusmalli tulee olemaan niin hyvä, että minun on vaikea sanoa varmuudella, ettei se voi tehdä mitään. se kestää kauan, mutta uskon, että olemme menossa siihen suuntaan.

trevor:

kuinka pitkä on "pitkä aika" aikakehyksessäsi? kuten miten mittaat sen?

sam:

ei lähivuosina. se paranee joka vuosi muutaman seuraavan vuoden ajan. mutta kuten aioin sanoa, olen melko varma, että vuoteen 2026 mennessä tämä malli ei vielä pysty tekemään paljon.

trevor:

mutta eikö tämä malli jatkuvasti yllätä sinua? kun puhun tässä tilassa työskenteleville insinööreille tai kenelle tahansa tekoälyyn liittyvälle tai siihen liittyvälle, yksi sana, joka tulee esiin eniten, on "yllätys". ihmiset sanovat jatkuvasti, että he opettavat sitä, koska ajattelevat, että chatgpt oppii alasta. yhtäkkiä se alkaa puhua uutta kieltä, tai luulimme opettavamme sille tätä, ja yhtäkkiä se rakentaa siltoja, sellaista asiaa.

sam:

siksi useimpien täällä olevien ihmisten subjektiivinen kokemus on todennäköisesti joskus vuosien 2019 ja 2022 välillä. mutta nyt luulen, että olemme oppineet olemaan yllättymättä. nykyään luottamuksemme on kasvanut räjähdysmäisesti, ja useimmat ihmiset ajattelevat niin. joten gpt-5, kutsumme sitä miksi tahansa, on erinomainen monissa asioissa. tulemme yllättymään joistakin erityisistä asioista, joita se voi tehdä, ja olemme myös yllättyneitä siitä, mitä se ei voi tehdä. kukaan ei tule yllättymään kuinka hyvä se on. tässä vaiheessa uskon, että meillä on todella syvä ymmärrys tästä.

toinen mainitsemasi asia on nämä mukautetut gpt:t. vielä tärkeämpää on, että mainitsit myös henkilökohtaisen gpt:n, kuten trevor gpt:n. uskon, että tästä tulee iso trendi lähivuosina. nämä mallit oppivat sinusta, pääsevät käsiksi henkilötietoihisi, vastaavat kysymyksiin haluamallasi tavalla ja toimivat ympäristössäsi erittäin tehokkaasti. luulen, että monet ihmiset haluavat tämän.

trevor:

melkein saa minut ihmettelemään, jos uusilla työmarkkinoilla gpt on melkein ansioluettelosi, gpt on melkein oudolla tavalla arvokkaampi kuin sinä. ymmärrätkö minut? se on kuin yhdistelmä kaikkea, mitä ajattelet ja kaikkea, mitä olet koskaan ajatellut, ja tapa, jolla syntetisoi ideasi, sekä omasta henkilökohtaisesta gpt:stäsi tulee... ajattelen vain hullua tulevaisuutta, kun menet työtä, he kysyvät sinulta, mikä on gpt? ja sinä sanot, okei, tämä on minun.

sam:

ajattelemme aina näitä kuten virastoja, näitä henkilökohtaisia ​​toimistoja, annan tämän tehdä asioita puolestani. mutta on mielenkiintoista, mitä sanot tästä, jos asia ei ole niin, vaan se, kuinka muut ihmiset ovat vuorovaikutuksessa kanssasi. oikein. se on kuin vaikutelma sinusta, avatar sinusta, kaiku sinusta jne. näin sen menevän siihen pisteeseen.

trevor:

sillä jos emme ole yhdistelmä kaikkea mitä olemme, niin mitä me sitten olemme? se on outo ajatus, mutta voin uskoa sen. olen aina ollut kiinnostunut siitä, minne se voi mennä ja mitä se voi tehdä.

tiedätkö miksi? kun chatgpt räjähti ensimmäisten viikkojen aikana, en koskaan unohda, kuinka nopeasti ihmiset ymmärsivät robotin vallankumouksen, tiedän, että se ei ollut robotteja, mutta ihmisille he olivat kuin robottien vallankumous, koneet eivät korvanneet. mitä he ajattelivat työpaikat, jotka korvataan. tiedätkö, ihmiset luulivat, että se korvaa kuorma-autonkuljettajat ja niin edelleen. huomasimme kuitenkin, että ei, niitä työpaikkoja on itse asiassa vaikeampi korvata. itse asiassa työpaikat, jotka korvataan niin kutsutuilla "aivotyöpaikoilla", ovat sellaisia, kuten toimihenkilötyösi. oletko lakimies? no, kun sinulla on chatgpt 5, 6, 7, miksi tahansa kutsut sitä, et ehkä tarvitse niin monta lakimiestä. olet insinööri ja mietit, mikä on sinun paikkasi... ihmiskeho on todella hämmästyttävä asia.

luuletko, että on olemassa edistysaskelia, jotka voisivat korvata ihmiskehon? vai olemmeko yhä henkisessä maailmassa?

sam:

ei, luulen, että saamme lopulta robotit toimimaan, kuten humanoidirobotit lopulta toimimaan. mutta olemme työstäneet tätä openai:n alkuvaiheessa, meillä oli robotiikkaprojekti. en tiedä tätä.

tiedämme, että rakensimme robottikäden, joka pystyy käsittelemään rubikin kuutiota kuin käsi. tämä vaatii paljon joustavuutta. luulen, että asiaan liittyy monia erilaisia ​​oivalluksia, mutta yksi niistä on, että on paljon helpompi edetä bittien maailmassa kuin atomien maailmassa.

esimerkiksi tämä robotti on vaikea rakentaa, mutta vääristä syistä. vaikeus ei ole siinä, että se auttaisi meitä edistämään vaikeita tutkimuskysymyksiä, vaan se, että robotti hajoaa jatkuvasti, eikä se ole kovin tarkka, ja simulaattorit ovat kauheita. kun kielimallilla voit tehdä kaikki nämä asiat virtuaaliympäristössä, voit edistyä paljon nopeammin. joten keskittyminen kognitiiviseen aspektiin auttaa meitä ratkaisemaan tuottavampia ongelmia nopeammin.

mutta se on myös erittäin tärkeä näkökohta, ja mielestäni kognitiivisten tehtävien ratkaiseminen on tärkeämpi ongelma. jos esimerkiksi rakennat robotin, se ei välttämättä ymmärrä, kuinka voit auttaa sinua rakentamaan kognitiivisia tehtäviä suorittavan järjestelmän. mutta jos luot järjestelmän, joka suorittaa kognitiivisia tehtäviä, se voi auttaa sinua selvittämään, kuinka voit tehdä paremman robotin.

kyllä, siinä on järkeä. joten mielestäni kognitio on se ydin, johon haluamme keskittyä. mielestäni tämä on oikea päätös. toivon kuitenkin, että voimme palata robotiikkaan.

trevor:

oletko koskaan miettinyt, milloin luulet, että tekoäly on saavutettu? kuten, mistä me tiedämme? minulle henkilökohtaisesti? esimerkiksi milloin tunnen tehtäväni suoritetuksi?

sam:

koska kaikki puhuvat yleisestä tekoälystä, mutta kysyn, mistä tiedämme, mitä se on? joten se palaa edelliseen kohtaan, jokaisella on erilainen määritelmä. kerron sinulle henkilökohtaisesti, kun olen erittäin innostunut. olen todella innoissani, kun meillä on järjestelmä, joka auttaa löytämään uutta fysiikkaa. mutta tämä tuntuu olevan paljon yleisen älykkyyden yläpuolella. näyttää siltä, ​​tiedätkö mitä tarkoitan? tämä ylittää sen, mitä luulen useimpien ihmisten määrittelevän.

trevor:

ehkä tämä johtuu siitä, että joskus ihmettelen, kuinka määrittelemme yleisen älykkyyden? määrittelemmekö sen neroudeksi tietyllä alalla? tai kuin lapsi olisi tekoäly? se on varmaa. mutta sinun on jatkettava sen ohjelmointia, ja kun he syntyvät, he eivät voi puhua, he eivät voi kävellä, he eivät tiedä mitään. ja jatkat tämän agi:n ohjelmointia saadaksesi sen sinne minne se menee.

joten jos esimerkiksi pääset siihen pisteeseen, että sinulla on versio nelivuotiaasta lapsesta.

sam:

mitä jos meillä olisi järjestelmä, joka voisi olla tällainen, vain keksitty, joka voisi toimia itsenäisesti, vanhempien avustuksella ja ymmärtää maailmaa kuten nelivuotias. kyllä, voimme kutsua sitä agi:ksi. jos voisimme todella puuttua tähän yleiseen kykyyn, voisimme selvittää sen itse, kun uusia ongelmia ilmaantuu. nelivuotiaat eivät aina ymmärrä asioita täydellisesti, mutta silloin me ilmeisesti ymmärsimme sen.

trevor:

voimmeko päästä siihen pisteeseen ymmärtämättä pohjimmiltaan ajattelun ja ajattelun luonnetta? näyttää mahdolliselta. luuletko, että voimme päästä siihen pisteeseen? minusta se on ok. tai voimme päästä... joten olen varma, että tiedät tämän.

yksi suosikkitarinoistani tekoälyn alalla on microsoftin projekti. heillä on tekoäly, joka yrittää oppia tunnistamaan miesten ja naisten kasvot, ja se on tavallaan erittäin tarkka, noin 99,9 % tarkkuudella. se on kuitenkin aina ollut huonosti edustettuna mustien ihmisten ja erityisesti mustien naisten suhteen, ja heitä on jatkuvasti pidetty miehinä. tutkijat yrittävät aina parantaa, ja he ajattelevat aina, mitä tapahtuu?

jonkin aikaa kerroin tarinan näin. se saattaa olla hieman epätarkka, mutta minusta se oli kiinnostavaa. oli aika, jolloin he "lähettivät" tekoälyä afrikkaan, mielestäni se oli kenia. he lähettivät tekoälyn afrikkaan ja kertoivat sitten kenian tutkimusryhmälle, voisivatko he käyttää sitä jonkin aikaa yrittääkseen ratkaista tämän ongelman? kun tätä tekoälyä ajettiin sillä puolella maailmaa niiden tietojoukon ja afrikkalaisten kasvojen kanssa, siitä tuli yhä tarkempi tunnistamaan erityisesti mustia naisia.

mutta lopulta he havaitsivat, että tekoäly ei koskaan tiennyt eroa miesten ja naisten kasvojen välillä. se vain piirtää korrelaatioita meikkien välillä. tämän seurauksena tekoäly totesi, että henkilö, jolla oli punaiset huulet, vaaleanpunaiset posket ja mahdollisesti siniset silmäluomet, oli nainen ja muut miehiä. tutkijat sanovat, kyllä, olet oikeassa. se löysi juuri niin sanotun "huijauskoodin". se on ikään kuin ymmärrän, mitkä standardit ovat miehille ja naisille, ja sitten se erotetaan näiden standardien mukaan.

ja sitten he ymmärsivät, että koska mustat naiset ovat yleensä alipalveluttuja meikin suhteen, he eivät käytä paljoa meikkiä, joten järjestelmä ei vain tiedä sitä. mutta emme tiedä, ettei järjestelmä tiedä. joten ajattelin, mistä tiedämme, tietääkö agi jotain vai eikö? vai huomaammeko, että se vain huijasi tiensä vastaukseen jollakin tavalla? mistä me tiedämme?

kun tämä epävarmuus kietoutuu niin moniin elämämme osa-alueisiin, mikä on tietämättömyytemme hinta? ymmärrätkö?

sam:

uskon, että edistymme näiden järjestelmien ymmärtämisessä. tällä hetkellä tulkittavuus on edistynyt jonkin verran. tämä on alue, jolla näitä malleja tutkitaan, ja on olemassa erilaisia ​​tapoja ja eri tasoja, joilla tätä tutkimusta voidaan tehdä. voit yrittää ymmärtää, mitä kukin järjestelmän keinotekoinen neuroni tekee, tai voit seurata järjestelmän ajattelevan askel askeleelta ja nähdä, mistä vaiheista olet eri mieltä. selvitämme lisää.

kyky ymmärtää, mitä nämä järjestelmät tekevät, ja toivottavasti selittää meille, miksi ne tekevät tiettyjä johtopäätöksiä, ja tekevät sen tarkasti ja vankasti. uskon, että edistymme paitsi sen ymmärtämisessä, kuinka nämä järjestelmät tekevät mitä he tekevät, myös sen ymmärtämisessä, kuinka omat aivomme tekevät sen, mitä ne tekevät. joten luulen, että ymmärrämme sen lopulta. olen utelias, ja olet varmasti myös sinä.

uskon, että edistymme entistä enemmän sellaisten menetelmien käyttöönotossa, joiden tiedämme toimivan parantamaan näitä järjestelmiä ja auttavat meitä ratkaisemaan selitettävyyshaasteen. ja uskon, että kun nämä järjestelmät kehittyvät älykkäämmiksi, niitä huijataan harvemmin. siksi monimutkaisempi järjestelmä ei välttämättä tee tällaisia ​​kosmeettisia eroja, ja se voi oppia syvemmällä tasolla. luulen, että näemme joitain todisteita siitä, että näin tapahtuu.

trevor:

sait minut ajattelemaan kahta asiaa, kun sanoit, että ei niin helposti huijattu. toinen on turvallisuusnäkökohta ja toinen tarkkuusnäkökohta. media puhui siitä. muistatko, he sanoivat, että tekoäly hallusinoi, se luuli tappavansa minut. minusta on erityisen mielenkiintoista, että ihmiset haluavat käyttää sanaa "ajattelu" kuvaamaan suuria kielimalleja. koska minusta tuntuu aina, että toimittajien pitäisi yrittää ymmärtää, mitä se tekee, ennen kuin he raportoivat siitä. mutta kun he käyttävät sanaa "ajattelu" paljon, he itse asiassa antavat yleisölle väärinkäsityksen. tunnen myötätuntoa sitä kohtaan.

sam:

meidän on käytettävä tuttuja termejä, meidän on personisoitava. mutta olen kanssasi samaa mieltä, että tämä on harhaanjohtavaa.

trevor:

koska sanot, että se on ajattelua, ja sitten ihmiset ajattelevat, ajatteleeko se minun tappamista? näin ei ole, se ei ole ajattelua, se on vain tämän maagisen transformerin käyttäminen selvittääkseen, mitkä sanat sopivat todennäköisimmin toisiinsa.

sam: mitä luulet tekeväsi?

trevor:

mitä minä teen? tämä on mielenkiintoinen kysymys. se on se, mitä sanon, on ajatus, jonka olemme yhdistäneet.

puhumme "hallusinaatioista". aloitan ensimmäisestä puoliskosta. luuletko, että voimme saavuttaa tavoitteen tehdä tekoälystä ei-hallusinoiva?

sam:

mielestäni parempi kysymys on, voimmeko varmistaa, että tekoäly ei hallusinoi silloin, kun emme halua, samalla taajuudella kuin kuinka usein ihmiset eivät hallusinoi. tähän vastaukseni on kyllä. mutta itse asiassa yksi niistä asioista, joita ihmiset rakastavat näissä järjestelmissä, on heidän kykynsä tehdä uusia asioita. jos se vain olisi... kyllä, hallusinaatiot ovat sekä ominaisuus että vika.

trevor:

sitähän minä juuri kysyin. eikö hallusinaatio ole osa älykästä olemassaoloa?

sam:

täysin.

jos ajattelet esimerkiksi tekoälytutkijan työskentelytapaa, hän tarkastelee paljon dataa, keksii ideoita, lukee paljon asioita ja alkaa sitten miettiä, ehkä tämä tai tuo. ehkä minun pitäisi kokeilla tätä kokeilua. nyt minulla on tiedot. eli se ei ihan toimi. nyt keksin tämän uuden idean.

tätä ihmisen kykyä keksiä uusia hypoteeseja, uusia selityksiä ei ole koskaan ollut olemassa, ja useimmat niistä ovat vääriä, mutta sitten on prosessi ja palautesilmukka selvittääkseen, mitkä niistä voivat olla järkeviä ja lopulta järkeviä. tämä on yksi inhimillisen kehityksen avaintekijöistä.

trevor:

kuinka estämme tekoälyn syöttämästä roskaa ja jättämästä jätettä? tällä hetkellä tekoäly toimii ihmisten jollain tavalla luomalla tiedolla. se on oppimista materiaalista, jonka uskomme olevan opittavaa. kun kaikki uudet asiat julkaistaan ​​nyt, kuten open ai, anthropic, lambda jne., tuntuu siltä, ​​että saatamme astua maailmaan, jossa tekoäly tuottaa enemmän tietoa kuin ihmiset, ja tämä tieto ei ehkä saa ansaitsemaansa tarkastelua.

joten paraneeko tekoäly, kun se oppii itsestään tavalla, jota ei ehkä sensuroida? ymmärrätkö minut?

sam:

ymmärtää täysin.

miten ratkaisemme tämän ongelman? tämä palaa kysymykseen siitä, miten eri tilanteissa käyttäytyä. haluat esimerkiksi fantasiaa luovaan prosessiin, mutta et halua sitä fantasiaa yrittäessäsi raportoida tapahtuman tarkat tosiasiat. ja nyt nämä järjestelmät voivat luoda uusia kuvia, jotka ovat kauniita tärkeässä mielessä, kuvia, jotka ovat jollain tapaa fantasiaa, mutta hyvää fantasiaa. mutta taas se on mennyt paljon paremmaksi, kun haluat järjestelmän tarjoavan vain faktoja, mutta siinä on vielä pitkä matka kuljettavana.

ei sillä ole väliä. mielestäni on hyvä asia, jos näitä järjestelmiä koulutetaan niiden omilla luomilla tiedoilla, kunhan näillä järjestelmillä on prosessi, jonka avulla ne oppivat, mikä data on hyvää ja mikä huonoa. jälleen, "hallusinaatiot" on riittämätön kuvaus tästä prosessista, koska jos se synnytti uusia tieteellisiä ideoita, näitä ideoita voidaan aluksi pitää "hallusinaatioina". tämä on arvokasta.

mutta tiedätkö mikä on hyvää ja mikä huonoa. ja tarvitaan riittävästi inhimillistä valvontaa sen varmistamiseksi, että meillä kaikilla on edelleen yhteinen määräysvalta näiden asioiden suhteen. mutta näissä rajoituksissa on mielestäni erittäin hyvä, että järjestelmä koulutetaan luotujen tietojen avulla, ja tulevat järjestelmät tekevät samoin.

ja sitten muistutit minua toisesta asiasta, jota olen ajatellut, en oikein osaa laskea sitä, mutta ihmettelen, pystyykö esimerkiksi gpt-5 tai 6 järjestelmä jossain vaiheessa luomaan enemmän sanoja kuin ihminen koko historia yhteensä. tämä tuntuu merkittävältä virstanpylvältä.

itse asiassa, ehkä sillä ei ole väliä, että sanon sen nyt.

trevor:

millä tavalla se luotiin?

sam:

esimerkiksi malli tuottaa enemmän sanoja yhdessä vuodessa kuin koko ihmiskunta. maailmassa on kahdeksan miljardia ihmistä tai mikä tahansa luku. voit laskea puhuttujen sanojen keskimääräisen määrän vuodessa.

mutta kysymys kuuluu, mihin tämä jättää meidät? siksi olin yllättynyt sanottuani sen. jostain syystä tämä tuntuu minulle tärkeältä virstanpylvältä, mutta en keksi erityistä syytä miksi.

trevor:

ehkä ihmiset ovat kuin apinoita, jotka kirjoittavat koko ajan. joten mielestäni se on tutkimisen arvoinen.

sam:

mutta en käytä sanaa "ajattelu", koska mielestäni olet oikeassa, eikä sinun pitäisi käyttää tätä sanaa. ehkä voimme sanoa tekoälyn luomien sanojen määrän verrattuna kaikkien ihmisten luomien sanojen määrään.

trevor:

olen lopettamassa. joten haluan esittää muutaman kysymyksen, ja jos en kysy niitä, ihmiset tappavat minut.

yksi tärkeimmistä kysymyksistä, ja tämä on henkilökohtainen kysymykseni, on se, että puhumme aina ai-oppimisesta datasta, ne syötetään tietojoukkoihin. siitä me puhumme. siksi tarvitset miljardin dollarin supertietokoneita, jotta tietokoneet voivat oppia.

kuinka opetamme tekoälyä ajattelemaan paremmin kuin ne, jotka syöttävät sille dataa, joka on ilmeisen virheellinen? kuinka esimerkiksi tekoäly oppii meille annettujen rajallisten tietojen lisäksi? mitä tulee rotuun, taloudelliseen asemaan ja käsityksiin, koska olemme rajallisia, kuinka opetamme sen olemaan rajoittamatta meille annettujen rajallisten tietojen perusteella?

sam:

emme vielä tiedä, mutta se on yksi suurimmista edessämme olevista tutkimussuunnista, kuinka ylittää ihmisen data. toivon, että jos teemme tämän q&a uudelleen vuoden kuluttua, voin kertoa sinulle vastauksen, mutta en vielä tiedä. emme tienneet, että sillä todella oli merkitystä.

uskon kuitenkin, että tästä tulee tärkeä voima taistelussa epäoikeudenmukaisuutta vastaan ​​kaikkialla maailmassa. en usko, että näillä järjestelmillä on niitä syviä puutteita, jotka jakavat kaikki ihmiset. heistä voidaan tehdä paljon vähemmän rasistisia, seksistisiä ja ennakkoluuloisia. heistä tulee taloudellisen oikeudenmukaisuuden voima maailmassa.

luulen, että jos tarjoat hyvän tekoälyn mentorin tai hyvän tekoälyn lääketieteellisen neuvonantajan, se auttaa maailman köyhintä puolta enemmän kuin vain rikkainta, vaikka se auttaa nostamaan kaikkia ihmisiä.

joten minulla ei ole selkeää vastausta esittämääsi tieteelliseen kysymykseen, mutta tässä vaiheessa uskon, että nämä järjestelmät voivat todellakin toimia, ja meidän on tehtävä kovaa sosiaalista työtä tehdäksemme niistä totta, mutta ne ovat potentiaalia olla äärimmäinen maa edistää oikeudenmukaisuutta maailmassa.

trevor:

ehkä se johtaa täydellisesti toiseen kysymykseen, mikä on, mitä sinä teet? mitä openai tekee? harkitsetko toimenpiteitä rikkaiden ja köyhien välisen kuilun kaventamiseksi, jonka tämä uusi teknologia jälleen luo?

jokaisen uuden teknologian ilmaantuminen on hämmästyttävää koko yhteiskunnalle, mutta ei voi kieltää, että se luo hetken, jolloin jos sinulla on se, sinulla on kaikki. ja jos et, olet poissa.

sam:

uskon, että opimme lisää ajan myötä, mutta tällä hetkellä mielestäni yksi todella tärkeistä asioista, joita teemme, on tarjota todella ilmainen palvelu. tämä tarkoittaa, ettei mainostukea, vaan yli 100 miljoonan ihmisen viikoittain käyttämää ilmaista palvelua. ja on vaikea sanoa ketään, koska joissain maissa olemme edelleen estettyinä tai olemme edelleen estettyinä, mutta yritämme tehdä todella laadukkaan, helppokäyttöisen palvelun kaikkien saataville kaikkialla, missä voimme. ilmaista tekoälyä, joka on tärkeää meille jokaiselle.

luulen, että haluamme tehdä muita asioita tällä tekniikalla. jos esimerkiksi voimme käyttää tekoälyä auttamaan sairauksien parantamisessa ja tuomaan niitä hoitoja maailman saataville, se on tietysti hyödyllistä, mutta tämän työkalun antaminen mahdollisimman monen ihmisen käsiin ja heidän käyttää sitä tulevaisuuden rakentamiseen on erittäin tärkeää. ja uskon, että voimme viedä tätä vielä pidemmälle.

trevor: vielä kaksi kysymystä.

sam: voinko lisätä vielä yhden?

trevor: aika on sinun.

sam:

toinen mielestäni tärkeä asia on se, kenellä on valtuudet päättää, mitä nämä järjestelmät sanovat, eivät sano, tee ja älä tee, kuka asettaa ne rajat. tällä hetkellä päätökset tekevät pohjimmiltaan openai:n työntekijät, eikä kukaan sanoisi, että se olisi kuin oikeudenmukainen esitys maailmasta. joten ei vain keksiä, kuinka tämä teknologia demokratisoidaan, vaan myös tämän tekniikan hallinnon demokratisoiminen, se on meille suuri haaste ensi vuonna.

trevor:

tämä liittyy suoraan siihen, mitä aioin kysyä sinulta, tämän kaiken turvallisuusnäkökulmasta. puhuimme tästä keskustelumme alussa. suunnitellessa jotain, joka muuttaa maailmaa, on tunnustettava se tosiasia, että se saattaa muuttaa maailmaa pahimmalla tavalla tai pahimpaan suuntaan. jokaisen tekniikan harppauksen myötä myös kyky aiheuttaa suurempaa vahinkoa.

onko mahdollista tehdä tekoälystä täysin turvallinen? ja sitten toinen osa on, mikä on painajaisskenaariosi? mikä saisi sinut painamaan punaista painiketta sulkeaksesi openai:n ja kaiken tekoälyn? kun menet, tiedät tämän, jos näin on, jos näin voi tapahtua, meidän on suljettava se kaikki. mitä sinä pelkäät?

ensimmäinen kysymys on, voitko pitää sen turvassa? toinen osa on, mikä on pelottavin kohtauksesi?

sam:

mielestäni ensinnäkin mainitsemasi oivallus, että katastrofaalisia vahinkoja aiheuttavien ihmisten määrä vähenee noin vuosikymmenen välein, on syvällinen tosiasia, joka meidän yhteiskunnan on kohdattava.

toiseksi en usko, että kyse on joko/tai-asiasta, miten järjestelmästä tehdään turvallinen. aivan kuten sanomme, että lentokoneet ovat turvallisia, lentokoneet törmäävät silti toisinaan, vaikka se on erittäin harvinaista. sanomme, että lääkkeet ovat turvallisia, mutta joskus fda silti sertifioi lääkkeet, jotka voivat aiheuttaa kuoleman joillekin ihmisille. turvallisuudesta ei siis päätetä yksipuolisesti, vaan yhteiskunta päättää riskit ja edut punnittuaan, kuinka turvallinen jokin on hyväksyttävää. uskon, että voimme tehdä sen, mutta se ei tarkoita, etteikö asiat voisi mennä pieleen.

uskon, että tekoälyyn liittyy suuria ongelmia, joita meidän on varottava. mielestäni yhteiskunnalla on itse asiassa melko hyvä, vaikkakin sotkuinen prosessi, jonka avulla voidaan päättää kollektiivisesti, mitkä turvallisuuskynnykset pitäisi asettaa. tämä on monimutkainen neuvottelu, johon osallistuu monia sidosryhmiä, ja me yhteiskunnana paranemme siinä ajan myötä. mutta meidän on varottava mainitsemiasi katastrofaalisia riskejä.

ydinenergia on esimerkki ydinsodalla on ollut erittäin suuri vaikutus maailmaan. maailma kohtelee sitä eri tavalla ja on tehnyt melko hämmästyttävää työtä viimeisen lähes 80 vuoden aikana. uskon, että samanlainen tilanne tapahtuu tekoälyn kanssa. yksi usein puhuttu esimerkki on tekoälyn käyttö synteettisten patogeenien suunnittelussa ja luomisessa, jotka voivat aiheuttaa valtavia ongelmia. toinen usein keskusteltu aihe on tietokoneturvallisuus ja tekoäly, joka kykenee hakkerointiin yli ihmisen kyvyn.

lisäksi on syntynyt uusi tilanne, jossa mallin ollessa riittävän tehokas se voi auttaa suunnittelemaan menetelmiä painojen siirtämiseen palvelimelta, tekemään monia kopioita ja muokkaamaan sen käyttäytymistä, mikä on enemmänkin scifi-skenaariota. mutta mielestäni meidän on koko maailman katsottava tätä asiaa eteenpäin. ei ehkä tuo erityistapaus, mutta ajatus on, että on olemassa katastrofaalinen ja jopa mahdollisesti eksistentiaalinen riski, ja se, että emme voi määritellä sitä tarkasti, ei tarkoita, että voisimme jättää sen huomiotta.

joten teemme täällä paljon työtä yrittääksemme ennustaa ja mitata, mitä nämä ongelmat voivat olla, milloin ne voivat ilmaantua ja miten voimme havaita ne ajoissa. mielestäni kaikki ihmiset, jotka sanovat, ettei tästä asiasta pidä puhua, vain väärästä tiedosta ja puolueellisuudesta ja ajankohtaisista asioista, ovat väärässä. meidän on puhuttava molemmista ja pysyttävä turvassa joka vaiheessa.

trevor:

okei, se oli juuri niin pelottavaa kuin kuvittelin. joten muuten, harkitsetko todella asettumista kuvernööriksi? onko se totta?

sam:

ei, ei. ajattelin tätä hyvin lyhyesti vuonna 2017 tai 2016 tai jopa vastaavina vuosina. luulen myös niin.

tämä kuulostaa epämääräiseltä ajatukselta, joka minulla on ollut muutaman viikon ajan huvin vuoksi.

trevor:

ok

viimeinen kysymykseni taitaa olla, mitä seuraavaksi? mikä on unelmasi? jos sam altman voisi heiluttaa taikasauvaa ja tehdä tekoälystä mitä haluat sen olevan, mitä luulet sen tuovan tulevaisuuteen? mitkä ovat edut? mitä hyötyä siitä on kaikille? ja joka tasolla se on kuin todella mukava, positiivinen asia.

sam:

kiitos tämän kysymyksen esittämisestä. minun mielestäni pitäisi aina lopettaa positiiviseen.

kyllä. uskon, että elämme ihmiskunnan historian hedelmällisintä ajanjaksoa. mielestäni kaksi päätekijää ovat tekoäly ja energia, mutta muitakin tekijöitä on. nuo kaksi asiaa, kyky keksiä mitä tahansa ideaa, kyky toteuttaa ne ideat ja tehdä se mittakaavassa, rajat, mitä ihmisillä voi olla, tulevat olemaan sellaisia ​​kuin he voivat kuvitella ja mistä me yhteiskunta neuvottelemme. jotain. uskon, että tästä tulee hienoa.

puhuimme vain siitä, mitä se tarkoittaisi, jos jokaisella opiskelijalla olisi parempi koulutuskokemus kuin rikkaimmilla ja parhaiten resursseillaan nykyään? mitä se tarkoittaisi, jos meillä kaikilla olisi parempi terveydenhuolto kuin paras terveydenhuolto, joka on nykypäivän rikkaimpien ihmisten saatavilla? mitä se tarkoittaa, jos ihmiset yleensä vapautetaan tekemään työtä, jonka he pitävät henkilökohtaisesti eniten tyydyttävinä, vaikka se merkitsisikin siirtymistä uusiin työkategorioihin? mitä se tarkoittaisi, jos jokaisella voisi olla työ, jota he rakastavat, ja samat resurssit kuin suurella yrityksellä tai tiimillä?

joten ehkä sen sijaan, että openai:ssa olisi 800 ihmistä, jokainen saa 800 älykkäämpää tekoälyjärjestelmää, jotka voivat tehdä kaikki nämä asiat, ja ihmiset vain luovat ja tekevät kaikkia näitä asioita, mielestäni se on todella merkittävää. mielestäni tämä on maailma, jota kohti olemme menossa. tämän toteuttaminen vaatii teknologian lisäksi paljon työtä, esimerkiksi yhteiskunnan on tehtävä joitain muutoksia. mutta se tosiasia, että olemme astumassa tähän yltäkylläisyyden aikakauteen, saa minut erittäin iloiseksi siitä.

trevor:

siinä kaikki, mitä sanon tässä. olen suuri, iso, suuri openai:n mahdollisten etujen fani. työskentelen koulutusalalla etelä-afrikassa. unelmani on aina ollut tarjota jokaiselle lapselle parhaat tutorit. ymmärrätkö minut? kirjaimellisesti yksikään lapsi ei jää jälkeen, koska hän voi oppia omaan tahtiinsa.

sam:

muuten, mitä tapahtuu lapsille, jotka käyttävät chatgpt:tä oppiakseen asioita? nämä tarinat ovat kuin ne, joita saan postissa joka päivä. tämä on mahtavaa.

trevor:

todellakin. tämä on todella hämmästyttävää. varsinkin kun oppimisesta tulee multimodaalisempaa, kuten videon lisääminen, siitä tulee hämmästyttävää.

haaveilen, kuten sanot, sairaanhoidosta. haaveilen kaikesta. yksi eksistentiaalinen kysymys, josta emme mielestäni puhu tarpeeksi, on se, kuinka määrittelemme ihmisen tarkoituksen uudelleen, kun tekoäly on tehokkaasti korvannut kaikki nämä asiat? koska halusitte tai älkää, historian aikana tulette huomaamaan, että tavoitteemme ovat usein määrittäneet edistymisemme.

tavoitteenamme oli kerran vain uskonto. hyvässä tai pahassa, jos ajattelee sitä, uskonto on todella hyvä saamaan ihmiset ajattelemaan ja toimimaan tietyssä suunnassa itsensä ulkopuolella. he sanovat: "tämä on tarkoitukseni, herään palvelemaan jumalaa, kumpaa jumalaa ajatteletkaan." herään palvelemaan jumalaa. herään miellyttääkseni jumalaa. mielestäni se saa ihmiset tuntemaan, että he ovat menossa kohti tavoitetta, mutta se antaa heille myös yhteisöllisyyden ja yhteenkuuluvuuden tunteen.

kun siirrymme maailmaan, jossa tekoäly eliminoi tämän, toivon, että emme unohda, kuinka monen ihmisen koko identiteetti on sidottu siihen, mitä he tekevät, sen sijaan, keitä he ovat. kun nuo roolit korvataan, kun ei ole virkailijoita, sihteereitä, puhelinvaihteiden hoitajia, avustajia, tehdastyöläisiä, niin olemme nähneet historiassa aivan liian usein tapahtuvan. kuten radikalismi ilmaantui tyhjästä, siellä oli valtava vastustus. oletko koskaan ajatellut tätä? onko mitään keinoa siepata se ennen kuin se tapahtuu?

sam:

miten kuvailisit tavoitteitamme nyt?

trevor:

luulen, että tällä hetkellä tarkoituksemme on selviytyä ja että selviytyminen on sidottu jonkinlaiseen tulontuotantoon, koska meille kerrotaan, että selviytymisen toimii, sinun on ansaittava rahaa selviytyäksesi. mutta olemme nähneet, että tämä tilanne muuttuu joissakin jaksoissa. ranskassa on hieno esimerkki, heillä oli (ja luulen, että heillä on vieläkin versio siitä) taiteilijarahasto, jossa he sanoivat, että me maksamme sinulle taiteilijana ja sinä luot vain saadaksesi ranskan näyttämään kauniimmalta. se on niin kaunista.

tiedän, että olet ubi-fani. joo, meidän ei pitäisi lähteä ennen kuin puhut siitä.

sam:

en usko, että ihmisten selviytymisen pitäisi olla sidottu heidän halukkuuteensa tai kykyynsä tehdä työtä. minusta se on kuin ihmispotentiaalin hukkaa. kyllä, olen täysin samaa mieltä kanssasi.

trevor:

odota, kysyn sinulta tätä ennen kuin lähdet. siksikö mielestäsi yleinen perustulo on niin tärkeä? koska et tuhlaa aikaa ja rahaa sellaiseen, johon et usko, käytät paljon aikaa ja rahaa yleiseen perustuloon. viimeinen asia, jonka näin, olit mukana projektissa noin 40 miljoonalla dollarilla. se oli itse asiassa 60 miljoonaa dollaria.

sam:

mielestäni yleinen perustulo ei todellakaan ole kattava ratkaisu edessämme oleviin haasteisiin, mutta mielestäni köyhyyden poistaminen on epäilemättä hyvä asia. uskon, että resurssien parempi uudelleenjako johtaa parempaan yhteiskuntaan kaikille. mutta mielestäni rahan lähettäminen ei ole tärkeä osa työkalujen tarjoamista ja hallinnon tarjoamista. ihmiset haluavat olla tulevaisuuden arkkitehteja, ja voin sanoa, että ihmiskunnalle on jatkuva merkitys tai jotain sen kaltaista tehtävää.

yksilökohtaisesta näkökulmasta kyse on ehdottomasti selviytymisestä ja menestymisestä, mutta kaiken kaikkiaan meillä on yhteinen kiire tehdä tulevaisuudesta parempi. käytämme usein tangentteja, mutta ihmisen tarina on: tulevaisuuden parantaminen. se on tekniikkaa, sitä hallintoa, sillä tavalla me kohtelemme toisiamme. se on kuin tähtien tutkimista, sillä se on tapa ymmärtää maailmankaikkeus, oli se sitten mikä tahansa. minulla on suuri luottamus, ja tämä luottamus on syvällä sisällämme. riippumatta siitä, mitä työkaluja saamme, se perustavanlaatuinen halu, ihmiskunnan tehtävä kukoistaa lajina ja yksilöinä, ei koskaan katoa.

olen siis täynnä optimismia maailman suhteen kahden sukupolven päästä. mutta tämä on erittäin tärkeä mainitsemasi seikka, joka on se, että ihmiset jotka ovat jo urallaan ja itse asiassa melko tyytyväisiä, he eivät halua muuttua. muutos on tulossa. yksi asia, jonka olemme nähneet aikaisemmissa teknologisissa vallankumouksissa, on, että näyttää siltä, ​​​​että noin kahden sukupolven sisällä yhteiskunta ja ihmiset voivat sopeutua mihin tahansa työn muutoksiin. mutta ei kymmenen vuoden kuluttua, eikä ainakaan viidessä vuodessa.

aiomme kohdata tämän, ja uskon, että jossain määrin, kuten sanoimme aiemmin, uskon, että se tulee olemaan hitaampaa kuin ihmiset ajattelevat, mutta silti nopeammin kuin yhteiskunnan on joutunut käsittelemään menneisyydessä. olen ehdottomasti hieman peloissani siitä, mitä se tarkoittaa ja kuinka sopeudumme siihen. meidän on käsiteltävä tätä, ja uskon, että löydämme ratkaisun. olen varma, että selvitämme sen.

uskon myös, että jos annamme lapsillemme ja lastenlapsillemme parempia työkaluja kuin meillä on, he tekevät asioita, jotka hämmästyttävät meitä. toivon, että he tuntevat todella pahaa siitä, kuinka huonoa elämä on meille kaikille. toivottavasti tulevaisuus on uskomaton. tämä ihmishenki ja halu haluavat tutkia ja ilmaista itseään, suunnitella parempaa ja parempaa maailmaa ja jopa sen ulkopuolella. minusta se on hienoa ja olen siitä todella iloinen.

tietyssä mielessä meidän ei pitäisi ottaa tätä pientä asiaa liian vakavasti. star warsissa on konna, joka sanoo: "älä ole liian vaikuttunut tästä luomastasi teknologisesta kauhusta, mielestäni se oli darth vader." tämä tarkoittaa sitä, että tämä teknologinen terrori ei vastaa voimien voimaa.

tärkeässä mielessä olen samaa mieltä tekoälystä. meidän ei pitäisi olla tästä kovin yllättyneitä. esimerkiksi ihmishenki opastaa meitä vaikeiden aikojen läpi, ja se on paljon suurempi kuin mikään teknologinen vallankumous.

trevor:

tämä on kaunis toivon viesti.

toivottavasti olet oikeassa, koska rakastan tätä tekniikkaa.

yhden asian, jonka haluan sanoa sinulle, sam altmanina, joka on yksi timen vuoden toimitusjohtajasta ja vuoden henkilöstä, uskon, että aiot olla jatkossakin sellaisena, erityisesti tässä roolissa. koska openai:lla ja itse tekoälyllä on valtava vaikutus meihin, pyydän teitä edelleen muistamaan, miltä sinusta tuntui, kun sinut erotettiin, koska olet luomassa tekniikkaa, joka saattaa monet ihmiset samanlaiseen asemaan. näen sinussa sen inhimillisyyden, ja toivon, että otat sen aina huomioon luodessasi.

sam:

tiedätkö mitä tein lauantaiaamuna, kuten hyvin aikaisin, kun en saanut unta? kirjoitin ylös, mitä voisin oppia tästä, jotta voin paremmin, kun muut käyvät läpi samanlaisia ​​tilanteita ja syyttävät minua, kuten minä nyt syytän lautaa.

trevor: tajusitko sen?

sam:

on monia hyödyllisiä yksittäisiä oppitunteja. mutta empatia, jonka sain koko kokemuksesta ja arvojeni uudelleen suuntaamisesta, oli tuskallisen kallista, mutta oli ehdottomasti siunaus valepuvussa. olen iloinen, että minulla on kokemusta siinä mielessä.

trevor:

no, sam, kiitos ajastasi. kiitos paljon, todella nautin kaikesta. toivon, että voimme keskustella kaikista uusista tapahtumista vuoden sisällä.

sam:

sinun pitäisi ehdottomasti tehdä tämä, se on hauskaa.

trevor:

aion, veli. ihmeellistä. kiitos.