Tao Le sai alkunsa Aofein temppelistä

Qubits |. Julkinen tili QbitAI

Milloin AGI otetaan käyttöön? GoogleDeepMind Toimitusjohtaja Hassabis ennusti viimeisimmässä haastattelussa:

kymmenen vuotta.

josAGIEn olisi yllättynyt, jos se ilmestyy seuraavan vuosikymmenen aikana.

Tässä haastattelussa Hassabis puhui tekoälyn kehitystrendeistä.

On joitain aiheita, joista kaikki ovat kiinnostuneita, kuten:

Tekoäly voi olla lyhyellä aikavälillä ylihypotettu, mutta sen potentiaali ja vaikutus jäävät aliarvioituiksi pitkällä aikavälillä.

Googlen "supertiiminä" Google DeepMindin on löydettävä tasapaino kaupallisten etujen ja tieteellisen tutkimuksen välillä.

Avoin lähdekoodi on tärkeä teknologisen kehityksen kannalta, mutta kun kohtaat teknologiaa, jota voidaan käyttää väärin, saatat haluta odottaa vuoden ennen kuin teet avoimen lähdekoodin väärinkäytön arvioimiseksi ja rajoittamiseksi.

Tarkempaa sisältöä varten katso tekstiversio alla~

Varhaisen tekoälyn "toteutusongelma".

K: Tämän päivän haastatteluun kutsuin Hassabisin, DeepMindin perustajan ja Google DeepMindin nykyisen toimitusjohtajan.

Hassabis: Kiitos, olen erittäin iloinen saadessani osallistua haastatteluusi. Aiemmin tarkastelimme, kuinka käsitteitä ja kieltä voidaan käyttää todellisessa maailmassa, kuten simuloiduissa ympäristöissä tai robotteina, joilla on todellista älykkyyttä, joka saattaa olla tarpeen ympäröivän maailman ymmärtämiseksi.

On kuitenkin myönnettävä, että nämä järjestelmät eivät ole vielä sillä ihanteellisella tasolla, tekevät monia virheitä eivätkä rakenna täydellistä maailmanmallia. Silti he ovat edistyneet paljon yli odotuksemme pelkästään kieltenoppimisen kautta.

K: Kyllä, keskustelimme viime kerralla paljon kielen toteuttamisesta todellisessa maailmassa. Mutta voitko selittää lyhyesti, mitä "lasku" tarkoittaa? Vain siltä varalta, että ystävät, jotka katsovat haastatteluamme ensimmäistä kertaa, eivät ymmärrä.

Hassabis："lasku"Tämä konsepti,Se on peräisin klassisista tekoälyjärjestelmistä, jotka rakennettiin korkeakouluissa, kuten MIT:ssä 1980- ja 1990-luvuilla.Useimmat näistä järjestelmistä ovat valtavia loogisia järjestelmiä, jotka voidaan kuvitella jättimäisiksi tietokantoiksi, jotka sisältävät monia toisiinsa liittyviä sanoja.

Ongelmana on kuitenkin se, että vaikka tietokannasta löytyy lauseita, kuten "koirilla on neljä jalkaa", kun järjestelmä kohtaa valokuvan oikeasta koirasta, se ei voi yhdistää näitä pikseleitä tietokannan symboleihin. , tämä on niin kutsuttu "laskeutumisongelma".

Toisin sanoen järjestelmällä on symbolisia tai abstrakteja esityksiä, mutta se ei voi ymmärtää näiden esitysten konkreettista merkitystä todellisessa maailmassa. Siitä lähtien, vaikka ihmiset ovat yrittäneet ratkaista tämän ongelman, he eivät ole koskaan onnistuneet saavuttamaan täydellisyyttä.

Toisin kuin aikaisemmissa järjestelmissä, nykyiset tekoälyjärjestelmät oppivat suoraan tiedoista ja muodostavat yhteyksiä datan ja todellisen maailman välille alusta alkaen.

Mielenkiintoista on, että vaikka nämä järjestelmät alun perin oppisivatkin vain kielen perusteella, niiltä pitäisi teoriassa puuttua paljon tietoa, jota tarvitaan "päästä liikkeelle", koska ne eivät ole yhteydessä todellisiin simulaattoreihin, robotteihin tai muihin syöttömuotoihin, vaan vain Se on oppimista kieliavaruudessa.

Yllättäen nämä järjestelmät pystyvät kuitenkin edelleen päättelemään jonkin verran tietoa todellisesta maailmasta.

K: Tämä voi johtua siitä, että kun ihmiset ovat vuorovaikutuksessa järjestelmän kanssa, he kertovat järjestelmälle, mitkä vastaukset ovat oikeita ja mitkä vääriä. Tällä tavalla palautteen avulla järjestelmä voi vastaanottaa osan "laskeutumistiedoista" ja muodostaa siten vähitellen yhteyden todelliseen maailmaan.

Hassabis: Todellakin, jos järjestelmä aiemmissa versioissa antaisi vääriä vastauksia "laskeutumistietojen" puutteen vuoksi, kuten esimerkiksi "Kuinka koira haukkuu?" -kysymykseen, ihmisten palaute korjaisi sen.

Tämä palaute perustuu omaan "toteutettuun" tietoomme, joten jossain määrinJärjestelmä imee ja oppii tiedot tästä palautteesta.

Hyped lyhyellä aikavälillä, aliarvioitu pitkällä aikavälillä

K: Lisäksi haluan kysyä teiltä tekoälyn hypestä. Luuletko, että nykyinen tilanteemme, nykyinen tilanne, on ali- vai ylihypotettu?

Hassabis: Minusta se on enemmän jälkimmäinen. haluan sanoa,Lyhyellä aikavälillä hype on mennyt liian pitkälle.

Luulen, että ihmiset sanovat, että tekoäly voi tehdä kaikenlaisia ​​asioita, mutta todellisuudessa se ei ole niin voimakas kuin ihmiset sanovat sen olevan. Monet startupit ja riskipääomayritykset jahtaavat epärealistisia ideoita, jotka eivät ole kovin kypsiä.

Mutta toisaalta, mielestäni se on vielä nytkin aliarvostettu tai siihen ei kiinnitetä tarpeeksi huomiota. Varsinkin kun pääsemme AGI:n ja AGI:n jälkeiseen vaiheeseen, minusta tuntuu edelleen, että ihmiset eivät täysin ymmärrä, mikä suuri muutos tämä tulee olemaan, ja siihen liittyviä vastuita.

niin,Mielestäni lyhyellä aikavälillä se on ehdottomasti ylihypotettu, mutta pitkällä aikavälillä se on silti aliarvostettu.

Multimodaalisesta Geministä Astran universaaliin tekoälyagenttiin

K: Okei, nyt haluan esittää tärkeämmän kysymyksen tässä haastattelussa. Mitä eroa sinun mielestäsi on Geminin ja muiden laboratorioiden julkaisemien suurten kielimallien välillä?

Hassabis: Olemme asettaneet Gemini-projektin alusta lähtien tavoitteeksi, että se pystyy käsittelemään usean tyyppistä dataa samanaikaisesti. Toivomme, että se ei vain ymmärrä tekstiä, vaan myös jäsentää ääniä, videoita, kuvia, koodia jne., periaatteessa kaikenlaista tietoa.

Uskomme vakaasti, että vain sallimalla järjestelmien ymmärtää ja käsitellä erilaista tietoa todellisessa maailmassa ne voivat todella ymmärtää maailmaa ja rakentaa tarkemman ja kattavamman maailmanmallin.

Tämä on itse asiassa edellä mainitsemamme "laskeutumisongelman" jatke, mutta tällä kertaa käytämme kieltä perustana saavuttaaksemme tämän.

K: Eli "toteutus" on edelleen koko projektin avain?

Hassabis: Tämä on todellakin ratkaisevaa.

Meillä on myös perimmäinen tavoite, joka onLuo monipuolinen avustaja. Olemme kehittäneet työkalun nimeltäAstroProjektin prototyyppi, Astro ei vain ymmärrä panostasi, vaan myös aistii ympäristösi kontekstin.

Kuvittele, kuinka paljon tehokkaampi henkilökohtainen avustajasi tai digitaalinen avustajasi olisi, jos se ymmärtäisi paremmin kysymyksesi kontekstin tai tilanteen, johon olet joutunut. Siksi uskomme aina vakaasti, että tämäntyyppiset järjestelmät ovat käytännöllisempiä.

Tätä varten rakensimme järjestelmään multimodaalisen toimivuuden projektin alusta lähtien. Tuolloin tämä oli ainoa malli, jossa oli tämä ominaisuus, ja nyt muut mallit yrittävät kuroa kiinni.

K：Project Astro on nouseva yleiskäyttöinen tekoälyagentti, joka pystyy käsittelemään video- ja äänidataa.Muistan, että näytit Google I/O -konferenssissa esimerkin siitä, kuinka Astro auttaa käyttäjiä muistamaan, missä heidän silmälasinsa ovat. Olen kiinnostunut tämän tekniikan alkuperästä. Onko se vain vanhan Google Glassin edistynyt kehitys?

Hassabis: Googlella on pitkä historia silmälasipohjaisten laitteiden kehittämisessä, ja se on ollut mukana jo noin 2012. Siksi heillä on tällä alalla merkittävä etulyöntiasema. Saattaa olla, että tarvittava tekniikka puuttui, jotta älykäs avustaja ymmärtäisi näkemänsä. Mutta nyt,Kun tämä digitaalinen avustaja on rinnallasi, se voi ymmärtää ympäröivää maailmaa, se tuntuu hyvin luonnolliselta.

K: Haluan jäljittää Geminin alkuperän, koska se sai alkunsa kahdesta erillisestä organisaation osastosta ja he tekivät sen?

Hassabis: Todellakin, viime vuonna laitoimme Aakkoset(Googlen emoyhtiö)Alkuperäisen kaksi tutkimusosastoaDeepMindjaGoogle Brain, yhdistettiin uudeksi osastoksi, kutsumme sitä"Superosasto"。

Näin kaikki yrityksen huippuosaajat kootaan yhteen tiimiin ja yhdistämme kaikkien tutkimusalueiden parhaan tietämyksen, erityisesti kielimalleissa.

Meillä on ollut aiempia projekteja, kuten Trin Chilla ja Gopher, jotka kaikki ovat osallistuneet varhaisten kielimallien, kuten Palm ja Lambda, kehittämiseen. Jokaisella näistä malleista on omat vahvuutensa ja heikkoutensa, ja olemme integroineet ne Gemini-projektiin, joka on ensimmäinen erittäin tärkeä projekti yhdistymisen jälkeen.

Lisäksi on toinen erityisen tärkeä seikka, joka on se, että meIntegroi kaikki laskentaresurssit yhteen. Tällä tavalla voimme suorittaa laajan mittakaavan harjoitusajoja, jotka todella yhdistävät kaiken laskentatehon,Tee Kaksosista tehokkaampia ja tehokkaampia。

Nämä kaksi tiimiä ovat aina keskittyneet tekoälyn eturintamaan. He ovat tehneet paljon yhteistyötä henkilökohtaisessa tutkimuksessa, mutta he eivät ehkä ole niin läheisiä strategisesti. Nyt yhdistetty joukkue, kuvailisin sitä Googlen"konehuone"。

Mielestäni näiden kahden joukkueen työskentelytavat ovat itse asiassa melko samankaltaisia, ei juurikaan eroa. Jatkamme seuraavaksi etujemme vahvistamista perustutkimuksessa, esimerkiksi tulevan ajattelussaMuuntajaMiltä arkkitehtuuri tulee näyttämään, me kaikki haluamme selvittää sen itse.

Siitä puheen ollen, edellisen Transformerin loi Google Brain, ja yhdistimme sen Deep Reinforcement Learningiin, mutta mielestäni tarvitaan lisää innovaatioita. Uskon, että aivan kuten viimeiset 10 vuotta, olipa kyseessä Brain tai DeepMind, jatkamme panostamistamme.

Googlen "konehuone"

K: Sanoit juuri, että Google DeepMind on nyt Googlen "konehuone". Tämä on suuri muutos. Haluan tietää, panostaako Google nyt voimakkaasti sinuun?

Hassabis: Luulen niin. Luulen, että Google on aina ollut selkeä tekoälyn merkityksestä. Pichai sanoi tullessaan ensimmäisen kerran toimitusjohtajaksi,Google on "AI-first" -yritys。

Keskustelimme tästä aiheesta, kun hän astui virkaan. Hän näki tekoälyn potentiaalin seuraavana suurena paradigman muutoksena mobiilin Internetin jälkeen, ja sen vaikutus oli tätäkin syvällisempi.

Mutta luulen, että viime vuoden tai kahden aikana olemme alkaneet todella ymmärtää, mitä se tarkoittaa, ei vain tutkimuksen näkökulmasta, vaan myös tuotteen ja kaiken muun näkökulmasta. Joten, tämä on erittäin jännittävää aikaa, mutta mielestäni se on oikea valinta meille tuoda kaikki lahjakkuus yhteen ja mennä ulos.

K: Tarkoittaako se toisesta näkökulmasta DeepMindille, josta on tulossa Googlen "konehuone", sitä, että sinun on löydettävä enemmän tasapainoa kaupallisten etujen ja puhtaan tieteellisen tutkimuksen välillä?

Hassabis: Todellakin, meidän on nyt otettava enemmän huomioon liike-elämän intressit, joista on tullut osa velvollisuuksiamme. Joitakin kohtia on kuitenkin vielä selvitettävä. Jatkamme tieteellisen tutkimustyömme edistämistä, ja panostuksemme tälle alueelle ovat edelleen kasvussa.

Mielestäni,Tämä on ainutlaatuinen asia, jonka teemme Google DeepMindissä, jopa kilpailijamme näkevät nämä tulokset laajalle levinneinä tekoälyn etuina.

"Avoin lähdekoodi" on välttämätön

K: Okei, tästä pääsenkin seuraavaan kysymykseeni: avoimeen lähdekoodiin. Kun tekniikka joutuu massojen käsiin, kuten sanoit, voi tapahtua joitain melko hämmästyttäviä asioita. Tiedän, että DeepMind on aiemmin luonut avoimen lähdekoodin monia tutkimusprojekteja, mutta tilanne näyttää nyt muuttuneen. Voitko kertoa näkemyksistäsi avoimesta lähdekoodista?

Hassabis：Avoin lähdekoodi on välttämätön, ja olemme aina olleet vahvasti avoimen lähdekoodin ja avoimen tieteen kannattaja.Kuten tiedät, julkaisemme lähes kaikki tekemämme tutkimusprojektit, mukaan lukien muun muassa Transformer jaAlphaGoOlemme julkaisseet tällaisia ​​projekteja huippulehdissä, kuten Nature and Science.

AlphaFold on myös avoimen lähdekoodin, nämä ovat kaikki meidän valmistamiammeValitse viisaasti. Olet oikeassa, tämä lähestymistapa toimii, koska teknologia ja tiede voivat edistyä nopeimmin jakamalla tietoa. Useimmissa tapauksissaAvoin lähdekoodi on yleishyödyllinen, ja näin tiede toimii。

Poikkeuksia on kuitenkin, ja silloin on kyse kaksikäyttöisistä teknologioista, kuten AGI ja tehokas tekoäly.

Ongelmana on, että haluat mahdollistaa kaikki hyvänlaatuiset käyttötapaukset, ja haluat todellisten tiedemiesten ja tekniikkojen pystyvän rakentamaan ja arvostelemaan näitä ideoita edistääkseen nopeaa kehitystä yhteiskunnassa. Mutta samaan aikaan, kuinka voit rajoittaa huonoja toimijoita, jotka saattavat väärinkäyttää näitä järjestelmiä, se on kysymys.

Se on okei nyt, koska en usko, että nämä järjestelmät ovat tarpeeksi tehokkaita, mutta kahdessa tai kolmessa vuodessa, varsinkin kun alkaa saada järjestelmiä, joilla on agenttikäyttäytyminen, se voi aiheuttaa vakavaa haittaa.

Meillä on omia avoimen lähdekoodin Gemini-malleja nimeltä Gemma, mutta ne ovat pienempiä malleja eivätkä huippuluokan malleja.

Niiden ominaisuudet ovat edelleen erittäin hyödyllisiä kehittäjille, koska niitä voidaan käyttää kannettavissa tietokoneissa ja koska niillä on pienempi määrä parametreja. Niiden ominaisuudet ymmärretään hyvin tässä vaiheessa, koska ne eivät ole uusimpia huippumalleja.

Todennäköisesti päädymme siihen, että meillä on avoimen lähdekoodin malleja, mutta ne ovat noin vuoden jäljessä uusimmista huippumalleista, jotta voimme todella arvioida näiden mallien ominaisuuksia julkisessa testauksessa käyttäjien kanssa.

Yksi avoimen lähdekoodin ongelma on, että jos jokin menee pieleen, et voi muistaa sitä. Jos pahikset alkavat käyttää sitä huonolla tavalla patentoidulla mallilla, voit sulkea sen tai jopa koko järjestelmän ääritapauksissa. Mutta kun avaat jotain, et voi ottaa sitä takaisin. Se on yksisuuntainen ovi.

AGI tulee saataville kymmenen vuoden kuluessa

K: Nykyään tieteelliset tutkijat kehittävät erilaisia ​​tekoälymalleja, mutta haluan tietää, jos astumme vaiheeseen, jossa tekoäly tukee kaikkea tieteellistä tutkimusta, jääkö T&K-instituutioille vielä tilaa?

Hassabis: Mielestäni meillä on vielä tilaa ennen yleisen AGI:n syntymistä. Mielestäni tämä vaatii tiivistä yhteistyötä yhteiskunnan, akateemisen, valtion ja teollisten laboratorioiden välillä.

Uskon todella, että tämä on ainoa tapa, jolla pääsemme lopulta perille. Jos kysyt mitä tapahtuu AGI:n jälkeen, se on todennäköisesti se, mitä todella haluat tietää. AGI on aina ollut jotain, jota pyrin rakentamaan, koska voimme käyttää sitä tutkiaksemme joitain perustavanlaatuisimpia kysymyksiä todellisuuden luonteesta, fysiikasta, tietoisuudesta ja muusta.

K: Tietojenkäsittelytieteilijä Stuart Russell kertoi minulle kerran, että hän oli hieman huolissaan siitä, että kun saavutamme AGI:n, saatamme kaikki olla kuin menneisyyden aristokraatit, vain nauttia huolettomasta ja ylellisestä elämästä ilman tavoitteita ja ajattelematta.

Hassabis: Uskon, että tulevaisuus tulee olemaan erittäin mielenkiintoinen. Mutta se liittyy myös aiemmin mainitsemaani "aliarvostettuun" asiaan, joka on ero lyhyen ja pitkän aikavälin hypetyksen välillä. Jos haluat kutsua sitä hypeksi, se on varmasti jossain määrin aliarvostettu.

Uskon, että muutos on tulevaisuudessa valtava. Uskon, että lopulta voimmeParanna monia sairauksia, jopa kaikkia sairauksia, ratkaise energia- ja ilmastoongelmia.

K: Muistaakseni sanoit joskus, että toivot, että AGI voi tutkia maailmankaikkeuden mysteereitä. Luuletko, että on olemassa joitain mahdollisuuksia, joita emme ole vielä kuvitelleet, kuten madonreikien kaltaisia ​​ilmiöitä?

Hassabis:varmasti,Uskon täysin tähän mahdollisuuteen. Toivon todella, että madonreiät muuttuvat todeksi. Minusta näyttää siltä, ​​että meillä on edelleen monia väärinkäsityksiä fysiikasta ja todellisuuden luonteesta.

On selvää, että kvanttimekaniikan ja painovoiman yhdistämiseen on piilotettu lukemattomia ratkaisemattomia mysteereitä, standardimallin ongelmia, merkkijonoteoriaa jne. Olen käynyt syvällisiä keskusteluja monien fysiikkayhteisön ystävien kanssa, ja he kaikki uskovat, että olemassa olevassa teoreettisessa kehyksessä on monia asioita, jotka eivät sovi yhteen täydellisesti.

En henkilökohtaisesti ole suuri multiverse-selitysten fani, joten mielestäni olisi hämmästyttävää, jos voisimme keksiä uusia teorioita ja testata niitä laajamittaisilla laitteilla avaruudessa.

Syy siihen, miksi olen niin kiehtova Planckin aika- ja tilanmittakaavasta, on se, että se näyttää edustavan todellisuuden lopullista resoluutiota, kuin pienintä yksikköä, johon kaikki voidaan jakaa.

Siksi mielestäni meidän pitäisi suorittaa syvällistä kokeellista tutkimusta tällä tasolla, varsinkin kun meillä onAGI:lla ja runsailla resursseilla voimme ehkä suunnitella tai rakentaa tällaisia ​​kokeellisia laitteita.

K: Sanoit kerran, että DeepMind on 20-vuotinen projekti. Kuinka pitkälle olemme nyt päässeet? Vieläkö etenee suunnitellusti?

Hassabis: Kyllä, olemme edelleen aikataulussa, mikä saattaa kuulostaa uskomattomalta, koska yleensä 20 vuotta vanha projekti tuntuu aina siltä, ​​että sen valmistuminen vie vielä 20 vuotta. Mutta olemme päässeet pitkän matkan.

Tavoitteemme on tehdä se vuoteen 2030 mennessä, joten en olisi yllättynyt, jos pääsemme sinne seuraavan vuosikymmenen aikana.

• Videon osoite: https://www.youtube.com/watch?v=pZybROKrj2Q *