uutiset

Dialogue 360 ​​​​Zhou Hongyi: Taikuutta vastaan ​​taikuutta, suurten mallien turvallisuus riippuu suurista malleista

2024-08-06

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

NetEase Technologyn "Attitude AGI" -dialogisarakkeen tuottama

Kirjailija| Zong Shuxian

Toimittaja Ding Guangsheng

Ensimmäisestä Internet Security Conferencesta on kulunut 12 vuotta. Tämän vuoden Internet Security Conferencessa konferenssilyhenne päivitettiin ISC:stä ISC.AI:ksi, ja Internet-tietoturva on virallisesti siirtynyt tekoälyn aikakauteen. "Tekoälyn aikakauden kyberhyökkäykset vaikuttavat enemmän henkilökohtaiseen turvallisuuteen ja yhteiskuntaan. Microsoftin sinisen näytön tapaus muistuttaa yleisöä siitä, että digitalisaatio ja älykkyys ovat tehneet Internet-maailmasta erityisen haavoittuvan."360Konsernin perustaja ja toimitusjohtajaZhou Hongyiilmaista.

Hän huomautti, että sinun täytyy käyttää taikuutta taistellaksesi taikuutta, käytäiso malli Suurten mallien turvallisuusongelman ratkaisemiseksi tämä on "AI + tietoturva" lähtökohta. Tällä hetkellä 360 kehittää aktiivisesti kahta pääliiketoimintalinjaa: tietoturva suurta mallia ja "haku + suuri malli" tarjotakseen ilmaisia ​​palveluita pienille ja keskisuurille yrityksille ja yksittäisille käyttäjille ja rakentaakseen ilmaisia ​​​​suuria tietoturvamalleja. Zhou Hongyi sanoi haastattelussa, että 360 ei aio olla suoraan mukana supersuurten mallien kovassa kilpailussa, vaan keskittyy turvallisten suurten mallien kehittämiseen ja soveltamiseen. 360 tekee yhteistyötä 15 suurimman kotimaisen suuren malliyrityksen kanssa omien skenaarioidensa avaamiseksi ja suurten mallien popularisoinnin ja soveltamisen edistämiseksi.

Toisin sanoen 360:n paikannuksella on tehtävä kolme asiaa hyvin: Ensinnäkin sen on rakennettava suuri tietoturvamalli. Toisaalta se käyttää suurta tietoturvamallia täytyy ratkaista suuren mallin kehitysprosessissa kohdatut erilaiset turvallisuushaasteet. Toiseksi 360:ssä itsessään on 2C-käyttäjän skenaarioita, kuten 360-selain, 360-haku, 360-lasten kellot ja kamerat, ja suuria malleja tarvitaan tuotteiden tehostamiseen. Kolmanneksi edistää suurten mallien popularisointia, jolloin yritykset ja hallitukset voivat kouluttaa ja käyttää omia ammattimaisia ​​suuria mallejaan erittäin halvalla.

Zhou Hongyi sanoi suoraan, että alan näkemykset ovat lähentyneet mallien rullaamisen sijaan, kun suurista malleista tulee "näkymättömiä", tekniikka on kypsä ja sen on toimittava "kulissien takana". .

Mitä tulee kiihkeästi keskusteltuihin tekoälyhakumahdollisuuksiin, 360, tärkeänä toimijana hakumarkkinoilla, Zhou Hongyi antoi myös oman arvionsa. Hän huomautti, että onko Search tai Chat helpompi käyttää tällä hetkellä, ne voidaan jakaa tasan tai korvata jompikumpi toisella tulevaisuudessa. Tekoälyhaku on tärkeä kohtauksen sisäänkäynti, jota kukaan ei voi missata. "OpenAI:n SearchGPT todistaa, että OpenAI on myös järkyttynyt."

"Mutta siinä on vielä monia ongelmia, jotka on ratkaistava. Esimerkiksi "hallusinaatioita" on helppo tuottaa, esimerkiksi jotkut ihmiset "myrkyttävät dataa", kuten kaupallistamisen haaste. Siihen ei voi laittaa mainontaa. ja käyttäjien on epärealistista maksaa tämä on yleisiä ongelmia.

Seuraavassa on valittu transkriptio NetEase Technologyn ja muiden keskusteluista Zhou Hongyin kanssa (muokkaukset tehty muuttamatta alkuperäistä merkitystä):

K: Jotkut ihmiset uskovat, että tulevaisuutta hallitsevat muutamat erittäin suuret mallit, kun taas toiset uskovat, että monet pienet pystymallit toimivat rinnakkain. Mitä mieltä olet toimialan rakenteesta ja miten 360 sijoittuu?

Zhou Hongyi:Uskon, että molemmat polut ovat olemassa. Suuri yritys, jolla on taloudellisia resursseja ja valmiuksia, kuten OpenAI, haluaa ehdottomasti kehittää superyleistä tekoälyä. Lama3:n ja Qianwen2:n edustamien avoimen lähdekoodin mallien syntymisen myötä suuret mallit eivät kuitenkaan tule monopolisoitumaan vain 30 yrityksen toimesta Tulevaisuudessa yritykset ja hallitukset käyttävät suuria malleja. Hallituksen sisällä on monia suuria vertikaalisia malleja.Samaan aikaan trendi on suurissa malleissa, niin sanotuissa tuhansissa kotitalouksissa sekä jokaisen matkapuhelin, kaikkien tietokone, kaikkien auto ja elektroniikka jokaisessa kodissa.robottiSuuria malleja tulee aina olemaan, joten suuret mallit ovat kaikkialla ja toimivat yhdessä tulevaisuudessa.

360 sijoittuu tekemään kolme asiaa hyvin: Ensinnäkin tietoturvavalmistajana sen on rakennettava suuri tietoturvamalli. Toisaalta se käyttää suurta tietoturvamallia tietoturvaongelmien ratkaisemiseen ja toisaalta sen on ratkaistava erilaisia Tulevaisuudessa kohtaamat ongelmat suuren mallin kehitystyössä. Toiseksi, itse 360:ssa on monia 2C-skenaarioita, kuten 360-selain, 360-haku, 360-lastenkellot ja -kamerat. Käytämme ammattimaisia ​​suuria malleja tuotteiden tehostamiseen. Kolmanneksi edistää suurten mallien popularisointia, jolloin yritykset ja hallitukset voivat kouluttaa ja käyttää omia ammattimaisia ​​suuria mallejaan erittäin halvalla.

Lyhyesti sanottuna suuria malleja ei voi tehdä muutama ihminen, vaan niiden on tultava tuhansiin kotitalouksiin ja toimialoihin. Vain kun malli on tehty pieneksi, se voidaan yhdistää henkilökohtaisiin tuotteisiin.

K: Millä nykyisillä toimialoilla suuren malliteollisuuden kehittyminen tuo sinun näkökulmastasi häiritsevän vaikutuksen tai muutoksen?

Zhou Hongyi:Uskon, että suuret mallit tuovat valtavia muutoksia kaikille toimialoille, mutta niitä ei välttämättä kutsuta häiriöiksi. Vielä tärkeämpää on, että ne parantavat suoraan tehokkuutta ja vähentävät kustannuksia. Jaamme esimerkiksi suuret malliominaisuudet useille tasoille. Perusominaisuudet näkyvät enemmän henkilökohtaisessa käytössä, kuten toimistossa, koulutuksessa, oppimisessa, kieltenkäsittelyssä, grafiikan luomisessa ja lyhyen videon luomisessa. Toiseksi, yrityksellä on monia liiketoimintaominaisuuksia, kuten yritysten auttaminen ymmärtämään tiedonhallintaa, tiedusteluanalyysiä ja liiketoimintaa koskevaa päätöksentekoa. Kolmanneksi suuret mallit yhdistetään myös autonomiseen ajoon, robotteihin, perinteiseen tieteelliseen perustutkimukseen, biolääketeollisuuteen ja maatalousteollisuuteen, mikä tuottaa uusia räjähdysvaikutuksia.

Kysymys: Kuinka meistä voi tulla ChatGPT:n kaltainen mestari ja kuinka voimme kohdata puutteemme?

Zhou Hongyi: Suoraan sanottuna, jos otamme OpenAI:n ja otamme käyttöön supertekoälyn, en usko, että kaikki yritykset ottaisivat käyttöön 100 yritystä, eikä myöskään laskentatehoa tarpeeksi. Uskomme, että Kiina, jota johtaa Alibaba, seuraa avoimen lähdekoodin yhteisöä Qianwenin ja Baichuanin perusteella. Tämä seuranta on erittäin nopea.

Mutta tämä ei ole sama asia kuin ammatillinen suuri malli, josta puhun, on edistää suuria malleja yrityksissä ja hallituksissa teollisen vallankumouksen edistämiseksi, ei yksilöille. Tämä vaatii vain, että teen parhaani ammatillisissa taidoissani ja yhdistän ne kohtaukseen. Siksi ammattimaisten suurmallien ala kehittyy tulevaisuudessa erittäin runsaasti.

Viime aikoina alan mielipiteet ovat lähentyneet. Älä rullaa mallia, vaan rullaa sovellus, ja Carrot Run on sovellus. Itse asiassa tulevaisuudessa, kun tästä suuresta malliteknologiasta tulee "näkymätön", tämä tekniikka tulee kypsäksi. Suuret mallit ovat enemmän kuin sähkömoottoreita, jotka päättävät kehityssuunnan eri alojen mukaan ja työskentelevät kulissien takana.

Kysymys: "Turvallisuus + tekoäly, turvallisuus + tekoälyn innovaatioekosysteemin rakentaminen voi nopeuttaa päivitystä."

Zhou Hongyi: AI+ -turvallisuus on pääasiassa suuren tietoturvamallin rakentamista kahden ongelman ratkaisemiseksi: toinen on käyttää suuria malliominaisuuksia ja tekoälyominaisuuksia parantamaan nykypäivän perinteisen verkkoturvallisuuden kipupisteitä ja jäykkiä tarpeita. Suoraan sanottuna perinteisen verkkoturvallisuuden suurin kipukohta on ammattimaisten verkkoturvakykyjen puute koulutamme suuria tietoturvamalleja ja käytämme tekoälyautomaatiota hyökkäysten havaitsemiseen liittyvien ongelmien ratkaisemiseen. Hyökkäysten ja operatiivisten prosessointiongelmien ratkaiseminen voi täyttää kykyvajeen. Toiseksi monet maat ovat nyt tietoisia tekoälyn turvallisuuden hallinnasta. Tekoälyn kehittyminen tuo mukanaan monia uusia turvallisuusuhkia ja turvallisuushaasteita verkkoturvallisuuden ja tietoturvan lisäksi. Sisältö saattaa olla vielä turvallista, mutta tulevaisuudessa esiin nousevat ihmisturvallisuusongelmat ovat tällä hetkellä tuntemattomia. Tästä eteenpäin jonkun on ratkaistava tekoälyn turvallisuusongelma.Siksi meidän on käytettävä taikuutta maagisen ajattelun käsittelyyn ja suurien mallien ratkaisemiseen suurten mallien turvallisuusongelmat Tämä on lähtökohta AI+ -turvallisuudellemme.

Kysymys: Jotkut sanovat, että tekoälyhaku korvaa perinteisen haun. Miten 360:n tekoälyhaku voi olla aito, luotettava ja helppokäyttöinen?

Zhou Hongyi: AI-haku voi olla todellinen läpimurtokohta. Minulla oli myös epäilyksiä chattauksen käyttämisestä ongelmien ratkaisemiseen tänään. Esimerkiksi kun me kaksi keskustelimme, se oli joskus erittäin tehokasta, ja joskus sitä oli erittäin vaikea ymmärtää, varsinkin kun piti kirjoittaa monimutkaisia ​​kehotussanoja, mikä oli vaikeaa. Siksi haku on yhdistettävä tekoälyyn. Kaikki voivat käyttää hakua Sinun ei tarvitse kirjoittaa pitkää pyyntöä, vain muutama avainsana. Tekoälyhaku käyttää suuria malleja hakuaikojen arvaamiseen haun aikana, jakaa tiedot monivaiheisiin hauihin, hakee tulokset useista hauista ja käyttää sitten tuloksia niiden yhdistämiseen. Tämä on suurten mallien tehtävä.

Suuret mallit + haku ovat alttiita hallusinaatioille, mutta nyt kun luomme haun + suuren mallin, data on pääasiassa hakua, mikä vastaa haun tehostamista ja tiedon kohdistamista. Tietenkin tässä tulee olemaan ongelmia, kuten joku myrkyttää tiedot. Tällä hetkellä sisällöntunnistus on lisättävä naurettavan sisällön tunnistamiseksi. Täällä on myös suuria malleja, kun nämä suuret mallit yhdistetään, mainitsemasi ongelmat voidaan ratkaista.

Lisäksi monet tekoälyhaut ovat nykyään suhteellisen yksinkertaisia, vain kirjoittamalla hakutulokset uudelleen. Teemme nyt, että jokaisella hakuaikeella voi olla agentti, joka suorittaa sen puolestasi, joka kutsuu useita suuria malleja suorittamaan monimutkaisia ​​tehtäviä.

Tekoälyhaku on nykyään yhä monimutkaisempi. Suurin haaste on kaupallistamisongelman ratkaiseminen Ilman mainontaa käyttäjien on mahdotonta maksaa siitä, koska haku on alun perin ilmaista. Tästä syystä Baidu ja Google epäröivät ja GPT hyökkää Googlen kimppuun.

Siksi 360AI-haun takana ei ole suurta mallia, koska suuri malli ei yksinkertaisesti pysty siihen.Sopimatonta metaforaa käyttäen tämä on tulossa yhä enemmän sellaiseksi, mitä kutsumme agenttikehykseksi taiTyönkulku ohjelmisto. Siksi teollisuudella on prosessi ymmärtää suuria malleja, ja turvallisuusala on myöhäisempi. Nykyään Kiinan johtavat suuret mallijättit puhuvat muustakin kuin suurista malleista, ja kyky käyttää suuria malleja ei riipu agenttikehyksestä , , voiko se tuoda suoraa apua yritykselle, riippuu sen integroimisesta työnkulkuun.

K: Mikä on mielestäsi tekoälyhaun kehitystrendi? Nyt kuuluu ääni, että AI-haku+Agent+Work Flow on trendi.

Zhou Hongyi: Nykyään, jos haluamme käyttää tekoälyä hyvin, emme voi luottaa pelkästään suureen malliin, koska riippumatta siitä, kuinka tehokas suuri malli on, se ei voi suorittaa täydellistä tehtävää ilman agenttia, älyä tai WorkFlow'ta. Suuret mallit voivat parantaa työkaluja, tietoa, päättelyä ja muistia. Tärkeintä on, että Agent-kehystä käytetään ratkaisemaan ongelmia, joita suuret mallit pystyvät vain nopeasti ajattelemaan. Ihmisillä on kaksi järjestelmää, joista toinen on nopeaa ja toinen hidasta ajattelua varten. On itse asiassa epärealistista työntää suuria, nopeasti ajattelevia malleja eteen ja yrittää ratkaista kaikki ongelmat. Agent-kehyksen tärkein asia on ratkaista hitaan ajattelun ongelma. Riippumatta siitä, mitä tekoäly tekee, olipa kyseessä tekoälyhaku tai haku + tekoäly, nämä toiminnot ovat välttämättömiä.

Syy miksi minusta tuntuu, että nykyisen käyttökokemuksen kannalta haku + tekoäly on parempi kuin suuri malli + haun parannus.Ensinnäkin käyttäjät ovat jo kehittäneet hakutapaa eivätkä tarvitse koulutusta, mutta se voi olla erittäin vaikeaa käyttää suuria mallin sanoja Haku on löytää vastauksia Kolmanneksi, vaikeus ei ole sama. Vastaavasti, jos et määrittele kohtausta ja käytä suurta mallia joidenkin kykyjesi testaamiseen, voit parantaa hakukokemusta.

AI-hakuliikennemme on kehittynyt nopeasti, ja nyt 360AI:n kuukausittainen hakuaktiivisuus on ylittänyt 10 miljoonaa. Mielestäni suuret mallit ovat erittäin tehokkaita, mutta ne on yhdistettävä eri skenaarioihin, jotta jokainen skenaario olisi paras. Olen huomannut äskettäin ilmiön, että amerikkalainen startup Perplexity kasvaa erittäin nopeasti OpenAI:n SearchGPT:n mukaan.Kumpi on parempi, Haku vai Chat, voidaan jakaa tasan, ja toinen voidaan korvata toisella tulevaisuudessa, muttaAinakin se osoittaa, että tekoälyhaku on tärkeä kohtauksen sisäänkäynti, jota kukaan ei voi missata.

K: Mitä mieltä olet siitä, että suuret mallit ovat ilmaisia?

Zhou Hongyi: Yleiskäyttöiset suuret mallit eivät ole ilmaisia, ja ne tarjotaan julkisen pilven muodossa. Token on jo erittäin halpa kuinka halpaa se on, se ei varmasti ole ilmaista. Lanseeraamaamme toimistopakettia tukevat yleiset suuret mallipäättelyominaisuudet, ja se on myös maksullinen. Tällä on ilmainen käyttöaika, mutta se ei ole ilmainen.

Mainitsemaani ilmaiselle suurelle tietoturvamallille on kaksi ehtoa: Ensinnäkin se ei tarjoa yleistä isoa dataa, vaan 6 ammattimaista suurta mallia. Se on ostettu 360-yrityksen tietoturvatuotteista, kuten tietoturva-aivoistani ja päätetietoturvastani. Turvapalvelinpalveluni ostaneet saavat ilmaisen päivityksen käyttäjille, jotka ovat ostaneet tuotteeni. Toiseksi näitä omistettuja suuria malleja ei oteta käyttöön julkisesti pilvessä, vaan ne otetaan käyttöön yksityisesti käyttäjäyrityksen sisällä, joten tämä kustannus ilman laskentatehoa voi tietysti olla ilmaista. Nämä kaksi tuotetta ovat erilaisia, toinen on toB-tuote ja toinen toC-tuote.

Kysymys: Haluaisin kysyä panos-tuotossuhteesta en tiedä, onko näiden suurten mallien kanssa resurssien korvaaminen vai tietyt hinnat johtavat sijoitetun pääoman tuottoprosenttiin tulevaisuudessa? Mitä näkökohtia tämän yhteistyömallin valinnassa on otettu huomioon?

Zhou Hongyi: Ensinnäkin jokaisella tunnuksella on hinta, ja maksu tuhatta sanaa kohti on jo erittäin alhainen. He tulevat tukemaan minua kykyjensä käytössä, mikä vastaa sitä, että perusmallialustani on erittäin tehokas, yritän parhaani mukaan tuoda heille lisää liikennettä, saada lisää käyttäjiä ja löytää tapoja luoda lisää tuotteita, jotta käyttäjät voi käyttää niitä enemmän joka päivä.

Kotimaisten suurten mallien nykytilanne on, että jokaisella yrityksellä on sekä etuja että haittoja, eikä siinä ole ylivoimaista etumatkaa. Jos käytät Baidua, Alibabaa ja Doubaoa, voit yhdistää kykysi muodostaaksesi vahvimman joukkueen. Tarvitseeko Kiina kymmeniä valmistajia kehittääkseen universaalin AGI:n? Jos luulen, että se ei ole mahdollista, en tue sitä.

Tämänhetkinen ajatukseni on, että kaikki harjoittelevat mallia laajentamatta sovellusta riippumatta siitä, kuinka tehokas malli on, se ei pysty käyttämään kykyjään. Älä siis aina puhu sovelluskehittäjien rohkaisemisesta käyttämään sovellusliittymiä kuorimiseen. On syvä kuoret ja matalat kuoret, joita teemme, mukaan lukien erilaisia ​​​​selainskenaarioita, ei voida kutsua kuoritukseksi. Laita se sisään.

Tietoja "Attitude AGI"

NetEase Technology käynnistää sarjan dialogisarakkeita "Attitude AGI". Viimeisen kolmen vuoden aikana tekoälymuutokset ovat kiihtyneet, maailmanlaajuista teknologista järjestystä uudistetaan, ja tie AGI:hen saattaa olla hiljaa lähestymässä. AGI-teemalla tämä kolumni puhuu 100 tekoälyasiantuntijalle, yrittäjälle ja sijoittajalle yrittäen puhdistaa ilmaa ja todistaa AGI-aikakauden saapumista kaikkien kanssa. 10. Dialogue 360:n perustaja Zhou Hongyi.

Katsaus menneisiin ongelmiin:

"Attitude AGI":n ensimmäinen numero:Keskustelu Kai-Fu Leen kanssa: Suuri malliyrittäjyys on pyörinyt villisti vuoden ajan, Kiinan ja Yhdysvaltojen välinen kuilu on kaventunut, enkä nosta rahaa kymmenen vuoden kuluttua

"Attitude AGI":n toinen numero:Keskustelu Wang Xiaochuanin kanssa: Emme seuraa suurten mallien hintasotaa

"Attitude AGI":n kolmas numero:Vuoropuhelu Dai Wenyuanin kanssa: Suurten mallien hintasota ei ratkaise ydinongelmaa

"Attitude AGI":n neljäs numero:Wang Zhongyuan, Zhiyuanin tutkimuslaitoksen johtaja: GPT4 ei ole kotimaisten suurten mallien loppu

"Attitude AGI":n viides numero:Keskustelu Zhu Xiaohun kanssa: Viiden vuoden kuluttua ei ole itsenäisiä suuria malliyrityksiä, koska ei ole liiketoimintamallia

"Attitude AGI":n kuudes numero:Keskustelu Meihua Venture Capitalin Wu Shichunin kanssa: "Kiinan suuren mallin viiden tiikerin" on erittäin vaikea paeta

"Attitude AGI":n seitsemäs numero:Vuoropuhelu Yueran Innovationin toimitusjohtajan Li Yongin kanssa: Kuinka laajentaa mallisovelluksia ja kilpailla jättiläisten kanssa

"Attitude AGI":n kahdeksas numero:Vuoropuhelu Zhipu AI:n toimitusjohtajan Zhang Pengin kanssa: Videoiden luominen on ainoa tapa AGI:lle, ja supersovellukset saapuvat "tietämättä"

"Attitude AGI":n yhdeksäs numero:Vuoropuhelu iFlytekin varajohtajan ja tutkimuslaitoksen dekaani Liu Congin kanssa: Kiinan suuret mallit ovat siirtyneet vertailuarvojen kuromisesta kiinni itsenäiseen omaperäisyyteen