uutiset

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

·Pilvikäsittelyaika on pidentynyt, tiedonsiirtokustannukset ovat korkeat ja tietoturvallisuus on huolissaan. Intelin johtaja Sachin Katti sanoi, että tekoäly tunkeutuu reunaan asti ja suuret mallit saattavat vähitellen siirtyä pilvestä reunaan.

Sachin Katti, Intelin Networking and Edge Groupin johtaja ja johtaja.

"Odotamme, että tekoälyä otetaan käyttöön ja sovelletaan enemmän paikallisten tietojen käsittelyyn. Ajan myötä tekoälymallit voivat siirtyä vähitellen pilvestä reunaan 24. heinäkuuta Intel Network & Edge 2024 -tapahtumassa Intelin Computing Industry Conferencessa." Network and Edge -divisioonan johtaja ja pääjohtaja Sachin Katti sanoi, että nykyinen tekoäly toimii pääasiassa pilvessä tietojenkäsittely on yleinen trendi.

Tietoturva ja reaaliaikainen käyttö edistävät tekoälyä pilvestä reunaan

Sachin Katti sanoi, että ihmiset ovat tekoälyn avun aikakautta, ja tekoäly auttaa ihmisiä työskentelemään tehokkaammin AI-avun aikakauden jälkeen Yritysten työnkulku voidaan täydentää myös tekoälyllä. Kaukaisessa tulevaisuudessa saatamme huomata, että agentit voivat olla vuorovaikutuksessa toistensa kanssa, aivan kuten ihmiset työskentelevät yhdessä tarjotakseen osastotason ratkaisuja.

Sachin Katti sanoi, että tänä päivänä tekoälyn kasvu keskittyy pääasiassa pilveen, mutta kehitys reunalaskentaan on yleinen trendi "Aiemmin puhuttu tekoäly oli pohjimmiltaan konenäköä tai aikasarjapohjaista automaatioteknologiaa. Mutta nyt reuna-AI Se on edennyt vähitellen konenäöstä reunasovelluksiin, kuten suuriin kielimalleihin ja generatiiviseen tekoälyyn.

Reunadatan siirtovaatimusten lisäksi tietoturvallisuus ja reaaliaikainen suorituskyky ovat tärkeitä näkökohtia edistettäessä tekoälyä pilvestä reunaan. Guo Wei, Intel Marketing Groupin varapuheenjohtaja ja Intel China Networkin sekä Edge and Channel Data Center Divisionin johtaja, sanoi, että toisaalta yritykset ovat huolissaan tietojen sijoittamisesta pilveen, ja toisaalta reunalaskenta auttaa. ratkaista reaaliaikaiset vaatimukset.

"Periaatteessa yli puolet asiakkaistamme tutkii tänä vuonna suuriin reunamalleihin perustuvia toteutusratkaisuja Chen Wei, Intelin verkko- ja reunaosaston Kiinan johtaja, sanoi, että reunalaskennan käyttöönoton näkökulmasta Mallin koko ei ole Mitä suurempi, sen parempi, mutta sen pitäisi sopia markkinoiden sovellusskenaarioiden todellisiin tarpeisiin. , jne."

Reunojen viritystä rajoittaa datamäärä

"Reunalle on ominaista pirstaleisuus." Yleinen haaste reunavirittämisessä on datamäärän rajoitus Koulu tai tehdas voi todella käyttää koulutukseen hyvin vähän. Myös eri yritysten ja koulujen tiedot ovat erilaisia.

Samaan aikaan Zhang Yu sanoi: "Koulutus vaatii huomautuksia, jotta kone tietää, mihin kiinnität huomiota. Ihmiset, jotka todella käyttävät tekoälyn toiminnallisia laitteita tehtaalla, ovat usein tuotantolinjan työntekijöitä. heillä on energiaa tehdä huomautuksia tuotantoprosessin aikana?" Siksi on käytettävä automaattisia merkintämenetelmiä reunavirityksen aikana, jotta huomautus voidaan tehdä, kun dataa on vähän. "Reunassa loppukäyttäjät tavoittelevat liiketoimintaa, eivät teknisiä ratkaisuja. Käyttäjien vaatimuksia palveluille ovat mukavuus, käyttöönoton helppous ja hallinnan helppous käyttöönoton jälkeen. Tämä on usein asiakkaille tuskallinen kohta."

Guo Wei sanoi, että pelkkä mallikoulutukseen luottaminen ei riitä käytännön alan ongelmien ratkaisemiseen, ja vaatimus päättelykyvyn parantamiselle on erityisen ilmeinen tänä vuonna. Suurten mallien käyttöönotto sisältää väistämättä laskentatehon tasapainoisen jakautumisen päästä reunaan ja sitten pilveen "Jos kyseessä on vain pystysuorien suurten mallien standardisovellus, suuret mallit otetaan käyttöön pääasiassa pilvessä. Teollisuuden käyttöönoton tarpeesta johtuen tekoälyn laskentateho kuitenkin siirtyy väistämättä pilveen." Reuna- ja loppujakelu."

Sachin Katti sanoi, että päätyötä reunalla ovat päättely ja jatkuva oppiminen. Joskus reunassa käyttöönoton jälkeen havaitaan, että vaikutus ei ole niin hyvä kuin odotettiin, tai kun se toimii jonkin aikaa, alkuperäinen malli on hienosäädettävä.

Kuinka paljon laskentatehoa tarvitaan reunassa? Sachin Katti sanoi, että laskentatehon ja energiankulutuksen välillä on positiivinen korrelaatio. Reunoilla käyttöönotetut laitteet kuluttavat noin 200 wattia energiaa, pilvikäyttö 1-2 kilowattia ja konesalin yksikerroksisen telineen energiankulutus voi olla jopa 100 kilowattia. Jos koko konesalin energiankulutus lasketaan yhteen, se voi nousta 50-100 gigawattiin. Tapauksissa, joissa laskentateho tai energiankulutus on suuri, jäähdytystehokkuus ja jäähdytyskapasiteetti ovat tärkeitä muuttujia, jotka on otettava huomioon. Koska laajamittainen data ja laskentateho tuottavat paljon lämpöä, "Käytämme tällä hetkellä nestejäähdytystekniikkaa kaluston tehokkaaseen jäähdyttämiseen. Nykyinen nestejäähdytystekniikka on onnistunut jäähdyttämään 100 kilowatin kalustoa, ja sen odotetaan olevan laajennetaan 300 kilowattiin. Siksi rajoitukset Toinen erittäin tärkeä tekijä laskentatehon kannalta on, onko sinulla tarpeeksi kykyä jäähdyttää kokonaisympäristöä tehokkaasti.