Νέα

Στέλεχος της Intel: Τα μοντέλα AI θα μετακινηθούν σταδιακά από το cloud στο edge

2024-07-26

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

·Ο χρόνος επεξεργασίας στο cloud παρατείνεται, το κόστος μετάδοσης δεδομένων είναι υψηλό και υπάρχουν ανησυχίες σχετικά με την ασφάλεια των δεδομένων. Ο Ανώτερος Αντιπρόεδρος της Intel, Sachin Katti, δήλωσε ότι η τεχνητή νοημοσύνη διεισδύει στην άκρη και τα μεγάλα μοντέλα ενδέχεται να μετακινηθούν σταδιακά από το cloud στο edge.


Sachin Katti, ανώτερος αντιπρόεδρος και γενικός διευθυντής του Networking and Edge Group της Intel.

"Αναμένουμε ότι η τεχνητή νοημοσύνη θα αναπτυχθεί και θα εφαρμοστεί περισσότερο στο edge για την επεξεργασία τοπικών δεδομένων. Με την πάροδο του χρόνου, τα μοντέλα τεχνητής νοημοσύνης ενδέχεται να μετακινηθούν σταδιακά από το cloud στο edge, στις 24 Ιουλίου, στο Intel Network & Edge 2024, στο συνέδριο Computing Industry, Sachin." Ο Katti, ανώτερος αντιπρόεδρος και γενικός διευθυντής του Δικτύου και του Τμήματος Edge της Intel, είπε ότι η τρέχουσα τεχνητή νοημοσύνη εκτελείται κυρίως στο cloud η υπολογιστική άκρη είναι η γενική τάση.

Η ασφάλεια των δεδομένων και ο σε πραγματικό χρόνο προωθούν την τεχνητή νοημοσύνη από το σύννεφο μέχρι την άκρη

Ο Sachin Katti είπε ότι τα ανθρώπινα όντα βρίσκονται στην εποχή της βοήθειας της τεχνητής νοημοσύνης και η τεχνητή νοημοσύνη βοηθά τους ανθρώπους να εργάζονται πιο αποτελεσματικά Η ροή εργασιών των επιχειρήσεων μπορεί επίσης να ολοκληρωθεί με την τεχνητή νοημοσύνη Στο μακρινό μέλλον, μπορεί να διαπιστώσουμε ότι οι πράκτορες μπορούν να αλληλεπιδράσουν μεταξύ τους, όπως οι άνθρωποι συνεργάζονται για την παροχή λύσεων σε επίπεδο τμήματος.

Ο Sachin Katti είπε ότι η σημερινή ανάπτυξη της τεχνητής νοημοσύνης είναι συγκεντρωμένη κυρίως στο cloud, αλλά η εξέλιξη στο edge computing είναι η γενική τάση. Αλλά τώρα το edge AI Έχει προοδεύσει σταδιακά από την μηχανική όραση στο edge σε εφαρμογές όπως τα μεγάλα γλωσσικά μοντέλα και η παραγωγική τεχνητή νοημοσύνη Η Intel θα συνεχίσει να παρέχει σχετικές δυνατότητες για να επιταχύνει την ανάπτυξη της γενετικής τεχνητής νοημοσύνης και των μεγάλων μοντέλων γλώσσας.

Εκτός από τις απαιτήσεις μετάδοσης δεδομένων άκρων, η ασφάλεια των δεδομένων και η απόδοση σε πραγματικό χρόνο είναι σημαντικά στοιχεία για την προώθηση της τεχνητής νοημοσύνης από το cloud στην άκρη. Ο Guo Wei, αντιπρόεδρος του Intel Marketing Group και γενικός διευθυντής του Δικτύου Intel China Network and Edge and Channel Data Center, είπε ότι αφενός, οι επιχειρήσεις ανησυχούν για την τοποθέτηση δεδομένων στο cloud, αφετέρου, το edge computing βοηθά στην επίλυση απαιτήσεις σε πραγματικό χρόνο.

«Βασικά, περισσότεροι από τους μισούς πελάτες μας φέτος εξερευνούν λύσεις υλοποίησης που βασίζονται σε μοντέλα μεγάλων άκρων, ο Chen Wei, Αντιπρόεδρος της Intel και Γενικός Διευθυντής Δικτύου και Διεύθυνσης Edge στην Κίνα, δήλωσε ότι από την οπτική γωνία της εφαρμογής του edge computing. Το μέγεθος του μοντέλου δεν είναι Όσο μεγαλύτερο, τόσο το καλύτερο, αλλά θα πρέπει να ταιριάζει στις πραγματικές ανάγκες των σεναρίων εφαρμογών της αγοράς «Η ανάπτυξη του υπολογιστικού συστήματος αιχμής πρέπει να λαμβάνει υπόψη πολλούς παράγοντες, όπως η καθυστέρηση, η διαθεσιμότητα, η ρυθμιζόμενη βελτιστοποίηση των μικροδεδομένων και η ασφάλεια των πληροφοριών. , και τα λοιπά."

Ο συντονισμός άκρων περιορίζεται από τον όγκο δεδομένων

«Το χαρακτηριστικό του edge είναι ο κατακερματισμός, ο Zhang Yu, επικεφαλής τεχνολογίας του τμήματος Δικτύων και Edge της Intel και ανώτερος επικεφαλής μηχανικός AI της Intel, είπε ότι διαφορετικοί χρήστες έχουν διαφορετικές απαιτήσεις για υπολογιστική ισχύ και απόδοση. Μια κοινή πρόκληση στο edge tuning είναι ο περιορισμός του όγκου δεδομένων Ο όγκος των δεδομένων που μπορεί πραγματικά να χρησιμοποιήσει ένα σχολείο ή ένα εργοστάσιο για εκπαίδευση είναι πολύ μικρός. Τα δεδομένα των διαφορετικών εταιρειών και σχολών είναι επίσης διαφορετικά Τα εργοστάσια παραγωγής ανταλλακτικών αυτοκινήτων και οι μονάδες κατεργασίας αντιμετωπίζουν διαφορετικά προβλήματα με ένα ενοποιημένο μοντέλο και το μοντέλο πρέπει να εκπαιδεύεται με δεδομένα.

Ταυτόχρονα, ο Zhang Yu είπε: "Η εκπαίδευση απαιτεί σήμανση για να ενημερώνει το μηχάνημα τι προσέχετε. Οι άνθρωποι που λειτουργούν πραγματικά τον λειτουργικό εξοπλισμό AI σε ένα εργοστάσιο είναι συχνά οι εργαζόμενοι στη γραμμή παραγωγής. Πώς μπορεί έχουν την ενέργεια να επισημάνουν κατά τη διάρκεια της διαδικασίας παραγωγής;» Ως εκ τούτου, οι αυτοματοποιημένες μέθοδοι σχολιασμού πρέπει να χρησιμοποιούνται κατά τον συντονισμό άκρων για να ολοκληρωθεί ο σχολιασμός όταν ο όγκος των δεδομένων είναι μικρός. "Στην άκρη, οι τελικοί χρήστες επιδιώκουν την ανάπτυξη των επιχειρήσεων και όχι τις τεχνικές λύσεις. Οι απαιτήσεις των χρηστών για υπηρεσίες είναι η ευκολία, η ευκολία ανάπτυξης και η ευκολία διαχείρισης μετά την ανάπτυξη. Αυτό είναι συχνά ένα πρόβλημα για τους πελάτες."

Ο Guo Wei είπε ότι δεν αρκεί να βασιζόμαστε αποκλειστικά στην εκπαίδευση μοντέλων για την επίλυση πρακτικών προβλημάτων του κλάδου και ότι η ζήτηση για βελτίωση των συλλογιστικών ικανοτήτων είναι ιδιαίτερα εμφανής φέτος. Η υλοποίηση μεγάλων μοντέλων θα περιλαμβάνει αναπόφευκτα την ισόρροπη κατανομή της υπολογιστικής ισχύος από το τέλος μέχρι το άκρο και μετά στο cloud. Ωστόσο, λόγω της ανάγκης για εφαρμογή του κλάδου, η υπολογιστική ισχύς AI αναπόφευκτα θα προωθηθεί στο cloud." Edge και end-side διανομή."

Ο Sachin Katti είπε ότι ο κύριος φόρτος εργασίας στην άκρη είναι τα συμπεράσματα και η συνεχής μάθηση. Μερικές φορές, μετά την ανάπτυξη στο άκρο, διαπιστώνεται ότι το αποτέλεσμα δεν είναι τόσο καλό όσο αναμενόταν ή καθώς εκτελείται για μια χρονική περίοδο, το αρχικό μοντέλο πρέπει να βελτιωθεί.

Πόση υπολογιστική ισχύς χρειάζεται στην άκρη; Ο Sachin Katti είπε ότι υπάρχει θετική συσχέτιση μεταξύ της υπολογιστικής ισχύος και της κατανάλωσης ενέργειας. Ο ανεπτυγμένος εξοπλισμός στην άκρη καταναλώνει περίπου 200 watt ενέργειας, η ανάπτυξη cloud καταναλώνει 1-2 κιλοβάτ και η κατανάλωση ενέργειας ενός rack μονής στρώσης στο κέντρο δεδομένων μπορεί να φτάσει τα 100 κιλοβάτ. Εάν αθροιστεί η κατανάλωση ενέργειας ολόκληρου του κέντρου δεδομένων, μπορεί να φτάσει τα 50-100 γιγαβάτ. Σε περιπτώσεις όπου η υπολογιστική ισχύς ή η κατανάλωση ενέργειας είναι υψηλή, η απόδοση ψύξης και η ικανότητα ψύξης είναι βασικές μεταβλητές που πρέπει να ληφθούν υπόψη. Δεδομένου ότι τα δεδομένα μεγάλης κλίμακας και η υπολογιστική ισχύς θα παράγουν πολλή θερμότητα, "Σήμερα χρησιμοποιούμε τεχνολογία υγρής ψύξης για την αποτελεσματική ψύξη του στόλου. Η υπάρχουσα τεχνολογία υγρής ψύξης μπόρεσε να ψύξει με επιτυχία τον στόλο των 100 κιλοβάτ και αναμένεται να επεκταθεί στα 300 κιλοβάτ στο μέλλον. Ως εκ τούτου, περιορισμοί Ένας άλλος πολύ σημαντικός παράγοντας στην υπολογιστική ισχύ είναι αν έχετε αρκετή ικανότητα να δροσίσετε αποτελεσματικά το συνολικό περιβάλλον.