моя контактная информация
почта[email protected]
2024-09-26
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
репортер новостей интерфейса |
редактор новостей интерфейса | сун цзянань
9луна25деньутро,байду вюнчжина конференциипосадочная дистанциясто геаягетерогенные вычисленияплатформа4.0ибольшая модель «тысяча парусов».платформа3.0ждатьаяинфраструктурные продукты,и объявилпонятнонесколькоаясвязанный бизнесиздо настоящего времениданные。в,вэньсиньбольшая модельсреднесуточное значениевызовколичествоужепревосходить7100 миллионов,расстояниебайдув последний разобъявитьиз6100 миллионовданныеиметьдальшепродвигать。
существоватьтолько что закончилсяаликонференция юньциначальство,алибабасэоу юнминвсегдавыражать,алибаба облакоизединая сетькластеружеразвернуть до10десять тысячкартауровень,ибайду такжене желаю приниматьпозади。шен доу, исполнительный вице-президент baidu group и президент baidu intelligent cloud business groupособенныйподчеркивать,сто ге4.0воляне толькодаванкакластер,скорееимей этозрелый10десять тысячкартакластерразвертыватьиспособность управления。
байдув этом годувсегда тамподчеркиватьбольшая модельизприземлениеприложение. генеральный директор baidu робин ли выступил с недавней внутренней речьюозначает в,иметьсценарии применения、можетнепрерывная итерацияобновлениеизбольшая модель,идругоймодельдефицит продукта будетстановится все больше и больше.
исходя из этого,байдунашел эточанган автомобильныйиsamsungждатьмногосайт клиента,квыставкарезультаты применения крупных моделей baidu в различных отраслях.
шен дрожитвыражать,в прошлом году,байдучувствоватьклиентизмодельнуждатьсявсплеск,требуемый размер кластера становится все больше и больше,предприятиеверномодельстоимость обоснованияотклонитьизожидалтакжестановится все выше и выше。
обучение больших моделейпредпосылкасоздаватькластер, речь идет не только о покупке графического процессора и его сборке.в целомнуждатьсянесколько месяцевруководитьоборудованиеконфигурацияиотлаживать。
раньше былиоблачные поставщикиупоминалось, образуя кластерможетсжатиеприезжать1небо,ишен дрожитсказать,сто ге4.0способен сделатьсамый быстрый1завершено часовучреждать,основнойиспользоватьволяпопулярное обучение в отраслиинструментирамкаруководитьвстроенный способ.
один развойти вмасштабное обучениеэтап,самое важноето естьстабильность。в области больших моделей всегда следовал знаменитый закон масштабирования, согласно которому производительность модели будет улучшаться по мере увеличения параметров, вычислительной мощности и размера набора данных.。
по словам шэнь доу, gпустоимость кластераогромная суммаизстроительствои эксплуатационные расходы, обычно строятодинванкакластер,одиндагпуизпокупкарасходысразугандаммиллиардыюань.еслида10десять тысячкартакластер,серверодин деньпотреблятьизвластьода300десять тысячкиловатт час,эквивалентнопекиндунчэнский районодин деньизпотребление электроэнергии в жилых домах。
существоватьэтот видкрупный масштабизна кластере,аппаратное обеспечениенеизбежныйвстречапоявлятьсявина,чем больше масштаб,неисправныйвероятностьчем выше。существоватьэтинеисправный,подавляющее большинстводазависит отгпувызвано,потому чтогпудаочень чувствительныйаппаратное обеспечение,вернотемпература、влажностьждатьсредаколебаниеотзывчивый。
шэнь доу упомянул,когда meta обучала модель llama3, в кластере, использующем 16 000 графических карт, происходил сбой в среднем каждые 3 часа.
большая модельтренироватьсядаогромныйотдельная задача,одинузелошибка,веськластерпросто нужноостанавливаться,иоткатприезжатьпредыдущийточка памяти。принимая во вниманиегпукластеризрасходыоченьдорогой,каждыймногоостанавливатьсяодна минутаволясжигание денег напрасно,“эффективное обучениепродолжительность«это становитсяоченьважные показатели。
противбольшая модельтренироватьсяв процессечастые сбоиизвопрос,сто ге4.0вернообнаружение неисправностейозначаетиавтоматический механизм отказоустойчивостируководитьпонятнообновление,в настоящий моментванкакластерначальствоизэффективное время обучениядостигать99.5%,шен дрожитсказатьэто выше, чемсверстникипротивникизданныепроизводительность. также,сто ге4.0волямейнстримдлинный текстэффективность рассужденийпродвигатьпонятно1развыше,в то же времяуменьшенныйстоимость обоснования。
в последнем отчете baidu о прибылях и убытках:робин ливсегдавыяснилось, что вклад baidu smart cloud ai в доход увеличился до 9% во втором квартале по сравнению с 6,9% в предыдущем квартале.
большая модельинструментизпроизводительностьпродвигатьконечноважный,но длябайдудавайте поговорим,модель посадкииздостижениябольшее практическое значение。
кроме обновлениясто гепомимо платформы, baidu также выделилапоследнийцяньфань3.0платформа. по данным, опубликованным shen dou,на платформе больших моделей qianfan большие модели wenxin вызываются в среднем более 700 миллионов раз в день, помогая пользователям точно настроить 30 000 больших моделей и разработать более 700 000 приложений корпоративного уровня.цяньфан 3.0 можетон может вызывать около ста отечественных и зарубежных крупных моделей, включая крупные модели серии wenxin, а также поддерживает вызов различных традиционных небольших моделей, таких как голос и зрение.
в настоящий момент,большая модельприземлениеизбольшая тройкаосновные потребностиони естьразработка приложений、модельрассуждениеимодельразвивать。
существоватьуровень разработки приложений,уровень предприятияраг(воляпредприятиеиданные отраслисделалплагинбаза знанийдаватьбольшая модель)иаджентльменагентдадва основныхобщийизбольшая модельприземлениесцена。
среди них: после того, как интеллектуальный агент получит задачу, он будет думать самостоятельно, разбирать задачу, планировать план и вызывать инструменты для самостоятельного завершения всего процесса.,можетзавершите прошлоенуждатьсяот 3 до4индивидуальныйаппталантзавершенныйзадача。
шен дрожитвыражать,байдувнутреннийдляцяньфаньплатформапоставлятьпонятнопоиск в байдутакикарта байдуждатьпревосходить80индивидуальныйофициальные компоненты,используется дляпродвигатьагентсуществоватьпо конкретным задачамспособность。
и впо мнению робина ли, интеллектуальные агенты — это большие модели.развитыйследующийважное направление.«многие люди с оптимизмом смотрят на направление развития интеллектуальных агентов, но на сегодняшний день интеллектуальные агенты не являются консенсусом. не так много компаний, таких как baidu, которые считают интеллектуальных агентов наиболее важной стратегией и наиболее важным направлением развития больших моделей. ."
на конференции create в этом году baidu представила три продукта: agentbuilder, appbuilder и modelbuilder. среди них agentbuilder и appbuilder относятся к интеллектуальным агентам. один имеет более низкий порог, а другой подчеркивает функциональность.
согласно последним данным, раскрытым baidu, распространение интеллектуальных агентов в экосистеме baidu значительно увеличилось. среднее количество раздач в день в июле превысило 8 миллионов раз, что вдвое превысило показатель мая.
владелец: байдуцифровой человекплатформаитакже доступны интеллектуальные продукты обслуживания клиентов.последние разработки。среди них xilin digital human platform 4.0 поддерживает быстрое создание цифровых 3d-изображений и видео людей с различными стилями макияжа и различными отраслевыми характеристиками на основе текста, а также снизила цену гиперреалистичных 3d-цифровых людей с 10 000 юаней до 199 юаней.
интеллектуальный продукт обслуживания клиентов «keyue» был оптимизирован с точки зрения понимания намерений пользователей и мультимодального обмена информацией, а также улучшил его способность решать сложные проблемы.
по данным baidu, в настоящее время отрасль«скорость решения проблем»изсредний уровень составляет 80%, а после обновления «ке юэ» увеличила этот показатель до 92%. этот продукт помог корпоративным клиентам обслужить более 150 миллионов человек и взаимодействовал с ними более 500 миллионов раз.