новости

financial associated press, 2 октября (репортер фу цзин)масштаб параметров крупных моделей продолжает увеличиваться, что предъявляет более высокие требования к инфраструктуре вычислительной мощности ии. индустрия вычислений ии в настоящее время переживает бум, и строительство интеллектуальных вычислительных центров ускоряется. последние данные показывают, что по состоянию на июнь этого года общее количество стоек вычислительных центров, используемых по всей стране, превышает 8,3 миллиона стандартных стоек, при этом масштаб вычислительной мощности составляет 246 eflops (fp32), а темпы роста в годовом исчислении составляют интеллектуальные вычисления превышают 65%.

какова цена и нехватка вычислительных карт со стороны предложения на данном этапе? соответствует ли сторона предложения стороне спроса? все ли сотни интеллектуальных вычислительных центров по всей стране работают на полную мощность? когда окупятся затраты на строительство интеллектуального вычислительного центра? как вычислительная мощность искусственного интеллекта может обеспечить качественное развитие? сосредоточив внимание на пяти основных вопросах, репортеры financial associated press взяли интервью у многих деятелей отрасли.

по словам репортера financial associated press, прежний дефицит вычислительных мощностей искусственного интеллекта уменьшился, но спрос и предложение не полностью совпадают, что приводит к низким коэффициентам использования некоторых интеллектуальных вычислительных центров. хотя планы местных органов власти и предприятий по созданию интеллектуальных вычислительных центров являются общими, их число, которое действительно может быть введено в эксплуатацию, может быть меньше, чем ожидалось. некоторые практики прогнозируют, что некоторые интеллектуальные вычислительные центры смогут «окупить свои затраты» примерно через три-четыре года. при этом качественное развитие вычислительных мощностей также ценится в отрасли.

рассчитанная цена карты близка к линии себестоимости продавца.

«недостаток вычислительной мощности действительно является относительно распространенным явлением в последние годы. многие люди спешат покупать продукты с хорошей вычислительной мощностью и хорошей экологической адаптируемостью. с точки зрения пользователей, они, конечно, надеются, что интеллектуальные вычислительные мощности могут лучше поддерживаться. с точки зрения поставщика вычислительных серверов, сказал в интервью репортеру financial associated press чжан донг, главный научный сотрудник inspur yunhai.

чжан дун сообщил журналистам, что дефицит интеллектуальных вычислений носит циклический характер.

какова текущая ситуация со стороны предложения? чжан ячжоу, председатель shanghai liuchi technology group и генеральный директор shanghai runliuchi technology co., ltd., дочерней компании hengrun co., ltd. (603985.sh), заявил репортерам financial associated press: «существует поставка вычислительных мощностей на рынке в этом году, в отличие от прошлого года, когда был дефицит. очень хорошо, что текущие цены на различные вычислительные карты близки к стоимости продавцов. сейчас много людей участвуют в различных проектах в отрасли. и есть также много посредников. в этом участвуют все те, кто раньше производил компьютеры и оборудование, а также индустрию икт-коммуникаций. но на самом деле не многие из них преуспевают».

недавно некоторые трансграничные игроки в сфере интеллектуальных вычислений a-share проявили давление, например: lotus purple star, дочерняя компания lotus holdings (600186.sh), подписала несколько контрактов на обслуживание вычислительных мощностей.может возникнуть риск того, что фактическое возмещение затрат на закупки может занять больше времени, чем ожидалось, или оказаться невозместимым., по состоянию на август этого года lotus purple star все еще находится в состоянии убытка, и существует неопределенность относительно того, сможет ли она получать прибыль в течение года, altron engine, дочерняя компания, находящаяся в полной собственности oya holdings (300949.sz), в ходе переговоров; со своим поставщиком runxin supply chain для подписания «плана расчетов». согласно «дополнительному соглашению к контракту на поставку серверов power», первоначальное запланированное количество 128 высокопроизводительных вычислительных серверов со встроенными чипами nvidia gpu было изменено на 8.

по наблюдению чжан ячжоу, с июня по август этого года цены на терминалы gpu продолжали снижаться. «все прошлогодние проекты были переработаны в первой половине этого года. есть две основные ситуации для проектов, реализуемых в этом году: во-первых, корпоративным исследованиям и разработкам действительно нужны вычислительные мощности, которые в основном сосредоточены в крупных интернет-компаниях. , некоторые регионы получили субсидии и квоты на электроэнергию. ждем поддержки строительства интеллектуального вычислительного центра».

понятно, что на рынке наблюдалась волна «широких товаров» только в сентябре, «в основном на это повлиял межпиковый сезон и международная обстановка, но на самом деле на рынке не так много спотовых ресурсов».

репортер также узнал от инсайдера отрасли, что «цена на 4090 ранее выросла с более чем 13 000 до 16 700». миф: «укун». могущественный.

кроме того, чжан ячжоу сказал, что на рынке все еще существует явление фрагментированного вычислительного энергоснабжения: некоторые поставщики «могут иметь только 5 или 10 серверов, а более крупные имеют 64 или более 100 серверов, и в основном очень мало крупномасштабных серверов». таким поставщикам мы можем взять на себя отдельные заказы от лабораторий и школ».

спрос и предложение не совсем совпадают

несколько практиков заявили репортерам financial associated press, что ослабление дефицита поставок не означает, что спрос на интеллектуальные вычисления ниже, чем ожидалось. чжан ячжоу сказал, что спрос на интеллектуальные вычисления растет и постоянно возникают новые требования, но текущий спрос стал более рациональным.

фань цунмин, исполнительный председатель шэньчжэньской ассоциации индустрии искусственного интеллекта, рассказал в интервью корреспонденту associated press о текущей ситуации с различными типами сторон спроса: ведущие компании и научно-исследовательские университеты обладают достаточными ресурсами вычислительных мощностей, в то время как крупные масштабные промышленные вертикальные модели в настоящее время разрабатываются в больших количествах, а малые, средние и микропредприятия испытывают нехватку вычислительных мощностей.

стоит отметить, что строительство интеллектуальных вычислительных центров идет полным ходом, а конкурсные проекты на него увеличиваются с каждым месяцем.

как ранее сообщала digital intelligence frontier, согласно неполной статистике, только за первые 7 месяцев этого года было опубликовано более 140 объявлений о торгах на проекты, связанные с интеллектуальными вычислительными центрами, в том числе не менее 24 проектов, посвященных всем аспектам строительства. таких как гражданская инфраструктура и ит-инфраструктура. сумма победившей заявки превысила 100 миллионов юаней. в июле на внутреннем рынке было объявлено о более чем 40 соответствующих проектах-победителях.

го лян, главный инженер научно-исследовательского института облачных вычислений и больших данных китайской академии информационных и коммуникационных технологий, сказал в интервью репортеру associated press of finance во время только что завершившейся «китайской конференции по вычислительной мощности 2024 года»: «по всей стране построено множество интеллектуальных вычислительных центров. по полной статистике их должно быть более 200, но 90% из них имеют вычислительную мощность ниже 1000p, а это значит, что эти вычислительные центры имеют ограниченное применение для обучения больших моделей. , и эффективность их будущего использования сомнительна».

«спрос на вычислительную мощность огромен, но существующие типы не могут удовлетворить потребности пользователей. и с точки зрения адаптации, и с точки зрения экономической эффективности они не могут удовлетворить ожидания клиентов» ду юньлун, аналитик idc china, сказал репортеру financial. ассошиэйтед пресс.

чжан ячжоу также считает, что в настоящее время существует ситуация, когда сторона обеспечения вычислительной мощности и сторона спроса не полностью совпадают: «запросчики стороны b обычно ищут устройства, с которыми они знакомы. могут прийти десятки людей, чтобы узнать о чем-то. фактически, они могут связаться только со стороной проекта». сделки возможны только в том случае, если отношения сотрудничества хорошие или всеобъемлющая сила относительно признана, и это не обязательно означает, что сделка осуществляется по самой низкой цене».

является ли простаивающая вычислительная мощность обычным явлением?

репортер associated press отметил, что на данном этапе в центре внимания рынка находится вопрос о том, работает ли вычислительное оборудование на полную мощность.

«сейчас поглощено много вычислительной мощности, но в отрасли действительно существует небольшое количество простаивающих вычислительных мощностей. например, на рынке может быть предложение тысячи машин, но могут быть сотни простаивающих машин. об этом сообщил чжан ячжоу корреспонденту associated press.

по наблюдению го ляна, простой вычислительной мощности не является обычным явлением: «наша команда поддерживает соответствующую работу во многих провинциях и городах. насколько нам известно, в ближайшем будущем уровень использования вычислительного центра нинся все еще будет очень высоким. ."

“сейчас во внутренней монголии, тибете и синьцзяне компьютерные мощности чаще всего продаются в аренду с разделением времени по низким ценам. это приведет к низкому уровню использования интеллектуальных вычислительных центров, построенных в гуандуне и других местах." - сказал фань цунмин журналистам.

говоря о интеллектуальном вычислительном центре нинся, го лян проанализировал, что, хотя общая местная цена на электроэнергию в настоящее время не субсидируется, он все же имеет преимущества: местный интеллектуальный вычислительный центр имеет большую вычислительную мощность и более полезен для обучения больших моделей. «кроме того, для интеллектуальных вычислений требования к производительности сетевой передачи не так высоки, и данные могут быть полностью обработаны в автономном режиме. это лучший сценарий применения для интеллектуальных вычислительных центров в центральной и западной части моей страны».

«судя по степени освоения вычислительных мощностей в раннем строительстве, на ведущие предприятия должно приходиться 80%, на научно-исследовательские университеты — около 30%-40%, а степень освоения вычислительных мощностей для рыночно-ориентированного строительства должна быть примерно половина», — сообщил журналистам фань цунмин.

по наблюдению фань цунмина, ведущие компании, такие как byte, tencent, huawei и baidu, «постоянно обучают большие модели. чем больше объем данных, тем больше потребность в вычислительной мощности, а простаивающих вычислительных мощностей почти нет». вычислительная мощность научно-исследовательских университетов «была построена «большая, менее используемая», относительно более простаивающая вычислительная мощность; простаивающая вычислительная мощность на малых и средних предприятиях относительно распространена. из-за неясного позиционирования, удаленности и высокой цены вычислительных мощностей на ранних этапах строительства недостаточно. "

ду юньлун считает, что простаивание вычислительных мощностей в основном зависит от нескольких аспектов: мобилизации вычислительных мощностей с помощью программного обеспечения верхнего уровня, метода соединения между аппаратными средствами, адаптации аппаратных средств к сценариям применения и затрат на развертывание пользователей.

в начале сентября вице-президент tencent cloud ша кайбо в интервью репортеру financial associated рассказал о том явлении, что, хотя интеллектуальный вычислительный центр и имеет аппаратные ресурсы, ему по-прежнему не хватает вспомогательных программных возможностей, реальных конечных клиентов или сценариев применения. нажимать.

чжан ячжоу сказал, что причины простоя вычислительной мощности сложны и связаны с производительностью различных интеллектуальных вычислительных карт, работой участников проекта и возможностями технического обслуживания сетевых продуктов. основное внимание в отрасли уделяется их актуальности. продукты на стороне приложения.

сколько лет потребуется, чтобы окупить затраты на строительство интеллектуального вычислительного центра?

простой вычислительной мощности привел к чрезмерным затратам в некоторых интеллектуальных вычислительных центрах, что является одной из распространенных проблем в отрасли.

в связи с этим фань цунмин считает, что цена поставки интеллектуальных вычислительных центров слишком высока и пользователи не могут себе этого позволить, что приводит к недостаточной непрерывности вычислений в интеллектуальных вычислительных центрах и чрезмерным затратам.

говоря о работе интеллектуального вычислительного центра, го лян рассказал журналистам financial associated press во время «китайской конференции по вычислительной мощности 2024 года»: «в последнее время вы часто будете видеть информацию о платформе планирования вычислительной мощности по разным поводам, но что будет будет эффект после того, как он будет построен? как? понятно, что в некоторых местах были вложены десятки миллионов в создание платформ, но из-за таких проблем, как концепции дизайна и функциональные особенности, они не использовались должным образом. интеллектуальный вычислительный центр особенно важен».

далее он сказал: «для интеллектуальных вычислений даже государственные инвестиции нуждаются в возврате, не говоря уже о предприятиях. сейчас отрасль действительно находится в ситуации споров между героями, но единой роли нет. конечно, мы тоже усердно работаем. на этот раз он сказал: китайская платформа вычислительных услуг (хэнань), представленная на конференции по вычислительной мощности, — это решение, которое мы представили».

(снято репортером financial associated press на китайской конференции по вычислительной мощности 2024 года)

что касается того, как умные вычислительные центры балансируют стоимость и производительность, фань цунмин рассказал репортеру associated press: «период окупаемости инвестиций в вычислительную мощность обычно составляет около пяти лет, поскольку рынок вычислительной мощности меняется очень быстро, и другие затраты, такие как счета за электроэнергию, и операции должны быть добавлены. если это возможно. если это будет использоваться крупным производителем, я думаю, что срок окупаемости составит около трех-четырех лет».

ду юньлун считает, что операторам интеллектуальных вычислительных центров следует сформулировать долгосрочные планы по снижению затрат на использование для конечных пользователей, культивировать привычки использования и возобновить ценообразование в будущем, сосредоточившись на развитии случаев применения и постепенном расширении охвата отрасли;

как объяснить переход от «количества» к «качеству»?

объективно говоря, развитию вычислительной мощности китая еще предстоит пройти долгий путь.

«отчет о развитии вычислительной мощности китая (2024 г.)», опубликованный на китайской конференции по вычислительной мощности 2024 года, показывает, что по состоянию на конец прошлого года мировой рынок интеллектуальных вычислений вырос более чем на 130% по сравнению с аналогичным периодом прошлого года, в то время как китайский рынок интеллектуальных вычислений вырос более чем на 60% в годовом исчислении.

репортер associated press заметил, что на фоне бума строительства вычислительных мощностей некоторые практики на вышеупомянутых конференциях делились многими «холодными мыслями» и сосредоточивались на высококачественных вычислительных мощностях.

первая в отрасли высококачественная система оценки вычислительной мощности «отчет о системе оценки высокого качества вычислительной мощности искусственного интеллекта», выпущенная inspur information (000977.sz) и академией информационных и коммуникационных технологий, утверждает, что высококачественная вычислительная мощность основана на новейшая теория искусственного интеллекта и использует передовую вычислительную архитектуру искусственного интеллекта, вычислительные возможности высокого уровня в сочетании с алгоритмами и глубиной данных.

репортер associated press узнал от inspur information, что разрыв между измеренной производительностью и теоретической производительностью текущего кластера вычислительных мощностей слишком велик. реальная производительность некоторых вычислительных мощностей составляет менее 10% от теоретической производительности. публичные данные показывают, что средний коэффициент использования графического процессора интеллектуальных вычислительных центров в традиционном режиме составляет менее 30%.

чжан дун считает, что внимание к вычислительной мощности не может быть сосредоточено только на чипах. «многие места покупают вычислительные мощности, называют бренды чипов и строят крупномасштабные вычислительные центры. на самом деле бессмысленно смотреть на показатели чипов. необходимо взглянуть на систему с точки зрения всестороннего рассмотрения того, как удовлетворить потребности приложения».

го лян также сказал: «в настоящее время у нас не так много вариантов на уровне чипов. но интеграция вычислений и сети является горячей точкой. цель состоит в том, чтобы расширить сервер искусственного интеллекта с нынешних 8 карт до 32 карт или 512. это будет полезно для возможностей интеллектуальных вычислительных кластеров, включая их развертывание, запуск, эксплуатацию и обслуживание».

репортеры associated press узнали из многочисленных интервью, что внедрение крупномасштабных интеллектуальных вычислений ни в коем случае не является простым сочетанием масштабов и количеств. их сложность возрастает в геометрической прогрессии, что предъявляет высокие требования к технической мощи, ресурсным преимуществам и промышленному сотрудничеству. возможности интеллектуальных вычислительных операторов строительства.

что касается того, как интеллектуальный вычислительный центр может перейти от «количества» к «качестве», го лян сказал: «строительство интеллектуального вычислительного центра требует «умеренного прогресса», а также общего анализа и прогнозирования, основанного на реальных местных потребностях».