Новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Машинное Сердце Оригинал

Автор: Чжан Цянь

Умение «делать ставки» также является очень практичным навыком.

Какое место занимает NeurIPS среди множества ведущих конференций по искусственному интеллекту? Кто-то поместил это во вселенную «Легенды о Чжэнь Хуане» и сделал картину: она, наверное, заслуживает «второй позиции».

Источник изображения: пользователь Xiaohongshu @云juanyeshu

Этот рейтинг может быть спорным, но нет никаких сомнений в том, что NeurIPS всегда входил в тройку лучших на ведущих конференциях по искусственному интеллекту и уже давно входит в десятку лучших мировых журналов и ведущих конференций Google Scholar по всем дисциплинам.

Поэтому возможность публиковать статьи на этой конференции — общая цель многих исследователей ИИ. Инновационные статьи AlexNet, Transformer и GPT-3 приняты к участию в этой ведущей конференции.

Однако стоит отметить, что статьи не отражают всю ценность NeurIPS. Некоторые соревнования, проводимые во время конференции, могут быть более подходящими для некоторых исследователей и инженеров, специализирующихся на практике искусственного интеллекта. Даже представители NeurIPS сказали: «Эти соревнования играют важную роль в исследовании и решении сложных задач.」。

Так где же мне найти эти соревнования? Фактически, в июне представители NeurIPS опубликовали в блоге список этих соревнований.

Список содержит в общей сложности 16 конкурсных вопросов, каждый из которых прошел проверку и имеет статус «Обширная ценность научных исследований」。

Эти конкурсные вопросы официально собираются NeurIPS. Судя по опыту прошлых лет, большая часть конкурсных вопросов, которые могут быть окончательно отобраны, поступает от университетов, научно-исследовательских институтов или зарубежных технологических компаний, таких как Google, OpenAI, Meta и т. д. Конкурсные вопросы, представленные отечественной промышленностью, имеют очень низкую оценку. шанс быть выбранным. В этом году из-за популярности большой модельной трассы конкуренция на соревнованиях еще более острая.

Но что удивительно, так это то, что в такой жесткой конкурентной среде в отечественной отрасли все еще есть люди, которые выделяются».Автоматические ставки на крупномасштабных аукционах: изучение принятия решений в неопределенных и конкурентных играх(«Автоматические торги на крупномасштабных аукционах: обучение принятию решений в неопределенных и конкурентных играх»)» — такова была тема конкурса, которую они представили.

Официальный сайт конкурса: https://tianchi.aliyun.com/specials/promotion/neurips2024_alimama#/

Этот конкурсный вопрос был подготовлен группой по сотрудничеству в области принятия решений в Объединенной лаборатории инноваций в области искусственного интеллекта Пекинского университета и Алимамы (PAAI). В качестве первого подразделения группа по интеллектуальным технологиям принятия решений Алимамы подала заявку совместно с исследовательскими группами. Профессор Дэн Сяоте и профессор Лу Цзунцин из Пекинского университета. После того, как название конкурса было выбрано, «Алимама» получила право на проведение конкурса, став единственной организацией в отечественной отрасли, получившей право на проведение конкурса NeurIPS в этом году.

Тема конкурса вращается вокруг проблемы «автоматических торгов на крупных аукционах». Эта проблема тесно связана с интерфейсом, в котором мы каждый день открываем приложения для покупок для поиска и просмотра продуктов. За этим стоит огромная исследовательская и коммерческая ценность.Экспертные судьи NeurIPS оценили вопрос конкурса как «Практически важный, хорошо организованный и хорошо проверенный (Практически важный, хорошо организованный и хорошо проверенный)».。

Так в чем же проблема «автоматических торгов на крупных аукционах»? Почему оно было предложено Объединенной лабораторией инноваций в области искусственного интеллекта Пекинского университета и Алимамы и получило такую ​​высокую оценку? Что именно делают участники? Сердце машины будет разобрано по одному в этой статье.

Что такое «автоматические торги на крупных аукционах»?

Чтобы понять, что такое «автоматические торги на крупных аукционах», давайте сначала вспомним опыт открытия Таобао и начала покупок.

Каждый раз, когда вы вводите ключевое слово, система открывает страницу продукта. На самом деле, эта страница очень специфична: какие продукты будут отображаться и какие продукты будут занимать первое место, являются результатом точных расчетов системы. Рекламные объявления являются результатом работы платформы, использующей механизм аукциона для выделения рекламных мест рекламодателям.

Логика работы всего процесса следующая: сначала платформа формирует профиль пользователя, анализируя его интересы и модели поведения. Когда пользователи ищут или просматривают товары на Taobao, платформа немедленно запускает процесс рекламного аукциона в фоновом режиме. Рекламодатели участвуют в этом аукционе через механизм торгов, надеясь получить возможность показывать свою рекламу. Система автоматического назначения ставок играет ключевую роль в этом процессе. Она учитывает профиль пользователя, данные о поведении, рекламные цели рекламодателя, бюджетные ограничения и различные факторы аукционной среды для расчета оптимальной стратегии ставок в режиме реального времени. На основе этих данных и результатов расчетов платформа выберет рекламу с самой высокой ставкой и наиболее релевантным потребностям пользователя. Эти результаты рекламы отображаются пользователям вместе с обычными результатами. Весь процесс полностью автоматизирован и может быть выполнен за очень короткое время.

Из этого процесса видно, чтоБлагодаря автоматизированной системе ставок рекламодатели могут значительно упростить процесс рекламы и использовать технологии искусственного интеллекта для достижения точного маркетинга, тем самым экономя время и энергию.

В 2023 году мировой рынок онлайн-рекламы достигнет 626,8 млрд долларов США. Технология автоматического назначения ставок имеет решающее значение для дальнейшего роста компании. Подобные исследовательские вопросы включают рекламные стратегии и другие конструкции механизмов, которые все относятся к области исследования интеллекта для принятия решений. Исследования, связанные с аналитикой принятия решений, могут принести предприятиям новые методы работы и снизить их зависимость от людей в механизмах принятия решений, тем самым значительно увеличивая темпы роста доходов компании и расширяя пространство для ее роста.

Однако провести «автоматические торги» в вопросе конкуренции непросто. Потому что автоматизированной системе назначения ставок приходится иметь дело с огромным и сложным потоком данных, охватывающим данные о поведении пользователей, рекламные данные, данные о ставках и другую многомерную информацию, и эти данные будут обновляться в режиме реального времени. Кроме того, системе также необходимо принимать решения в игровой среде, полной неопределенности, и она не может получить полную информацию обо всех влияющих факторах. Таким образом, система может полагаться только на доступные в настоящее время данные и накопленный исторический опыт, чтобы делать прогнозы и решения с помощью интеллектуальных алгоритмов, стремясь сделать оптимальный выбор ставок в быстро меняющейся рыночной среде.

Путь оптимизации «автоматическое назначение ставок»

От обучения с подкреплением к генеративному искусственному интеллекту

В целом подход отрасли к торгам претерпел четыре поколения эволюции. Алимама также провела многолетние исследования по оптимизации стратегий автоматического назначения ставок.

• Первое поколение: классический класс управления. Оптимизационная задача максимизации эффекта косвенно трансформируется в задачу управления расходом бюджета. Рассчитайте кривую потребления на основе бизнес-данных и максимально контролируйте потребляемый бюджет в соответствии с установленной кривой. ПИД-регулирование и связанные с ним улучшения являются обычно используемыми алгоритмами управления на этом этапе. Когда распределение стоимости трафика ставок стабильно, этот тип алгоритма может в основном обеспечить эффект оптимизации в начале запуска бизнеса.
• Второе поколение: класс планирования и решения. По сравнению с первым поколением алгоритм планирования и решения (LP) напрямую ориентирован на решение задачи максимизации цели. Текущий будущий набор трафика можно спрогнозировать на основе трафика ставок предыдущего дня для определения параметров торгов. Проблема автоматического назначения ставок становится новой подзадачой, основанной на текущих доставленных данных, поэтому ее можно решать этим методом несколько раз, то есть Online LP. Этот тип метода основан на точном прогнозировании будущего участвующего трафика, поэтому при реализации реального сценария необходимо проделать дополнительную работу по прогнозированию качества и количества будущего трафика.
• Третье поколение: обучение с подкреплением. В реальной среде среда онлайн-торгов очень сложна и динамично меняется, и будущий сбор трафика трудно точно предсказать. Только скоординировав весь бюджетный цикл, можно добиться максимального эффекта. Как типичная задача последовательного принятия решений, на третьем этапе используются методы обучения с подкреплением для оптимизации стратегии автоматического назначения ставок. Его итерационный процесс развивался от раннего внедрения классических методов обучения с подкреплением к дальнейшей аппроксимации «распределения данных в реальной онлайн-среде» на основе метода Offline RL и к заключительному этапу подхода к сути проблемы и реализации интерактивного обучения. с реальной средой торгов на основе метода Online RL.
• Четвертое поколение: создание классов моделей. Генеративные большие модели, представленные ChatGPT, развиваются с большой скоростью и показали потрясающие результаты во многих областях. Новые технические концепции и технические парадигмы могут привести к революционному обновлению алгоритмов автоматического назначения ставок. Техническая команда Alimama заранее приняла меры, изменила техническую систему рекламного интеллектуального маркетинга, взяв за основу большую интеллектуальную модель принятия маркетинговых решений AIGA (AI Generated Action), а также разработала стратегии автоматического назначения ставок, представленные AIGB (AI Generated Bidding).

Когда новейшие исследования в отрасли перейдут в третье поколение (2022 г.),Создана совместная лаборатория инноваций в области искусственного интеллекта Пекинского университета и Алимамы (PAAI). .Эта лаборатория объединяет многих известных людей в промышленности и научных кругах: декан Школы разведки Пекинского университетаЧжу СунчунПрофессор возглавляет академическое руководство, заведующий кафедрой Пекинского университетаДэн Сяоте, доцент Школы разведки Пекинского университетаСун Гоцзеи технический директор АлимамыЧжэн Бо Все они являются основными сотрудниками лаборатории. Несколько экспертов возглавляют лабораторию, чтобы продолжить изучение вопросов принятия решений, таких как автоматическое назначение ставок на основе существующих результатов.

В ходе исследования они обнаружили, что оригинальный метод обучения с подкреплением имел некоторые ограничения, такие как проблема чрезмерного накопления ошибок обучения в сценариях принятия решений с длинной последовательностью, таких как автоматическое назначение ставок. В то же время ChatGPT проверяет мощные возможности генеративного искусственного интеллекта в различных областях. Поэтому команда начала думать о том, что генеративные модели могут привнести в стратегии автоматического назначения ставок. окончательно,Они предложили схему оптимизации стратегии торгов, основанную на построении генеративной модели — AIGB (AI Generative Bidding).。

В частности, AIGB рассматривает соответствующие индикаторы, такие как ставки, цели оптимизации и ограничения, как совместное распределение вероятностей, тем самым преобразуя проблему торгов в задачу генерации условного распределения. В отличие от обучения с подкреплением, оно напрямую коррелирует траекторию принятия решений и информацию о вознаграждении (как показано на рисунке ниже), что позволяет избежать накопления ошибок обучения и больше подходит для сценариев принятия решений с длинной последовательностью. Это первая попытка совместной лаборатории применить генеративные большие модели в сфере интеллектуального назначения ставок.Соответствующие статьи были приняты на крупнейшую международную конференцию KDD 2024.。

Конечно, проблемы интеллекта при принятии решений, такие как «автоматические торги на крупномасштабных аукционах», далеки от решения, и применение генеративного ИИ для решения этих проблем только вступило в стадию испытаний. Поэтому совместная лаборатория представила NeurIPS соответствующие конкурсные вопросы, надеясь использовать годы накопления исследований и собрать силы сообщества для совместного продвижения углубленных исследований и решений этих проблем.

Помимо коммерческой ценности, сами эти проблемы имеют еще и высокую исследовательскую ценность. Поскольку интеллект принятия решений объединяет такие дисциплины, как искусственный интеллект, наука о данных и теория игр, он обеспечивает систематическую основу для решения сложных проблем. Это способствует междисциплинарной интеграции и стимулирует инновации и сотрудничество в таких областях, как информатика, статистика и экономика.

AIGB и General Motors — два основных направления

Регистрация открыта

Тема конкурса «Автоматизированные торги на крупных аукционах» разделена на два трека, а именно:

• Трек AIGB: Использование генеративных моделей для изучения агентов автоматического назначения ставок
• Универсальный путь: автоматическое назначение ставок в условиях неопределенности

В треке AIGB участникам необходимо подумать о том, как принимать точные решения о торгах для длинных последовательностей. Как упоминалось ранее, при столкновении с этой проблемой традиционные методы обучения с подкреплением будут ограничены такими факторами, как накопление ошибок, и их производительность ограничена. Однако обобщенные генеративные модели показали большой потенциал в этой задаче. Таким образом, этот трек требует от участников применения широкого спектра генеративных моделей, таких как модели диффузии, трансформаторы и т. д., чтобы справиться с этой задачей. Если у вас есть исследовательский или отраслевой опыт в области диффузионных моделей, трансформеров, базовых моделей, моделей большого языка (LLM) и других методов генерации, вы можете рассмотреть возможность подписки на этот трек.

В целом участникам предстоит принимать эффективные решения о торгах на крупномасштабных аукционах, что требует эффективного отслеживания изменений в стратегиях конкурентов. Сложная среда реальных рекламных аукционов создает дополнительные проблемы, а именно неопределенность. Участники должны учитывать случайность прибытия потребителей, различия в прогнозах конверсионного поведения, разреженность данных и другие факторы. Если у вас есть исследовательский или отраслевой опыт в области обучения с подкреплением, оптимизации, машинного обучения, теории игр и науки о данных, вы можете рассмотреть возможность подписки на этот трек.

Участие в этом конкурсе принесет множество наград. NeurIPS имеет очень высокое международное влияние, а достижение отличных результатов на соревнованиях, несомненно, является плюсом для вашего резюме и будет очень полезно для дальнейшего развития карьеры. Кроме того, победитель получит возможность выиграть конкурсный приз в размере 6000 долларов США, а также возможность стажировки в Alibaba, зеленом канале набора персонала в кампусах, и статус приглашенного ученого.

В рамках этого конкурса впервые будет доступно около 500 миллионов фрагментов игровых данных и соответствующая система обучения. Такие крупномасштабные игровые данные очень редки в отрасли. Это хорошая практика и возможность для исследований для исследователей и практиков в области анализа решений, обучения с подкреплением, игр и генеративных моделей.

Расписание и призы следующие:

• Регистрация трека AIGB: https://tianchi.aliyun.com/competition/entrance/532236
• Общая регистрация трека: https://tianchi.aliyun.com/competition/entrance/532226

Официальный сайт конкурса: https://tianchi.aliyun.com/specials/promotion/neurips2024_alimama#/