nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Coeur de machine original

Auteur : Zhang Qian

Être capable de « soumissionner » est également une compétence très pratique.

Parmi les nombreuses conférences de premier plan sur l’intelligence artificielle, quelle est la place de NeurIPS ? Quelqu'un l'a mis dans l'univers de "La Légende de Zhen Huan" et en a fait une photo : il mérite probablement la "deuxième position".

Source de l'image : utilisateur de Xiaohongshu @云juanyeshu

Ce classement peut être controversé, mais il ne fait aucun doute que NeurIPS a toujours figuré parmi les trois premiers des principales conférences sur l'IA et figure depuis longtemps dans le top dix des revues mondiales de Google Scholar et des meilleures conférences dans toutes les disciplines.

Par conséquent, pouvoir publier des articles lors de cette conférence est un objectif commun à de nombreux chercheurs en IA. Les articles révolutionnaires AlexNet, Transformer et GPT-3 sont tous acceptés par cette conférence de premier plan.

Cependant, il convient de noter que les articles ne représentent pas toute la valeur de NeurIPS. Certains concours organisés pendant la conférence peuvent être plus adaptés à certains chercheurs et ingénieurs qui se concentrent sur la pratique de l'IA. Même les responsables de NeurIPS ont déclaré : «Ces concours jouent un rôle important dans la recherche et la résolution de problèmes complexes」。

Alors où puis-je trouver ces concours ? En fait, les responsables de NeurIPS ont publié en juin un blog donnant spécifiquement une liste de ces compétitions.

La liste contient un total de 16 questions du concours, dont chacune a été examinée et porte le "Valeur de recherche scientifique étendue」。

Ces questions de concours sont officiellement collectées par NeurIPS. À en juger par l'expérience des années passées, la plupart des questions du concours qui peuvent finalement être sélectionnées proviennent d'universités, d'instituts de recherche ou d'entreprises technologiques étrangères telles que Google, OpenAI, Meta, etc. Les questions du concours soumises par l'industrie nationale ont un très faible chance d'être sélectionné. Cette année, en raison de la popularité de la piste de grands modèles, la concurrence est encore plus intense.

Mais ce qui est surprenant, c'est que dans un environnement aussi concurrentiel, il y a encore des gens qui se démarquent dans l'industrie nationale.Enchères automatiques dans les enchères à grande échelle : apprendre à prendre des décisions dans des jeux incertains et compétitifs(Enchères automatisées dans les enchères à grande échelle : prendre des décisions dans des jeux incertains et compétitifs)" est le sujet du concours qu'ils ont soumis.

Site officiel du concours : https://tianchi.aliyun.com/specials/promotion/neurips2024_alimama#/

Cette question de concours a été élaborée par l'équipe de coopération en matière d'intelligence décisionnelle du Laboratoire commun d'innovation en intelligence artificielle (PAAI) de l'Université de Pékin et d'Alimama, en tant que première unité, a soumis conjointement la soumission avec l'équipe de recherche de. Professeur Deng Xiaotie et professeur Lu Zongqing de l'Université de Pékin. Une fois le sujet du concours sélectionné, Alimama a remporté le droit d'héberger le concours, devenant ainsi la seule organisation de l'industrie nationale à remporter le droit d'héberger le concours NeurIPS cette année.

Le thème de la concurrence tourne autour du problème des « enchères automatisées dans les enchères à grande échelle ». Ce problème est étroitement lié à l'interface dans laquelle nous ouvrons chaque jour des applications d'achat pour rechercher et parcourir des produits. Il y a une énorme valeur de recherche et commerciale derrière cela.Les juges experts de NeurIPS ont évalué la question du concours comme étant « Pratiquement importante, bien organisée et bien testée (Pratiquement importante, bien organisée et bien testée) »。

Alors, quel est le problème des « enchères automatisées dans les enchères à grande échelle » ? Pourquoi a-t-il été proposé par le Laboratoire commun d'innovation en intelligence artificielle de l'Université de Pékin et d'Alimama et a-t-il reçu autant d'éloges ? Que font exactement les candidats ? Les Cœurs de la Machine seront démantelés un à un dans cet article.

Qu'est-ce que les « enchères automatisées dans les enchères à grande échelle » ?

Pour comprendre ce qu'est « les enchères automatiques dans les enchères à grande échelle », rappelons d'abord l'expérience de l'ouverture de Taobao et du démarrage des achats.

Chaque fois que vous saisissez un mot-clé, le système affichera une page produit. En fait, cette page est très particulière : quels produits apparaîtront et quels produits seront classés en premier sont le résultat de calculs précis effectués par le système. Les publicités sont le résultat du fonctionnement de la plateforme par un mécanisme d'enchères pour attribuer des emplacements publicitaires aux annonceurs.

La logique de fonctionnement de l'ensemble du processus est la suivante : premièrement, la plateforme créera un profil d'utilisateur en analysant les intérêts et les modèles de comportement de l'utilisateur. Lorsque les utilisateurs recherchent ou parcourent des produits sur Taobao, la plateforme démarre immédiatement le processus d'enchères publicitaires en arrière-plan. Les annonceurs participent à cette vente aux enchères via le mécanisme d'enchères, dans l'espoir d'avoir l'opportunité d'afficher leurs annonces. Le système d'enchères automatiques joue un rôle central dans ce processus. Il prend en compte le profil de l'utilisateur, les données comportementales, les objectifs de promotion de l'annonceur, les contraintes budgétaires et divers facteurs de l'environnement des enchères pour calculer la stratégie d'enchères optimale en temps réel. Sur la base de ces données et résultats de calcul, la plateforme sélectionnera l'annonce avec l'enchère la plus élevée et les besoins les plus pertinents des utilisateurs. Ces résultats publicitaires sont affichés aux utilisateurs avec les résultats organiques. L'ensemble du processus est entièrement automatisé et peut être réalisé en très peu de temps.

Il ressort de ce processus queGrâce au système d'enchères automatisées, les annonceurs peuvent considérablement simplifier le processus de placement d'annonces et utiliser la technologie de l'intelligence artificielle pour réaliser un marketing précis, économisant ainsi du temps et de l'énergie.

En 2023, le marché mondial de la publicité en ligne atteindra 626,8 milliards de dollars. La technologie des enchères automatisées est essentielle pour stimuler sa croissance continue. Des questions de recherche similaires incluent les stratégies publicitaires et d’autres conceptions de mécanismes, qui appartiennent toutes au champ de recherche de l’intelligence décisionnelle. La recherche liée à l'intelligence décisionnelle peut apporter de nouvelles méthodes de fonctionnement aux entreprises et réduire leur dépendance à l'égard des personnes dans les mécanismes de prise de décision, augmentant ainsi considérablement le taux de croissance des revenus de l'entreprise et augmentant son espace de croissance.

Toutefois, il n'est pas facile de procéder à des « enchères automatiques » en matière de concurrence. Parce que le système d'enchères automatisées doit faire face à un flot de données énorme et complexe, couvrant les données sur le comportement des utilisateurs, les données publicitaires, les données sur les enchères et d'autres informations multidimensionnelles, et ces données seront mises à jour en temps réel. De plus, le système doit également prendre des décisions dans un environnement de jeu plein d'incertitude et ne peut pas obtenir des informations complètes sur tous les facteurs d'influence. Par conséquent, le système ne peut s'appuyer que sur les données actuellement disponibles et l'expérience historique accumulée pour faire des prévisions et des décisions grâce à des algorithmes intelligents, en s'efforçant de faire des choix d'enchères optimaux dans un environnement de marché en évolution rapide.

Parcours d'optimisation des « enchères automatiques »

De l’apprentissage par renforcement à l’IA générative

Dans l'ensemble, l'approche de l'industrie en matière d'appel d'offres a connu quatre générations d'évolution. Alimama a également mené de nombreuses années de recherche sur l'optimisation des stratégies d'enchères automatisées.

• Première génération : classe de contrôle classique. Le problème d'optimisation de la maximisation de l'effet se transforme indirectement en problème de contrôle de la consommation budgétaire. Calculez la courbe de consommation en fonction des données métiers, et contrôlez autant que possible le budget à consommer en fonction de la courbe définie. Le PID et les améliorations associées sont des algorithmes de contrôle couramment utilisés à ce stade. Lorsque la répartition de la valeur du trafic d'enchères est stable, ce type d'algorithme peut essentiellement répondre à l'effet d'optimisation au début du lancement de l'entreprise.
• Deuxième génération : cours de planification et de résolution. Par rapport à la première génération, l’algorithme de planification et de résolution (LP) est directement orienté pour résoudre le problème de maximisation des objectifs. L'ensemble de trafic futur actuel peut être prédit sur la base du trafic d'enchères de la veille pour résoudre les paramètres d'enchères. Le problème des enchères automatiques devient un nouveau sous-problème basé sur les données actuellement fournies, il peut donc être résolu plusieurs fois par cette méthode, c'est-à-dire Online LP. Ce type de méthode repose sur des prévisions précises du trafic futur participant. Par conséquent, lors de la mise en œuvre du scénario réel, des travaux supplémentaires doivent être effectués pour prédire la qualité et la quantité du trafic futur.
• La troisième génération : l’apprentissage par renforcement. Dans l'environnement réel, l'environnement des enchères en ligne est très complexe et évolue de manière dynamique, et il est difficile de prédire avec précision les futures collectes de trafic. Ce n'est qu'en coordonnant l'ensemble du cycle budgétaire que l'effet peut être maximisé. En tant que problème typique de prise de décision de séquence, la troisième étape utilise des méthodes d'apprentissage par renforcement pour optimiser la stratégie d'enchères automatiques. Son processus itératif a évolué depuis la mise en œuvre précoce des méthodes classiques d'apprentissage par renforcement, jusqu'à une plus grande approximation de la « distribution des données dans l'environnement réel en ligne » basée sur la méthode Offline RL, jusqu'à l'étape finale d'approche de l'essence du problème et de mise en œuvre de l'apprentissage interactif. avec l'environnement d'enchères réel basé sur la méthode Online RL.
• La quatrième génération : générer des classes de modèles. Les grands modèles génératifs représentés par ChatGPT arrivent avec un grand élan et ont montré des résultats étonnants dans de nombreux domaines. De nouveaux concepts et paradigmes techniques peuvent apporter des améliorations révolutionnaires aux algorithmes d’enchères automatisées. L'équipe technique d'Alimama a pris des dispositions à l'avance, a remodelé le système technique de marketing intelligent publicitaire avec le grand modèle de prise de décision marketing intelligent AIGA (AI Generated Action) comme noyau, et a dérivé des stratégies d'enchères automatiques représentées par AIGB (AI Generated Bidding).

Alors que les dernières recherches de l’industrie en sont à leur troisième génération (2022),Création du Laboratoire commun d'innovation en intelligence artificielle (PAAI) de l'Université de Pékin et d'Alimama .Ce laboratoire rassemble de nombreux grands noms de l'industrie et du monde universitaire : Doyen de la School of Intelligence de l'Université de PékinZhu SongchunUn professeur dirige l'orientation académique et professeur titulaire de la chaire de l'Université de PékinDeng Xiaotie, professeur agrégé, École d'intelligence, Université de PékinChanson Guojieet le directeur technique d'AlimamaZheng Bo Ils sont tous des membres essentiels du laboratoire. Plusieurs experts amènent le laboratoire à poursuivre l’étude des problématiques d’intelligence décisionnelle comme les enchères automatiques basées sur les résultats existants.

Au cours du processus de recherche, ils ont découvert que la méthode originale d'apprentissage par renforcement présentait certaines limites, telles que le problème de l'accumulation excessive d'erreurs de formation dans des scénarios de prise de décision à longue séquence tels que les enchères automatiques. Dans le même temps, ChatGPT vérifie les puissantes capacités de l’IA générative dans plusieurs domaines. L’équipe a donc commencé à réfléchir à ce que les modèles génératifs pourraient apporter aux stratégies d’enchères automatisées. enfin,Ils ont proposé un schéma d'optimisation de stratégie d'enchères basé sur la construction de modèles génératifs-AIGB (AI Generative Bidding)。

Plus précisément, AIGB traite les indicateurs pertinents tels que les offres, les objectifs d'optimisation et les contraintes comme une distribution de probabilité conjointe, transformant ainsi le problème des enchères en un problème de génération de distribution conditionnelle. Différent du point de vue de l'apprentissage par renforcement, il corrèle directement la trajectoire de décision et les informations de récompense (comme le montre la figure ci-dessous), ce qui peut éviter l'accumulation d'erreurs de formation et est plus adapté aux scénarios de prise de décision à longue séquence. Il s’agit de la première tentative du laboratoire commun d’appliquer de grands modèles génératifs dans le domaine des enchères intelligentes.Les articles connexes ont été acceptés par la plus grande conférence internationale KDD 2024。

Bien entendu, les problèmes d’intelligence décisionnelle tels que « les enchères automatisées dans les enchères à grande échelle » sont loin d’être résolus, et l’application de l’IA générative à ces problèmes vient d’entrer dans la phase expérimentale. Par conséquent, le laboratoire commun a soumis des questions de concours pertinentes à NeurIPS, dans l'espoir de tirer parti des années d'accumulation de recherche et de rassembler le pouvoir de la communauté pour promouvoir conjointement une recherche approfondie et des solutions à ces problèmes.

Outre leur valeur commerciale, ces problèmes eux-mêmes ont également une grande valeur pour la recherche. Parce que l’intelligence décisionnelle intègre des disciplines telles que l’intelligence artificielle, la science des données et la théorie des jeux, elle fournit un cadre systématique pour résoudre des problèmes complexes. Cela favorise l'intégration interdisciplinaire et stimule l'innovation et la collaboration dans des domaines tels que l'informatique, les statistiques et l'économie.

AIGB et General Motors sont deux pistes majeures

Les inscriptions sont ouvertes

Le thème du concours « Enchères automatisées dans les enchères à grande échelle » est divisé en deux volets, à savoir :

• Piste AIGB : Utiliser des modèles génératifs pour apprendre les agents d'enchères automatiques
• Universal Track : enchères automatisées avec incertitude

Dans la piste AIGB, les concurrents doivent réfléchir à la manière de prendre des décisions d'enchères précises pour les longues séquences. Comme mentionné précédemment, face à ce problème, les méthodes traditionnelles d'apprentissage par renforcement seront limitées par des facteurs tels que l'accumulation d'erreurs, et leurs performances sont limitées. Cependant, les modèles génératifs généralisés ont montré un grand potentiel dans cette tâche. Par conséquent, cette piste oblige les candidats à adopter un large éventail de modèles génératifs, tels que les modèles de diffusion, les transformateurs, etc., pour relever ce défi. Si vous avez une formation en recherche ou dans l'industrie dans les modèles de diffusion, les transformateurs, les modèles de base, les grands modèles linguistiques (LLM) et d'autres méthodes de génération, vous pouvez envisager de vous inscrire à cette piste.

De manière générale, les concurrents sont mis au défi de prendre des décisions efficaces lors d'enchères à grande échelle, ce qui nécessite de détecter efficacement les changements dans les stratégies des concurrents. L’environnement complexe et réel des enchères publicitaires entraîne des défis supplémentaires, à savoir l’incertitude. Les participants doivent prendre en compte le caractère aléatoire des arrivées des consommateurs, la variance des prévisions de comportement de conversion, la rareté des données et d'autres facteurs. Si vous avez une formation en recherche ou dans l'industrie en apprentissage par renforcement, optimisation, apprentissage automatique, théorie des jeux et science des données, vous pouvez envisager de vous inscrire à cette piste.

Participer à ce concours apportera de nombreuses récompenses. NeurIPS a un très grand rayonnement international, et obtenir d'excellents résultats aux concours est sans aucun doute un plus pour votre CV et sera très utile pour une évolution de carrière future. En outre, le gagnant aura également l'opportunité de remporter un prix de concours de 6 000 dollars américains, ainsi que des opportunités de stage chez Alibaba, un canal vert pour le recrutement sur les campus, et le statut de chercheur invité.

Ce concours mettra également à disposition pour la première fois environ 500 millions de données de jeu et le cadre de formation correspondant. Des données de jeu à si grande échelle sont très rares dans l'industrie. Il s'agit d'une bonne pratique et d'une opportunité de recherche pour les chercheurs et les praticiens dans les domaines de l'intelligence décisionnelle, de l'apprentissage par renforcement, des jeux et des modèles génératifs.

Le programme et les prix sont les suivants :

• Inscription à la piste AIGB : https://tianchi.aliyun.com/competition/entrance/532236
• Inscription générale à la piste : https://tianchi.aliyun.com/competition/entrance/532226

Site officiel du concours : https://tianchi.aliyun.com/specials/promotion/neurips2024_alimama#/