nouvelles

Source de l'image : Visuel Chine

Auteur collaborateur | Zhou Zihao

Editeur | Wang Weikai

Note de l'éditeur:

depuisOpenAI La boîte de Pandore de l'IA générative a été ouverte. Les grands modèles resteront la tendance la plus en vogue en 2024. Berceau de la technologie, la Silicon Valley regorge de talents. Toute organisation excellente doit avoir trouvé une méthode et des outils correspondants pour stimuler au maximum la créativité de chacun. Mais plus important encore, capturez ces moments de génie éphémères. "AI Lightyear" enregistre les changements actuels dans les grandes entreprises modèles au pays et à l'étranger en interrogeant les employés de certaines entreprises d'IA : où sont les talents qui contrôleront l'avenir ? C'est pour le deuxième article.

Parcourant près de 40 miles de Sunnyvale au centre-ville de San Francisco, Zhao Ming, étudiant en maîtrise à l'Université de Stanford, participera à un événement de capital-risque en matière d'IA. Il s'agit de la piste d'activité de Zhao Ming un week-end de juin.

Les partenaires d'un fonds local de la Silicon Valley ont accueilli l'événement. Parmi les participants figurent les fondateurs de dizaines de startups de l’IA et près de 50 investisseurs représentant différentes capitales. Au cours de l'événement, des entrepreneurs sont montés sur scène pour vendre leurs idées aux investisseurs, tandis que des ingénieurs en IA observaient le « marché » dans le public.

"Une telle scène se produit chaque semaine dans la Silicon Valley", a déclaré Zhao Ming à l'auteur de "AI Lightyear". Avec l'aide d'un ami, il a obtenu un ticket. Zhao Ming s'est spécialisé en informatique à l'Université de Stanford et est désormais déterminé à se lancer dans l'industrie de l'IA.

Il a hâte de rencontrer davantage de praticiens de la technologie lors de cet événement afin d'obtenir des informations de pointe sur l'industrie. Cependant, ce qui l'a surpris, c'est que la moitié des plus de 400 participants étaient chinois.

Au fur et à mesure qu'ils discutaient, l'identité de ces personnes est progressivement devenue claire : il y avait des investisseurs en capital-risque venus de Pékin pour rechercher des opportunités d'investissement ; il y avait aussi des ingénieurs logiciels chinois qui travaillaient pour Google, Microsoft, etc. certains Chinois qui étudiaient l’IA dans les meilleures universités des États-Unis.

Ils sont l’exemple même du peuple chinois de la Silicon Valley. Un rapport (2022) du groupe de réflexion américain McCropolo montre que parmi les meilleurs chercheurs en intelligence artificielle travaillant aux États-Unis à cette époque, les chercheurs chinois représentaient 38 % et les Américains 37 %. En 2019, ces deux chiffres étaient encore de 27 % et 31 %.

Les Chinois ont toujours été « l’épine dorsale » du cercle technologique de la Silicon Valley. Aujourd’hui, sous la nouvelle vague de l’IA, quels genres de hauts et de bas les jeunes Chinois de la Silicon Valley connaissent-ils ?

"Allez dans la Silicon Valley, allez là où se trouvent les nouvelles forces productives."

« De nombreux techniciens en IA de la Silicon Valley sont chinois », a déclaré Qin Tian à l'auteur.

Il est ingénieur en apprentissage automatique (MLE) dans une entreprise technologique bien connue de la Silicon Valley. Après avoir obtenu un master en informatique dans une université TOP30 aux États-Unis en 2019, il a commencé à s'engager dans la recherche sur les algorithmes liés à l'IA dans la Silicon Valley. Dans son équipe, les ingénieurs chinois représentent près de 40 %. « Les autres sont principalement originaires d’Inde, et certains sont des Européens de l’Est originaires de Roumanie et d’autres pays. »

Selon un rapport de Silicon Valley Indicators, la population de la Silicon Valley est principalement composée d'Asiatiques et de Blancs, et parmi la population asiatique, les Chinois représentent la proportion la plus élevée. En 2022, les Chinois représentaient 31 % de la population asiatique, devenant ainsi l’un des groupes asiatiques les plus importants de la Silicon Valley. Avant cela, de nombreux amis chinois de Qin Tian étaient des ingénieurs logiciels.

Mais début 2022,OpenAIAprès la sortie des dernières versions de GPT3 et DALL-E 2, cette situation a été rompue et de nombreuses personnes ont commencé à se transformer vers l'IA.

Prenons l'exemple de Qin Tian. Auparavant, son secteur d'activité développait encore une application de caméra mobile dotée de fonctions d'IA. En juin 2022, l’entreprise a soudainement annoncé un ajustement stratégique, supprimant sa gamme de produits vieille de près de cinq ans et se tournant vers le domaine des grands modèles.

En fait, ce type d’ajustement n’est pas rare en 2022. Cette année-là, de nombreux géants technologiques de la Silicon Valley, tels que Meta, Adobe et Google, ont procédé à des ajustements commerciaux majeurs et ont développé le domaine des grands modèles d'IA, sur les traces d'OpenAI. Ce changement a également incité un grand nombre d’ingénieurs en logiciel à se tourner vers le secteur commercial de l’intelligence artificielle, dont beaucoup sont chinois.

Zhang Yu, diplômé de l'Université Carnegie Mellon, travaille actuellement chez la société mère de Google.Pilote automatiqueentrepriseWaymo Work, responsable de la recherche et du développement de systèmes d’IA embarqués sur véhicule. Zhang Yu a présenté,ChatGPT-4 Après son émergence, Waymo a connu une vague de démissions, et certains collègues chinois ont également choisi de partir. « Le taux de roulement est variable et certains groupes peuvent perdre une personne par semaine », a expliqué Zhang Yu.

La plupart de ces collègues ont rejoint des entreprises technologiques engagées dans la recherche et le développement de grands modèles de langage, ou sont retournés chez Google pour être responsables de la recherche et du développement d'autres produits en matière d'IA. Zhang Yu a déploré : « Dans la Silicon Valley,GPT C’est devenu un domaine plus populaire que la conduite autonome. "

Rejoignant cette vague d'IA, non seulement les « anciens ingénieurs » qui ont travaillé dur dans la Silicon Valley pendant de nombreuses années, mais aussi les « nouveaux arrivants » venus de Chine pour rattraper la tendance.

Shi Qi, 25 ans, est l'un d'entre eux. En mai de cette année, il s'est envolé de Chine pour San Francisco et a décidé de rejoindre une start-up axée sur l'IA. Shi Qi ne sait pas exactement combien de personnes comme lui sont venues de Chine cette année, mais il estime que « les talents et les capitaux afflueront toujours vers les endroits où la productivité est la plus avancée ».

La décision de Shiqi de venir dans la Silicon Valley n’était pas impulsive. Avant cela, il était ingénieur logiciel. Après avoir obtenu son diplôme universitaire en 2021, il a travaillé dans une grande entreprise Internet nationale. Au début, Shi Qi, qui était nouveau sur le lieu de travail, souhaitait « afficher ses talents de manière flexible » autant que possible dans le secteur d'activité. Mais plus tard, il sentit de plus en plus que le travail réel s’écartait de ses attentes.

Vers 2022, la gamme de produits de Shi Qi est tombée dans une croissance stagnante : quelle que soit l'optimisation de l'expérience produit, le nombre d'utilisateurs ne connaîtrait plus de croissance révolutionnaire. "L'ère du stock semble être vraiment arrivée." Shi Qi estime qu'il est entré très tôt dans un "état de retraite". Il entretient le système tous les jours et apporte quelques modifications au code en fonction des besoins, et c'est tout.

Les journées de travail de 10h à 18h et le fait de quitter le travail à l'heure, non plus 996, ont fait que Shi Qi se sentait menacé. Bien que je sois « libre », cela signifie aussi que « c'est pareil avec ou sans toi ».

Cette situation l’a poussé à avoir l’idée du​​travail à temps partiel. Par hasard, Shi Qi a passé un entretien avec une start-up d'IA dans le Michigan, aux États-Unis, et a commencé à travailler à distance pour cette entreprise. Au printemps 2022, le patron de l'entreprise a soudainement envoyé un message à Shi Qi, disant que l'entreprise avait obtenu un nouveau modèle, le dernier InstructGPT lancé par OpenAI, et l'a invité à rejoindre le test interne.

"C'est complètement différent de l'IA que j'ai vue auparavant." soupira Shi Qi. Bien que GPT-3 soit sorti dès 2020, InstructGPT utilise l'apprentissage par renforcement à partir de la rétroaction humaine (RLHF) pour générer des réponses plus cohérentes avec les préférences et les intentions humaines. Shi Qi a eu une intuition : « Cela pourrait apporter quelque chose de différent.

Depuis, l’entreprise de Shi Qi a commencé à utiliser ce modèle de langage à grande échelle pour développer de nouveaux produits. Cela a également fait ressentir à Shi Qi l'écart dans la promotion de l'IA entre la Chine et les États-Unis : à cette époque, peu d'ingénieurs logiciels autour de Shi Qi avaient été exposés au GPT, et personne dans le bureau ne parlait du papier transformateur. Mais aux États-Unis, l’OpenAI est devenue un sujet brûlant parmi les grandes entreprises technologiques.

Shi Qi a rappelé que le premier groupe d'ingénieurs en Chine qui ont prêté attention à GPT adorait visiter GitHub (communauté open source). À cette époque, certains ingénieurs du continent ont commencé à accéder à l'API de GPT et à créer des applications shell. Mais il a fallu attendre la sortie du GPT-3.5 fin 2022 pour que les grands modèles domestiques commencent à être recherchés par le capital. En 2023, elle est d'ailleurs qualifiée par les médias d'être entrée dans la « Bataille des 100 modèles ».

Fin 2023, Shi Qi a choisi de démissionner. Fort de son expérience antérieure dans le travail à distance, il a reçu une invitation de son entreprise actuelle. "Allez dans la Silicon Valley, allez à l'endroit le plus proche d'une nouvelle productivité", a-t-il déclaré.

Modèle de volume pour les grandes entreprises, une start-up se bat pour la face B

Depuis que l'entreprise s'est mise à fond sur l'IA, Qin Tian a senti que la pression au travail avait augmenté.

Avant l'été 2022, l'atmosphère de travail était relativement détendue, selon Qin Tian, ​​"Cela est dû aux barrières de concurrence laissées par l'ère de l'information précédente." Il est responsable du développement back-end et quitte son travail à la même heure chaque jour. Il n'y a pas beaucoup de pression pour lancer de nouveaux produits. « Les anciens produits Internet maintiennent les revenus, et il est normal que de nouveaux produits soient lancés après 2-3. années."

De nos jours, les grandes entreprises technologiques de la Silicon Valley n'osent pas se relâcher dans la concurrence de l'IA. L'ajustement du secteur d'activité a rendu la vie quotidienne de Qin Tian plus compacte. Quitter le travail à 23 heures est devenu la norme et faire des heures supplémentaires le week-end est devenu inévitable.

Les progrès d'OpenAI sur AIGC ont été trop rapides, ce qui a mis beaucoup de pression sur les autres entreprises de la Silicon Valley. En février 2024, après la sortie de Sora par OpenAI, le cours de l'action de la société Qin Tian a été violemment touché. En un seul printemps, le prix a chuté de plus de 30 %. Au cours de l'année dernière, le marché des capitaux était encore plein de confiance dans l'ajustement stratégique de l'entreprise. Pendant un certain temps, le cours des actions a même augmenté de plus de 60 %.

Face à la concurrence de grands fabricants comme OpenAI, la société de Qin Tian a accéléré le rythme des mises à jour des produits et raccourci le cycle de sortie à au moins une fois tous les six mois pour s'assurer que l'entreprise reste compétitive dans cette vague d'innovation technologique et évite d'être photographiée sur la plage. .

"Les produits doivent être itérés à un rythme accéléré, et en même temps, des articles plus avancés doivent être recherchés." Qin Tian a déclaré qu'une nouvelle course aux armements technologiques avait lieu dans la Silicon Valley. Qin Tian est principalement responsable du développement de grands modèles multimodaux (MLLM). En termes simples, il permet au modèle d'accepter la saisie de données linguistiques, vidéo, audio et autres en même temps, afin de mieux comprendre et générer du contenu. de manière globale.

Le domaine de la multimodalité est une nouvelle mine qui attend d’être explorée par les ingénieurs en IA. Un article de l'industrie publié en mai a montré que réduire la consommation de ressources tout en élargissant son applicabilité et en minimisant la dégradation des performances sont aujourd'hui les principaux objectifs de recherche et de développement des MLLM.

Récemment, MLVU, une référence d'évaluation de compréhension de vidéos longues multitâches proposée par China Wisdom et de nombreuses universités nationales, a évalué 20 des derniers grands modèles multimodaux populaires et a constaté que le taux de précision à sélection unique du premier GPT-4 était insuffisant, 65 %, les modèles existants sont toujours confrontés à d'énormes défis en matière de compréhension des vidéos longues.

"Nous devons constamment prêter attention à l'émergence de nouvelles technologies pour faire face à ce nouveau domaine", a déclaré Qin Tian. Par exemple, lorsque l'architecture de l'algorithme DIT (Diffusion Transformer) utilisée par Open AI génère de meilleures vidéos, Qin Tian et ses collègues la suivront immédiatement pour déterminer la direction de l'itération du produit.

Les grandes entreprises progressent rapidement sur la voie des grands modèles, et les startups densément peuplées de la Silicon Valley créent également leurs propres camps d’IA.

Selon l'observation de Shi Qi, de nombreuses start-up de la Silicon Valley développent des gammes de produits B-end, ce qui peut être lié au passé des patrons de ces entreprises dans de grandes entreprises. "Ils peuvent utiliser les relations qu'ils ont accumulées au travail pour ouvrir des canaux commerciaux plus rapidement", a déclaré Shi Qi.

Aujourd’hui, Shi Qi et son équipe développent un outil de développement de bout en bout destiné aux entreprises afin d’améliorer l’efficacité du travail des programmeurs grâce à l’IA. En septembre de l'année dernière, Microsoft a également lancé une application similaire "copilot". Ils espèrent réaliser un scénario dans lequel les développeurs pourront demander à ces assistants de programmation lors de l'écriture du code de terminer leur travail plus efficacement.

"L'amélioration de l'efficacité technologique est la direction concurrentielle de nombreuses start-up aux États-Unis, a déclaré Shi Qi, et de bout en bout signifie créer un flux de travail automatisé. L'ensemble du processus est entièrement mis en œuvre par l'IA et les clients doivent uniquement veiller à savoir si les résultats finaux générés répondent aux attentes. "Si nous voulons dépasser dans les virages, nous devons réfléchir davantage à une concurrence différenciée avec ces grandes entreprises", a déclaré Shi Qi.

Mais certains problèmes techniques sont encore confrontés aux ingénieurs de la Silicon Valley. De l'avis de Shiqi, l'amélioration de la précision des produits est un point technique qu'ils doivent résoudre de toute urgence. Différents scénarios d'utilisation ont des normes de précision différentes.

Pour les produits C-end axés sur la camaraderie émotionnelle de l'utilisateur, un taux de précision de 70 % peut suffire. Mais pour les besoins au niveau de l’entreprise, 80 % est l’objectif qu’ils poursuivent. Cela les oblige également à trouver des données de base de connaissances plus précises pour la formation des modèles.

Pour être compétitif, il est inévitable de dépenser de l’argent. Pour l'entreprise de Shi Qi, chaque fois qu'elle dessert une entreprise, même s'il s'agit d'un projet à petite échelle, le coût d'inférence mensuel s'élève à des milliers de dollars. "Le coût d'un tel projet, dans un pays en développement, équivaut au salaire mensuel d'un ingénieur en algorithmie à temps plein."

Face à des coûts élevés, Shi Qi a déclaré franchement que l'entreprise n'avait pas encore atteint la rentabilité, mais récemment, un certain nombre d'entreprises de grande taille ont signé des contrats de service avec elles et espèrent atteindre la rentabilité en un an. "Au moins, payer est un signe positif", a déclaré Shi Qi.

Licenciements, entrepreneuriat et retour en Chine : le trio de la Silicon Valley

Selon les statistiques du Silicon Valley Index, de 2019 à 2023, près de 3 000 startups sont nées dans la Silicon Valley et dans la région de San Francisco, atteignant un niveau record. Parmi eux, on peut voir les noms de nombreux PDG chinois. Actuellement, quatre sociétés d’IA fondées en Chine – Scale AI, Cognition AI, Imbue et Cresta – ont rejoint les rangs des licornes, avec une valorisation totale de plus de 18 milliards de dollars.

Dans la Silicon Valley, les mythes sur la richesse entrepreneuriale n’ont jamais manqué, mais face à une concurrence acharnée, l’entrepreneuriat implique aussi des risques. Dans le cercle d'amis de Qin Tian, ​​il y a encore un petit nombre d'ingénieurs chinois qui ont quitté les grandes usines pour créer leur propre entreprise, et de plus en plus de gens choisissent encore d'attendre et de voir.

Dans le même temps, la Silicon Valley a connu une vague soutenue de licenciements au cours des deux dernières années, alors même que l’IA a suscité une nouvelle vague d’enthousiasme sur les marchés financiers.

Aria, qui travaille dans la Silicon Valley, a révélé à l'auteur de "AI Light Years" que de nombreux collègues chinois autour d'elle ont été touchés par cette vague de licenciements. Selon elle, les ingénieurs licenciés sont principalement engagés dans l'écriture de code de base ou dans le débogage et d'autres travaux de débogage. Il s’agit évidemment d’un type de travail qui peut facilement être remplacé par l’IA.

Plus de 400 000 emplois dans le secteur technologique ont été supprimés depuis début 2022, selon les estimations du site de suivi de l'emploi Layoffs.fyi. Une autre donnée indique qu’entre 2022 et 2023, le nombre total de licenciements dans le monde par les entreprises technologiques américaines dépassera les 500 000. Il s’agit du plus grand nombre de licenciements dans le secteur technologique depuis la crise financière de 2008.

Qin Tian estime également clairement qu'il y aura beaucoup moins d'opportunités d'emploi dans la Silicon Valley en 2024 qu'en 2019.

À la fin de l’année dernière, le taux d’inflation américain était inférieur à 3 % sur une base annualisée, soit près de la moitié par rapport aux 6 % début 2023. CGC, une société d'analyse de l'emploi de la Silicon Valley, a expliqué qu'une fois le taux d'inflation réduit, les entreprises technologiques n'auront plus la possibilité d'augmenter leurs prix et ne seront pas en mesure d'améliorer leurs performances grâce à des augmentations de prix. Les licenciements deviendront l'option la plus directe pour contrôler les dépenses.

"Un ingénieur chinois licencié par Google est venu un jour dans notre entreprise pour un entretien", a déclaré Shi Qi à l'auteur de "AI Lightyear", mais son entreprise ne l'a finalement pas embauché. Selon Qin Tian, ​​​​de la Silicon Valley, le salaire annuel moyen d'un ingénieur de recherche en algorithmes d'IA qui a travaillé pendant environ trois ans est d'environ 450 000 dollars américains, ce qui représente une dépense considérable pour de nombreuses start-up.

"La vague de licenciements a découragé de nombreux Chinois qui rêvent d'entreprendre d'agir", a déclaré Qin Tian.

D’un autre côté, les réglementations strictes en matière de visa leur font également manquer de « liberté de choix ». Selon la réglementation américaine en matière d'immigration, avant d'obtenir une carte verte, les chômeurs titulaires d'un visa de stage OPT ou d'un visa de travail H-1B doivent trouver un nouvel emploi dans un délai de 60 ou 90 jours, sinon ils risquent d'être expulsés vers leur pays d'origine. pays.

Si l’entreprise échoue, le chômage pourrait les empêcher de rester dans la Silicon Valley. Aria estime que ce n'est pas le bon moment pour démarrer une entreprise d'IA. À l'instar de la situation à laquelle sont confrontées de nombreuses entreprises chinoises d'IA, dans la Silicon Valley, « comment parvenir à une bonne commercialisation des produits d'IA reste un problème ».

De l’autre côté de l’océan, en Chine, l’engouement pour l’IA semble avoir atteint son paroxysme. Il n’y a pas si longtemps, la Conférence mondiale sur l’intelligence artificielle vient de se terminer à Shanghai. Étant dans un pays étranger et limité par son énergie de travail, Qin Tian accorde moins d'attention aux nouveaux développements dans le développement de l'industrie nationale de l'IA, mais il estime que les chercheurs nationaux sont déjà très avancés dans la recherche sur les algorithmes d'IA.

Dans le classement mondial des modèles open source publié par Hugging Face, la plus grande communauté de grands modèles open source au monde, un certain nombre de modèles open source de Chine occupaient autrefois le premier plan.

Cependant, Qin Tian n'a pas l'intention de retourner en Chine pour se développer à court terme. Il estime que la puissance de calcul est cruciale pour la formation de grands modèles, et le manque de puissance de calcul avancée a toujours été un problème auquel les entreprises chinoises d'IA doivent faire face. résoudre.

En août 2022, Nvidia a reçu une notification des États-Unis lui enjoignant de cesser d'exporter des puces A100 et H100 vers la Chine.

Le 17 juillet de cette année, Bloomberg a rapporté que l’administration Biden envisageait d’introduire des réglementations renforcées qui permettraient de contrôler les produits étrangers utilisant n’importe quelle technologie fabriquée aux États-Unis. Il ciblera les opérations en Chine d'entreprises telles que le japonais Tokyo Electron et ASML, qui fabriquent des machines de fabrication de puces cruciales pour l'industrie.

Des facteurs géopolitiques ont amené de nombreux talents techniques en IA de la Silicon Valley à douter de l'évolution de leur emploi après leur retour en Chine.

"Même si la concurrence pour l'emploi est féroce, vous ne pouvez pas renoncer à aller dans la Silicon Valley." Zhao Ming, étudiant en maîtrise à l'Université de Stanford, a déploré à l'auteur que de nombreux étudiants en maîtrise d'IA aux États-Unis envisagent d'étudier aux États-Unis. comme leur premier choix. C'est pour cette raison que de nombreux étudiants suivront les dernières activités d'échange de l'industrie sur des plateformes d'activités telles que « luma ». Selon lui, trouver un emploi via les réseaux sociaux est actuellement le raccourci le plus réaliste dans la Silicon Valley.

En mai de cette année, lors du Forum Yabuli, Ding Jian, directeur général et partenaire de Jinshajiang Venture Capital, a déclaré que dans le passé, plus de 70 % des étudiants diplômés en IA de la Silicon Valley pouvaient retourner en Chine, mais qu'il n'y en a désormais presque plus.

"Même si vous ne pouvez pas garantir une carte verte, avoir une expérience de travail dans la Silicon Valley n'est certainement pas une mauvaise chose", a déclaré Zhao Ming.

(Zhao Ming, Qin Tian, ​​​​Zhang Yu Shiqi sont tous des pseudonymes)