nouvelles

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Le whip Niu Shi a rapporté que le 9 août, selon des rapports étrangers,OpenAI Annonce de la nomination du professeur Zico Kolter de l'Université Carnegie Mellon au conseil d'administration.

Kolter rejoindra également le comité de sûreté et de sécurité du conseil d'administration, qui donne des conseils sur les décisions critiques en matière de sécurité pour tous les projets OpenAI.

« Je suis heureux d'annoncer mon adhésion au conseil d'administration d'OpenAI », a déclaré Kolter, chef de la division d'apprentissage automatique à la School of Computing de l'Université Carnegie Mellon. « J'ai hâte de partager mon point de vue et mon expertise sur la sécurité et la robustesse de l'intelligence artificielle pour aider. guider OpenAI. Excellent travail accompli.

Les travaux de Kolter se concentrent sur la sécurité, l'alignement et la robustesse de l'intelligence artificielle des classificateurs d'apprentissage automatique. Ses recherches et son expertise couvrent de nouvelles architectures de réseaux profonds, des méthodes innovantes pour comprendre l'impact des données sur les modèles et des méthodes automatisées pour évaluer la robustesse des modèles d'IA, faisant de lui un directeur technique précieux pour la gouvernance OpenAI.

Bret Taylor, président du conseil d'administration d'OpenAI, a déclaré : Zico ajoute une compréhension technique approfondie et une perspective sur la sécurité et la robustesse de l'intelligence artificielle, ce qui nous aidera à garantir que l'intelligence artificielle générale profite à toute l'humanité.

Kolter a été une figure clé du département d'informatique de la CMU pendant 12 ans, de la division des logiciels et des systèmes sociaux, de l'institut de robotique, du CyLab Security and Privacy Institute et du département de génie électrique et informatique de l'école d'ingénierie. son doctorat en informatique de l'Université de Stanford en 2010 et a ensuite reçu une bourse postdoctorale au MIT de 2010 à 2012.

Au cours de sa carrière, il a apporté d'importantes contributions au domaine de l'apprentissage automatique, en écrivant lors de conférences prestigieuses telles que la Conférence sur les systèmes de traitement de l'information neuronale (NeurIPS), la Conférence internationale sur l'apprentissage automatique (ICML) et la Conférence internationale sur l'intelligence artificielle. et statistiques (AISSTATS) A rédigé de nombreux articles primés.

Les recherches de Kolter comprennent le développement de la première méthode permettant de créer des modèles d'apprentissage profond avec une robustesse garantie. Il a également été le pionnier de l'utilisation deréseau neuronalL'optimisation classique en couches est une technique permettant d'intégrer des contraintes strictes dans les modèles d'IA.

Plus récemment, en 2023, son équipe a développé des méthodes innovantes pour évaluer automatiquement la sécurité des grands modèles de langage, démontrant la possibilité de contourner les protections des modèles existants grâce à des techniques d'optimisation automatisées.

En plus de ses activités universitaires, Kolter a travaillé en étroite collaboration avec l'industrie tout au long de sa carrière, en tant que scientifique en chef des données chez C3.ai et actuellement en tant qu'expert principal chez Bosch et conseiller technique en chef chez Grey Swan, une entreprise axée sur la sécurité intelligente de l'intelligence artificielle. et démarrage de la sécurité.