notícias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Whip Niu Shi informou que em 9 de agosto, de acordo com relatórios estrangeiros,IA aberta Anunciamos a nomeação do Professor Zico Kolter da Carnegie Mellon University para o Conselho de Administração.

Kolter também fará parte do Comitê de Segurança e Proteção do conselho, que aconselha sobre decisões críticas de segurança para todos os projetos OpenAI.

“Tenho o prazer de anunciar minha adesão ao Conselho de Administração da OpenAI”, disse Kolter, chefe da Divisão de Aprendizado de Máquina da Escola de Computação da Universidade Carnegie Mellon. “Estou ansioso para compartilhar minha perspectiva e experiência em segurança e robustez de inteligência artificial para ajudar. guia OpenAI. Ótimo trabalho feito.”

O trabalho de Kolter se concentra na segurança, alinhamento e robustez da inteligência artificial de classificadores de aprendizado de máquina. Sua pesquisa e experiência abrangem novas arquiteturas de rede profundas, métodos inovadores para compreender o impacto dos dados nos modelos e métodos automatizados para avaliar a robustez dos modelos de IA, tornando-o um valioso diretor técnico para governança OpenAI.

Bret Taylor, presidente do conselho de administração da OpenAI, disse: Zico acrescenta profundo conhecimento técnico e perspectiva sobre segurança e robustez da inteligência artificial, o que nos ajudará a garantir que a inteligência artificial geral beneficie toda a humanidade.

Kolter foi uma figura chave no Departamento de Ciência da Computação da CMU por 12 anos, na Divisão de Software e Sistemas Sociais, no Instituto de Robótica, no Instituto de Segurança e Privacidade CyLab e no Departamento de Engenharia Elétrica e de Computação da Escola de Engenharia. seu PhD em Ciência da Computação pela Universidade de Stanford em 2010 e posteriormente recebeu uma bolsa de pós-doutorado no MIT de 2010 a 2012.

Durante sua carreira, ele fez contribuições significativas para o campo do aprendizado de máquina, escrevendo em conferências de prestígio como a Conferência sobre Sistemas de Processamento de Informações Neurais (NeurIPS), a Conferência Internacional sobre Aprendizado de Máquina (ICML) e a Conferência Internacional sobre Inteligência Artificial. e Estatística (AISTATS) Escreveu muitos artigos premiados.

A pesquisa de Kolter inclui o desenvolvimento do primeiro método para criar modelos de aprendizagem profunda com robustez garantida. Ele também foi pioneiro no uso derede neuralA otimização clássica em camadas é uma técnica para incorporar restrições rígidas em modelos de IA.

Mais recentemente, em 2023, a sua equipa desenvolveu métodos inovadores para avaliar automaticamente a segurança de grandes modelos de linguagem, demonstrando o potencial de contornar as proteções de modelos existentes através de técnicas de otimização automatizadas.

Além de suas atividades acadêmicas, Kolter trabalhou em estreita colaboração com a indústria ao longo de sua carreira, atuando como cientista-chefe de dados na C3.ai e atualmente como especialista principal na Bosch e consultor técnico-chefe na Gray Swan, uma empresa focada em inteligência artificial de segurança inteligente. e inicialização de segurança.