noticias

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Whip Niu Shi informó que el 9 de agosto, según informes extranjeros,IA abierta Anuncio del nombramiento del profesor Zico Kolter de la Universidad Carnegie Mellon como miembro de la junta directiva.

Kolter también se unirá al Comité de Seguridad de la junta, que asesora sobre decisiones de seguridad críticas para todos los proyectos OpenAI.

"Me complace anunciar mi incorporación a la Junta Directiva de OpenAI", dijo Kolter, jefe de la División de Aprendizaje Automático de la Escuela de Computación de la Universidad Carnegie Mellon. "Espero poder compartir mi perspectiva y experiencia sobre la seguridad y solidez de la inteligencia artificial para ayudar. guía OpenAI. Gran trabajo hecho”.

El trabajo de Kolter se centra en la seguridad, la alineación y la solidez de la inteligencia artificial de los clasificadores de aprendizaje automático. Su investigación y experiencia abarcan nuevas arquitecturas de redes profundas, métodos innovadores para comprender el impacto de los datos en los modelos y métodos automatizados para evaluar la solidez de los modelos de IA, lo que lo convierte en un valioso director técnico para la gobernanza de OpenAI.

Bret Taylor, presidente de la junta directiva de OpenAI, dijo: Zico agrega una profunda comprensión técnica y una perspectiva sobre la seguridad y solidez de la inteligencia artificial, lo que nos ayudará a garantizar que la inteligencia artificial general beneficie a toda la humanidad.

Kolter fue una figura clave en el Departamento de Ciencias de la Computación de CMU durante 12 años, la División de Software y Sistemas Sociales, el Instituto de Robótica, el Instituto de Seguridad y Privacidad CyLab y el Departamento de Ingeniería Eléctrica e Informática de la Facultad de Ingeniería. obtuvo su doctorado en Ciencias de la Computación de la Universidad de Stanford en 2010 y posteriormente recibió una beca postdoctoral en el MIT de 2010 a 2012.

Durante su carrera, ha realizado importantes contribuciones al campo del aprendizaje automático, escribiendo en conferencias prestigiosas como la Conferencia sobre Sistemas de Procesamiento de Información Neural (NeurIPS), la Conferencia Internacional sobre Aprendizaje Automático (ICML) y la Conferencia Internacional sobre Inteligencia Artificial. y Estadística (AISTATS) Escribió numerosos artículos premiados.

La investigación de Kolter incluye el desarrollo del primer método para crear modelos de aprendizaje profundo con robustez garantizada. También fue pionero en el uso dered neuronalLa optimización clásica en capas es una técnica para incorporar restricciones estrictas en modelos de IA.

Más recientemente, en 2023, su equipo desarrolló métodos innovadores para evaluar automáticamente la seguridad de grandes modelos de lenguaje, lo que demuestra el potencial de eludir las protecciones de modelos existentes mediante técnicas de optimización automatizadas.

Además de sus actividades académicas, Kolter ha trabajado estrechamente con la industria a lo largo de su carrera, desempeñándose como científico jefe de datos en C3.ai y actualmente como experto principal en Bosch y asesor jefe de tecnología en Gray Swan, una empresa centrada en la seguridad inteligente. y puesta en marcha de seguridad.