новости

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Кнут Ню Ши сообщил, что 9 августа, по зарубежным данным,OpenAI Объявляем о назначении профессора Зико Колтера из Университета Карнеги-Меллон в состав Совета директоров.

Колтер также присоединится к комитету совета директоров по безопасности и защите, который консультирует по важным решениям в области безопасности для всех проектов OpenAI.

«Я рад объявить о своем вступлении в совет директоров OpenAI, — сказал Колтер, руководитель отдела машинного обучения Школы вычислительной техники Университета Карнеги-Меллон. — Я с нетерпением жду возможности поделиться своим мнением и опытом в области безопасности и надежности искусственного интеллекта, чтобы помочь. руководство OpenAI. Отличная работа проделана».

Работа Колтера сосредоточена на безопасности искусственного интеллекта, согласованности и надежности классификаторов машинного обучения. Его исследования и опыт охватывают новые глубокие сетевые архитектуры, инновационные методы понимания влияния данных на модели и автоматизированные методы оценки надежности моделей ИИ, что делает его ценным техническим директором по управлению OpenAI.

Брет Тейлор, председатель совета директоров OpenAI, сказал: «Зико добавляет глубокое техническое понимание и взгляд на безопасность и надежность искусственного интеллекта, что поможет нам гарантировать, что общий искусственный интеллект принесет пользу всему человечеству.

Колтер в течение 12 лет был ключевой фигурой на факультете компьютерных наук КМУ, в отделе программного обеспечения и социальных систем, в Институте робототехники, в Институте безопасности и конфиденциальности CyLab, а также на кафедре электротехники и вычислительной техники Инженерной школы. получил степень доктора компьютерных наук в Стэнфордском университете в 2010 году, а затем с 2010 по 2012 год получил постдокторантуру в Массачусетском технологическом институте.

За свою карьеру он внес значительный вклад в область машинного обучения, написав статьи на престижных конференциях, таких как Конференция по нейронным системам обработки информации (NeurIPS), Международная конференция по машинному обучению (ICML) и Международная конференция по искусственному интеллекту. и статистика (AISTATS). Написал множество статей, отмеченных наградами.

Исследования Колтера включают разработку первого метода создания моделей глубокого обучения с гарантированной надежностью. Он также был пионером в использованиинейронная сетьКлассическая многоуровневая оптимизация — это метод внедрения жестких ограничений в модели ИИ.

Совсем недавно, в 2023 году, его команда разработала инновационные методы автоматической оценки безопасности больших языковых моделей, продемонстрировав возможность обхода существующей защиты моделей с помощью методов автоматической оптимизации.

Помимо академической деятельности, Колтер на протяжении всей своей карьеры тесно сотрудничал с промышленностью, работая в качестве главного специалиста по данным в C3.ai, а в настоящее время — главного эксперта в Bosch и главного технического консультанта в Grey Swan, компании, специализирующейся на искусственном интеллекте и интеллектуальной безопасности. и запуск безопасности.