berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Whip Niu Shi melaporkan bahwa pada tanggal 9 Agustus, menurut laporan asing,Buka AI Mengumumkan pengangkatan Profesor Zico Kolter dari Universitas Carnegie Mellon menjadi Dewan Direksi.

Kolter juga akan bergabung dengan Komite Keselamatan dan Keamanan dewan, yang memberikan nasihat mengenai keputusan keselamatan penting untuk semua proyek OpenAI.

“Saya dengan senang hati mengumumkan bahwa saya bergabung dengan Dewan Direksi OpenAI,” kata Kolter, kepala Divisi Pembelajaran Mesin di Fakultas Komputasi Universitas Carnegie Mellon. “Saya berharap dapat berbagi perspektif dan keahlian saya mengenai keamanan dan ketahanan kecerdasan buatan untuk membantu memandu OpenAI. Kerja bagus telah selesai.”

Pekerjaan Kolter berfokus pada keamanan kecerdasan buatan, penyelarasan, dan ketahanan pengklasifikasi pembelajaran mesin. Penelitian dan keahliannya mencakup arsitektur jaringan dalam yang baru, metode inovatif untuk memahami dampak data pada model, dan metode otomatis untuk menilai ketahanan model AI, menjadikannya direktur teknis yang berharga untuk tata kelola OpenAI.

Bret Taylor, ketua dewan direksi OpenAI, mengatakan: Zico menambahkan pemahaman teknis yang mendalam dan perspektif mengenai keamanan dan ketahanan kecerdasan buatan, yang akan membantu kami memastikan bahwa kecerdasan buatan secara umum bermanfaat bagi seluruh umat manusia.

Kolter adalah tokoh kunci di Departemen Ilmu Komputer CMU selama 12 tahun, Divisi Perangkat Lunak dan Sistem Sosial, Institut Robotika, Institut Keamanan dan Privasi CyLab, dan Departemen Teknik Listrik dan Komputer di Sekolah Teknik gelar PhD di bidang Ilmu Komputer dari Universitas Stanford pada tahun 2010 dan kemudian menerima beasiswa pascadoktoral di MIT dari tahun 2010 hingga 2012.

Selama karirnya, ia telah memberikan kontribusi yang signifikan di bidang pembelajaran mesin, menulis di konferensi bergengsi seperti Conference on Neural Information Processing Systems (NeurIPS), International Conference on Machine Learning (ICML), dan International Conference on Artificial Intelligence dan Statistik (AISTATS) Menulis banyak makalah pemenang penghargaan.

Penelitian Kolter mencakup pengembangan metode pertama untuk menciptakan model pembelajaran mendalam dengan ketahanan yang terjamin. Dia juga memelopori penggunaanjaringan sarafPengoptimalan klasik berlapis adalah teknik untuk memasukkan batasan keras ke dalam model AI.

Baru-baru ini, pada tahun 2023, timnya mengembangkan metode inovatif untuk menilai keamanan model bahasa besar secara otomatis, menunjukkan potensi untuk melewati perlindungan model yang ada melalui teknik pengoptimalan otomatis.

Selain kegiatan akademisnya, Kolter telah bekerja sama dengan industri sepanjang kariernya, menjabat sebagai kepala ilmuwan data di C3.ai dan saat ini sebagai pakar utama di Bosch dan kepala penasihat teknis di Gray Swan, sebuah perusahaan yang berfokus pada kecerdasan buatan dan startup keamanan.