berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Gejolak personel OpenAI semakin meningkat sejak CEO Sam Altman dipecat dan dipekerjakan kembali oleh dewan direksi OpenAI tahun lalu.

Sejak awal tahun ini, banyak eksekutif senior yang mengundurkan diri. Saat ini, hanya tiga dari 11 pendiri OpenAI yang tersisa: Altman, Wojciech Zaremba, kepala tim pembuat bahasa dan kode, dan Greg Brockman, presiden yang sedang cuti.

Mengapa OpenAI, yang memiliki pengaruh besar di bidang kecerdasan buatan, tidak dapat mempertahankan para pendiri ini?

melepaskan sinyal-sinyal ini

Awal bulan ini, John Schulman, yang memainkan peran penting dalam membangun ChatGPT, mengumumkan bahwa dia meninggalkan OpenAI dan bergabung dengan pesaing Anthropic. Dia berkata, "Saya memutuskan untuk mengejar tujuan meneliti penyelarasan AI di Anthropic dan melakukan penelitian dengan orang-orang yang mempelajari topik yang saya minati." Peter Deng, wakil presiden produk konsumen dan pemimpin produk baru yang bergabung tahun lalu, juga Pengumuman resmi pengunduran diri.

Liu Pengfei, profesor di Universitas Shanghai Jiao Tong dan kepala kelompok penelitian kecerdasan buatan generatif, mengatakan dalam sebuah wawancara dengan China Business News: "Kepergian peneliti senior seperti Schulman menunjukkan bahwa OpenAI mungkin tidak lagi menjadi pilihan pertama bagi perusahaan-perusahaan terkemuka. Ilmuwan AI. Yang lain fokus pada AI. Perusahaan yang aman seperti Anthropic atau startup baru menarik talenta, yang bisa menjadi tanda diversifikasi dalam ekosistem penelitian AI.”

Perlu dicatat bahwa Brockman, yang berdiri teguh bersama Altman selama badai recall tahun lalu, juga mengumumkan bahwa ia akan mengambil cuti hingga akhir tahun pada waktu yang hampir bersamaan, dengan mengatakan, “Tugas ini masih jauh dari selesai, kita masih perlu membangun AGI (Kecerdasan Buatan Umum) yang aman”.

Dalam hal ini, Tan Yinliang, profesor ilmu keputusan dan sistem informasi manajemen di China Europe International Business School, mengatakan dalam sebuah wawancara dengan China Business News bahwa industri secara umum menafsirkan langkah Brockman sebagai kepergian yang akan segera terjadi karena mantan salah satu pendiri OpenAI, Andrej Karpathy, pun mengundurkan diri setelah mengambil cuti panjang.

Tan Yinliang mengatakan bahwa tindakan Schulman dan Brockman baru-baru ini telah mengeluarkan dua sinyal: pertama, terdapat masalah dalam manajemen internal OpenAI, ilmuwan terkemuka mungkin terus keluar, dan kesenjangan pengembangan antara perusahaan AI lain dan OpenAI mungkin secara bertahap hilang; Pengembangan model generasi berikutnya mungkin menemui hambatan, dan bidang teknis mungkin harus memikirkan apakah ScalingLaws (hukum penskalaan) mendekati akhir.

“Ketika bulan depan, klausul non-persaingan di perusahaan-perusahaan AS sepenuhnya dihapuskan dan aliran talenta AI sepenuhnya dilepaskan, masalah brain drain OpenAI mungkin menjadi lebih serius.”

"Pemberontak" membuka era baru

Menurut statistik dari lembaga penelitian industri, hampir 75 karyawan inti OpenAI telah mengundurkan diri dan mendirikan sekitar 30 startup kecerdasan buatan. Dario Amodei, pendiri dan CEO perusahaan kecerdasan buatan Anthropic, mengatakan dalam sebuah program di bulan Juli bahwa perusahaan model kecerdasan buatan akan mencapai pendapatan melebihi satu triliun dolar AS. Di pasar kecerdasan buatan yang berskala triliunan, OpenAI dan karyawan ekspatriatnya menguasai lebih dari separuh pasar.

Amodei bersaudara menjabat sebagai Wakil Presiden Riset dan Wakil Presiden Kebijakan Keamanan di OpenAI. Pada tahun 2020, mereka mengundurkan diri karena ketidakpuasan terhadap rilis langsung GPT-3 oleh OpenAI tanpa menyelesaikan masalah keamanan. Mereka juga mencopot mantan direktur kebijakan Jack Clark dan peneliti Jared Kaplan untuk berpartisipasi dalam pembuatan 14 peneliti. Perusahaan ini telah mengumpulkan dana setidaknya US$7 miliar sejak tahun 2021 dari raksasa teknologi seperti Google dan Amazon. Versi terbaru chatbot, Claude 3.5 Sonnet, yang diluncurkan pada bulan Juni, dianggap setara atau lebih baik daripada GPT-4o OpenAI dalam hal kinerja secara keseluruhan.

Perplexity, sebuah perusahaan pencarian kecerdasan buatan yang didirikan pada Agustus 2022 oleh mantan ilmuwan riset OpenAI Aravind Srinivas, saat ini bernilai lebih dari US$3 miliar. Perusahaan tersebut mengatakan mereka menerima 250 juta pertanyaan pada bulan lalu, setengah dari jumlah permintaan pada tahun lalu. Pertumbuhan yang eksplosif telah membuat Perplexity dianggap sebagai pesaing kuat Geimini Google dan SearchGPT OpenAI.

Pada bulan Juli tahun ini, Musk, salah satu pendiri OpenAI dan CEO Tesla, juga "mendapatkan tiket terakhir" dan mengumumkan pendirian perusahaan kecerdasan buatannya xAI untuk "memahami sifat sebenarnya dari alam semesta."

Tan Yinliang berkata: "Relatif umum bagi para pendiri untuk meninggalkan bidang teknologi keras, dan budaya 'eksodus' ini telah lazim sejak awal kebangkitan Silicon Valley. Yang paling terkenal adalah 'Fairy Child Eight Rebels ', delapan orang yang memulai dari Fairchild Setelah meninggalkan pekerjaannya, ia mendirikan sejumlah besar perusahaan teknologi awal, termasuk Intel dan AMD. Kelompok perusahaan inilah yang menjadikan San Francisco Silicon Valley, semuanya delapan penulis makalah "AttentionIsAllYouNeed" yang meletakkan dasar bagi model besar kini juga hadir dari Google dan memulai perusahaannya sendiri.”

Dia berkata: "Rencana kewirausahaan pribadi dan berbagai perbedaan filosofis yang muncul selama proses pengembangan perusahaan mungkin menjadi alasan para pendiri untuk keluar. Namun, terkadang keluar dari perusahaan belum tentu merupakan hal yang buruk. Para 'pemberontak' inilah yang membuka diri bidang dan waktu baru.”

Keamanan adalah topik yang tidak dapat dihindari oleh OpenAI

Namun, tidak dapat disangkal bahwa “keamanan” dan “keselarasan” juga merupakan kata-kata yang sering muncul dalam pernyataan pengunduran diri para pendiri.

Selain Schulman, salah satu pendiri dan kepala ilmuwan OpenAI Ilya Sutskever dan ketua tim Super Alignment Jan Leike mengumumkan pengunduran diri mereka pada bulan Mei. Lake bahkan mengeluh di media sosial X bahwa "budaya dan proses keselamatan telah digantikan oleh produk yang cemerlang."

Selanjutnya, Suzkwer mengumumkan pendirian perusahaan kecerdasan buatan baru, Safe Superintelligence Inc. (SSI), pada bulan Juni tahun ini dan menyatakan bahwa "superintelligence yang aman adalah satu-satunya fokus kami." Lake bergabung dengan perusahaan kecerdasan buatan saingan OpenAI, Anthropic, untuk "melanjutkan misi penyelarasan super".

Dalam hal ini, Tan Yinliang berkata: "Di bidang kecerdasan buatan, 'Alignment' (AIAlignment) mengacu pada memastikan bahwa perilaku sistem AI konsisten dengan nilai-nilai kemanusiaan, niat, dan tujuan yang diharapkan. Sederhananya, itu adalah untuk membuat AI lebih sesuai dengan kebutuhan manusia. Hal ini membutuhkan pemikiran tentang berbagai hal dan nilai-nilai masyarakat. Altman tidak melakukan cukup banyak hal di departemen keamanan. Dia awalnya berjanji untuk memberikan 20% sumber daya komputasi kepada tim super-alignment, tetapi pada akhirnya konsepnya diubah dan seluruh tim keamanan membagi 20%. Bagi sekelompok ilmuwan dengan niat awal, keselamatan adalah desakan mereka.”

Pada akhir Juli tahun ini, OpenAI juga memindahkan Aleksander Madry, direktur senior departemen keamanan, dari posisi keamanannya dan menugaskannya kembali ke pekerjaan "penalaran AI". Pada awal bulan ini, Musk kembali mengajukan gugatan terhadap OpenAI dan Altman, menuduh OpenAI menempatkan keuntungan dan kepentingan komersial di atas kepentingan publik, menyimpang dari niat awal untuk memberikan manfaat bagi seluruh umat manusia ketika perusahaan tersebut didirikan.

Li Wei'an, ketua profesor di Universitas Nankai dan dekan China Corporate Governance Research Institute, mengatakan dalam sebuah wawancara dengan China Business News: "Dalam kewirausahaan tradisional, banyak perpindahan pekerjaan disebabkan oleh kurangnya remunerasi, saham, atau posisi yang sesuai. terhadap nilai yang diciptakan, namun hal ini bukanlah alasan utama kepergian para pendiri OpenAI.”

Dikatakannya, para pendiri OpenAI pada dasarnya tidak memiliki saham. Dari sudut pandang tata kelola kecerdasan buatan, alasan utama keluarnya para pendiri adalah adanya konflik konsep tata kelola, yakni apakah tata kelola kecerdasan buatan itu untuk kebaikan atau demi keuntungan. .

PenantangAntropik

Dari Lake hingga Schulman, Anthropic terus menarik anggota inti OpenAI.

Perusahaan juga baru-baru ini mempekerjakan Pavel Izmailov, mantan peneliti OpenAI yang dipecat pada bulan April tahun ini karena diduga membocorkan informasi. Steven Bills, yang telah menjadi anggota staf teknis di OpenAI selama lebih dari dua tahun, juga mengatakan bulan lalu bahwa dia telah meninggalkan OpenAI untuk bergabung dengan tim penyelarasan Anthropic.

Liu Pengfei mengatakan bahwa Anthropic telah menjadikan keselamatan dan penyelarasan AI sebagai misi utamanya sejak awal. Fokus ini memungkinkannya untuk memfokuskan lebih banyak sumber daya dan perhatian pada masalah penyelarasan, sehingga berpotensi menyediakan lingkungan penelitian yang lebih murni bagi para peneliti. Selain itu, bagi peneliti senior seperti Schulman, bekerja di perusahaan yang lebih baru dan relatif lebih kecil dapat berarti pengaruh yang lebih besar dan lebih banyak peluang untuk menentukan arah perusahaan, yang lebih penting bagi mereka yang ingin bekerja di tahun yang sangat menarik untuk karir menengah. peneliti mencari tantangan baru.

Li Wei'an mengatakan: "Inovasi Anthropic dalam struktur tata kelola perusahaan mencerminkan keseimbangan yang lebih baik antara bisnis dan keamanan, yang mungkin juga menjadi alasan mengapa hal ini dapat terus menarik talenta untuk berganti pekerjaan."

Dia menjelaskan: “Untuk mencapai keseimbangan antara AI untuk kebaikan dan AI untuk keuntungan, dalam hal struktur tata kelola, Anthropic telah membentuk komite perwalian yang terdiri dari tokoh-tokoh terkenal di masyarakat untuk mengawasi direktur yang melanggar tujuan teknologi untuk kebaikan. Selain itu, untuk memastikan penerapan sistem, Anthropic juga telah menyiapkan saham kelas T khusus untuk dipegang oleh anggota perwalian.”

Pada bulan Mei tahun ini, Amodei mengatakan pada pertemuan puncak: "Kami memiliki tujuh pendiri bersama. Tiga setengah tahun kemudian, kami semua masih berada di perusahaan tersebut."

Mengenai tantangan yang dihadapi OpenAI, Tan Yinliang mengatakan: "Melihat perusahaan AI lainnya, model Claude telah melampaui GPT di beberapa bidang. Ketika semua orang berlomba di rute Transformer yang telah ditetapkan, titik akhir dan jalur sebenarnya sangat jelas. . Di Saat ini, jika para ilmuwan terus meninggalkan negaranya, keunggulan OpenAI sebagai penggerak pertama bukannya tidak dapat diatasi.”

"Pada bulan Agustus, Musk juga memulai kembali gugatan terhadap OpenAl. Dari segi keuangan, kerugian OpenAI mungkin mencapai 5 miliar dolar AS per tahun, dan arus kasnya mungkin habis pada tahun depan. Di tengah kekhawatiran internal dan eksternal, hal ini tahun ini seharusnya menjadi awal yang baik untuk OpenAI. Ini sangat sulit," katanya.