berita

openai menyimpang dari "niat awalnya". apa yang terjadi dengan ultraman yang memimpin?

2024-09-16

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

ceo openai altman

berita teknologi ifeng.com waktu beijing pada 16 september, majalah "business insider" as menerbitkan sebuah artikel pada hari minggu yang mengatakan bahwa openai pada awalnya adalah organisasi nirlaba yang didedikasikan untuk pengembangan kecerdasan buatan yang aman, namun seiring dengan berkembangnya teknologi ai perusahaan semakin kuat, ia berasal dari dengan semakin banyaknya uang investor, ia mulai menyimpang dari misi aslinya dan menempatkan kepentingan investor di atas kepentingan kemanusiaan.

pada tahun 2015, sam altman mendirikan openai dengan misi luhur: mengembangkan kecerdasan buatan umum (agi) yang dapat "bermanfaat bagi seluruh umat manusia".

untuk mencapai misi ini, ia mendirikan openai sebagai organisasi nirlaba. namun, ketika perusahaan semakin dekat untuk mengembangkan agi (penalaran seperti manusia), dan investor yang bersemangat mengucurkan uang ke dalamnya, beberapa orang khawatir bahwa ultraman kehilangan pandangan tentang bagian "memberi manfaat bagi seluruh umat manusia" dari misinya.

pergeseran ini terjadi secara bertahap dan tampaknya tidak dapat dihindari.

pada tahun 2019, openai mengumumkan penambahan divisi nirlaba untuk mendanai operasi perusahaan dan membantu misi nirlaba, namun tetap setia pada filosofi aslinya dan membatasi keuntungan yang tersedia bagi investor.

“kami ingin meningkatkan kemampuan kami untuk mengumpulkan modal sambil menjalankan misi kami, dan tidak ada satu pun struktur hukum yang kami ketahui yang memberikan keseimbangan yang tepat,” kata openai pada saat itu. “solusi kami adalah menjadikan openai lp bersifat nirlaba dan nirlaba. campuran dari apa yang kami sebut sebagai perusahaan 'yang dibatasi oleh keuntungan'."

buka ai

di permukaan, ini adalah langkah cerdas yang tampaknya dirancang untuk memuaskan karyawan dan pemangku kepentingan yang peduli terhadap pengembangan teknologi ai dengan aman, serta mereka yang ingin melihat perusahaan lebih aktif mengembangkan dan merilis produk.

namun ketika uang mengalir ke sektor nirlaba openai dan reputasi perusahaan serta ultraman semakin memburuk, beberapa orang mulai merasa tidak nyaman.

perselisihan internal

tahun lalu, anggota dewan termasuk kepala ilmuwan openai ilya sutskever sempat memecat ceo altman karena kekhawatiran bahwa perusahaan tersebut merilis produk terlalu agresif tanpa memprioritaskan keselamatan. dengan dukungan investor penting microsoft, altman dengan cepat melanjutkan posisinya sebagai ceo.

faktanya, dalam openai, celah budaya perusahaan telah muncul.

pada bulan mei tahun ini, dua peneliti terkemuka openai, jan leike dan suskovo, mengumumkan pengunduran diri mereka. pasangan ini mengawasi tim "hyper-alignment" perusahaan, yang bertugas memastikan perusahaan mengembangkan agi dengan aman, yang merupakan prinsip inti misi openai. hyper-alignment adalah istilah ai yang bertujuan untuk menyelaraskan ai dengan nilai-nilai kemanusiaan.

belakangan bulan itu, openai membubarkan seluruh tim super alignment. lake berkata di x setelah kepergiannya bahwa tim telah "berlayar melawan angin".

“openai harus menjadi perusahaan agi yang mengutamakan keselamatan,” katanya. “membangun ai generatif pada dasarnya merupakan upaya yang berbahaya, namun openai kini lebih fokus pada pembuatan produk yang cemerlang.”

suskwo, mantan kepala ilmuwan di openai

kini tampaknya openai hampir menyelesaikan transformasinya dan menjadi raksasa teknologi yang "bergerak cepat dan mematahkan stereotip".

altman mengatakan kepada karyawannya pada pertemuan minggu lalu bahwa perusahaan berencana melepaskan kendali dewan direksi induk nirlaba tahun depan karena “tidak lagi cocok untuk perusahaan,” fortune melaporkan.

perubahan struktur karena penilaian

reuters melaporkan pada hari sabtu bahwa openai akan menerima investasi lain sebesar $6,5 miliar dalam bentuk obligasi konversi, yang memberi nilai perusahaan sebesar $150 miliar. namun orang-orang yang mengetahui masalah ini mengatakan bahwa penilaian ini akan bergantung pada dua kondisi: openai perlu membalikkan struktur perusahaan yang ada dan mengabaikan pembatasan batas keuntungan bagi investor.

rincian putaran pendanaan ini menunjukkan sejauh mana openai, sebuah organisasi nirlaba berbasis penelitian, telah mencapai perjalanan transformasinya. untuk menarik lebih banyak investasi guna mendanai penelitian dan pengembangan agi yang mahal, openai bersedia melakukan perubahan struktural.

openai telah berdiskusi dengan pengacaranya tentang mengubah struktur nirlaba menjadi perusahaan nirlaba yang berorientasi pada kepentingan publik, mirip dengan struktur yang digunakan oleh pesaingnya seperti anthropic dan xai, kata orang yang mengetahui masalah tersebut. jika reorganisasi gagal, openai perlu menegosiasikan ulang penilaiannya dengan investor untuk menentukan harga konversi sahamnya, yang mungkin lebih rendah.

tidak jelas apakah perubahan mendasar dalam struktur perusahaan akan terjadi. batasan keuntungan membatasi potensi keuntungan bagi investor di divisi nirlaba openai, dan menghapus batasan ini akan membawa manfaat yang lebih besar bagi investor awal.

namun, hal ini juga dapat menimbulkan pertanyaan tentang tata kelola openai dan penyimpangan dari misi nirlabanya. openai sebelumnya menyatakan bahwa batas keuntungan ditetapkan untuk "memberi insentif kepada mereka untuk meneliti, mengembangkan, dan menerapkan agi dengan cara yang menyeimbangkan komersialisasi, keamanan, dan keberlanjutan, daripada berfokus pada maksimalisasi keuntungan semata."

openai mengatakan dalam sebuah pernyataan bahwa perusahaannya tetap fokus pada “membangun ai yang bermanfaat bagi seluruh umat manusia” sambil terus bekerja sama dengan dewan direksi perusahaan induk nirlaba. “nirlaba adalah inti dari misi kami dan akan terus ada,” kata juru bicara openai. (penulis/xiao yu)

untuk berita langsung lainnya, silakan unduh klien phoenix news dan berlangganan phoenix technology. jika anda ingin melihat laporan mendalam, silakan cari "teknologi ifeng.com" di wechat.