berita

”

pada tanggal 5 september, menurut reuters, safe superintelligence (ssi) didirikan oleh ilya sutskever, mantan kepala ilmuwan openai.$1 miliar uang tunai terkumpul. orang-orang yang mengetahui masalah ini mengungkapkan,setelah pembiayaan, valuasi perseroan mencapai us$5 miliar.perusahaan berencana menggunakan dana tersebut untuk membeli daya komputasi dan merekrut talenta terbaik untuk membantu mengembangkan sistem kecerdasan buatan yang aman dan jauh melebihi kemampuan manusia. pejabat ssi juga telah memastikan bahwa berita tersebut akurat.

ssi didirikan pada juni 2024. tim pendiri terdiri dari ilya sutskever, daniel levy, dan daniel gross. saat ini, ilya sutskever menjabat sebagai kepala ilmuwan, daniel levy sebagai ilmuwan utama, dan daniel gross menjabat sebagai ceo, yang bertanggung jawab atas daya komputasi dan penggalangan dana. ssi saat ini memiliki 10 karyawan dan beroperasi di bawah struktur nirlaba konvensional.

ssi belum merilis produk apa pun dan mampu memperoleh pembiayaan dan valuasi yang tinggi ketika didirikan kurang dari empat bulan lalu. justru karena latar belakang industri yang kuat dari ketiga orang tersebut. investor bersedia bertaruh besar pada talenta luar biasa yang berfokus pada penelitian ai dasar.

ilya sutskever adalah salah satu pakar teknis paling berpengaruh di bidang kecerdasan buatan. ia belajar di bawah bimbingan geoffrey hinton, yang dikenal sebagai "bapak baptis kecerdasan buatan", dan merupakan pendukung awal hipotesis yang diperluas. hipotesis ini menyatakan bahwa kinerja ai meningkat seiring dengan peningkatan daya komputasi dalam jumlah besar, yang juga menjadi landasan bagi ledakan ai generatif.

daniel gross adalah kepala teknologi ai di apple dan mantan mitra y combinator, sedangkan daniel levy adalah mantan karyawan openai.

untuk saat ini, ssi akan fokus membangun tim kecil peneliti dan insinyur yang berbasis di palo alto, california, dan tel aviv, israel.

investornya termasuk perusahaan modal ventura terkemuka andreessen horowitz, sequoia capital, dst global dan sv angel. nfdg, kemitraan investasi yang dijalankan oleh nat friedman dan ceo ssi daniel gross, juga terlibat.

gross mengatakan dalam sebuah wawancara: "penting bagi kami untuk memiliki investor yang memahami, menghormati dan mendukung misi kami, yaitu untuk bergerak langsung ke superintelligence yang aman, terutama di bidang intelijen super yang aman.kami menghabiskan beberapa tahun dalam penelitian dan pengembangan sebelum membawa produk ke pasar。”

setelah informasi pembiayaan ssi dirilis, reuters langsung melakukan pembicaraan mendalam dengan ilya sutskever. ilya pun menjawab serangkaian pertanyaan tentang apakah ssi bersifat open source dan perkembangannya ke depan. terlihat dari wawancara bahwa dia sangat mementingkan keamanan super agi.

berikut ini disusun oleh silicon rabbit tanpa mempengaruhi teks aslinya, selamat menikmati!

ilya: "kami menemukan gunung yang sedikit berbeda dari apa yang pernah saya kerjakan sebelumnya... begitu anda mendaki ke puncak gunung ini, paradigmanya berubah... apa yang kami ketahui tentang kecerdasan buatan akan berubah lagi. saat itu intinya, hal yang paling penting adalah keamanan super-cerdas yang akan menjadi hal yang penting.”

“produk pertama kami adalah tentang keamanan superintelligence.”

02

ilya: "saya pikir pertanyaannya adalah: apakah aman? ini salah satu yang terbesar di duniabersikaplah yang baikkekuatan? saya pikir dunia akan menjadi sangat berbeda ketika kita melakukan hal itu sehingga akan sulit untuk memberikan anda rencana yang jelas.

saya dapat memberitahu anda, dunia akan menjadi sangat berbeda. dunia akan melihat apa yang terjadi pada ai dengan cara yang sangat berbeda, dan hal ini akan sulit untuk dipahami.ini akan menjadi pembicaraan yang lebih intens. ini mungkin tidak hanya bergantung pada keputusan yang kita buat sendiri. "

03

ilya: "untuk dapat menjawab pertanyaan anda sepenuhnya, kami perlu melakukan beberapa penelitian penting. terutama jika anda berpikir seperti kami, banyak hal akan berubah... banyak ide-ide hebat yang muncul.

banyak orang berpikir,ketika ai menjadi lebih canggih, langkah apa yang perlu kita ambil dan pengujian apa yang perlu kita lakukan?ini agak rumit. masih banyak penelitian yang harus dilakukan. saya tidak ingin mengatakan bahwa ada jawaban yang jelas sekarang. namun itu adalah salah satu hal yang harus kita pahami. "

ilya: "semua orang hanya mengatakan 'hipotesis yang diperluas'. semua orang lalai bertanyaapa sebenarnya yang kita skalakan?terobosan besar dalam pembelajaran mendalam selama dekade terakhir didasarkan pada formulasi khusus dari hipotesis yang diperluas. namun hal itu akan berubah...dan seiring dengan perubahan tersebut, kemampuan sistem akan meningkat. masalah keamanan akan menjadi lebih parah, dan itulah yang perlu kita atasi. "

ilya:"saat ini,tidak semua perusahaan ai akan melakukan pekerjaan mereka secara open source, kita juga. namun menurut saya karena faktor-faktor tertentu, (kami) akan memiliki banyak peluang untuk melakukan pekerjaan keamanan super-intelijen terkait sumber terbuka. mungkin tidak semuanya, tapi yang pasti ada beberapa. "

ilya: "saya sebenarnya sangat memikirkan industri ini. saya pikir ketika orang-orang bergerak maju, semua perusahaan akan menyadari hal itu - mungkin pada waktu yang sedikit berbeda - berdasarkan sifat tantangan yang mereka hadapi. jadi, kami tidak akan melakukannya katakanlah kami tidak berpikir ada orang yang bisa melakukannya, tapi kami pikir kami bisa berkontribusi.”

ilya: "beberapa orang dapat bekerja berjam-jam, tetapi mereka dengan cepat kembali ke jalur yang benar. itu tidak sesuai dengan gaya kami. namun jika anda ahli dalam hal itumelakukan sesuatu yang berbeda, maka anda mempunyai potensi untuk melakukan sesuatu yang istimewa (bersama kami). "

“yang menggairahkan kami adalah ketika anda mengetahui bahwa karyawan ini tertarik dengan pekerjaan kami, bukan tertarik pada tren atau konten yang sedang booming.”

“kami akan menghabiskan waktu berjam-jam untuk memeriksa kandidat yang 'berkarakter baik' dan mencari orang-orang dengan kemampuan luar biasa, daripada terlalu menekankan kualifikasi dan pengalaman di bidangnya.”

ilya：“kami akan melakukan penskalaan dengan cara yang berbeda dari openai.”

perusahaan berencana bermitra dengan penyedia cloud dan perusahaan chip untuk mendanai kebutuhan daya komputasinya, namun belum memutuskan perusahaan mana yang akan bermitra.

tautan referensi:

ilya sutskever tentang bagaimana ai akan berubah dan perusahaan rintisan barunya safe superintelligence（reuters）