ikan dan domba berasal dari kuil aofei

qubit |. akun publik qbitai

perusahaan ini hanya memiliki 10 orang dan telah mengumpulkan pendanaan putaran awal.us$1 miliar。

hal mencengangkan seperti ini hanya bisa terjadiilya sutskeversecara bodi terlihat agak "normal".

ilya, di saat model-model besar melanda dunia, kontribusinya diakui sangat luasmengubah duniatingkat:

dia adalah salah satu dari tiga penulis alexnet. setelah diburu ke google bersama mentornya hinton, dia sangat terlibat dalam proyek alphago yang mengejutkan dunia.

pada tahun 2015, ia berpartisipasi dalam pendirian openai dan menjabat sebagai kepala ilmuwan. chatgpt kembali mengubah dunia, dan dia dianggap sebagai salah satu tokoh paling penting di baliknya.

sejak november tahun lalu, setiap langkah ilya menjadi yang terdepan dan menarik perhatian kalangan teknologi global:

pertikaian di dewan direksi openai yang diprakarsai olehnya mengungkapkan perselisihan mengenai jalur pengembangan model besar. setelah dia benar-benar berpisah dengan openai pada bulan mei tahun ini, semua orang menunggu langkah kewirausahaan berikutnya.

sekarang, debu sudah mulai mengendap. ilya sendiri, yang selalu rendah hati, juga berbagi lebih banyak informasi tentang perusahaannya ssi dan pemikirannya sendiri tentang agi saat ini.

dalam percakapannya dengan reuters, ilya menjawab enam pertanyaan kunci. di bawah ini adalah teks aslinya:

mengapa ssi diciptakan?

kami telah menemukan "gunung besar" yang sedikit berbeda dari pekerjaan saya sebelumnya...begitu anda mencapai puncak gunung ini, paradigmanya berubah…semua yang kita ketahui tentang kecerdasan buatan akan berubah lagi.

pada titik ini, upaya keamanan super-cerdas akan menjadi sangat penting.

produk pertama kami adalah kecerdasan super yang aman.

sebelum kecerdasan super, akankah dirilis ai yang secerdas manusia?

menurut saya kuncinya adalah: apakah aman? apakah ini merupakan kekuatan untuk kebaikan di dunia? saya pikir ketika kita melakukan hal itu, dunia akan banyak berubah. jadi cukup sulit untuk memberikan rencana yang jelas tentang “apa yang akan kami lakukan” saat ini.

apa yang dapat saya sampaikan kepada anda adalah bahwa dunia akan menjadi tempat yang sangat berbeda. persepsi dunia luar terhadap apa yang terjadi pada ai akan berubah secara dramatis dan sulit untuk dipahami. ini akan menjadi pembicaraan yang lebih intens. ini mungkin tidak hanya bergantung pada keputusan kita.

bagaimana ssi menentukan kecerdasan buatan yang aman?

untuk menjawab pertanyaan ini, kita perlu melakukan beberapa penelitian penting. terutama jika anda seperti kami dan berpikir segala sesuatunya akan banyak berubah... banyak ide hebat yang ditemukan.

banyak orang memikirkan pengujian apa yang perlu dilakukan untuk ai agar ai menjadi lebih kuat? ini sedikit rumit dan ada banyak penelitian yang harus dilakukan.

saya tidak ingin mengatakan bahwa ada jawaban yang jelas sekarang. namun itu adalah salah satu hal yang harus kita pahami.

tentang asumsi skala dan keamanan ai

semua orang membicarakan tentang "hipotesis penskalaan", namun semua orang mengabaikan satu pertanyaan: apa yang sedang kita skalakan?

terobosan besar dalam pembelajaran mendalam dalam dekade terakhir adalah formulasi spesifik dari asumsi skala. namun hal ini akan berubah...dan seiring dengan perubahan tersebut, kemampuan sistem akan meningkat, dan masalah keamanan akan menjadi hal yang paling mendesak, dan itulah yang perlu kita atasi.

apakah ssi akan menjadi open source?

saat ini, semua perusahaan ai tidak melakukan open source pada pekerjaan utama mereka, begitu pula kami. namun menurut saya, bergantung pada faktor-faktor tertentu, akan ada banyak peluang untuk pekerjaan keamanan super cerdas yang bersifat open source. mungkin tidak semuanya, tapi yang pasti ada beberapa.

pemikiran tentang upaya penelitian keamanan perusahaan ai lainnya

faktanya, saya memiliki opini yang sangat tinggi tentang industri ini. saya pikir seiring kemajuan yang dicapai, semua perusahaan akan menyadari - mungkin pada waktu yang berbeda - sifat tantangan yang mereka hadapi. jadi bukan berarti kami berpikir bahwa tidak ada orang lain yang bisa melakukannya, tapi kami berpikir bahwa kami bisa berkontribusi.

satu miliar dolar digunakan untuk apa?

terakhir, tambahkan beberapa informasi latar belakang di luar perkataan ilya.

berita tentang ssi pertama kali dirilis pada bulan juni tahun ini. tujuannya sangat jelas. ini adalah untuk melakukan apa yang gagal dilakukan ilya di openai: membangun kecerdasan super yang aman.

saat ini, ssi hanya memiliki 10 karyawan. setelah mengumpulkan dana, ssi berencana menggunakan dana tersebut untuk membeli tenaga komputasi dan merekrut talenta terbaik——

mereka yang setuju dengan gagasan mereka dan siap secara mental bahwa ai suatu hari nanti akan melampaui kecerdasan manusia.

co-founder daniel gross juga mengungkapkan bahwa mereka tidak terlalu memperhatikan kualifikasi dan pengalaman, namun akan menghabiskan waktu berjam-jam untuk meninjau apakah kandidat memiliki "karakter yang baik".

dalam hal kekuatan komputasi, ssi berencana untuk bekerja sama dengan produsen cloud dan perusahaan chip. belum jelas perusahaan mana yang akan diajak bekerja sama dan bagaimana cara bekerja sama.

selain ilya sendiri, salah satu pendiri ssi adalah daniel gross dan daniel levy.

△kiri: daniel gross; kanan: daniel levy

daniel gross lulus dari departemen ilmu komputer universitas harvard dan sebelumnya merupakan salah satu mitra y combinator. ia juga mendirikan atau berpartisipasi dalam pendirian banyak perusahaan, termasuk citrus lane, writelatex (kemudian berganti nama menjadi overleaf), dll.

dia terdaftar sebagai salah satu "orang paling berpengaruh dalam kecerdasan buatan" oleh majalah time 100.

daniel levy lulus dari departemen ilmu komputer stanford dan sebelumnya menjabat sebagai kepala tim optimasi openai.