berita

teks: web3 sky city · penguasa kota

sudah lama berlalu, namun video lengkap wawancara tatap muka ceo openai sam altman setelah kembali ke openai telah dirilis. ini adalah saat greg sedang berlibur, perusahaan baru ilya didirikan, dan berita tentang kerugian openai yang terus berlanjut serta pendanaan baru pun muncul.

wawancara ini dipandu oleh pembawa acara terkenal trevor cui wa. yang sedikit mengejutkan adalah trevor memiliki pemahaman yang sangat mendalam tentang teknologi ai, lebih baik dari 95% pembawa acara non-teknis.

dalam wawancara ini, trevor dan sam melakukan percakapan luas yang membahas kecerdasan buatan, openai, serta karier dan perjalanan pribadi sam. dimulai dari kembalinya ke openai, sam menceritakan bagaimana ia merefleksikan hubungan antara misi pribadi dan perusahaan di tengah serangkaian kekacauan dan ketidakpastian, serta berbicara tentang arah pengembangan agi di masa depan.

sam tidak hanya menguraikan potensi besar agi dalam kognisi, produktivitas, dan dampak sosial, namun juga menanggapi tantangan keamanan ai, masalah etika, trade-off kapitalis, dan revolusi teknologi. pada saat yang sama, ia secara terbuka mendiskusikan pemikirannya mengenai tata kelola perusahaan openai, bagaimana menyeimbangkan kemajuan teknologi dan tanggung jawab sosial, serta menekankan pentingnya transparansi dan tata kelola teknologi yang demokratis.

perjalanan untuk mendapatkan kembali kendali openai: sam altman merefleksikan kepergiannya yang singkat dan berbagi bagaimana dia menemukan kembali kecintaannya pada openai dan misinya selama kekacauan ini. meski sempat dipecat, ia menegaskan bahwa ia belajar dari pengalaman tersebut dan merasakan pentingnya terus memajukan perkembangan agi.

masa depan agi dan revolusi teknologi: sam altman sangat yakin bahwa agi akan menghasilkan revolusi teknologi yang belum pernah terjadi sebelumnya, meskipun perubahan sosial dan ekonomi mungkin tidak secepat yang diharapkan. ia percaya bahwa meskipun teknologi akan semakin mendekati agi, dampak sebenarnya terhadap masyarakat akan terjadi secara bertahap, sehingga masyarakat secara bertahap dapat beradaptasi terhadap perubahan yang disebabkan oleh teknologi baru.

keseimbangan antara kapitalisme dan ai: dalam wawancara tersebut, sam altman membahas secara rinci bagaimana openai beroperasi dalam sistem kapitalis dengan tetap mempertahankan tujuan awalnya saat diciptakan, yaitu untuk memastikan bahwa manfaat agi didistribusikan secara luas. meskipun openai perlu bersaing dalam kapitalisme untuk mendapatkan sumber daya yang dibutuhkan untuk pembangunan, ia menekankan bahwa kemajuan teknologi tidak boleh mengorbankan etika dan tanggung jawab sosial.

tata kelola yang demokratis dan dampak sosial ai: sam altman menyampaikan poin penting, yaitu tata kelola teknologi ai harus lebih demokratis. ia percaya bahwa masyarakat harus lebih terlibat dalam memutuskan bagaimana sistem ai digunakan dan menetapkan aturan, serta menekankan pentingnya transparansi teknis dan tata kelola yang beragam.

kekhawatiran tentang keamanan dan etika ai: dalam wawancaranya, sam altman mengakui bahwa meskipun ai memiliki potensi yang sangat besar, namun juga memiliki banyak potensi risiko keamanan. dia secara khusus menunjukkan risiko ai dalam keamanan komputer, biologi sintetik, dan lain-lain, dan menyerukan masyarakat untuk mendorong pengembangan teknologi dengan cara yang bertanggung jawab.

visi yang lebih luas untuk kecerdasan buatan: sam altman optimis dengan masa depan. ia percaya bahwa seiring dengan semakin matangnya agi, setiap orang akan memiliki lebih banyak kesempatan untuk mengejar kepentingan pribadi, dan teknologi akan sangat meningkatkan standar pendidikan dan medis global. meski inovasi teknologi akan membawa perubahan dalam dunia kerja dan pola sosial, ia yakin pada akhirnya semangat dan kreativitas manusia akan mendorong kita menuju masa depan yang lebih sejahtera.

trevor:

terima kasih telah meluangkan waktu untuk diwawancara.

sam: terima kasih.

trevor: tidakkah menurutmu ini saat yang gila?

sam: rasanya seperti momen paling gila yang pernah saya alami.

trevor:

ya, kamu adalah pusat dari semuanya. aku ingin tahu seperti apa rasanya. karena saya hanya seorang yang rajin mengamati bidang ini dan dunia ini, anda tahu? aku merasa kamulah yang terkena dampak semua ini. maksudku, sam altman masuk dalam daftar person of the year versi majalah time.

sam: senang saya tidak mengerti.

trevor: senang anda tidak mendapatkannya?

sam: ya, tentu saja.

trevor: kenapa?

sam: tahun ini aku mendapat lebih banyak perhatian dibandingkan sepanjang hidupku.

trevor: oke, oke. jadi kamu tidak suka perhatian? anda tidak ingin perhatiannya?

sam:

tidak, ini terlalu kejam. dalam beberapa hal ini menarik. ini berguna dalam beberapa hal. namun untuk kehidupan pribadi, kualitas hidup ditimbang. ya, tentu saja tidak. tapi itulah yang terjadi sekarang. untuk inilah saya mendaftar.

trevor: ya, sekarang saatnya menjadi terkenal.

sam: ya.

trevor: apakah orang-orang mengenali anda di jalan?

sam:ini adalah pertukaran yang sangat buruk. ya, aku merasa kamu tidak pernah... aku yakin ini juga terjadi padamu, tapi aku tidak bisa tetap anonim lagi.

trevor:ya, tapi orang-orang tidak bertanya padaku tentang masa depan.

sam:mereka tidak menanyakan apakah anda akan menghancurkan dunia.itu benar. ada sedikit perbedaan. orang-orang mungkin ingin berfoto dengan saya. sejauh itulah. banyak foto grup.

trevor: baiklah, selamat. anda adalah ceo majalah time tahun ini.

sam: ya.

trevor:

ini mungkin salah satu momen yang paling aneh karena saya rasa pada saat itulah majalah time mengambil keputusan ini. beberapa minggu yang lalu, anda mungkin belum menjadi ceo of the year. saya tidak tahu apakah mereka masih bisa memberi anda penghargaan ini. saya kira itu untuk pekerjaan anda sebelumnya.

sam: ya, saya tidak tahu. saya tidak tahu cara kerjanya.

trevor: bagaimana rasanya menjadi ceo lagi?

sam:

sejujurnya, saya masih memprogram ulang kenyataan. di satu sisi, rasanya luar biasa karena sepanjang prosesnya, saya belajar banyak tentang betapa saya mencintai perusahaan ini, misinya, dan orang-orangnya. dan, beberapa kali dalam perjalanannya, saya mengalami keseluruhan emosi manusia dalam waktu singkat. namun momen yang sangat jelas bagi saya adalah bahwa semua ini terjadi pada hari jumat sore, pada hari jumat siang. keesokan paginya, hari sabtu, beberapa anggota dewan menelepon saya dan menanyakan apakah mereka bersedia mendiskusikan pengembalian tersebut.

saya mempunyai perasaan campur aduk mengenai hal ini. namun pada akhirnya, menjadi sangat jelas bagi saya bahwa saya ingin kembali.

saya sangat menyukai tempat ini dan apa yang kami lakukan. saya pikir ini penting bagi dunia, dan itulah yang paling saya pedulikan.

trevor:

di dunia teknologi, perekrutan dan pemecatan adalah sesuatu yang harus dibiasakan oleh setiap orang.

saya tahu anda pernah dipecat dari y combinator di masa lalu. setiap orang dalam situasi ini punya cerita.

sam: saya tidak ingin membicarakan hal itu.

trevor: katakan padaku, katakan padaku. hal-hal ini, anda melakukan penelitian dan mulai dari sana.

sam:

saya memutuskan sekitar setahun sebelumnya (meninggalkan yc) bahwa saya ingin datang ke openai.

itu adalah transisi yang rumit. namun saya telah mengerjakan openai dan yc pada saat yang sama, dan saya cukup yakin ingin menggunakan openai. saya tidak pernah menyesali hal ini.

trevor:maka anda tidak pernah dipecat. ini adalah situasi yang sulit sebagai manusia.

sam: apakah ini pemecatan?

trevor: bagaimana jika anda dipecat dan segera dipekerjakan kembali?

sam:apa yang ingin saya katakan lebih dari sekedar...ini brutal...saya rasa sebaiknya saya tidak membicarakan hal ini sekarang.

ini adalah hal yang sangat menyakitkan. bagi saya pribadi, sebagai manusia, rasanya sangat tidak adil dan cara penanganannya sungguh tidak adil.

trevor:

saya bisa membayangkan. banyak orang akan berbicara tentang pemecatan.

hal ini menjadi tren selama pandemi, terutama ketika orang-orang membicarakan tentang pengiriman email atau video ke grup, dan kemudian ribuan karyawan di-phk.

anda jarang mengira hal ini akan terjadi pada ceo sebuah perusahaan. terlebih lagi, anda tidak akan mengira hal ini akan terjadi pada ceo yang banyak disebut sebagai "steve jobs" generasi sekarang dan masa depan.

ngomong-ngomong, kamu tidak menyebut dirimu seperti itu.

sam: tentu saja tidak.

trevor:

itulah yang dikatakan banyak orang tentang anda, tapi menurut saya tidak adil menyebut anda steve jobs generasi ini. menurut pendapat saya, anda adalah prometheus generasi ini. kamu sebenarnya.

bagiku sepertinya kamu mencuri api dari tuhan. anda berada di garis depan transformasi ini, dan kita sekarang hidup melalui era di mana ai pernah menjadi bagian dari fiksi ilmiah dan legenda, dan anda kini berada di garis depan dalam sesuatu yang dapat mengubah peradaban selamanya.

apakah menurut anda masa depan akan berubah secara menyeluruh?

sam:

saya kira demikian.

sangat mungkin bahwa saya salah tentang apa yang akan saya katakan, tapi perasaan saya adalah bahwa kita akan membangun sesuatu yang disetujui oleh hampir semua orang, yaitu agi. mendefinisikan kecerdasan umum buatan (agi) sangat sulit, tetapi kami akan membangun sistem yang akan dilihat orang dan berkata, "oke, anda berhasil." sistem ini adalah kecerdasan buatan umum, suatu sistem yang berada pada atau di luar tingkat manusia.

trevor:

sebelum menjelaskannya secara detail, menurut anda apa perbedaan terbesar antara persepsi masyarakat terhadap ai dan kecerdasan umum buatan?

sam:

saat kita semakin dekat dengan bidang ini, cara kita mendefinisikannya menjadi sangat penting, dan terdapat perbedaan. bagi sebagian orang, agi mengacu pada sistem yang dapat melakukan beberapa bagian penting dari pekerjaan manusia saat ini. tentu saja kita akan menemukan pekerjaan baru dan hal-hal baru untuk dilakukan. namun bagi yang lain, agi mengacu pada sistem yang dapat membantu menemukan pengetahuan ilmiah baru. ini jelas merupakan tonggak sejarah yang sangat berbeda dengan dampak yang sangat berbeda terhadap dunia.

meskipun saya bosan dengan istilah itu dan bahkan tidak bisa berhenti menggunakannya, ada alasan mengapa saya tidak menyukainya lagi. istilahnya agi. saya pikir bagi kebanyakan orang sekarang ini hanya berarti ai yang sangat cerdas, tapi lebih dari itu, ini menjadi sangat kabur. saya pikir itu terutama karena kami semakin dekat.

apa yang ingin saya katakan adalah, kita akan membuat agi, apa pun sebutannya. setidaknya dalam jangka pendek dan menengah, hal ini tidak akan mengubah dunia sebanyak yang diperkirakan orang. dalam jangka pendek, menurut saya masyarakat mempunyai banyak kelembaman, perekonomian juga mempunyai banyak kelembaman, dan cara masyarakat menjalani hidup juga mempunyai banyak kelembaman. hal ini dapat menyehatkan dan bermanfaat saat kita mengelola transisi ini. kita semua melakukan sesuatu dengan cara tertentu, dan kita terbiasa melakukannya. masyarakat sebagai superorganisme juga berperilaku tertentu dan terbiasa dengannya.

melihat apa yang terjadi dengan gpt-4, menurut saya ini bermanfaat. ketika kami pertama kali meluncurkannya, orang-orang benar-benar panik dan berkata, "wow, saya tidak mengira hal itu akan terjadi." tapi kemudian mereka melanjutkan hidup mereka. itu memang mengubah banyak hal dan orang-orang menggunakannya. ini adalah teknik yang lebih baik daripada tidak sama sekali. tentu saja gpt-4 tidak terlalu bagus, 5, 6, 7, apa pun yang mana, akan jauh lebih baik. namun, antarmuka chatgpt versi 4, menurut saya adalah momen di mana banyak orang menganggapnya dari tidak menganggapnya serius menjadi menganggapnya sangat serius. namun, hidup terus berjalan.

trevor:

apakah menurut anda hal ini baik bagi kemanusiaan dan masyarakat? haruskah hidup terus berjalan seperti ini? sebagai salah satu "bapak" produk ini, salah satu "induk" gagasan ini, apakah anda ingin kita semua berhenti, meluangkan waktu sejenak, dan mengevaluasi posisi kita saat ini?

sam:

saya pikir ketahanan manusia secara individu dan kolektif sungguh luar biasa. saya sangat gembira dengan kemampuan kita dalam menyerap dan beradaptasi terhadap teknologi dan perubahan baru serta menjadikannya seperti bagian dari dunia. sungguh luar biasa.

saya pikir covid adalah contoh terbaru di mana kita melihat hal ini. dunia beradaptasi dengan cepat dan segera terasa normal. contoh lain yang kurang serius namun instruktif adalah tumpukan berita tentang ufo. ini terjadi beberapa tahun yang lalu. banyak teman saya yang dulunya sangat skeptis akan mengatakan bahwa mungkin itu adalah ufo atau alien sungguhan atau semacamnya. namun mereka tetap pergi bekerja dan bermain dengan anak-anak mereka keesokan harinya.

trevor: ya, saya pikir, apa lagi yang bisa anda lakukan? jika mereka terbang, mereka terbang.

jadi, apakah saya berharap kita menghabiskan lebih banyak waktu untuk menilai kemajuan? kami melakukan hal itu secara keseluruhan, dan menurut saya itu bagus. saya sangat yakin bahwa penerapan teknologi ini secara berulang-ulang adalah hal yang penting. kami tidak ingin mengembangkan kecerdasan umum buatan (agi) di laboratorium rahasia, tidak ada yang tahu hal itu akan terjadi, dan kemudian tiba-tiba merilisnya ke dunia sehingga orang-orang harus berkata, ya, ini dia, jadi. ..

trevor:

menurut anda, apakah kita harus beradaptasi secara bertahap dan mengembangkannya sebagai sebuah teknologi?

sam:

ya.

jadi perbincangan saat ini, dimana masyarakat dan para pemimpin serta institusi kita benar-benar menggunakan teknologi ini untuk mengetahui apa yang bisa mereka lakukan, apa yang tidak bisa mereka lakukan, apa risikonya, apa manfaatnya, menurut saya sangat bagus. saya pikir mungkin hal terbaik yang telah kami lakukan untuk misi kami adalah mengulangi strategi penerapan kami. kita bisa saja membangunnya secara rahasia dan menghabiskan waktu bertahun-tahun untuk membangunnya lalu meluncurkannya sekaligus, dan itu akan sangat buruk.

trevor:

hari ini kami memasuki gedung openai, yang terlihat seperti benteng dan terasa seperti rumah masa depan. saya melihat anda memiliki postingan yang mengatakan anda datang sebagai tamu.

saya seperti, ya tuhan, itu aneh. ibarat mudik, tapi bukan pulang, tapi tetap pulang.

sam:

ini akan terasa seperti momen yang sangat aneh, seperti memakai lencana tamu di sini. tapi saya merasa semua orang kelelahan dan penuh adrenalin. sebenarnya tidak ada momen besar yang saya harapkan. pastinya ada beberapa momen yang patut direnungkan dan diceritakan tentang hari itu. misalnya, salah satu momen paling membanggakan bagi saya adalah ketika saya sangat lelah dan perhatiannya teralihkan. kami pikir dewan direksi akan mengangkat saya kembali sebagai ceo pada hari itu, namun kalau-kalau mereka tidak melakukannya, saya diwawancarai untuk l3, posisi insinyur perangkat lunak tingkat terendah kami, oleh salah satu orang terbaik kami. lalu dia memberiku jawaban yang pasti. itu adalah momen yang sangat membanggakan.

bagian yang menonjol dalam ingatanku hari itu adalah aku masih memiliki keterampilan itu. meskipun lencananya tidak sedalam yang saya inginkan.

trevor:

saya ingin tahu menurut anda apa yang telah saya lakukan dengan benar sebagai ceo untuk mendapatkan dukungan publik dari karyawan openai.

ketika hal ini terungkap, saya tidak akan menanyakan detailnya karena saya tahu anda tidak dapat mengomentari isi penyelidikan internal. namun saya tahu anda bisa berbicara sedikit tentang keseluruhan perasaan perusahaan dan apa yang terjadi akhir-akhir ini. jarang kita melihat hal-hal seperti openai. anda memiliki perusahaan ini dan gagasan yang, bagi kebanyakan orang di planet ini, tidak ada selama satu menit pun. menit berikutnya, anda merilis chatgpt. perintah sederhana ini, hanya sebuah kotak obrolan kecil, mengubah dunia. menurut saya, anda mencapai 1 juta pengguna dalam waktu tercepat yang pernah ada. saya pikir itu lima hari. ya, lima hari. kemudian dengan cepat mencapai 100 juta orang.

dengan sangat cepat, saya mengetahuinya secara anekdot, bagi saya, hal ini berubah dari tidak diketahui oleh semua orang di dunia. saya menjelaskannya kepada orang-orang, mencoba membuat mereka mengerti. saya harus menunjukkannya kepada mereka seperti puisi dan sesuatu yang sederhana yang dapat mereka pahami. kemudian orang-orang mulai bercerita kepada saya tentang hal itu. sekarang ini telah menjadi konsep yang ada di mana-mana, dan orang-orang kesulitan untuk memahami apa itu dan apa artinya.

namun di sisi lain, ada perusahaan yang mencoba mengendalikan dan membentuk masa depan dengan cara tertentu. dan orang-orang mendukung anda. kita lihat ceritanya, sam altman keluar dan bukan lagi ceo. lalu semuanya menjadi bergejolak. saya tidak tahu apakah anda pernah melihat beberapa rumor tersebut. mereka gila. salah satu hal paling gila yang pernah saya lihat adalah seseorang berkata, ini konyol sekaligus lucu. mereka bilang, dan saya tahu dari sumber terpercaya, bahwa sam dipecat karena mencoba berhubungan seks dengan ai.

sam:

aku bahkan tidak tahu bagaimana harus menanggapinya. ketika saya melihat pesan itu, saya seperti... saya kira pada titik ini, saya harus secara resmi menyangkal hal ini, itu tidak terjadi.

trevor:

saya pikir hal ini tidak mungkin terjadi karena orang tidak memahami kombinasi keduanya. namun yang mengejutkan saya adalah sensasionalisme dari kejadian ini tampaknya telah mendorong openai menjadi sorotan berbeda di momen berbeda.

salah satu hal besarnya adalah dukungan yang anda dapatkan dari tim, membuat orang-orang maju dan berkata, apa pun yang terjadi, kami akan mendukung sam. situasi ini tidak umum terjadi di perusahaan. seringkali ceo dan karyawan tidak terhubung pada tingkat tertentu.

tapi rasanya lebih dari sekedar sebuah tim.

sam:

berikut ini bukanlah kesopanan palsu. ada banyak tempat di mana saya akan menerima banyak pujian. tapi dalam hal ini, selain sebagai juru bicara, itu bukan sepenuhnya salah saya. namun menurut saya, hal terbaik yang kami lakukan adalah memiliki misi untuk benar-benar meyakinkan masyarakat akan pentingnya hal ini.

saya pikir apa yang terjadi adalah orang-orang menyadari bahwa misi, organisasi, tim tempat kita bekerja keras dan membuat banyak kemajuan, namun masih banyak yang harus dilakukan, berada di bawah ancaman nyata seperti itu. saya pikir itulah yang memicu reaksinya. ini sebenarnya bukan tentang saya secara pribadi, meskipun mudah-mudahan orang-orang menyukai saya dan menganggap saya melakukan pekerjaan dengan baik. ini tentang kesetiaan bersama yang kita semua rasakan, dan rasa tanggung jawab untuk menyelesaikan sesuatu dan semoga memaksimalkan peluang kita untuk mencapai tujuan tersebut.

trevor:

pada level tertinggi, menurut anda apa misinya? apakah ini mencapai kecerdasan buatan secara umum?

sam:

biarkan manfaat agi didistribusikan seluas mungkin dan berhasil mengatasi semua tantangan keamanan.

trevor:

ini adalah poin kedua yang menarik. saya ingin mengobrol dengan anda nanti untuk membahas aspek keselamatan ini secara lebih mendalam. jika melihat openai sebagai sebuah organisasi, kelahirannya memang aneh. jangan ragu untuk mengoreksi saya jika saya salah, tetapi sepertinya ini didirikan dengan fokus yang kuat pada keamanan. anda mengumpulkan sekelompok orang dan anda berkata, kami ingin memulai sebuah organisasi, perusahaan, kolektif yang berdedikasi untuk menciptakan kecerdasan buatan paling etis untuk kepentingan masyarakat. bahkan bisa dilihat dari distribusi keuntungan perusahaan, cara investor memperoleh keuntungan, dan lain sebagainya.

tetapi bahkan openai pun berubah pada suatu saat. apakah anda pikir anda bisa melawan kekuatan kapitalisme? maksudku, ada begitu banyak uang yang terlibat. apakah anda pikir anda benar-benar dapat mempertahankan dunia di mana uang tidak menentukan apa yang anda lakukan dan mengapa anda melakukannya?

sam:

ini harus menjadi sebuah faktor. misalnya, jika anda hanya memikirkan biaya pelatihan sistem ini, kita harus menemukan cara untuk bersaing, karena tidak ada istilah yang lebih baik, dalam ruang kapitalis. tapi saya rasa itu bukan motivasi utama kami. ngomong-ngomong, saya suka kapitalisme. menurut saya sistem ini memiliki kekurangan yang sangat besar, namun jika dibandingkan dengan sistem lain yang pernah dicoba di dunia, menurut saya sistem ini masih merupakan sistem terbaik yang pernah kami temukan. namun bukan berarti kita tidak berusaha untuk menjadi lebih baik. saya pikir kita akan menemukan cara untuk menggunakan modal luar biasa dan memecahkan rekor yang kita perlukan untuk terus memajukan teknologi canggih ini. ini adalah salah satu pembelajaran awal kami. namun, barang ini jauh lebih mahal dari yang kita duga.

kami tahu kami punya ide untuk memperluas sistem, tapi kami tidak tahu bagaimana kelanjutannya.

trevor:

anda selalu menjadi penggemar berat ekstensi, saya pernah membacanya tentang anda. salah satu mentor anda, yang kini menjadi salah satu mitra investasi anda di injection, mengatakan bahwa setiap kali anda mengajukan pertanyaan kepada sam, hal pertama yang terlintas di benaknya adalah, bagaimana kita mengatasi masalah ini? bagaimana kita mengatasinya? hal kedua yang beliau sampaikan adalah, bagaimana kita meningkatkan skala solusi ini?

sam: siapa yang bilang begitu? saya tidak ingat. aku buruk dengan nama.

trevor: menarik. tapi saya tahu seseorang di tempat kerja anda yang mengatakannya.

sam:

menarik. tapi saya belum pernah mendengar orang mengatakan hal seperti itu tentang saya.

namun menurut saya, berdasarkan pengamatan yang saya lakukan di banyak perusahaan dan sektor berbeda, apakah skala sering kali memberikan hasil yang luar biasa. jadi, penskalaan model ai ini secara besar-besaran akan memberikan hasil yang sangat mengejutkan. penskalaan besar-besaran tidak hanya membuatnya lebih baik dalam semua hal yang terlihat jelas, tetapi juga dalam beberapa hal yang tidak jelas. ada manfaat yang tidak jelas bagi penskalaan perusahaan. ada manfaat halus dalam meningkatkan skala perusahaan seperti y combinator. menurut saya, hal ini tidak dianggap serius.

dalam kasus kami, penting untuk mengetahui betapa pentingnya melakukan penskalaan pada tahap awal. jika kita berpikir lebih cerdas atau lebih berani, kita pasti akan mengambil langkah yang lebih besar. namun sangat sulit untuk mengatakan bahwa saya akan membangun komputer yang lebih besar senilai $10 miliar. jadi kami tidak melakukan itu. kami sedikit lebih lambat dalam memahami hal ini dibandingkan yang seharusnya, namun pada akhirnya kami memahaminya. sekarang kita lihat berapa banyak skala yang kita butuhkan.

saya pikir kapitalisme itu keren. saya tidak menentang sistem. tidak, itu tidak benar. saya mempunyai banyak keberatan terhadap sistem ini, namun harus saya akui bahwa belum ada yang lebih baik dari sistem ini yang telah ditemukan.

trevor: pernahkah anda bertanya kepada chatgpt apakah mereka dapat merancang suatu sistem?

sam: saya punya yang berbeda...mungkin tidak merancang sistem baru. ya. namun saya banyak bertanya tentang bagaimana ai dan kapitalisme bersinggungan dan apa artinya.

salah satu alasannya adalah kami benar mengenai hal terpenting dalam asumsi awal kami, yaitu bahwa ai akan terwujud. pembelajaran mendalam itu mungkin... dan omong-omong, banyak orang menertawakan hal ini. itulah tepatnya.

trevor: ya tuhan, kami ditertawakan tanpa ampun.

sam:

ya.

bahkan dengan beberapa ide tentang cara mencapai hal ini, kami melakukannya dengan benar. namun kami salah mengenai banyak detailnya, dan hal ini umum dan normal dalam sains. sebelum model bahasa diterapkan, kami memiliki visi yang sangat berbeda dalam membangun sistem ini. kami memiliki konsep yang sangat berbeda dalam membangun agi pada saat itu. kami tidak menyangka bahwa ini akan menjadi alat berulang yang terus ditingkatkan dan anda dapat berbicara seperti manusia. jadi kami sangat bingung tentang apa yang dimaksud dengan membangun agi. kami sedang memikirkan waktu sebelum dan sesudah agi. kemudian anda perlu menyerahkannya ke sistem dan tata kelola lain.

sekarang menurut saya bisa, dan saya sangat senang karena menurut saya lebih mudah dinavigasi. saya pikir bisa saja, saya tidak ingin mengatakan hanya sekedar alat lain karena alat ini berbeda dalam banyak hal, namun dalam arti tertentu kami telah membuat alat baru untuk kemanusiaan. kami menambahkan beberapa hal ke kotak peralatan. manusia akan melakukan segala macam hal luar biasa dengannya, tapi manusialah yang merencanakan masa depan, bukan agi di angkasa. anda dapat melakukan hal-hal yang tidak dapat anda lakukan sebelumnya. saya juga dapat melakukan hal-hal yang sebelumnya tidak dapat saya lakukan. kita bisa berbuat lebih banyak. dalam hal ini, saya dapat membayangkan sebuah dunia di mana kita mencapai misi kita dengan menciptakan alat-alat yang sangat bagus yang berdampak besar pada kemampuan manusia dan seterusnya. saya sangat gembira tentang hal ini.

misalnya, saya senang kami menawarkan chatgpt gratis dan bebas iklan. karena menurut saya pribadi, periklanan selalu menjadi masalah di internet. tapi kami baru saja menyediakan alat ini. itu sisi buruk dari kapitalisme, ya, ya. salah satunya. menurut saya pribadi, ada kekurangan yang lebih besar, tetapi kami menyediakan alat ini dan orang-orang dapat menggunakannya secara gratis. kami tidak ingin mengubahnya menjadi produk. kami tidak ingin mereka menggunakan lebih banyak lagi. saya pikir ini menunjukkan jalan yang menarik dimana kita bisa berbuat lebih banyak.

trevor:

jadi, mari kita lakukan ini. ada banyak hal yang ingin saya bahas selama percakapan kami, dan jelas kami tidak akan bisa menjawab semuanya. namun ada beberapa pemikiran, beberapa poin dan beberapa area yang saya harap bisa kita jelajahi. saya kira pertanyaan pertama dan paling tepat waktu adalah, apa yang terjadi di masa depan bagi perusahaan? menurut anda kemana perginya? satu hal yang menurut saya sangat menarik adalah susunan dewan baru, terutama untuk openai, yang dulunya ada perempuan di dewan dan sekarang tidak ada lagi, dan dulu tidak ada insentif keuangan untuk anggota dewan dan sekarang ada. saya bertanya-tanya apakah anda khawatir bahwa perlindungan yang anda bantu terapkan kini hilang, dan anda memiliki dewan yang tidak lagi berfokus pada perlindungan orang atau menentukan masa depan yang lebih aman, namun dewan yang berfokus pada menghasilkan uang dan menjadi sebesar dan sekuat mungkin?

sam:

saya yakin struktur tata kelola dan dewan kami saat ini dan sebelumnya tidak berfungsi dalam beberapa hal penting. jadi saya sepenuhnya mendukung pengidentifikasian cara-cara untuk meningkatkan kinerja dan saya akan mendukung dewan direksi dan upaya mereka untuk mencapai hal tersebut.

tentu saja, dewan direksi perlu bertumbuh dan melakukan diversifikasi, dan saya pikir hal itu akan terjadi dengan cepat. kita perlu mendengar suara mereka yang akan menyuarakan pendapat mereka yang selama ini tidak menerima advokasi, dan tidak hanya memikirkan secara hati-hati mengenai keselamatan ai, namun juga belajar dari pelajaran di masa lalu tentang cara membangun interaksi dengan semua pihak. aspek masyarakat ini adalah sistem yang sangat kompleks. melakukan pekerjaan sebaik mungkin sambil memitigasi dampak buruk dan berbagi manfaat, semuanya perlu terwakili.

jadi, saya senang memiliki kesempatan kedua untuk memperbaiki semua hal yang sebelumnya jelas-jelas salah. hal-hal seperti keberagaman, memastikan kami mewakili semua kelompok pemangku kepentingan utama yang perlu terwakili, mencari cara untuk menjadikan hal ini lebih demokratis, terus mendorong pemerintah untuk mengambil beberapa keputusan dalam mengatur teknologi ini. saya tahu ini tidak sempurna, tapi menurut saya ini lebih baik dari apa pun yang bisa kami pikirkan saat ini. penting untuk lebih terlibat dengan komunitas pengguna kami dan membiarkan mereka membantu menetapkan batasan seputar penggunaan teknologi ini.

arah utama masa depan adalah memperluas dewan direksi dan struktur tata kelola. sekali lagi, saya tahu dewan direksi kita saat ini kecil, tapi menurut saya mereka sangat berkomitmen terhadap semua hal yang baru saja anda bicarakan.

lalu ada kategori pertanyaan besar lainnya. jika anda bertanya kepada saya seminggu yang lalu, saya akan mengatakan bahwa menstabilkan perusahaan adalah prioritas utama saya. tapi setidaknya secara internal, saya merasa cukup baik. kami tidak kehilangan pelanggan, kami tidak kehilangan karyawan. kami terus berkembang, dan ini sungguh luar biasa. kami terus memperkenalkan produk baru. kemitraan utama kami terasa diperkuat, bukan dihalangi. dalam hal ini, semuanya berjalan sesuai rencana. dan menurut saya penelitian dan rencana produk untuk paruh pertama tahun depan terasa lebih baik dan lebih tepat sasaran dibandingkan sebelumnya.

trevor:

saya selalu mendapati diri saya memikirkan anda sebagai pribadi ketika semua masalah di ruang rapat ini terjadi. setiap kali ada badai, saya selalu tertarik dengan apa yang terjadi di pusat badai tersebut. saya penasaran, di mana anda saat semua ini terjadi? seperti, apa yang kamu lakukan? apa yang terjadi di dunia anda secara pribadi?

sam:

alasan saya tertawa adalah karena apa yang orang katakan tentang saya adalah saya merasa seperti berada di tengah badai dan segala sesuatu berputar di sekitar saya dan saya masih sangat tenang. kali ini, semuanya tidak berjalan sesuai harapan.

itu sebuah pengalaman, seperti berada di tengah badai, tapi tidak tenang. saya berada di las vegas menonton balapan f1.

trevor: apakah anda penggemar f1?

sam: saya.

trevor: tim mana yang anda dukung? apakah anda punya favorit tertentu?

sam:

sejujurnya, menurut saya verstappen sangat bagus sehingga sulit untuk mengatakan tim mana yang harus didukung. tapi saya rasa itulah jawaban yang akan dikatakan semua orang.

trevor:

sebenarnya, itu tergantung kapan mereka mulai memperhatikan gerakan tersebut. saya penggemar schumacher karena saat itulah saya mulai menonton balapan. pertama nigel mansell, lalu ayrton senna, anda tahu maksud saya?

verstappen sangat presisi dan saya mengerti mengapa dia begitu populer.

sam:

meski aku sedikit lelah melihatnya menang berkali-kali, dia sungguh luar biasa.

malam itu, saya tiba kamis larut malam. ada yang lupa mengelas penutup lubang got, sehingga pada lap pertama meledak, seperti meledakkan salah satu mesin ferrari sehingga menyebabkan latihan terhenti. saya tidak sempat menonton pertandingannya, tidak melihat aksi apa pun sepanjang akhir pekan.

saya menerima telepon di kamar hotel saya, tidak tahu apa yang akan terjadi, dan dipecat dari pekerjaan saya oleh dewan direksi. rasanya seperti mimpi dan saya merasa bingung. semuanya membingungkan dan tidak terasa nyata. memang menyedihkan dan menyakitkan, namun emosi yang dominan saat itu adalah kebingungan, dan saya merasa seperti berada dalam kabut dan asap. saya sama sekali tidak tahu apa yang sedang terjadi.

kejadian ini belum pernah terjadi sebelumnya, sungguh gila. selama setengah jam berikutnya, ponsel saya menerima begitu banyak pesan sehingga imessage mogok di ponsel saya. pesan-pesan ini datang dari semua orang dan telepon menjadi tidak dapat digunakan sama sekali karena notifikasi terus bermunculan. imessage sampai pada titik di mana berhenti sejenak, pesan tertunda, dan kemudian semua pesan ditandai sebagai telah dibaca, jadi saya bahkan tidak tahu dengan siapa saya berbicara, itu adalah kekacauan.

saya sedang berbicara dengan tim di sini, mencoba mencari tahu apa yang sedang terjadi. seperti microsoft juga sedang menelepon, dan pihak lain juga sedang menghubungi. situasinya benar-benar meresahkan dan tidak terasa nyata. saya sedikit tenang dan mulai memikirkan masa depan. saya sangat ingin mengerjakan agi (artificial general intelligence). jika pada awalnya saya tidak bisa melakukannya, saya akan tetap mencoba. saya sedang memikirkan pendekatan terbaik.

greg berhenti, beberapa orang lainnya berhenti, dan saya mulai menerima banyak pesan dari orang-orang yang ingin bekerja dengan saya. pada saat itu, kembali ke openai benar-benar di luar pikiran saya. saya bisa membayangkan apa yang akan terjadi di masa depan, tapi saya tidak begitu paham seberapa besar peristiwa ini dalam industri karena saya tidak terlalu menonton berita. saya hanya bisa merasakan banyaknya sekali pesan yang diterima.

trevor:

karena anda benar-benar berada di tengah badai.

sam:

ya. saya hanya ingin mendukung openai, mencari tahu apa yang harus dilakukan selanjutnya, mencoba memahami apa yang terjadi. kemudian saya terbang kembali ke california, bertemu beberapa orang, dan mulai merasa sangat fokus pada masa depan. tapi saya juga mendoakan yang terbaik untuk openai. hampir sepanjang malam hanya ada sedikit tidur dan banyak pembicaraan terjadi pada saat yang bersamaan. yang terjadi selanjutnya adalah akhir pekan yang gila. saya yakin saya masih belum sepenuhnya menerima semuanya dan saya masih sedikit terguncang dan masih mencoba untuk mengambil bagian. saya yakin saya akan lebih merasakannya ketika saya punya waktu untuk duduk dan memprosesnya.

trevor:

apakah anda merasa harus kembali melakukan semuanya sekaligus? sebab, menurut anda, anda sedang menjalankan misi ini. anda dapat melihat dorongan di mata anda dan dunia telah mencapai titik yang tidak dapat kembali lagi. anda sedang menuju ke arah tertentu dan tiba-tiba, sepertinya anda tidak dapat mencapainya di bidang yang anda geluti. namun seperti yang anda katakan, microsoft turun tangan dan satya nadella berkata, bekerjalah bersama kami dan kami akan membangun kembali tim.

jika ada satu hal yang disepakati orang tentang sam altman, dia adalah orang yang ulet. dia tidak kenal kompromi dan percaya bahwa jika anda memiliki tujuan dan percaya pada sesuatu, anda tidak boleh membiarkan hidup menghalangi anda. dan sepertinya anda sedang menuju ke arah itu. anda belum mengatakan apa pun secara terbuka tentang openai atau meremehkannya dengan cara apa pun. namun hal itu tampaknya memberikan banyak tekanan pada anda.

sam:

tentu. saya tidak berpikir itu adalah sesuatu yang saya tidak dapat pulihkan, tapi saya pikir tidak mungkin untuk melalui ini dan tidak terpengaruh, itu akan sangat aneh.

trevor:

apakah anda merasa kehilangan sebagian dari diri anda?

sam:

ya. kami memulai openai pada akhir tahun 2015. hari pertama kerja sebenarnya sudah dimulai pada tahun 2016.

saya telah melakukan ini di yc selama beberapa waktu, tetapi sejak awal tahun 2019 saya telah melakukannya secara penuh waktu. agi dan keluargaku adalah dua hal yang paling aku pedulikan. jadi kehilangan salah satunya, bagi saya, dalam arti tertentu, membuat saya lebih berkomitmen pada agi dan lebih peduli pada misinya. namun tentu saja, saya juga peduli dengan organisasi ini, orang-orang ini, pengguna kami, pemegang saham kami, dan semua yang kami bangun di sini. jadi, itu sungguh menyakitkan.

satu-satunya pengalaman hidup yang dapat saya bandingkan adalah ketika ayah saya meninggal, yang tentu saja jauh lebih buruk. itu adalah hal yang sangat mendadak, perasaan bingung dan kehilangan. kalau begitu, aku merasa punya sedikit waktu untuk menerima semuanya. tapi masih banyak lagi yang akan datang dan itu sangat tidak terduga sehingga saya harus mengambil bagian dari hidupnya untuk sementara waktu. baru sekitar seminggu setelah itu saya benar-benar punya waktu untuk bernapas dan berpikir, ya tuhan, saya tidak percaya ini terjadi. jadi ya, itu pasti jauh lebih buruk. namun di sini, ada gaung serupa.

trevor:

saat anda melihat masa depan perusahaan dan peran anda di dalamnya, bagaimana anda saat ini menemukan keseimbangan antara mendorong ai terbuka ke depan dan terus bergerak ke arah yang anda yakini? apakah anda masih memiliki rem darurat? apakah ada sistem di dalam perusahaan yang ketika anda merasa kami menciptakan sesuatu yang mungkin berdampak buruk pada masyarakat, kami turun tangan dan menghentikan perilaku tersebut. apakah anda memiliki kemampuan ini? dan apakah sistem ini ada di dalamnya?

sam:

ya, tentu saja. kami telah memiliki sistem seperti itu di masa lalu. misalnya, kami membuat beberapa sistem tetapi memilih untuk tidak menerapkannya. saya yakin kami akan melakukan ini lagi di masa depan. atau kita membuat sebuah sistem dan berkata, hei, kita memerlukan waktu lebih lama untuk mengamankannya sebelum kita dapat menerapkannya. seperti dalam kasus gpt-4, kami membutuhkan waktu hampir delapan bulan untuk menyelesaikan pelatihan sebelum kami siap merilisnya, dengan semua penyelarasan dan pengujian keamanan. saya ingat berbicara dengan beberapa anggota tim dan ini bukanlah keputusan dewan, ini adalah orang-orang di sini yang melakukan pekerjaan mereka dan berkomitmen terhadap misi kami. jadi ini akan terus berlanjut.

yang sangat saya banggakan dari tim ini adalah kemampuannya untuk berfungsi dengan baik di tengah kekacauan, krisis, ketidakpastian dan stres. saya memberi mereka nilai a+, mereka melakukan pekerjaan dengan baik. ketika kita semakin dekat dengan sistem yang lebih kuat dan sangat kuat, saya pikir budaya dan kemampuan tim yang kita bangun mungkin merupakan elemen yang paling penting, seperti tetap tenang dalam krisis dan membuat keputusan yang baik dan bijaksana. saya pikir tim di sini sudah benar-benar membuktikan bahwa mereka bisa melakukan hal itu, dan itu sangat penting.

seseorang berkata bahwa salah satu hal yang kami pelajari tentang openai adalah sam dapat menjalankan perusahaan tanpa memiliki jabatan. menurutku itu sepenuhnya salah dan tidak benar. pelajaran yang benar adalah perusahaan dapat berjalan tanpa saya. ini adalah masalah budaya dan tim sudah siap serta budaya sudah siap. saya sangat bangga akan hal itu dan sangat bersemangat untuk kembali dan terus melakukannya.

menyaksikan tim mengelola semuanya membantu saya tidur lebih nyenyak di malam hari saat kita menghadapi tantangan di depan. akan ada tantangan yang lebih besar dari ini di masa depan, namun saya berharap dan yakin ini adalah tantangan tersulit karena kita tidak siap. kini kami menyadari pentingnya, kami bukan sekedar perusahaan biasa, jauh dari itu.

trevor:

mari kita bicarakan hal ini. chatgpt, openai, apa pun namanya. anda punya dall·e, anda punya whisper, dan semua produk luar biasa ini. jika anda mempunyai ide untuk nama merek atau arsitektur merek, saya akan sangat tertarik. saya merasa chatgpt telah melakukan hal itu dan kini ada di mana-mana. ya, itu nama yang buruk, tapi mungkin sudah terlalu umum untuk diubah. apakah menurut anda hal itu dapat diubah saat ini? bisakah kita menyederhanakannya menjadi gpt atau sekadar ngobrol?

sam:

entahlah, mungkin juga tidak.

trevor:

terkadang saya merasa sebuah produk, nama, atau ide melampaui impian para pemasar, dan orang-orang menerimanya.

sam:

tidak ada pemasar yang akan memilih chatgpt sebagai nama untuk ini, tapi kami mungkin terjebak dengan itu, dan itu mungkin tidak masalah.

trevor:

sekarang, saya terpesona dengan sifat multimodalnya. saya masih ingat ketika saya pertama kali melihat dall·e keluar, itu hanya sebuah ide, dan melihat cara kerjanya, dan melihat bahwa program ini dapat menciptakan sebuah gambar dari nol. saya mencoba menjelaskannya kepada orang-orang dan mereka bertanya, dari mana gambar itu berasal? saya seperti, tidak ada foto, tidak ada sumber gambar. mereka pikir itu mustahil.

ia melihat sesuatu yang, menurut saya saat itu, sulit untuk dijelaskan. bahkan terkadang saya kesulitan memahaminya. namun ketika kita melihat dunia yang kita tinggali saat ini, kita membicarakannya dalam angka, gpt 3.5, gpt 4, gpt 5, 6, 7, apapun itu. saya ingin berbicara lebih banyak tentang kasus penggunaan produk yang sebenarnya dengan cara yang menghilangkan jargon teknis.

di antara produk yang berbeda, dari chatgpt 3, 3.5 hingga 4, kami melihat apa yang disebut kemampuan penalaran mencapai tingkat yang lebih tinggi dan bahkan menunjukkan kreativitas sampai batas tertentu.

saat saya melihat produk di dunia ini yang anda buat sekarang, seperti model bahasa besar tujuan umum dan sekarang model bahasa besar khusus, saya bertanya-tanya, menurut anda apakah kasus penggunaan akan berubah secara dramatis? apakah menurut anda sekarang ini hanya seperti chatbot kecil, yang disukai semua orang, dan apakah ini bentuk akhir dari produknya? atau apakah menurut anda dunia akan menjadi dunia yang semuanya memiliki gpt khusus? misalnya, trevor akan memiliki gpt yang melakukan sesuatu untuknya, atau perusahaan tertentu akan memiliki gpt yang melakukan sesuatu untuk mereka. apa pendapat anda tentang masalah ini?

tentu saja, memprediksi masa depan itu sulit. namun dari posisi kita saat ini, menurut anda ke mana arahnya?

sam:

saya pikir ini akan menjadi campuran keduanya. sangat sulit untuk memprediksi masa depan, dan saya mungkin salah, tetapi saya tetap ingin mencobanya. saya pikir ini akan menjadi campuran dari dua hal yang baru saja anda sebutkan. pertama, model dasarnya akan sangat bagus sehingga sulit bagi saya untuk mengatakan dengan yakin bahwa tidak ada yang bisa dilakukannya. ini akan memakan waktu lama, tapi saya pikir kita sedang bergerak ke arah itu.

trevor:

berapa lama "waktu yang lama" dalam kerangka waktu anda? seperti bagaimana cara mengukurnya?

sam:

tidak dalam beberapa tahun ke depan. ini akan menjadi lebih baik setiap tahun selama beberapa tahun ke depan. namun seperti yang ingin saya katakan, saya cukup yakin bahwa pada tahun 2026, masih banyak hal yang tidak dapat dilakukan oleh model ini.

trevor:

namun bukankah model ini selalu mengejutkan anda? saat saya berbicara dengan para insinyur yang bekerja di bidang ini, atau siapa pun yang terlibat atau terkait dengan ai, satu kata yang paling sering keluar adalah “kejutan”. orang-orang terus mengatakan bahwa mereka mengajarkan hal ini, berpikir bahwa chatgpt sedang mempelajari bidang tersebut. tiba-tiba, ia mulai berbicara dalam bahasa baru, atau kami pikir kami mengajarkannya hal ini, dan tiba-tiba ia membangun jembatan, hal semacam itu.

sam:

oleh karena itu, pengalaman subjektif kebanyakan orang di sini mungkin terjadi antara tahun 2019 dan 2022. tapi sekarang, saya pikir kita telah belajar untuk berhenti terkejut. saat ini kepercayaan kami telah tumbuh secara eksponensial, dan kebanyakan orang berpendapat demikian. jadi, gpt-5, apapun sebutannya, akan unggul dalam banyak aspek. kita akan terkejut dengan beberapa hal spesifik yang bisa dilakukannya, dan kita juga akan terkejut dengan apa yang tidak bisa dilakukannya. tidak ada yang akan terkejut melihat betapa bagusnya itu. pada titik ini, saya pikir kita memiliki pemahaman yang sangat mendalam tentang hal ini.

hal kedua yang anda sebutkan adalah gpt khusus ini. lebih penting lagi, anda juga menyebutkan gpt pribadi, seperti trevor gpt. saya pikir ini akan menjadi tren besar dalam beberapa tahun ke depan. model-model ini akan mempelajari tentang anda, mengakses data pribadi anda, menjawab pertanyaan sesuai keinginan anda, dan bekerja di lingkungan anda dengan sangat efisien. saya pikir banyak orang menginginkan ini.

trevor:

ini hampir membuat saya bertanya-tanya, jika pasar tenaga kerja baru menjadikan gpt anda hampir seperti resume anda, gpt hampir lebih berharga daripada anda. apakah kamu mengerti aku? ini seperti kombinasi dari semua yang anda pikirkan dan semua yang pernah anda pikirkan, dan cara anda mensintesis ide-ide anda, ditambah gpt pribadi anda menjadi... saya hanya memikirkan masa depan yang gila, ketika anda pergi ke a pekerjaan, mereka bertanya, apa gpt anda? dan anda berkata, oke, ini milik saya.

sam:

kami selalu memikirkan agensi-agensi seperti ini, agensi-agensi yang dipersonalisasi ini, saya akan membiarkan hal ini melakukan sesuatu untuk saya. tapi menariknya apa yang anda katakan tentang ini adalah bukan seperti itu tapi bagaimana orang lain berinteraksi dengan anda. benar. ini seperti kesan tentang anda, avatar anda, gema anda, dll. saya bisa melihatnya mencapai titik itu.

trevor:

karena jika kita bukan kombinasi dari semua yang ada pada diri kita, lalu kita jadi apa? itu ide yang aneh, tapi aku bisa mempercayainya. saya selalu terpesona dengan kemana perginya dan apa yang bisa dilakukannya.

tahukah kamu alasannya? ketika chatgpt meledak dalam beberapa minggu pertama, saya tidak akan pernah lupa betapa cepatnya orang-orang menyadari, revolusi robot, saya tahu itu bukanlah robot, tetapi bagi manusia, mereka seperti, revolusi robot, mesin tidak menggantikan apa yang mereka pikirkan pekerjaan yang akan digantikan. anda tahu, orang mengira itu akan menggantikan pengemudi truk dan seterusnya. namun, kami menemukan bahwa tidak, pekerjaan-pekerjaan tersebut sebenarnya lebih sulit untuk digantikan. faktanya, pekerjaan yang digantikan oleh apa yang disebut "pekerjaan otak" adalah pekerjaan kerah putih anda. apakah anda seorang pengacara? nah, jika anda memiliki chatgpt 5, 6, 7, apa pun sebutannya, anda mungkin tidak memerlukan banyak pengacara. anda seorang insinyur dan anda berpikir, di mana tempat anda... tubuh manusia sungguh merupakan hal yang menakjubkan.

menurut anda, apakah ada kemajuan yang bisa menggantikan tubuh manusia? atau apakah kita masih berada di alam rohani?

sam:

tidak, menurut saya pada akhirnya kita akan membuat robot berfungsi, sama seperti robot humanoid yang pada akhirnya akan berfungsi. namun kami sedang mengerjakan ini pada tahap awal openai, kami memiliki proyek robotika. saya tidak tahu ini.

kami tahu bahwa kami membuat tangan robot yang dapat memanipulasi kubus rubik seperti tangan. hal ini memerlukan banyak fleksibilitas. saya pikir ada banyak wawasan berbeda yang terlibat, namun salah satunya adalah bahwa jauh lebih mudah untuk membuat kemajuan di dunia yang terdiri dari bit-bit dibandingkan di dunia yang terdiri dari atom.

misalnya, robot ini sulit dibuat, tetapi karena alasan yang salah. kesulitannya bukan karena hal ini membantu kita mengajukan beberapa pertanyaan penelitian yang pelik, tetapi robotnya terus rusak, dan tidak terlalu akurat, serta simulatornya buruk. sedangkan dengan model bahasa, anda bisa melakukan semua hal ini di lingkungan virtual, kemajuan anda bisa jauh lebih cepat. jadi, fokus pada aspek kognitif membantu kita memecahkan masalah yang lebih produktif dengan lebih cepat.

namun ini juga merupakan aspek yang sangat penting, dan menurut saya penyelesaian tugas kognitif adalah masalah yang lebih penting. misalnya, jika anda membuat robot, robot tersebut belum tentu dapat menemukan cara untuk membantu anda membangun sistem yang melakukan tugas kognitif. namun jika anda membuat sistem yang menyelesaikan tugas kognitif, hal ini dapat membantu anda mengetahui cara membuat robot yang lebih baik.

ya, itu masuk akal. jadi menurut saya kognisi adalah hal inti yang ingin kita fokuskan. saya pikir ini adalah keputusan yang tepat. saya harap kita bisa kembali ke robotika.

trevor:

pernahkah anda bertanya-tanya kapan menurut anda kecerdasan umum buatan telah tercapai? misalnya, bagaimana kita tahu? bagi saya pribadi? misalnya, kapan saya merasa tugas selesai?

sam:

karena semua orang berbicara tentang kecerdasan buatan secara umum, tapi saya bertanya, bagaimana kita tahu apa itu? jadi kembali ke poin sebelumnya, setiap orang mempunyai definisi yang berbeda-beda. saya pribadi akan memberi tahu anda ketika saya menjadi sangat bersemangat. saya menjadi sangat bersemangat ketika kita memiliki sistem yang membantu menemukan fisika baru. tapi ini terasa jauh melampaui kecerdasan umum. sepertinya, anda tahu maksud saya? ini melampaui apa yang menurut saya akan didefinisikan oleh kebanyakan orang.

trevor:

mungkin ini karena saya terkadang bertanya-tanya, bagaimana kita mendefinisikan kecerdasan umum? apakah kita mengartikannya sebagai jenius dalam bidang tertentu? atau seperti anak kecil yang memiliki kecerdasan umum buatan? itu sudah pasti. namun anda harus terus memprogramnya, dan ketika mereka lahir, mereka tidak dapat berbicara, tidak dapat berjalan, dan tidak mengetahui apa pun. dan anda terus memprogram agi ini agar dapat mencapai tujuannya.

jadi jika anda, katakanlah, anda sampai pada titik di mana anda memiliki versi anak berusia empat tahun.

sam:

bagaimana jika kita mempunyai sistem yang bisa seperti ini, baru saja kita ketahui, mampu beroperasi secara mandiri, dengan bantuan orang tua, dan memahami dunia seperti anak berusia empat tahun. ya, kita bisa menyebutnya agi. jika kita benar-benar dapat mengatasi kemampuan universal tersebut, kita dapat mengatasinya sendiri ketika masalah baru muncul. anak usia empat tahun tidak selalu memahami segala sesuatunya dengan sempurna, namun pada saat itu kami sudah jelas memahaminya.

trevor:

bisakah kita sampai pada titik itu tanpa memahami hakikat berpikir dan berpikir secara mendasar? tampaknya mungkin. apakah menurut anda kita bisa mencapai titik itu? saya pikir tidak apa-apa. atau kita bisa pergi ke... jadi saya yakin anda tahu ini.

salah satu cerita favorit saya di bidang ai adalah proyek di microsoft. mereka memiliki ai yang mencoba belajar mengidentifikasi wajah pria dan wanita, dan itu sangat akurat, sekitar 99,9% akurat. namun, masyarakat kulit hitam dan khususnya perempuan kulit hitam selalu kurang terwakili, dan selalu salah mengira mereka sebagai laki-laki. para peneliti selalu berusaha melakukan perbaikan, dan mereka selalu berpikir, apa yang terjadi?

untuk sementara, beginilah cara saya menceritakan kisahnya. ini mungkin sedikit tidak akurat, tetapi menurut saya ini menarik. ada suatu masa ketika mereka "mengirim" ai ke afrika, saya kira itu ke kenya. mereka mengirim ai ke afrika, dan kemudian memberi tahu tim peneliti di kenya, bisakah mereka menggunakannya untuk sementara waktu untuk mencoba memecahkan masalah ini? ketika ai ini dijalankan di belahan dunia tersebut, dengan kumpulan data dan wajah afrika mereka, ai ini menjadi semakin akurat dalam mengidentifikasi perempuan kulit hitam pada khususnya.

namun akhirnya, mereka menemukan bahwa ai tidak pernah mengetahui perbedaan antara wajah pria dan wanita. yang dilakukannya hanyalah menarik korelasi antar riasan. hasilnya, ai menentukan bahwa orang dengan bibir merah, pipi berwarna mawar, dan kemungkinan kelopak mata biru adalah perempuan, dan yang lainnya adalah laki-laki. para peneliti berkata, ya, anda benar. itu baru saja menemukan apa yang disebut "kode curang", lho. ibaratnya, saya paham apa standar anda untuk laki-laki dan perempuan, lalu dibedakan berdasarkan standar tersebut.

dan kemudian mereka menyadari bahwa karena perempuan kulit hitam pada umumnya kurang terlayani dalam hal riasan, mereka tidak memakai banyak riasan, sehingga sistem tidak mengetahuinya. tapi kita tidak tahu bahwa sistem tidak tahu. jadi saya berpikir, bagaimana kita tahu apakah agi mengetahui atau tidak mengetahui sesuatu? atau akankah kita menemukan bahwa ia hanya melakukan kecurangan dalam mendapatkan jawabannya? bagaimana kita tahu?

ketika ketidakpastian ini terkait dengan banyak aspek kehidupan kita, apa akibat dari ketidaktahuan kita? apakah kamu mengerti?

sam:

saya yakin kita akan membuat kemajuan dalam memahami apa yang dilakukan sistem ini. saat ini, interpretabilitas telah mengalami beberapa kemajuan. ini adalah bidang penelitian model-model ini, dan terdapat berbagai cara dan tingkat berbeda di mana penelitian ini dapat dilakukan. anda dapat mencoba memahami apa yang dilakukan setiap neuron buatan dalam sistem, atau anda dapat melihat sistem berpikir langkah demi langkah dan melihat langkah mana yang tidak anda setujui. kami akan mencari tahu lebih lanjut.

kemampuan untuk memahami apa yang dilakukan sistem ini dan mudah-mudahan menjelaskan kepada kita mengapa sistem tersebut mencapai kesimpulan tertentu, dan melakukannya secara akurat dan kuat. saya pikir kita akan membuat kemajuan tidak hanya dalam memahami bagaimana sistem ini melakukan apa yang mereka lakukan, namun juga dalam memahami bagaimana otak kita melakukan apa yang mereka lakukan. jadi saya pikir pada akhirnya kita akan memahaminya. aku penasaran, dan aku yakin kamu pun demikian.

menurut pendapat saya, kami akan membuat lebih banyak kemajuan dalam menerapkan metode yang kami tahu berfungsi untuk menjadikan sistem ini lebih baik dan lebih baik lagi serta membantu kami memecahkan tantangan kemampuan menjelaskan. dan, menurut saya, seiring dengan semakin pintarnya sistem ini, mereka akan semakin jarang tertipu. oleh karena itu, sistem yang lebih kompleks mungkin tidak dapat membuat perbedaan yang tampak seperti itu, dan mungkin akan belajar pada tingkat yang lebih dalam. saya pikir kita melihat beberapa bukti hal itu terjadi.

trevor:

anda membuat saya memikirkan dua hal ketika anda mengatakan tidak mudah tertipu. yang pertama adalah aspek keselamatan dan yang lainnya adalah aspek akurasi. media membicarakannya. anda ingat, kata mereka, ai sedang berhalusinasi, mengira akan membunuh saya. saya merasa sangat menarik bahwa orang suka menggunakan kata "berpikir" untuk menggambarkan model bahasa yang besar. karena saya selalu merasa bahwa jurnalis harus mencoba memahami apa yang dilakukannya sebelum mereka melaporkannya. namun ketika mereka banyak menggunakan kata "berpikir", justru membuat masyarakat salah paham. saya punya simpati untuk itu.

sam:

kita perlu menggunakan istilah-istilah yang familiar, kita perlu mempersonifikasikannya. tapi saya setuju dengan anda bahwa ini menyesatkan.

trevor:

karena anda mengatakan ia sedang berpikir, dan kemudian orang-orang akan berpikir, apakah ia berpikir untuk membunuh saya? bukan itu masalahnya, ia tidak berpikir, ia hanya menggunakan transformer ajaib ini untuk mencari tahu kata mana yang paling cocok satu sama lain.

sam: menurutmu apa yang sedang kamu lakukan?

trevor:

apa yang saya lakukan? ini adalah pertanyaan yang menarik. itulah yang saya katakan, adalah gagasan yang kami satukan.

kita berbicara tentang "halusinasi". mari saya mulai dengan babak pertama. apakah menurut anda kita dapat mencapai tujuan menjadikan ai tidak berhalusinasi?

sam:

saya pikir pertanyaan yang lebih baik adalah, bisakah kita memastikan bahwa ai tidak berhalusinasi ketika kita tidak menginginkannya, pada frekuensi yang sama dengan seberapa sering manusia tidak berhalusinasi. untuk ini, jawaban saya adalah ya. namun sebenarnya, salah satu hal yang disukai orang-orang tentang sistem ini adalah kemampuannya untuk melakukan hal-hal baru. kalau saja itu terjadi... ya, halusinasi adalah sebuah fitur sekaligus bug.

trevor:

itu yang baru saja saya tanyakan. bukankah halusinasi adalah bagian dari keberadaan cerdas?

sam:

sama sekali.

jika anda memikirkan, katakanlah, cara kerja seorang peneliti ai, mereka melihat banyak data, memunculkan beberapa ide, membaca banyak hal, dan kemudian mulai berpikir, mungkin ini atau itu. mungkin saya harus mencoba eksperimen ini. sekarang saya punya datanya. jadi, itu tidak berhasil. sekarang saya akan memunculkan ide baru ini.

kemampuan manusia untuk menghasilkan hipotesis baru, penjelasan baru, belum pernah ada sebelumnya, dan sebagian besar salah, namun kemudian ada proses dan umpan balik untuk mencari tahu mana yang mungkin masuk akal dan pada akhirnya benar-benar masuk akal. ini adalah salah satu elemen kunci kemajuan manusia.

trevor:

bagaimana kita mencegah kecerdasan buatan menghasilkan masukan sampah dan keluaran sampah? saat ini, kecerdasan buatan bekerja berdasarkan informasi yang dibuat oleh manusia dengan cara tertentu. itu belajar dari materi yang menurut kami bisa dipelajari. dengan banyaknya hal baru yang bermunculan saat ini, seperti open ai, anthropic, lambda, dll., rasanya kita memasuki dunia di mana lebih banyak informasi yang dihasilkan oleh ai dibandingkan manusia, dan informasi tersebut mungkin tidak mendapat perhatian yang layak.

jadi, apakah ai menjadi lebih baik jika ia belajar dari dirinya sendiri dengan cara yang tidak dapat disensor? apakah kamu mengerti aku?

sam:

sangat mengerti.

bagaimana kita mengatasi masalah ini? hal ini kembali ke masalah mengetahui bagaimana berperilaku dalam situasi yang berbeda. misalnya, anda menginginkan fantasi dalam proses kreatif, namun anda tidak menginginkan fantasi tersebut ketika mencoba melaporkan fakta akurat dari suatu peristiwa. dan sekarang sistem ini dapat menghasilkan gambaran baru yang indah dalam arti penting, gambaran yang dalam beberapa hal merupakan fantasi, namun merupakan fantasi yang bagus. namun sekali lagi, keadaan menjadi jauh lebih baik ketika anda ingin sistem hanya memberikan fakta, namun jalan yang harus ditempuh masih panjang.

tidak masalah. menurut saya, merupakan hal yang baik jika sistem ini dilatih berdasarkan data yang dihasilkannya sendiri, selama ada proses bagi sistem tersebut untuk mempelajari data mana yang baik dan mana yang buruk. sekali lagi, "halusinasi" bukanlah deskripsi yang cukup mengenai proses ini, karena jika hal tersebut memunculkan ide-ide ilmiah baru, ide-ide tersebut pada awalnya mungkin dianggap "halusinasi". ini sangat berharga.

tapi tahukah anda, mana yang baik dan mana yang buruk. dan perlu adanya pengawasan manusia yang memadai untuk memastikan bahwa kita semua masih memiliki kendali kolektif atas hal-hal tersebut. namun dalam batasan ini, menurut saya sangat baik jika sistem dilatih menggunakan data yang dihasilkan, dan sistem di masa depan akan melakukan hal yang sama.

dan kemudian anda mengingatkan saya tentang hal lain yang telah saya pikirkan, saya tidak begitu tahu cara menghitungnya, tapi saya bertanya-tanya apakah, katakanlah, sistem seperti gpt-5 atau 6 pada suatu saat akan dapat menghasilkan lebih banyak kata daripada manusia. seluruh sejarah digabungkan. ini terasa seperti sebuah pencapaian besar.

sebenarnya, mungkin tidak masalah kalau aku mengatakannya sekarang.

trevor:

dengan cara apa hal itu dihasilkan?

sam:

misalnya, model tersebut menghasilkan lebih banyak kata dalam satu tahun dibandingkan seluruh umat manusia. ada delapan miliar orang di dunia, atau berapapun jumlahnya. anda dapat menghitung rata-rata jumlah kata yang diucapkan per tahun.

namun pertanyaannya adalah, apa dampaknya bagi kita? itu sebabnya saya terkejut setelah saya mengatakannya. untuk beberapa alasan, ini sepertinya merupakan tonggak penting bagi saya, tetapi saya tidak dapat memikirkan alasan spesifiknya.

trevor:

mungkin manusia itu seperti monyet yang selalu mengetik. jadi, menurut saya ini layak untuk ditelusuri.

sam:

namun saya tidak menggunakan kata "berpikir" karena menurut saya anda benar dan sebaiknya anda tidak menggunakan kata ini. mungkin kita bisa mengatakan jumlah kata yang dihasilkan oleh ai versus jumlah kata yang dihasilkan oleh seluruh manusia.

trevor:

saya akan menyelesaikannya. jadi saya ingin mengajukan beberapa pertanyaan, dan jika saya tidak menanyakannya, orang akan membunuh saya.

salah satu pertanyaan utama, dan ini adalah pertanyaan pribadi saya, adalah bahwa kita selalu berbicara tentang pembelajaran ai dari data, data tersebut dimasukkan ke dalam kumpulan data. itulah yang sedang kita bicarakan. itu sebabnya anda memerlukan superkomputer bernilai miliaran dolar agar komputer dapat belajar.

bagaimana kita mengajarkan ai untuk berpikir lebih baik dibandingkan mereka yang memberikan data yang jelas-jelas memiliki kelemahan? misalnya, bagaimana ai belajar melampaui data terbatas yang diberikan kepada kita? terkait ras, status ekonomi, dan persepsi, karena kita terbatas, bagaimana kita mengajarkannya untuk tidak dibatasi oleh terbatasnya data yang diberikan kepada kita?

sam:

kami belum mengetahuinya, namun ini adalah salah satu arah penelitian terbesar yang ada di depan kami, yaitu bagaimana mengungguli data manusia. saya harap jika kita mengadakan tanya jawab ini lagi dalam setahun, saya bisa memberi tahu anda jawabannya, tapi saya belum tahu. kami tidak tahu itu penting.

namun, saya yakin hal ini akan menjadi kekuatan penting dalam perjuangan melawan ketidakadilan di seluruh dunia. saya tidak berpikir sistem ini akan memiliki kelemahan besar yang dimiliki semua manusia. mereka akan bisa dibuat jauh lebih tidak rasis, seksis, dan penuh prasangka buruk. mereka akan menjadi kekuatan keadilan ekonomi di dunia.

saya pikir jika anda memberikan mentor ai yang baik atau penasihat medis ai yang baik, hal ini akan membantu separuh masyarakat termiskin di dunia lebih dari sekadar separuh terkaya, meskipun hal ini juga membantu mengangkat semua orang.

jadi saya tidak mempunyai jawaban yang jelas atas pertanyaan ilmiah yang anda ajukan, namun saat ini, saya yakin bahwa sistem ini pasti bisa, dan kita harus melakukan kerja sosial yang keras untuk mewujudkannya, namun sistem tersebut mempunyai jawaban yang jelas. berpotensi menjadi sangat bumi menjunjung keadilan di dunia.

trevor:

mungkin itu mengarah pada pertanyaan kedua, yaitu, apa yang kamu lakukan? apa yang dilakukan openai? apakah anda sedang mempertimbangkan langkah-langkah untuk memitigasi kesenjangan antara kaya dan miskin yang sekali lagi diciptakan oleh teknologi baru ini?

kemunculan setiap teknologi baru merupakan hal yang menakjubkan bagi masyarakat secara keseluruhan, namun tidak dapat dipungkiri bahwa hal tersebut akan menciptakan momen dimana jika anda memilikinya, anda memiliki segalanya. dan jika tidak, anda keluar.

sam:

saya rasa kami akan belajar lebih banyak seiring berjalannya waktu, namun saat ini, menurut saya salah satu hal terpenting yang kami lakukan adalah menyediakan layanan yang benar-benar gratis. artinya tidak ada dukungan iklan, hanya layanan gratis yang digunakan oleh lebih dari 100 juta orang setiap minggunya. dan, sulit untuk mengatakan kepada siapa pun, karena di beberapa negara kami masih diblokir atau kami masih diblokir, namun kami berusaha membuat layanan yang benar-benar berkualitas tinggi dan mudah digunakan dapat diakses oleh siapa pun di mana pun kami bisa. kecerdasan buatan gratis, yang penting bagi kita masing-masing.

saya rasa ada hal lain yang ingin kami lakukan dengan teknologi ini. misalnya, jika kita dapat menggunakan kecerdasan buatan untuk membantu menyembuhkan penyakit dan membuat pengobatan tersebut tersedia bagi dunia, hal ini jelas bermanfaat, namun memberikan alat ini ke tangan sebanyak mungkin orang dan membiarkan mereka menggunakannya untuk membangun masa depan adalah hal yang tidak baik. sangat penting. dan saya pikir kita bisa mendorong hal ini lebih jauh lagi.

trevor: dua pertanyaan lagi.

sam: bisakah saya menambahkan satu lagi?

trevor: waktunya adalah milikmu.

sam:

hal lain yang menurut saya penting adalah siapa yang mempunyai kewenangan untuk memutuskan apa yang sistem ini katakan, jangan katakan, lakukan dan jangan lakukan, siapa yang menetapkan batasan-batasan tersebut. saat ini, pada dasarnya keputusan dibuat oleh karyawan openai, dan tidak ada yang akan mengatakan bahwa ini adalah representasi dunia yang adil. jadi, tidak hanya mencari cara untuk mendemokratisasi teknologi ini, tetapi juga mencari cara untuk mendemokratisasi tata kelola teknologi ini, itu adalah tantangan besar bagi kita tahun depan.

trevor:

ini terkait langsung dengan apa yang ingin saya tanyakan kepada anda, aspek keamanan dari semua ini. kami membicarakan hal ini di awal percakapan kami. saat merancang sesuatu yang mengubah dunia, anda harus mengakui fakta bahwa hal itu mungkin mengubah dunia dengan cara yang paling buruk atau ke arah yang paling buruk. dengan setiap lompatan teknologi, kemampuan seseorang untuk menyebabkan kerusakan yang lebih besar juga meningkat.

mungkinkah membuat ai sepenuhnya aman? lalu bagian kedua adalah, apa skenario mimpi buruk anda? apa yang membuat anda menekan tombol merah untuk mematikan openai dan semua ai? ketika anda pergi, anda tahu ini, jika ini bisa terjadi, kita harus menutup semuanya. apa yang kamu takutkan?

pertanyaan pertama adalah, bisakah anda menyimpannya dengan aman? bagian kedua adalah, apa adegan paling menakutkanmu?

sam:

saya pikir, pertama-tama, wawasan yang anda sebutkan, bahwa jumlah orang yang mampu menyebabkan kerusakan besar berkurang setiap dekade atau lebih, adalah fakta penting yang harus kita hadapi sebagai masyarakat.

kedua, menurut saya ini bukan soal bagaimana membuat sistem aman. seperti yang kita katakan bahwa pesawat terbang itu aman, pesawat terbang terkadang masih mengalami kecelakaan, meskipun hal ini sangat jarang terjadi. kami mengatakan obat-obatan itu aman, namun terkadang fda masih mensertifikasi obat-obatan yang dapat menyebabkan kematian pada beberapa orang. oleh karena itu, keselamatan tidak diputuskan secara sepihak, melainkan masyarakat memutuskan seberapa aman suatu hal dapat diterima setelah mempertimbangkan risiko dan manfaatnya. saya pikir kita bisa melakukan itu, tapi bukan berarti tidak ada yang salah.

saya pikir akan ada masalah besar dengan kecerdasan buatan yang harus kita waspadai. saya pikir masyarakat sebenarnya memiliki proses yang cukup baik, meski berantakan, untuk secara kolektif memutuskan ambang batas keselamatan apa yang harus ditetapkan. ini adalah negosiasi kompleks yang melibatkan banyak pemangku kepentingan, dan kita sebagai masyarakat semakin baik dalam hal ini seiring berjalannya waktu. namun kita harus waspada terhadap risiko bencana seperti yang anda sebutkan.

energi nuklir adalah salah satu contohnya. perang nuklir mempunyai dampak yang sangat besar terhadap dunia. dunia memperlakukannya secara berbeda dan telah melakukan pekerjaan luar biasa selama hampir 80 tahun terakhir. saya pikir situasi serupa akan terjadi pada kecerdasan buatan. salah satu contoh yang sering dibicarakan adalah penggunaan kecerdasan buatan untuk merancang dan membuat patogen sintetik yang dapat menyebabkan masalah besar. topik lain yang sering dibicarakan adalah masalah keamanan komputer dan kecerdasan buatan yang mampu melakukan peretasan melebihi kemampuan manusia.

selain itu, terdapat situasi baru di mana jika modelnya cukup kuat, model tersebut dapat membantu merancang metode untuk mentransfer bobot dari server, membuat banyak salinan, dan mengubah perilakunya, yang lebih mirip skenario fiksi ilmiah. namun menurut saya, kita sebagai masyarakat dunia perlu melihat hal ini secara langsung. mungkin bukan kasus spesifik tersebut, namun gagasannya adalah bahwa terdapat risiko yang sangat besar atau bahkan berpotensi ada, dan hanya karena kita tidak dapat mendefinisikannya dengan tepat bukan berarti kita dapat mengabaikannya.

oleh karena itu, kami berupaya keras untuk memprediksi dan mengukur apa saja permasalahan yang mungkin terjadi, kapan permasalahan tersebut akan muncul, dan bagaimana kami dapat mendeteksinya secara dini. saya pikir semua orang yang mengatakan anda tidak boleh membicarakan masalah ini, hanya tentang misinformasi dan bias serta isu-isu saat ini, adalah salah. kita harus membicarakan keduanya dan tetap aman di setiap langkah.

trevor:

oke, itu sama menakutkannya dengan yang kubayangkan. jadi, apakah anda benar-benar mempertimbangkan untuk mencalonkan diri sebagai gubernur? apakah itu benar?

sam:

tidak, tidak. saya memikirkan hal ini secara singkat pada tahun 2017 atau 2016, atau bahkan tahun-tahun serupa. saya pikir juga begitu.

ini terdengar seperti ide samar yang saya miliki selama beberapa minggu, untuk bersenang-senang.

trevor:

oke

saya kira pertanyaan terakhir saya adalah, apa selanjutnya? apa impianmu? jika sam altman dapat mengayunkan tongkat ajaib dan membuat kecerdasan buatan menjadi apa pun yang anda inginkan, menurut anda apa yang akan dihasilkannya di masa depan? apa kelebihannya? apa manfaatnya bagi semua orang? dan di setiap tingkatan, ini merupakan hal yang sangat bagus dan positif.

sam:

terima kasih telah menanyakan pertanyaan ini. saya pikir seseorang harus selalu mengakhirinya dengan nada positif.

ya. saya rasa kita sedang memasuki masa paling subur dalam sejarah umat manusia. saya pikir dua pendorong utama adalah kecerdasan buatan dan energi, namun akan ada faktor lain. kedua hal tersebut, kemampuan untuk memunculkan ide apa pun, kemampuan untuk mengimplementasikan ide-ide tersebut dan melakukannya dalam skala besar, batasan dari apa yang dapat dimiliki seseorang akan menjadi seperti apa yang dapat mereka bayangkan dan apa yang kita sebagai masyarakat negosiasikan. sesuatu. saya pikir ini akan menjadi luar biasa.

kita baru saja membicarakan, apa artinya jika setiap siswa bisa mendapatkan pengalaman pendidikan yang lebih baik dibandingkan siswa terkaya dan memiliki sumber daya terbaik saat ini? apa artinya jika kita semua mempunyai layanan kesehatan yang lebih baik daripada layanan kesehatan terbaik yang tersedia bagi orang-orang terkaya saat ini? apa artinya jika orang-orang secara umum dibebaskan untuk melakukan pekerjaan yang mereka anggap paling memuaskan secara pribadi, bahkan jika itu berarti mereka harus berpindah ke kategori pekerjaan baru? apa artinya jika setiap orang dapat memiliki pekerjaan yang mereka sukai dan memiliki sumber daya yang sama dengan perusahaan atau tim besar?

jadi, mungkin alih-alih memiliki 800 orang di openai, setiap orang mendapatkan 800 sistem ai yang lebih cerdas yang dapat melakukan semua hal ini dan orang-orang hanya membuat dan membuat semua hal ini, menurut saya itu sungguh luar biasa. saya pikir inilah dunia yang sedang kita tuju. hal ini memerlukan banyak upaya, selain teknologi, untuk mewujudkannya, misalnya masyarakat harus melakukan beberapa perubahan. namun kenyataan bahwa kita sedang memasuki zaman berkelimpahan ini membuat saya sangat gembira karenanya.

trevor:

itu saja yang akan saya katakan di sini. saya penggemar berat potensi keuntungan openai. saya bekerja di bidang pendidikan di afrika selatan. impian saya adalah memberikan setiap anak akses terhadap tutor terbaik. apakah kamu mengerti aku? secara harfiah, tidak ada anak yang tertinggal karena mereka dapat belajar dengan kecepatan mereka sendiri.

sam:

ngomong-ngomong, apa yang terjadi dengan anak-anak yang menggunakan chatgpt untuk mempelajari berbagai hal? kisah-kisah ini seperti yang saya terima melalui pos setiap hari. ini luar biasa.

trevor:

memang. ini sungguh menakjubkan. apalagi ketika pembelajaran menjadi lebih multimodal, seperti menambahkan video, menjadi luar biasa.

saya memimpikan, seperti yang anda katakan, perawatan medis. aku memimpikan semuanya. satu pertanyaan eksistensial yang menurut saya belum cukup kita bahas adalah, ketika ai telah secara efektif menggantikan semua hal ini, bagaimana kita mendefinisikan kembali tujuan manusia? karena, suka atau tidak, sepanjang sejarah anda akan menemukan bahwa tujuan kita sering kali menentukan kemajuan kita.

tujuan kami dulunya hanyalah agama. baik atau buruk, jika dipikir-pikir, agama benar-benar bagus dalam membuat orang berpikir dan bertindak ke arah tertentu di luar diri mereka sendiri. mereka berkata, "inilah tujuan saya." saya bangun untuk melayani tuhan, tuhan mana pun yang anda pikirkan. saya bangun untuk melayani tuhan. saya bangun untuk menyenangkan tuhan. menurut saya, hal ini membuat manusia merasa seolah-olah mereka sedang bergerak menuju suatu tujuan, namun hal ini juga memberi mereka rasa kebersamaan dan rasa memiliki.

saat kita memasuki dunia di mana ai menghilangkan hal ini, saya harap kita tidak melupakan betapa banyak orang yang seluruh identitasnya terikat pada apa yang mereka lakukan, bukan pada siapa mereka. ketika kita menggantikan peran-peran tersebut, ketika anda tidak memiliki pegawai, sekretaris, operator telepon, asisten, pekerja pabrik, itulah yang sering kita lihat terjadi dalam sejarah. seperti radikalisme yang muncul begitu saja, terjadi pertentangan besar-besaran. pernahkah anda memikirkan hal ini? apakah ada cara untuk mencegatnya sebelum hal itu terjadi?

sam:

bagaimana anda menggambarkan tujuan kami saat ini?

trevor:

saya pikir saat ini tujuan kami adalah untuk bertahan hidup dan kelangsungan hidup itu terkait dengan suatu bentuk pendapatan karena begitulah cara kami diberitahu bahwa kelangsungan hidup itu berhasil, anda harus menghasilkan uang untuk bertahan hidup. namun kita telah melihat bahwa situasi ini berubah dalam beberapa periode. ada contoh yang bagus di prancis, mereka (dan saya pikir mereka masih memiliki versinya) memiliki dana seniman di mana mereka akan berkata, kami akan membayar anda sebagai seniman dan anda hanya berkreasi untuk membuat prancis terlihat lebih cantik. itu sangat indah.

saya tahu anda adalah penggemar ubi. ya, kita tidak boleh pergi sebelum kamu membicarakannya.

sam:

menurut saya, kelangsungan hidup masyarakat tidak harus dikaitkan dengan kemauan atau kemampuan mereka untuk bekerja. menurut saya, itu seperti menyia-nyiakan potensi manusia. ya, saya sangat setuju dengan anda.

trevor:

tunggu, izinkan saya menanyakan ini sebelum anda pergi. apakah ini sebabnya menurut anda pendapatan dasar universal begitu penting? karena anda tidak akan membuang waktu dan uang untuk sesuatu yang tidak anda yakini, anda menghabiskan banyak waktu dan uang untuk pendapatan dasar universal. hal terakhir yang saya lihat, anda terlibat dalam sebuah proyek senilai sekitar empat puluh juta dolar. sebenarnya $60 juta.

sam:

saya pikir pendapatan dasar universal tentu saja bukan solusi komprehensif terhadap tantangan-tantangan yang ada di hadapan kita, namun menurut saya pemberantasan kemiskinan tentu saja merupakan hal yang baik. saya pikir redistribusi sumber daya yang lebih baik akan menghasilkan masyarakat yang lebih baik bagi semua orang. namun menurut saya, mengirimkan uang bukanlah hal yang penting. menyediakan alat dan menyediakan tata kelola, menurut saya, adalah hal yang lebih penting. orang-orang ingin menjadi arsitek masa depan dan saya rasa saya dapat mengatakan bahwa ada makna yang berkelanjutan atau semacam misi untuk kemanusiaan.

dari sudut pandang individu, hal ini tentu saja tentang bertahan hidup dan berkembang, namun secara keseluruhan kami memiliki urgensi kolektif untuk menjadikan masa depan lebih baik. kita sering kali menyimpang, namun kisah kemanusiaannya adalah: menjadikan masa depan lebih baik. itulah teknologi, itulah tata kelola, itulah cara kita memperlakukan satu sama lain. ibarat menjelajahi bintang, begitulah cara memahami alam semesta, apapun itu. saya memiliki keyakinan yang besar, dan keyakinan ini tertanam dalam diri kami. apa pun alat yang kita peroleh, hasrat mendasar tersebut, misi umat manusia untuk berkembang sebagai spesies dan individu, tidak akan pernah hilang.

jadi saya penuh optimisme terhadap dunia dua generasi dari sekarang. tapi ini poin yang sangat penting yang anda sebutkan, yaitu orang-orang yang sudah berkarir dan sebenarnya sudah cukup puas, mereka tidak mau berubah. perubahan akan datang. salah satu hal yang telah kita lihat dalam revolusi teknologi sebelumnya adalah bahwa tampaknya dalam waktu sekitar dua generasi, masyarakat dapat beradaptasi terhadap perubahan apa pun dalam pekerjaan. namun tidak dalam sepuluh tahun, dan tentu saja tidak dalam lima tahun.

kita akan menghadapi hal ini, dan saya pikir sampai batas tertentu, seperti yang telah kami katakan sebelumnya, saya pikir hal ini akan berjalan lebih lambat dari yang diperkirakan orang, namun masih lebih cepat daripada yang harus dihadapi masyarakat di masa lalu. saya tentu saja sedikit takut tentang apa artinya dan bagaimana kita beradaptasi terhadapnya. kita harus mengatasi hal ini, dan saya pikir kita akan menemukan solusinya. saya yakin kita akan mengetahuinya.

saya juga percaya bahwa jika kita memberikan anak cucu kita alat yang lebih baik dari yang kita miliki, mereka akan melakukan hal-hal yang akan membuat kita takjub. saya berharap mereka merasa sangat sedih tentang betapa buruknya hidup kita semua. saya berharap masa depan akan luar biasa. semangat dan keinginan manusia ini, suka mengeksplorasi dan mengekspresikan dirinya, merancang dunia yang lebih baik dan lebih baik lagi, bahkan melampaui dunia ini. saya pikir itu bagus dan saya sangat senang karenanya.

dalam arti tertentu, kita tidak boleh menganggap hal kecil ini terlalu serius. di star wars, ada penjahat yang berkata, "jangan terlalu terkesan dengan kengerian teknologi yang anda ciptakan." artinya, teror teknologi ini tidak sebanding dengan kekuatan the force.

dalam arti penting, saya juga merasakan hal yang sama tentang kecerdasan buatan. kita tidak perlu terlalu terkejut dengan hal ini. misalnya, semangat manusia akan membimbing kita melewati masa-masa sulit, dan ini jauh lebih hebat daripada revolusi teknologi mana pun.

trevor:

ini adalah pesan harapan yang indah.

saya harap anda benar karena saya menyukai teknologi ini.

satu hal yang ingin saya katakan kepada anda, sebagai sam altman, salah satu ceo time dan person of the year, saya pikir anda akan terus seperti itu, terutama dalam peran ini. karena besarnya dampak openai dan kecerdasan buatan terhadap kita, saya mohon anda terus mengingat bagaimana perasaan anda saat dipecat karena anda menciptakan teknologi yang akan menempatkan banyak orang pada posisi yang sama. saya melihat rasa kemanusiaan dalam diri anda, dan saya harap anda selalu mempertimbangkan hal itu saat anda berkreasi.

sam:

anda tahu apa yang saya lakukan pada sabtu pagi, pagi-pagi sekali, ketika saya tidak bisa tidur? saya menuliskan apa yang dapat saya pelajari dari hal ini sehingga saya dapat berbuat lebih baik ketika orang lain mengalami situasi yang sama dan menyalahkan saya seperti sekarang saya menyalahkan dewan direksi.

trevor: apakah kamu sudah mengetahuinya?

sam:

ada banyak pelajaran tunggal yang bermanfaat. namun empati yang saya peroleh dari seluruh pengalaman dan penataan kembali nilai-nilai saya, meski harus dibayar mahal, jelas merupakan berkah tersembunyi. saya senang mendapatkan pengalaman seperti itu.

trevor:

baiklah, sam, terima kasih atas waktunya. terima kasih banyak, sangat menikmati semuanya. saya harap kita bisa ngobrol tentang semua perkembangan baru dalam satu tahun.

sam:

anda pasti harus melakukan ini, itu akan menyenangkan.

trevor:

aku akan melakukannya, kawan. menakjubkan. terima kasih.