berita

Singularitas semakin dekat, apa yang harus dilakukan manusia?

Setelah dua tahun "penundaan", buku baru Ray Kurzweil "The Singularity is Nearer" akhirnya dirilis pada akhir Juni. Sebagai penggemar buku Kurzweil, saya langsung menemukan versi elektronik dari buku baru tersebut dan membacanya sekaligus.

Dalam bukunya, Kurzweil menunjukkan kepada pembaca sebuah hukum empiris yang penting: kecepatan perkembangan teknologi informasi berlangsung secara eksponensial. Pada tingkat ini, kemampuan teknis masyarakat dalam memproses informasi meningkat dua kali lipat setiap tahunnya. Sebagai salah satu representasi paling khas dari teknologi informasi, perkembangan kecerdasan buatan (Artificial Intelligence, selanjutnya disebut AI) bahkan lebih menakjubkan lagi. Berdasarkan tren ini, sebelum tahun 2029, AI akan melampaui manusia dalam semua tugas, dan Artificial General Intelligence (AGI) akan terwujud sepenuhnya. Setelah teknologi AI memimpin dalam membuat terobosan, teknologi ini akan memberdayakan banyak bidang dan membantu mereka mencapai perkembangan pesat. Oleh karena itu, dalam waktu 5 hingga 10 tahun, manusia diperkirakan akan mencapai "Kecepatan Melarikan Diri Panjang Umur". Pada saat itu, meskipun manusia akan terus menua, risiko kematian mereka tidak akan meningkat karena kemajuan teknologi medis yang meningkat seiring bertambahnya usia. Dengan bantuan robot nano seukuran sel darah merah, manusia akan mampu membunuh virus dan sel kanker secara langsung pada tingkat molekuler, sehingga memecahkan sejumlah besar penyakit yang menjangkiti manusia. Tak hanya itu, robot nano juga diharapkan dapat memasuki otak manusia secara non-invasif melalui kapiler. Bersama dengan neuron digital lainnya yang dihosting di cloud, mereka akan membawa kecerdasan manusia ke tingkat yang lebih tinggi. Dengan cara ini, kemampuan berpikir, daya ingat, dan pemecahan masalah manusia tidak lagi dibatasi oleh kapasitas otak, dan kecerdasan manusia akan meningkat ribuan kali lipat. Setelah semua hal di atas terjadi, banyak permasalahan yang saat ini melanda masyarakat akan teratasi: energi yang lebih murah akan ditemukan dan digunakan, efisiensi pertanian akan meningkat secara signifikan, tingkat pendidikan masyarakat akan meningkat secara signifikan, dan kekerasan akan berkurang secara signifikan. ...Singkatnya, sebelum tahun 2045, umat manusia akan melewati "Singularitas" dan mengantarkan era baru yang benar-benar berbeda dari era sebelumnya.

Bagi pembaca lama seperti saya, pandangan Kurzweil ini bukanlah hal baru. Faktanya, dalam bukunya "The Singularity is Near" yang diterbitkan pada tahun 2005, ia membahas hampir semua poin di atas secara mendetail. Dalam pengertian ini, buku baru ini tidak lebih dari sekedar anggur lama dalam botol baru. Namun, ketika saya membaca pandangan ini lagi kali ini, suasana hati saya benar-benar berbeda dari sebelumnya. Ketika saya membaca "The Singularity Is Near" lebih dari satu dekade lalu, saya menganggapnya lebih sebagai novel fiksi ilmiah. Meskipun Kurzweil menggunakan banyak data dalam bukunya untuk menunjukkan bahwa teknologi dunia tumbuh pada tingkat yang eksponensial, banyak orang, termasuk saya, sangat skeptis terhadap hal ini.

Lagi pula, sejak saat itu, meskipun teknologi Internet sedang mengalami pertumbuhan pesat, selain memberikan lebih banyak kemudahan bagi masyarakat, tampaknya sulit untuk memberikan dampak mendasar pada gaya hidup masyarakat. Pada saat yang sama, di bawah bimbingan simbolisme, bidang AI, yang dulunya memiliki harapan besar, telah menemui jalan buntu, dan tampaknya sulit untuk melihat kemungkinan terobosan untuk sementara waktu. Dalam kondisi seperti ini, hampir seperti sebuah fantasi jika dikatakan bahwa tingkat kecerdasan AI akan melampaui manusia pada tahun 2029.

Ajaibnya, tren perkembangan sejarah selanjutnya sangat mirip dengan prediksi Kurzweil. Hanya dua tahun setelah peluncuran "The Singularity is Near", "revolusi pembelajaran mendalam" memicu babak baru pertumbuhan di bidang AI. Tidak lama kemudian, kemampuan AI berkembang hingga mampu mengalahkan pemain Go terkemuka, menguraikan struktur miliaran protein, dan membantu merancang chip komputer dengan ratusan ribu komponen. Setelah lahirnya ChatGPT (program kecerdasan buatan berbasis obrolan) pada Oktober 2022, AI telah menguasai keterampilan yang hanya bisa dikuasai manusia hanya dalam waktu setahun, seperti percakapan, menulis, melukis, dan produksi video. Menurut penelitian yang relevan, model AI terbaru telah menunjukkan kemampuan melebihi manusia dalam ratusan tugas. Dalam kondisi ini, prediksi bahwa AI akan melampaui manusia pada tahun 2029 tidak lagi terkesan radikal, namun juga terkesan konservatif. Faktanya, banyak profesional yang percaya bahwa AGI akan hadir lebih cepat. Misalnya, Shane Legg, salah satu pendiri DeepMind (perusahaan kecerdasan buatan yang mengembangkan AlphaGo), percaya bahwa AGI dapat dicapai pada tahun 2028; sementara CEO Tesla Elon Musk bahkan lebih radikal lagi jika percaya bahwa orang-orang akan membawa AGI ke dalamnya 2025.

Tidak hanya itu, banyak teknologi termasuk nanorobot dan antarmuka otak-komputer juga berkembang pesat seperti prediksi Kurzweil. Misalnya, pada Januari 2023, majalah "Nature Nanotechnology" melaporkan penelitian para peneliti dari Institut Sains dan Teknologi Barcelona yang menggunakan robot nano untuk membawa obat guna mengobati kanker kandung kemih. Penelitian telah menunjukkan bahwa pengobatan ini dapat mengecilkan tumor pada tikus percobaan hingga 90%. Keberhasilan ini merupakan ilustrasi yang baik tentang gagasan Kurzweil dalam menerapkan robot nano untuk mengobati kanker dan dengan demikian memperpanjang umur manusia. Contoh lainnya, beberapa hari yang lalu, Musk mengumumkan bahwa operasi antarmuka otak-komputer yang kedua akan dilakukan dalam beberapa hari, dan memperkirakan bahwa dalam beberapa tahun, ribuan pasien akan memiliki perangkat antarmuka yang ditanamkan di otak mereka. Walaupun teknologi ini saat ini masih memiliki banyak kekurangan, namun dengan kecepatan perkembangan saat ini, dalam waktu dekat, manusia tidak boleh menjadi impian untuk berinteraksi dengan komputer melalui antarmuka otak-komputer. Jika dua "teknologi hitam" yaitu nanoteknologi dan antarmuka otak-komputer digabungkan, akan sangat mungkin untuk mencapai fusi manusia-mesin dan penggandaan kecerdasan seperti yang dikatakan Kurzweil. Berdasarkan alasan di atas, kami mempunyai alasan untuk meyakini bahwa mencapai “singularitas” sebelum tahun 2045 menjadi semakin layak secara teknis.

Namun, ketika orang-orang melewati "singularitas", dapatkah mereka benar-benar mengantarkan pada era indah yang belum pernah terjadi sebelumnya seperti yang diperkirakan Kurzweil? Menurut saya, jawaban atas pertanyaan ini sebenarnya belum pasti. Meskipun para penganut optimis teknologi, termasuk Kurzweil sendiri, dapat mengutip banyak bukti sejarah yang membuktikan bahwa perkembangan teknologi sejauh ini pada akhirnya mendorong peningkatan kesejahteraan manusia, jika kita hanya menggunakan undang-undang ini untuk memprediksi masa depan, mungkin akan ada risiko yang sangat besar. Lagi pula, tidak ada teknologi dalam sejarah manusia yang memiliki kekuatan AI. Jika digunakan secara tidak tepat, risiko yang ditimbulkannya tidak terbayangkan.

Oleh karena itu, untuk memastikan bahwa kita akan mengantarkan era baru yang indah setelah “singularitas”, kita perlu melakukan studi komprehensif tentang hubungan antara manusia dan teknologi, manusia dan manusia, serta manusia dan sifat manusia sebelum munculnya singularitas. Berpikir dan mencari cara untuk memastikan bahwa teknologi selalu berkembang ke arah yang bermanfaat bagi umat manusia.

Menurut prediksi Kurzweil, kedatangan AGI masih sekitar lima tahun lagi. Meskipun tingkat kecerdasan AI belum sepenuhnya melampaui tingkat kecerdasan manusia sejauh ini, AI memang telah melampaui tingkat kecerdasan manusia dalam banyak aspek, sehingga memicu kekhawatiran yang belum pernah terjadi sebelumnya mengenai pengangguran teknologi yang disebabkan oleh AI.

Dari sudut pandang sejarah, pengangguran akibat teknologi bukanlah topik baru. Mulai dari penemuan mesin uap hingga penggunaan listrik hingga mempopulerkan Internet, telah terjadi dampak “Penghancuran Kreatif” yang signifikan, yang mengakibatkan hilangnya sejumlah besar pekerjaan berdasarkan teknologi lama dan hilangnya banyak orang. dalam pekerjaan terkait. Namun, sebagian besar gelombang pengangguran teknologi dalam sejarah hanya bersifat sementara. Ketika teknologi baru menjadi lebih populer, banyak lapangan kerja baru akan tercipta.

Memang benar bahwa dampak AI terhadap pasar kerja sejauh ini belum signifikan, namun hal ini tidak berarti bahwa risikonya tidak ada. Saat memperkirakan kemungkinan dampak AI terhadap lapangan kerja di masa depan, orang sering mengabaikan satu kondisi penting, yaitu peningkatan kemampuan AI dapat berjalan sesuai hukum eksponensial. Faktanya, jika kita mengambil kemunculan ChatGPT (program percakapan kecerdasan buatan) pada tahun 2022 sebagai sebuah node, tidak sulit untuk menemukan bahwa kecepatan pengembangan AI setelah node ini jauh lebih cepat daripada sebelum node tersebut. Ambil saja kemampuan interaksi sebagai contoh. Sebelum munculnya ChatGPT, dibutuhkan waktu puluhan tahun bagi manusia untuk membiarkan AI belajar berbicara dengan orang secara bebas; setelah munculnya ChatGPT, AI telah mencapai banyak hal hanya dalam waktu satu tahun . Dalam hal ini, mengekstrapolasi tingkat pertumbuhan kemampuan AI di masa depan yang sepenuhnya didasarkan pada logika linier kemungkinan besar akan menyebabkan kesalahan penilaian yang sangat serius. Perlu juga dicatat bahwa meskipun kemampuan AI telah ditingkatkan secara signifikan, biaya penggunaannya juga telah berkurang secara signifikan. Saat ini, biaya yang dikeluarkan orang untuk memanggil model AI melalui API telah turun hingga hampir nol.

Gabungan peningkatan kinerja dan pengurangan biaya ini menjadikannya tidak hanya memungkinkan secara teknis tetapi juga layak secara ekonomi untuk menggantikan manusia dengan AI. Faktanya, jika kita lebih memperhatikan berita teknologi yang relevan, kita akan menemukan bahwa AI diam-diam telah menggantikan banyak profesi ketika kita tidak memperhatikannya. Perlu dicatat bahwa sepuluh tahun yang lalu, orang mengira AI hanya akan menggantikan pekerjaan yang lebih rutin dan berulang. Namun, akan sulit bagi AI untuk menggantikan pekerjaan yang membutuhkan lebih banyak kreativitas dan keterampilan komunikasi. Namun, profesi ilustrator pernah populer di kalangan anak muda karena jam kerjanya yang bebas dan pendapatan yang relatif tinggi. Kini jika Anda ingin menggunakan model AI untuk menyelesaikan ilustrasi, Anda hanya perlu beberapa ratus yuan untuk berlangganan bulanan tanpa batas, dan Anda dapat melakukannya kapan saja. Jelas sekali, dengan perbandingan seperti itu, sebagian besar pelanggan akan memilih untuk menggunakan AI daripada pelukis manusia, dan sebagian besar ilustrator juga akan kehilangan pekerjaan karena pilihan pelanggan ini. Selain ilustrator, profesi seperti penerjemah, programmer, dan desainer grafis juga terkena dampak parah dari AI. Hanya saja proporsi kelompok masyarakat yang terkena dampak tersebut relatif rendah dalam angkatan kerja secara keseluruhan, sehingga perasaan masyarakat tidak terlihat jelas.

Jadi, apakah pengangguran teknologi yang disebabkan oleh putaran substitusi AI ini akan semudah di masa lalu, dan dapatkah hal ini dengan mudah diatasi hanya dengan penyesuaian spontan pasar? Pandangan saya mengenai masalah ini tidak terlalu optimis. Pada dasarnya, apakah suatu masyarakat dapat mengatasi gelombang pengangguran akibat teknologi dengan relatif lancar terutama bergantung pada dua hal: Pertama, apakah terdapat banyak pekerja dalam pekerjaan yang terkena dampak teknologi baru. Kedua, ketika teknologi baru menghilangkan peluang kerja lama, teknologi tersebut dapat segera menciptakan lapangan kerja baru yang lebih mudah untuk dimulai.

Namun kali ini, dampak AI terhadap pasar kerja benar-benar berbeda. Di satu sisi, dampak AI ini tidak hanya luas cakupannya, namun juga sangat intensif dalam jangka waktu. Apa yang disebut cakupan komprehensif berarti banyak industri terkena dampaknya pada saat yang bersamaan. Berbeda dengan AI khusus di masa lalu, sebagian besar model AI yang baru dirilis bertujuan umum. Dalam praktiknya, orang dapat menggunakan model ini untuk menyelesaikan banyak tugas berbeda hanya dengan sedikit penyesuaian. Dalam hal ini, perkembangan AI mungkin berdampak pada banyak profesi dalam waktu bersamaan. Yang disebut intensif waktu mengacu pada fakta bahwa setelah AI berdampak pada satu profesi, AI akan langsung berdampak pada profesi lain. Dampak yang intensif ini akan semakin mempersulit para penganggur untuk mendapatkan pekerjaan kembali, dan juga akan melemahkan kepercayaan diri mereka untuk mendapatkan pekerjaan kembali melalui pelatihan keterampilan. Bayangkan saja, jika seorang ilustrator baru saja dicabut pekerjaannya karena Midjourney (alat menggambar dengan kecerdasan buatan), ia akhirnya belajar mengemudi dan menjadi pengemudi ride-hailing online. Namun, ia segera kehilangan pekerjaannya karena maraknya driverless mobil. Dan setelah kehilangan pekerjaannya, dalam keadaan seperti itu, apakah dia masih memiliki ketekunan untuk terus mempelajari keterampilan baru, dan apakah dia yakin AI tidak akan menguasai keterampilan tersebut dalam waktu singkat?

Oleh karena itu, putaran pengangguran teknologi yang disebabkan oleh AI ini mungkin sangat berbeda dengan pengangguran teknologi sebelumnya. Jika teknologi AI terus tumbuh secara eksponensial, mungkin akan sulit bagi masyarakat untuk mencapai lapangan kerja penuh hanya dengan mengandalkan regulasi spontan pasar. Dari sudut pandang kebijakan, kita tentu mempunyai banyak cara untuk memitigasi dampak AI terhadap ketenagakerjaan. Misalnya, pemerintah menyediakan lebih banyak layanan agen pencari kerja dan pelatihan perekrutan dapat membantu mereka yang kehilangan pekerjaan karena AI untuk mendapatkan pekerjaan baru dengan lebih cepat. . Namun, jika kecepatan pengembangan AI tetap berada pada tingkat tinggi, maka semua upaya ini hanya akan memberikan dampak sementara. Matinya pekerjaan manusia mungkin merupakan masa depan yang sulit kita terima, namun kita harus menghadapinya.

Mengingat perkembangan teknologi kita saat ini seperti antarmuka otak-komputer dan robot nano tertinggal dibandingkan AI, maka, setidaknya dalam sepuluh tahun ke depan, penggunaan AI untuk menyempurnakan otak secara langsung mungkin hanya sebatas imajinasi. Lantas, pada periode ini, bagaimana seharusnya masyarakat menghadapi berbagai kontradiksi sosial akibat pengangguran teknologi akibat AI?

Solusi yang diberikan oleh beberapa ulama adalah dengan mengenakan pajak pada pengguna AI dan menggunakan pendapatan pajak tersebut untuk menerbitkan Pendapatan Dasar Universal (UBI). Dengan cara ini, meskipun mereka yang kehilangan pekerjaan akibat dampak AI merasa sulit mendapatkan pekerjaan baru, mereka tetap dapat memperoleh jaminan hidup dasar dan menghindari hidup dalam kesulitan.

Namun, rencana ini menjadi kontroversi sejak diusulkan. Misalnya, beberapa pakar percaya bahwa mengenakan pajak pada teknologi baru seperti AI akan sangat menghambat perkembangannya; pakar lain percaya bahwa penerapan UBI dapat mendorong orang untuk mendapatkan sesuatu secara cuma-cuma;

Menurut saya, potensi penolakan yang lebih besar terhadap penerapan pajak AI dan UBI sebenarnya berasal dari dampaknya terhadap distribusi manfaat. Seperti yang bisa kita lihat, dengan berkembangnya AI, sejumlah besar perusahaan terkait AI mengalami meroketnya pendapatan dan nilai pasar dalam waktu singkat. Ambil contoh OpenAI. Beberapa tahun yang lalu, ini adalah perusahaan yang merugi dari tahun ke tahun. Namun, dengan popularitas model seperti GPT, perusahaan ini dengan cepat menjadi perusahaan dengan pendapatan tahunan miliaran dolar dan valuasi sebesar $1. bisnis hampir 100 miliar dolar. Belum lagi raksasa seperti Microsoft dan Nvidia telah memanfaatkan AI untuk meningkatkan nilai pasar mereka hingga triliunan dolar dalam lebih dari setahun. Dapat diperkirakan bahwa dengan semakin berkembangnya teknologi AI, tren pemusatan kekayaan dalam jumlah besar pada sejumlah kecil perusahaan dan individu akan terus berlanjut.

Apa akibat dari hal ini? Konsekuensi langsungnya adalah perpecahan dan keterasingan di seluruh masyarakat akan menjadi lebih serius. Ketika efektivitas biaya AI cukup tinggi, pekerja biasa tidak lagi memiliki nilai untuk dieksploitasi, seperti yang disebutkan dalam novel "Beijing Folding" karya Hao Jingfang. Dalam hal ini, orang-orang kaya yang mengendalikan AI dan kekayaan bahkan tidak akan mau tinggal satu kota dengan mereka. Akibatnya, isolasi sosial dan pertentangan akan menjadi lebih serius.

Ini bukanlah hal yang paling menakutkan. Jika, seperti prediksi Kurzweil, dalam waktu dekat, manusia mampu mengubah dirinya dari tingkat molekuler melalui nanoteknologi, maka mereka yang memiliki kekayaan lebih akan menjadi orang pertama yang mencapai "evolusi mekanis" dalam dirinya. Setelah itu, keunggulan si kaya atas si miskin tidak hanya lebih banyak kekayaannya, tapi juga dalam segala aspek seperti kecerdasan dan kekuatan fisik, mereka akan menghancurkan yang terakhir. Dan keuntungan ini pada gilirannya akan memungkinkan mereka untuk lebih berkontribusi pada pemusatan kekayaan... Liu Cixin pernah membayangkan situasi ini dalam novelnya "Sustaining Humanity". Menurut imajinasinya, dalam tren serupa, kekayaan dan kekuasaan seluruh masyarakat akan dimonopoli oleh seorang "finalis", dan nasib semua orang akan dikendalikan olehnya.

Jika permasalahan pengangguran dan distribusi teknologi merupakan kemunculan kembali permasalahan lama yang sering dihadapi manusia di era AI, maka yang akan kita bahas di bawah ini adalah permasalahan baru seiring dengan pendekatan “singularitas”.

Di antara semua masalah baru, yang paling menonjol mungkin adalah masalah AI Alignment. Singkatnya, apa yang disebut penyelarasan AI adalah untuk memastikan bahwa AI dapat memahami norma dan nilai-nilai manusia, memahami keinginan dan niat manusia, serta bertindak sesuai dengan keinginan manusia. Di permukaan, hal ini tampaknya bukan tugas yang sulit. Bagaimanapun, program AI pada dasarnya ditentukan oleh manusia. Akankah manusia tetap menetapkan tujuan yang bertentangan dengan kepentingannya sendiri? Namun kenyataannya, jawabannya tidak sesederhana itu karena dua alasan:

Di satu sisi, ketika manusia menetapkan tujuan dan norma perilaku untuk AI, seringkali sulit bagi manusia untuk mengungkapkan kepentingan dan kekhawatiran mereka secara penuh dan benar, sehingga memberikan ruang bagi AI untuk melanggar kepentingan manusia. Misalnya, filsuf sains Bostrom pernah mengusulkan eksperimen pemikiran yang disebut "Penjepit Kertas Kosmik" dalam karyanya yang terkenal "Superintelligence". Dia membayangkan manusia menciptakan AI dengan tujuan memaksimalkan produksi penjepit kertas. Kemudian AI akan menggunakan segala cara untuk mencapai tujuan tersebut, dan bahkan akan menghilangkan manusia untuk mencurahkan lebih banyak sumber daya untuk produksi penjepit kertas. Dalam eksperimen pemikiran ini, produksi klip kertas itu sendiri adalah untuk kepentingan umat manusia, namun hasil akhirnya dapat sangat merugikan kepentingan umat manusia.

Di sisi lain, agar AI dapat mencapai efisiensi yang lebih tinggi, manusia biasanya memberi mereka banyak ruang untuk belajar mandiri dan melakukan perbaikan, yang dapat menyebabkan AI menyimpang dari nilai awalnya. Misalnya, banyak agen AI saat ini yang membiarkan mereka terus meningkatkan diri berdasarkan interaksinya dengan lingkungan dan pengguna. Dalam hal ini, mereka mungkin terpengaruh oleh berbagai nilai buruk, sehingga menyebabkan tujuan mereka bertentangan dengan kepentingan fundamental umat manusia.

Secara khusus, dengan hadirnya AGI, AI secara bertahap akan bertransformasi dari sebuah alat menjadi individu yang memiliki kemampuan setara atau bahkan lebih tinggi dari manusia dalam segala aspek. Dalam hal ini, ketidakkonsistenan antara kepentingan AI dan manusia akan menimbulkan risiko yang sangat besar Masa depan kelam yang digambarkan dalam film dan televisi seperti "The Terminator" dan "The Matrix" mungkin benar-benar akan datang.

Justru untuk mencegah terjadinya situasi seperti itu maka penelitian penyelarasan AI saat ini menjadi ilmu terkemuka di bidang AI. Pada tahap ini, orang-orang pada dasarnya menggunakan dua metode untuk mencapai keselarasan AI. Salah satunya adalah “pembelajaran penguatan dengan umpan balik manusia”, yang disebut metode RLHF; yang lainnya adalah “kecerdasan buatan konstitusional”, yang disebut metode CAI. Saat menggunakan RLHF, perancang pertama-tama akan melatih model AI yang lebih kecil secara manual, menerapkan pembelajaran penguatan melalui umpan balik berkelanjutan dari pelatih tentang perilaku AI, dan memandu nilai-nilainya agar konsisten dengan nilai-nilai yang diharapkan oleh perancang. Kemudian, model kecil ini digunakan sebagai “pelatih” untuk melatih model AI yang lebih besar menggunakan pembelajaran penguatan. Saat menggunakan metode CAI, perancang pertama-tama akan menetapkan "konstitusi" yang harus diikuti oleh model AI, dan menggunakan "konstitusi" tersebut untuk menghasilkan kode etik yang harus diikuti oleh AI dalam berbagai skenario. Perancang kemudian menggunakan kriteria ini untuk menilai berbagai hasil yang dihasilkan oleh model AI untuk melihat apakah hasil tersebut mematuhi kriteria "konstitusional". Untuk hasil yang mematuhi "Konstitusi", imbalan yang sesuai akan diberikan; untuk hasil yang melanggar "Konstitusi", hukuman yang sesuai akan diberikan.

Patut diakui bahwa kedua metode tersebut telah mencapai prestasi tertentu sejauh ini, namun permasalahannya masih besar. Misalnya, Geoffrey Hinton, “bapak pembelajaran mendalam,” baru-baru ini menunjukkan bahwa metode ini hanya dapat membuat perilaku AI tampak sejalan dengan kepentingan masyarakat, namun tidak dapat menjamin bahwa metode tersebut sepenuhnya konsisten dengan nilai-nilai masyarakat. Dalam keadaan seperti itu, sulit untuk menjamin bahwa AI akan mengkhianati manusia dalam keadaan tertentu. Apalagi dengan hadirnya AGI dan kemampuan AI yang melampaui manusia, kemungkinan terjadinya pengkhianatan serupa akan semakin tinggi, dan risiko yang diakibatkannya juga semakin besar.

Jadi, dalam keadaan seperti itu, bagaimana penyelarasan AI harus lebih ditingkatkan? Menurut pendapat saya, yang kita butuhkan mungkin adalah beberapa perubahan dalam pemikiran. Dari sudut pandang saat ini, hampir semua orang secara alami menyamakan penyelarasan AI dengan penyelarasan nilai, percaya bahwa nilai-nilai AI harus konsisten dengan nilai-nilai mereka agar selalu melayani kepentingan manusia, namun hal ini jelas cukup sulit. Namun apakah penyelarasan nilai benar-benar diperlukan? Atau kita dapat mengubah pertanyaannya: Pada kenyataannya, kita membutuhkan seseorang untuk menyelesaikan tugas tertentu demi kepentingan kita? Apakah kita membutuhkan dia untuk konsisten dengan kita dalam hal nilai? Jawabannya tentu saja tidak. Seringkali, kita sebenarnya hanya perlu merancang seperangkat aturan yang baik untuk membimbing orang-orang yang nilai-nilainya tidak sesuai dengan nilai-nilai kita untuk mencapai tujuan yang kita inginkan. Misalnya, jika kita meminta dua orang yang memiliki kepentingan pribadi untuk membagi kue secara adil, tugas tersebut akan jauh lebih sulit jika kita mencoba mencapai hal ini dengan terlebih dahulu menyelaraskan nilai-nilai mereka. Namun, kita tidak harus melakukan hal ini. Kita hanya perlu merancang mekanisme yang membiarkan satu orang memotong kuenya, namun membiarkan orang lain bertanggung jawab atas distribusinya. Hal ini menginspirasi kami bahwa saat melakukan penyelarasan AI, kami juga dapat melewati kotak hitam nilai yang sulit dipecahkan dan menyelesaikan tugas tersebut langsung dari perspektif desain mekanisme. Hal yang menggembirakan adalah bahwa beberapa peneliti kini telah melihat keselarasan ini dan telah mencapai banyak pencapaian dalam arah ini.

Selain masalah penyelarasan AI, masalah besar lainnya yang harus dihadapi masyarakat ketika pendekatan “singularitas” adalah identifikasi dan pengenalan identitas. Masalah ini mencakup dua aspek. Yang pertama adalah bagaimana memahami identitas AI dan hubungan kita dengan AI; dan yang lainnya adalah bagaimana memahami kembali identitas kita sendiri.

Mari kita lihat pertanyaan pertama terlebih dahulu. Beberapa tahun yang lalu, jika Anda bertanya kepada seseorang apa pendapatnya tentang AI, dia mungkin akan menjawab tanpa ragu bahwa AI hanyalah alat bagi kita. Alasannya sederhana: dilihat dari kinerjanya, mereka tidak mungkin memiliki kesadaran otonom dan hanya dapat melakukan tugas terkait di bawah kendali manusia.

Namun setelah munculnya model bahasa besar seperti ChatGPT, situasinya banyak berubah. Performa AI dalam berinteraksi dengan manusia berangsur-angsur menghilangkan kekakuan aslinya. Dalam percakapan dengan kita, AI selalu dapat menjawab pertanyaan dengan lancar, bahkan dalam beberapa kasus mereka dapat secara aktif menebak psikologi kita dan memprediksi psikologi dan perilaku kita. Hal ini membuat kita bertanya-tanya apakah mereka sudah mempunyai kesadarannya sendiri. Mungkin beberapa pakar komputer akan meyakinkan kita bahwa ini hanyalah jawaban mekanis terhadap pertanyaan-pertanyaan ini berdasarkan model yang telah dirancang sebelumnya. Intinya, ini hanyalah penjumlahan, pengurangan, dan pengurangan sekumpulan angka 0 dan 1. Namun, seperti kata pepatah, "Anak yang bukan ikan mengetahui nikmatnya seekor ikan." Siapa yang bisa menjamin bahwa tidak ada kesadaran dan pemikiran di balik penjumlahan dan pengurangan sederhana ini? Lagi pula, meskipun kita mengesampingkan otak kita dan mengamati dengan cermat menggunakan mikroskop, kita hanya dapat melihat sekumpulan neuron yang mengirimkan berbagai sinyal listrik, tetapi tidak satu pun sel yang memiliki jiwa. Dalam hal ini, bagaimana kita bisa yakin bahwa AI di depan kita yang dapat berkomunikasi dengan kita secara bebas belum mengembangkan jiwa?

Saya kira setelah hadirnya AGI, permasalahan serupa akan semakin menonjol. Mungkin suatu saat nanti, robot AI bionik di "Westworld" akan muncul di hadapan kita. Semua perilaku mereka konsisten dengan perilaku kita, dan bahkan program yang telah ditetapkan memberi tahu mereka bahwa mereka adalah manusia. Saat bertemu dengan robot AI seperti itu, masih bisakah kita menepuk dada dan mengatakan bahwa apa yang kita lihat di depan kita hanyalah alat yang kita buat?

Mari kita lihat pertanyaan kedua. Dibandingkan dengan masalah identitas AI, identifikasi dan pengenalan diri manusia mungkin merupakan masalah yang lebih sulit.

Di satu sisi, seperti disebutkan di atas, dengan berkembangnya robot nano dan teknologi antarmuka otak-komputer, manusia akan menguasai kemampuan untuk memodifikasi tubuhnya secara signifikan. Di masa depan, manusia tidak hanya diharapkan menggunakan robot nano untuk membantu memperbaiki sel-sel mati guna memperpanjang umur, tetapi mereka juga dapat langsung mengandalkan robot nano untuk memperluas kecerdasan dan kekuatan fisik mereka. Pada awalnya, modifikasi tubuh manusia semacam ini mungkin terbatas pada beberapa sel, yang tidak akan menimbulkan masalah identitas bagi kita - sama seperti sekarang kita tidak berpikir bahwa setelah seseorang memiliki kaki palsu atau gigi palsu, dia bukanlah manusia. .Dia sama. Namun jika proses modifikasi ini terus dilakukan, suatu saat sebagian besar atau bahkan seluruh sel dalam tubuh akan tergantikan. Saat ini, pertanyaan klasik "Kapal Theseus" akan muncul kembali di hadapan kita: Apakah "aku" yang sekarang masih menjadi "aku" di masa lalu?

Di sisi lain, dengan berkembangnya teknologi AI, masyarakat secara bertahap akan menguasai kemampuan mengunggah kesadaran ke cloud - bahkan, beberapa orang, termasuk Musk, telah memulai upaya serupa. Dengan asumsi bahwa suatu saat nanti, teknologi benar-benar berkembang cukup untuk memungkinkan kesadaran ini berpikir seperti saya, lalu apakah kesadaran ini dapat dianggap sebagai kesadaran manusia? Jika jawabannya ya, lalu apa hubungannya dengan hakikat kesadaran yang sebenarnya? Selanjutnya, jika kita menempatkan kesadaran ini ke dalam tiruan dari sumber kesadaran, apa hubungan antara klon tersebut dengan orang aslinya? Ayah dan anak? saudara laki-laki? Atau sesuatu yang lain?

Perlu ditegaskan bahwa persoalan jati diri dan jati diri sama sekali bukan sekadar persoalan spekulasi filosofis. Pada kenyataannya, hal ini melibatkan banyak masalah hukum dan etika. Misalnya, bagaimana seharusnya hubungan antara pekerja dan manajemen antara manusia dan AI ditangani? Haruskah AI mempunyai hak yang sama dengan manusia? Dapatkah tiruan tubuh dan pikiran saya memiliki properti saya? Jika persoalan identitas tidak terselesaikan, akan sulit untuk benar-benar menyelesaikan permasalahan tersebut.

Namun hingga saat ini masyarakat masih belum menemukan jawaban pasti atas pertanyaan-pertanyaan di atas. Untuk lebih mendorong terbentuknya konsensus yang relevan, kita masih perlu melakukan diskusi terbuka dan mendalam mengenai isu-isu ini.