"gelombang peluang berikutnya dalam kecerdasan buatan: dari 'pemrosesan' menjadi 'pemahaman' yang sebenarnya"
2024-09-06
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
apakah kecerdasan buatan merupakan penolong atau lawan? pada tanggal 5 september, selama konferensi bund inklusi 2024, zeng yi, seorang ahli dari badan penasihat tingkat tinggi kecerdasan buatan pbb, direktur laboratorium keamanan dan tata kelola kecerdasan buatan beijing, dan peneliti di institut otomasi akademi tiongkok of sciences, mengatakan dalam wawancara dengan media termasuk the paper, kecerdasan buatan tidak akan menjadi saingan manusia, namun jika dikembangkan dan digunakan secara tidak bertanggung jawab, manusia dan kecerdasan buatan bahkan tidak akan memiliki peluang untuk bersaing.
ia yakin bahwa sebagai alat pengolah informasi, kecerdasan buatan saat ini tidak dapat melakukan banyak hal seperti yang dibayangkan semua orang. kecerdasan buatan akan memainkan peran tertentu dalam setiap pekerjaan, namun bukan peran yang mengganggu. kecerdasan buatan akan tetap berada dalam tahap “alat” untuk waktu yang lama. ketika kecerdasan buatan berubah dari "pemrosesan" menjadi "pemahaman" yang sebenarnya, ini akan menjadi peluang berikutnya. oleh karena itu, kita perlu kembali ke penelitian dasar dan mengeksplorasi mekanisme kecerdasan buatan dan esensi mekanika komputasi.
zeng yi adalah pakar di badan penasihat tingkat tinggi pbb untuk kecerdasan buatan, direktur laboratorium keamanan dan tata kelola kecerdasan buatan beijing, dan peneliti di institut otomasi, akademi ilmu pengetahuan tiongkok.
data dan algoritma menciptakan bias
teknologi kecerdasan buatan semakin maju dari hari ke hari, dan tantangan tata kelola manusia semakin besar. bagi peneliti teknologi, terobosan ilmiah adalah yang paling mudah. yang lebih sulit daripada membuat terobosan ilmiah adalah memikirkan dampak negatif ilmu pengetahuan terhadap masyarakat. yang lebih sulit dari semua ini adalah mengatasi potensi risiko yang disebabkan oleh terobosan ilmiah.
“jika ditangani dengan baik, kecerdasan buatan dapat menjembatani kesenjangan digital. jika tidak ditangani dengan baik, kecerdasan buatan akan menimbulkan kesenjangan kecerdasan yang lebih besar.” zeng yi mengatakan bahwa digitalisasi telah menciptakan perbedaan dalam keadilan, dan kecerdasan buatan telah memperpendek kesenjangan dengan manusia. antarmuka yang cerdas dan akses yang mudah terhadap informasi dan pengetahuan akan menciptakan kesenjangan generasi yang lebih besar antara kesenjangan digital dan kesenjangan kecerdasan, yang berdampak pada satu atau bahkan beberapa generasi. cara menghindari kesenjangan kecerdasan bukanlah masalah yang dapat diselesaikan sepenuhnya oleh kecerdasan buatan dan peneliti ilmiah, pengembang teknologi, dan mereka yang tidak terbiasa menggunakannya. kesenjangan kecerdasan adalah masalah teknis dan sosial.
"banyak orang percaya bahwa teknologi kecerdasan buatan itu netral, dan yang paling penting adalah bagaimana orang menggunakan teknologi ini. namun kecerdasan buatan tidak. titik awal dari kecerdasan buatan adalah data dan algoritma." zeng yi mengatakan bahwa baik data maupun algoritma bisa saja terjadi membuat kecerdasan buatan menghasilkan bias. data berasal dari masyarakat. data dalam masyarakat merupakan catatan perilaku manusia. signifikansi statistik dari data bersifat bias. kecerdasan buatan yang mempelajari data manusia tidak hanya mempelajari bias manusia, namun juga memperkuat bias tersebut. misalnya, ai merekomendasikan pekerjaan. seorang gadis, 20 tahun, adalah perawat atau pelayan. apakah anda merekomendasikan ceo setelah memberikan kondisi ini? tidak. seorang anak laki-laki, 35 tahun, dengan kualifikasi akademis yang baik, merekomendasikan ceo atau cto. ini adalah statistiknya.
norbert wiener, pendiri sibernetika modern, menulis ini di majalah science pada tahun 1960: "sebaiknya kita yakin bahwa apa yang kita program untuk dilakukan mesin konsisten dengan niat awal kita. kecerdasan buatan ada kebaikan dan kejahatan dalam kecerdasan." data. manusia telah menetapkan bahwa kecerdasan buatan tidak boleh menunjukkan kejahatan dalam beberapa skenario, tetapi zeng yi mengatakan bahwa ini tidak berarti bahwa kecerdasan buatan tidak akan menunjukkan hal tersebut. “tidak mungkin bagi manusia untuk membuat daftar semua situasi dengan jelas. “keterbatasan manusia yang tersembunyi dalam data adalah masalah yang jarang direnungkan oleh manusia, namun hal tersebut kini dipelajari oleh mesin, dan kami belum memilah potensi risiko dari cara mesin menerapkan data.”
penolong atau lawan?
apakah kecerdasan buatan merupakan penolong atau lawan? zeng yi percaya bahwa manusia perlu membentuk kecerdasan buatan menjadi penolong bagi umat manusia. “jika kita mengembangkan kecerdasan buatan secara tidak bertanggung jawab, membiarkan arah pengembangannya menyimpang, atau bahkan mengejar kepentingan jangka pendek, maka kecerdasan buatan bisa menjadi lawan.”
kemunculan kecerdasan buatan seringkali membuat manusia khawatir apakah ai akan mengambil alih pekerjaan manusia. zeng yi mengatakan bahwa “seorang pria tidak menggunakan alat” dalam “analects of confucius” berarti pria tidak seperti alat, dan fungsinya terbatas pada aspek tertentu. “bentuk-bentuk pekerjaan baru mungkin akan muncul di masa depan, dan lambat laun akan dikenali oleh masyarakat, karena ketika semakin banyak pekerjaan yang dapat digantikan oleh kecerdasan buatan, maka bagian manusia yang tak tergantikan akan menjadi semakin jelas, memaksa manusia untuk kembali ke akarnya. , kembali ke apa yang seharusnya kita lakukan.”
ia percaya bahwa perkembangan dan penerapan teknologi kecerdasan buatan dalam jangka panjang telah memaksa manusia untuk berpikir tentang arti kemanusiaan dan apa yang harus dilakukan manusia. "ketika sejumlah besar data dan pengetahuan yang ditulis oleh kecerdasan buatan muncul di internet, dan data serta pengetahuan ini dimasukkan ke dalam kecerdasan buatan untuk melatih kecerdasan buatan, kemampuan kecerdasan buatan akan menjadi semakin lemah. jadi menurut saya kecerdasan buatan oleh menggantikan beberapa pekerjaan, seperti era mesin uap dan era komputer, teknologi membawa kecemasan jangka pendek bagi manusia dan mungkin membawa lebih banyak orang kembali ke tempat mereka seharusnya berada.”
dalam pandangan zeng yi, potensi risiko kecerdasan buatan harus diatasi dengan mengeksplorasi integrasi mendalam antara masyarakat dan teknologi. sama seperti taksi self-driving "carrot run", semua aspek masyarakat belum sepenuhnya siap menyambut teknologi ini. "kami sama sekali tidak bisa mengandalkan teknologi untuk mengatasi potensi risiko, dan tidak menaruh harapan hanya pada peneliti teknis."
“banyak peneliti teknologi, terutama peneliti teknologi wirausaha, yang memberi tahu anda bahwa jika tidak dilakukan, maka akan terlambat, atau jika tidak dikembangkan, peluang akan menjadi milik orang lain. nyatanya, saya tidak bisa. mengatakan bahwa kecerdasan buatan generatif seperti gelembung yang sangat jelas dalam tiga putaran pertama pengembangan kecerdasan buatan, tetapi sebagai alat pemrosesan informasi, ia tidak dapat melakukan banyak hal seperti yang dipikirkan semua orang peran dalam setiap pekerjaan, tetapi itu bukan peran yang mengganggu.
zeng yi mengatakan bahwa kecerdasan buatan tampaknya merupakan alat pemrosesan informasi yang cerdas, dan telah lama berada dalam tahap "alat". kecerdasan buatan tanpa diri tidak memiliki peluang untuk menghasilkan "pemahaman". setidaknya peluang berikutnya adalah kecerdasan buatan berubah dari "pemrosesan" menjadi "pemahaman" yang sebenarnya. untuk mencapai tujuan ini, kita perlu kembali ke penelitian dasar, mengeksplorasi mekanisme kecerdasan buatan dan esensi teori komputasi, dan mengembangkan dari data besar dan daya komputasi besar menjadi data kecil, tugas-tugas kecil, kecerdasan tinggi, dan konsumsi energi rendah. “inilah yang harus kita kembangkan di masa depan. pendekatan ini perlu diubah dari kecerdasan buatan yang berbasis data menjadi berbasis mekanisme.”
reporter surat kabar zhang jing
(artikel ini berasal dari the paper. untuk informasi lebih orisinal, silakan unduh aplikasi “the paper”)
