Shi Qian dan Xiao Chao｜Membangun garis pertahanan yang kokoh untuk sistem pengawasan keselamatan kecerdasan buatan
2024-08-11
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Gambar menunjukkan robot Tesla Optimus Prime. Foto oleh reporter kami Yuan Jing
Sidang Pleno Ketiga Komite Sentral Partai Komunis Tiongkok ke-20 mengusulkan: "Memperkuat pembangunan sistem keamanan jaringan dan membentuk sistem pengawasan keselamatan kecerdasan buatan." Ini adalah penerapan penting yang dilakukan oleh Komite Sentral Partai untuk mengoordinasikan pembangunan dan keamanan serta secara aktif merespons risiko keselamatan dengan kecerdasan buatan. Untuk memprediksi dan merespons secara efektif risiko yang timbul dari pengembangan teknologi kecerdasan buatan, serta dampak nyata yang ditimbulkan oleh penerapan kecerdasan buatan, dan untuk secara efektif mendorong penerapan dan pengembangan teknologi kecerdasan buatan, kita harus menganalisis secara mendalam karakteristik baru dari risiko sosial yang disebabkan oleh teknologi cerdas dan harapan terhadap risiko sosial. Prediksi, pengendalian ilmiah, dan panduan yang benar diperlukan untuk membangun sistem manajemen risiko sosial dengan kecerdasan buatan yang komprehensif yang mempertimbangkan pembangunan dan keamanan, dan memberikan momentum untuk perbaikan. efisiensi tata kelola sosial.
Empat karakteristik baru risiko sosial di era kecerdasan buatan
Saat ini, dunia telah memasuki era “masyarakat berisiko” dengan ketidakpastian yang tinggi. Teknologi kecerdasan buatan mengubah logika operasi dan aturan masyarakat modern. Nilai-nilai dan perilaku masyarakat manusia sedang direkonstruksi secara sistematis, dan dampaknya adalah risiko sosial Ini terutama menyajikan empat karakteristik baru: penyebaran, kaskade, turunan, dan histeresis:
Pertama, kecerdasan buatan telah meningkatkan kecepatan dan cakupan penyebaran informasi risiko, dan risiko sosial menular. Teknologi kecerdasan buatan mengurangi kesulitan dalam menghasilkan informasi dan meningkatkan luas dan kedalaman difusi informasi. Difusi informasi memperluas cakupan dampak peristiwa berisiko, membentuk sifat yang sangat menular. Pada saat yang sama, kecerdasan buatan dapat mengidentifikasi dan memperkuat emosi dan perilaku pengguna melalui analisis sentimen dan prediksi perilaku. Jika suatu jenis peristiwa risiko memicu reaksi emosional yang kuat seperti panik dan kemarahan, sistem kecerdasan buatan dapat memberikan prioritas untuk merekomendasikan dan menyebarkan informasi jenis ini, sehingga semakin memperburuk sentimen publik dan menjadikan informasi risiko tersebut sangat menular dan menular Pengawasan dan pengendalian yang efektif akan berdampak besar terhadap jaminan sosial dan ketertiban masyarakat.
Kedua, kecerdasan buatan mengaburkan batasan nyata dan nyata dari sistem sosial, dan risiko sosial semakin meningkat. Teknologi kecerdasan buatan membuat manusia dan manusia, manusia dan benda, serta benda dan benda menjadi sangat berpasangan. Batasan antara dunia maya dan dunia nyata menjadi kabur, membentuk sistem jaringan yang kompleks. Banyak aktivitas sosial yang dilakukan melalui platform virtual dan tertanam dalam situasi kehidupan nyata. Kebocoran data di dunia maya dapat berujung pada pencurian identitas di dunia nyata. Opini publik di media sosial dapat dengan cepat memengaruhi perilaku sosial dan pengambilan keputusan di dunia nyata . Sebaliknya, insiden keamanan di dunia nyata juga akan mempengaruhi keamanan dunia maya melalui transmisi data, dan interaksi antara dunia maya dan nyata akan menimbulkan efek risiko sosial yang berjenjang. Diberdayakan oleh teknologi cerdas, berbagai sistem sosial saling terhubung, dan banyak proses pengambilan keputusan dilakukan secara otomatis. Namun, keputusan yang salah oleh sistem otomatis dapat memicu serangkaian reaksi berantai, yang mengarah pada penyebaran risiko yang semakin besar.
Ketiga, kecerdasan buatan telah memicu serangkaian risiko sekunder dan rantai risiko, serta risiko sosial yang bersifat turunan. Penerapan teknologi kecerdasan buatan dapat menimbulkan risiko awal, dan dalam proses penyelesaian atau mitigasi risiko tersebut, selanjutnya akan menimbulkan serangkaian risiko sekunder sehingga membentuk rantai risiko yang kompleks. Peristiwa risiko dapat menyebar dengan cepat antar bidang yang berbeda dan ditransmisikan pada berbagai tingkat, sehingga membentuk risiko sekunder. Misalnya, serangan siber tidak hanya menyebabkan kebocoran informasi, namun juga dapat menyebabkan kecelakaan di dunia nyata seperti kemacetan lalu lintas, kegagalan peralatan medis, dll. yang berdampak pada Internet of Things. Kesalahan data atau algoritme yang tidak tepat juga dapat menimbulkan serangkaian risiko sekunder. Ambil contoh bias algoritmik. Mekanisme pengambilan keputusan yang tidak adil yang diakibatkannya sering kali menimbulkan ketidakpuasan sosial dan konflik. Peristiwa risiko biasanya menyebabkan perubahan perilaku dan psikologi masyarakat, yang selanjutnya menimbulkan risiko sekunder baru dan membentuk rantai risiko.
Keempat, kecerdasan buatan menyembunyikan dampak dari beberapa peristiwa risiko, dan risiko sosial bersifat tertinggal. Teknologi kecerdasan buatan bergantung pada sejumlah besar data untuk pelatihan dan operasi, serta bergantung pada algoritma untuk pengambilan keputusan. Kebocoran atau penyalahgunaan data mungkin tidak memiliki dampak langsung yang nyata. Proses dan hasil pengambilan keputusan mungkin tidak menimbulkan masalah dalam jangka pendek , namun seiring berjalannya waktu, penyalahgunaan data mungkin terjadi dan efek kumulatif dari bias algoritmik akan muncul seiring berjalannya waktu. Pada saat yang sama, teknologi kecerdasan buatan juga sangat bergantung pada infrastruktur teknis dan sistem otomasi. Kegagalan sistem atau cacat desain ini mungkin tidak mudah dideteksi dalam jangka pendek, namun seiring berjalannya waktu, akumulasi masalah secara bertahap dapat menimbulkan risiko sistemik. . Penerapan teknologi cerdas mempunyai dampak besar terhadap perilaku sosial dan psikologi. Misalnya, penggunaan sistem rekomendasi cerdas dalam jangka panjang dapat menimbulkan efek kepompong informasi, mempersempit pandangan pengguna, sehingga memengaruhi keberagaman dan inklusi masyarakat.
Empat Strategi untuk Mencapai “Tata Kelola Berorientasi AI”
Untuk merespons risiko sosial dan karakteristik baru yang mungkin disebabkan oleh perkembangan teknologi kecerdasan buatan secara efektif, model tata kelola risiko tradisional harus diubah secara tepat sasaran, sambil menggunakan teknologi kecerdasan buatan untuk meningkatkan efisiensi identifikasi risiko dan peringatan dini, dan mencapai tujuan "pemerintahan berbasis kecerdasan buatan" Pada saat yang sama, kita harus secara efektif mencegah dan memperingatkan terhadap kemungkinan risiko yang disebabkan oleh penerapan teknologi kecerdasan buatan, mewujudkan "pemerintahan yang berorientasi pada kecerdasan buatan", dan membangun sebuah logika tata kelola dua arah di mana "teknologi memberdayakan tata kelola sosial dan tata kelola mencegah penyalahgunaan teknologi".
Pertama, menggunakan data multimodal untuk mengidentifikasi hubungan interaktif yang kompleks dan meningkatkan akurasi identifikasi risiko dan peringatan dini. Data multimodal mengacu pada data yang diperoleh dari bidang atau perspektif berbeda untuk objek deskripsi yang sama, dan digunakan untuk mewakili berbagai bentuk data atau format berbeda dalam bentuk yang sama. Teknologi fusi data multimodal dapat sepenuhnya menambang dan memanfaatkan informasi pelengkap antar data, mengkarakterisasi karakteristik objek secara lebih komprehensif, mengidentifikasi atau menyimpulkan hubungan interaktif yang lebih kompleks, dan mencapai persepsi real-time, analisis korelasi, dan prediksi situasi dari sistem raksasa sosial yang kompleks dapat meningkatkan akurasi identifikasi risiko, membangun penilaian risiko dan kerangka peringatan dini yang lebih fleksibel, serta mencapai manajemen dan pengendalian risiko yang berwawasan ke depan dan dinamis. Hal ini juga dapat secara efektif mengintegrasikan proses pengambilan keputusan independen dalam proses peringatan dan respons terhadap risiko menyediakan entitas pengambilan keputusan yang berbeda dengan Menyediakan metode dan alat dasar untuk kolaborasi. Oleh karena itu, dimungkinkan untuk menganalisis data secara komprehensif dari berbagai modalitas seperti teks, gambar, audio, dan data sensor dengan mengintegrasikan berbagai data modal dari berbagai bidang, dan menerapkan teknologi seperti pembelajaran mesin dan pembelajaran mendalam untuk mengidentifikasi hubungan interaktif yang kompleks antar data. . Mempromosikan kolaborasi multi-pihak antara pemerintah, perusahaan, organisasi sosial, lembaga akademis, dll., membangun mekanisme berbagi informasi lintas departemen, mengintegrasikan sumber daya data multi-modal, membangun sistem peringatan dini secara real-time, dan menemukan serta memperingatkan potensi secara tepat waktu. risiko.
Kedua, mengembangkan rencana manajemen risiko yang dipersonalisasi berdasarkan tingkat pengembangan dan penerapan teknologi cerdas untuk mencegah konsentrasi tekanan risiko. Karena perbedaan dalam pembangunan ekonomi dan sosial serta tingkat penerapan teknologi kecerdasan buatan antar wilayah, yang pada gilirannya menyebabkan ketidakkonsistenan dalam kemampuan respons risiko, penyebaran dan evolusi risiko sosial antar wilayah tidak merata. Penting untuk merumuskan rencana manajemen risiko yang dipersonalisasi berdasarkan perkembangan regional yang sebenarnya, mengurangi tekanan lokal melalui kolaborasi multi-agen dan multi-regional, dan menghindari kerusakan struktural pada sistem sosial. Oleh karena itu, tata kelola risiko teknologi kecerdasan buatan harus terlebih dahulu menilai tingkat penerapan teknologi kecerdasan buatan di berbagai wilayah, menganalisis kemampuan respons risiko termasuk sumber daya darurat, infrastruktur teknis, dan kemampuan manajemen, serta mengidentifikasi kekuatan dan kelemahan respons risiko regional. Mengembangkan strategi manajemen risiko yang dipersonalisasi berdasarkan kondisi spesifik di berbagai wilayah. Misalnya, daerah yang secara ekonomi maju dapat fokus pada penguatan keamanan teknis dan perlindungan data, sementara daerah yang secara ekonomi terbelakang perlu meningkatkan pembangunan infrastruktur dan pemasyarakatan teknologi. Melalui dukungan kebijakan dan investasi modal, kami akan mendorong peningkatan tingkat penerapan teknologi cerdas di wilayah yang terbelakang secara teknologi dan mempersempit kesenjangan teknologi serta kemampuan respons risiko antar wilayah.
Ketiga, kita perlu menyeimbangkan perkembangan teknologi dan regulasi risiko, mengoptimalkan total biaya manajemen risiko, dan memastikan bahwa teknologi intelijen digital “dapat dikelola” dan “fleksibel”. Tata kelola risiko kecerdasan buatan perlu mempertimbangkan "keamanan" dan "pembangunan", tidak hanya untuk menghindari kerugian ekonomi dan sosial yang disebabkan oleh kegagalan tata kelola, namun juga untuk mencegah pengurangan manfaat ekonomi dan sosial yang disebabkan oleh tata kelola yang berlebihan. Biaya tata kelola risiko kecerdasan buatan mencakup banyak faktor biaya seperti biaya pencegahan risiko ketika mekanisme tata kelola berlaku dan gagal, biaya kegagalan sosial, dan biaya hilangnya manfaat sosial. Intensitas pengawasan dapat disesuaikan secara tepat waktu sesuai dengan kematangan teknologi dan skenario penerapannya. Pada tahap awal teknologi, pengawasan yang longgar diterapkan untuk mendorong inovasi; pada tahap teknologi yang matang, pengawasan diperkuat untuk memastikan keamanan dan standardisasi. Saat merumuskan strategi tata kelola risiko, penting untuk mengukur berbagai elemen biaya, melakukan analisis biaya-manfaat, dan memilih rencana tata kelola yang optimal untuk mengendalikan risiko secara efektif dan menghindari biaya tata kelola yang tidak perlu. Pada saat yang sama, untuk mengurangi biaya manajemen risiko secara efektif, dukungan kebijakan dan keuangan dapat diberikan untuk mendorong perusahaan dan lembaga penelitian ilmiah melakukan inovasi teknologi keamanan, dan sambil mempromosikan inovasi teknologi kecerdasan buatan, memastikan pengembangan langkah-langkah keamanan secara simultan .
Terakhir, kita perlu mempelajari dan menilai terlebih dahulu risiko sosial yang mungkin timbul dari pengembangan teknologi kecerdasan buatan, dan merumuskan sistem dan standar pengawasan risiko sosial kecerdasan buatan dengan tepat. Pesatnya perkembangan dan pengulangan teknologi kecerdasan buatan seringkali lebih cepat dibandingkan dengan perumusan dan penyesuaian kebijakan dan undang-undang, sehingga mengakibatkan ketertinggalan tertentu dalam standar kebijakan tata kelola untuk kecerdasan buatan. Oleh karena itu, penting untuk memasukkan penerapan teknologi kecerdasan buatan ke dalam tata kelola sosial, merumuskan sistem pengawasan keselamatan yang relevan dan standar industri untuk risiko sosial kecerdasan buatan, dan memastikan bahwa kebijakan dan undang-undang dapat mengimbangi perkembangan teknologi sambil mendorong pembangunan dan pengembangan. skenario penerapan teknologi cerdas. Tren perkembangan teknologi kecerdasan buatan harus dianalisis secara berkala, penilaian komprehensif harus dilakukan dari berbagai dimensi seperti teknologi, etika, hukum, ekonomi dan masyarakat, mekanisme peringatan dini risiko kecerdasan buatan harus dibentuk, dan potensi risiko yang ditimbulkan oleh teknologi baru harus ditemukan. dan diprediksi secara tepat waktu, serta penelitian dan perumusan harus dilakukan Kebijakan dan peraturan yang fleksibel dan berwawasan ke depan. Selain itu, kita harus berpartisipasi aktif dalam perumusan standar dan peraturan internasional, membangun platform kerja sama transnasional, mendorong kerja sama dan pertukaran antar negara dalam tata kelola kecerdasan buatan, dan bersama-sama menanggapi risiko dan tantangan teknologi global.
(Afiliasi penulis: Sekolah Ekonomi dan Manajemen, Universitas Tongji)
pengarang:
Teks: Shi Qian Xiao Chao Gambar: Yuan Jing Editor: Chen Yu Editor: Yang Yiqi
Harap sebutkan sumbernya saat mencetak ulang artikel ini.
