berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Kantor Berita Xinhua, Beijing, 24 Juli. Pada tanggal 24 Juli, "Xinhua Daily Telegraph" menerbitkan komentar berjudul "Untuk mengontrol penggunaan AI untuk menyebarkan rumor, sebaiknya kita" menggunakan AI untuk melawan AI."

Baru-baru ini, badan keamanan publik di banyak tempat telah mengumumkan sejumlah kasus terkait yang melibatkan penggunaan alat AI untuk menyebarkan rumor. Pada tanggal 20 Juni, Korps Kereta Api dan Bus Perkotaan dari Biro Keamanan Umum Shanghai mengeluarkan peringatan: Untuk mendapatkan perhatian, beberapa pemasar menggunakan perangkat lunak AI untuk membuat video palsu "Pembunuhan Kereta Bawah Tanah Shanghai" dan mempostingnya secara online, sehingga menyebabkan dampak negatif. dampak sosial. Selain itu, "berita" yang sensasional dan beredar luas seperti "ledakan mendadak di Xi'an" dan "kebakaran terjadi di gedung perumahan bertingkat tinggi di Jinan dan banyak orang melompat untuk melarikan diri" semuanya dipastikan hanya rumor yang dibuat-buat. oleh perangkat lunak AI. Motivasi utama menyebarkan rumor adalah untuk mendapatkan klik dan imbalan membaca dari platform konten Internet kepada pembuat konten, dan untuk menarik lalu lintas ke operasi platform e-commerce. Bagaimanapun, ini masih soal uang.

Dalam menghadapi teknologi AI generatif yang terus berulang, “melihat adalah percaya” dan “gambar dan kebenaran” mendapat tantangan. Dilihat dari kasus-kasus yang relevan, rumor yang dihasilkan oleh penjahat yang menggunakan teknologi AI terbaru bisa jadi "salah dan benar" dan sangat menyesatkan. Kecerdasan buatan juga dapat menghasilkan rumor yang dipersonalisasi berdasarkan karakteristik saluran komunikasi, dan menyampaikannya kepada khalayak tertentu dengan cepat dan akurat. Akibatnya, sering terjadi insiden seperti fitnah, kebocoran informasi, dan membahayakan keselamatan pribadi terhadap individu atau kelompok tertentu.

Untuk manajemen rumor online, tantangan yang lebih besar adalah bahwa alat AI yang mudah digunakan telah sangat mengurangi biaya penyebaran rumor dan meningkatkan urutan besarnya serta kekuatan penyebaran rumor yang memiliki karakteristik ambang batas rendah, produksi batch, dan kesulitan dalam identifikasi. Menelusuri Internet, ada banyak sekali artikel iklan seperti "Pembuatan gambar dan teks, AI secara otomatis menulis artikel, satu nomor dapat dengan mudah menghasilkan 500+ per hari, dan banyak nomor dapat dioperasikan, dan pemula dapat dengan mudah memulai" dan "Tidak perlu mencuci manuskrip, AI bisa menghasilkan 100 artikel asli sehari". Partisipasi pihak-pihak yang memiliki motif tersembunyi juga mempercepat terbentuknya rantai industri abu-abu. Pada saat yang sama, untuk memverifikasi informasi yang sulit dibedakan benar dan salah, institusi dan individu terkait harus menginvestasikan tenaga dan sumber daya material, sehingga menghabiskan banyak biaya sosial juga menyebabkan kerugian besar terhadap operasi sosial dan ekonomi. Semua hal di atas mengharuskan kita untuk sangat mementingkan karakteristik "pedang bermata dua" dari teknologi AI, mengambil tindakan tegas, mempertahankan postur tekanan tinggi, dan mengekang perilaku ilegal semaksimal mungkin.

Kita harus menggunakan cara yang lebih ampuh untuk menghilangkan penyakit dan menghilangkan dampak berbahaya. Beberapa platform konten Internet mengejar "lalu lintas terlebih dahulu" dan membiarkan berita palsu, "clickbait", dan topik kontroversial menyebar, memberikan landasan buruk bagi penyebaran rumor AI. Kita harus sadar bahwa lalu lintas yang disebabkan oleh penyebaran informasi palsu tidak akan bertahan lama, dan tidak akan pernah ada bisnis apa pun di dunia ini yang tidak memerlukan biaya dan menguntungkan. Platform pertama-tama harus mengkonsolidasikan tanggung jawab utama, dengan cepat mengidentifikasi dan memutus rantai transmisi dan rantai kepentingan informasi palsu termasuk rumor AI, lebih mengoptimalkan distribusi lalu lintas dan mekanisme pembagian pendapatan yang melibatkan konten AI, dan mengurangi ruang untuk menghasilkan keuntungan bagi mereka yang memiliki hak tersembunyi. motif untuk menghasilkan rumor. Departemen terkait juga harus menggunakan pedang mereka sesuai dengan hukum, menggunakan obat kuat untuk menghilangkan penyakit ini, menindak tegas individu dan institusi yang membuat berita palsu, dan memasang jalur tegangan tinggi di dunia maya untuk melarang penyebaran rumor AI.

Untuk "mengungguli" rumor dengan cara yang lebih cepat. Menghadapi penyebaran rumor AI yang tepat dan cerdas, sebaiknya kita mengeksplorasi “menggunakan AI untuk melawan AI”. Dalam beberapa tahun terakhir, beberapa platform konten Internet telah membentuk mekanisme untuk membantah rumor, dan departemen terkait juga telah berkoordinasi untuk segera merilis hasil penyelidikan dan penanganan guna menanggapi permasalahan sosial. Di masa depan, teknologi dan mekanisme seperti rekomendasi algoritme, pemantauan harian, dan pengumpulan petunjuk harus lebih dioptimalkan dan ditingkatkan untuk mendorong informasi yang menyangkal rumor dengan lebih cepat dan akurat, sehingga informasi yang lebih benar dan berharga dapat "berlari" mendahului rumor.

Penting untuk meningkatkan supremasi hukum dan mengarahkan teknologi untuk berbuat baik. Bagaimana agar kecerdasan buatan berkembang ke arah yang berorientasi pada manusia dan berorientasi pada teknologi, pengawasan tidak terlepas dari jaminan supremasi hukum. Saat ini, negara saya telah mengumumkan dan menerapkan undang-undang yang relevan seperti "Peraturan tentang Pengelolaan Sintesis Mendalam Layanan Informasi Internet" dan "Langkah-langkah Sementara untuk Pengelolaan Layanan Kecerdasan Buatan Generatif". penyempurnaan tata kelola peradilan di bidang AI. Hanya dengan menggambarkan dasar dasar pengembangan dan penggunaan AI melalui undang-undang dan memperjelas hak dan tanggung jawab semua pihak, kita dapat mencegah risiko dari sumbernya dan menghindari situasi pasif “utamakan polusi dan kemudian tata kelola”.