berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Sumber: Harian Rule of Law

Reporter Zhang Shoukun

"Ada gambar dan kebenarannya, dan semuanya disertifikasi oleh para ahli."

Baru-baru ini, warga Tianjin, Li Meng (nama samaran) bertengkar sengit dengan ibunya mengenai sebuah "artikel sains populer": ibunya sangat yakin bahwa artikel tersebut berisi video, gambar, dan kesimpulan penelitian yang diambil oleh berbagai dokter dan tim medis. Ini mungkin palsu; Li Meng dengan cermat mengidentifikasi artikel tersebut dan menemukan bahwa artikel tersebut dibuat oleh AI, dan platform tersebut juga membantah rumor tersebut, jadi pasti palsu.

Isi artikel ini berhubungan dengan kucing - ada seorang gadis yang sedang bermain dengan kucing dan terkena penyakit mematikan yang disebut "penyakit". Belakangan, seluruh dirinya menjadi tidak dapat dikenali. Justru karena artikel inilah ibu Li Meng dengan tegas menentang dia memelihara kucing karena takut dia juga akan menderita "penyakit". Li Meng tidak dapat tertawa atau menangis tentang hal ini, "Saya sangat berharap ibu saya dapat mengurangi penggunaan Internet."

Ibu Li Meng bukan satu-satunya yang tertipu oleh rumor AI. Baru-baru ini, badan keamanan publik di banyak tempat telah merilis sejumlah kasus terkait penggunaan alat AI untuk menyebarkan rumor. Misalnya, badan yang menerbitkan berita palsu tentang akun "ledakan Xi'an" dapat menghasilkan 4.000 hingga 7.000 lembar. berita palsu pada hari puncaknya, dengan pendapatan harian 1 Lebih dari 10,000 yuan, dan pengendali sebenarnya perusahaan, Wang Moumou, mengoperasikan 5 lembaga tersebut dengan 842 akun operasional.

Para ahli yang diwawancarai oleh reporter dari "Rule of Law Daily" menunjukkan bahwa alat AI yang mudah digunakan telah sangat mengurangi biaya pembuatan rumor dan meningkatkan urutan besarnya serta penyebaran rumor. Penyebaran rumor AI memiliki karakteristik ambang batas yang rendah, produksi massal, dan kesulitan dalam identifikasi. Pengawasan dan pemutusan rantai kepentingan di baliknya harus segera diperkuat.

Menggunakan AI untuk mengarang berita palsu

Menyebar dengan cepat dan banyak orang yang tertipu

Pada tanggal 20 Juni, polisi Shanghai mengeluarkan pemberitahuan bahwa dua pemasar merek memalsukan informasi palsu seperti "Menikam seseorang di Stasiun Kereta Bawah Tanah Zhongshan Park" untuk mendapatkan popularitas. Personel terkait telah ditahan secara administratif oleh polisi. Dalam laporan tersebut, ada satu detail yang menarik perhatian: seorang pemalsu menggunakan perangkat lunak AI untuk menghasilkan teknologi video guna membuat video palsu tentang serangan kereta bawah tanah dan informasi palsu lainnya.

Reporter tersebut menemukan bahwa dalam beberapa tahun terakhir, penggunaan AI untuk menyebarkan rumor telah sering terjadi dan menyebar dengan sangat cepat. Beberapa rumor telah menyebabkan kepanikan dan kerugian sosial yang besar.

Tahun lalu, dalam kasus seorang gadis yang hilang di Shanghai, sebuah geng dengan jahat mengarang rumor seperti "ayah gadis itu adalah ayah tirinya" dan "gadis itu dibawa ke Wenzhou" dengan cara yang "clickbait" dan "shock group". Geng tersebut menggunakan alat AI dan alat lainnya untuk menghasilkan konten rumor melalui matriks 114 akun, mereka menerbitkan 268 artikel dalam 6 hari, dengan banyak artikel mendapat lebih dari 1 juta klik.

Biro Keamanan Siber Kementerian Keamanan Publik baru-baru ini mengumumkan sebuah kasus. Sejak Desember 2023, informasi tentang "air panas yang keluar dari tanah di Distrik Huyi, Kota Xi'an" telah sering tersebar di Internet, dengan rumor seperti "air panas yang keluar dari tanah karena gempa bumi " dan "karena pecahnya pipa termal bawah tanah". . Setelah diselidiki, rumor yang relevan dihasilkan melalui pembersihan naskah AI.

Baru-baru ini, "kebakaran terjadi di sebuah bangunan tempat tinggal bertingkat tinggi di Jinan, dan banyak orang melompat untuk melarikan diri" dan "seorang petugas olah raga pagi menemukan orang yang masih hidup di kuburan dekat Gunung Pahlawan di Jinan"... "blockbuster" yang keterlaluan ini berita" tersebar luas di Internet dan menarik banyak perhatian. Administrasi Dunia Maya dari Komite Partai Kota Jinan segera membantah rumor tersebut melalui Platform Penyangkalan Rumor Bersama Internet Jinan, namun banyak orang masih bingung dengan munculnya "gambar dan kebenaran".

Sebuah laporan penelitian yang dirilis oleh Pusat Penelitian Media Baru dari Sekolah Jurnalisme dan Komunikasi di Universitas Tsinghua pada bulan April tahun ini menunjukkan bahwa di antara rumor AI dalam dua tahun terakhir, rumor ekonomi dan korporasi menyumbang proporsi tertinggi, mencapai 43,71%; setahun terakhir, rumor ekonomi dan perusahaan Tingkat pertumbuhan rumor AI mencapai 99,91%, di mana industri seperti katering, bawa pulang, dan pengiriman ekspres adalah yang paling terkena dampak rumor AI.

Jadi seberapa mudahkah menggunakan AI untuk membuat berita palsu?

Reporter tersebut menguji berbagai perangkat lunak kecerdasan buatan yang populer di pasaran dan menemukan bahwa selama kata kunci diberikan, "laporan berita" dapat segera dibuat dalam beberapa detik, termasuk detail kejadian, komentar, dan pandangan, ikuti -up tindakan, dll. Tambahkan waktu dan tempat, gambar dan musik latar, dan laporan berita yang terlihat nyata dan palsu selesai.

Reporter tersebut menemukan bahwa banyak rumor yang dihasilkan AI bercampur dengan konten seperti "menurut laporan", "departemen terkait sedang melakukan penyelidikan mendalam mengenai penyebab kecelakaan dan mengambil tindakan untuk melakukan perbaikan darurat" dan "mengingatkan jenderal masyarakat agar memperhatikan keselamatan dalam kehidupan sehari-hari". Masyarakat seringkali kesulitan membedakan keasliannya setelah mempublikasikannya secara online.

Selain berita AI, artikel sains populer, gambar, video sulih suara, dan suara tiruan setelah penggantian wajah, semuanya dapat dibuat menggunakan AI. Setelah penyesuaian manual dan penggabungan beberapa konten nyata, semuanya akan menjadi sulit dibedakan.

Zeng Chi, peneliti di Pusat Jurnalisme dan Pembangunan Sosial di Universitas Renmin Tiongkok, mengatakan bahwa sifat gabungan dari “AI generatif” memiliki kaitan yang kuat dengan rumor. Keduanya “menciptakan sesuatu dari ketiadaan” – menciptakan informasi yang terlihat jelas nyata dan masuk akal. AI telah membuat penyebaran rumor menjadi lebih sederhana dan lebih "ilmiah". AI merangkum pola dan menyatukan plot berdasarkan peristiwa-peristiwa panas, dan dapat dengan cepat menciptakan rumor yang sesuai dengan "ekspektasi" orang-orang dan menyebar lebih cepat.

“Platform online dapat menggunakan teknologi AI untuk mendeteksi secara terbalik penyambungan gambar dan video, namun sulit untuk menyensor kontennya. Saat ini, masyarakat tidak memiliki kemampuan untuk sepenuhnya mencegat rumor, apalagi banyak rumor yang belum diverifikasi atau informasi yang tidak dapat diverifikasi dan ambigu. " Kata Zeng Chi.

Pemalsuan untuk mendapatkan lalu lintas

Diduga melakukan berbagai kejahatan

“Efisiensi penyebaran rumor” dari beberapa perangkat lunak AI sungguh menakjubkan. Misalnya, ada software palsu yang bisa menghasilkan 190.000 artikel sehari.

Menurut polisi Xi'an yang menyita perangkat lunak tersebut, mereka mengekstraksi artikel yang disimpan oleh perangkat lunak tersebut selama 7 hari dan menemukan bahwa jumlah totalnya melebihi 1 juta, mencakup berita terkini, topik hangat sosial, kehidupan sosial, dan aspek lainnya. Pengguna akun mempublikasikan "berita" ini ke platform yang relevan secara terorganisir, dan kemudian menggunakan sistem hadiah lalu lintas platform untuk mendapatkan keuntungan. Saat ini, akun-akun yang terlibat dalam kasus tersebut telah diblokir oleh platform tersebut, dan perangkat lunak serta server terkait juga telah ditutup. Polisi masih menyelidiki kasus tersebut.

Di balik banyaknya insiden penyebaran rumor AI, motivasi para penyebar rumor terutama adalah untuk mengalihkan lalu lintas dan mendapatkan keuntungan.

“Gunakan AI untuk memproduksi copywriting populer secara massal, dan tiba-tiba Anda akan menjadi kaya.” “Biarkan AI membantu saya menulis artikel promosi, dan saya dapat menyelesaikan 3 artikel dalam 1 menit.” “Pembuatan gambar dan teks, AI secara otomatis menulis artikel, dan nomor tunggal dapat dengan mudah menghasilkan 500+ per hari. Operasi multi-akun, pemula dapat dengan mudah memulai”... Penelusuran reporter menemukan bahwa ada artikel “menjadi kaya” serupa yang beredar di banyak platform sosial, dan banyak blogger yang mendorongnya. mereka di area komentar.

Pada bulan Februari tahun ini, Biro Keamanan Publik Shanghai menemukan bahwa video pendek seorang artis yang "bernasib buruk dan meninggal dengan penyesalan" muncul di platform e-commerce, yang menarik banyak suka dan posting ulang.

Setelah diselidiki, konten video tersebut ternyata palsu. Setelah penerbit video mendatangi kasus tersebut, ia mengaku mengelola toko online makanan khas setempat di platform e-commerce. Karena penjualan yang buruk, dia membuat berita palsu yang menarik perhatian untuk menarik lalu lintas ke akun toko online-nya. Dia tidak tahu cara mengedit video, jadi dia menggunakan teknologi AI untuk menghasilkan teks dan video.

Zhang Qiang, mitra di Firma Hukum Beijing Yinghe, mengatakan kepada wartawan bahwa menggunakan AI untuk mengarang rumor online, terutama memalsukan dan dengan sengaja menyebarkan bahaya palsu, epidemi, bencana, dan informasi polisi, dapat dicurigai sebagai kejahatan memalsukan dan dengan sengaja menyebarkan informasi palsu. berdasarkan hukum pidana. Jika hal tersebut berdampak pada reputasi individu atau perusahaan, hal tersebut dapat dicurigai sebagai tindak pidana pencemaran nama baik dan merusak kredibilitas dan reputasi bisnis. Jika mempengaruhi perdagangan efek saham dan berjangka serta mengganggu pasar perdagangan, dapat diduga melakukan pemalsuan dan menyebarkan informasi palsu tentang perdagangan efek dan berjangka berdasarkan hukum pidana.

Terus perbaiki mekanisme penyangkalan rumor

Beri label yang jelas pada konten sintetis

Untuk mengendalikan penipuan dan kekacauan AI serta memperdalam tata kelola ekosistem online, departemen dan platform terkait telah memperkenalkan sejumlah kebijakan dan tindakan dalam beberapa tahun terakhir.

Pada awal tahun 2022, Administrasi Ruang Siber Tiongkok dan negara lainnya mengeluarkan "Peraturan tentang Pengelolaan Sintesis Mendalam Layanan Informasi Internet", yang menetapkan bahwa tidak ada organisasi atau individu yang boleh menggunakan layanan sintesis mendalam untuk memproduksi, menyalin, menerbitkan, atau menyebarkan informasi. dilarang oleh undang-undang dan peraturan administratif. Layanan sintesis mendalam melakukan kegiatan yang dilarang oleh undang-undang dan peraturan administratif seperti membahayakan keamanan dan kepentingan nasional, merusak citra negara, melanggar kepentingan sosial dan publik, mengganggu ketertiban ekonomi dan sosial, melanggar hak-hak yang sah. dan kepentingan orang lain, dll. Penyedia dan pengguna layanan sintesis mendalam tidak diperbolehkan menggunakan layanan sintesis mendalam untuk memproduksi, menyalin, menerbitkan, atau menyebarkan informasi berita palsu.

Pada bulan April tahun ini, Sekretariat Komisi Urusan Dunia Siber Pusat mengeluarkan "Pemberitahuan tentang Melaksanakan Tindakan Khusus" Membersihkan dan Memperbaiki Lalu Lintas Berlimpah Tanpa Batas 'Media Mandiri'', yang memerlukan penguatan pelabelan dan tampilan sumber informasi . Jika informasi dihasilkan menggunakan teknologi seperti AI, informasi tersebut harus ditandai dengan jelas sebagai dihasilkan oleh teknologi. Konten apa pun yang mengandung fiksi, deduksi, dan sebagainya harus diberi label yang jelas sebagai fiksi.

Untuk konten yang diduga menggunakan teknologi AI, beberapa platform akan memasang pengingat di bawah ini bahwa "konten tersebut diduga dihasilkan oleh AI, harap disaring dengan cermat", dan dengan jelas akan menambahkan label fiksi pada konten yang mengandung fiksi, deduksi, dll. ., dan mengambil "tindakan" terhadap akun ilegal. Larangan akun" dan tindakan lainnya. Beberapa pengembang model besar juga menyatakan bahwa mereka akan memberi tanda air pada konten yang dihasilkan melalui model besar melalui pengaturan latar belakang untuk memberi tahu pengguna.

Dalam pandangan Zhang Qiang, masyarakat masih belum memiliki pemahaman yang cukup tentang AI generatif dan kurang pengalaman dalam menanganinya. Dalam hal ini, sangat perlu diingatkan kepada masyarakat melalui media untuk memperhatikan penyaringan informasi AI. Pada saat yang sama, upaya respons di tingkat penegakan hukum perlu ditingkatkan dan segera menyelidiki serta memperbaiki perilaku seperti rumor dan penipuan melalui AI.

Zheng Ning, direktur Departemen Hukum Sekolah Manajemen Industri Kebudayaan Universitas Komunikasi Tiongkok, percaya bahwa mekanisme penyangkalan rumor yang ada harus lebih ditingkatkan. Begitu suatu informasi diidentifikasi sebagai rumor, maka harus segera ditandai dan didorong lagi kepada pengguna yang telah menelusuri rumor tersebut untuk membantah rumor tersebut. Tips untuk mencegah rumor ini menyebar lebih jauh dan menimbulkan kerugian yang lebih besar.

Perlu dicatat bahwa beberapa orang mungkin tidak memiliki kesadaran subjektif dalam menyebarkan rumor, tetapi hanya mempublikasikan konten hasil sintesis AI di Internet. Akibatnya, konten tersebut diposkan ulang dalam jumlah besar dan banyak orang mempercayainya, sehingga menimbulkan kerugian.

Dalam hal ini, Zeng percaya bahwa cara paling sederhana untuk mencegahnya adalah dengan merumuskan peraturan melalui departemen atau platform terkait, dan semua konten yang disintesis AI harus ditandai dengan "gambar/video ini disintesis AI".