Jebakan di balik AI: Gambar belum tentu benar, waspadalah terhadap “penyamaran baru” rumor
2024-08-26
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
Dalam beberapa tahun terakhir, teknologi AI telah berkembang pesat dan menjadi hot spot di bidang sains dan teknologi global. AI telah berkembang dari sekedar penelitian akademis menjadi kekuatan penting yang mengubah gaya hidup manusia. Namun, beberapa orang dengan motif tersembunyi mengubahnya menjadi alat untuk menyebarkan rumor dan menghasilkan uang.
kasus nyata
Pada bulan Agustus 2024, sebuah berita mengejutkan menyebar dengan cepat di Internet. "Kabupaten Songxi di Nanping dilanda angin kencang yang mengakibatkan kematian satu orang di Jalan Zaoling." Berita tersebut diilustrasikan dengan gambar dan teks, bahkan terdapat klip video yang realistis, yang langsung menarik perhatian dan penerusan sejumlah besar netizen. Namun, setelah diverifikasi oleh badan keamanan publik, diketahui bahwa ini sebenarnya adalah video rumor online yang dibuat menggunakan AI.
Setelah diselidiki, ditemukan bahwa rumor tersebut dibuat oleh penerbit Zhou melalui perangkat lunak AI untuk mendapatkan perhatian dan lalu lintas. Setelah mengumpulkan gambar dan klip video, Zhou membuat informasi palsu dengan "gambar", "teks", dan "suara" dan mempostingnya di platform Internet, sehingga menyebabkan dampak sosial yang negatif.
Badan keamanan publik menjatuhkan sanksi administratif kepada Zhou sesuai dengan hukum.
Studi kasus
Para pembuat rumor memanfaatkan biaya rendah, efisiensi tinggi, dan pengoperasian AI yang sederhana. Dengan memberikan kata kunci, perangkat lunak AI akan secara otomatis merayapi informasi yang relevan di Internet, menggunakan berita hangat dan audio serta video online acak sebagai bahan untuk diproduksi secara massal. Rumor internet. Publikasikan di platform online utama untuk menarik perhatian atau memonetisasi lalu lintas. Penyebaran dan dampak rumor meningkat secara eksponensial.
Ketika rumor disamarkan sebagai AI, rumor tersebut tidak hanya dapat menghasilkan teks secara otomatis, tetapi juga dapat menghasilkan gambar, audio, dan video yang mendekati kenyataan, membuat adegan yang tidak ada menjadi hidup dan membuat karakter fiksi seolah-olah benar-benar ada. Hal ini sepenuhnya menumbangkan pemahaman konvensional kita bahwa "jika ada gambar, maka ada kebenaran", sehingga menyulitkan kita untuk membedakan kebenaran dari rumor Internet itu sendiri.
Rumor AI telah menjadi topik baru di Internet yang perlu segera diatasi. Jadi dalam kehidupan sehari-hari, bagaimana kita bisa tetap membuka mata, mengidentifikasi, dan menolak rumor AI?
Peringatan internet
01
Keingintahuan harus moderat: Saat dihadapkan pada informasi baru dan berlebihan, jangan terburu-buru mencari tahu kebenarannya terlebih dahulu. AI memilih dan mengambil topik yang menjadi perhatian semua orang untuk menciptakan rumor online dan menyebarkannya dengan memanfaatkan keingintahuan netizen. .
02
Jangan mempercayai informasi dari sumber yang tidak diketahui: Ingatlah untuk tidak mempercayai begitu saja dan menyebarkan informasi yang belum terverifikasi. Ketika Anda melihat informasi mencurigakan di media sosial atau internet, Anda dapat memverifikasinya terlebih dahulu atau menunggu berita resmi dirilis sebelum mengambil keputusan.
03
Selalu memperhatikan saluran yang berwenang: Waspada terhadap sumber informasi saat menelusuri informasi online, berlangganan akun media resmi dan departemen pemerintah, dan usahakan memilih media atau lembaga yang berwenang dan dapat dipercaya sebagai sumber informasi.
04
Analisis logis sangat diperlukan: perhatikan logika informasi jaringan. Jika Anda menemukan celah logis atau kontradiksi yang jelas dalam suatu informasi, kemungkinan besar informasi tersebut telah dirusak atau dibuat-buat.
Materi|Polisi Internet Fujian
Sumber: Biro Keamanan Siber Kementerian Keamanan Publik
