beri komentar sekarang｜tambahkan logo khusus untuk mencegah konten buatan ai tertukar dengan aslinya.
2024-09-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
berapa banyak gambar, teks, dan video berukuran besar yang kita lihat online setiap hari yang dihasilkan dan disintesis oleh kecerdasan buatan? bagaimana cara membedakan artikel ai, gambar ai, dan video ai secara akurat?
pada tanggal 14 september, administrasi ruang siber tiongkok merilis "langkah-langkah untuk pelabelan konten sintetis yang dihasilkan oleh kecerdasan buatan (draf untuk komentar)". "draf untuk komentar" bermaksud untuk menetapkan bahwa layanan sintesis yang dihasilkan yang disediakan oleh penyedia layanan mencakup teks, audio, gambar, dan video, adegan virtual, dll., tanda-tanda prompt yang mencolok harus ditambahkan di lokasi yang sesuai; ketika penyedia layanan menyediakan metode untuk mengunduh, menyalin, dan mengekspor konten sintetis, mereka harus memastikan bahwa file berisi tanda-tanda eksplisit yang memenuhi persyaratannya.
ketentuan ini sangat realistis dan perlu. dalam beberapa tahun terakhir, teknologi sintesis mendalam kecerdasan buatan telah banyak digunakan di banyak bidang, mulai dari pembuatan gambar, teks dan video hingga tanya jawab online, dan berbagai aplikasi bermunculan tanpa henti. tidak ada keraguan bahwa alat ai dapat membuat produksi konten dan penyebaran pengetahuan kita menjadi lebih efisien, dan seiring dengan semakin kuatnya kemampuan belajar ai, kemampuan “produksi” kontennya bahkan akan melampaui manusia di masa depan.
namun di sisi lain, efek konten sintetik dalam lebih realistis dan produksi lebih efisien, sehingga konten sintetik sulit dibedakan antara asli dan palsu. ketika sulit membedakan mana yang benar dan mana yang salah, dan melihat sudah tidak bisa dipercaya lagi, teknologi kecerdasan buatan ibarat pedang bermata dua, yang juga akan membawa masalah seperti distorsi informasi dan kebingungan kognitif pada masyarakat.
pada bulan november 2022, administrasi ruang siber tiongkok mengeluarkan "peraturan tentang pengelolaan sintesis mendalam layanan informasi internet", yang menetapkan tujuan, pelabelan, cakupan penggunaan, dan hukuman atas penyalahgunaan konten yang disintesis secara mendalam. "draf untuk komentar" ini lebih lanjut memperjelas bahwa apakah itu teks, audio, gambar atau video, "tanda pengingat yang mencolok harus ditambahkan di lokasi yang sesuai." ini merupakan persyaratan yang jelas bagi penyedia layanan: selama dibuat oleh alat ai, baik berupa artikel atau gambar, identifikasi yang jelas perlu ditambahkan.
ini sebenarnya adalah pengingat bagi pemirsa bahwa informasi online beragam. saat anda melihat artikel "orang dalam", gambar "panas", atau video "mengejutkan", anda harus terlebih dahulu memperhatikan apakah artikel tersebut dihasilkan oleh ai dan apakah artikel tersebut harus diterima. . bagaimana cara mengidentifikasinya?
perlu dicatat bahwa ketika teknologi secara bertahap menjadi “sipil”, penjahat dapat dengan mudah menggunakan ai untuk menyebarkan rumor dan menghasilkan berita palsu. belum lama ini, beberapa media meluncurkan organisasi mcn yang dapat menggunakan ai untuk menghasilkan 4.000-7.000 artikel rumor setiap hari. berkat berkah teknologi ai, artikel-artikel tersebut terlihat sangat "nyata dan masuk akal" bagi audiens yang belum familiar dengan teknologi internet setelah melihat informasi semacam ini dengan “gambar dan kebenaran”, mudah untuk mempercayai kebenarannya.
menurut survei media, dengan menggunakan ai dalam negeri, harga sebuah artikel ai hanya 0,00138 yuan, dan 7 artikel dapat dihasilkan dengan harga 1 sen. "tidak ada modal dan keuntungan besar" seperti itu dapat dengan mudah dieksploitasi oleh para penjahat. gambar dan video palsu seperti "serangan kereta bawah tanah", "ledakan di xi'an", "ledakan di rumah pribadi di wuxi, chongqing", dll. memiliki dampak sosial yang buruk. kebenaran di balik ini adalah rumor tentang produksi massal ai.
mencatat kecerdasan buatan untuk menghasilkan konten sintetis secara teknis tidak sulit untuk diterapkan. beberapa ahli menyarankan agar platform tersebut dapat sepenuhnya terhubung ke sistem model besar dari platform pembuatan konten ai, melakukan identifikasi dan perbandingan data secara real-time, dan kemudian melampirkan tanda air digital yang tidak dapat dilepas, atau deskripsi teks seperti "gambar ini/ video disintesis oleh ai".
"draft untuk komentar" ini menekankan bahwa "tidak ada organisasi atau individu yang boleh dengan sengaja menghapus, merusak, memalsukan, atau menyembunyikan pengidentifikasi konten sintetis yang dihasilkan yang ditetapkan dalam tindakan ini." hal ini untuk mengingatkan penyedia layanan dan platform ai bahwa mereka tidak boleh menggunakan ai alat untuk mewujudkan "dividen lalu lintas", kami mengadopsi sikap peredaan dengan menutup mata dan menutup satu mata. dunia maya yang jelas tidak boleh membiarkan konten ai membingungkan dan mengaburkan batasan realitas; jika ada informasi yang diidentifikasi sebagai rumor, platform harus segera memberi label dan membersihkannya.
kemampuan kecerdasan buatan untuk menghasilkan dan mensintesis melebihi kognisi tradisional, dan ini juga menyadarkan kita: banyak artikel online terlihat sangat "ilmiah", dan banyak video online terlihat sangat "nyata", tetapi belum tentu dapat diandalkan, jadi jangan' jangan terburu-buru mempercayainya. sebaiknya anda mencarinya terlebih dahulu. apakah ada tanda "gambar/video ini disintesis oleh ai" di posisi konten yang menonjol?
li qinyu, kepala komentator the paper
(artikel ini berasal dari the paper. untuk informasi lebih orisinal, silakan unduh aplikasi “the paper”)
