berita

untuk menstandardisasi identifikasi konten sintetis yang dihasilkan oleh kecerdasan buatan, menjaga keamanan nasional dan kepentingan sosial publik, serta melindungi hak dan kepentingan sah warga negara, badan hukum, dan organisasi lain, sesuai dengan "hukum keamanan siber republik rakyat tiongkok" , "peraturan manajemen rekomendasi algoritma layanan informasi internet", "peraturan internet tentang manajemen sintesis mendalam layanan informasi", "tindakan sementara untuk manajemen layanan kecerdasan buatan generatif" dan undang-undang serta peraturan lainnya, administrasi ruang siber tiongkok memiliki menyusun "langkah-langkah pelabelan konten yang dihasilkan oleh kecerdasan buatan (draf untuk komentar)", yang sekarang terbuka untuk umum untuk dikomentari. masyarakat dapat memberikan masukan melalui saluran dan metode berikut:

1.kirim melalui email ke: [email protected].

2. kirimkan pendapat anda melalui surat ke: biro teknologi manajemen jaringan kantor informasi internet negara, jalan chegongzhuang no. 11, distrik xicheng, beijing, kode pos 100044, dan cantumkan pada amplop "meminta pendapat tentang metode pelabelan konten sintetis dihasilkan oleh kecerdasan buatan."

batas waktu umpan balik adalah 14 oktober 2024.

lampiran: metode pelabelan konten sintetis yang dihasilkan oleh kecerdasan buatan (draf untuk komentar)

kantor informasi internet negara

14 september 2024

kecerdasan buatan menghasilkan metode identifikasi konten sintetis

(draf untuk komentar)

pasal 1 untuk mendorong perkembangan kecerdasan buatan yang sehat, membakukan identifikasi konten sintetis yang dihasilkan oleh kecerdasan buatan, melindungi hak dan kepentingan sah warga negara, badan hukum, dan organisasi lain, serta menjaga kepentingan sosial dan publik, sesuai dengan "hukum keamanan siber republik rakyat tiongkok", "peraturan manajemen rekomendasi algoritma layanan informasi internet", "peraturan manajemen sintesis mendalam layanan informasi internet", "tindakan sementara untuk manajemen layanan kecerdasan buatan generatif" dan undang-undang, peraturan administratif, dan peraturan departemen lainnya, tindakan ini dirumuskan.

pasal 2 penyedia layanan informasi jaringan (selanjutnya disebut "penyedia layanan") yang mematuhi ketentuan "peraturan manajemen rekomendasi algoritma layanan informasi internet", "peraturan manajemen sintesis mendalam layanan informasi internet", dan "langkah sementara untuk manajemen layanan kecerdasan buatan generatif") jika kecerdasan buatan digunakan untuk menghasilkan label konten sintetis, tindakan ini akan berlaku.

jika organisasi industri, perusahaan, lembaga pendidikan dan penelitian ilmiah, lembaga kebudayaan publik, lembaga profesional terkait, dll. mengembangkan dan menerapkan teknologi pembangkitan dan sintesis kecerdasan buatan tetapi tidak memberikan layanan kepada publik dalam negeri, ketentuan tindakan ini tidak berlaku.

pasal 3 konten sintetik yang dihasilkan oleh kecerdasan buatan adalah teks, gambar, audio, video, dan informasi lain yang diproduksi, dihasilkan, dan disintesis dengan menggunakan teknologi kecerdasan buatan.

identifikasi konten sintetis yang dihasilkan oleh kecerdasan buatan mencakup identifikasi eksplisit dan identifikasi implisit.

logo eksplisit mengacu pada logo yang ditambahkan dalam konten sintetis yang dihasilkan atau antarmuka adegan interaktif, disajikan dalam teks, suara, grafik, dll., dan dapat dilihat dengan jelas oleh pengguna.

pengidentifikasi implisit mengacu pada pengidentifikasi yang ditambahkan ke data file konten sintetis yang dihasilkan melalui tindakan teknis dan tidak mudah dirasakan oleh pengguna.

pasal 4 jika layanan sintesis yang dihasilkan yang disediakan oleh penyedia layanan termasuk dalam ketentuan pasal 17, ayat 1 "peraturan administratif tentang sintesis mendalam layanan informasi internet", konten sintetis yang dihasilkan harus diidentifikasi secara eksplisit sesuai dengan persyaratan berikut.

(1) tambahkan petunjuk teks atau petunjuk simbol umum dan tanda-tanda lain pada posisi yang sesuai di awal, akhir, dan tengah teks, atau tambahkan tanda petunjuk yang menonjol pada antarmuka adegan interaktif atau di sekitar teks;

(2) tambahkan perintah suara atau perintah ritme audio dan tanda-tanda lain pada posisi yang sesuai di awal, akhir, atau tengah audio, atau tambahkan tanda perintah yang menonjol di antarmuka adegan interaktif;

(3) tambahkan tanda pengingat yang menonjol di lokasi yang sesuai pada gambar;

(4) tambahkan perintah yang jelas ke layar awal video dan lokasi yang sesuai di sekitar pemutaran video. perintah yang jelas dapat ditambahkan ke akhir dan tengah video di lokasi yang sesuai;

(5) saat menampilkan adegan virtual, tanda prompt yang mencolok harus ditambahkan ke posisi yang sesuai di layar awal, dan tanda prompt yang mencolok dapat ditambahkan ke posisi yang sesuai selama layanan berkelanjutan dari adegan virtual;

(6) skenario layanan sintetik lain yang dihasilkan harus menambahkan identifikasi eksplisit dengan efek pemicu yang signifikan sesuai dengan karakteristik penerapannya.

ketika penyedia layanan menyediakan cara untuk menghasilkan konten sintetis untuk diunduh, disalin, dan diekspor, mereka harus memastikan bahwa file tersebut berisi identifikasi eksplisit yang memenuhi persyaratan.

pasal 5 penyedia layanan, sesuai dengan ketentuan pasal 16 "peraturan tentang pengelolaan sintesis mendalam layanan informasi internet", menambahkan identifikasi implisit ke metadata file yang menghasilkan konten sintetis konten sintetis, penyediaan layanan nama atau kode penulis, nomor konten, dan informasi elemen produksi lainnya.

penyedia layanan didorong untuk menambahkan identifikasi implisit dalam bentuk tanda air digital saat membuat konten sintetis.

metadata file mengacu pada informasi deskriptif yang tertanam di header file sesuai dengan format pengkodean tertentu, yang digunakan untuk mencatat sumber file, atribut, penggunaan, hak cipta, dan informasi lainnya.

pasal 6 penyedia layanan yang menyediakan layanan platform penyebaran konten informasi secara online wajib mengambil langkah-langkah untuk menstandardisasi kegiatan penyebaran konten sintetis.

(1) harus diverifikasi apakah metadata file berisi pengidentifikasi implisit. jika ada pengidentifikasi implisit, metode yang tepat harus digunakan untuk menambahkan simbol pengingat yang menonjol di sekitar konten yang dipublikasikan untuk mengingatkan pengguna dengan jelas bahwa konten tersebut adalah konten sintetis;

(2) jika identifikasi implisit tidak diverifikasi dalam metadata file, namun pengguna menyatakan bahwa konten tersebut adalah konten sintetis, metode yang sesuai harus digunakan untuk menambahkan tanda peringatan yang jelas di sekitar konten yang dipublikasikan untuk mengingatkan pengguna bahwa konten tersebut mungkin dihasilkan konten sintetis;

(3) jika identifikasi implisit tidak diverifikasi dalam metadata file, dan pengguna tidak menyatakan bahwa konten sintetis dihasilkan, namun penyedia layanan yang menyediakan layanan platform penyebaran konten informasi jaringan mendeteksi identifikasi eksplisit atau jejak lain dari sintesis yang dihasilkan, itu dapat diidentifikasi sebagai jika konten tersebut diduga merupakan konten sintetis, cara yang tepat harus diterapkan dengan menambahkan tanda peringatan yang jelas di sekitar konten yang dipublikasikan untuk mengingatkan pengguna bahwa konten tersebut diduga merupakan konten sintetis;

(4) untuk kasus di mana konten sintetis memang, mungkin atau diduga dihasilkan, informasi atribut konten sintetis yang dihasilkan, nama atau kode platform komunikasi, nomor konten dan informasi elemen komunikasi lainnya harus ditambahkan ke metadata file;

(5) menyediakan fungsi identifikasi yang diperlukan dan mengingatkan pengguna untuk secara proaktif menyatakan apakah konten yang dipublikasikan berisi konten sintetis yang dihasilkan.

pasal 7 platform distribusi aplikasi internet harus memverifikasi apakah penyedia layanan menyediakan fungsi menghasilkan identifikasi konten sintetis seperti yang diperlukan ketika aplikasi disimpan atau ditinjau secara online.

pasal 8 penyedia layanan harus dengan jelas menyatakan dalam perjanjian layanan pengguna metode, gaya, dan konten normatif lainnya untuk menghasilkan merek konten sintetis, dan meminta pengguna untuk membaca dan memahami dengan cermat persyaratan manajemen merek yang relevan.

pasal 9 jika pengguna memerlukan penyedia layanan untuk menyediakan konten sintetis yang dihasilkan tanpa identifikasi eksplisit, pengguna dapat menyediakan konten sintetis yang dihasilkan tanpa identifikasi eksplisit setelah mengklarifikasi kewajiban identifikasi pengguna dan tanggung jawab penggunaan melalui perjanjian pengguna, dan menyimpan log yang relevan enam bulan.

pasal 10 ketika pengguna mengunggah konten sintetis ke penyedia layanan yang menyediakan layanan platform penyebaran konten informasi jaringan, mereka harus secara proaktif mendeklarasikan dan menggunakan fungsi identifikasi yang disediakan oleh platform untuk identifikasi.

tidak ada organisasi atau individu yang boleh dengan sengaja menghapus, merusak, memalsukan, atau menyembunyikan label konten sintetis yang dihasilkan sebagaimana diatur dalam tindakan ini, tidak boleh menyediakan alat atau layanan bagi pihak lain untuk melakukan tindakan jahat di atas, dan tidak boleh merugikan hak dan kepentingan yang sah. orang lain melalui cara pelabelan yang tidak tepat.

pasal 11 penyedia jasa harus memberi tanda sesuai dengan persyaratan standar nasional wajib yang relevan.

pasal 12 saat melakukan prosedur seperti pengarsipan algoritme dan penilaian keamanan, penyedia layanan harus menyediakan materi yang relevan untuk membuat tag konten sintetis sesuai dengan tindakan ini, dan memperkuat pembagian informasi tag untuk memberikan dukungan dan bantuan dalam mencegah dan menindak tindakan ilegal terkait. dan kegiatan kriminal.

pasal 13 siapa pun yang melanggar ketentuan tindakan ini dan gagal memberi label pada konten sintetis yang dihasilkan, sehingga menyebabkan konsekuensi serius, akan dihukum oleh otoritas kompeten terkait seperti biro informasi dan informasi internet sesuai dengan ketentuan undang-undang terkait, peraturan administratif, dan peraturan departemen.

pasal 14 tindakan ini akan mulai berlaku pada tanggal 1 januari 2024.

(sumber: netcom cina)

untuk informasi lebih menarik, silakan unduh klien "jimu news" di pasar aplikasi. harap jangan mencetak ulang tanpa izin. anda dipersilakan untuk memberikan petunjuk berita dan anda akan dibayar setelah diterima. hotline pelaporan 24 jam adalah 027-86777777.