berita

baru-baru ini, polisi hangzhou mengungkap kasus pertama di negara tersebut yang menggunakan model ai besar untuk mengubah wajah guna mencuri privasi pribadi, yang merupakan hal yang mengerikan untuk dipikirkan.

penjahat memasukkan foto korban ke dalam model, dan kemudian membuat permintaan melalui teks dan suara untuk menghasilkan video langsung. video langsung ini dapat meniru wajah manusia untuk mengangguk, berkedip, dan menyamping, menerobos otentikasi wajah platform, memaksa anda masuk ke akun orang lain, dan memperoleh data pribadi korban dalam jumlah besar untuk dijual demi keuntungan.

ini hanyalah puncak gunung es dari kekacauan penerapan teknologi ai. dalam beberapa tahun terakhir, teknologi kecerdasan buatan telah berkembang pesat, menghadirkan lebih banyak peluang baru dan layanan yang lebih nyaman. namun, teknologi baru sering kali digunakan oleh beberapa penjahat dan menjadi “kaki tangan” dalam kejahatan.

ai yang "mengubah wajah" melakukan penipuan, ai memalsukan gambar untuk menyebarkan rumor, dan panggilan penjualan ai mengganggu... segala jenis kekacauan tidak hanya melanggar hak dan kepentingan sah konsumen, mengancam keselamatan pribadi dan properti, tetapi juga menghalangi perkembangan industri ai yang sehat dan tertib.

tidak ada keraguan bahwa ai merupakan arah penting bagi pengembangan ilmu pengetahuan dan teknologi serta merupakan landasan teknologi bagi persaingan antar negara. namun, saat mengembangkan ai, kita tidak boleh mengabaikan risiko tersembunyinya. kencangkan “sabuk pengaman” bagi ai yang sedang berkembang pesat dan jadikan ai sebagai “penolong” dan bukan “kaki tangan”. fokusnya adalah pada penguatan tata kelola dan regulasi.

pada pekan peduli keamanan siber nasional 2024 yang baru saja digelar, isu penerapan keamanan ai menjadi topik hangat. selama periode ini, departemen terkait merilis "kerangka tata kelola keamanan intelijen buatan" versi 1.0, yang mengusulkan solusi terarah seperti prinsip tata kelola keamanan kecerdasan buatan. beberapa teknologi hitam untuk menangani risiko keamanan ai juga diresmikan di cyber ​​​​security expo, seperti sistem pemalsuan real-time ai, yang secara efektif dapat mengidentifikasi dan melakukan serangan balik terhadap rutinitas penipuan seperti perubahan wajah ai dan onomatopoeia ai.

teknologi selalu menjadi "pedang bermata dua". apakah itu baik atau buruk, bermanfaat atau merugikan, kuncinya tergantung pada bagaimana orang yang memegang pedang itu siap menggunakannya. saat mengembangkan ai dengan giat, kita harus meningkatkan kesadaran akan keamanan, memperkuat promosi dan penerapan teknologi keamanan yang relevan, dan mendorong pembentukan konsensus tata kelola di antara semua pihak di masyarakat sehingga ai dapat memberikan manfaat yang lebih baik bagi umat manusia. (penulis salinan: ma ruohu)