berita

pada tanggal 6 september, di konferensi bund 2024 "menggunakan ai untuk mempertahankan cara serangan dan pertahanan di era model besar ai", kompetisi teknologi domestik pertama dengan tema serangan dan pertahanan model besar - "serangan ai global dan tantangan pertahanan" diumumkan. acara ini berfokus pada praktik industri model besar ai, dan telah merancang jalur serangan dan pertahanan dua arah. acara ini mengundang peretas topi putih dan talenta teknis dari semua lapisan masyarakat untuk melakukan latihan ofensif dan defensif aktual mengenai "keracunan data". model besar vinsensian, serta pembuatan model besar skenario keuangan. kompetisi deteksi anti-pemalsuan konten untuk bersaing memperebutkan hadiah teknologi jutaan yuan.

kompetisi ini disponsori bersama oleh chinese image and graphics society, ant group, dan cloud security alliance (csa) greater china. kompetisi ini disponsori bersama oleh universitas tsinghua, universitas shanghai jiao tong, universitas zhejiang dan universitas c9 lainnya serta sejumlah universitas lainnya organisasi penelitian industri-universitas. shanghai artificial intelligence laboratorium cerdas berfungsi sebagai unit kerja sama teknis. kompetisi ini bertujuan untuk menyatukan kekuatan akademisi dan industri melalui kompetisi teknis, menghadapi dan memecahkan risiko yang tersembunyi dalam penerapan model besar, dan membantu perkembangan industri ai global yang sehat dan berkelanjutan.

wang yaonan, akademisi dari chinese academy of engineering dan ketua chinese society of image and graphics, mengatakan bahwa di era model besar, bagaimana memastikan keamanan dan pengendalian sistem ai dan bagaimana secara efektif menangani potensi risiko di dunia. rantai pasok telah menjadi permasalahan penting yang perlu dipecahkan. tantangan serangan dan pertahanan ai ini adalah pesta teknologi global yang diadakan bersama oleh china image and graphics society dan ant group serta perusahaan dan institusi terkenal lainnya di industri ini, dengan fokus pada jalur aigc model besar deteksi, kami berharap dapat menemukan lebih banyak solusi inovatif untuk lebih menjamin keamanan aplikasi model besar dan keamanan industri.

kompetisi ini memiliki dua jalur utama: "serangan" dan "pertahanan", yang masing-masing berfokus pada keamanan model besar itu sendiri, deteksi anti-pemalsuan konten besar yang dihasilkan model, dan deteksi risiko penyalahgunaan model besar, yang mencakup pembelajaran mesin, ‌pemrosesan gambar, dan visi komputer‌, pemrosesan data, dll. titik uji di berbagai bidang algoritma.

diantaranya, "jalur serangan" berfokus pada masalah risiko penerapan praktis model besar vinsensian. kontestan dapat menginduksi model besar untuk mengeluarkan gambar berisiko melalui teknologi induksi serangan dinamis yang terdiversifikasi seperti pembajakan target, pengenalan skenario, dan penyarangan logis, sehingga mengaktifkan potensi kelemahan dan celah model besar dan meningkatkan kekebalan keamanan pembuatan gambar model besar . "jalur pertahanan" berfokus pada deteksi gangguan kredensial skenario keuangan pada inti ai untuk menangani risiko yang semakin serius dari sertifikat palsu deepfake dan aigc. kompetisi ini menyediakan set pelatihan perusakan data kredensial tingkat jutaan. peserta perlu mengembangkan dan melatih model, dan menggunakan set pengujian yang sesuai untuk mengevaluasi efektivitas model dan memberikan nilai probabilitas untuk pemalsuan data.

pendaftaran kompetisi ini resmi dimulai pada 6 september, dan review kompetisi selesai pada awal november. mulai saat ini, para kontestan dapat mendaftar melalui situs resmi chinese society of image and graphics, situs resmi alibaba cloud tianchi big data crowd intelligence platform, dan saluran lainnya. ada kumpulan hadiah hampir 1 juta yuan sepanjang kompetisi untuk memilih dan memuji talenta luar biasa di bidangnya.

sumber: klien harian beijing

wartawan: sun qiru