berita

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Menurut berita pada tanggal 2 Agustus, Konferensi Keamanan Internet ke-12 (ISC.Kecerdasan buatan 2024), konferensi ini akan diselenggarakan dengan tema “Membangun Keamananmodelnya besar, Memimpin Revolusi Baru dalam Industri Keamanan" sebagai temanya, dengan fokus mendalam pada dua bidang utama yaitu keamanan dan AI. Di tempat kejadian, kami mewawancarai360Presiden ZhinaoZhang Xiangzheng, melakukan pertukaran mendalam tentang pemahaman 360 Intelligence tentang masalah keamanan dan perencanaan produk.

Zhang Xiangzheng memperkenalkan bahwa tim Otak Cerdas bertanggung jawab atas kemampuan model umum, serta kemampuan khusus untuk skenario bisnis inti, seperti Membaca Cerdas, browser, ringkasan teks, ringkasan video/subtitel, pembuatan peta pikiran, pencarian kata menebak, pengenalan maksud dan ringkasan, dll. tunggu. Pada saat yang sama, tim Intelligent Brain juga bertanggung jawab atas pekerjaan menggabungkan keamanan API dan AI dengan kemampuan model besar.

Tema konferensi ini adalah "Membangun Model Keamanan Besar". Mengenai topik keamanan, Zhang Xiangzheng mengatakan bahwa masalah keamanan dibagi menjadi beberapa bagian. Bagian pertama adalah tingkat penerapan sistem, yang terkait dengan keamanan jaringan tradisional. termasuk kerangka Agen, termasuk basis data vektor, Termasuk kerangka PyTorch, yang memiliki potensi risiko kerentanan; bagian kedua adalah apakah konten yang dihasilkan memenuhi persyaratan peraturan, termasuk penyelarasan nilai; 10% terjadi, saya tidak tahu 10% ini terjadi. Pada titik manakah hasil yang dihasilkan dalam banyak kasus harus dipercaya atau tidak? Blok keempat terkait dengan kerangka Agen. Model besar hanya merupakan pusat penjadwalan dan dapat mengakses banyak pihak ketiga atau banyak database dalam perusahaan atau perusahaan. Jika operasi otomatis dilakukan, hal itu dapat mempengaruhi keamanan sistem lain. Misalnya, ketika digunakan untuk mewujudkan kecerdasan, beberapa tindakan berbahaya mungkin dilakukan.

Pada tingkat keamanan, perbedaan antara ToB dan ToG juga terlihat jelas. Zhang Xiangzheng memperkenalkan bahwa toleransi terhadap masalah keamanan berbeda. Misalnya, departemen pemerintah perlu menyediakan solusi penerapan yang diprivatisasi untuk data pelatihan, dan semua penyesuaian dan pelatihan tambahan harus berada dalam lembaga pemerintah. Dalam skenario ToB, yang umum adalah pendidikan. Ada puisi "Cahaya Bulan Sebelum Tidur". Ada dua versi online. Manajer produk sangat panik, bertanya-tanya mengapa pengenalan keseluruhan puisi berbeda dari teksnya sebuah puisi terkenal. Anak-anak tidak memiliki kemampuan diskriminasi yang baik, sehingga persyaratan keandalan hasil sangat tinggi.

Berbicara tentang topik model kecil, Zhang Xiangzheng menunjukkan bahwa kami telah melakukan beberapa eksplorasi pada penerapan model kecil di sisi komputer dan menguji solusi terkait secara internal, tetapi masih terlalu sedikit notebook yang memenuhi persyaratan, dan volumenya adalah tidak terlalu besar. Selain itu, kami juga mempertimbangkan penerimaannya. Kami yakin bahwa produksi model kecil saat ini masih perlu dilakukan.

Mengenai topik pencarian AI yang baru-baru ini hangat dibicarakan, Zhang Xiangzheng menjawab bahwa dibandingkan dengan pencarian tradisional, pencarian AI lebih unik karena dapat menggunakan penalaran multi-langkah atau pencarian beberapa kata kunci untuk memecah masalah kompleks dan menyelesaikannya langkah demi langkah dan secara otomatis. Setelah melakukan multi-step retrieval, lakukan fusion, atau setelah menyelesaikan langkah inferensi pertama, lakukan penelusuran lagi pada hasil inferensi, lalu serahkan ke model besar, lalu lakukan fusion. Di masa depan, jika kemampuan pencarian AI semakin kuat, kebiasaan pengguna akan bermigrasi, namun ini tidak bisa dikatakan sebagai bentuk produk yang benar-benar baru. Hal ini terkait dengan kebiasaan penggunaan pengguna. (Dingxi)

Artikel ini berasal dari NetEase Technology Report.