jumlah peserta konferensi bund mencapai angka tertinggi baru, dan orang-orang menaruh perhatian pada cara mencegah ai melakukan kejahatan.
2024-09-08
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
pada tanggal 7 september, konferensi bund inklusi 2024 resmi berakhir. bahkan, pada siang tadi, beberapa jam menjelang penutupan konferensi, masih ada penonton yang mengantri untuk masuk. data resmi menunjukkan bahwa konferensi ini menarik total 52.000 peserta langsung, yang merupakan rekor tertinggi baik dalam skala partisipasi maupun jumlah tamu internasional. selain anak muda, reporter juga memperhatikan banyak orang lanjut usia dan anak-anak yang menjadi penonton.
mengusung tema “teknologi dan menciptakan masa depan berkelanjutan”, bund conference ini mencakup 36 forum opini terbuka, lebih dari 10 panggung inovator, 2 acara inovasi ai, pameran seluas 10.000 meter persegi, serta green life festival dan 1 talenta teknologi pameran rekrutmen. menurut statistik, dalam tiga hari, lebih dari 30 pencapaian ai baru dirilis pada konferensi bund ini, termasuk pengurus kehidupan ant ai "zhi xiaobao", pengurus keuangan ai "ma xiaocai", pengurus kesehatan ai, dll.
tempat pameran seluas 10.000 meter persegi ini mempertemukan banyak perusahaan untuk berpartisipasi dalam pameran tersebut. reporter mengamati bahwa dibandingkan tahun-tahun sebelumnya, semakin banyak produsen yang bersiap untuk merasakan dan berinteraksi dengan berbagai jenis peralatan, pengunjung berbaris untuk berpartisipasi dalam pengalaman tersebut. memberikan perhatian terhadap kemanusiaan menjadi ciri utama konferensi bund ini. selain momen mengharukan pada upacara pembukaan zhou jian, bocah lelaki bertangan satu berusia 24 tahun yang bermain piano dengan tangan bionik cerdasnya, di area pameran konferensi bund, pemirsa dapat merasakan gelombang otak yang divisualisasikan dalam bentuk bunga dengan bantuan peralatan, sehingga emosi sesaat dapat dikenang. ada juga perangkat yang dapat mencapai "transfer pelukan". mengenakan rompi khusus yang dilengkapi dengan serat otot buatan, saat orang lain memeluk model yang dilengkapi sensor tekanan, orang yang mengalaminya dapat merasakan simulasi kontrol suara, umpan balik sentuhan, dan pengaturan suhu "jarak jauh pelukan" dengan berbagai elemen sensorik.
pada konferensi bund tahun ini, diskusi dan penelitian serta pengembangan tentang bagaimana menjadikan "teknologi untuk kebaikan" mendapat perhatian lebih dari industri.
perawatan medis ai menarik perhatian
selama pameran tiga hari, produk-produk terkait medis ai dan stan perusahaan selalu menarik pengunjung terbanyak. "apa yang harus saya lakukan jika ingatan orang tua saya menurun?" "bagaimana ai dapat membantu skrining kanker?" memasuki area pameran terkait, banyak lansia yang mengikuti tes kesehatan otak, dan generasi muda ikut "menggambar" gelombang otak.
“dibandingkan tahun lalu, pangsa kecerdasan buatan ai pada konferensi bund tahun ini terasa lebih tinggi, dan ini bukan jenis yang konyol seperti sebelumnya. banyak aplikasi tahun ini yang sangat berguna. jelas bahwa algoritmanya telah banyak ditingkatkan, seperti pengenalan wajah. fungsi pengenalan atau fungsi interaksi suara terasa sudah ditingkatkan ke level yang lebih tinggi dan efeknya menjadi lebih baik, sehingga semua orang semakin antusias untuk merasakannya,” kata salah satu peserta pameran kepada wartawan.
sebelum saya sempat meneguk air, staf di stan medis ai damo academy menyambut pengunjung berikutnya. pada konferensi bund tahun ini, laboratorium ai medis damo academy memamerkan produk analisis gambar medis ai, dengan bantuan teknologi ai, produk ini dapat menyaring delapan jenis kanker utama, termasuk kanker pankreas, kanker esofagus, kanker usus, dan kanker lambung, serta serangkaian penyakit kronis dari ct scan biasa, yang menarik banyak audiens.
staf di stan mengatakan kepada wartawan bahwa melalui pengenalan ai, produk ini dapat mencapai akurasi lebih dari 90% dalam pemeriksaan kanker seperti kanker hati dan kanker paru-paru, meningkatkan efisiensi kerja dokter, dan mengatasi beberapa masalah yang disebabkan oleh ketidakseimbangan sumber daya medis. .
“sebenarnya, teknologi ini terutama untuk sisi b dan melayani dokter. pelanggannya sebagian besar adalah rumah sakit, lembaga pengalaman, perusahaan asuransi, organisasi kesejahteraan masyarakat, dan produsen perangkat lunak. namun, banyak individu juga sangat tertarik dengan pekerjaan yang disebutkan di atas. dalam dua hari terakhir." kata personel. meskipun banyak produk medis ai tidak secara langsung ditargetkan pada pengguna konsumen, para peserta konferensi bund penasaran tentang bagaimana perawatan medis ai akan mengubah diagnosis dan pengobatan penyakit.
stan bosten technology menarik banyak pengunjung lansia. banyak lansia mengeluarkan ponselnya untuk menjawab pertanyaan melalui alipay guna menguji indeks risiko penyakit alzheimer. staf di area pameran mengatakan bahwa dengan dukungan banyak data dan informasi, produk ini dapat mendeteksi penyakit alzheimer melalui tes menjawab, interaksi suara, pengenalan tindakan, dll, dan menghasilkan rencana pelatihan kesehatan otak khusus pengguna melalui model besar.
“produk kami diluncurkan pada tahun 2020, namun fungsi pengenalan dinamis menggunakan kamera baru diluncurkan tahun ini. hal ini terutama mengandalkan pengembangan fungsi ai, termasuk rekomendasi program pelatihan. memang menjadi jauh lebih pintar setelah munculnya model besar." staf area pameran mengatakan kepada wartawan. dengan berkembangnya ai, “evolusi” lebih banyak produk medis ai layak untuk dinantikan.
perlu ditekankan bahwa saat ini, efek diagnostik dan terapeutik dari banyak produk medis ai masih kekurangan data publik atau verifikasi oleh organisasi pihak ketiga yang berwenang juga menyatakan bahwa produk medis ai tidak dapat sepenuhnya menggantikan diagnosis dan kebutuhan pengobatan dokter , dan terutama berfungsi sebagai fungsi tambahan. namun penerapan ai dalam masalah medis memang sudah dinantikan oleh industri.
banyak produsen besar juga bertaruh pada jalur medis ai. pada konferensi bund, alipay merilis produk aplikasi ai baru "ai health manager", yang menyediakan lebih dari 30 layanan kesehatan ai kepada pengguna seperti mencari dokter, membaca laporan, mendampingi dokter, menanyakan tentang asuransi kesehatan, dan mengelola kesehatan. wang xiaochuan, pendiri baichuan intelligent, memperkenalkan bahwa baichuan intelligent akan fokus pada investasi di bidang ai medis berskala besar, dimulai dari dua titik masuk dokter anak dan dokter umum, dengan harapan dapat mencapai perawatan medis berbiaya rendah dan mudah diakses di masa depan. tahun dan mengurangi jumlah rumah sakit.
zhou hanmin, anggota komite tetap komite nasional konferensi konsultatif politik rakyat tiongkok, mengatakan pada sebuah forum di konferensi bund bahwa dengan terus berkembangnya dan penerapan teknologi baru seperti kecerdasan buatan, industri medis sedang mengalami perubahan. perubahan yang mendalam. menurut pengamatannya, mulai dari diagnosis pencitraan awal, diagnosis dan pengobatan tambahan, dan pengujian genetik hingga penemuan obat, uji klinis, manajemen kesehatan, dll. dalam beberapa tahun terakhir, kecerdasan buatan memiliki keunggulan signifikan dalam meningkatkan akurasi dan efisiensi, perawatan yang dipersonalisasi, dan pengolahan data. dia menunjukkan bahwa integrasi kesehatan medis dan kecerdasan buatan juga meluas ke bidang pengobatan tradisional tiongkok.
berbicara tentang penerapan kecerdasan buatan dalam industri medis, zhou hanmin mengatakan bahwa penerapan kecerdasan buatan dalam industri medis dan kesehatan harus fokus pada peningkatan akurasi, penerapan, dan keamanan pengenalan kecerdasan buatan akan mempengaruhi keterampilan staf medis. atrofi, kesalahan perhitungan kepercayaan pada ai, dan kelebihan informasi.
ai versus ai
selain mengharapkan teknologi membawa kehidupan yang lebih baik, bagaimana mencegah teknologi melakukan kejahatan juga menjadi topik hangat yang dibahas di konferensi bund.
pada konferensi bund tahun ini, kompetisi inovasi ai termasuk dua sub-acara, “kompetisi inovasi intelijen keuangan afac2024” dan “tantangan serangan dan pertahanan deepfake global” diadakan karena terungkapnya “deepfake” (teknologi palsu yang dalam). ) insiden di korea selatan, kasus "room n", yang dianggap sebagai metode kriminal baru, telah muncul kembali. menggunakan ai untuk melawan ai, tantangan serangan dan pertahanan deepfake mendapat tantangan khusus dari penonton.
faktanya, dengan berkembangnya teknologi ai, deepfake melahirkan penipuan dan rantai industri gelap lainnya. kerugian ekonomi dan properti, kerusakan reputasi, dan insiden lain yang disebabkan oleh penipuan yang mengubah wajah ai menjadi tantangan global.
di area pameran bund conference, banyak penonton yang langsung mengambil foto, kemudian menggunakan model dan algoritma pengubah wajah deepfake untuk mengubah wajah foto asli penonton melalui aktivasi video, template senyuman dan kacamata, merasakan langsung realismenya. dari deepfake.
pada kompetisi inovasi ai konferensi bund dan pameran global deepfake offensive and defense challenge, para penonton semakin bersemangat dengan identifikasi ai pada gambar palsu aigc. dalam kompetisi pameran ini, pembawa acara mengeluarkan 9 foto marilyn monroe dan aktris lainnya, 2 di antaranya dipalsukan oleh aigc. para kontestan menggunakan model kompetisi mereka sendiri untuk memberikan kemungkinan pemalsuan untuk setiap gambar, dan menghitung probabilitas dari 2 foto tersebut dengan nilai tertinggi dibandingkan dengan jawaban yang benar. pada akhirnya, model kedua tim menemukan jawaban yang benar.
dalam interaksi selanjutnya, fenomena yang menarik adalah meskipun mata manusia dapat melihat gambar palsu yang “pada pandangan pertama palsu”, ai mungkin tidak dapat mengidentifikasinya. namun, ai dapat mengenali beberapa gambar yang sulit dibedakan dengan gambar asli dan salah dengan mata telanjang. profesor zhou tianyi dari badan sains, teknologi, dan penelitian singapura menganalisis bahwa manusia mengandalkan intuisi dan logika untuk menilai apakah suatu gambar itu palsu untuk beberapa gambar yang sulit diidentifikasi, ai sangat teliti dan rajin. model kerja yang rajin menyelesaikan instruksi manusia sebenarnya dapat mengidentifikasi masalah. ia mengatakan, dibandingkan dengan gambar yang “sekilas palsu”, justru gambar-gambar yang sulit diidentifikasi inilah yang seringkali membawa kerugian lebih besar bagi manusia. oleh karena itu, penggunaan ai untuk menangani deepfake menjadi sangat penting.
“dilihat dari data yang kita lihat sekarang, apakah kita menyebut serangan deepfake atau serangan palsu yang dibuat oleh aigc, volume serangan tahun ini meningkat sekitar 10 kali lipat dibandingkan tahun lalu tahun ini sebesar 10%. keseluruhan risiko sebenarnya meningkat secara eksponensial. hal ini tidak hanya terjadi di tiongkok, tetapi juga di korea selatan, filipina, indonesia, dan negara-negara lain tantangan serangan dan pertahanan deepfake. direktur teknis zoloz yao weibin mengatakan bahwa konsentrasi 10% berarti industri telah menemukan bahwa 10% lalu lintas online adalah lalu lintas deepfake, dengan pengembangan aigc, biaya pembangkitan akan menjadi semakin rendah. dan efisiensinya akan semakin tinggi. tahun depan mungkin tidak 20%, mungkin 50%, ini ancaman yang harus ditanggapi dengan serius.
pandangan lebih lanjut tentang membimbing ai untuk kebaikan juga dibahas di konferensi bund. yao weibin mengakui bahwa mengembangkan algoritma deteksi hanyalah salah satu cara untuk mengekang penyalahgunaan teknologi deepfake. metode ini relatif tertinggal. jika kita ingin mencegah penipuan dari akar permasalahannya, yao weibin percaya bahwa dari sudut pandang standar dan undang-undang, kita harus mewajibkan pembentukan identifikasi universal untuk konten aigc. misalnya, setiap video atau gambar yang dihasilkan oleh aigc harus memiliki tanda tangan atau tanda air pada informasi file, sehingga manajemen platform memiliki lebih banyak dasar juga akan membuat aigc lebih kredibel.
“biarkan kecerdasan buatan membantu orang bermain piano daripada melakukan kejahatan.” ini adalah nilai yang berulang kali ditekankan pada konferensi bund ini. xiao yanghua, direktur shanghai key laboratory of data science, mengatakan bahwa penyalahgunaan ai dalam skala besar dapat merusak sifat manusia. kita harus melakukan sesuatu dan tidak melakukan apa pun. kita harus berhati-hati dan membatasi penerapan ai yang membahayakan sifat manusia. untuk mencapai tujuan ini, “kita harus memperhatikan tata kelola teknis dan mempertimbangkan tata kelola terlebih dahulu untuk bersiap menghadapi hari buruk.”
han bicheng, pendiri dan ceo zhejiang qiannao technology, mengatakan keberadaan komite etika ai sangat penting. seiring kemajuan teknologi, kita harus lebih memperhatikan orang-orang yang “berjalan lambat”. “saat teknologi yang mengubah dunia muncul, pertama-tama kami menggunakannya untuk membantu mereka yang paling membutuhkan.”
(artikel ini berasal dari china business news)
