forum beijing xiangshan |. bagaimana membuat teknologi baru menjadi baik? kerja sama internasional harus diperkuat untuk bersama-sama mengembangkan standar keselamatan
2024-09-15
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
di medan perang konflik rusia-ukraina, sebuah drone bunuh diri ukraina melayang di atas posisi militer rusia. kamera pada drone tersebut diarahkan ke parit dan terus dipindai. ketika aktivitas manusia terdeteksi, kecerdasan buatan dengan cepat mengidentifikasinya dan kemudian menyelam untuk melakukan serangan bunuh diri.
kamera mengarah ke langit di atas posisi militer ukraina di medan perang rusia-ukraina. sebuah pesawat pengintai tak berawak rusia melakukan pengintaian terhadap posisi militer ukraina. setelah menemukan tank dan kendaraan lapis baja, personel belakang dengan cepat meneruskan informasi ini ke kendali rudal jelajah "lancet". rudal jelajah "lancet" terbang ke sekitar posisi di mana target ditemukan. rudal jelajah tersebut juga dilengkapi dengan sistem kecerdasan buatan, yang dapat dengan cepat mengidentifikasi tank dan kendaraan lapis baja, dan mengunci tepat sasaran. sekalipun menemui gangguan, pada akhirnya juga mampu melakukan serangan mandiri.
di atas adalah rekaman pertempuran drone dan rudal jelajah yang dirilis oleh tentara rusia dan ukraina. performa teknologi kecerdasan buatan (ai) yang menarik perhatian dalam konflik rusia-ukraina telah menarik perhatian besar dan juga akan sangat mendorong penerapannya. teknologi di bidang militer. dengan pesatnya perkembangan teknologi baru seperti kecerdasan buatan, bagaimana memastikan penerapan teknologi tersebut secara aman telah menjadi fokus berbagai negara selama forum xiangshan beijing ini.
pada tanggal 12 september, sesi khusus diadakan untuk wawancara tingkat tinggi di forum tersebut guna membahas keamanan kecerdasan buatan. pada tanggal 13 september, pertemuan kelompok keenam dalam forum tersebut, "emerging technologies for good", didedikasikan untuk pertukaran dan diskusi tentang bagaimana teknologi baru seperti kecerdasan buatan dan biologi sintetik dapat digunakan untuk kebaikan.
teknologi kecerdasan buatan memasuki medan perang
pada tahun 2021, mantan menteri luar negeri as kissinger menerbitkan buku "the era of artificial intelligence and the future of humanity", yang menguraikan pandangannya tentang perkembangan dan dampak kecerdasan buatan. buku ini mengusulkan bahwa kecerdasan buatan akan membentuk kembali keamanan global dan tatanan dunia, serta memberikan gagasan dan peringatan tentang kebangkitan kecerdasan buatan. kissinger percaya bahwa senjata kecerdasan buatan memiliki tiga karakteristik yang tidak dimiliki senjata nuklir: senjata tersebut terkonsentrasi di perusahaan besar dan sektor swasta lebih mudah ditiru sehingga mudah dikuasai oleh organisasi non-pemerintah; kuasai itu.
tahun kedua setelah buku tersebut diterbitkan, konflik rusia-ukraina pecah. seiring dengan berlanjutnya konflik, semakin banyak senjata yang dilengkapi dengan teknologi kecerdasan buatan yang ditempatkan di medan perang: drone, kendaraan tempur tak berawak, kapal tak berawak, dan rudal jelajah. dll. teknologi kecerdasan buatan juga terlibat dalam pengenalan citra satelit, pengambilan keputusan yang dibantu, tindakan pencegahan jaringan dan elektronik, dll.
meng xiangqing, seorang profesor di universitas pertahanan nasional, menunjukkan dalam sebuah wawancara dengan the paper (www.thepaper.cn) bahwa perang dunia pertama dianggap sebagai awal dari peperangan mekanis, perang teluk dianggap sebagai permulaan informasi. peperangan, dan konflik rusia-ukraina dianggap telah membuka tirai peperangan cerdas. meskipun teknologi kecerdasan buatan saat ini hanya sedikit memperkuat persenjataan dan operasi serta tidak berdampak besar pada perang, hal ini sudah menunjukkan tren ini.
saat ini, dalam konflik rusia-ukraina, semakin banyak senjata bertenaga kecerdasan buatan yang bermunculan di medan perang. pada bulan maret tahun ini, kementerian pertahanan inggris mengumumkan bahwa mereka akan meningkatkan jumlah drone yang membantu ukraina dari 4.000 menjadi 10.000, ribuan di antaranya merupakan drone yang dilengkapi dengan teknologi kecerdasan buatan untuk mendukung operasinya di medan perang. drone ini akan membawa sensor dan sistem senjata canggih, memiliki otonomi dan kecerdasan tingkat tinggi, serta dapat melakukan berbagai tugas seperti pengintaian, penyerangan, dan pertahanan di lingkungan yang kompleks.
pada bulan januari 2023, sebuah artikel berjudul "bagaimana algoritme merusak keseimbangan perang rusia-ukraina?" laporan tersebut mengungkap kisah mendalam perusahaan-perusahaan teknologi tinggi as yang bekerja sama dengan departemen pertahanan as dan badan-badan intelijen untuk terlibat secara mendalam dalam konflik rusia-ukraina. laporan tersebut menyebutkan bahwa perangkat lunak kecerdasan buatan yang disediakan oleh perusahaan teknologi tinggi amerika banyak digunakan untuk menafsirkan citra satelit dan menemukan target yang berharga.
menurut laporan, tentara ukraina juga banyak menggunakan sistem informasi "meta-constellation" dari perusahaan perangkat lunak sipil amerika, palantir. melalui sistem ini, berbagai aplikasi teknologi canggih diintegrasikan sehingga membentuk “rantai pembunuh” yang memungkinkan ukraina dan sekutunya melihat data yang tersedia saat ini di wilayah pertempuran tertentu. pengenalan target citra satelit adalah masalah yang penting dan kompleks. interpretasi manual tradisional menghadapi banyak tantangan, dan kemampuan kecerdasan buatan berdasarkan pembelajaran mendalam dapat memainkan peran besar dalam interpretasi citra satelit, memberikan solusi baru untuk rencana pengenalan target citra satelit.
rusia juga menggunakan senjata dengan kecerdasan buatan di medan perang konflik rusia-ukraina, misalnya, kecerdasan buatan yang dibawa oleh rudal dari rudal jelajah "lancet-3" digunakan untuk pencarian dan identifikasi target, dan dapat menemukan dan menyerang secara mandiri. target yang telah ditentukan. kendaraan tempur tak berawak rusia juga muncul di medan perang, seperti kendaraan pembersih ranjau tak berawak mt-1 dan kendaraan tempur tak berawak "mark".
untuk beradaptasi dengan perang di masa depan, kementerian pertahanan rusia mendirikan departemen penelitian senjata kecerdasan buatan pada tahun 2022 untuk memperkuat penggunaan teknologi kecerdasan buatan dan mengembangkan peralatan khusus baru.
konflik penting lainnya, konflik palestina-israel, juga memiliki banyak senjata yang dilengkapi dengan teknologi kecerdasan buatan yang digunakan di medan perang. menurut laporan, ketika israel menyerang gaza, mereka menggunakan sistem kecerdasan buatan yang disebut "lavender" untuk membantu mengidentifikasi militan hamas. jumlah dan kecepatan mengidentifikasi target meningkat pesat menemukan dan menyetujui 10 target dalam 10 hari kerja, dan sekarang mereka dapat menemukan dan menyetujui sekitar 100 target dalam 10 hari kerja.
selain itu, kecerdasan buatan memodifikasi dan menghasilkan gambar dan video – yang juga dapat digunakan dalam perang informasi masa perang atau perang opini publik. sebuah artikel berjudul "kecerdasan buatan generatif memainkan peran yang mengejutkan dalam perang disinformasi antara israel dan hamas" di situs web "wired" as menyatakan bahwa pecahnya konflik palestina-israel memicu "disinformasi" yang belum pernah terjadi sebelumnya. kabut perang” yang membuat media sosial bermasalah.
mengembangkan standar keselamatan bersama adalah jalan ke depan
saat ini, pesatnya perkembangan teknologi baru seperti kecerdasan buatan dan biologi sintetik melepaskan nilai penerapan yang sangat besar, namun juga membawa risiko dan tantangan yang tidak dapat diprediksi, yang terkait dengan kepentingan seluruh umat manusia menjadi perhatian semua negara.
dalam wawancara tingkat tinggi tentang "keamanan intelijen buatan" di forum xiangshan beijing tahun ini, dr. chandler, seorang peneliti di institut analisis pertahanan dan mantan asisten menteri pertahanan amerika serikat, mengatakan bahwa drone yang dikendalikan oleh kecerdasan buatan telah telah digunakan di medan perang rusia-ukraina, dan di gaza, militer negara lain juga mempertimbangkan penerapan terkait kecerdasan buatan, namun kini orang juga mendiskusikan keamanan dan tata kelola kecerdasan buatan, yang juga merupakan bidang yang belum digunakan. telah terlibat.
terkait keamanan dan risiko kecerdasan buatan, isu-isu seperti apakah kecerdasan buatan dapat membuat keputusan secara mandiri, apakah dapat dipercaya, dan bagaimana mengelola risiko yang mungkin ditimbulkan oleh kecerdasan buatan telah menarik banyak perhatian.
ketidakjelasan “kotak hitam” algoritma kecerdasan buatan membawa risiko keamanan dan membuat masalah kepercayaan sosial semakin kompleks. dalam hal ini, hu ang, seorang profesor terkemuka di institut teknologi produksi universitas tokyo dan akademisi asing di akademi teknik jepang, mengatakan apakah "kotak hitam" kecerdasan buatan dapat dipercaya adalah pertanyaan terakhir. menurutnya, otak manusia tidak tergantikan. "setidaknya dalam waktu singkat, kecerdasan buatan akan sulit menggantikan otak manusia dalam pengambilan keputusan."
lampros stégioulas, ketua unesco bidang kecerdasan buatan dan ilmu data untuk pembangunan sosial dan profesor ilmu data di universitas sains terapan den haag di belanda, menyatakan: “semua teknisi manusia pasti melakukan kesalahan, apalagi mesin?” masalah? mampu menggantikan otak manusia dalam pengambilan keputusan secara otonom adalah masalah filosofis dan juga masalah praktis.”
jaringan berita referensi melaporkan pada bulan juli tahun ini bahwa situs web american fun science menerbitkan artikel "kesalahan bencana yang dilakukan oleh kecerdasan buatan" pada bulan juni. artikel tersebut mencantumkan contoh-contoh kecerdasan buatan yang "bencana" dan mengingatkan bahwa risiko kecerdasan buatan tidak dapat diabaikan.
investigasi bbc dilaporkan menemukan bahwa platform sosial menggunakan ai untuk menghapus video kemungkinan kejahatan perang, tindakan yang dapat menghalangi korban mendapatkan bantuan hukum di masa depan. platform sosial memainkan peran penting dalam perang dan kerusuhan sosial, seringkali sebagai sarana komunikasi bagi mereka yang berisiko. penyelidikan menemukan bahwa meskipun konten grafis yang menarik perhatian publik masih ada di situs tersebut, video tentang serangan di ukraina dengan cepat dihapus.
contoh "bencana" ini juga muncul dalam kehidupan sehari-hari masyarakat. google gambar harus membatalkan fitur ini setelah gambar orang kulit hitam muncul saat menelusuri gorila di perangkat lunak ai-nya. perusahaan lain, termasuk apple, juga menghadapi tuntutan hukum atas tuduhan serupa.
shi chande percaya bahwa masalah keamanan kecerdasan buatan melibatkan semua aspek, termasuk pertahanan negara dan penghidupan masyarakat. oleh karena itu, ia menyarankan agar negara-negara mencapai perjanjian multilateral untuk memitigasi risiko keamanan kecerdasan buatan.
menurut dai qionghai, dekan fakultas sains dan teknologi informasi di universitas tsinghua dan akademisi akademi teknik tiongkok, perkembangan kecerdasan buatan akan memasuki jalur cepat dalam tiga tahun ke depan. karena perkembangan kecerdasan buatan yang tidak dapat diprediksi, etika dan tata kelola yang relevan harus menjadi yang terdepan, dan risiko keamanan penerapan kecerdasan buatan harus dikurangi agar dapat bermanfaat bagi umat manusia.
menurut para ahli, sangat penting untuk memperkuat kerja sama internasional di bidang kecerdasan buatan, terutama kerja sama antar negara-negara besar. merumuskan standar keselamatan bersama dapat memungkinkan kecerdasan buatan memberikan manfaat yang lebih baik bagi umat manusia.
pada tanggal 14 mei tahun ini, pertemuan pertama dialog antarpemerintah tiongkok-as tentang kecerdasan buatan diadakan di jenewa, swiss. kedua pihak menyampaikan pandangan dan langkah tata kelola masing-masing mengenai risiko teknologi kecerdasan buatan, serta langkah-langkah yang diambil untuk mendorong kecerdasan buatan guna memberdayakan pembangunan ekonomi dan sosial. kedua belah pihak menyadari bahwa pengembangan teknologi kecerdasan buatan menghadapi peluang dan risiko, dan menegaskan kembali komitmen mereka untuk menerapkan konsensus penting yang dicapai oleh kedua kepala negara di san francisco.
dalam pandangan shi chande, tiongkok dan amerika serikat harus memastikan komunikasi dapat terus berlanjut. “di bidang teknologi baru, kedua belah pihak secara bertahap mencapai tingkat keseimbangan atau keseimbangan tertentu, yang dapat mengarah pada pembicaraan yang lebih jujur dan mendalam antara kedua belah pihak. kita harus memastikan bahwa mereka terus bekerja keras untuk menjaga komunikasi. ." kata shizande.
reporter surat kabar xie ruiqiang
(artikel ini berasal dari the paper. untuk informasi lebih orisinal, silakan unduh aplikasi “the paper”)
