berita

baru-baru ini, perserikatan bangsa-bangsa merilis laporan penting mengenai tata kelola kecerdasan buatan (ai), yang menyerukan komunitas internasional untuk bekerja sama membentuk mekanisme pengawasan dan tata kelola ai yang benar-benar global.

laporan tersebut, yang ditulis oleh badan penasihat tingkat tinggi ai untuk sekretaris jenderal pbb, menguraikan serangkaian rekomendasi untuk mengatasi risiko yang ditimbulkan oleh ai sambil memastikan potensi transformatifnya terwujud secara global.

laporan tersebut menekankan bahwa kebutuhan akan tata kelola ai secara global tidak perlu dipertanyakan lagi. bahan mentah untuk teknologi ai, mulai dari mineral utama hingga data pelatihan, berasal dari seluruh dunia.

teknologi ai secara umum akan diterapkan melintasi batas negara, menciptakan beragam aplikasi di seluruh dunia. pada saat yang sama, pesatnya perkembangan ai telah memusatkan kekuasaan dan kekayaan dalam skala globalgeopolitikdan dampak ekonomi.

terlebih lagi, saat ini tidak ada seorang pun yang sepenuhnya memahami cara kerja ai, dapat sepenuhnya mengontrol keluarannya, atau memprediksi evolusinya.

pada saat yang sama, pengambil keputusan tidak bertanggung jawab untuk mengembangkan, menerapkan, atau menggunakan sistem yang tidak mereka pahami. keputusan-keputusan ini kemungkinan besar mempunyai dampak negatif dan dampak hilir secara global.

untuk mengatasi kesenjangan yang ada dalam pengaturan tata kelola ai, badan penasihat tersebut membuat beberapa rekomendasi utama:

• membentuk kelompok ilmiah ai internasional independen yang terdiri dari para ahli dari berbagai disiplin ilmu untuk bertugas secara sukarela dalam kapasitas individu.

• meluncurkan dialog kebijakan tata kelola ai antar pemerintah dan multi-pemangku kepentingan dua tahunan, yang dapat diadakan di sela-sela pertemuan pbb yang ada, memberikan platform bagi 193 negara anggota pbb untuk membahas risiko dan membangun konsensus untuk mengambil tindakan.

• sebuah “grup standar ai” didirikan untuk mengembangkan dan memelihara manual yang mendefinisikan dan menerapkan standar untuk mengevaluasi sistem ai.

• pembentukan dana ai global, yang diharapkan akan dikelola oleh struktur tata kelola baru yang independen, bertujuan untuk menjembatani kesenjangan dalam pengembangan ai, terutama untuk mendukung pembangunan negara-negara di belahan bumi selatan.

• mengembangkan kerangka data ai global dan membangun "mekanisme pengelolaan dan pertukaran data yang membentuk pasar" untuk mendorong perkembangan ekosistem ai lokal global yang berkembang pesat.

• bentuk kantor ai di sekretariat pbb untuk menyatukan inisiatif-inisiatif ini dengan lebih baik dalam struktur yang ringan dan fleksibel.

laporan ini juga merekomendasikan agar pbb fokus pada negara-negara miskin, khususnya negara-negara selatan, agar mereka dapat memperoleh manfaat dari ai dan berpartisipasi dalam tata kelola ai.

langkah-langkah ini termasuk menetapkan standar ai dan sistem berbagi data, serta mengalokasikan sumber daya pelatihan dan pendidikan untuk membantu negara-negara yang menerapkan tata kelola ai.

beberapa rekomendasi dapat diterapkan melalui global digital compact yang sudah ada, yang bertujuan untuk mengatasi kesenjangan digital dan data antar negara.

wendy hall, profesor emeritus ilmu komputer di universitas southampton, inggris, adalah satu-satunya pakar asal inggris yang berada di badan penasihat tersebut. ia menekankan: "ai harus dikembangkan untuk kepentingan umat manusia. tanpa tata kelola, hal ini berpotensi membahayakan kepada masyarakat." cara evolusi.

kita sangat membutuhkan pendekatan global untuk mengatasi tantangan ai dan memastikan bahwa hal ini bermanfaat bagi semua orang. "

namun, tata kelola ai saat ini belum menjadi perbincangan global. laporan tersebut menunjukkan bahwa meskipun ratusan pedoman, kerangka kerja, dan prinsip tata kelola ai telah diadopsi oleh pemerintah, perusahaan, aliansi, dan organisasi internasional, tidak ada satu pun yang memiliki pengaruh global. hal ini menyebabkan masalah dalam representasi, koordinasi dan pelaksanaan.

distribusi kekuasaan yang tidak merata ini juga tercermin dalam sistem internasional.

sekretaris jenderal perserikatan bangsa-bangsa antónio guterres menyatakan pada forum ekonomi dunia di davos pada bulan januari 2024 bahwa banyak negara anggota masih berada di bawah pemerintahan kolonial ketika pbb didirikan dan oleh karena itu “memiliki volume yang lebih kecil” dalam diskusi saat ini.

ia menyerukan reformasi sistem internasional yang dibentuk setelah perang dunia ii untuk mengambil tindakan efektif terhadap tantangan global.

pada bulan maret 2024, amerika serikat mengajukan resolusi ke pbb yang menyerukan negara-negara anggota untuk merangkul pengembangan “ai yang aman, andal, dan tepercaya.”

pada bulan juli tahun yang sama, tiongkok mengusulkan resolusinya sendiri yang menekankan kerja sama dalam pengembangan ai dan menjadikan teknologi tersebut tersedia secara luas. semua negara anggota pbb telah menandatangani kedua perjanjian tersebut.

perbedaan pandangan mengenai ai di antara negara-negara kaya telah menyebabkan perpecahan di pasar. uni eropa telah menerapkan peraturan ai secara menyeluruh, dan pengendalian penggunaan data telah mendorong beberapa perusahaan as untuk membatasi ketersediaan produk mereka.

pendekatan laissez-faire yang diambil oleh pemerintah as juga menyebabkan california mengusulkan peraturan ai yang lebih ketat.

dalam menghadapi tantangan-tantangan ini, laporan badan penasihat ai pbb membuka jalan untuk menetapkan posisi bersama.

chris russell, seorang profesor di universitas oxford, percaya: "menahan analisis mengenai hak asasi manusia sangat meyakinkan.

ini memberikan pekerjaan yang luas dan kuathukum internasionallandasan, dan fokus pada kerugian spesifik yang diderita masyarakat. "

namun, kemajuan ai sangat pesat sehingga pbb tidak akan mampu mengelola kerja sama global sendirian.

“perserikatan bangsa-bangsa jelas mempunyai peran penting dalam tata kelola ai, namun hal ini perlu dilakukan dengan arsitektur yang terdistribusi,” ujarnya. “negara-negara juga perlu terlibat secara langsung.”

yang terakhir, meskipun pemerintah melihat ai sebagai cara untuk mendapatkan keuntungan strategis, banyak ilmuwan yang sepakat mengenai kekhawatiran mereka terhadap ai.

awal pekan ini, sekelompok cendekiawan terkemuka dari barat dan tiongkok bersama-sama menyerukan kerja sama yang lebih besar dalam masalah keamanan ai setelah konferensi keamanan ai di wina, austria.

secara keseluruhan, laporan pbb ini memberikan cetak biru kerja sama komunitas internasional dalam tata kelola ai.

namun, seperti yang dikatakan oleh anggota badan penasihat alondra nelson: “yang tidak terduga ada pada detailnya.”

di masa depan, cara pbb dan negara-negara anggotanya memilih untuk menerapkan cetak biru kerja sama ini akan menentukan keberhasilan atau kegagalan tata kelola ai global.

referensi:

https://arstechnica.com/ai/2024/09/united-nations-wants-to-treat-ai-with-same-urgency-as-climate-change/

https://www.un.org/techenvoy/ai-advisory-body

https://www.computerweekly.com/news/366611263/un-body-urges-globally-inclusive-and-distributed-ai-governance

pengoperasian/penataan huruf: he chenlong