berita

Teks |Hukum E Keuangan Fan Shuo

Sunting |Guo Liqin

UE sekali lagi memimpin dunia dalam hal kecepatan legislasi, kali ini di bidang kecerdasan buatan, yang terus menjadi topik hangat. Namun, masih belum jelas bagaimana ketentuan yang tidak jelas ini pada akhirnya akan diterapkan.

Pada bulan Agustus, undang-undang pertama di dunia yang mengatur kecerdasan buatan secara komprehensif, Undang-Undang Kecerdasan Buatan Eropa (selanjutnya disebut sebagai "Undang-undang AI"), secara resmi mulai berlaku.

Yang paling menarik perhatian adalah ketentuan UU AI akan diterapkan secara bertahap. Tanggal 1 Agustus adalah tanggal berlakunya undang-undang ini, namun hanya sebagian ketentuannya yang berlaku. Menurut jadwal, praktik yang dilarang dalam RUU tersebut akan berlaku enam bulan setelah berlakunya; kewajiban dan aturan terkait untuk kecerdasan buatan umum akan berlaku 12 bulan mulai 1 Agustus setelah 24 bulan, RUU tersebut akan berlaku sepenuhnya, tetapi beberapa aturan untuk sistem AI berisiko tinggi akan mulai diterapkan setelah 36 bulan.

Serangkaian peraturan komprehensif untuk AI ini, yang dikenal sebagai yang "paling ketat" dalam sejarah, mencakup semua entitas dalam rantai industri AI dalam lingkup pengawasan, termasuk penyedia sistem AI, pengguna, importir, dan distributor yang memiliki hubungan dengan AI. Pasar UE.

“Undang-Undang AI” juga memperluas perangkat peraturan: undang-undang tersebut tidak hanya memperkenalkan model manajemen hierarkis yang berorientasi risiko, namun juga merancang “kotak pasir peraturan” untuk mengurangi beban kepatuhan pada usaha kecil dan menengah serta perusahaan rintisan. "Gigi" yang tajam juga menarik perhatian:Jika ketentuan terkait dilanggar, perusahaan dapat didenda hingga 35 juta euro (sekitar 270 juta yuan), atau 7% dari penjualan tahunan global pada tahun fiskal sebelumnya (mana yang lebih tinggi).

Sejak awal perumusan UU AI, UE sudah berharap dapat menggunakannya untuk memimpin aturan di bidang AI.

"Undang-undang AI" diumumkan oleh Kepala Urusan Digital UE Margaret Vestager pada bulan April 2021. Saat itu, dia berkata: "UE memimpin dalam mengembangkan norma-norma global baru untuk memastikan bahwa kecerdasan buatan dapat dipercaya." Komisaris pasar internal Komisi, juga mengatakan di media sosial bahwa undang-undang tersebut “akan menjadi panduan penting untuk membantu perusahaan rintisan dan peneliti UE memimpin persaingan global di bidang AI.”

Namun, penerapan UU AI yang pesat ketika perkembangan industri AI masih dalam tahap awal juga menuai kritik luas.Para penentang berpendapat bahwa upaya tergesa-gesa untuk mengatur model yang mendasarinya akan membatasi penggunaan teknologi itu sendiri.

Xu Xu, direktur Pusat Penelitian Ekonomi Digital dan Inovasi Hukum di Universitas Bisnis dan Ekonomi Internasional, percaya bahwa ketentuan implementasi bertahap dari "Hukum AI" akan memberikan periode penyangga yang memadai bagi perusahaan-perusahaan UE, yang patut dipelajari di masa depan. perundang-undangan yang relevan.

Setelah mempelajari ketentuan tersebut, Zhang Linghan, seorang profesor di Institut Hukum Data di Universitas Ilmu Politik dan Hukum Tiongkok dan anggota Badan Penasihat Tingkat Tinggi PBB untuk Kecerdasan Buatan Tiongkok, mengatakan bahwa meskipun "Hukum AI" adalah dikenal ketat, penerapan langkah-langkah regulasi yang terbatas dan alat regulasi yang inovatif merupakan peraturan UE yang memberikan ruang yang diperlukan untuk pengembangan yang fleksibelHal ini juga meningkatkan biaya kepatuhan bagi bisnis non-UE.

Ning Xuanfeng, kepala kepatuhan di King & Wood Mallesons, percaya bahwa dampak dan dampak sebenarnya dari "Hukum AI" perlu dicermati setelah semua ketentuan berlaku, dikombinasikan dengan perkembangan dan hasil peraturan industri AI pada saat itu. waktu. Implikasinya bagi legislator Tiongkok adalah bahwa sistem AI berisiko tinggi melibatkan banyak entitas terkait di seluruh proses penerapannya. Undang-undang AI menetapkan persyaratan kepatuhan berdasarkan tingkat partisipasi entitas terkait, dan menangani pelanggaran yang relevan entitas. Hukuman denda ditetapkan. Dalam pandangan Ning Xuanfeng, “Langkah Sementara untuk Pengelolaan Layanan Kecerdasan Buatan Generatif” Tiongkok saat ini terutama berfokus pada penyedia layanan sebagai titik awal tata kelola. Jika Tiongkok melegalkan AI di masa depan, Tiongkok dapat mempertimbangkan untuk membangun mekanisme tanggung jawab yang mencakup semua pihak dalam rantai nilai sistem AI, yang akan lebih membantu dalam membatasi batasan tanggung jawab masing-masing pihak, sehingga merangsang penelitian dan pengembangan atau motivasi layanan.

01

Pencerahan dari undang-undang UE

UE telah melakukan diskusi terperinci yang mencakup kekhawatiran semua pihak selama proses legislatif. Isinya, serta orientasi dan pemikiran keseluruhan peraturan perundang-undangan, juga telah memberikan referensi berharga bagi negara atau kawasan lain.

Perundang-undangan cepat UE telah dikritik secara internasional.

Menurut laporan media, anggota parlemen Uni Eropa mengadakan negosiasi maraton pada bulan Desember 2023 agar peraturan tersebut diadopsi. Namun para pengkritik mengatakan bahwa peraturan tersebut tidak cukup efektif, karena regulator tidak memberikan rincian penting yang sangat diperlukan oleh dunia usaha untuk menegakkan hukum tersebut. Beberapa profesional memperkirakan hal ituUE membutuhkan 60 hingga 70 undang-undang sekunder untuk mendukung penerapan UU AI.

Kai Zena, asisten Parlemen Eropa yang ikut serta dalam penyusunan UU AI, mengakui:"Hukumnya tidak jelas. Tekanan waktu membuat banyak hal tidak jelas. Regulator tidak bisa menyepakati hal-hal ini, jadi lebih mudah untuk berkompromi."

Xu mengatakan kritik terbesar terhadap UU AI adalah bahwa UU tersebut didasarkan pada pendekatan berbasis risiko dan kurang memberdayakan individu. Selain itu, penerapan UU AI di masa depan juga perlu menghadapi banyak kendala koordinasi dengan peraturan perundang-undangan lainnya. Misalnya, koordinasi dengan peraturan hukum seperti General Data Protection Regulation (GDPR), Digital Markets Act (DMA), dan Data Governance Act (DGA) akan menimbulkan banyak masalah. Selain itu, sebagai undang-undang umum, UU AI perlu mempertimbangkan permasalahan implementasi di berbagai bidang, termasuk keuangan, kesehatan, transportasi, dan bidang lainnya.

“Faktanya, hal ini mungkin menyebabkan lebih banyak masalah daripada penyelesaiannya,” kata Xu.

Meski mendapat kritik, gagasan legislatif dari "UU AI" tetap ditegaskan, terutama karena mempertimbangkan proses perkembangan industri secara keseluruhan.

Zhang Linghan menunjukkan,Meskipun dikenal sebagai undang-undang regulasi AI yang paling ketat dalam sejarah, langkah-langkah regulasi dari "UU AI" sebenarnya terbatas, dan selama proses perumusannya, undang-undang tersebut juga dianggap mendorong perkembangan industri AI UE secara keseluruhan.

Secara khusus,Zhang Linghan percaya itu yang pertama,UU AI memberikan pengecualian untuk pengembangan dan pemanfaatan beberapa sistem AI.Mencakup sistem yang dikembangkan secara khusus untuk tujuan militer, pertahanan, atau keamanan nasional, sistem yang dikembangkan secara khusus untuk penelitian ilmiah, dan sistem kecerdasan buatan yang bebas dan bersumber terbuka.

Kedua, UU AI mengusulkan serangkaian langkah pendukung.Untuk mengurangi beban administratif dan keuangan pada perusahaan-perusahaan UE, khususnya usaha kecil dan menengah.

Ketiga, jadwal kepatuhan bertahap dari "UU AI" dan sistem sandbox regulasi yang dibuat olehnyaHal ini memberikan sejumlah waktu dan ruang untuk pengembangan industri AI UE.

Keempat, dampak ekstrateritorial dari UU AI akanPeningkatan biaya kepatuhan untuk bisnis non-UE, yang akan membatasi kesediaan perusahaan-perusahaan non-UE untuk memperluas pasar Eropa, sehingga dapat mengurangi tekanan persaingan terhadap perusahaan-perusahaan UE sampai batas tertentu.

Xu yakin penerapan UU AI secara bertahap mungkin disebabkan oleh dua alasan. Di satu sisi, kecerdasan buatan merupakan bidang regulasi yang berkembang pesat. Masih terdapat ketidakpastian besar mengenai cara merespons perubahan dalam teknologi dan industri setelah undang-undang tersebut berlaku industri untuk memungkinkan perusahaan meninjau jalur teknis dan model bisnis mereka sendiri. Penyesuaian; di sisi lain, "UU AI" adalah aturan tata kelola kolaboratif. Agar undang-undang dapat diterjemahkan ke dalam bahasa teknis dan standar industri, diperlukan kerja sama dengan otoritas pengatur dan perusahaan, yang juga memerlukan penyisihan waktu untuk komunikasi risiko, komunikasi dan koordinasi antara perusahaan dan otoritas pengatur.

Menurut Wu Shenkuo, pengajar doktoral di Beijing Normal University Law School dan wakil direktur China Internet Society Research Center, "Hukum AI" menetapkan persyaratan sistem peraturan dengan transparansi dan keadilan sebagai logika inti untuk penelitian dan pengembangan serta penerapan industri. kecerdasan buatan. Hal ini akan berdampak jangka panjang pada arah penelitian dan pengembangan serta penerapan pasar AI, dan juga akan mengubah tata letak pasar Eropa.

Lantas, apa implikasi dari dua perangkat regulasi utama yang dirancang dalam UU AI tersebut terhadap legislator di negara lain?

Struktur peraturan keseluruhan dari "Hukum AI" berkisar pada empat kategori tingkat risiko dari tinggi ke rendah untuk aplikasi kecerdasan buatan, mirip dengan "piramida risiko", dengan mekanisme pencegahan risiko yang ditetapkan masing-masing.

Menurut potensi dampak kecerdasan buatan terhadap pengguna dan masyarakat, kecerdasan ini dibagi menjadi empat tingkatan:Kategori risiko tidak dapat diterima, kategori risiko tinggi, kategori risiko terbatas, kategori risiko minimal.

Pada tingkat yang paling ekstrim, sistem atau aplikasi kecerdasan buatan yang menimbulkan risiko yang tidak dapat diterima, seperti yang dianggap menimbulkan ancaman nyata terhadap keselamatan masyarakat, kehidupan sehari-hari, dan hak-hak dasar, akan dilarang sepenuhnya untuk digunakan.Pengembang sistem AI tersebut akan didenda hingga 6% dari omzet global pada tahun fiskal sebelumnya.(Untuk detailnya, lihat:Terobosan dalam undang-undang AI di Tiongkok dan Eropa pada periode yang sama: Menetapkan "lampu lalu lintas" untuk ChatGPT?）

Empat tingkat risiko kecerdasan buatan, sumber: situs resmi Komisi Eropa

Untuk sistem kecerdasan buatan yang berisiko tinggi, "UU AI" menetapkan sistem manajemen risiko proses penuh yang mencakup proses masuk sebelum pasar hingga masuknya pasca pasar. Sebelum memasuki pasar, perusahaan perlu membangun dan memelihara sistem manajemen risiko, melakukan tata kelola data, mengembangkan dan memperbarui dokumentasi teknis, dan memberikan semua informasi yang diperlukan kepada otoritas pengatur, dll.

Wu Shenkuo memperkenalkan bahwa sebagai metodologi dasar, klasifikasi dan klasifikasi risiko akan tercermin pada tingkat yang berbeda-beda dalam undang-undang di berbagai negara dan wilayah. Signifikansi penting dan nilai institusionalnya terletak pada memastikan proporsionalitas pengawasan – selain memenuhi permasalahan inti peraturan dan tuntutan strategis, hal ini juga memberikan ruang pengembangan fleksibel yang diperlukan untuk pengembangan AI.

Di Tiongkok, sistem klasifikasi dan penilaian yang berorientasi pada risiko juga tercermin dalam regulasi algoritma dan AI generatif. Pada bulan September 2021, Administrasi Ruang Siber Tiongkok mengeluarkan "Pendapat Panduan tentang Penguatan Manajemen Komprehensif Algoritma Layanan Informasi Internet", yang dengan jelas mengusulkan untuk mempromosikan manajemen keamanan algoritma yang hierarkis dan rahasia, secara efektif mengidentifikasi algoritma berisiko tinggi, dan menerapkan secara tepat pemerintahan.Pada bulan Juli 2023, "Langkah-langkah Sementara untuk Pengelolaan Layanan Kecerdasan Buatan Generatif" yang dikeluarkan oleh Administrasi Ruang Siber Tiongkok dan departemen lain juga mengusulkan untuk menerapkan pengawasan yang inklusif, bijaksana dan rahasia serta hierarkis terhadap layanan kecerdasan buatan generatif.

Ning Xuanfeng percaya bahwa strategi klasifikasi risiko didasarkan pada kebutuhan regulasi yang realistis terhadap teknologi AI tanpa sepenuhnya memahami risiko sosial yang mungkin disebabkan oleh teknologi AI.Strategi regulasi progresif.

Perizinan percaya bahwa klasifikasi dan penilaian berarti bahwa otoritas pengatur harus mengalokasikan sumber daya regulasi sesuai dengan proporsi tertentu. Di masa depan, AI akan tertanam di ribuan industri seperti perangkat lunak OfficeKlasifikasi hierarki harus tetap menjadi salah satu ide dasar pengawasan AI.Namun, klasifikasi dan penilaian berbasis risiko yang ada saat ini sebaiknya ditinggalkan karena hanya melihat risiko statis dari AI tetapi tidak melihat manfaat dinamisnya. Misalnya, sistem AI yang berisiko tinggi sering kali menghasilkan keuntungan yang tinggi.

Klasifikasi hierarki dalam "Hukum AI" berbeda dengan logika klasifikasi hierarki yang ada di Tiongkok. Pengenalan perizinan, klasifikasi dalam bahasa Inggris adalah satu kata - klasifikasi. Namun di Tiongkok, klasifikasi dan penilaian adalah dua konsep: "klasifikasi" dan "penilaian". Yang lebih istimewanya adalah dengan munculnya kecerdasan buatan secara umum, metode klasifikasi klasik skenario penerapan AI dalam kebijakan Tiongkok sebelumnya mungkin perlu disesuaikan. Misalnya, "Peraturan Manajemen Rekomendasi Algoritma Layanan Informasi Internet" mengatur lima kategori utama "teknologi rekomendasi algoritme aplikasi", termasuk layanan informasi seperti pembuatan dan sintesis, dorongan yang dipersonalisasi, penyortiran dan pemilihan, pengambilan dan pemfilteran, serta penjadwalan dan pengambilan keputusan. membuat.Namun, AI generatif tidak bisa lagi mengikuti ide ini, dan model besar dapat diterapkan di segala bidang.

Pengenalan perizinan,Dalam hal penyesuaian klasifikasi, otoritas pengatur masih dapat melakukan manajemen hierarki kecerdasan buatan. Tiongkok mengadopsi klasifikasi berdasarkan tingkat dampak AI.Misalnya, "Langkah-langkah Sementara untuk Pengelolaan Layanan Kecerdasan Buatan Generatif"Layanan kecerdasan buatan generatif yang memberikan atribut opini publik atau kemampuan mobilisasi sosial diklasifikasikan dan dinilai.Penyedia layanan jenis ini telah mengajukan persyaratan untuk pengarsipan algoritma dan pengarsipan model besar. Logikanya adalah bahwa beberapa sistem AI mempunyai dampak yang signifikan terhadap negara dan tatanan sosial, sehingga otoritas pengatur akan mengambil tindakan regulasi yang berbeda. Namun, Xu Xu percaya bahwa hal ini tidak berarti bahwa undang-undang AI Tiongkok akan melanjutkan langkah-langkah regulasi yang sama di masa depan, namun dapat diperkirakan bahwaOtoritas pengatur akan menggunakan berbagai faktor untuk menentukan dampak sistem AI dan menetapkan langkah-langkah regulasi yang sesuai.

Zhang Linghan juga berkata,Ketika AI generatif menjadi lebih serbaguna, sistem klasifikasi Tiongkok perlu disesuaikan seiring dengan perkembangan teknologi.

Melanjutkan rancangan sebelumnya, “UU AI” memperkenalkan sistem “regulatory sandbox” yang umum dalam pengawasan teknologi keuangan.

Yang disebut "kotak pasir peraturan" adalah untuk menciptakan ruang aman yang diawasi dan dikendalikan, yang memungkinkan perusahaan, terutama usaha kecil dan menengah serta perusahaan rintisan, untuk memasuki "kotak pasir" dan berpartisipasi aktif dalam pengembangan dan pengembangan AI yang inovatif sistem di bawah pengawasan ketat badan pengatur. Uji dan kemudian luncurkan sistem AI ini ke pasar layanan. Jika risiko besar ditemukan selama pengembangan dan pengujian, risiko tersebut harus segera dimitigasi. Jika risiko tidak dapat dimitigasi atau dikendalikan, pengujian terbuka harus dihentikan.

"Regulatory Sandbox" pertama kali dibuat oleh Financial Conduct Authority (FCA) Inggris pada tahun 2015. Menurut Li, sistem “regulatory sandbox” adalah inisiatif UE untuk mendukung inovasi, yang bertujuan untuk mencapai inovasi teknologi dengan risiko yang dapat dikendalikan. "Kotak pasir regulasi" dapat menciptakan lingkungan yang dapat dikontrol, mengambil tindakan regulasi khusus untuk beberapa aplikasi AI, dan memberikan ruang bagi AI yang berpotensi berisiko untuk melakukan uji coba.

Wu Shenkuo juga mengatakan bahwa "regulatory sandbox" adalah salah satu fitur dari "Hukum AI". Dalam menghadapi teknologi dan penerapan baru seperti AI, mereka dapat membantu atau mendorong dialog berkelanjutan antara regulator UE dan pihak yang diatur.untuk mengatasi keseimbangan dinamis antara perkembangan teknologi dan masalah peraturan.

Saat ini, beberapa negara anggota UE sedang menguji coba sistem “regulatory sandbox” di bidang AI.

Prancis akan mulai menguji coba sistem “regulatory sandbox” pada tahun 2022, dengan fokus padaIndustri pendidikan, saat ini terdapat 5 perusahaan yang berpartisipasi dalam uji coba tersebut.

Pada bulan Mei 2024, Spanyol meminta pendapat tentang penerapan "regulatory sandbox". Spanyol sudah jelasSistem kecerdasan buatan berisiko tinggi, kecerdasan buatan umum, dan model dasar di delapan bidang, termasuk biometrik, infrastruktur penting, serta pendidikan dan pelatihan, dapat diterapkan pada sistem "regulatory sandbox".Perjanjian ini juga memberikan peraturan yang lebih rinci mengenai akses proyek, penyerahan dokumen, manajemen risiko, dan kondisi keluar.

Norwegia dan Swiss juga memiliki proyek percontohan serupa. Misalnya, penyedia transportasi umum Norwegia, Ruter, melakukan penilaian risiko pada algoritma AI rekomendasi perjalanan online berdasarkan "regulatory sandbox". Lima perusahaan percontohan di Swiss masing-masing bergerak di bidangnyaMesin pertanian tak berawak, drone, terjemahan mesin, koreksi kesalahan operasi dan penjadwalan parkir, dll.penelitian dan pengembangan di bidangnya.

Di Tiongkok, sistem “regulatory sandbox” juga diterapkan dalam pengawasan teknologi keuangan. Pada tanggal 31 Januari 2019, dalam “Balasan atas Rencana Kerja Percontohan Komprehensif untuk Mempromosikan Ekspansi dan Pembukaan Industri Jasa Beijing secara Komprehensif”, Dewan Negara sepakat bahwa Beijing harus mengeksplorasi mekanisme “kotak pasir peraturan” di bawah premis hukum. kepatuhan. Pada tanggal 5 Desember 2019, Bank Rakyat Tiongkok menyetujui dukungan bagi Beijing untuk memimpin peluncuran proyek percontohan nasional untuk pengawasan inovasi teknologi keuangan dan mengeksplorasi "kotak pasir regulasi" versi Tiongkok.

Dari sudut pandang Perizinan, “regulatory sandbox” bukan hanya inovasi teknologi, namun juga inovasi regulasi. Sistem ini sebenarnya melakukan eksperimen dalam dua aspek: yang pertama adalah tata kelola eksperimental dari yang diatur; yang lain memungkinkan regulator untuk menguji rasionalitas dan perlunya aturan regulasi dalam sebuah kotak pasir (sandbox).“Regulatory sandbox” yang matang merupakan inovasi kolaboratif antara regulator dan yang teregulasi, yaitu regulator menyesuaikan aturan regulasinya berdasarkan umpan balik dari “sandbox”, dan yang diatur juga diuji dan diverifikasi berdasarkan “sandbox” tersebut. situasi, untuk menyesuaikan model bisnis dan arah pengembangan teknologi mereka.

Namun Zhang Linghan mengingatkan,“Regulatory sandbox” memberikan persyaratan yang lebih tinggi pada kemampuan pemantauan dan evaluasi badan pengatur, dan dampak nyata serta dampaknya terhadap industri masih harus terus diamati.

02

Dampak globalnya masih harus dilihat

UE selalu menjadi yang terdepan dalam legislasi digital dan berupaya mengekspor standar ke dunia melalui “efek Brussel”.

"Efek Brussel" mengacu pada fakta bahwa dalam proses UE mengawasi pasar tunggal internalnya, perusahaan multinasional telah menerima standar-standar ini melalui kepatuhan dan secara bertahap menjadikan standar UE menjadi standar dunia. Penerapan GDPR adalah contoh yang baik. GDPR adalah pedoman dan kebijakan yang mengatur privasi data pribadi di Uni Eropa, yang mulai berlaku pada tanggal 25 Mei 2018. Perusahaan teknologi multinasional menerapkan kepatuhan pemrosesan data berdasarkan persyaratan GDPR dan menggunakan standar ini untuk pemrosesan data di luar UE, sehingga menjadikan standar UE sebagai standar dunia.

Zhang Linghan percaya bahwa sebagai pasar yang penting bagi AI, industri AI di UE relatif lemah. "Undang-undang AI" berupaya mereproduksi kerangka tata kelola global GDPR dan semakin memperluas "Efek Brussel", sehingga mendapatkan daya tawar dalam persaingan industri global. dan mendistribusikan kembali manfaat. Dalam hal ini, dunia sedang mengamati apakah “UU AI” dapat memenuhi harapan.

Ada prasyarat untuk penerapan "Undang-undang AI". Baik perusahaan teknologi lokal UE maupun perusahaan teknologi multinasional bersedia menerima tantangan kepatuhan.

Cecilia Bonefield-Dahl, direktur jenderal Digital Europe, memperingatkan bahwa pendekatan ini menyebabkan regulasi yang buruk,Hal ini akan menghambat persaingan antara Eropa dan Amerika Serikat di bidang perusahaan kecerdasan buatan baru di masa depan.“Biaya kepatuhan tambahan bagi perusahaan-perusahaan UE telah semakin mengurangi keuntungan kami,” katanya.“Sementara negara-negara lain merekrut programmer, kami malah merekrut pengacara.”

Zhang Linghan mengatakan bahwa pemberlakuan "Undang-Undang AI" telah membawa tantangan multidimensi bagi perusahaan teknologi yang beroperasi di Eropa, dan telah membuat peraturan terkait di semua aspek pengembangan, pengujian, penerapan, dan penerapan produk AI. Dalam pandangannya, perusahaan teknologi tidak hanya harus meningkatkan investasi pada biaya kepatuhan untuk memastikan terbentuknya sistem kepatuhan yang sejalan dengan UE, namun juga perlu terus mengevaluasi dan memantau target pasar serta melakukan penyesuaian yang diperlukan dalam penelitian dan proses pengembangan dan desain fungsional untuk memastikan Memenuhi standar keamanan dan transparansi yang tinggi yang disyaratkan oleh UU AI.

Ning Xuanfeng percaya bahwa hal yang paling intuitif adalah bahwa sejauh menyangkut penyedia sistem AI yang berisiko tinggi, dampak dari "Hukum AI" setidaknya akan tercermin dalam biaya kepatuhan entitas terkait untuk beradaptasi dengan persyaratan peraturan yang relevan; dengan kata lain, entitas terkait bahkan mungkin tidak dapat terus menyediakan sistem yang relevan, yang selanjutnya dapat menyebabkan kerugian ekonomi.

Jadi, bagaimana seharusnya tanggapan perusahaan AI Tiongkok?

Zhang Linghan menyarankan ituTingkat kepatuhan, Perusahaan-perusahaan Tiongkok pertama-tama harus mengevaluasi persyaratan "Undang-undang AI" secara komprehensif, menyesuaikan strategi kepatuhan secara cepat dan dinamis, dan membangun sistem manajemen kepatuhan internal; kedua, mereka harus meningkatkan kemampuan inovasi teknologi dan menargetkan karakteristik teknis dan fungsi produk sistem AI; .Kembangkan rencana risiko yang relevan;akhirnya,Kerja sama dan pertukaran internasional harus diperkuat,Memperhatikan baik-baik perkembangan perundang-undangan dan penegakan hukum di luar negeri untuk meningkatkan daya saing internasional.

Izin percaya bahwa UE tidak akan berhasil mereproduksi efek "Brussels" dari GDPR. Ada tiga prasyarat keberhasilan GDPR: yang pertama adalah yurisdiksi yang luas, yang kedua adalah persyaratan hukum berstandar tinggi, dan yang ketiga adalah denda yang tinggi. Saat ini, meskipun UU AI sejalan dengan GDPR dalam ketiga aspek tersebut, perbedaan pentingnya adalah data harus mengalir lintas batas dan sistem kecerdasan buatan dapat dibagi. Fluiditas data memungkinkan regulator untuk secara tidak langsung memberikan dampak global dengan mengendalikan arus masuk dan keluar data di UE, namun hal ini tidak dapat tercermin dalam regulasi AI.Perusahaan AI dapat sepenuhnya membangun pasar yang dapat dibagi dan tidak perlu mematuhi aturan UE ketika mengembangkan industri AI di luar UE.

Sebagai pengingat perizinan, penting untuk dicatat bahwa ada dua pengecualian dalam UU AI: Yang pertama adalah pengecualian untuk penelitian dan pengembangan AI. Banyak perusahaan dapat melakukan penelitian dan pengembangan di UE dan memberikan layanan di luar UE. Yang kedua adalah pengecualian open source, yang hanya membatasi beberapa sistem AI sumber tertutup. Misalnya, Google secara tidak langsung dapat memengaruhi produk dan layanan di pasar UE melalui kecerdasan buatan sumber terbuka.

Xu juga menunjukkan bahwa GDPR memberikan hak yang sangat kuat kepada individu, dan hak-hak pribadi ini telah mendorong individu dan LSM untuk memulai tuntutan hukum guna mencapai pengawasan melalui litigasi. "Hukum AI" pada dasarnya menetapkan tanggung jawab produk sistem AI.Individu tidak diberikan hak-hak baru, sehingga penegakannya hanya dapat bergantung pada penegakan administratif UE. Berdasarkan prinsip kedaulatan, penegakan hukum yang relevan sebenarnya hanya dapat dilakukan di dalam UE, yang juga menimbulkan tantangan terhadap pengaruh AI secara global. Hukum.

Namun, Sun Yuanzhao, seorang sarjana hukum di Amerika Serikat, percaya bahwa persyaratan kepatuhan "Hukum AI" dapat menyebabkan ketidaknyamanan pada tingkat tertentu pada operasi perusahaan, tetapi hal ini berlaku pada persyaratan kepatuhan apa pun. Dari sudut pandang positif, hal ini dapat menghindari kecelakaan keselamatan besar sampai batas tertentu, dan jika terjadi kecelakaan, kita dapat bertukar pikiran dalam waktu sesingkat mungkin untuk bersama-sama mencari tahu masalah dan solusinya kepercayaan masyarakat dan mendorong perkembangan pasar secara keseluruhan yang sehat dan teratur.