ニュース

テキスト |金融電子法 范碩

編集 |郭立琴

EUは、法整備のスピードで再び世界をリードしており、今回は引き続き注目を集めている人工知能の分野だ。ただし、これらの曖昧な条件が最終的にどのように実装されるかはまだ不明です。

8月には、人工知能を包括的に規制する世界初の法律「欧州人工知能法（以下、AI法）」が正式に施行された。

最も注目されているのは、AI法の規定が段階的に施行されることだ。この法律は 8 月 1 日が発効日ですが、施行されているのは一部の規定のみです。予定表によると、法案の禁止行為は発効から6か月後に適用され、一般的な人工知能に対する関連義務と規則は24か月後の8月1日から完全に適用されるが、一部の規則は適用される。高リスク AI システムに対する適用は 36 か月後に開始されます。

史上最も「厳しい」と知られるこの一連の包括的なAI規制規則には、AIシステムプロバイダー、ユーザー、輸入業者、AIとつながりのある販売業者など、AI産業チェーンのすべての事業体が監督の範囲内に含まれている。 EU市場の加盟店や製品メーカーなど

「AI法」は規制手段も拡大した。リスク指向の階層的管理モデルを導入しただけでなく、中小企業や新興企業のコンプライアンスの負担を軽減する「規制のサンドボックス」も設計した。鋭い「歯」も注目を集めました。関連規定に違反した場合、企業は最大3,500万ユーロ（約2億7,000万元）または前会計年度の全世界年間売上高の7％（いずれか高い方）の罰金を科される可能性がある。

AI法の策定当初から、EUはAI分野のルールを主導するために同法を活用することを望んでいた。

「AI法」は2021年4月にEUデジタル担当長官マーガレット・ベステアー氏によって発表された。その際、同氏は「人工知能が信頼できるものであることを保証するために、EUは新たな世界規範の策定を主導している」と述べた。欧州委員会の域内市場委員もソーシャルメディアで、この法律は「EUの新興企業や研究者がAI分野で世界的な競争をリードするのを助ける重要な指針となるだろう」と述べた。

しかし、AI産業の発展がまだ初期段階にあった段階でAI法を急遽導入したことも広く批判を集めている。反対派は、基盤となるモデルを性急に規制しようとすると、テクノロジー自体の使用が制限されると主張している。

対外商経大学デジタル経済・法革新研究センター所長のXu Xu氏は、「AI法」の段階的施行規定はEU企業に十分な緩衝期間を与えるものであり、この点は学ぶ価値があると考えている。関連する法律。

中国政法大学データ法研究所の教授であり、人工知能に関する国連ハイレベル諮問機関の中国人メンバーでもある張玲漢氏は、この規定を研究した後、「AI法」は厳格であることが知られていますが、規制措置の限定的な実施と革新的な規制ツールはすべて、AI 企業が柔軟な開発に必要なスペースを提供します。また、EU 以外の企業のコンプライアンスコストも増加します。

King & Wood Mallesons のコンプライアンス責任者である Ning Xuanfeng 氏は、「AI 法」の実際の効果と影響は、すべての規定が発効した後、その時点での AI 業界の発展と規制の結果と合わせて観察する必要があると考えています。時間。中国の立法者にとっての意味は、高リスクAIシステムには、その導入プロセス全体を通じて複数の関連団体が関与しているということである。AI法は、関連団体の参加の程度に基づいてコンプライアンス要件を定めており、関係団体による違反に対処している。罰金が設定されました。寧玄峰氏の見解では、中国の現在の「生成型人工知能サービス管理に関する暫定措置」は主にガバナンスの出発点としてサービスプロバイダーに焦点を当てている。中国が将来AIを法制化する場合、AIシステムのバリューチェーンのすべての関係者を対象とする責任メカニズムの確立を検討することができ、これは各当事者の責任の境界を定めるのにより役立ち、それによって研究開発やサービスの動機を刺激することになるだろう。

01

EU法による啓蒙

EU は立法過程ですべての当事者の懸念をカバーする詳細な議論を行ってきました。これらの内容は、法律全体の方向性や考え方と同様に、他の国や地域にも貴重な参考となっています。

EUの急速な立法は国際的に批判されている。

メディア報道によると、EUの議員らは2023年12月に規則の採択に向けてマラソン交渉を行った。しかし批評家らは、規制当局が企業が法律を執行するために切実に必要とする重要な詳細が抜け落ちており、この規則は十分に進んでいないと主張している。一部の専門家はこう推測しているEUはAI法の施行を支援するために60から70の二次法を必要としている。

AI法の起草に参加した欧州議会の補佐官カイ・ゼナ氏は次のように認めた。「法律は非常に曖昧だ。時間のプレッシャーにより、多くのことが宙に浮いたままになる。規制当局はこれらの点で合意できないため、妥協するのが簡単だ。」

徐氏は、AI法に対する最大の批判は、同法がリスクベースのアプローチに基づいており、個人の権限付与が欠けていることだと述べた。さらに、今後のAI法の施行には、他の法令との調整課題も数多く存在する。たとえば、一般データ保護規則 (GDPR)、デジタル市場法 (DMA)、データ ガバナンス法 (DGA) などの法規制との調整は、多くの問題を引き起こします。また、AI法は一般法として、金融、医療、交通等の多分野での施行課題を検討する必要がある。

「実際、それは解決するよりも多くの問題を引き起こす可能性があります」と徐氏は言う。

「AI法」の立法思想は批判にさらされているものの、主に業界全体の発展プロセスを考慮しているという理由で肯定されている。

張玲漢氏は次のように指摘した。史上最も厳しいAI規制法として知られるが、実際には「AI法」の規制措置は限定的であり、策定過程ではEUのAI産業全体の発展を促進することも考慮されていた。

具体的には、張玲漢氏はまず次のように考えています。AI法では、一部のAIシステムの開発・利用に適用除外が設けられている。軍事、防衛、または国家安全保障を目的として特別に開発されたシステム、科学研究のために特別に開発されたシステム、および無料でオープンソースの人工知能システムが含まれます。

第二に、AI法は一連の支援策を提案しています。EU企業、特に中小企業の管理上および財務上の負担を軽減する。

第三に、「AI法」の段階的な遵守スケジュールと、それによって構築される規制サンドボックス制度は、それぞれEU の AI 産業の発展に一定の時間とスペースを提供します。

第四に、AI法の治外法権効果は、EU 以外の企業のコンプライアンスコストの増加これにより、非EU企業の欧州市場拡大意欲が制限され、EU企業に対する競争圧力がある程度軽減される可能性がある。

Xu 氏は、AI 法の段階的な施行には 2 つの理由がある可能性があると考えています。一方で、人工知能は急速に規制が発展している分野であり、法施行後も技術や産業の変化にどのように対応するかは依然として不確実性が高い。一方、「AI法」は、企業が独自の技術ルートとビジネスモデルを見直すことを可能にする、協調的なガバナンスのルールです。法律を専門用語や業界標準に翻訳するには、規制当局や企業との協力が必要であり、そのためには、企業と規制当局間のリスクコミュニケーション、意思疎通、調整のための時間を確保することも必要です。

北京師範大学法科大学院博士課程講師で中国インターネット社会研究センター副所長の呉神国氏によると、「AI法」はAIの研究開発と産業応用のための核心論理として、透明性と公平性を備えた規制制度要件を定めているという。人工知能。それはAIの研究開発の方向性と市場応用に長期的な影響を及ぼし、欧州の市場配置も変化させるだろう。

それでは、AI法で設計された2つの主要な規制ツールは、他国の議員にどのような影響をもたらすのでしょうか?

「AI 法」の全体的な規制構造は、「リスク ピラミッド」に似た、人工知能アプリケーションのリスク レベルを高から低まで 4 つのカテゴリーに分けて展開しており、対応するリスク防止メカニズムがそれぞれ確立されています。

人工知能がユーザーや社会に及ぼす潜在的な影響に応じて、次の 4 つのレベルに分類されます。許容できないリスク カテゴリ、高リスク カテゴリ、限定的リスク カテゴリ、最小リスク カテゴリ。

最も極端なレベルでは、人々の安全、日常生活、基本的権利に明らかな脅威をもたらすとみなされるものなど、許容できないリスクをもたらす人工知能システムやアプリケーションの使用が完全に禁止されます。このようなAIシステムの開発者には、前年度の世界売上高の最大6％の罰金が科せられる。(詳細については、以下を参照してください:同期間における中国とヨーロッパの AI 法の進歩: ChatGPT に「信号機」を設定しますか?）

人工知能の 4 つのリスク レベル、出典: 欧州委員会公式ウェブサイト

「AI法」は、リスクの高い人工知能システムについて、市場参入前から市場参入後までをカバーする全プロセスのリスク管理体制を規定している。企業は市場に参入する前に、リスク管理システムを確立および維持し、データガバナンスを実施し、技術文書を作成および更新し、規制当局などに必要なすべての情報を提供する必要があります。

呉神国氏は、基本的な方法論として、リスクの分類と分類はさまざまな国や地域の法律にさまざまな程度で反映されるだろうと紹介した。その重要な意義と制度的価値は、監督の比例性を確保することにあり、中核となる規制上の懸念と戦略的要求を満たしながら、AI の開発に必要な柔軟な開発スペースも提供します。

中国では、リスク指向の分類と格付けシステムがアルゴリズムと生成 AI の規制にも反映されています。 2021年9月、中国サイバースペース局は「インターネット情報サービスアルゴリズムの包括的管理の強化に関する指導意見」を発表し、アルゴリズムの階層的かつ機密セキュリティ管理を促進し、高リスクアルゴリズムを効果的に特定し、正確なアルゴリズムを実装することを明確に提案した。ガバナンス。2023年7月に中国サイバースペース局などの部門が発行した「生成型人工知能サービスの管理に関する暫定措置」でも、生成型人工知能サービスに対する包括的かつ慎重かつ機密かつ階層的な監督を実施することが提案されている。

Ning Xuanfeng 氏は、リスク分類戦略は AI テクノロジーによって引き起こされる可能性のある社会的リスクを完全に理解せずに、AI テクノロジーに対する現実的な規制ニーズに基づいていると考えています。進歩的な規制戦略。

ライセンシングは、分類と格付けは、規制当局が一定の割合に従って規制リソースを割り当てなければならないことを意味すると考えています。将来的には、Office ソフトウェアなどの何千もの業界に AI が組み込まれるようになるでしょう。階層的分類は依然として AI 監視の基本的な考え方の 1 つであるはずです。ただし、現在のリスクベースの分類と格付けは、AI の静的なリスクのみが考慮され、動的な利点が考慮されていないため、放棄されるべきです。たとえば、ハイリスクの AI システムは多くの場合、高いリターンを意味します。

「AI法」における階層分類は、中国の既存の階層分類ロジックとは異なる。ライセンスの導入、英語での分類は、一言で「分類」です。しかし、中国では、分類と格付けは「分類」と「格付け」という 2 つの概念です。さらに特別なのは、汎用人工知能の出現により、中国のこれまでの政策における AI 適用シナリオの古典的な分類方法を調整する必要がある可能性があることです。例えば、「インターネット情報サービスアルゴリズム推奨管理規程」では、情報サービスの生成・合成、パーソナライズプッシュ、ソート・選択、検索・フィルタリング、スケジューリング・決定などの「アプリケーションアルゴリズム推奨技術」の主要5分野を規定している。作ること。しかし、生成型 AI はこの考え方に従うことができなくなり、大規模なモデルがあらゆる分野に適用できるようになりました。

ライセンスの導入、分類調整の場合でも、規制当局は人工知能の階層管理を行うことができます。中国はAIの影響度に基づく分類を採用している。例えば、「生成型人工知能サービスの運営に関する暫定措置」世論の属性や社会動員機能を提供する生成型人工知能サービスは分類され、等級付けされます。このタイプのサービス プロバイダーは、アルゴリズム ファイリングと大規模モデル ファイリングの要件を提示しました。その論理は、一部の AI システムは国や社会秩序に重大な影響を与えるため、規制当局は異なる規制措置を講じるというものです。しかし、Xu Xu 氏は、これは中国の AI 法が将来も同じ規制措置を継続することを意味するものではないと考えています。規制当局はさまざまな要因を利用して AI システムの影響を判断し、対応する規制措置を設定します。

張玲漢もこう言った。生成 AI の汎用性が高まるにつれ、中国の分類システムはテクノロジーの発展に合わせて調整する必要があります。

「AI法」は前回の草案に続き、金融テクノロジーの監督に共通する「規制のサンドボックス」制度を導入する。

いわゆる「規制のサンドボックス」とは、監視および制御可能な安全な空間を作成し、企業、特に中小企業や新興企業が「サンドボックス」に入り、革新的なAIの開発と開発に積極的に参加できるようにすることです。これらの AI システムは規制当局の厳格な監督の下でテストされ、サービス市場に投入されます。開発およびテスト中に重大なリスクが発見された場合、そのリスクを直ちに軽減する必要があります。リスクを軽減または制御できない場合は、公開テストを中止する必要があります。

「規制サンドボックス」は2015年に英国金融行動監視機構（FCA）によって初めて創設された。李氏によると、「規制のサンドボックス」制度は、制御可能なリスクの下で技術革新を達成することを目的とした、イノベーションを支援するEUの取り組みである。 「規制サンドボックス」は、制御可能な環境を作成し、一部の AI アプリケーションに対して特定の規制措置を講じ、潜在的にリスクのある AI に試行錯誤の余地を与えることができます。

呉神国氏はまた、「規制サンドボックス」が「AI法」の特徴の1つであると述べた。 AI などの新しいテクノロジーやアプリケーションに直面した場合、それらは EU 規制当局と規制対象者との間の継続的な対話を支援または促進することができます。技術開発と規制上の懸念との間の動的なバランスに対処するため。

現在、いくつかの EU 加盟国が AI 分野で「規制サンドボックス」システムを試験的に導入しています。

フランスは2022年に「規制のサンドボックス」システムの試験運用を開始し、以下に重点を置く。教育産業、現在 5 社がパイロットに参加しています。

スペインは2024年5月に「規制のサンドボックス」導入に関する意見を募集した。スペインはクリア「規制のサンドボックス」システムには、高リスク人工知能システム、一般人工知能、生体認証、重要インフラ、教育訓練など8分野の基本モデルが適用される。また、プロジェクトへのアクセス、文書提出、リスク管理、終了条件に関するより詳細な規制も規定しています。

ノルウェーとスイスも同様のパイロットプロジェクトを実施している。たとえば、ノルウェーの公共交通機関プロバイダーである Ruter は、「規制のサンドボックス」に基づいてオンライン旅行推奨 AI アルゴリズムのリスク評価を実施しました。スイスのパイロット企業5社はそれぞれ次のような取り組みを行っている。無人農機、ドローン、機械翻訳、操作ミス修正、駐車スケジュールなど分野での研究開発。

中国では金融技術の監督にも「規制のサンドボックス」制度が適用されている。 2019年1月31日、国務院は「北京のサービス産業の拡大と開放を総合的に推進するための総合試行計画に関する回答」の中で、中国政府が法的規制を前提に「規制のサンドボックス」メカニズムを検討すべきであることに同意した。コンプライアンス。 2019年12月5日、中国人民銀行は、中国政府が金融技術革新の監督のための全国規模のパイロットプロジェクトを主導し、中国版「規制のサンドボックス」を検討することを支援することを承認した。

ライセンシングの観点から見ると、「規制のサンドボックス」は技術革新であるだけでなく、規制の革新でもあります。このシステムは実際に 2 つの側面で実験を行っています。1 つは規制対象の実験的なガバナンスであり、もう 1 つは規制当局がサンドボックス内で規制ルールの合理性と必要性​​をテストできるようにすることです。成熟した「規制サンドボックス」とは、規制側と被規制側との間の共同イノベーションです。つまり、規制側は「サンドボックス」からのフィードバックに基づいて規制ルールを調整し、規制側も「サンドボックス」に基づいてテストおよび検証されます。状況に応じてビジネスモデルと技術開発の方向性を調整します。

しかし、張玲漢はこう思い出させた。「規制サンドボックス」は規制当局の監視と評価能力に対してより高い要件を課しており、その実際の効果と業界への影響は引き続き観察される必要がある。

02

世界的な影響はまだわかりません

EU は常にデジタル法の最前線にあり、「ブリュッセル効果」を通じて標準を世界に輸出しようとしています。

「ブリュッセル効果」とは、EUが域内単一市場を監督する過程で、多国籍企業がこれらの規格を遵守することで受け入れ、徐々にEU規格が世界標準になっていくという事実を指します。 GDPR の実装がその良い例です。 GDPR は、欧州連合における個人データのプライバシーを管理するガイドラインとポリシーであり、2018 年 5 月 25 日に発効しました。多国籍テクノロジー企業は、GDPR の要件に基づいてデータ処理コンプライアンスを実装し、EU 外のデータ処理にこの標準を使用することで、EU 標準を世界標準にしています。

Zhang Linghan 氏は、AI の重要な市場としては、EU 自体の AI 産業は比較的弱いと考えています。「AI 法」は、GDPR のグローバル ガバナンスの枠組みを再現し、「ブリュッセル効果」をさらに拡大し、それによって世界的な産業競争の交渉材料を獲得しようとしています。そして利益の再分配。この点で、「AI法」が期待に応えられるかどうか、世界が注目している。

「AI 法」の施行には、EU の地元テクノロジー企業と多国籍テクノロジー企業の両方がコンプライアンスの課題を受け入れるという前提条件があります。

デジタル・ヨーロッパの局長であるセシリア・ボーンフィールド・ダール氏は、このアプローチが不十分な規制につながっていると警告した。これは将来、新しい人工知能企業の分野における欧州と米国の競争を妨げることになるだろう。「EU企業に対する追加のコンプライアンス費用が当社の利益をさらに減少させた」と彼女は述べた。「世界の他の国々がプログラマーを雇用している中、私たちは弁護士を雇用しています。」

張玲漢氏は、「AI法」の発効は欧州で事業を展開するテクノロジー企業に多面的な課題をもたらし、AI製品の開発、テスト、展開、応用のあらゆる面で対応する規制が制定されたと述べた。彼女の見解では、テクノロジー企業は、EU に沿ったコンプライアンス システムの確立を確実にするためにコンプライアンス コストへの投資を増やすだけでなく、ターゲット市場の評価と監視を継続し、調査や研究で必要な調整を行う必要もあります。 AI法で要求される高いセキュリティと透明性の基準を確実に満たすための開発プロセスと機能設計。

Ning Xuanfeng 氏は、最も直感的なことは、高リスク AI システム プロバイダーに関する限り、「AI 法」の影響は、関連する規制要件に適応するための関連企業のコンプライアンス コストに少なくとも反映されるだろうと考えています。言い換えれば、関連する組織は関連するシステムを提供し続けることさえできなくなる可能性があり、それによってさらに相応の経済的損失が発生する可能性があります。

では、中国のAI企業はどう対応すべきでしょうか？

張玲漢は次のように示唆した。適合レベル、中国企業はまず「AI法」の要件を包括的に評価し、迅速かつ動的にコンプライアンス戦略を調整し、社内のコンプライアンス管理システムを確立する必要があり、次に技術革新能力を向上させ、AIシステムの技術的特性と製品機能をターゲットにする必要があります。 。関連するリスク計画を策定する;やっと、国際協力と交流を強化すべきである。国際競争力を強化するために、海外の法規制や法執行機関の動向に細心の注意を払ってください。

Permit は、EU が GDPR の「ブリュッセル」効果を再現することは成功しないと考えています。 GDPR を成功させるには 3 つの前提条件があります。1 つ目は広範な管轄権、2 つ目は高水準の法的要件、3 つ目は高額の罰金です。現時点では、AI 法はこれら 3 つの側面において GDPR と一致していますが、重要な違いは、データが国境を越えて流れる必要があり、人工知能システムが分割される可能性があることです。データの流動性により、規制当局は EU 内のデータの流出入を制御することで間接的に世界に影響を与えることができますが、これを AI 規制に反映することはできません。AI企業は完全に分割可能な市場を確立することができ、EU外でAI産業を展開する際にEUの規則に準拠する必要がありません。

ライセンスに関する注意点として、AI 法には 2 つの免除があることに注意することが重要です。1 つは AI 研究開発の免除です。多くの企業は EU 内で研究開発を行い、EU 外でサービスを提供できます。 2 つ目は、一部のクローズド ソース AI システムのみを制限するオープン ソースの除外です。たとえば、Google はオープンソースの人工知能を通じて EU 市場の製品やサービスに間接的に影響を与えることができます。

Xu氏はまた、GDPRは個人に非常に強力な権利を与えており、これらの私権により、個人やNGOが訴訟を通じて監督を達成するために司法訴訟を起こすことを促進していると指摘した。 「AI法」は基本的にAIシステムの製造物責任を規定している。個人には新たな権利が与えられていないため、その執行は EU の行政執行にのみ依存することができ、主権の原則に基づき、関連する執行は実際には EU 内でのみ実行可能であり、これも AI の世界的な影響力に対する課題となっています。法律。

しかし、米国の法学者である孫元昭氏は、「AI法」の遵守要件は企業の運営にある程度の不都合を引き起こす可能性があるが、これはどのような遵守要件にも当てはまると考えている。良い意味で言えば、重大な安全事故はある程度回避できますし、不幸にして事故が発生した場合でも、短時間でアイデアを出し合って問題点と解決策を検討することができます。社会の信頼を高め、市場全体の健全かつ秩序ある発展を促進します。