ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

出典：環球時報

【環球時報米国特派員卓蘭環球時報特別特派員王毅】「カリフォルニア州人工知能（AI）法案はシリコンバレーの分裂を引き起こした」とフランス通信社が25日に報じた。議会は人工知能の規制を目的とした法案（「SB 1047法案」、正式名称は「フロンティア人工知能モデルセキュリティイノベーション法」）を進めている。この法案は今年2月にカリフォルニア州議会に提出され、大きな論争を巻き起こした。 8月19日、カリフォルニア州議会は法案の修正版を発表した。この法案は、「人工知能のゴッドファーザー」として知られるジェフリー・ヒントン氏とジョシュア・ベンジオ氏によって支持されたが、楊立坤氏や李飛飛氏などの科学者や大手人工知能企業も反対した。

8月20日、サンフランシスコにあるアマゾンの人工知能研究所の前をロボットが闊歩した。 (ビジュアルチャイナ)

リスクを回避しながらイノベーションを推進したい

米メディアによると、SB1047法案は、大規模な人工知能モデルの安全な開発を確保するため、トレーニング費用が1億ドルを超える、または一定の計算能力に達する開発者に対する安全基準を確立することを目的としている。この法案は、大規模で最先端の人工知能モデルの開発者に対し、導入前テスト、ハッキング攻撃の模擬、サイバーセキュリティ保護措置の設置、内部告発者保護の提供などの予防措置を講じることを義務付けている。

SB 1047法案の提案者である米国民主党のスコット・ウィーナー上院議員は、「議会が人工知能の規制に行き詰まりを迎えているため、カリフォルニア州は急速に発展する人工知能が予見可能なリスクをもたらす前に行動を起こさなければならない。イノベーションを促進するためにも行動を起こさなければならない」と述べた。ウィーナー氏は、人工知能の安全性とイノベーションは相反するものではないと信じており、法案の改訂版はこれまでの一部の批判者の懸念に対処している。

米『ビジネス・インサイダー』の25日の報道によると、8月19日に発表された改訂版にはいくつかの修正が含まれているという。まず、害を及ぼさない、または差し迫った危険をもたらす犯罪に対する民事罰の範囲を制限しています。法案の一部の重要な文言も緩和された。この法案の共同提案者である人工知能安全活動基金センターの上級政策顧問カルビン氏は、これは「法案の焦点がリスクのテストと軽減にあることを明確にするのに役立つ」と述べた。第二に、この法案はフロンティアモデル部門の創設をもはや要求しないが、依然としてフロンティアモデル評議会を設立し、それを既存の政府運営機関内に置くことになる。更新された法案では偽証罪の罰則も削除され、これにより関連企業の刑事責任が免除され、民事責任のみが規定される。

一部の著名人が支持を表明

カリフォルニア州の人工知能新興企業であるアンスロピックは、当初の法案の発表後に一連の変更を提案し、1か月後には「慎重な承認」を表明した。 アンスロピックのダリオ・アモデイ最高経営責任者（CEO）はカリフォルニア州知事ギャビン・ニューサムに宛てた書簡の中で、現時点ではこの法案には「欠陥よりも利点の方が多い」と述べた。しかし同氏は、「それについては確信が持てず、この法案にはまだ懸念している、あるいは曖昧な点がある」とも付け加えた。

しかし、この法案は依然として人工知能業界の多くの著名人の支持を得ています。例としては、モントリオール大学のジョシュア・ベンジオ教授やコンピューター科学者のジェフリー・ヒントンなどが挙げられます。ヒントン氏はフォーチュン誌の論説で、「強力な人工知能には信じられないほどの期待があるが、リスクも非常に現実的であり、非常に真剣に受け止めるべきだ。SB 1047はこれらの懸念のバランスをとるために非常に賢明なアプローチをとっている。」と書いた。

米国人工知能安全センターの創設者ダン・ヘンドリック氏はニューヨーク・タイムズ紙のインタビューで、この法案は大手テクノロジー企業に高価な技術に含まれる危険性を特定し排除するよう促すものだと述べた。

相手「利益よりも害のほうが大きい」

テクノロジーコミュニティの人々は、新しいAIモデルのリスクを抑制する必要性についてはおおむね同意しているが、批評家らは、ウィーナー氏の提案は新興企業を抑制し、米国のライバル企業に利益をもたらし、AI分野におけるカリフォルニア州の地位を弱めることになると主張している。

スタンフォード大学のコンピューターサイエンス教授であるフェイフェイ・リー氏は、この法案に反対している著名な学者の一人で、SB 1047法案は解決したい問題を解決しておらず、人工知能の学者に深刻なダメージを与えるだろうと述べた。開発者が過度の責任を負うことになり、イノベーションが制限されるためです。さらに、この法案では、一定の閾値を超えるすべてのモデルに「キルスイッチ」（いつでもプログラムをシャットダウンできるメカニズム）を設けることが義務付けられており、開発者はコードを書いて共同研究することや、公共部門や学術研究がより躊躇することになる。連携不足等により弱体化します。同氏はまた、最も懸念されるのは、この法案が偏見やディープフェイクを含む人工知能の開発の潜在的な害に対処していないことだと述べた。

アメリカの人工知能企業であるオープンAIも、この法案への反対を公に表明しており、同社の最高戦略責任者であるジェイソン・クアン氏は、この法案は「人工知能の世界的リーダーとしてのカリフォルニア州の独自の地位」を脅かすものであるとウェイナー氏への書簡で述べた。同氏は、これにより「イノベーションのペースが鈍化し、世界クラスの技術者や起業家が州を離れて他の場所に機会を求めてしまう可能性がある」と付け加えた。別のテクノロジー企業メタは、この法案は「オープンソースの人工知能モデルのリリースを妨げる」と主張した。

米国の民主党議員を含む批評家は、新興分野の開発者に対する懲罰的措置をちらつかせるとイノベーションを抑制する可能性があると考えている。ペロシ前下院議長も１６日、法案に反対する声明を発表した。同氏は声明で、「議会の多くは、SB1047は善意ではあるが間違っていると信じている」とし、民主党幹部らがワイナー氏と懸念を共有していると述べ、「カリフォルニア州が引き続き消費者、データ、知的財産を保護することを期待している」と述べた。人工知能の開発をリードする他の側面もあるが、SB 1047法案は利益よりも害の方が大きい。」

カリフォルニア州の議員らは、あまり物議を醸さない人工知能法案にニューサム知事に署名してもらいたいと考え、SB 1047に大幅な変更を加えたが、シリコンバレーで最も重要な人工知能研究所に法案を可決する価値があると説得することはできなかった。 SB 1047は現在カリフォルニア州議会で最終投票を行っており、今月末までにニューサム氏の机上に載る可能性がある。ニューサム氏はまだこの法案に関する見解を表明していないが、同氏の決定はシリコンバレーと米国のテクノロジーコミュニティから広く注目されている。