ニュース

マシンハートレポート

編集者：張騫

当初の意図は良いものですが、そのアプローチにはまだ疑問の余地があります。

ちょうど今、半年以上議論されてきたsb 1047がついに終結を迎えた。カリフォルニア州知事ギャビン・ニューサムがこの法案に拒否権を発動した。

sb 1047 の正式名称は「フロンティア人工知能のための安全かつ安全なイノベーション法」であり、高リスク ai モデルの悪用やその結果としての大惨事の発生を防ぐための明確なセキュリティ基準を確立することを目的としています。

具体的には、この法案は人工知能をモデルレベルで規制することを目指しており、一定の計算量およびコストのしきい値を超えてトレーニングされたモデルに適用されます。しかし、規定の計算とコストの閾値に従って厳密に計算すると、市場で主流の大型モデルはすべて「潜在的に危険」とみなされることになる。さらに、この法案は、モデルの背後にある開発会社に、モデルの下流での使用または変更に対する法的責任を負うことを義務付けており、これはオープンソース モデルのリリースに「萎縮効果」をもたらすと考えられています。

法案のリンク: https://leginfo.legislature.ca.gov/faces/billtextclient.xhtml?bill_id=202320240sb1047

この法案は今年2月に成立した上院が提案され、それ以来物議を醸している。リー・フェイフェイ、ヤン・ルクン、アンドリュー・ン全員が反対している。少し前に、李飛飛氏は個人的に、この法案がもたらす可能性のある多くの悪影響について説明する記事を書きました。カリフォルニア大学の数十人の教師と学生も、この法案に反対する共同書簡に署名した（「李飛飛氏が個人的に記事を書き、数十人の科学者がカリフォルニア州のai制限法案に反対する共同書簡に署名」を参照）。しかし、マスク氏、ヒントン氏、ベンジオ氏など、この法案を支持する人も多い。この法案がカリフォルニア州知事に提出される前に、双方の間で多くの激しい議論があった。

これで、すべてが解決しました。ニューサム知事は拒否権を発動した声明の中で、この法案が与える影響など、自身の決定に影響を与えた複数の要因を挙げた。ai企業の負担、この分野におけるカリフォルニア州のリーダーシップ、そして法案が広すぎるのではないかという批判。

このニュースの発表後、yann lecun 氏はオープンソース コミュニティを代表してカリフォルニア州知事に感謝の意を表しました。

ン氏は、この法案の欠点を国民に説明しようとするヤン・ルクン氏の努力を肯定した。

しかし、満足している人もいるし、心配している人もいる――法案の提案者であるカリフォルニア州上院議員スコット・ウィーナー氏は、この結果には非常に失望していると述べた。同氏は投稿の中で、この拒否権発動は「公共の安全と福祉、そして『地球の未来』に影響を与える重要な決定を下している大企業の監督を信じている人にとっては挫折だ」と書いた。

ニューサム知事が声明で述べたように、sb 1047の拒否はカリフォルニア州がaiの安全性問題に目をつぶっていることを意味するものではないことに留意すべきである。同時に同氏は、カリフォルニア州が生成型人工知能の導入に向けた責任ある保護措置を策定できるよう、李飛飛氏らが支援することも発表した。

カリフォルニア州知事「sb 1047には多くの問題がある」

sb 1047 に関しては、カリフォルニア州知事ニューサムが最終決定権を持っています。なぜ彼はその法案に拒否権を発動するのでしょうか？ある声明が答えを示した。

声明リンク: https://www.gov.ca.gov/wp-content/uploads/2024/09/sb-1047-veto-message.pdf

声明の抜粋は次のとおりです。

カリフォルニアには、世界の大手アルミニウム企業 50 社のうち 32 社が本拠地を構えており、現代史における重要な技術進歩の先駆者となっています。当社は、研究教育機関、多様で意欲的な従業員、そして自由な発想を育む自由な精神により、この分野のリーダーです。私は将来の経営者およびイノベーターとして、この業界を真剣に規制する責任があると考えています。

sb 1047 は、al の配備によってもたらされる可能性のある脅威についての議論を誇張しています。議論の鍵となるのは、規制の閾値をalモデルの開発に必要なコストと計算回数に基づくべきか、それともこれらの要素を考慮せずにシステムの実際のリスクを評価すべきかである。この世界的な議論は、アルの能力が驚くべき速度で拡大し続ける中で起こりました。同時に、壊滅的な危険のリスクに対処するための戦略とソリューションは急速に進化しています。

sb 1047 は、最も高価で最大のモデルのみに焦点を当てることで、この急速に進化するテクノロジーの管理について国民に誤った安心感を与える可能性のある規制枠組みを作成しています。小型で特殊なモデルは、sb 1047 の対象となるモデルと同じくらい、あるいはそれ以上に危険である可能性があります。

まだ初期段階にあるテクノロジーを規制するために時間との戦いをする場合、適応性は非常に重要です。これには微妙なバランスが必要です。 sb 1047 には善意がありますが、ai システムが高リスク環境に導入されているかどうか、重要な意思決定が含まれているかどうか、機密データが使用されているかどうかは考慮されていません。その代わり、この法案は、大規模システムに導入されている限り、最も基本的な機能に対しても厳しい基準を課しています。これがこのテクノロジーの実際の脅威から国民を守る最善の方法とは思えません。

国民を守るための行動を起こすには、大規模な災害が起こるまで待つことはできないという著者の意見に私も同意します。カリフォルニア州はその責任を放棄しません。セキュリティプロトコルを採用する必要があります。積極的な安全策を導入する必要があり、悪意のある行為者に対する明確かつ法的強制力のある結果がなければなりません。しかし、私が同意できないのは、公衆の安全を守るためには、ai システムと機能の実証的な軌跡分析を行わずに解決策に落ち着かなければならないということです。結局のところ、ai を効果的に規制するフレームワークはテクノロジー自体と歩調を合わせる必要があります。

私たちは問題を解決していないと言う人、あるいはカリフォルニア州にはこの技術が国家安全保障に与える潜在的な影響を規制する役割がないと言う人たちに対して、私は同意しません。特に連邦議会からの行動がない場合には、カリフォルニア州のみでこのアプローチを採用することは理にかなっているかもしれませんが、それは経験的証拠と科学に基づいていなければなりません。

国立科学技術研究所の一部である米国 ai 安全研究所は、公衆の安全に対する明らかなリスクから保護するための、証拠に基づいた方法に基づいた国家安全保障リスク ガイダンスを開発しています。

私が 2023 年 9 月に発行した大統領令に従い、私の政権内の各機関は、カリフォルニアの重要インフラにおける ai の使用に対する潜在的な脅威と脆弱性のリスク分析を実施しています。

これらは、科学と事実に基づいた ai リスク管理の実践を政策立案者に紹介するために、専門家主導で私たちが行っている取り組みのほんの一例です。

こうした取り組みを通じて、私は過去 30 日間で、ai によってもたらされる特定の既知のリスクを規制する十数の法案に署名しました。

カリフォルニア州の集中的な ai 安全イニシアチブ、30 日間で十数の法案に署名

ニューサム氏は声明の中で、30日間で十数枚の法案に署名したと述べた。これらの法案は、露骨なディープフェイク コンテンツの取り締まり、ai 生成コンテンツへの透かしの追加の義務化、出演者のデジタル肖像画の保護、亡くなった人物の声や肖像の著作権、消費者のプライバシー、消費者のプライバシーの保護など、幅広い話題を取り上げています。人工知能を教育に組み込むことの影響や他の多くの側面。

法案リストへのリンク: https://www.gov.ca.gov/2024/09/29/governor-newsom-announces-new-initiatives-to-advance-safe-and-responsible-ai-protect-californians/

sb 1047によるaiリスク評価に科学的分析が欠けていたことを受けて、知事は世界有数の生成ai専門家に対し、カリフォルニア州が生成aiを導入するための実現可能なガードレールを開発するのを支援するよう要請したと発表した。

リー・フェイフェイ氏に加えて、コンピューティング研究の社会的および倫理的影響に関する全米科学アカデミー委員会のメンバーであるティノ・クエヤル氏、およびカリフォルニア大学コンピューティング・データサイエンス・社会学部長のジェニファー・ツアー・チェイエス氏は、バークレー校もプログラムのメンバーです。

彼らの研究は、最先端のモデルとその機能、およびそれに伴うリスクの実証的で科学に基づいた軌道分析に焦点を当てています。この仕事はまだまだ先が長い。

参考資料：https://www.gov.ca.gov/2024/09/29/governor-newsom-announces-new-initiatives-to-advance-safe-and-responsible-ai-protect-californians/