ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

8月7日のTMTpost Appニュースによると、「AIのゴッドマザー」と呼ばれる全米工学アカデミーの学会員、全米医学アカデミーの学会員、アメリカ芸術科学アカデミーの学会員、スタンフォード大学の初代セコイアチェア教授、スタンフォード人間中心人工知能研究所（HAI）のフェイフェイ・リー所長は今朝、「フォーチュン」に記事を書き、カリフォルニア州での今後のAI安全法の施行は開発者、学界、さらには社会全体に悪影響を与えるだろうと指摘した。米国の AI エコシステムですが、AI の潜在的な害は解決されません。

「今日、AI はかつてないほど進歩しています。しかし、大きな力には大きな責任が伴います。政策立案者、市民社会、業界関係者は、潜在的な危害を最小限に抑え、安全で人間中心の AI 社会を形成するガバナンス アプローチを模索しています。私はこのことを称賛します。」これらの取り組みの一部は行われているが、他の取り組みについては警戒している; カリフォルニア州のフロンティア人工知能モデルのための安全なイノベーション法 (以下、SB-1047 と呼ぶ) は後者のカテゴリーに分類される。全国です」とリー・フェイフェイさんは語った。

今年7月、カリフォルニア州上院がSB-1047法案を承認したと報じられている。この法案は開発者に対し、自社のAIモデルが危害を及ぼす目的で使用されないことを証明することを義務付けている。これは提案されている600以上のAI法案を上回るものだ。今年の米国の州議会によると、注目を集めるには制限が多すぎる。この極めて有害な提案は、今年8月にカリフォルニア州知事ギャビン・ニューサムによって署名される可能性がある。

法案の定義では、メタのラマ３は訓練に１億ドル以上かかる「最先端モデル」と定義されている。また、誰かが違法な目的でモデルを使用した場合、メタは厳しく罰せられます。同時に、同法第 22603 条(a)(3)(4) では、政府機関に証明書を提出し、エラーがあった場合にモデルの運用を停止する「限定的免税」を義務付けていますが、第 22603 条(b) では、開発者は、あらゆるモデルの潜在的な AI セキュリティ インシデントを報告できます。開発者がモデルに基づいてさまざまな派生バージョンを完全に制御できない場合、セキュリティインシデントが発生した場合、責任は最初の開発者に帰属します—これは連帯責任に相当します。

さらに、法案の第 22604 条(a)(b) では、ユーザーが「最先端のモデル」とコンピューティング リソースを使用する場合、開発者は顧客の身元情報、クレジット カード番号、口座番号、アカウント番号などのすべての顧客情報を提出する必要があると規定しています。および顧客識別識別子、取引識別子、電子メール、電話番号。また、年に一度情報を提出し、利用者の行動や意向を評価する必要があります。すべてのユーザー情報は 7 年間バックアップされ、税関国境管理局にも提出されます。

アメリカのカリフォルニアの地理的位置は非常に特殊であり、スタンフォード大学、カリフォルニア工科大学、南カリフォルニア大学などの有名な学校のほか、Google、Apple、オープンAIメタ社やメタ社などのテクノロジー大手の本社もある。したがって、この点に関しては、チューリング賞受賞者でMeta社のチーフAIサイエンティストであるヤン・ルカン氏、リー・フェイフェイ氏、投資機関a16zの創設パートナーであるアンドリーセン・ホロウィッツ氏、スタンフォード大学コンピューターサイエンス学部および電気工学部客員教授アンドリュー・ン氏らと異議を表明した。

その中で、Yang Likun氏は、この法案の「連帯責任条項はオープンソースAIプラットフォームを大きなリスクにさらすことになる…メタは影響を受けないが、これらのモデルが使用されればAIスタートアップは破産するだろう」と警告した。この法案は、AI 開発者が開発したモデルに対して民事責任、さらには刑事責任を負うことを義務付けています。

ホロウィッツ氏は、カリフォルニア州の反AI法案は善意に基づいたものではあるが、テクノロジーの将来が重大な岐路に立っているときに、誤った情報によって米国のテクノロジー産業を弱体化させる可能性があると考えている。米国は指導者たちに、今がAIに対する賢明で統一された規制措置を講じる重要な時期であることを認識させる必要がある。

Andrew Ng は、カリフォルニア州 SB-1047 法案は大規模なオープンソース モデルの開発を抑制するだろうと述べた記事を発表しました。彼はさらに次のように指摘した。規制されるべきはAIアプリケーションであって、大きなモデル自体ではない。

Li Feifei 氏は、AI 政策はイノベーションを促進し、適切な制限を設定し、これらの制限の影響を軽減する必要があると考えています。これを怠った政策は、良くても目標を達成できず、最悪の場合、意図しない深刻な結果を招くことになります。 SB-1047が法律として可決されれば、米国の新興AIエコシステム、特に公共部門、学術界、「小規模テクノロジー」といった今日の巨大テクノロジー企業がすでに不利な立場にある部分に損害を与えることになる。 SB-1047 は、開発者を不必要に罰し、オープンソース コミュニティを抑圧し、学術的な AI 研究を妨げる一方で、本来解決しようとしている真の問題を解決することはできません。

リー・フェイフェイさんは次の4つの理由を挙げた。

まず、SB-1047 は開発者を不当に罰し、イノベーションを抑制することになります。 AI モデルが悪用された場合、SB-1047 は責任者とモデルの元の開発者に責任を負わせます。すべての AI 開発者 (特に新進のプログラマーや起業家) が、自分のモデルのあらゆる用途を予測することは不可能です。 SB-1047 は開発者に撤退と防御を強いることになりますが、まさに私たちが避けようとしていることです。

第二に、SB-1047 はオープンソース開発を制限します。 SB-1047 では、特定のしきい値を超えるすべてのモデルに、いつでもプログラムをシャットダウンできるメカニズムである「キル スイッチ」を組み込むことが義務付けられています。開発者は、ダウンロードして構築したプログラムが削除されるのではないかと心配すると、コーディングや共同作業にさらに消極的になります。このキルスイッチは、AI だけでなく、GPS から MRI、インターネットそのものに至るまで、無数のイノベーションの源であるオープンソース コミュニティを壊滅させることになります。

第三に、SB-1047 は公共部門と学術界における AI 研究を弱体化させるでしょう。オープンソース開発は民間部門にとって重要ですが、協力とモデルデータなしでは前進できない学術界にとっても重要です。たとえば、オープン AI モデルに取り組んでいるコンピューター サイエンスの学生を考えてみましょう。私たちの教育機関が適切なモデルやデータにアクセスできない場合、次世代の AI リーダーをどのように教育すればよいでしょうか?キルスイッチは、大手テクノロジー企業に比べてデータとコンピューティングにおいてすでに不利な立場にある学生や研究者の努力をさらに台無しにすることになる。 SB-1047は、投資を倍増させるはずの学術界や公共部門のAIに「死の鐘」を鳴らすことになる。

最も懸念されるのは、この法案がバイアスやディープフェイクなど、AI開発の潜在的な害悪に対処していないことだ。代わりに、SB-1047 は任意のしきい値を設定し、一定量のコンピューティング能力を使用するか、トレーニングに 1 億ドルかかるモデルを規制します。この措置は保護を提供するどころか、学術界を含むさまざまな分野のイノベーションを制限するだけです。

Li Feifei氏は、現在、学術界のAIモデルはこの閾値を下回っているが、米国が民間部門と公共部門のAIへの投資のバランスを再調整すれば、学術界はSB-1047によって規制され、その結果、米国のAIエコシステムは悪化するだろうと指摘した。 。したがって、米国はその逆のことをしなければならない。

「過去1年間、バイデン大統領との何度も会話の中で、私は我が国のAI教育、研究、開発を進めるための『ムーンショット精神』の必要​​性を表明してきました。しかし、SB-1047の制限はあまりにも恣意的であり、単に打撃を与えるだけでなく、カリフォルニア AI エコシステムは、国全体の AI に対して下流で憂慮すべき影響を与えるでしょう。」Li Feifei 氏は、AI ガバナンスに反対しているわけではないと指摘しました。 AI の安全かつ効果的な開発には法律が不可欠です。しかし、AI 政策はオープンソース開発を促進し、統一的かつ合理的なルールを提案し、消費者の信頼を構築する必要があります。 SB-1047 はこれらの規格を満たしていません。

リー・フェイフェイ氏は、法案の起草者であるスコット・ウィーナー上院議員に協力を提案したことを強調し、「共同でAI法を策定し、テクノロジー主導で人間中心の未来社会を真に構築しましょう」と述べた。

「実際、AI の将来は AI にかかっています。カリフォルニアは先駆者であり、我が国で最も堅牢な AI エコシステムの本拠地として、AI 運動の中心であり、カリフォルニアでの発展は全米に影響を与えるでしょう。と最後に李菲菲は言いました。