ニュース

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

賢いもの
著者 チェン・ジュンダ
編集パンケン

Zhidongxi は 8 月 16 日、物議を醸しているカリフォルニア州の「フロンティア AI モデル安全イノベ​​ーション法」（後にカリフォルニア AI 安全法として知られる）がたった今、2016 年 8 月 16 日に発表されたと報じた。著しく弱体化したその後、カリフォルニア州下院歳出委員会の審査を無事通過した。国家レベルでの法的困難を規制するジレンマの中で、これは米国にとって AI 規制における重要な一歩となったが、テクノロジー業界の一部の人々はこれを信じている。それは最終的にはカリフォルニア、さらにはAI分野における米国の主導的な地位にまで損害を与えることになるだろう。

修正案の最大の修正点は、もう許可されていませんカリフォルニア州司法長官は、大惨事が起こる前に安全性の問題を無視したとしてAI企業を訴えた。原案では、AI企業が日常業務で違法行為を行っていることを監査人が発見する限り、企業は訴追される可能性があると規定されている。これは法案のマークです規制の焦点は実害に移る、また企業に対するコンプライアンスのプレッシャーを軽減します。

米国のテクノロジー企業や AI スタートアップ企業のほとんどはカリフォルニアで事業を展開しています。法の対象となります。具体的には、この法案は主に「最先端のAIモデル「モデルのトレーニングにかかる​​計算能力コストが 1 億米ドルを超える開発者のみが規制要件に直面することになります。既存のモデルは監督の対象外です。将来的には」ラマ 4 と GPT-5 が主な規制対象となる可能性があります。

国内企業向け, オープンソースベースでファインチューニングなどを行うだけでは監督対象外となる可能性が高いです。しかし、この法案はクラウドサービスプロバイダーに顧客情報、IPアドレス、支払い方法などの情報を収集することを義務付けており、これにより規制当局のトレーサビリティー作業が容易になる。さらに管理が強化されると、次のような事態になる可能性があります。海外のコンピューティング能力をトレーニングに使用する一部の中国 AI 企業が直面する規制リスク。

監督範囲内の企業は、積極的な対策を講じるモデルの悪用を避けるには、次のことも必要です。緊急停止モデル能力。さらに、セキュリティ慣行の概要を説明する公式声明を提出する必要があります。この法案は「年次検査」システムでは、開発者はコンプライアンスを毎年評価するために独立した監査人を雇用する必要があります。

違法行為が発生すると、企業は次のような問題に直面する可能性があります。1,000万米ドルから3,000万米ドルの範囲モデルのトレーニングのコストが増加するにつれて、この金額も増加します。

AI界は2つの陣営に分かれ、激しい議論が交わされた。

2018年チューリング賞受賞者ジェフリー・ヒントン（ジェフリー・ヒントン）とジョシュア・ベンジオ(Yoshua Bengio) は支持を表明し、カリフォルニア州 AI 安全法は AI テクノロジーの効果的な規制であると信じています。最小要件”。

数百人の起業家が署名インキュベーターYCカリフォルニア州の100人以上の学者も反対の書簡を書いた。ベンチャーキャピタル機関 a16z同法の6つの犯罪を詳しく説明するウェブサイトを作成せよ、スタンフォード大学教授リー・フェイフェイ特別に非難するためにツイートされたが、要点は、この法案がカリフォルニア州のAI投資と開発を妨げるということだ。オープンソースのエコシステムに重大な損害を与える、AIによってもたらされる実質的なリスクには対処していません。

しかし、カリフォルニアAI規制法案の起草者であるカリフォルニア州上院議員スコット・ウィーナー氏は、a16zとYCは、この法案に対する一部の批判に反論した。事実を意図的に歪曲する、この法案は既存の法的枠組み内での最適化であり、監督の適切性を改善し、多数の開発者を投獄することはなく、イノベーションとオープンソースAIに害を及ぼすことはありません。

Zhixixi は大量の情報を収集し、この法案の具体的な内容と関連する議論を次の 5 つの質問と回答にまとめました。

1. 適用範囲はどこまでですか?既存機種のほとんどは対象外、Llama 4やGPT-5も監視範囲に含まれる可能性あり

効果的な監督を実現するために、この法案は当初、関連規制を実施するための「フロンティアモデル部門（FMD）」を創設することを計画していた。本日の改訂により、この部門はカリフォルニア州政府機関内の 9 人の委員からなる委員会に変わります。委員会には AI 業界、オープンソース コミュニティ、学界の代表が含まれ、カリフォルニア州知事と議会によって任命されます。 Frontier Models Council は引き続き、対象モデルの計算しきい値を設定し、安全性に関するガイダンスを発行し、監査人向けの規制を発行します。

カリフォルニアは、米国、さらには世界の AI 開発の中心地の 1 つとして、多くの AI 企業を惹きつけています。2024 年のフォーブス誌の上位 50 社の AI 企業のうち 30 社以上がカリフォルニアで事業を展開しています。この法案によれば、それらはすべてカリフォルニア州 AI 安全法の関連規定に準拠する必要があります。ただし、この法律の実際の適用範囲は、モデルの機能によって大幅に制限されます。おそらく、今後数年間でこの法案によって規制されるのは、大規模モデル分野の主要企業だけになるでしょう。

▲カリフォルニア州AI規制法案の一部スクリーンショット（出典：カリフォルニア州上院公式ウェブサイト）

この法案では、モデルの学習に使用される計算能力と計算能力コストに基づいて、モデルを規制範囲に含めるべきかどうかを評価します。つまり、「」に分類されます。対象モデル関連する規制は次の 2 点に要約されます。

1. 2027 年 1 月 1 日までに使用する10^26およびより多くの整数または浮動小数点演算 (コンピューティング能力の平均市場価格に基づいて 1 億ドル) または3*10^25範囲内モデルを計算能力で微調整した後に得られたモデルが範囲内モデルとしてリストされます。

2. 2027 年 1 月 1 日以降、上記の基準はカリフォルニア州によって施行されます。最先端モデルレギュレーター評価を行います。部門が計算能力のしきい値を変更した場合は、新しい標準が優先されますが、部門が変更が必要ないと判断した場合は、元の標準が引き続き使用されます。さらに、2026 年以降、当初の基準の 1 億ドルは、インフレを考慮して適宜調整してください。

では、現在発売されているモデルのうちどのモデルがこの範囲に含まれるのでしょうか？モデルのトレーニングに使用される計算能力を計算するには、多くの方法があります。OpenAI は、論文で次のように概算しました。

フロップス=6ND

(N はパラメータの数、D はトークンの数です)

この計算方法とオープンソース モデル データを使用すると、モデルが現在使用しているコンピューティング能力のレベルを大まかに推定できます。

ラマ3 70B

700 億のパラメーターがあり、トレーニング中に 15T トークンのトレーニング データを使用するため、使用される計算能力はおよそ次のとおりです。

6*70B*15T=6.3*10^24フロップス

ラマ 3.1 405B

4,050 億のパラメーターがあり、トレーニング中に 15.6T トークンのトレーニング データを使用するため、使用される計算能力はおよそ次のとおりです。

6*405B*15.6T=3.79*10^25 フロップス

▲Llama 3.1 405B関連情報（出典：Hugging Face）

この計算方法は比較的大まかであり、実際の状況とは大きく異なる可能性がありますが、参考としての意義はあります。この結果によれば、オープンソース モデルの王様である Llama 3.1 405B は、現時点では法案の範囲内のモデルとしてリストされません。、モデルは、Llama 3.1 405B の 2.6 倍のコンピューティング能力を完全に使用する場合にのみ、範囲内のモデルとしてリストされます。

このデータは、この法案の起草者であるカリフォルニア州上院議員ウィリアム・ウィルソン氏の、この法案に関する論争に対する公開書簡の声明によっても裏付けられる。彼は書簡の中でこう書いている。10^26 FLOP の計算能力のしきい値に達したモデルはありません”。

将来長い間、大多数の中小規模のモデル開発会社や独立系開発会社はこの法案の監督を心配する必要はないかもしれない。この法案の計算能力のしきい値と資本のしきい値によると、その主な規制対象は次のとおりです。OpenAI、Meta、GoogleこのようなAI分野の主要プレーヤーと多額の投資を受けている有力なスタートアップ。

OpenAI CEO の Sam Altman 氏の公式声明によると、GPT-4 のトレーニング費用は約 1 億米ドルですが、この費用にコンピューティング能力以外の投資が含まれているかどうかは不明です。 GPT-5 またはその他の後続の OpenAI モデルがリリースされた場合、この法律によって規制される可能性があります。 Meta CEO の Mark Zuckerburg 氏は、Llama 4 には Llama 3.1 の約 10 倍の計算能力が必要になると見積もっています。Llama 4 は、将来レンジ モデルとしてリストされる数少ないオープン ソース モデルの 1 つとなるはずです。

2. 企業の責任は何ですか?開発者は「年次検査」を実施し、悪用を積極的に防止し、「キルスイッチ」を装備する必要がある

この法律の関連規定によると、レンジモデルの開発者主に以下の業務を担当していただきます。

1. 実装経営、テクノロジー、物理学開発者によって制御される範囲内モデルおよび範囲内モデルの派生を防止する 3 つの側面からのセキュリティ保護不正アクセス、悪用、またはトレーニング後の変更。

2、タイムリーにモデルを完全にシャットダウンする機能を実現します。

3. 当初の法案では、モデル開発者は、安全性を確保するために独立したセキュリティ契約に署名する必要があると規定されています。重大な危害（サイバー攻撃による5億ドル以上の損失、死亡や重傷など）を引き起こすリスクのあるモデルや派生製品は開発しません。契約書に虚偽の記載があった場合には偽証罪に処せられます。

修正法案これにより、この契約の法的有効性が大幅に弱まります。現在、モデル開発者はセキュリティ慣行の概要を説明する公開声明を提出するだけで済みます。ただし、この規定は刑事責任を課すものではなくなり、関連団体は壊滅的な危害が発生した場合にのみ起訴されます。

4. 範囲内のモデルおよびその派生品が重大な傷害を引き起こす、または助長する可能性がある場合、開発者はそれを自ら商業的または公共的な目的で使用してはならず、また商業的または公共的な目的で他者に提供することはできません。

5. 2028 年 1 月 1 日以降、対象範囲内のモデルの開発者は、次のことを行う必要があります。毎年1人の第三者監査人を雇用する、開発者の法の要件への準拠状況を詳細かつ客観的に評価し、違反について報告し、修正の提案を行うため。

6、改訂された法案では、オープンソース モデルを微調整するための保護が追加されています。この法案では、開発者が範囲内のモデルの微調整に資金を費やした場合、1,000万米ドル未満の場合、微調整モデルの開発者としては認められず、責任は依然として元のモデルの開発者が負うことになります。

さらに、この法案では、Amazon Cloud Services (AWS) や Microsoft Azure などのクラウド サービスを利用できるようにすることを規定しています。クラウドサービスプロバイダーの義務。対象範囲内でモデルをトレーニングするのに十分なコンピューティング能力を顧客に提供する場合、クラウド サービス プロバイダーは次の準備を整える必要があります。

1. 顧客の基本的な身元情報とビジネス目的を取得します。顧客の身元、IP アドレス、支払い方法およびソース等関連するコンプライアンス業務は痕跡を残し、記録は 7 年間保存する必要があります。

2. お客様が実際にコンピューティング能力を使用して対象範囲内のモデルをトレーニングする計画があるかどうかを評価します。

3、モデルのトレーニングまたは操作時にユーザーが使用するコンピューティング リソースをシャットダウンする機能。

対象モデルの開発者とクラウド サービス プロバイダーは、以下も提供する必要があります。透明で統一された公開価格表そして、価格設定とアクセスのプロセス中に次のことを確認してください。差別や反競争的行為の禁止。しかし公共団体、学術機関、非営利研究者無料または割引された使用権を享受できます。一部のクラウドサービスプロバイダーは、特定のAI開発企業を誘致したり支援したりするために価格割引を利用するが、この法案が正式に発効した後はこうした行為が避けられなくなる可能性がある。

この法案では、開発者がモデル内でセキュリティインシデントが発生したことを知った場合、関連するインシデントは 72 時間以内に規制当局に報告する必要があります。さらに、開発者は、モデルまたはその派生モデルが商用または公共の目的で使用されていることを確認する必要もあります。30日以内、このモデルの適合宣言を提出してください。また、不正行為を報告した方は、「内部告発者」は法律で保護される、企業または組織は、不正行為を暴露した従業員を防止したり報復したりすることはできません。

3. 違法行為をどのように処罰するか? 1,000万米ドル以上の罰金はモデルの閉鎖または削除につながる可能性があります

モデル開発者とコンピューティングクラスター運営者が上記の規制を遵守せず、多大な損害を引き起こした場合、カリフォルニア州司法長官と労働委員会は関連団体を訴追する権限を有することになる。違法行為があったと判断された場合、裁判所は以下の罰則を課す場合があります。

1. 2026 年以降の違反については、初めて法律に違反した企業には、クラウド コンピューティング市場のトレーニング範囲内のモデルの平均コストの 10% 以内の罰金が科せられますが、それ以降の違反については、罰金の額は課されません。このコストの 30% を超える場合 (対象範囲内のモデルの請求書に定義されている 1 億ドルのしきい値の計算に基づく)初犯の罰金は少なくとも1000万ドル）。

2. 裁判所はまた、差止命令を宣言することもできる。スコープ内のモデルとその開発者によって制御されるすべての派生ファイルの変更、完全な終了、または削除が含まれますが、これらに限定されません。

ただし、スコープ内のモデルの変更、終了、削除に対するペナルティは、それらが原因で問題が発生した場合にのみ適用されます。他人の死亡、重大な人身傷害、物的損害、または公共の安全に対する重大な脅威の場合にのみ使用できます。

4. 誰がその法案に反対しますか? a16zとYCが宣伝攻勢を主導し、Li FeifeiとYang Likunが質問をツイートした

シリコンバレーのテクノロジー大手、多数の新興企業、投資機関は、カリフォルニア州のAI安全法案に強い疑問と不満を表明している。最も大きな声を上げている企業の 1 つが、シリコンバレーの有名なベンチャーキャピタル会社である a16z です。a16z は、OpenAI や Mistral AI などの成熟した大手 AI 企業だけでなく、スタンフォード大学のリー・フェイフェイ教授が新たに設立した World Labs などの新星企業も含め、AI 分野で豊富な投資ポートフォリオを持っています。これらの企業は規模も融資額も大きく、彼らが開発し、微調整したモデルは規制の対象となる可能性があります。

▲a16z の反論の一部 (出典: stopb1047.com)

a16z は率先してウェブサイトの構築に費用を支払い、ウェブサイト上で編集するだけで直接送信できる異議申し立てレターのテンプレートを訪問者に提供しました。 a16z は、カリフォルニア州 AI 安全法に関する見解として、この Web サイトに「6 つの罪」も列挙しています。

1. この法案は、カリフォルニア州における AI への投資と開発に萎縮効果をもたらすでしょう。

2. この法案は、不明確な結果に基づいて開発者/開発者に罰則を課します。関連するテストはまだ存在しません。

3. この法案の曖昧な定義と厳格な法的責任は、AI開発者と事業主に多大な不確実性と経済的リスクをもたらしています。

4. この法案は、AI 研究を地下で強制し、AI システムのセキュリティを不用意に低下させる可能性があります。

5. この法案は、カリフォルニア州のイノベーションと中小企業の中心であるオープンソース開発者とスタートアップ開発者に体系的な不利益をもたらします。

6. この法案は、米国における AI 研究とイノベーションを阻害し、中国などの国々が AI において米国を超える機会を提供します。

a16zが投資した多くの企業の創設者らも、カリフォルニア州AI安全法への反対を表明した。リー・フェイフェイ氏は、この法案には主に4つの問題があると考え、反対の理由を詳しく説明する記事をフォーチュン誌のウェブサイトに掲載した。

1. 開発者を過度に罰すると、イノベーションが抑制される可能性があります。

2. 「キルスイッチ」はオープンソース開発作業を制限し、オープンソースコミュニティを破壊します。

3. 学術界や公的部門における AI 研究を弱体化させ、学者がより多くの資金を受けられなくなる可能性もあります。

4. バイアスやディープフェイクなど、AI の進歩によって引き起こされる潜在的な害には対処していません。

▲李飛飛氏、カリフォルニア州AI安全法案に反対（出典：Xプラットフォーム）

しかし、コメント欄の多くのネチズンはこの声明を受け入れず、リー・フェイフェイにa16zとの利害関係を明らかにするよう求めた。

▲一部のネチズンは李飛飛氏の中立性に疑問を呈した（出典：X Platform）

米国で最も有名で影響力のあるインキュベーターである YC は、多くの AI スタートアップの発祥地です。現在の主な営業拠点はカリフォルニアです。2024 YC 冬期バッチのスタートアップ 260 社のうち、半数以上が AI 関連です。 YC はまた、この法案が業界と開発者のエコシステムに悪影響を与える可能性があると考えています。

1、この法案は開発者ではなく、ツールの乱用者を罰すべきだ。開発者がモデルの可能な用途を予測することは多くの場合困難であり、開発者は偽証罪により刑務所に送られる可能性があります。

2. 規制の基準値では、技術開発のダイナミクスを完全に把握することはできません。カリフォルニア州以外の企業もより自由にAI技術を開発できるようになり、カリフォルニア州のイノベーションに影響を与える可能性がある。

3. 「キルスイッチ（モデルをオフにする開発者の能力を指す）」は、オープンソース AI の開発を禁止し、オープンソースのコラボレーションと透明性を阻害する可能性があります。

4. 法案の表現は比較的曖昧である。裁判官の意のままに解釈される可能性が高い。。

YC の声明は、数百のスタートアップ企業から共同の支持を得ました。 YC はまた、カリフォルニアで AI 規制に関連する会議を多数開催し、賛否両論の意見交換を可能にしました。

メタ社の主任科学者であり、2018 年チューリング賞を受賞したヤン・ルカン氏もこの法案に反対し、特に懸念していました。連帯責任条項。同氏は、対象となるモデルのリスクを正確に評価できなかった場合、オープンソースプラットフォームが責任を問われる可能性があると懸念している。

現在、オープンソース AI モデルの分野で最も重要なプレーヤーである Meta Corporation は、モデルのセキュリティを確保するための要件が​​現実的ではないため、この法案はオープンソース開発者にオープンソースの際に多大な法的リスクを強いることになると反対書簡に書いています。 。彼らはカリフォルニア州の議員に対し、他の国や地域の関連法を参照するよう推奨している。EU AI法における透明性や「レッドチームテスト」の要件など。 Microsoft、Google、OpenAIもこの法案に対して否定的なコメントを出した。

ユニークな「Bコーポレーション」体制を持つAIスタートアップのAnthropic社は、この法案に反対する多くの声の一つであるが、他の企業とは異なり、法案の可決を阻止しようとはせず、法案の修正に参加している。 、議会は改善のための提案を詳述した手紙を書きました。全体として、Anthropic は次のように考えています。この法案は「危害を及ぼす前の強制」から「結果に基づく抑止」に移行すべきである。また、規制をより厳しくし、最先端の AI の安全性に重点を置き、連邦要件との重複を避けることも望んでいます。

5. この法案を支持するのは誰ですか?ヒントン・ベンジオ氏が支持の手紙を書き、上院議員がa16zが噂を広めたと非難

カリフォルニア州 AI 安全法案は提案されるや否や論争に直面しましたが、多くの学者や業界関係者がそのような規制を支持しています。 8 月 7 日、この法案が再び批判の波にさらされていたとき、チューリング賞受賞者であり「AI のゴッドファーザー」と呼ばれる人物が、ジェフリー・ヒントン(ジェフリー・ヒントン)、著名な AI 学者、チューリング賞受賞者ジョシュア・ベンジオ(ヨシュア・ベンジオ)、サイバースペース法の専門家、ハーバード大学ロースクール教授ローレンス・レッシグ（ローレンス・レッシグ）人気の AI 教科書「Artificial Intelligence: A Modern Approach」の著者であり、カリフォルニア大学バークレー校の教授スチュアート・ラッセル（スチュアート・ラッセル）はカリフォルニア州議会に連名で書簡を送り、カリフォルニア州AI安全法への「強い支持」を表明した。

▲4人の著名な学者がカリフォルニアAI安全法を支持する書簡を書いた（出典：safesecureai）

4人の学者は、AIのリスクを深く懸念しており、カリフォルニア州のAI安全法はこの技術を効果的に規制するための最低要件であると述べ、次のように書いている。

この法案にはライセンス制度がなく、企業はモデルのトレーニングや導入前に政府機関から許可を得る必要がない。これは企業のリスク自己評価に依存しており、災害が発生した場合でも企業に厳格な責任を負わせるものではありません。

私たちが直面するリスクと比較して、これは非常に緩い法律です。 AI を管理する現在の法律はサンドイッチ店を規制する法律ほど厳格ではないため、この根本的な措置を削除することは非常に困難です。歴史的な間違い——1年後、より強力な次世代のAIシステムがリリースされると、この間違いはさらに明らかになるでしょう。

彼らはまた次のように強調した。これらのリスクが根拠のないものであるか、現実のものであるかにかかわらず、、すべての関係者はリスクを軽減する責任を負わなければなりません。 「これらのシステムを最もよく知っている専門家のグループとして」、彼らは、これらのリスクは可能性があり、十分に重大であるため、対処する必要があると信じています。安全性テストと常識的な予防措置。

専門家４人もボーイング社の最近の安全性スキャンダルに言及した。彼らは、航空機、医療、その他の複雑な技術は非常に安全で信頼できるものになっており、それは産業界と政府の共同努力の結果であると信じています。規制当局がルールを緩和し、自主規制を認める場合、ボーイングのような問題が発生し、それは国民と業界にとって非常に恐ろしいことです。

この応援文は多くのネチズンから支持されたが、ヒントンとベンジオはもう第一線の仕事には携わっていないと考える人もいた。したがって、彼らは関連する問題について発言権を持ちません。

OpenAIの元従業員数人もこの法案を支持しており、その中には同社を自由に批判する権利と引き換えにOpenAIのオプションを自発的に放棄したダニエル・ココタジロも含まれる。同氏は、AIの進歩が停滞するという法案批判者の主張はおそらく起こらないと信じている。

▲Kokotayolo氏の関連発言（出典：Xプラットフォーム）

数百億ドルの価値があるAI生産性ツールのユニコーンであるNotionの創設者であるサイモン・ラスト氏は、業界カリフォルニア州の AI 安全法案を支持する数名。同氏は、カリフォルニア州で最も影響力のある地元メディアの一つであるロサンゼルス・タイムズに法案を支持する記事を書き、連邦AI法施行の困難に直面して次のように述べた。カリフォルニアは米国、さらには世界のテクノロジーセンターとして重要な責任を負っています。。同氏は、モデルを監視することでセキュリティが向上するだけでなく、基本モデルに基づいて製品を構築する AI スタートアップも促進すると考えています。中小企業の負担も軽減されます。

さらに同氏は、「規制は基盤となるテクノロジーではなく、AIの有害な使用やユーザーの不適切な行動に焦点を当てるべきだ」と強調するのは間違いだとも考えている。前者はあらゆるレベルの法律で違法であると分類されているため、カリフォルニア州の新しい法案では次の目的が定められています。以前の規制に欠けていた点: 潜在的な危害を防ぎます。

YCとa16zが宣伝キャンペーンを開始した後、カリフォルニア州AI安全法案の筆頭著者であるカリフォルニア州上院議員魏シャンガオ氏は、関連する苦情に応えて長い書簡を発行し、これら2つの組織がカリフォルニア州AI安全法案について行った声明の多くは、 AI安全法案は不正確であり、一部の主張は「事実の挑発的な歪曲」であり、例えば、この法案はモデルのリスクを正確に見積もることができない開発者を投獄するか、オープンソースのリリースを禁止することになるなどである。

▲ YCとa16zに対する魏シャンガオの反応（出典：safesecureai）

2023年初めに魏シャンガオ氏はYCと連絡を取り始めたが、法案の改善方法についてYCから詳細なフィードバックはまだ受け取っていないと述べた。 a16zは立法プロセスの後半から参加しており、これまでのところ実質的な修正を提案していない。

この書簡の中で、魏上高氏は法案反対派のいくつかの核心的な懸念に答えた。

1、開発者は、モデルのリスクを予測できなかったからといって刑務所に行くことはありません。まず、スタートアップの開発者や学者は、この法案は適用されないので心配する必要はありません。第二に、法案の偽証条項は開発者にのみ適用されます。"故意に"これは虚偽の陳述が行われた場合にのみ有効であり、モデルの機能に関する意図しない誤った判断によって偽証条項が適用されることはありません（偽証条項は今日の改正から削除されました）。

2、この法案は全く新しい責任を生み出すものではありません。現行法の下では、モデルが危害を引き起こした場合、モデル開発者と個人開発者の両方が告訴される可能性があり、これはあらゆる能力のモデルに適用され、被害を受けたすべての個人が訴訟を起こすことができます。カリフォルニア州の新法案はそれだけではない監督範囲を限定する、また、訴訟を起こす権利も制限されます。カリフォルニア州司法長官そして労働審議会両方のエンティティで。

3、この法案はカリフォルニアのイノベーションを抑制するものではありません。この法案は、カリフォルニア州で事業を行うすべての企業に適用され、たとえ本社をカリフォルニア州外に移転する場合でも、関連する規制を遵守する必要があります (Zhixi 注: カリフォルニア州は GDP ベースで世界第 5 位の経済大国であり、完全なテクノロジー エコシステムを備えています。カリフォルニアから切り離すのは難しい）。カリフォルニア州がデータプライバシー法と環境保護法を可決したとき、多くの人がこれがイノベーションを妨げると主張しましたが、実際にはカリフォルニア州は依然としてイノベーションをリードしています。

4、キル スイッチとセキュリティ評価要件は、オープンソース AI の開発を妨げることはありません。この法案は修正され、オープンソース AI の保護が強化されました。法案におけるモデルの緊急シャットダウンの要件は、管理されていないオープンソース モデルを除き、開発者の管理下にあるモデルにのみ適用されます。この法案はまた、安全で信頼性の高いオープンソース AI 開発の取り組みを提唱し、支援するための新しい諮問委員会を設立します。

魏上高氏はまた、この法案を懸念する人々に向けて、法案の6つの要点をまとめた「怠惰なパッケージ」も提供した（下の写真を参照）。
▲法案のポイント（出典：safesecureai）

結論：カリフォルニア州は重要な一歩を踏み出したが、法案の将来は不透明

カリフォルニア州AI安全法案は多くの業界関係者が反対しているが、一部の世論調査機関の結果によると、カリフォルニア州住民は概してこの法案に対して前向きな姿勢を示している。

それが正式に成功すると、a16zのような断固たる反対派から法廷で異議を申し立てられる可能性がある。そうすれば、連邦最高裁判所の判決が出るまで法案は保留されることになる。

最近、米国最高裁判所は、40年近く続いて規制当局の声を支持してきた「シェブロン主義」を覆しました。この原則は、法的規定が不明確な場合には、裁判官に法的規定の政府規制当局の解釈を委ねることを義務付けている。この原則の廃止は、テクノロジー規制全般に対する米国最高裁判所の現在の保守的な姿勢を反映しています。